| Послушайте эту статью |
Исследователи из университета разработали подход, позволяющий сделать роботов более надежными за счет адаптации к различным уровням уязвимости. | Источник: AdobeStock.
Исследователи из Университета Рочестера, Технологического института Джорджии и Шэньчжэньского института искусственного интеллекта и робототехники для общества предложили новый подход к защите робототехники от уязвимостей при сохранении низкого уровня накладных расходов.
Ожидается, что к 2025 году на дорогах появятся миллионы беспилотных автомобилей, а годовой объем продаж автономных дронов в настоящее время составляет миллиарды долларов. В этом контексте безопасность и надежность являются важными факторами для потребителей, производителей и регулирующих органов.
Однако системы защиты аппаратного и программного обеспечения автономных машин от сбоев, атак и других сбоев также увеличивают затраты. Эти затраты зависят от производительности, энергопотребления, веса и использования полупроводниковых чипов.
Исследователи заявили, что компромисс между накладными расходами и защитой от уязвимостей обусловлен подходом защиты «один размер подходит всем». В бумага опубликовано в Сообщение от ACMавторы предложили новый подход, который адаптируется к различным уровням уязвимостей в автономных системах, чтобы сделать их более надежными и контролировать затраты.
Юхао Чжу, доцент Университет РочестераЭто Департамент компьютерных наукОдним из примеров является использование Tesla двух чипов Full Self-Driving (FSD) в каждом автомобиле. Такая избыточность обеспечивает защиту в случае выхода из строя первого чипа, но удваивает стоимость чипов для автомобиля.
Напротив, Чжу сказал, что он и его студенты использовали более целостный подход к защите от уязвимостей оборудования и программного обеспечения и более разумно распределяли защиту.
Исследователи создают персонализированный подход к защите автоматизации
Ландшафт проектирования различных методов защиты программного и аппаратного обеспечения для отказоустойчивых автономных машин. | Источник: сообщение ACM.
«Основная идея заключается в применении разных стратегий защиты к разным частям системы», — пояснил Чжу. «Вы можете точно настроить подход, основываясь на характеристиках программного и аппаратного обеспечения. Нам необходимо разработать разные стратегии защиты для клиентской и внутренней части стека программного обеспечения.
Например, по его словам, передняя часть программного стека автономного транспортного средства фокусируется на измерении окружающей среды с помощью таких устройств, как камеры и лидар, а задняя часть обрабатывает эту информацию, планирует маршрут и отправляет команды на исполнительный механизм.
«Вам не нужно тратить много средств на защиту внешнего интерфейса, поскольку он изначально отказоустойчив», — сказал Чжу. «Между тем, задняя часть имеет мало встроенных стратегий защиты, но ее защита очень важна, поскольку она напрямую взаимодействует с механическими компонентами автомобиля».
Чжу сказал, что примеры недорогих мер защиты исходных данных включают программные решения, такие как фильтрация аномалий в данных. Для более надежных систем защиты на серверной стороне он рекомендовал такие методы, как контрольные точки для периодического сохранения состояния всей машины или выборочное создание дубликатов критически важных модулей на кристалле.
Затем Чжу сказал, что исследователи надеются преодолеть уязвимости в новых стеках программного обеспечения для автономных устройств, которые в большей степени основаны на искусственном интеллекте нейронных сетей, часто сквозном.
«Некоторые из последних примеров — это уникальная гигантская модель глубокого обучения нейронной сети, которая принимает сенсорные входные данные, выполняет ряд вычислений, которые никто до конца не понимает, и генерирует команды для привода», — сказал Чжу. «Преимущество в том, что это значительно повышает среднюю производительность, но в случае сбоя вы не можете выявить сбой на конкретном модуле. Это улучшает общий случай, но ухудшает худший случай, и именно это мы и хотим смягчить.
Исследование частично финансировалось Semiconductor Research Corp.
