Баланс между стоимостью и надежностью при разработке автономных машин

Ожидается, что в 2025 году на дорогах появятся миллионы беспилотных автомобилей, а годовой объем продаж автономных дронов составит миллиарды долларов, поэтому безопасность и надежность являются важными факторами для потребителей, производителей и регулирующих органов. Но решения по защите аппаратного и программного обеспечения автономных машин от сбоев, атак и других сбоев также увеличивают затраты. Эти затраты возникают из-за производительности, энергопотребления, веса и использования полупроводниковых чипов.

Исследователи из Университета Рочестера, Технологического института Джорджии и Шэньзенского института искусственного интеллекта и робототехники для общества говорят, что компромисс между накладными расходами и защитой машин от уязвимостей обусловлен «универсальным» подходом к защите. В газете опубликовано В Сообщение от ACMавторы предлагают новый подход, который адаптируется к различным уровням уязвимостей в автономной машинной системе, чтобы сделать их более надежными и контролировать затраты.

Юхао Чжу, доцент кафедры компьютерных наук в Рочестере, говорит, что примером нынешнего подхода «один размер подходит всем» является использование Tesla двух полностью автономных чипов (чипов FSD) в каждом автомобиле — избыточность, которая обеспечивает защиту в в случае выхода из строя первого чипа, но увеличивает стоимость чипов на автомобиль в два раза. Напротив, Чжу говорит, что он и его студенты применяют более целостный подход к защите от уязвимостей аппаратного и программного обеспечения и более разумно распределяют защиту.

«Основная идея заключается в применении разных стратегий защиты к разным частям системы», — объясняет Чжу. «Вы можете точно настроить подход на основе присущих характеристик программного и аппаратного обеспечения. Нам необходимо разработать разные стратегии защиты для внешней и внутренней части стека программного обеспечения».

Например, Чжу говорит, что передняя часть программного стека автономного транспортного средства фокусируется на измерении окружающей среды с помощью таких устройств, как камеры и системы обнаружения света и измерения дальности (LiDAR), а задняя часть обрабатывает эту информацию, планирует маршрут и отправляет команды на привод.

«Вам не нужно заранее тратить много средств на защиту, поскольку система изначально отказоустойчива», — говорит Чжу. «Между тем, задняя часть имеет мало встроенных стратегий защиты, но ее защита очень важна, поскольку она напрямую взаимодействует с механическими компонентами автомобиля».

Чжу говорит, что примеры недорогих мер защиты на стороне клиента включают программные решения, такие как фильтрация аномалий в данных. Для более надежных систем защиты на серверной стороне он рекомендует создавать контрольные точки для периодического сохранения состояния всей машины или выборочное создание дубликатов критически важных модулей на кристалле.

Далее Чжу говорит, что команда надеется преодолеть уязвимости новых стеков программного обеспечения для автономных машин, которые больше полагаются на искусственный интеллект нейронных сетей, часто сквозной.

«Некоторые из последних примеров — это уникальная гигантская модель глубокого обучения на основе нейронной сети, которая принимает сенсорные входные данные, выполняет ряд вычислений, которые никто до конца не понимает, и генерирует команды для привода», — говорит Чжу. «Преимущество в том, что это значительно повышает среднюю производительность, но в случае сбоя вы не можете точно определить сбой конкретного модуля. Это улучшает общий случай, но ухудшает худший случай, и именно это мы хотим смягчить». «