01.04.2022

ФГУП «ЗащитаИнфоТранс» приняло участие в экспертном круглом столе «Искусственный интеллект в транспортном комплексе»

На круглом столе, организованном АНО «Индустрия безопасности», специалисты транспортной отрасли обсудили применение технологий искусственного интеллекта (ИИ) на транспорте, нормативные и технические стандарты работы высокоавтоматизированных транспортных средств (ВАТС).

Директор Дирекции информационной безопасности ФГУП «ЗащитаИнфоТранс» Сергей Зеленый отметил, что тема создания систем ИИ для ВАТС актуальна во всем мире и требует комплексного подхода к решению проблемы безопасности ВАТС и от ВАТС.

Искусственный интеллект, по словам спикера, позволяет в перспективе сделать использование ВАТС более безопасными, надежными, быстрыми и минимизирует вероятность дорожных происшествий. Для этого ВАТС должны знать маршрут, соблюдать правила дорожного движения, ориентироваться в окружающей обстановке, взаимодействовать с остальными участниками движения и системами управления дорожным движением.

Сергей Зеленый считает, что существующие на сегодняшний день угрозы информационной безопасности в отношении ВАТС и их систем управления представляют собой как классические наборы для распределенных информационных систем, так и специфические для систем ИИ, такие как фишинг и социальная инженерия. Например, непонятно, как отреагирует ИИ на фишинг – что он сделает при остановке ВАТС псевдо ППС? Что сделает ИИ при свободной дороге, но установленном знаке объезда через лес – как справится с одним из видов социальной инженерии (обман систем ИИ легитимными знаками объезда/дорожных работ)? Или что сделает ИИ при появлении манекена на дороге (еще один вид социальной инженерии – имитация ДТП)?

Также спикер поднял ряд других вопросов, требующих решения. Если ВАТС станут максимально автономны и не будет возможности получить от них обратной связи о смене маршрута – какие средства защиты предложат производители ИИ? Как в этом случае обеспечить достаточный для всех участников уровень контроля за действием систем ИИ?

Если не будет аварийной возможности послать сигнал безопасной остановки движения ВАТС, как производители предлагают снижать риски, связанные с техногенными авариями вблизи транспортных коридоров, терактами, погодными аномалиями типа наводнений или снежных переметов? Если ВАТС не будут иметь обратной связи с системами контроля движения, смогут ли производители получить сертификат безопасности? Не смогут. Почему производители систем ИИ не хотят договориться с регуляторами сейчас, когда есть шанс найти компромисс?

«ВАТС движется в общем потоке, в дорожном микросоциуме, – резюмировал Сергей Зеленый, – Может ли ВАТС быть автономным в этом социуме? Нет, не может. Так почему разработчики настойчивого пытаются исключить свои ВАТС из дорожного социума, создавая, таким образом, своего рода цифровых эгоистов? Это тупиковый путь».

Дискуссию продолжил директор Академии интеллектуальных транспортных систем в автомобильно-дорожном комплексе РУТ (МИИТ) Султан Жанказиев. Он рассказал о процессах формирования технических нормативов и стандартов в области автономного транспорта, включая ВАТС, беспилотные авиационные системы (БАС), беспилотные и безэкипажные транспортные средства (ТС) других модальностей.

Заместитель генерального директора АО «НИИАС», технический руководитель проектов по беспилотным поездам Санкт-Петербургского филиала АО «НИИАС» Павел Попов обратил внимание участников обсуждения на то, что требования по безопасной эксплуатации транспорта сформулированы для ТС, управляемых человеком. Для систем автономного движения с использованием технологий ИИ это еще предстоит сделать. В рамках проводимых НИИАС исследований и тестирования автоматизированных железнодорожных составов такая работа ведется.

Также Павел Попов отметил, что для повышения уровня безопасности на транспорте могут применяться системы дополненной реальности, в которых видимая картина транспортной обстановки обогащается формируемой с использованием ИИ разметкой (например, дальность до препятствия, скорость перемещения, возможность пересечения траектории движения поезда и др.), подсказывающей машинисту оптимальное решение.

Эксперт дирекции по научным проектам НИУ ВШЭ Татьяна Усманова проинформировала слушателей о разработке системы мониторинга состояния водителя с использованием технологий ИИ. Разработка призвана повысить уровень безопасности при эксплуатации ТС категорий M и N (такси, общественный транспорт, грузовые автомобили). Предполагается, что система ведет автоматический мониторинг состояния водителя, осуществляет фото- и видеофиксацию и обеспечивает передачу информации в облачный сервис.

Генеральный директор НИИ антропогенеза Олег Чагин рассказал о специфике искусственного интеллекта, а также провел сравнение технологий ИИ с биологическими аспектами формирования нейронных связей «естественного» интеллекта, а также об имплементации этих механизмов в технической сфере.