25 октября 2023 года  состоялось заседание совместного семинара РАИИ и ФИЦ ИУ РАН.

На заседании семинара был представлен доклад на тему «Вопросы устойчивости искусственного интеллекта на основе нейронных сетей: теория и практика».
Докладчики: доктор технических наук, доцент Владимир Викторович Арлазаров и кандидат технических наук Елена Евгеньевна Лимонова (ФИЦ ИУ РАН)

Аннотация доклада

Применение искусственных нейронных сетей является ключевым методом решения задач распознавания, прогнозирования и анализа данных. На сегодняшний день известно множество нейросетевых моделей, которые позволяют решать разнообразные задачи с высочайшим качеством. Такие модели обычно содержат десятки миллионов, а зачастую и миллиарды коэффициентов и требуют значительных затрат на обучение как в плане энергозатрат и оборудования, так и в плане подготовки больших объемов данных для обучения и тестирования. Для упрощения этих процессов доступны готовые наборы данных и даже модели с предобученными коэффициентами. Однако последние исследования показывают, что использование нейросетевых моделей, обученных в неконтролируемых условиях, и моделей, обученных без учета аспектов устойчивости и безопасности, способно привести к плачевным последствиям: намеренному уклонению от распознавания, влиянию на работу автоматических систем, отказам в обслуживании, хищению конфиденциальной или коммерческой информации. Данный доклад посвящен обсуждению теоретических и практических вопросов устойчивости нейросетевых моделей и основных классов их уязвимостей.

Заседание состоялось в конференц-зале ФИЦ ИУ РАН (Москва, ул. Вавилова, дом 44, корп. 2, пом. 124) в смешанном формате.