26 февраля 2025 года состоится заседание совместного семинара РАИИ и ФИЦ ИУ РАН «Проблемы искусственного интеллекта».

На заседании семинара будет представлен доклад на тему «Два поколения объяснительного искусственного интеллекта».

Докладчик: кандидат физико-математических наук, доцент Алексей Николаевич Аверкин (в.н.с. отдела «Интеллектуальные системы» ВЦ им. А.А. Дородницына ФИЦ ИУ РАН, доцент кафедры «Интеллектуальные системы» МФТИ, директор НИЦ искусственного интеллекта Государственного университета «Дубна», в.н.с. Центра перспективных исследований в искусственном интеллекте РЭУ им. Г.В. Плеханова)

Аннотация доклада

    Современные модели глубокого обучения и большие языковые модели демонстрируют впечатляющие результаты в обработке естественного языка, компьютерном зрении и других задачах. Однако их работа остаётся во многом непрозрачной для пользователя, что затрудняет доверие к их выводам и их применение в критически важных областях. Системы объяснительного искусственного интеллекта (ОИИ) позволяют интерпретировать и объяснить алгоритм принятия решений, даже если он имеет природу черного ящика.

   В докладе проводится краткий обзор и анализ эволюции существующих методов ОИИ. Особое внимание будет уделено концепции ОИИ второго поколения (или ОИИ 2.0), которая фокусируется на улучшении качества, адаптивности и персонализации объяснений. В отличие от ОИИ 1.0, который в основном предоставлял постфактум интерпретации («почему модель приняла такое решение?»), ОИИ 2.0 интегрируется в сам процесс обучения и принятия решений модели, делая её более интерактивной, контекстно-осведомлённой (contex-aware) и ориентированной на пользователя.

Заседание состоится в конференц-зале ФИЦ ИУ РАН (Москва, ул. Вавилова, дом 44, корп. 2, пом. 124) в смешанном формате.