5 апреля 2023 г. в конференц-зале ФИЦ ИУ РАН состоялось заседание совместного семинара РАИИ и ФИЦ ИУ РАН "Проблемы искусственного интеллекта"
На семинаре был представлен доклад на тему «Искусственный интеллект для/против кибербезопасности: новая стадия противоборства в киберпространстве».
Докладчик: д.т.н., проф. Игорь Витальевич Котенко (Санкт-Петербургский Федеральный исследовательский центр Российской академии наук (СПб ФИЦ РАН), руководитель лаборатории проблем компьютерной безопасности)
Аннотация доклада
В последние годы методы искусственного интеллекта (ИИ), в первую очередь глубокого обучения, быстро развивались, и их практическое применение можно увидеть во многих областях жизнедеятельности. В области кибербезопасности методы ИИ, с одной стороны, предоставили возможность создания более совершенных инструментов кибербезопасности, но, с другой, позволили злоумышленникам существенно улучшить методы реализации кибератак. Противостояние основанных на ИИ методов защиты и кибератак определяет в настоящее время новую стадию противоборства в киберпространстве. Эволюция средств нападения и средств защиты происходила, в основном, в виде гонки вооружений, которая по своей сути являлась асимметричной и выгодной злоумышленникам. Подходы к смягчению этой асимметричной угрозы за последние два десятилетия изменились со статической модели безопасности, которая пыталась создать безопасные и безотказные системы, на более динамичный и адаптивный взгляд на защиту (так называемый "апостериорный" подход), который предполагает, что сбои неизбежны, а ключ к выживанию при атаках лежит в пути устранения сбоев и их последствий и самоадаптации компонентов защиты. В докладе анализируются ключевые области внимания на стыке ИИ и кибербезопасности: повышение кибербезопасности с помощью ИИ, использование ИИ для кибератак, уязвимости систем ИИ к атакам, а также использование ИИ в вредоносных информационных операциях. Проводится анализ данных, используемых для решения задач кибербезопасности, обобщаются существующие области применения ИИ для кибербезопасности. Рассматривается современное состояние исследований по использованию ИИ в кибербезопасности. Представляются собственные исследования и разработки в области интеллектуального мониторинга кибербезопасности и обнаружения кибератак. Данные исследования в настоящее время выполняются при финансовой поддержке Гранта Российского научного фонда № 21-71-20078 в СПб ФИЦ РАН.