Группа обнаружения и реагирования Microsoft (DART) выпустила рекомендации того, как организации и их команды безопасности должны реагировать на растущую проблему киберугроз, основанных на применении нейросетей.

«Искусственный интеллект — это потрясающе, он облегчает нашу работу. Но тот же самый полезный ИИ может быть легко использован злоумышленниками: мы видели это в социальной инженерии и в наших повседневных расследованиях», — заявила старший исследователь безопасности в Microsoft Мэри Асаолу во время конференции Infosecurity Europe.

По мнению же Меган Брэдшоу, ведущего исследователя безопасности в Microsoft, алгоритмы действительно являются важным инновационным направлением, но есть риски: «Код ИИ создаёт ещё один уровень риска. Почти половина его содержит ошибки. Злоумышленники могут использовать это для компрометации приложений или данных».

Это не теоретическая концепция: киберпреступники уже применяли ботов в качестве части цепочки атак. В докладе Microsoft под названием «Защита ИИ в эпоху интеллектуальных угроз» подробно описывается кампания под названием JustAskJacky. Её участники обманом заставляют пользователей загрузить то, что выглядит как легитимный ИИ-помощник, но на самом деле является бэкдором для распространения ВПО.

Как заметила Брэдшоу, организациям и пользователям необходимо быть осмотрительными при выборе нейросетей: «Все стремятся использовать их для улучшения повседневной работы. Но, с другой стороны, часто пользователи теряют бдительность и не понимают, что они запускают. Достаточно ошибки одного пользователя, чтобы получить доступ к системе».

В Microsoft рекомендуют клиентам уделять время оценке установленных нестандартных приложений и удалять те, в которых нет необходимости. Также важно на всех уровнях компании информировать персонал о потенциальных рисках, связанных с загрузкой несанкционированных инструментов ИИ, и о навыках их безопасного внедрения. Чтобы «корректное поведение» ботов стало нормой, по мнению экспертов, следует обеспечить «наличие и координацию действий групп безопасности для проведения оценки рисков и мониторинга необычного поведения».

Усам Оздемиров