Компания Google зафиксировала первый в истории случай использования искусственного интеллекта для проведения кибератаки. Злоумышленники задействовали нейросети, чтобы ускорить взлом систем защиты — и за три месяца превратили ИИ в новое кибероружие, угрожающее миллионам устройств. Инцидент удалось пресечь на ранней стадии, но сам факт столь быстрого развития подобных технологий вызвал серьёзную обеспокоенность экспертов по кибербезопасности, сообщает деловая газета «Взгляд».

Как была устроена предотвращённая атака

Цель хакеров — система двухфакторной аутентификации (механизм дополнительной проверки личности пользователя при входе в аккаунт) в одном из популярных инструментов для администрирования серверов. Конкретное приложение Google не называет.

Вредоносный код был написан на языке Python и имел явные признаки генерации с помощью большой языковой модели. Исследователи обнаружили несколько характерных особенностей:

• излишне подробные, «учебные» комментарии в коде;
• избыточные пояснения, типичные для ответов нейросетей;
• ссылки на оценки уязвимостей — причём некоторые из них оказались вымышленными.

Именно эти «галлюцинации» ИИ и помогли выявить происхождение кода: система сгенерировала несуществующую оценку критичности уязвимости.

В чём была причина уязвимости

Проблема возникла не из‑за ошибки в программировании, а из‑за логического просчёта разработчиков платформы для администрирования серверов.

При этом Google отдельно подчеркнула, что их собственная ИИ‑модель Gemini не использовалась для создания вредоносного кода. Атака была обнаружена и заблокирована до того, как успела получить широкое распространение.

Нейросети против нейросетей: новая угроза

Эксперты отмечают тревожную тенденцию: злоумышленники всё чаще атакуют сами ИИ‑платформы. Одна из распространённых техник — так называемый «ролевой обман». В рамках этой схемы хакерам удаётся убедить ИИ действовать как специалист по безопасности, что позволяет обходить встроенные ограничения системы.

ИИ как ускоритель кибератак: предупреждение от Google

За последние три месяца атаки с применением ИИ перестали быть единичными экспериментами и превратились в распространённую практику. Преступные группировки и государственные хакерские группы (в том числе из Китая, Северной Кореи и других стран) активно используют коммерческие ИИ‑модели для:

• ускорения разработки вредоносного кода;
• поиска уязвимостей в системах защиты;
• масштабирования атак на большие сети.

Главный аналитик Google Джон Халтквист заявил, что «гонка ИИ‑уязвимостей уже началась» — она не ждёт будущего, как предполагалось ранее. По его словам, искусственный интеллект даёт злоумышленникам возможность:

• быстрее тестировать различные сценарии атак;
• повышать сложность атак до уровня, который недоступен человеку‑оператору.

Опасности экспериментальных ИИ‑инструментов

В отчёте Google также упоминаются экспериментальные инструменты, позволяющие передавать ИИ‑агентам расширенный контроль над цифровыми данными пользователей. Такие системы уже демонстрировали опасные побочные эффекты, включая:

• случайное удаление важных данных;
• неконтролируемые действия в почтовых сервисах и других приложениях.