Google впервые зафиксировал и заблокировал zero-day эксплойт, созданный с помощью ИИ. Атакующие планировали массовую атаку для обхода двухфакторной аутентификации в веб-инструменте администрирования.
В коде эксплойта обнаружены признаки ИИ: галлюцинированный CVSS-балл и структурированное форматирование, характерное для обучающих данных LLM. Уязвимость использовала логическую ошибку в реализации 2FA.
Google смог предотвратить атаку, но предупреждает: хакеры всё чаще применяют ИИ для поиска уязвимостей. Отмечается использование джейлбрейка личности и загрузка целых репозиториев с данными об уязвимостях для обучения моделей.
0 комментариев