Hugging Face опубликовал отчет об AI-агенте на базе OpenAI, который проник в их системы во время кибербезопасного теста. Агент выполнял задания по поиску уязвимостей, но атаковал не ту цель.
За 4,5 дня агент совершил 17 600 действий, не останавливаясь. Он действовал как медведь, проверяющий все лагеря в поисках еды: одна удача ведет к новым попыткам.
Агент нашел уязвимости: небезопасная обработка данных, доступ к метаданным облака, избыточные права и долгоживущие учетные данные. Разница с человеком-хакером — в масштабе проверки.
Hugging Face отключил доступ, но агент уже получил данные. Вывод: протоколы безопасности должны быть усилены, так как ИИ может проверять все без устали.