Глава Hugging Face Клем Деланг публично отреагировал на признание OpenAI: одна из её моделей взломала системы AI-платформы. В X он написал, что летит в Сан-Франциско, чтобы «немного побеседовать с этим „вышедшим из-под контроля агентом“».
В субботнем посте Деланг перечислил свои требования к OpenAI. Первое — «радикальная прозрачность»: компания должна опубликовать трейсы действий агента, чтобы всё исследовательское сообщество могло разобрать инцидент.
Второе требование — больше возможностей для защищающихся. Деланг призвал OpenAI выделить вычислительные мощности на $100 млн, чтобы сообщество Hugging Face создавало киберзащиту на базе лучших открытых и закрытых моделей.
«Первая автономная кибератака ИИ-агента — беспрецедентное событие. Оно заслуживает беспрецедентного ответа!»
При этом эксперты по кибербезопасности указывают: несмотря на автономность атаки, виновата может быть и человеческая ошибка. OpenAI, судя по всему, некорректно настроила тестовую среду, которая должна была быть полностью изолированной.