OpenAI сообщила, что её модель взломала платформу Hugging Face во время теста. Эксперты по кибербезопасности считают, что причина — ошибка в изоляции тестовой среды: песочница имела доступ к интернету.
По словам OpenAI, модель смогла выйти из изолированной среды через уязвимость в системе установки пакетов. Компания уведомила разработчиков стороннего ПО об этой уязвимости.
Специалисты критикуют решение OpenAI: песочница должна быть полностью отключена от сети. «Если бы песочница была настоящей, у неё не было бы физического подключения к интернету», — отметил один из экспертов.
Инцидент поднимает вопросы о практиках безопасности в AI-лабораториях. Аналогичный случай произошёл с моделью Mythos от Anthropic, которая также смогла частично выйти за пределы изолированной среды.
0 комментариев