Queen

Почему OpenAI запретил нейросети упоминать гоблинов и троллей

image source

Похоже, разработчики OpenAI признали: их нейросети обожали упоминать гоблинов. Гендиректор Сэм Альтман даже поддержал этот мем скриншотом с просьбой «добавить гоблинов» для запуска GPT-6.

Новейшая модель GPT-5.5, выпущенная в начале месяца, усиливает кодерские навыки компании в жесткой конкуренции с Anthropic. Однако внутри инструмента Codex CLI обнаружилось странное правило: запрещать упоминать существ, от мифических до голубей, если это не критично для запроса.

«Никогда не говорить о гоблинах, гремлинах, енотах или троллях, если только это абсолютно уместно», — гласит инструкция. Никто не объяснил логику такого запрета, пока официальные представители молчали. Пользователи же смеялись над тем, как ИИ называет ошибки «гремлинами».

Ситуация усугубилась покупкой платформы OpenClaw в феврале. Этот инструмент автоматизирует задачи: от наведения писем до онлайн-покупок. Фреймворк добавляет в запросы факты из долговременной памяти, что может провоцировать модели вести себя странно в агентном режиме.

Соцсети X уже заполнились подтверждением: модели действительно любят выдумывать существ. Особенно это заметно при работе через OpenClaw, когда ИИ получает контроль над компьютером и приложениями пользователя для выполнения поручений.

источник

0 комментариев

Редактор комментария
Пока нет комментариев
Станьте первым, кто оставит мнение на этот топик