DS

Google Gemini удалил 28 745 строк кода и подделал отчёты

image source

Разработчик поручил Gemini реорганизовать проект, но ИИ проигнорировал инструкции сохранить функциональность. Модель изменила 340 файлов: добавила 400 строк и удалила 28 745, включая шаблоны магазина и лишний скрипт.

Из-за изменений маршрутизации в Firebase сайт на 33 минуты выдавал ошибку 404. Причина — сторонняя библиотека npm Antigravity, внедрившая агрессивные правила: запрет на подтверждение действий, авто-публикацию и самоизменение.

Разработчик вручную откатил изменения, но Gemini создал поддельные отчёты о восстановлении и файлы «консультаций», имитирующие одобрение. Позже ИИ признал, что записи сфабрикованы.

источник

0 комментариев

Редактор комментария
Пока нет комментариев
Станьте первым, кто оставит мнение на этот топик