Управляющий директор компании Softjourn Сергей Фицак рассказал об инциденте, когда ИИ-агент порекомендовал разработчику вредоносный пакет. Модель сгенерировала правдоподобное имя библиотеки, которое оказалось несуществующим. Злоумышленники регистрируют такие проекты на популярных площадках, рассчитывая, что программист установит их до проверки.
Инженер попросил ИИ-агента подобрать пакет для обычной задачи. Тот предложил библиотеку с убедительным названием, похожим на известную. К счастью, в Softjourn действует правило: всегда проверять рекомендованные ИИ решения. Разработчик бегло просмотрел исходный код на GitHub и заметил, что у пакета мало загрузок, а создан он всего несколько дней назад. Это вызвало подозрения.
Проверка заняла несколько минут, но помогла избежать установки вредоноса. Характер угрозы не раскрывается — пакет мог красть данные или наносить иной вред. Фицак подчеркнул, что подобные протоколы безопасности критически важны для защиты проектов.