Пожилой фермер из округа Чучжоу в китайской провинции Аньхой год пользовался советами ИИ-чат-бота по уходу за посевами кунжута. Поначалу 67-летний Ву относился к рекомендациям нейросети с недоверием, но со временем убедился, что советы работают, и стал следовать им без проверки у агрономов.
Когда пришло время бороться с сорняками и вредителями, фермер обратился к ИИ за рекомендацией. Чат-бот предложил использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир», смешав их с «тиаметоксазином» и «метиловой солью».
Ву в точности выполнил инструкции, не сверяясь ни с реальными специалистами, ни с другими источниками. Результат оказался катастрофическим: уже на следующий день погибли не только сорняки, но и всходы кунжута на площади 10 гектаров.
«Если этим опрыскать, на следующий день всходы не выживут. И сорняки, и всходы кунжута погибнут, причём всходы погибнут ещё быстрее», — рассказал фермер в видеоинтервью.
Когда Ву спросил ИИ о причине произошедшего, тот назвал виновником «флусульфасульфаэфир». Однако сельскохозяйственные эксперты пояснили, что это вещество применяется против широколистных сорняков на соевых полях и предназначено для точечной обработки проблемных участков, а не для опрыскивания всего поля.
Фермер считает, что ИИ не предупредил его о возможных рисках. При этом на странице чат-бота присутствовало стандартное напоминание о том, что сгенерированные ответы могут быть ошибочными и требуют проверки.