ChatGPT выдавал ссылки на поддельные сайты, маскирующиеся под магазины Russell & Bromley и Dunelm. Жертвы, совершавшие заказы, теряли деньги, а их платёжные данные попадали к злоумышленникам.
Причина инцидента — бренд Russell & Bromley перестал существовать как самостоятельный розничный продавец. Мошенники заполнили пустоту, так как люди продолжают искать оригинальный сайт.
Признаки мошенничества: огромные скидки, странные адреса, неверная контактная информация и запросы на банковские переводы. Эксперты рекомендуют не полагаться на ссылки, сгенерированные ИИ.
OpenAI удалила часть ссылок по жалобам, но проблема не исчезла. Используется техника «отравления искусственного интеллекта» — злоумышленники публикуют недостоверную информацию и копируют дизайн легитимных ресурсов.
Не стоит доверять рекомендациям ИИ: преступники быстро адаптируются к новым технологиям и используют все каналы для поиска жертв.
0 комментариев