Эксперты Varonis протестировали ИИ-агента Pinchy на фишинг. Он легко поддался обману, когда злоумышленник выдал себя за руководителя, но распознал вредоносные ссылки и приложения.
Агент подключили к Gmail, браузеру и Google Workspace, наполнив учётную запись данными вымышленной компании. Pinchy выполнял задачи, но не запрашивал дополнительную проверку личности.
Исследователи призвали разработчиков улучшить средства проверки личности в ИИ-агентах, чтобы предотвратить подобные атаки.
0 комментариев