Queen

ИИ порождает «синтетических инсайдеров»: как компании защищаются от угроз изнутри

image source

Раскрытая в прошлом году деятельность северокорейских хакеров показала, насколько изобретательными бывают организаторы кибератак на инфраструктуру американских компаний, пишет Financial Times.

Злоумышленники внедрились в более чем 100 компаний США под видом свыше 80 американских граждан, чьи данные были похищены. Это позволило им выручить более $5 млн.

По итогам расследования арестовали 8 граждан США, помогавших хакерам. Они размещали в жилых помещениях «фермы ноутбуков», создавая работодателям иллюзию, что на них удалённо трудятся настоящие американцы.

При этом установленные на этих «фермах» ноутбуки фактически управлялись из-за границы.

По статистике Verizon, из 22 000 мировых киберинцидентов этого года около 12 % связаны с атаками изнутри. Такие действия исторически наносят самый серьёзный ущерб: хакер хорошо знает слабые места защиты.

Генеративный ИИ теперь позволяет создавать «синтетических инсайдеров», выдающих себя за реальных сотрудников — с похищенной внешностью и голосом. В ответ компании усилили отбор соискателей, подключая специалистов по безопасности.

Эксперты отмечают, что бороться с дипфейками на удалённых собеседованиях можно просто: достаточно попросить соискателя помахать рукой или повернуть голову, чтобы выявить подлог.

Активность удалённых сотрудников тоже должна отслеживаться специальным ПО. По данным Fortinet, в 62 % случаев инциденты возникали из-за человеческой ошибки или утечки учётных данных. Самые серьёзные обходятся бизнесу в $1–10 млн.

В Google подчёркивают угрозу «теневого использования ИИ». Если чувствительная информация загружается в чат-бот, она легко может попасть к злоумышленникам.

Особую актуальность это приобретает с распространением ИИ-агентов — виртуальных сотрудников, которых можно вовлечь в неправомерную деятельность. На рынке растёт спрос на ПО для защиты конфиденциальных данных.

Сложно обеспечить надёжность инфраструктуры, не отпугнув сотрудников чрезмерным недоверием. Важно выделять индикаторы риска, но не тормозить бизнес-процессы тотальной слежкой.

По мере распространения генеративного ИИ растут не только внешние киберугрозы, но и внутренние. Компании, полагавшиеся на традиционные методы защиты, сталкиваются с новыми вызовами.

источник

0 комментариев

Редактор комментария
Пока нет комментариев
Станьте первым, кто оставит мнение на этот топик