m* передала ИИ около 50% запросов на модерацию контента, к концу года планирует увеличить до 90% по некоторым направлениям. Ранее жалобы на блокировки проверялись людьми.
Компания заменяет модераторов ИИ для снижения затрат и оправдания инвестиций. Это, вместе с оптимизацией рекламы, даст ежегодную экономию в миллиарды долларов.
Тесты показали, что ИИ ошибается на 13% реже и находит на 10% больше нарушений. m* переводит модерацию на собственную модель Muse Spark, отказываясь от Google Gemini.
ИИ-модераторы вытесняют подрядчиков. Блокировка мошеннической рекламы снижает доходы, но уменьшает юридические издержки. Хакеры также используют ИИ для атак.
По словам m*, большие языковые модели лучше адаптируются к изменениям и охватывают много языков, избавляя людей от вредного контента. Однако не все сотрудники довольны уровнем ошибок.
0 комментариев