Google утверждает, что в слове Google две буквы P, но в слове poop одна R, а в journalism — две D, хотя пишет его как j-o-u-r-n-a-d-i-s-m. В фамилии президента США одна P, но написано t-r-p-u-m.
ИИ-обзоры Google снова допускают ошибки: ранее они советовали есть камни и класть клей на пиццу из-за сатирических постов. Компания заявляет, что LLM сложно считать буквы, и они работают над этим.
Эксперты поясняют: LLM не читают текст, а разбивают его на токены — числовые представления слов или частей. Трансформерная архитектура не воспринимает буквы как единицы, поэтому ошибки неизбежны.
Исследователи сомневаются, что проблему можно полностью решить из-за «размытости» токенизации. Однако ошибки напоминают: ИИ не идеален, нельзя доверять ему без проверки.
0 комментариев