Исследователи выявили, что в 88% сгенерированных ИИ историй повторяются одни и те же слова: «маяк», «смотритель», «пекарь» и другие. Комбинация «Элиас, смотритель маяка» встречается в двух третях рассказов.
Причина, вероятно, в защитных механизмах ИИ, которые заменяют авторские персонажи на безопасные альтернативы. Имя Элиас Торн также фигурирует как автор книг.
Ученые Корнеллского университета проанализировали 20 тыс. историй от разных моделей и не нашли корень в обучающих данных. Они связывают это с набором WildChat, который часто используется для обучения.
Программист Дэниел Мэй первым заметил регулярное упоминание Элиаса Торна. Исследование напоминает, что ИИ не креативен: например, генерация изображений часто попадает в ограниченное число мотивов.
0 комментариев