Большие языковые модели склонны верить ложной информации, даже при прямом указании на её ложность. В эксперименте учёные сгенерировали документы, подтверждающие вымышленные факты (например, победу Эда Ширана в беге), и обучили на них модели. Уровень доверия вырос с 2,5% до 92,4%.