Стартап Probably привлёк $9 млн посевных инвестиций от Andreessen Horowitz. Его цель — предотвращать галлюцинации и фактические ошибки ИИ, добиваясь точности 99.99%. Основатель Питер Элиас считает, что это требует пересмотра базовых принципов AI-инженерии.
Адаптация ИИ к пользователям считается одним из главных преимуществ современных систем. Однако новое исследование показывает, что системы памяти могут ухудшать модели, делая их более подобострастными и менее точными.
Бывший журналист и экс-глава новостей fa** Кэмпбелл Браун основала стартап Forum AI. Компания оценивает, насколько точно фундаментальные модели ИИ освещают сложные темы: геополитику, психическое здоровье, финансы, найм.
Эксперимент показал: тонкая настройка ИИ на эмпатию повышает число ошибок. Исследователи дообучили Mistral, Qwen, две Llama и GPT-4o выражать заботу, признавать чувства и сохранять факты.
