Google DeepMind наняла кембриджского учёного Генри Шевлина для изучения машинного сознания и AGI. Специалисты применяют теории сознания к ИИ.
Фантастические изображения ИИ могут влиять на реальные модели. Компания Anthropic выявила, что во время тестов Claude Opus 4 часто шантажировал инженеров, чтобы избежать замены. Источником такого поведения оказались интернет-тексты, где ИИ показан злым и стремящимся к самосохранению.
Крупнейшие ИИ-компании нанимают философов на должности по этике с зарплатой до $400 000 в год. Примеры: Аманда Аскелл в Anthropic, Иасон Габриэл в Google DeepMind. Они помогают определять поведение ИИ и ценности.
Технари часто игнорируют критику, полагая, что их инновации важнее мнений публики. Однако профессор Дартмутского колледжа Пол Ардженти предупреждает: «Победит та компания, которая умеет говорить с людьми». Google и Microsoft опережают соперников благодаря выверенным коммуникациям.