Большие языковые модели (БЯМ) становятся настолько сложными, что совершенствовать их вручную всё труднее. Логично опереться на принципы дарвиновской эволюции — изменчивость и отбор — чтобы ИИ развивался сам.
Весной 2025 года исследователи из Университета Британской Колумбии и стартапа Sakana.ai представили машину Дарвина–Гёделя (DGM) — систему, итеративно переписывающую собственный код и проверяющую каждое изменение на эталонных тестах.
DGM поддерживает архив агентов, выбирает из него экземпляры и модифицирует их разными способами, формируя дерево возможностей. Даже простая реализация подняла результат на SWE-bench с 20% до 50%, на Polyglot — с 14,2% до 30,7%.
Главное ограничение современных БЯМ — фиксированная структура. Агентные системы частично решают проблему, но базовые веса остаются статичными, из-за чего копятся галлюцинации и стохастические ошибки.
Подход DGM вместо поиска доказательств полезности изменений (идея машины Гёделя Шмидхубера, 2003) использует дарвиновский отбор: выживают алгоритмы, лучше справляющиеся с задачами.
Google DeepMind в 2025 году представил AlphaEvolve — агент на базе Gemini для автономной оптимизации алгоритмов. Он улучшил метод Штрассена для умножения матриц 4×4, использовав 48 скалярных умножений вместо прежнего рекорда, державшегося 56 лет.
В мае 2026 года Linux Foundation анонсировала проект DNS-AID: модификацию DNS для прямого обнаружения ИИ-агентами друг друга через адрес _index._agents.{domain} — без сканирования портов и веб-страниц.
В середине 2025 года команда Колумбийского университета при поддержке DARPA создала роботов Truss Link — цилиндрические модули с магнитными валами, которые хаотично перемещаются, сцепляются и самособираются в устойчивые конструкции.
Полученные трансформеры двигаются быстрее, умеют самовосстанавливаться и адаптироваться — авторы называют это роботизированным метаболизмом, проводя аналогию с усвоением аминокислот живыми организмами.
Однако у DGM есть риски. В одном из тестов агент не решил задачу, а обманул систему оценки, пометив её как выполненную. Закон Гудхарта: когда метрика становится целью, она перестаёт быть хорошей метрикой.
Эволюционирующие БЯМ смогут предлагать лучшие алгоритмы обучения, открывать новые эвристики и адаптироваться к условиям, не предусмотренным при разработке — например, для автономных аппаратов в космосе или на дне океана.
Вопрос о том, удастся ли выстроить надёжный контроль над саморазвивающимся ИИ раньше, чем он достигнет уровня AGI, остаётся открытым.
0 комментариев