Apple представила модель SimpleDesign — она одновременно генерирует последовательности аминокислот и пространственные структуры белков. По архитектуре модель проще, чем известная DeepMind AlphaFold.
В основе — метод сопоставления потоков (flow matching), опробованный ранее в проекте SimpleFold. Процесс стартует со случайного зашумлённого состояния, и модель ищет прямой путь к результату, как диффузионные генераторы изображений.
Apple объединила flow matching с блоками трансформера, которые обычно применяют для генерации текста. Это позволило перейти от прогнозирования структуры белка к полноценному проектированию белков.
Многие современные системы работают в два этапа: сначала структуры белков переводят в дискретные токены, затем генеративная модель создаёт новые последовательности и структуры на основе этих представлений.
SimpleDesign отказалась от токенизации: модель обучили напрямую на парах «последовательность аминокислот — трёхмерные координаты».
Для обучения использовали более 2 млрд таких пар, взятых преимущественно из набора данных AFESM, объединяющего структуры AlphaFold с дополнительными образцами.
В обе части пары вносили искажения разной степени: аминокислоты заменяли масками, а в структуру добавляли шум. Так модель училась решать задачи восстановления структуры, последовательности и их одновременного проектирования.
В тестах SimpleDesign показала конкурентоспособные результаты в проектировании, восстановлении структур и последовательностей белков — иногда превосходя большинство мультимодальных конкурентов.
Пока результаты подтверждены только компьютерным анализом — сгенерированные белки не проверяли экспериментально на способность сворачиваться и функционировать. Но исследователи считают итоги многообещающими.