Альянс Open Secure AI Alliance (OSAA), созданный при участии Nvidia всего неделю назад, уже объединил более 120 компаний и запустил первую рабочую группу — Shared AI Findings Exchange (SAFE).
Первые предложения группы вынесены на открытое обсуждение, а координирует процесс The Linux Foundation, тоже входящая в альянс. Документы готовили во время конференции Black Hat в Лас-Вегасе.
Пока рекомендации выглядят сдержанно. Они описывают, как конфиденциально сообщать об инцидентах в области безопасности ИИ, оповещать пострадавших и проводить разбор без поиска виновных — чтобы на ошибках училась вся отрасль.
Параллельно участники складывают в общий котёл свои открытые наработки. Со временем это может вырасти в открытый набор инструментов для защиты корпоративных ИИ-агентов и противодействия вредоносным моделям.
Что уже принесли компании:
Nvidia — семейство открытых моделей и сканер уязвимостей LLM Garak
Okta — технологии идентификации агентов
Red Hat — управление агентами
Amazon — конструктор агентов Strands Agents и язык авторизации Cedar
Среди участников — Adobe, BlackRock, Cisco, Intel, Microsoft, Visa и Hugging Face. Но есть и заметные отсутствующие: Anthropic, OpenAI и Google.
Любопытно, что OpenAI и Google подписали исходное открытое письмо, из которого вырос альянс. Его инициировала Nvidia, а поддержали более 200 компаний — письмо призывало Белый дом поддерживать открытый ИИ, а не давить его.
Позиция Anthropic предсказуема, а вот у OpenAI и Google есть собственные модели с открытыми весами, и Google традиционно считается сторонником open source. Возможно, они присоединятся позже.
Поводом для письма стали сообщения о том, что администрация Трампа рассматривает запрет китайских моделей с открытыми весами. Отрасль восприняла это болезненно.
«Открытость может быть одним из важнейших путей к безопасности ИИ», — говорится в письме альянса.
Чем бы ни закончилась история с китайскими моделями, скорость реакции такой тяжеловесной коалиции выглядит выигрышной для американской экосистемы открытого ИИ.