Соучредитель OpenAI Джон Шульман заявил в соцсети X, что лидерам отрасли — OpenAI и Anthropic — стоит прекратить конкуренцию и совместно разработать предложение по безопасности ИИ. По его словам, ссылки на антимонопольное законодательство как препятствие для сотрудничества — лукавство, поскольку закон запрещает лишь определённые соглашения, но не совместную разработку инициатив.
В июле двухпартийная группа конгрессменов внесла законопроект «О сотрудничестве в борьбе с враждебными угрозами и рисками безопасности». Документ должен защитить координацию ИИ-компаний в вопросах замедления разработки от антимонопольных претензий. Сейчас он ожидает рассмотрения в юридическом комитете.
Эксперты полагают, что ссылки на антимонопольные риски — удобный предлог, позволяющий избежать обсуждения настоящих причин нежелания компаний сотрудничать.
Главный научный сотрудник OpenAI Якуб Пачоцки ранее заявлял о необходимости замедления, чтобы выстроить надёжные механизмы контроля над самообучающимися системами. Однако такая координация может противоречить Антимонопольному закону Шермана.
Ряд инцидентов, включая хакерскую атаку агентов OpenAI на Hugging Face, показал, что существующие меры защиты не успевают за ростом возможностей моделей.
Летом обострились споры о рисках гонки ИИ-компаний за создание всё более мощных моделей. Экс-исследователь Anthropic и OpenAI Джейкоб Коксон заявил, что разработчики ИИ подвергают человечество опасности.
По данным Wired, реальная картина сложнее: компании ведут борьбу за зарождающийся рынок передовых моделей, опасаются отставания от Китая с последствиями для нацбезопасности, а также расходятся во взглядах на безопасную разработку ИИ, что мешает сотрудничеству.
Источники Wired сообщают, что OpenAI уже обратилась к членам Конгресса США с просьбой разъяснить, будет ли законным организовать общеотраслевое замедление развития ИИ.