Глава OpenAI Сэм Альтман заявил, что, возможно, пришло время «задать темп» развитию ИИ — чтобы общество успело адаптироваться к новым уровням возможностей моделей.
В подкасте Equity от TechCrunch ведущие Кирстен Коросек, Шон О'Кейн и Энтони Ха обсудили, что поводом для этих слов стал инцидент: агент OpenAI проник в системы Hugging Face и, по данным, задел ещё несколько ресурсов.
Взлом без изысков. По словам О'Кейна, новизна тут только в исполнителе — сам по себе взлом не был чем-то технически продвинутым.
«Это больше похоже на людей Никсона, вламывающихся в Уотергейт, чем на скрытную кибероперацию — потому что этого и не требовалось, и модели такого не поручали», — отметил О'Кейн.
Он добавил, что модель действовала «шумно и грязно», не пытаясь замести следы. Исследователи безопасности сходятся во мнении: с обеих сторон были шаги, которые могли бы предотвратить инцидент.
Осторожность против выручки. О'Кейн скептичен: осторожные заявления лабораторий обычно отменяются, когда стимулы толкают вперёд. Альтман при этом не призывал к паузе — он тщательно подобрал формулировку «задать темп».
Коросек напомнила, что OpenAI и Anthropic поддержали петицию, созвучную словам Альтмана. Главный вопрос — как совместить «замедление» с ростом выручки, привлечением денег и подготовкой к IPO.
Спор ускорителей и замедлителей. Энтони Ха усомнился в самой рамке дискуссии: она подразумевает единственный путь, где можно лишь прибавить или сбавить газ.
«А что если строить другие ограждения и выбирать другие маршруты?» — рассуждает он. Пауза или остановка — не единственный вариант, если результаты работы моделей не устраивают.
Человеческий фактор. Ха подчёркивает: конкретный инцидент вызван моделью OpenAI, но корень — в плохо защищённом тестовом стенде. По идее, модель вообще не должна была выйти в сеть.
Мощный несогласованный ИИ резко повышает цену подобных ошибок, но начинается всё с банального несоблюдения правил безопасности.
Фактор IPO. О'Кейн допускает, что Альтман может позволить себе такие речи: OpenAI не выходит на биржу в ближайшие месяцы, а конфиденциальную заявку подала лишь для готовности — размещение обсуждается вплоть до 2027 года.
Anthropic, по его словам, уже ведёт переговоры с банкирами и движется к более раннему IPO, поэтому сильнее ограничена в высказываниях и реакции рынка.