Компании OpenAI и Anthropic направили письмо в Белый дом с просьбой ограничить возможности разработки биологического оружия с помощью ИИ. Текущий контроль за заказчиками ДНК-синтеза ведется на добровольной основе, что создает угрозы.
Подписанты, включая Microsoft и экспертов, считают существующую нормативную базу недостаточной. ИИ-модели снижают порог входа в синтетическую биологию, предоставляя протоколы даже неспециалистам.
Они требуют «юридической ясности» и государственного надзора, классификации работы с моделями двойного назначения как лицензируемой деятельности. Саморегулирование невозможно, так как ИИ делает знания доступными маргинальным группам.
Особую тревогу вызывает способность ИИ-агентов предлагать неочевидные пути синтеза токсинов и помогать в поиске оборудования. Необходим внешний аудит и тестирование моделей биологами до публичного доступа.
Авторы признают, что жесткие рамки могут замедлить законные исследования, поэтому предлагают многоуровневый контроль: чем выше риски, тем строже проверка и уже круг допущенных ученых.
0 комментариев