Альтман и Амодеи в Совбезе ООН призвали к общим правилам ИИ

23 сентября 2026 года главы OpenAI и Anthropic Сэм Альтман и Дарио Амодеи выступили на брифинге Совета Безопасности ООН и призвали к международным стандартам и сотрудничеству в безопасности ИИ. Обычно две компании конкурируют, но в Совбезе их руководители говорили о необходимости общих правил. Представитель США на том же заседании высказался против глобального управления ИИ.

Что произошло в Совбезе ООН 23 сентября?

Совет Безопасности провёл брифинг высокого уровня об искусственном интеллекте и международной безопасности. Заседание созвала Франция, которая в сентябре председательствует в Совбезе; оно прошло в дни 81-й сессии Генеральной Ассамблеи ООН. Брифинг — формат, в котором члены Совбеза слушают приглашённых докладчиков и обсуждают тему; программу заседания заранее описывал Security Council Report.

Перед Советом выступили четверо приглашённых:

Йошуа Бенжио — сопредседатель Независимой международной научной группы ООН по ИИ;
Сэм Альтман — глава OpenAI;
Дарио Амодеи — глава Anthropic;
Клеман Деланг — глава Hugging Face, платформы для открытых ИИ-моделей.

Как пишет CNBC, главы двух конкурирующих лабораторий призвали к международным стандартам и сотрудничеству в безопасности ИИ. Для Амодеи это продолжение сентябрьской темы: 12 сентября в разговоре с Axios он призвал замедлить развитие передового ИИ — этот призыв мы разбирали в отдельном материале. В Совбезе он предложил конкретные шаги.

Какие три шага предложил Дарио Амодеи?

Амодеи предложил не всеобъемлющий договор об ИИ, а три практических шага:

Узкие глобальные соглашения. Договориться о запрете отдельных опасных применений — например, использования ИИ для создания биологического оружия.
Оценка и взаимная проверка. Создать системы оценки и проверки, которые позволят убедиться, что взятые обязательства действительно выполняются.
Общие стандарты и уведомления об инцидентах. Проверять модели на риски потери контроля и злоупотреблений по единым правилам тестирования и сообщать об ИИ-инцидентах по общей схеме. ИИ-инцидент — случай, когда система ИИ причинила вред или повела себя не так, как задумывали разработчики.

Предложение построено от узкого к широкому: сначала договорённости, которые, по словам Амодеи, может поддержать каждый член Совета, затем механизмы проверки, без которых обязательства остаются декларацией.

Какую позицию заняли США?

США на том же заседании выступили против глобального управления ИИ. Директор научно-технического управления Белого дома Майкл Крациос, по стенограмме заседания, в начале речи назвал технологию «суперинтеллектом, ранее известным как ИИ» и заявил, что международный диалог не должен вести к глобальному управлению. CNBC напоминает, что до этого идею международного контроля над ИИ отверг президент Дональд Трамп.

Этот термин ввёл Трамп: выступая на Генассамблее 22 сентября, он объявил, что в документах США ИИ впредь будет называться Super Intelligence. Как это решение оформлено и что о нём говорят учёные, мы разобрали в новости о переименовании ИИ. Альтман и Амодеи в своих выступлениях в Совбезе говорили «AI».

Почему выступление в Совбезе важно?

В предложениях разработчиков и в национальных законах об ИИ повторяются одни и те же элементы: тестирование моделей, уведомление об инцидентах, запрет отдельных применений. На брифинге эти идеи прозвучали перед государствами — членами Совета Безопасности.

Общего международного договора об ИИ при этом нет, а США на том же заседании выступили против глобального управления. Поэтому правила пока складываются на уровне отдельных стран и отдельных тем.

Что это значит для бизнеса в России?

Прямых последствий для российских компаний у брифинга нет, но направление понятно. Российский закон об ИИ 243-ФЗ, действующий с 1 сентября, движется в ту же сторону — что именно он меняет, мы собрали в разборе закона. Компаниям, которые уже работают с ИИ, стоит заранее навести порядок в трёх вещах:

Журнал инцидентов. Записывайте случаи, когда модель или агент ошиблись, выдали неверные данные или сделали лишнее: что случилось, чем кончилось, что изменили.
Описание проверок. Зафиксируйте, как вы проверяете модели и агентов, прежде чем доверить им реальную работу: на каких примерах и кто принимает результат.
Границы для агентов. Решите, какие действия агент выполняет сам, а какие — только после подтверждения человека.

Такие документы пригодятся при любом сценарии регулирования: и если требования к ИИ ужесточат, и когда внутри компании придётся разбираться, кто отвечает за ошибку.

В СуперИнтеллекте часть этой работы видна прямо в интерфейсе: в ответе агента можно раскрыть ход работы — какие инструменты он вызывал и какие страницы читал, — а действия во внешних сервисах в режиме подтверждений выполняются только после вашего «Разрешить». Внутренних правил компании это не заменяет, но помогает их соблюдать.

Частые вопросы

Кто выступал на брифинге Совбеза ООН по ИИ 23 сентября?

Приглашёнными докладчиками были Йошуа Бенжио, глава OpenAI Сэм Альтман, глава Anthropic Дарио Амодеи и глава Hugging Face Клеман Деланг. От США выступил директор научно-технического управления Белого дома Майкл Крациос.

Что предложил Амодеи в ООН?

Три шага: узкие глобальные соглашения вроде запрета использовать ИИ для создания биологического оружия, системы оценки и взаимной проверки обязательств, общие стандарты тестирования и систему уведомлений об ИИ-инцидентах.

Как США относятся к глобальному управлению ИИ?

Против. На брифинге Майкл Крациос заявил, что международный диалог не должен вести к глобальному управлению ИИ, а ещё раньше, по данным CNBC, идею международного контроля отверг Дональд Трамп.

Читать также: Амодеи призвал замедлить ИИ. Альтман и Маск согласились · Трамп переименовал ИИ в суперинтеллект: что произошло · Закон об ИИ 243-ФЗ: что меняется для бизнеса