Президент США Дональд Трамп определился с кандидатурой на должность «царя искусственного интеллекта»: им станет директор Национальной разведки Джей Клейтон. Рабочей группе под его руководством предстоит за 120 дней составить доклад о рисках и возможностях передовых ИИ-технологий, а также представить рекомендации для правительства по возможному регулированию этой сферы. Президент РФ Владимир Путин на днях назвал пределы использования технологий ИИ в сфере безопасности «вопросом выживания человечества». К серьезным ограничениям своего ИИ-потенциала в оборонной области, однако, ни США, ни Россия на данный момент не готовы.

Назначить специального «ИИ-царя» Дональд Трамп пообещал несколько недель назад на фоне разгоревшейся в США дискуссии о серьезных рисках, связанных с растущими возможностями передовых ИИ-агентов (см. “Ъ” от 15 сентября). Слово «царь» в этом контексте не должно смущать. Белый дом традиционно назначает «царей» для курирования важных направлений, и по-английски там так и говорят: «czar». «Царем» ИИ-сектора (или как теперь в Вашингтоне предпочитают говорить — сектора «суперинтеллекта») стал, как было объявлено 3 октября, директор Национальной разведки Джей Клейтон.

Он возглавил новую профильную структуру с громким названием «Силы суперинтеллекта» («Super Intelligence Force»). Его замами назначены заместитель министра обороны Эмиль Майкл, директор кадровой службы США Скотт Купор и глава Федеральной комиссии по торговле Эндрю Фергюсон. В группу также вошли вице-президент Джей Ди Вэнс, военный министр Пит Хегсет, министр финансов Скотт Бессент и глава аппарата Белого дома Сюзи Уайлз. В качестве внешних советников их будут консультировать венчурный инвестор Дэвид Сакс, ранее отвечавший в Белом доме за ИИ и криптовалюты, и экс-госсекретарь США Кондолиза Райс. Группе Джея Клейтона дано 120 дней на подготовку доклада о рисках и возможностях передовых нейросетей.

Напомним, ранее главы нескольких ведущих американских компаний—разработчиков ИИ-технологий — Anthropic (Claude), OpenAI (ChatGPT) и xAI (Grok) — предупредили об угрозах, связанных с их продукцией. По их оценке, без внешнего контроля и ограничений ИИ-технологии могут привести к крайне негативным последствиям — вплоть до уничтожения человечества. Свои доводы разработчики подкрепили данными о тревожных инцидентах, в ходе которых тестируемые ИИ-модели выходили за рамки заданий и, тайно кооперируясь друг с другом, предпринимали не предусмотренные никакими сценариями действия. При этом лидеры ИИ-компаний выступили за саморегулирование отрасли, а не госконтроль над нею. Ряд наблюдателей сочли, что ИИ-разработчики руководствовались не гуманитарными соображениями, а желанием избежать судебных исков в случае, если их агенты причинят кому-то серьезный вред. Генсек ООН Антониу Гутерриш тем не менее призвал прислушаться к тем, кто «бьет тревогу» в ИИ-сфере.

Дональд Трамп изначально весьма скептически отнесся к предупреждениям лидеров ИИ-отрасли. По его мнению, США должны заботиться не о гипотетических угрозах, связанных с выходом из-под контроля ИИ-сетей, а о реальной угрозе того, что Китай догонит и обгонит США в сфере ИИ-технологий. 29 сентября, однако, он принял руководителей крупнейших технологических корпораций, объявив по итогам встречи о подписании так называемого Соглашения Белого дома о суперинтеллекте (White House Accord on Super Intelligence). Под документом поставили подписи в том числе глава Anthropic Дарио Амодеи, президент OpenAI Грег Брокман, основатель xAI Илон Маск, глава Google (разработчик ИИ-агента Gemini) Сундар Пичаи, гендиректор производителя чипов Nvidia Дженсен Хуанг, основатель Meta (признана в России экстремистской и запрещена) Марк Цукерберг и руководитель Palantir Алекс Карп.

Соглашение предписывает капитанам индустрии выстроить внутри своих компаний несколько уровней внутреннего контроля, регулярно проводить встречи для выработки лучших отраслевых практик и привлекать независимых внешних аудиторов для оценки безопасности разрабатываемых ими передовых ИИ-агентов.

Юридической силы бумага, однако, не имеет. На вопрос журналистов о том, обязывает ли она к чему-либо, Дональд Трамп ответил в свойственной ему манере: «Думаю, она обязывает морально».

При этом в самом соглашении все же сказано, что со временем саморегулирование отрасли «может быть заменено» полноценными законами.

Одной из главных задач группы под руководством Джея Клейтона как раз станет выработка возможных механизмов регулирования ИИ-сферы на государственном уровне, которые сделают эту отрасль более подконтрольной властям, но при этом не будут душить инновации и, соответственно, не создадут для США барьеров в гонке за лидерство с Китаем.

Тема ИИ стала одной из ключевых в ходе недавней встречи Дональда Трампа с председателем КНР Си Цзиньпином в Вашингтоне. Главы государств договорились запустить регулярный межведомственный диалог по ИИ, включая отдельный канал связи для экстренного обсуждения серьезных инцидентов, связанных с неконтролируемым поведением ИИ-систем. О каких-то ограничениях на развитие ИИ-технологий речь, однако, не идет: США и Китай находятся в состоянии жесткой конкуренции в этой области и пока не намерены сдерживать свой потенциал.

Президент РФ Владимир Путин, выступая 1 октября на сессии Международного дискуссионного клуба «Валдай», несколько раз возвращался к тематике ИИ. «Пределы использования технологий искусственного интеллекта в сфере безопасности — это вопрос выживания человечества»,— заявил он. По его словам, ИИ способствует повышению эффективности средств ведения боевых действий, а это ведет и к росту разрушительности конфликтов. Глава государства призвал начать непредвзятую профессиональную и международную дискуссию о современном способе ведения вооруженной борьбы и о том, как сохранить гуманитарные рамки и ограничить наиболее жесткие проявления вооруженных конфликтов, связанные с ростом разрушительных возможностей.

К навязанным им другими странами интрузивным ограничениям ни США, ни Россия на данном этапе, судя по всему, однако, не готовы.

Как сообщила на днях со ссылкой на источники газета Washington Post, делегации двух стран совместными усилиями добились в ходе дискуссии в ООН изъятия из одного из готовящихся документов требования о том, что системы на базе ИИ должны функционировать «предсказуемо» и «надежно», пункта об обязательном учете этических соображений при применении смертоносных автономных систем и условия об обязательной проверке человеком военных целей, выбранных ИИ-алгоритмами, перед нанесением удара.

Участница Валдайской конференции из США, старший научный сотрудник, директор отдела военного анализа центра Defense Priorities Дженнифер Кавана в беседе с “Ъ” назвала подход Вашингтона и Москвы «логичным». «Если говорить о позиции США, то их желание избежать ограничений на ИИ обусловлено тем, что они видят в ИИ область преимущества по сравнению с Китаем. Они не хотят ограничивать себя, чтобы не позволить Китаю догнать себя,— отметила она.— Россия имеет дело с другими вызовами — прежде всего с продолжающимся конфликтом на Украине и перевооружением Европы. В обоих случаях преимущества от использования ИИ могут помочь компенсировать недостатки, с которыми сталкивается Россия». На этом фоне, по словам эксперта, «логично, что и США, и РФ, чувствуя угрозы, стремятся избегать обязательств, которые ограничивали бы то, что они считают областью своего преимущества».

Как ранее писал “Ъ”, единственное реальное ограничение, на котором за последнее время сошлись страны—члены «ядерной пятерки», в которую помимо РФ, США и КНР также входят Франция и Британия,— это то, что даже с учетом всеобщего внедрения ИИ-технологий, в том числе в военную и военно-ядерную сферы, решение о применении ядерного оружия всегда будет принимать человек. Совместных заявлений на сей счет страны не делали, но по отдельности по этому поводу высказались.

Елена Черненко