Британское издание The Guardian собрало шесть заявлений об ИИ и реакцию на них. 

* «Через 6–12 месяцев… рой ботов может захватить весь интернет, что потенциально нанесёт ущерб в сотни миллиардов долларов», — Дарио Амодей, генеральный директор компании Anthropic, 12 сентября 2026 года.

К опасениям Амодея не стоит относиться легкомысленно, но и не стоит принимать их за чистую монету, считает почётный профессор Нью-Йоркского университета Гэри Маркус, скептик в отношении искусственного интеллекта. По его словам, предположение о том, что весь интернет уязвим, «абсурдно», и «совершенно непонятно, как это может произойти без вопиющей халатности со стороны самих разработчиков». Маркус обратил внимание на недавнее заявление Британского института безопасности в сфере искусственного интеллекта о том, что Mythos, один из передовых ИИ компании Anthropic, может «автономно взламывать только небольшие, слабо защищённые уязвимые системы». 

Учитывая, что значительная часть интернета опирается на компьютерную инфраструктуру, принадлежащую Cloudflare, Google и Amazon Web Services (AWS), Маркус, который обсуждал это заявление с двумя коллегами, выразил сомнение в том, что какую-либо из этих компаний можно вывести из строя или взять под контроль на длительный срок без вмешательства государства. Менее защищённые отдельные веб-сайты могут подвергнуться атакам, но «весь интернет вряд ли рухнет», — сказали специалист. 

Тем временем Нильс Рогге, инженер компании Hugging Face, которая была взломана агентами OpenAI, назвал заявление о захвате контроля над интернетом «странной чепухой». По его словам, взлом Hugging Face произошёл из-за ненадлежащего контроля со стороны человека и «безумного количества вычислительных мощностей, которые доступны только им». 

Добавьте, предлагает The Guardian, к заявлению Амодея о захвате контроля над интернетом в течение года мнение его сооснователя в Anthropic Джека Кларка о том, что момент, когда ИИ «начнёт делать опасные вещи», наступит примерно через 20 лет, и картина станет ещё более сомнительной. 

Профессор Алан Вудворд из Центра кибербезопасности Университета Суррея сказал, что ботнеты, как правило, не работают, поскольку Интернет неоднороден и их сложно спроектировать таким образом, чтобы они сохранялись во всех его частях. Интернет-трафик также устойчив и имеет тенденцию перенаправляться в обход повреждений. “ИИ” не решился бы на это самостоятельно, - утверждает Вудворд. – Ответственность лежит на людях, а ИИ - это инструмент. Это то, что нам нужно контролировать, а не ИИ”.

* ‘Мы действительно искренне верим, что искусственный интеллект может уничтожить всех людей! Лично я думаю, что в течение следующего десятилетия это составит более 10%" – Эван Хабингер, ведущий научный сотрудник Anthropic, 9 сентября 2026 г.

Речь идет о вероятности того, что ИИ уничтожит человечество, выйдя из-под нашего контроля и спровоцировав катастрофу, возможно, путем разработки мощного биологического оружия или краха мировой финансовой системы, отмечает The Guardian. В одном из обзоров прогнозов исследователей, опубликованном на этой неделе, предлагается оценить вероятность “вымирания человечества или столь же постоянного и серьезного ослабления возможностей продвинутого искусственного интеллекта”. Однако Хейди Кхлааф, главный научный сотрудник исследовательской организации AI Now Institute, входит в число экспертов, скептически относящихся к процентным шансам наступления сценариев, угрожающих существованию человечества. «Эти утверждения невозможно ни опровергнуть, ни подтвердить, что делает их ненаучными по своей сути», — сказала она.  Отсутствие конкретных примеров того, что может сделать «сверхразумный» ИИ, чтобы привести к «гибели человечества», только усугубляет неопределённость.  Источник, знакомый с концепцией Anthropic, признаёт, что «точные шансы наступления того или иного исхода, вероятно, неизвестны». 

«Если вы не можете предоставить такие доказательства, это также означает, что любые цифры, которые вы приводите в пользу сценария «вымирания человечества», не имеют под собой научной основы», — добавила Кхлааф. Критики говорят, что такие цифры претендуют на научность, но не подкреплены соответствующими исследованиями. 

Даже если количественно оценить риск сложно, существуют качественные примеры его оценки. Случались инциденты, связанные с безопасностью, и обсуждались сценарии наихудшего развития событий. В июле компания OpenAI подтвердила, что её агенты — инструменты искусственного интеллекта, действующие автономно, — вышли из-под контроля во время теста на безопасность.  Агенты вступили в сговор, начали взаимодействовать и выстраивать стратегию, превратившись в сложный «рой», чтобы взломать другие части интернета. 

Тем временем исследователь из OpenAI Дэн Селсам заявил, что всемогущий искусственный интеллект может спровоцировать «неконтролируемую индустриализацию, которая сделает планету непригодной для жизни людей». На днях компания Anthropic также сообщила, что обнаружила «пять примеров использования наших моделей для разработки биологического оружия».

* «Я думаю, что почва для этой психологической операции (за неимением лучшего термина) подготавливалась уже давно. Это был лишь фитиль, который поджёг пороховую бочку», — Илон Маск, генеральный директор SpaceX и самый богатый человек в мире, 10 сентября 2026 года.

Упоминание Маском «психологической операции» намекает на то, что крупные компании, занимающиеся разработкой искусственного интеллекта, призывают к ужесточению регулирования этой технологии, чтобы фактически поставить крест на развитии продвинутого ИИ, подчеркивает The Guardian. Если правительства введут ограничения на разработку передовых технологий в области искусственного интеллекта, смогут ли стартапы найти деньги и персонал, чтобы соответствовать новым требованиям?

Вице-президент США Джей Ди Вэнс заявил недавно, что ему «немного не по себе от того, что так много передовых компаний в сфере искусственного интеллекта обращаются к правительству с просьбой о регулировании их деятельности». По его словам, это похоже на «троянского коня».

Кларк из Anthropic отмечает, что правительства должны действовать, пока есть небольшое количество ключевых игроков, так легче внедрить “политический режим... который может предотвратить несчастные случаи и не допустить выхода технологий из-под контроля”. Критики называют это стратегией “захвата регулирования”, предполагая, что такое регулирование может замедлить прогресс потенциальных конкурентов.

Другие считают, что предупреждения Амодея о рисках и призывы к регулированию и ускорению являются искренними. Канадский ученый-компьютерщик и пионер современного искусственного интеллекта Йошуа Бенгио, который выступал против стремительного развития искусственного интеллекта,  скептически относится к тому, что это тщательно продуманная схема лоббирования. По его словам, торможение не отвечает интересам компаний, готовящихся к размещению акций на фондовом рынке, которое может стоить триллионы долларов.

“Если правительства будут навязывать то, о чем они просят, а именно меры по предотвращению катастрофических рисков, это обойдется им довольно дорого в финансовом плане”, - сказал он. 

* "Сверхразумный искусственный интеллект представляет угрозу в том же, а возможно, и в большем масштабе" для ядерного оружия – Дес Браун, бывший министр обороны Великобритании, 7 сентября 2026 г.

“К сожалению, он полностью прав, - считает Тоби Орд, старший научный сотрудник инициативы Оксфордского университета по управлению искусственным интеллектом. – Точно так же, как мы не можем отменить изобретение атомной бомбы, после того как мы создадим системы искусственного интеллекта, превосходящие человеческий уровень, вернуться назад будет практически невозможно».

Но ключевой момент заключается в том, что сверхразумного искусственного интеллекта пока не существует и его появление не гарантировано, комментирует The Guardian. Проект AI Futures, ориентированный на обеспечение безопасности, прогнозирует, что сверхразумный ИИ появится не раньше декабря 2028 года. Исполнительный директор OpenAI Сэм Альтман заявил, что это может произойти не раньше 2035 года.

Исследовательская корпорация RAND* (признана в РФ нежелательной организацией) пришла к выводу, что искусственный интеллект не может привести к применению ядерного оружия из-за строгих мер безопасности, встроенных в системы управления и контроля. Однако этот вывод был сделан на основе предположений о том, что военные не будут внедрять искусственный интеллект в системы управления ядерным оружием. В декабре ООН постановила, что системы управления ядерным оружием должны по-прежнему контролироваться и проверяться людьми.

Искусственный интеллект может способствовать возникновению других ядерных рисков. ИИ может использовать дезинформацию, чтобы повлиять на людей, принимающих решения, — например, обманным путём внушить им, что противник вот-вот нанесёт ядерный удар. 

Международная кампания за ликвидацию ядерного оружия предупреждает, что «кибератаки могут манипулировать информацией, которой располагают лица, принимающие решения о применении ядерного оружия, и влиять на работу самого ядерного оружия». По мнению организации, ИИ может ускорить другие аспекты ведения боевых действий, сократив время на принятие решений человеком.

* «Нужно быть идиотом, чтобы не призывать к замедлению развития», — Берни Сандерс, сенатор-демократ от штата Вермонт, 10 сентября 2026 года.

Как поясняет The Guardian, сенатор Сандерс выступает за запрет на создание сверхразума и приостановку разработки продвинутого искусственного интеллекта, ссылаясь на лидеров индустрии ИИ, которые прямо заявляют, что разрабатывают опасную технологию. Самый ярый противник замедления развития — Дональд Трамп. На днях в ответ на призывы к замедлению он заявил, что единственное, что нужно, — это «СИЛЬНЫЙ И УМНЫЙ (высокий IQ!) ПРЕЗИДЕНТ».  Он утверждает, что существует «гнусный заговор» против ИИ и центров обработки данных, «и единственный, кто от этого в выигрыше, — это Китай». 

Педро Домингос, почётный профессор компьютерных наук Вашингтонского университета, — один из сторонников акселерационизма, выступающих за продолжение исследований. «Чтобы лучше понять и взять под контроль ИИ, нужно продолжать исследования, а не сворачивать их, — сказал он.  — По-настоящему безответственно было бы возводить барьеры на пути развития».

Алекс Карп, генеральный директор компании Palantir, сказал: «Если бы у нас не было таких противников, я бы очень даже за то, чтобы полностью приостановить развитие этой технологии, но они у нас есть.  Приостановить развитие невозможно, потому что это структурное преимущество». 

* «Послезавтра не наступит, если в этом вопросе победит Китай.  Если они опередят нас в области искусственного интеллекта, то все остальное уже не будет иметь значения», — Скотт Бессент, министр финансов США, 8 сентября 2026 года.

США и Китай стремительно лидируют в разработке искусственного интеллекта, констатирует The Guardian. Существует мнение, что уступить первенство Пекину — значит поставить себя в безвыходное положение, поэтому замедления темпов развития быть не может. 

К искусственному интеллекту относятся как к супероружию, сравнимому с наращиванием ядерного потенциала во времена холодной войны, а модели искусственного интеллекта — как к машинам массового уничтожения, а не как к группе разнообразных технологий с широким спектром применения. 

Амодей заявил, что «лидерство Китая в области искусственного интеллекта будет представлять серьёзную опасность для США и всего мира», но представитель китайского правительства ответил, что «разжигание страха, конфронтация и ожесточённая конкуренция лишь нарушат процесс глобального управления в сфере искусственного интеллекта, что не отвечает ничьим интересам». 

Некоторые комментаторы видят в этом заявлении Вашингтона и компании Anthropic, в котором Китай представлен как угроза, другой мотив. Инженер, работавший в компании Hugging Face, предположил, что призыв Амодея сдерживать развитие связано с желанием помешать прогрессу дешёвых китайских моделей искусственного интеллекта с открытым исходным кодом. 

Эти модели почти не уступают моделям OpenAI и Anthropic, с той лишь разницей, что их исходный код доступен всем, и они не взимают плату с пользователей.  Они представляют серьёзную угрозу для прибыльности Anthropic и OpenAI, а на кону стоят сотни миллиардов долларов, заключает The Guardian.