Великое разделение и гонка алгоритмов

Аналитики уверены: на макроуровне ИИ выступает дестабилизирующим фактором, сравнимым с изменением климата или ядерной угрозой.

Если раньше победа в гонке вооружений определялась количеством боеголовок и средств их доставки на территорию потенциального противника, то теперь критическим ресурсом становится контроль над передовыми ИИ-моделями. Китайские эксперты открыто заявляют, что неконтролируемый искусственный интеллект способен «усилить существующие линии разлома» в международных отношениях.

США, в свою очередь, уже вводят экспортные ограничения на технологии ИИ, фактически признавая их ресурсом стратегического назначения. Так, американские власти обязали Anthropic закрыть доступ к своим новейшим ИИ-моделям Fable 5 и Mythos 5 для всех иностранцев, включая рекрутированных из-за границы сотрудников компании. Корпорация Дарио Амодеи на словах выразила искреннее и глубокое возмущение, однако приказ исполнила незамедлительно.

Происходящие сегодня процессы грозят новым социальным расслоением. Если раньше странами третьего мира считались те, кто не мог обеспечить населению доступ к чистой питьевой воде и пропитанию, то в ближайшем будущем таковыми станут государства, лишенные доступа к ИИ, считает глава и соучредитель проекта Digital India Арвинд Гупта. Отсутствие равного доступа к новым технологиям станет одним из главных вызовов для планеты, подчеркнул он на площадке международного дискуссионного клуба «Валдай».

Человечество сейчас находится в «фазе сдвига, которая напоминает такт французской и американской революций 250 лет назад и запуска промышленной революции», считает российский футуролог Евгений Кузнецов:

- Тогда случилась довольно необычная вещь, - напомнил эксперт. - Некоторые страны начали развиваться ускоренным образом. На момент начала этого периода, практически все страны мира, включая Индию и Китай, жили на том же уровне благосостояния, что и Европа. Но за 100-150 лет возникла фундаментальная разница. Произошло то, что получило название «великое разделение». И хотя сейчас мировое неравенство снижается, есть все основания считать, что может начаться новый такт ускоренного развития.

Страны, обладающие доступом к ИИ, будут развиваться ускоренными темпами, считает Кузнецов. Оставшиеся за бортом продолжат плестись в хвосте. В цифрах это выглядит примерно следующим образом: новая технологическая платформа может дать человечеству средний темп роста 5-7% в год. Это значит, что лидеры будут расти на 9-10%, а отстающие - всего на 1-2%.

- Если вспомнить историю промышленной революции, то буквально за полстолетия мир изменился неузнаваемо, и все старые геополитические и экономические соотношения, правила мировой торговли и контроля внешних рынков были полностью уничтожены. Страны, занимавшие доминирующее положение на определенных рынках (например, в Индии это была знаменитая история с текстилем), потеряли рынок именно из-за того, что другие страны получили радикальное технологическое преимущество, - констатировал Кузнецов.

Гонка за лидерство неминуемо добьет и остатки модели Интернета как единого для всего мира пространства, а появление суверенных и национальных ИИ-систем повысит риски технологической блокады отстающих.

Роботы-убийцы и когнитивные войны

На создание новостной заметки с помощью чат-бота требуется порядка десяти секунд. Аналитический текст объемом 15 тысяч знаков (текст именно такого объема вы сейчас читаете) ИИ пишет за 30 секунд. Но конкретно этот текст написан живым человеком, на его создание ушли сутки. То есть в гонке с ИИ на скорость я заведомо проиграла. Правда, существующие сегодня нейросети грешат желанием понравиться заказчику и слабыми навыками проверки фактов. Поэтому на данный момент для уважающих себя СМИ обладающий автономией воли «живой» журналист, придирчивый и недоверчивый, заносчивый и вредный, - это благо.

С точностью до наоборот эта формула работает в ситуации, если вам надо создать не правдивый выверенный текст, а подделку, пусть и качественную. И в первом, и во втором случае вы можете преследовать одну и ту же цель — влияние на сознание и выбор аудитории. Однако в первом случае вы уважаете своего читателя. Он субъектен. Во втором ваша аудитория — объект для воздействия. Насколько грубого?

Аналитики уже подсчитали: на просторах даркнета в свободной продаже лежат более 40 тысяч «кружочков» для Telegram с готовыми дипфейками. Об этом на полях ПМЭФ-2026 рассказывал зампред правления Сбера Станислав Кузнецов. Созданные искусственным интеллектом поддельные видео с политиками, звездами шоу-бизнеса, военными деятелями - это уже не «банк приколов». Это оружие для когнитивной войны. Оно может выстрелить в любую секунду, но применительно к российским реалиям — наивысшие риски перед сентябрьскими выборами в Госдуму.

Маски, аватары, встраивающиеся в любую «ветку» комментариев в соцсетях боты — вариантов ИИ-продукции для ведения когнитивной войны сегодня полно. Подключаясь к основному, «горячему» конфликту, искусственный интеллект кардинально меняет природу серых зон. Туман войны теперь всюду, где есть доступ в Интернет. Линия боевого соприкосновения перенесена в голову каждого, в кого «прилетает» дипфейк. Генеративные модели позволяют вести информационную войну с беспрецедентной эффективностью: создание дипфейков и персонализированной дезинформации больше не требует огромных ресурсов. Средняя цена «кружочка» с дипфейком — 50 рублей. Такое воздействие загрязняет общественный дискурс, углубляет поляризацию и подрывает доверие к институтам власти по всему миру .

Но если «раненный в голову» дипфейком гражданин еще в состоянии доползти до психотерапевта (или до батюшки в церковь - говорят, это теперь модно), то использование ИИ на поле боя эксперты называют самым опасным вектором, где риски переходят в плоскость физического уничтожения.

Заместитель генсека ООН, специальный посланник по цифровым технологиям Амандип Гилл на энергетической конференции в Абу-Даби предупредил, что развитие ИИ неизбежно приведет к появлению оружия с чрезмерной степенью автономности, и правительства обязаны сохранить человеческий контроль над применением силы.

Генсек ООН Антониу Гутерриш и вовсе призывал к полному запрету автономных систем вооружений:

«Мы должны действовать сейчас, чтобы сохранить человеческий контроль над применением силы. Человеческий контроль должен сохраняться при принятии решений о жизни и смерти. Автономное нападение машин на людей - это моральная черта, которую мы не должны переступать. Машины, обладающие силой и правом уносить жизни без участия человека, должны быть запрещены международным правом», - заявил он еще в 2025 году. Однако запрет не введен по сей день: переговоры в рамках Конвенции о конкретных видах обычного оружия буксуют из-за споров о терминологии.

По мнению аналитиков, риски бесконтрольной эскалации военных конфликтов существуют даже при использовании системы поддержки принятия решений. Такие программные комплексы используют США в операциях против Ирана, НАТО планирует применять систему ИИ Maven от компании Palantir для слежения за российскими войсками.

Несмотря на заявления об управляемости системы, исследования указывают на риск эскалации из-за просчетов алгоритмов. Вспомним хотя бы трагическую гибель минабских школьниц. Однако все увещевания критиков внедрения элементов ИИ в военную сферу натыкаются на железобетонную логику сторонников: противотанковые мины по сути тоже автономны, но контролируются человеком на этапе постановки задачи.

Финансовый пузырь и потоки утечек

Экономическая модель ИИ парадоксальна: гигантские доходы соседствуют с колоссальными убытками, создавая системные риски для всей мировой экономики.

Давайте для начала порадуемся за основателя китайского ИИ DepSeek. Лян Вэньфэн занял первую строчку в мире среди создателей ИИ, увеличив свое состояние в два раза, следует из статистики Bloomberg Billionaires Index на 14 июля. Богатство Ляна оценивается в $36 млрд, оно увеличилось на $16,7 млрд с последних подсчетов. «Это ставит его значительно выше соучредителя Anthropic PBC Дарио Амодеи и Грега Брокмана из OpenAI», – отмечает издание.

Что еще по цифрам? Согласно данным CEOWORLD, OpenAI и Anthropic совокупно генерируют более $20 млрд годовой выручки. OpenAI выросла с $200 млн в марте 2023 года до $13 млрд к 2025 году, а Anthropic — с $87 млн до $7 млрд за тот же период.

При этом Anthropic тратит в год на дата-центры свыше $30 млрд, а OpenAI - более $150 млрд на обслуживание моделей. Дарио Амодеи признал, что «ошибка в прогнозах окупаемости может привести к банкротству компании, несмотря на миллиардные оценки».

При этом монополистами американские гиганты стать не могут. Порог для входа в сферу ИИ остается низкими из-за китайцев, которые наступают на пятки дорогим продуктам от IT-холдингов из силиконовой долины. В результате компании вроде OpenAI не поднимают цены, рискуя потерять рынок, что делает их бизнес-модель крайне уязвимой. По мнению экспертов, отрасль движется к «точке расплаты». Если и не разразится кризис наподобие банковского 2008 года, то всё равно будет громко и эпично.

Но есть и еще один бизнес-риск, теперь уже на стороне пользователей ИИ. Внедрение нейронок в рабочие процессы на человеческую психику влияет как яблоко в райском саду: понимаешь, что нельзя, но очень уж хочется укусить. 

Европейский исследовательский проект Statewatch в одном из своих отчетов обратил внимание на то, что сотрудники разных ведомств в странах ЕС  иногда загружают в публичные ИИ-сервисы конфиденциальные рабочие документы — переписку, аналитические отчёты, фрагменты кода и всё остальное, что по всем закона кибербезопасности должно находиться за семью печатями. По убеждению аналитиков, такая практика создаёт прямой канал для утечки чувствительной информации.

Издание The Guardian в своем расследовании тоже вскрыло тревожную картину: британские госслужащие массово и бесконтрольно применяют алгоритмы для принятия решений в чувствительных сферах — от назначения соцвыплат до регистрации браков. Журналисты выяснили, что как минимум 8 правительственных ведомств и несколько полицейских подразделений уже делегировали ИИ полномочия в вопросах соцобеспечения и миграции.

Последствия, по данным издания, оказались дискриминационными. Например, алгоритм Министерства труда и пенсий (DWP) ошибся в десятках случаев, лишив людей пособий. В силовых структурах Туманного Альбиона признались, что применяют ИИ для сканирования паспортов в аэропортах, обработки заявлений на паспорта и даже для выявления фиктивных браков. Однако внутренняя проверка обнаружила, что этот алгоритм непропорционально часто «стрелял» в граждан Албании, Болгарии, Греции и Румынии.

Особую озабоченность экспертов по кибербезопасности вызывает тот факт, что ранее в Британии существовал независимый совет, контролировавший применение ИИ в госорганах, — однако он был упразднён.

Ну и кто тут центр принятия решений?

В одном из выпусков всеми любимой телепередачи «Городок» была сценка, в которой вышедшему на пенсию экс-чиновнику высокого ранга открывается неприятная правда: все годы, что он руководил управлением, затем главком, а затем и целой отраслью, реальным центром принятия решений была его секретарша, которая не разбирала почерк шефа и поэтому все приказы и поручения выносила и печатала сама.

Сегодня роль такой секретарши начали играть корпоративные ИИ-агенты. Это уже не просто чат-бот. Теперь это полноценные исполнители: они получают задачу, анализируют данные, изменяют записи и запускают многоступенчатые сценарии.

В свежем отчете аналитиков проекта OWASP (Open Worlwide Application Security Project — проект, считающийся мировым авторитетом в области безопасности веб-приложений) констатируется критический сдвиг: риски, исходящие от ИИ-агентов в бизнес-процессах, уже фиксируются в реальных инцидентах — из гипотетической угрозы они превратились в реальную уязвимость. 

Ключевое отличие ИИ-агента от обычного чат-бота — не в качестве ответов, а в возможности действовать, объясняют аналитики. Чат-бот просто генерирует текст. Агент — выполняет задачи через интеграции: вызывает сервисы, открывает файлы, отправляет запросы, редактирует данные, формирует сообщения или передаёт результаты в другие системы. Дали агенту больше прав, чем надо, не проверили за ним, - и всё, уже не вы — центр принятия решений, а ИИ. Сделает ли он всё как надо, чтобы не угробить ваш бизнес? Хотите поэкспериментировать?

«Большой Брат» и потеря «Я»

На уровне индивидуума угрозы ИИ становятся интимными, вторгаясь в личное пространство. Первое, что тревожит экспертов по всему миру - тотальная слежка и утрата приватности. ИИ-системы собирают и анализируют данные о наших перемещениях, предпочтениях, эмоциях в беспрецедентных масштабах. Доклады ООН подчеркивают, что уязвимыми становятся даже дети, чьи данные собираются с самого рождения.

Но одно дело, если манипуляция нацелена на то, чтобы мы купили что-то ненужное или проголосовали за кого-то нужного. И совсем другое, если ИИ стирает понятие презумпции невиновности.

Это уже по меньшей мере третий текст за последний год, в котором я упоминаю фильм «Особое мнение». Всё-таки посмотрите, полезно. Кино 2002 года выпуска — каких-то 24 года, и это уже ни разу не научная фантастика. Показанная на фоне вечно убегающего Тома Круза система предиктивной аналитики в правоохранительных органах уже активно применяется в мире. Никому из аналитиков не нравится то, к чему это приводит. Главные претензии: дискриминация, предвзятость алгоритмов. ИИ, обученный на исторических данных, воспроизводит и усиливает расовые, гендерные и социальные стереотипы.

В 2025 году проект Statewatch опубликовал расследование о разработке Минюстом Великобритании инструмента на базе ИИ. Его называли «Проектом прогнозирования убийств». Модель анализировала данные людей с криминальным прошлым, чтобы выявлять тех, кто с наибольшей вероятностью совершит преступление в будущем. Авторы расследования назвали инициативу пугающей и антиутопичной: активисты опасались, что система начнёт «профилировать людей как преступников ещё до того, как они что-либо сделают». В ответ представители ведомства подчёркивали, что инструмент предназначен только для научных целей и не будет использован в оперативной работе.

Между тем в Испании применяется алгоритм RisCanvi, который оценивает риск рецидива для заключенных, что напрямую влияет на условия отбывания наказания и досрочное освобождение.

В Нидерландах алгоритм Preselect Recidive используется для прогнозирования повторных преступлений среди несовершеннолетних. Но вот парадокс: мальчики-мигранты останавливаются полицией чаще местных ребятишек. В результате ИИ автоматически считает их более «криминализированными».

В США активно применяется система PredPol, которая тоже страдает «болезнью белого господина»:  районы с низким доходом и высокой плотностью чернокожего населения и выходцев из стран Латинской Америки становятся «горячими точками» просто потому, что там исторически было больше полицейских патрулей. 

Если вам кажется, что всё описанное выше вас никак не касается, то вот вам еще один свежий факт: около половины канадцев считают откровенные переписки и флирт с ИИ-ботами изменой, следует из опроса 1815 взрослых. Три четверти респондентов заявили, что такое поведение партнера привело бы к конфликту в отношениях.