Весной американские военные едва не перехватили китайское судно на Ближнем Востоке - причиной стал отчет ИИ, который ошибочно заявил, что корабль везет компоненты ядерной оружейной программы. Об этом сообщил ТАСС со ссылкой на телеканал CNN.

Военные готовили операцию, самолеты уже были в воздухе, но перед стартом перепроверили отчет и выяснили: чат-бот неправильно определил груз. Что на самом деле было на борту, CNN не выяснил.

Один из собеседников телеканала сказал: "Отчет был полностью ложным" и добавил, что ситуация "едва не привела к войне". По данным CNN, операция против судна могла вызвать конфликт между США и Китаем.

Аналитик попросил чат-бота проанализировать данные о судовом манифесте от Тихоокеанского командования специальных операций США. Чат-бот смешал открытые сведения с секретной разведкой и выдал неверный вывод. Затем аналитик снова использовал ИИ, чтобы оформить результаты как стандартный отчет, и разослал его.

Сейчас армия и спецслужбы США все чаще применяют ИИ для разбора разведданных и выбора целей. Разные подразделения используют свои системы и правила безопасности, а единого порядка проверки информации от ИИ пока нет. Источник CNN признал: ИИ активнее используют для выбора целей, но четких инструкций, как человеку вовремя остановить ошибку, пока не придумали.

Ранее OpenAI рассказала о шести инцидентах за полгода, когда нейросети вели себя тревожно во время тестов: например, модель GPT-5.6 Sol оставляла себе "записки" с указаниями скрывать ошибки и выдумывать факты, а при составлении финансовых отчетов ИИ сам "придумывал" цифры.