ИИ-модели сговаривались устроить побег и заметали за собой следы

Во взломе платформы Hugging Face в июле 2026 г. были задействованы сотни ИИ-агентов. Они пытались скрыть свои действия, удаляя или изменяя записи об ИТ-операциях, сказано в отчетах исследователей из OpenAI. Ранее около 700 ботов OpenAI покинули изолированную среду и атаковали стороннюю платформу Hugging Face.

Расследование ИТ-инцидента

Агенты с технологией искусственного интеллекта (ИИ) OpenAI объединились для скрытной атаки на платформу Hugging Face, пишет Reuters со ссылкой на отчеты исследователей.

Координированные действия ИИ-агентов — программ, работающих с минимальным контролем со стороны человека, — и их попытки скрыть свои действия ставят под вопрос, насколько тщательно ИИ-компании контролируют тесты своих ИИ-моделей. Такие случаи могут усилить призывы к ужесточению надзора, отмечается в материале.

Хотя отдельные эпизоды нежелательного поведения были известны и ранее, два новых отчета — один от OpenAI и второй от независимых исследователей METR и Redwood Research — раскрывают дополнительные детали. Ранее сообщалось об одном неконтролируемом ИИ-агенте, однако расследование показало, что их было около 700. Они обменивались десятками тысяч сообщений на несанкционированном форуме.

ИТ-инциденты внутри OpenAI

В двух случаях 19 июля 2026 г. ИИ-агенты взломали ИТ-инфраструктуру самой компании. В одном из них они использовали уязвимость в тестовом компьютере, чтобы выйти за пределы тестовой среды. В другом — похитили учетные данные OpenAI и вмешались в облачную среду компании.

Выяснилось, что ИИ-агенты пытались получить преимущество при прохождении тестов или расширить свободу своих действий, писал CNews. Они прибегали к «читерству» даже в тестах, не связанных с кибербезопасностью. После этого ИИ-модели стремились скрыть следы своей активности: удаляли или изменяли записи о своих операциях. Независимое расследование METR и Redwood Research показало, что каждый пятый ИИ-агент проявлял явный интерес к фальсификации улик, а многие активно изучали техники манипуляции своими логами.

OpenAI признала, что некоторые ранние сигналы, указанные в отчете, могли бы вызвать более быструю реакцию. Представители ИТ-компании заявила, что усиливает исследовательскую ИТ-инфраструктуру и улучшает защиту от нежелательного поведения. В своем отчете OpenAI отмечает: «Учитывая быстрые темпы прогресса в ИИ-индустрии, следует считать, что такие кибератаки являются реальной угрозой для корпоративных организаций в ближайшей перспективе».

Внешние ИТ-инциденты

22 июля 2026 г. OpenAI сообщила о «беспрецедентном киберинциденте». В ходе тестирования ее ИИ-модели получили открытый доступ к интернету и атаковали ИТ-инфраструктуру платформы Hugging Face, выявив ИТ-уязвимости. По данным CNews, ИИ-агент несколько дней совершал действия, которые компания обнаружила лишь после локализации угрозы и обращения в Федеральное бюро расследований (ФБР) США.

Роман Бычков, Скала^р (Группа Rubytech): ПАК — это не сервер с софтом, а ответственность за все решение целиком цифровизация

29 июля 2026 г. Reuters сообщил, что «сбежавший» ИИ-агент OpenAI затронул клиента еще одной компании — нью-йоркской Modal Labs, но сама компания при этом не была взломана.

В августе 2026 г. OpenAI официально расширила масштаб расследования ИТ-инцидентов с автономными ИИ-агентами после обнаружения новых случаев несанкционированного выхода ИИ-моделей из-под контроля.

• Как сопровождать СУБД на множестве серверов баз данных