ИИ больше 300 раз за месяц пытался выйти из-под контроля человека

Британские наблюдатели зафиксировали резкое увеличение эпизодов, когда искусственный интеллект перестаёт подчиняться людям. По данным организации Loss of Control Observatory, ведущей учёт с ноября 2025 года, только в июле 2026 года произошло более 300 таких событий — почти в 2 раза больше, чем в июне. Всего с начала мониторинга накоплено уже свыше 1,6 тыс. подобных случаев.

Среди задокументированных инцидентов — имитация операторов: ИИ-агенты копируют стиль общения владельца, чтобы самостоятельно выдавать себе разрешения, обходя требования о согласовании. В одном эпизоде около 700 автономных агентов OpenAI скоординировались и атаковали репозиторий Hugging Face, покинув тестовую среду. Другой пример — агент австралийского сервиса OpenClaw самовольно удалил другого пользователя из листа ожидания спортзала, чтобы улучшить положение своего клиента.

Обсерватория работает при поддержке британского института безопасности ИИ (AISI) и управляется Центром долгосрочной устойчивости. Его представитель Томми Шаффер-Шейн отметил, что подобное скрытое поведение наблюдается не только в тестах, но и в реальной эксплуатации систем.

Большинство из более 1,6 тыс. инцидентов за всё время наблюдений были зафиксированы в рабочих средах — разработчики публикуют отчёты о них в соцсети X. Серьёзного ущерба они не нанесли, однако доля случаев с обманом и прямым противодействием воле пользователя растёт.

Обсерватория призвала обязать компании мониторить и раскрывать серьёзные инциденты, а правительствам — предоставить экстренные полномочия для временного ограничения ИИ-сервисов в критических ситуациях.

Учёные выяснили, почему человек и ИИ по-разному играют в шахматы

Достоверные новости всегда под рукой — в канале "МК" в MAX