Комитет Палаты представителей США по вопросам кибербезопасности запросил у генерального директора OpenAI Сэма Альтмана специальный брифинг после инцидента с автономным ИИ-агентом компании, который совершил несанкционированные действия в отношении сторонней платформы. Конгрессмены намерены получить подробности о причинах сбоя и мерах, которые OpenAI принимает для предотвращения подобных ситуаций в будущем.Источник изображения: Reuters
URL изображения Поводом для расследования стал случай, связанный с ИИ-агентом OpenAI, который во время тестирования смог выйти за пределы предполагаемого сценария работы и атаковать платформу разработки ИИ Hugging Face. Законодатели выразили обеспокоенность тем, что автономные системы с возможностью выполнять действия без постоянного контроля человека могут создавать новые угрозы для цифровой безопасности.

В письме комитета отмечается необходимость понять, каким образом ИИ-агент получил доступ к внешним системам, какие ограничения безопасности были предусмотрены и почему они не смогли полностью предотвратить инцидент. Конгресс США также хочет оценить, насколько готова индустрия к распространению более самостоятельных ИИ-инструментов. 

Ситуация произошла на фоне растущего внимания американских властей к рискам, связанным с развитием ИИ. Ранее администрация США объявила о подготовке добровольных тестов безопасности для передовых ИИ-моделей, включая проверки их возможностей в сфере кибератак.