Администрация США завершила разработку программы добровольного тестирования безопасности искусственного интеллекта (ИИ), направленной на оценку рисков, связанных с наиболее мощными ИИ-системами. Об этом сообщил представитель Белого дома.Источник изображения: Reuters
URL изображенияВ рамках инициативы планируется проверять возможности моделей в сфере кибербезопасности, включая их способность выявлять уязвимости и потенциально использоваться для атак. К обсуждению новой системы Белый дом пригласил крупнейшие технологические компании, включая OpenAI, Google и Anthropic. Представители отрасли должны обсудить детали механизма оценки и возможные стандарты проверки перед выпуском новых моделей.

Решение стало частью более широкой стратегии Вашингтона по усилению контроля за развитием ИИ на фоне роста опасений по поводу его использования в кибератаках. Власти США уже отмечали, что современные ИИ-системы способны выполнять сложные задачи, которые могут представлять угрозу для критической инфраструктуры, бизнеса и государственных организаций. 

При этом новый подход остаётся добровольным и не вводит обязательного государственного разрешения на выпуск ИИ-продуктов. В администрации подчеркивают, что цель инициативы – наладить сотрудничество с разработчиками, не замедляя технологические инновации. Компании смогут предоставлять модели для оценки рисков и получать рекомендации по повышению уровня защиты.