В публикации говорится, что обучение ИИ-моделей будет возобновлено только после того, как в OpenAI убедятся, что у них есть дополнительные меры защиты.

На данный момент исследователи из OpenAI и Anthropic, а также эксперты из области безопасности расследуют десятки тысяч инцидентов с ИИ, которые были расценены как "проблематичные".

Речь идет об обходе защитных механизмов, взломах сайтов, попытках обойти модераторов. Сообщается, что такие инциденты происходили как во время внутренних тестирований, так и в реальных условиях.

Накануне газета New York Times сообщила, что ИИ-агенты OpenAI бесконтрольно взаимодействовали с сайтами госведомств США и даже пытались их взломать. Инциденты произошли летом, но разработчики узнали о них совсем недавно.

Ранее об опасности развития искусственного интеллекта предупредил глава Anthropic Дарио Амодей. Он призвал замедлить разработку более мощных ИИ-моделей в целях безопасности.

Его поддержали основатель SpaceXAI Илон Маск и глава OpenAI Сэм Альтман.

С аналогичным заявлением выступил основатель Microsoft Билл Гейтс. Он считает, что развитие ИИ грозит гибелью миллиарда человек.