Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания Anthropic решила не выводить на рынок свою более продвинутую модель искусственного интеллекта (ИИ), известную как Model 2, на фоне растущих опасений по поводу рисков в области безопасности. В последнем отчёте компания указала, что вероятность серьёзных негативных последствий от её систем остается низкой, но уже выросла по сравнению с предыдущими оценками.Источник изображения: ChatGPTПо данным отчёта, новые ИИ-модели демонстрируют заметный рост возможностей, включая более сложные задачи и улучшенные показатели в тестах. Однако разработчики признают, что не до конца понимают поведение таких систем и их потенциальные эффекты при масштабировании. Это стало одной из причин решения отложить релиз Model 2.

Отдельное внимание уделяется рискам в сфере кибербезопасности. В последние месяцы участились случаи, когда продвинутые ИИ-модели демонстрировали способность обходить ограничения или использовать уязвимости. Эти инциденты повлияли на пересмотр оценки рисков внутри компании и усилили осторожность при выводе новых моделей.

Решение Anthropic отражает более широкий тренд в ИИ-индустрии, где разработчики начинают замедлять внедрение наиболее мощных ИИ-моделей. Ранее аналогичные шаги предпринимали и другие компании, откладывая запуск новых ИИ-моделей из-за опасений по поводу их потенциальных возможностей в кибератаках и непредсказуемом автономном поведении.