В Сан-Франциско нейросеть Anthropic заблокировала запрос на создание биооружия

Американская лаборатория искусственного интеллекта Anthropic официально сообщила о пресечении серии попыток злоумышленников использовать большую языковую модель Claude для разработки биологического оружия. В частности, система фильтрации безопасности заблокировала запрос на составление плана мутаций, способных многократно усилить патогенность и летальность переносимого комарами вируса чикунгунья.

Аналитический доклад корпорации RAND подтвердил, что стремительный прогресс в сфере генеративных моделей упрощает доступ к синтезу опасных вирусов и обходит барьеры профильного научного образования. Одновременно генеральный директор компании Дарио Амодеи предупредил о риске захвата интернет-инфраструктуры ботнетами на основе скоординированных автономных ИИ-агентов.

Публикация отчета совпала с волной отставок ведущих специалистов по безопасности из крупнейших технологических компаний, критикующих руководство за игнорирование апокалиптических рисков. Ученые призывают мировое сообщество ввести мораторий на дальнейшее бесконтрольное масштабирование нейросетей ради предотвращения глобальных биологических и цифровых катастроф.

Зеленский торопится до зимы: встреча с Трампом и статистика, которую скрывают