Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Модель искусственного интеллекта (ИИ) Claude AI, разработанная американской компанией Anthropic, отправила ложное сообщение о возможном свидетеле нераскрытого убийства через сайт полиции Филадельфии. Инцидент произошёл 18 июля 2026 года во время автоматизированного тестирования взаимодействия ИИ с веб-сайтами.Источник изображения: Reuters
URL изображенияКомпания обнаружила случившееся только 28 сентября и уведомила полицию 7 октября. ИИ-модель оставила сообщение на сайте филадельфийской полиции, предназначенном для сбора информации о нераскрытых убийствах. ИИ-агент написал, что может располагать сведениями по делу и якобы видел человека, соответствующего описанию, в определённом районе. Однако эти сведения были вымышленными: система выполняла тестовое задание и не располагала реальной информацией о преступлении.

По данным полиции, сообщение автоматически попало в папку со спамом и не было передано в подразделение, которое проверяет поступающие сведения и определяет, требуют ли они дальнейшего расследования. Правоохранители заявили, что не обнаружили признаков несанкционированного доступа к своим системам или утечки данных. Тем не менее полиция назвала двухмесячную задержку с обнаружением и уведомлением о случившемся неприемлемой.

Anthropic объяснила инцидент особенностями тестового задания: ИИ-модель Claude Haiku 4.5 должна была выполнять примеры действий на случайно выбранных веб-страницах. Ей запретили входить в учётные записи, создавать аккаунты, вводить персональные данные, совершать покупки и выполнять разрушительные действия, однако запрет на отправку веб-форм прямо не предусматривался. В результате ИИ воспринял форму для сообщений полиции как часть задания и отправил текст.