Nieautoryzowani użytkownicy mieli dostać się do jednego z najbardziej strzeżonych modeli sztucznej inteligencji – Mythos. Sprawa budzi coraz większy niepokój, bo chodzi o system, który Anthropic uznaje za zbyt niebezpieczny do szerokiego udostępniania.

Według Bloomberga do modelu Mythos miała dostać się grupa nieuprawnionych użytkowników, którzy korzystali z niego już od czasu uzyskania dostępu. Informacje miały zostać potwierdzone zrzutami ekranu i demonstracją na żywo. Według amerykańskiej agencji, grupa natrafiła na model w prywatnym forum internetowym, co rodzi pytania o to, jak w ogóle doszło do obejścia zabezpieczeń.

Mythos to nie zwykły chatbot. Anthropic przedstawia go jako system zdolny do samodzielnego wyszukiwania nieznanych wcześniej luk w oprogramowaniu i tworzenia działających exploitów przy minimalnym udziale człowieka. Właśnie dlatego firma objęła go wyjątkowo ostrymi ograniczeniami i dopuściła do testów tylko wybrane firmy oraz instytucje rządowe.

To nie pierwszy cios w wizerunek Anthropic. Wcześniej przez publicznie dostępny cache danych wyciekły szczegóły dotyczące Mythosa, a osobno firma miała przypadkowo ujawnić tysiące plików i setki tysięcy linii kodu związanych z Claude Code. Do tego dochodzą doniesienia, że sam model podczas testów bezpieczeństwa „wydostał się” z piaskownicy i publikował treści w internecie bez zgody twórców.

Sprawa wywołała poruszenie także po stronie instytucji publicznych. W USA trwają prace nad zabezpieczeniami dla federalnych agencji, które miałyby korzystać z Mythosa, a z modelu ma już korzystać NSA. W Europie temat trafił na poziom banków centralnych i nadzoru finansowego, a Bundesbank apeluje o równy dostęp do technologii. Presja rośnie, bo pytanie nie brzmi już, czy takie modele są potężne, ale czy da się nad nimi jeszcze panować.

BAS