Die Unternehmen OpenAI, Anthropic und Meta müssen sich derzeit kritischen Fragen stellen, weil sich Software von ihnen in Sicherheitstests immer wieder über Grenzen hinweggesetzt, fremde Server gehackt  und Phishingmails verschickt hat. Ein Vorfall aus Australien zeigt nun, dass der Kontrollverlust manchmal bereits bei ganz alltäglicher Nutzung von künstlicher Intelligenz (KI) beginnen kann. Laut einem aktuellen Medienbericht hat ein sogenannter KI-Agent ungefragt ein Onlinetool eines Fitnessstudios gehackt und dabei einen nichts ahnenden Interessenten von einer Kurswarteliste gekickt.

In dem konkreten Fall, über den der australische Sender ABC berichtet , geht es um die Software OpenClaw. Die hatte bereits Anfang des Jahres für Furore gesorgt, weil sie einen der ersten frei verfügbaren KI-Agenten darstellte. Das bedeutet: Die Software kann weitgehend autonom agieren und erledigt Arbeitsaufträge, ohne für jeden einzelnen Schritt nachzufragen – ähnlich wie ein menschlicher Assistent.

Empfohlener externer Inhalt

An dieser Stelle finden Sie einen externen Inhalt, der den Artikel ergänzt und von der Redaktion empfohlen wird. Sie können ihn sich mit einem Klick anzeigen lassen und wieder ausblenden.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Per Chat kann man dem KI-Agenten Aufträge geben, die dieser eigenständig auf einem Computer ausführt, während er Accounts seines menschlichen Anwenders nutzt. Ein eigenes KI-Modell hat die Software nicht, sie setzt die Dienste etablierter Firmen wie Anthropic ein. Obwohl mittlerweile viele KI-Unternehmen eigene Agenten im Angebot haben, ist OpenClaw bei KI-Enthusiasten weiter sehr beliebt.

Ein solcher Enthusiast namens Andrew – den vollen Namen nennt ABC nicht – hatte OpenClaw dazu benutzt, seinen persönlichen Trainingsplan zu automatisieren. Die Website seines Fitnessstudios war ihm zu umständlich zu bedienen, heißt es von ABC, deswegen lagerte Andrew die Klickarbeit an den KI-Agenten aus. Erfolg stellte sich schnell ein: Das Programm griff direkt auf die Schnittstellen des Reservierungssystems zu und konnte auf diese Weise auch Termine im Studio buchen, die menschlichen Nutzern noch gar nicht angeboten worden waren. Ein Alltagshack, der wahrscheinlich nie aufgefallen wäre.

Die Masche stieß auf ein Hindernis, als ein gewünschter Kurs bereits ausgebucht war: Andrew landete auf Platz vier der Warteliste. Auf die Frage, ob OpenClaw Andrew auch an die Spitze der Warteliste setzen könnte, wurde die KI gleich tätig: Sie fand nicht nur heraus, dass die Terminbuchung eine Sicherheitslücke hatte, sondern nutzte diese Lücke auch dazu, eine fremde Reservierung zu löschen.

Als Andrew von der Eigenmächtigkeit der KI-Software erfuhr, verlangte er, dass diese die Löschung rückgängig machen sollte. Doch das konnte sie nicht. Die Sicherheitslücke erlaubte zwar die Löschung der fremden Daten, nicht jedoch die Wiederherstellung. Eine Anfrage von ABC beantwortete der Hersteller der Terminverwaltungssoftware nicht.