Das Video sah aus wie eine Ausgabe der ZDF-Talkshow von Markus Lanz. Im vertraut wirkenden Studio pries eine angebliche Finanzexpertin eine Investmentplattform an. Nur hat diese Sendung nie stattgefunden, das Video war laut Polizei KI-generiert.

Eine Frau aus Lichtenberg in Sachsen überwies zunächst knapp 250 Euro an die Plattform, später einzelne Beträge bis über 460.000 Euro, insgesamt mehr als eine Million. Anfang Juli zeigte sie den Fall an, seither ermittelt die Kriminalpolizei Chemnitz wegen Betrugs.

An diesem Sonntag, dem 2. August, greift in der EU eine Regel gegen genau solche Täuschungen. Künstliche Intelligenz muss sich zu erkennen geben. So verlangt es Artikel 50 der europäischen KI-Verordnung, bekannt als AI Act. Die Pflichten treffen Unternehmen und KI-Anbieter, nicht private Nutzerinnen und Nutzer.

Von diesem Gesetz war zuletzt vor allem zu lesen, es werde aufgeweicht. Das stimmt nur zur Hälfte. Die EU hat mit ihrem Lockerungspaket namens Digital Omnibus tatsächlich große Teile verschoben, teils auf Ende 2027, teils auf 2028. Das betrifft aber die aufwendigen Pflichten für Systeme, die über Menschen mitentscheiden, etwa bei Bewerbungen oder Krediten. Die sichtbaren Hinweispflichten behalten ihren Termin an diesem Wochenende. Übergangsfristen gibt es nur für technische Details älterer Systeme.

Die zweite Pflicht betrifft Bilder, Videos und Stimmen. Wer beruflich täuschend echte KI-Aufnahmen veröffentlicht, sogenannte Deepfakes, muss ihre künstliche Herkunft offenlegen. Bei erkennbar künstlerischen oder satirischen Werken darf der Hinweis so dezent ausfallen, dass er das Werk nicht stört. Die maschinenlesbaren Markierungen in den Dateien selbst, etwa unsichtbare Wasserzeichen oder Herkunftsdaten, sind Sache der Hersteller wie OpenAI oder Google.

Lückenlos ist das nicht. Solche Markierungen lassen sich mit frei verfügbaren Werkzeugen beschädigen oder entfernen, die Plattformen rüsten ihrerseits mit eigener Erkennung nach. Es ist ein Wettlauf, und er hat gerade erst begonnen.

Wer gegen die Hinweispflichten verstößt, riskiert Bußgelder bis 15 Millionen Euro oder drei Prozent des Jahresumsatzes. Die oft zitierten 35 Millionen betreffen Praktiken, die ganz verboten sind, etwa Punktesysteme, die Menschen für ihr Alltagsverhalten benachteiligen.

Der Hinweis macht die Maschine sichtbar, ihre Antworten macht er nicht wahr. Das zeigt ein Urteil des Oberlandesgerichts Hamm vom Mai. Der Chatbot eines Anbieters von Schönheitsbehandlungen hatte Facharzttitel für die Geschäftsführung erfunden. Das Unternehmen müsse sich diese Angaben zurechnen lassen, entschied das Gericht nach einer Klage von Verbraucherschützern, auf Grundlage des Wettbewerbsrechts. Das Gericht hat die Revision zum Bundesgerichtshof zugelassen, das letzte Wort ist damit womöglich noch nicht gesprochen. Für Verbraucherinnen und Verbraucher zählt die Richtung: Eine Firma kann sich nicht darauf zurückziehen, dass die Maschine es war.

In Sachsen laufen unterdessen die Ermittlungen. Das nächste gefälschte Studio-Video wird wieder keinen Hinweis tragen. Die Systeme, die es trotzdem sichtbar machen sollen, sind gerade erst angelaufen.