US-Präsident Donald Trump und sechs führende Tech-Konzerne haben bei einem Lunch eine Erklärung unterzeichnet, die Regeln für KI-Kontrollen festhalten soll. Mit dabei waren Google, OpenAI, Anthropic, Meta, xAI und Nvidia. Nachspeise: gefährliche, die Zivilisation bedrohende KI-Systeme. Kann ich einen Espresso dazu haben?

Die Apokalypse wird dann auch auf einer einzigen DIN-A-4-Seite abgewendet (wenn man von den Unterschriften mal absieht). Das Papier erklärt, dass jede Firma selbst verantwortlich sei, ihre Technologien sicher zu machen und so zu bauen, dass Nutzer Vertrauen zu den Produkten aufbauen. (Wer es noch nicht mitbekommen hat: Aktuell ist das nachweislich nicht der Fall, wie die jüngsten Ermittlungen der amerikanischen Handelsaufsicht und diverse Klagen, unter anderem von Florida gegen OpenAI, zeigen.)

Die Unternehmen sollten nach dem Willen des Papiers robuste interne Prozesse haben, die Sicherheitsprobleme verhindern oder im Ernstfall zumindest schnell aufspüren. Damit das sichergestellt ist, sollen die Unternehmen folgende Maßnahmen umsetzen:

1. Kontrollen sollen die Fähigkeiten und das Alignment von KI-Systemen in den Bereichen Cybersicherheit, Biosicherheit und chemische Bedrohungen überwachen. Die Modelle sollen nicht hacken oder sich auf anderem Wege unerlaubt Zugriff auf technische Systeme verschaffen.
2. Ein internes Team soll diese Sicherheitsmaßnahmen überwachen.
3. Ein unabhängiger Partner soll das überprüfen.
4. Zusätzlich soll ein unabhängiges Komitee aus dem „Board of Directors“ (damit ist häufig Aufsichtsrat und/oder Vorstand gemeint) die Berichte dieser Sicherheitsteams bekommen und deren Arbeit überwachen.

Die KI-Unternehmen sollten sich darüber hinaus regelmäßig treffen (wie sie es im kleineren Kreise bereits tun) und Standards und Best Practices entwickeln. Ist Trump aufgefallen, dass all diese Maßnahmen (von dem Directors Board vielleicht mal abgesehen) bereits von den KI-Unternehmen angekündigt wurden? Und die ersten beiden schon lange umgesetzt werden und trotzdem ständig alle möglichen Organisationen gehackt werden? Interessant ist auch, dass in dem ganzen Papier immer nur von „Wir glauben, dass [...] sollten“ die Rede ist – nicht von „wir werden“.

Doch das Papier schließt: Zusammengenommen würden diese Maßnahmen dazu führen, dass die Unternehmen, ihre Kunden und die Öffentlichkeit wieder auf die Sicherheit der KI-Systeme vertrauen könnten. Ende gut, alles gut.

Ach so, vielleicht könnte es sich in Zukunft als sinnvoll erweisen, diese Maßnahmen in Regularien oder Gesetzen festzuhalten, heißt es dann noch im vorletzten Satz. Vielleicht.

Ein pikantes Detail zum Schluss: Während Elon Musk beim Lunch zu Trumps Linken saß (Nvidia bekam den Platz zu seiner Rechten), saß Anthropic-CEO Dario Amodei sechs Plätze entfernt hinter Meta, Altimeter und Broadcom. Greg Brockman von OpenAI musste sich mit einem ähnlich abgeschlagenen Platz auf der anderen Seite des Tisches begnügen. Google durfte immerhin neben Musk Platz nehmen. Wer jetzt sagt, das sei doch unwichtig – der auf Trumps Truth Social veröffentlichte Sitzplan bekam mehr Likes und Kommentare als das ebenfalls dort gepostete oben erwähnte Papier. Die Leute haben wirklich kein Gefühl für Relevanz. Viel wichtiger wäre doch gewesen: Was gab es zu essen?

(rie)