„Es gibt keinen Hochrisikotechnologie-Bereich, der so wenig völkerrechtlich geregelt ist wie der Bereich der KI“, sagt Silja Vöneky. Die Jura-Professorin forscht an der Universität Freiburg zur Regulierung neuer Technologien. Zum einen könnten sich KI-Agenten möglicherweise verselbstständigen, zum anderen bestehe das Risiko, dass verbrecherische Menschen, Gruppen oder Staaten KI-Modelle nutzen, um beispielsweise Cyberangriffe durchzuführen oder Bio-Waffen zu entwickeln. „Es ist aber Aufgabe von Regierungen und Staaten, hohe Risiken einzuhegen und die Bevölkerung davor zu schützen“, sagt Vöneky. „Zudem gibt es meines Erachtens eine menschenrechtlich verankerte Schutzpflicht, also eine Rechtspflicht der Staaten, basierend auf geltenden internationalen Menschenrechtsverträgen.“

Vöneky hält internationale Verträge zur Regulierung von KI für möglich. Diese könnten etwa eine Expertenkommission vorsehen, die Risiken und Nutzen von KI-Frontier-Modelle abschätzt, bevor sie auf den Markt gebracht werden dürfen. Vöneky hat bereits 2022 gemeinsam mit Thorsten Schmidt einen Vorschlag publiziert, der auch einen Fonds vorsieht, in den ein sogenanntes regulatorisches Kapital von Unternehmen eingezahlt werden muss, bevor ein Hochrisiko-Modell auf den Markt gebracht werden kann. „Damit sollen Schäden abgesichert werden, die in den folgenden fünf Jahren auftreten könnten – als Absicherung für die Bevölkerung, aber auch als ein Anreiz für das Unternehmen, genau diese Risiken zu vermindern. Denn wenn keine Schäden in dieser Zeit auftreten, muss und darf das Kapital an das KI-Unternehmen zurückgezahlt werden.“

Bisherige Ansätze zur Regulierung von KI wie etwa der EU AI Act gingen zwar in die richtige Richtung, seien aber zu kompliziert und gleichzeitig nicht wirkungsvoll genug: „Anders als im Bereich der Arzneimittel-Zulassung gibt es zum Beispiel kein echtes Zulassungsverfahren und kein ergänzendes spezifisches Haftungsregime.“ Besser funktionierten etwa die Normen für autonome Fahrzeuge. Dieses Beispiel zeige auch, dass Regulierung nicht notwendig dem Wettbewerb schade – im Gegenteil: „Klare, verhältnismäßige und nicht zu komplexe Regelungen helfen uns allen, auch weil sich Industrie, Forschung und Entwicklung darauf einstellen können.“

Prof. Dr. Silja Vöneky ist Professorin für Völkerrecht, Rechtsvergleichung und Rechtsethik der Universität Freiburg. Sie forscht im Bereich des Völkerrechts und betreibt seit 2005 interdisziplinäre Forschung zur Regulierung neuer Technologien, vor allem der Biomedizin, Biotechnologie und KI. Sie leitet unter anderem einen Teilbereich des Forschungsprojektes „ReScale: Responsible and Scalable Learning for Robots Assisting Humans“ an der Universität Freiburg.

Silja Vöneky steht für Medienanfragen zur Verfügung: voelkerrecht@jura.uni-freiburg.de