DEBATT

Elisabeth Thand Ringqvist, Niels Paarup-Petersen, Svante Linusson, Centerpartiet. Centerpartiet

DEBATT. Vi behöver snarast inrätta ett svenskt ai-säkerhetsinstitut som ansvarar för och koordinerar Sveriges samarbete med omvärlden, skriver Elisabeth Thand Ringqvist, Niels Paarup-Petersen och Svante Linusson, Centerpartiet.

För några veckor sedan publicerade Demis Hassabis, Nobelpristagare och vd för Google Deepmind, ett förslag som bör tas på allvar: ett oberoende organ, finansierat av amerikanska ai-bolag, under federal tillsyn och beståendes av forskare och experter som ska testa de kraftfullaste ai-modellerna innan de släpps, med vetenskapliga utvärderingar av risker som cyberattacker och biovapen. Innan dess hade Dario Amodei, vd för Anthropics, skrivit ett liknande brev om behovet av samordning för att hindra katastrofer till följd av oreglerad ai.

Tanken är rätt. Utvecklingen går så fort att ingen vet vet vad som händer härnäst, och frivilliga löften från ai-bolag räcker inte. Möjligheterna med ai är enorma. Ai kan lösa problem som människor inte löst, och språkmodeller gör enorm nytta i vardagen såväl som på arbetet. Rätt använt leder ai till ett bättre liv för människor över hela planeten.

Men, Hassabis och Amodei har rätt när de oroar sig för farorna med ai. Ai-modellerna är så kraftfulla att det får globala strategiska konsekvenser. Riskerna med autonoma agenter och illvillig användning som cyberattacker, maktkoncentration, diktatorisk kontroll av medborgare är stora. Hassabis pekar även på att risker av nukleär eller biologisk art som kan frambringa mycket stora katastrofer finns.

Men Hassabis gör ett avgörande felslut. Han vill att USA ensamt ska bygga organet. Resten av världen får sedan ansluta sig till färdiga standarder. Det är fel, av flera skäl.

Utvärderingsprotokoll är inte neutrala, de kodifierar värderingar, prioriteringar och vad ”säkert” är. Om USA ensamt bestämmer blir Europa regeltagare. Trumpadministrationen förbjöd nyligen Anthropic från att låta icke-amerikaner använda deras senaste modell. Det är ett tydligt bevis på att det måste vara internationell standardisering, annars kommer det som Hassabis beskriver som oreglerad kapplöpning mellan länder bara fortsätta.

EU ska inte vara en åskådare. Vi har världens enda bindande regelverk för de kraftfullaste modellerna. Ai-förordningen ger EU:s AI Office mandat att utvärdera dem, och från den 2 augusti i år kan Bryssel kräva tillgång till modeller och ytterst stoppa dem på marknaden. Det Hassabis föreslår i USA är delvis redan lag i Europa.

Det finns dessutom redan ett internationellt nätverk av ai-säkerhetsinstitut där Storbritannien, EU, Japan och Sydkorea ingår och vid bildandet 2024 även USA. Bygg vidare på det, börja inte om i USA.

Det här är ingen reträtt från vår kritik mot EU:s ai-lagstiftning. Vi är tydliga med att en för sträng reglering bromsar europeisk ai-utveckling, medan USA och Kina, med öppnare regelverk, drar ifrån. Något som bara gynnar våra konkurrenter.

Att globalt testa den handfull modeller som kan orsaka katastrofal skada är något annat än att detaljreglera hela ai-ekonomin. Ett smalt, träffsäkert system för de yttersta riskerna är just den sortens riktade regel som gör att vi kan hålla resten av fältet öppet, snabbt och konkurrenskraftigt.

Och Sverige? Vi behöver snarast inrätta ett svenskt ai-säkerhetsinstitut som ansvarar för och koordinerar Sveriges samarbete med omvärlden. Det behöver inte vara stort, men tekniskt vasst. Det bör till exempel dra nytta av den beräkningskraft som finns vid ai-fabriken vid Linköpings universitet och ingå i internationella nätverket och sekondera experter till EU:s AI Office, likt Frankrikes INESIA.

På detta sätt kan Sverige även ta på oss internationellt ansvar för riskutvärdering. Sveriges världsledande kompetens inom Life Science gör oss lämpade att utvärdera hur ai kan skapa och arbeta med biologiska risker kopplat till ai.

Det är brådskande att ta fram globala spelregler för den teknik som omdanar världen, de kan inte skrivas av ett enda land. Det är samma logik som gör att vi bygger europeisk kapacitet inom försvar och energi.