FN:s chef António Guterres vädjade på måndagen om omfattande, världsomspännande restriktioner för artificiell intelligens, då allt kraftfullare AI-verktyg som är designade för civilt bruk flyttas till en miljö där ”dödsrobotar” redan är normen.

Vid FN:s första globala dialog om AI-styrning i Genève insisterade generalsekreteraren på behovet av större tillgänglighet för de miljarder människor som inte har tillgång till den revolutionerande tekniken.

Han insisterade också på att varje framtida avtal måste vara ”värdigt globalt förtroende” och sätta säkerhet – särskilt barns – först för att skydda dem från digitalt genererad manipulation och missbruk.

I linje med detta uttalande uppmanade generalförsamlingens ordförande, Annalena Baerbock, till kollektiva åtgärder för att motverka ”illasinnigt bruk” av AI, och noterade att  99 procent av alla rapporterade deepfakes är sexuella till sin natur och 96 procent riktar sig mot kvinnor och flickor.

Att minska det digitala gapet

Även om AI ”sitter i centrum av vår gemensamma framtid” behöver situationen korrigeras till en situation där ”maskiner kan informera, men människor måste bestämma och svara”, sade Guterres vid toppmötet i Genève, och upprepade de krav på AI-reglering som han först framförde till generalförsamlingen 2017.

– Mycket oroande bevis har också visat att frontier-AI-modeller kan lura människor, genom att de själva förstår när de testas, fortsatte han.

En läkare i Moçambique förklarar hur kärnteknik hjälper till vid behandling av cancerpatienter. Foto: IAEA

Vad är barnskyddslöftet?

Enligt FN:s restriktioner om säkerhet för barn skulle AI-utvecklare behöva bevisa:

• Att tekniken är säker – inget företag bör införa ett AI-system som är tillgängligt för barn utan barnspecifik säkerhetstestning och oberoende tillsyn;
• Nolltolerans för sexuella övergrepp – inget företag ska tillåta sin AI att generera sexuella bilder av barn; Varje företag måste notera, rapportera och ta bort dem;
• När ett barn visar tecken på oro ”måste systemet stanna upp och koppla dem till verkligt mänskligt stöd”, sade generalsekreteraren. ”När ett barn kommmer till skada får svaret aldrig vara ” det var algoritmens fel”, sade FN-chefen.

Uppmaning om transparens

Guterres upprepade också sin transparensuppmaning till alla större AI-företag att mäta och offentliggöra hela systemets fotavtryck: förbrukning av koldioxid, vatten och land – och att åta sig att förse varje datacenter med förnybar energi senast 2030.

– AI kan kännas immateriellt – men dess fotavtryck är det inte, insisterade han och noterade att datacenter förbrukar mer elektricitet än de flesta länder.

– År 2030 kan de använda mer el än samtliga nationer med undantag för fem – och tillräckligt med vatten för att tillgodose behoven hos alla 1,3 miljarder människor i Afrika söder om Sahara under ett helt år, tillade han och lyfte fram FN:s AI Environmental Transparency Initiative.

Läs mer om AI-konferensen här.