En utskrift från Dagens Nyheter, 2026-10-04 12:14

Artikelns ursprungsadress: https://www.dn.se/varlden/lamnar-open-ai-inte-tillrackligt-forsiktiga/

Du vet väl att du kan skapa ett gratiskonto på DN? Som inloggad kan du ta del av flera smarta funktioner.

• Följ dina intressen
• Nyhetsbrev

David Robinson är den senaste i AI-branschen att sälla sig till dem som tycker att säkerhetsarbetet brister och att utvecklingen går för snabbt. I veckan slutade han på Open AI, där han arbetat i tre och ett halvt år. I sin senaste roll ledde han arbetet med säkerhetsrapporterna som publicerades inför varje lansering av AI-tjänster. På lördagen publicerades hans egen text i The Atlantic om de stora säkerhetsutmaningarna som han ser med techutvecklingen.

Vägen som techföretagen slagit in på kallar han för oacceptabel.

”De företag som utvecklar denna teknik är inte tillräckligt försiktiga”, skriver han.

Han är inte den första som lämnat ett stort AI-företag för att sedan kritisera riskerna med utvecklingen, som beskrivs gå i rasande fart. Forskaren Jacob Coxon, som tidigare arbetat på Anthropic, drog i gång den stora diskussionen om riskerna med teknikens utveckling tidigare i höst. Han sade då att de som bygger artificiell intelligens ”tror på allvar att det kan döda oss alla vid årtiondets slut”.

Det har också kommit larm om att techföretagen tillfälligt tappat kontrollen över tekniken när den testats i labb. Open AI:s egna AI-agenter tog sig in på ett annat företag på eget bevåg i somras.

En incident som Robinson är mycket kritisk till:

”Platser där det här sker är inte rätt plats för att utveckla artificiell intelligens.”

Robinson är inte den enda från AI-branschen som uttalade sig om det allvarliga säkerhetsläget på lördagen. Forskaren Geoffrey Irving, som jobbat på Open AI och techbolaget Deepmind, publicerade också en text på ämnet i tidsskriften Time. Han beskriver riskerna som ännu högre än det som kommunicerats. Enligt honom är det 50 procents chans att alla dör på grund av superintelligent AI i framtiden.

”Vårt agerande de kommande två åren kommer att avgöra hur det blir”, skriver han.

Geoffrey Irving vill att utvecklingen bromsas. Flera techbolag har i varit inne på samma spår i september.

Enligt Robinson finns det problem som sitter djupt rotade i dessa företags kulturer. Open AI har frodats på att försöka, misslyckas och sedan lösa problemen längs vägen. Det är en farlig inställning med tanke på vad tekniken kanske kan uppnå inom en snar framtid, enligt Robinson.

Han ser flera problem som behöver lösas. Dels lyssnar företagen för lite på den expertis som redan finns inom fältet. Dessutom behöver man ta ett steg tillbaka för att se till att det finns säkrare sätt att testa den nya tekniken, argumenterar Robinson. Han vill se en mycket noggrann hantering av tekniken, likt den som används runt kärnkraftverk.

Läs mer:

Expert: Nödstopp räcker inte för framtidens AI

De har AI-makten i sina händer – vågar någon av dem bromsa?

Kinesisk AI-bot gav instruktioner för att tillverka biologiska vapen