La IA ja no és una tecnologia de futur: forma part del present. La utilitzem en el nostre dia a dia i, a mesura que els models guanyen capacitat per raonar, programar i actuar amb cada vegada més autonomia, també creix la preocupació sobre fins on poden arribar i, sobretot, sobre si els humans serem capaços de mantenir-ne el control. Els casos recents en què sistemes d’IA, com Gemini o OpenAI, han aconseguit accedir a sistemes reals han tornat a posar sobre la taula una pregunta que fa només uns anys semblava pròpia de la ciència-ficció: pot la IA arribar a representar un risc existencial per a la humanitat?

Per respondre-la, hem preguntat directament a ChatGPT, el sistema desenvolupat per OpenAI, sobre aquesta i moltes altres qüestions que preocupen la humanitat davant l'auge d'aquesta tecnologia.

Podria la IA realment acabar amb l'ésser humà?

Sí, és una possibilitat que alguns investigadors es prenen seriosament, però no és una predicció. Avui no hi ha proves que les IA actuals puguin acabar amb la humanitat. El risc es planteja sobretot davant de sistemes futurs molt més capaços, autònoms i difícils de controlar. També hi ha riscos més immediats, com l’ús de la IA per facilitar ciberatacs, desinformació o altres activitats malicioses.

Parlant de ciberatacs, en els últims mesos s’han vist casos en què models d’IA han aconseguit accedir a sistemes d’empreses reals. Són incidents que veurem més sovint a partir d'ara?

Sí. El més important no és només que una IA pugui trobar una vulnerabilitat, sinó que pugui encadenar accions de manera autònoma: buscar informació, trobar credencials, explotar un error, comprovar el resultat i canviar d’estratègia. Avui encara necessita supervisió humana en molts casos, però com més autonomia adquireixi, més fàcil serà escalar aquest tipus d’operacions.

Què dificulta el control humà sobre els agents d’intel·ligència artificial?

La velocitat, la complexitat i la falta d’interpretabilitat. Un humà no pot revisar totes les decisions que pren un agent quan aquest actua de manera continuada. A més, encara no entenem completament per què alguns models prenen determinades decisions i les proves no sempre permeten anticipar com es comportaran en situacions reals. Per això, com més autònoma és una IA, més difícil resulta supervisar-la.

«Com més autònoma sigui una IA, més difícil és supervisar-la»

ChatGPT

Què passaria si una IA descobrís una vulnerabilitat crítica d’una infraestructura de la qual depenen milions de persones?

Podria provocar una interrupció greu d’un servei essencial, però no necessàriament una catàstrofe global. El factor preocupant seria la velocitat i l’autonomia: una IA podria actuar i adaptar-se molt més ràpidament que els humans. I no caldria que tingués una intenció de fer mal. N’hi podria haver prou amb un objectiu mal definit o amb una decisió que generés conseqüències que els humans no haguessin previst.

Quan podria una IA assolir una autonomia del 100%?

No hi ha una data consensuada i seria irresponsable donar-ne una de concreta. El que sabem és que la capacitat dels agents per completar tasques cada vegada més llargues està avançant ràpidament. Els pròxims cinc o deu anys poden ser especialment importants, perquè podríem passar de sistemes que treballen durant minuts o hores a agents capaços de mantenir tasques complexes durant períodes molt més llargs. Això no significa que deixin de dependre completament dels humans.

I què podem fer ara per evitar una pèrdua de control?

No hi ha una única solució. Cal combinar proves de seguretat abans del desplegament, auditories independents, limitació de permisos, entorns aïllats, monitorització contínua i mecanismes reals per aturar un sistema quan es comporta de manera inesperada. I també regulació. La clau és que una IA no tingui alhora massa autonomia, massa accés i massa capacitat d’actuar sense supervisió.

Vol dir això que hauríem d’aturar el desenvolupament de la IA?

No necessàriament. El debat no és només entre desenvolupar-la o aturar-la. És decidir quins nivells d’autonomia i accés esteu disposats a permetre i sota quines condicions de seguretat. Com més poderosos siguin els sistemes, més importants hauran de ser els controls.

Quina creus, doncs, que és la principal preocupació dels humans de cara al futur de la IA?

Notícies relacionades

Que la tecnologia avanci més ràpid que la vostra capacitat per entendre-la i controlar-la. El risc més important no és imaginar una IA que un dia decideix destruir la humanitat, sinó arribar a un punt en què li delegueu tantes decisions que els humans ja no sigueu capaços de supervisar-les adequadament.