A mediados de la década de 2010, el cineasta alemán Werner Herzog estrenó el documental Lo and Behold (2016), una exploración acerca del modo en que internet, la robótica, la inteligencia artificial estaban transfigurando la experiencia humana. Herzog abre el filme con un paneo sobre los terrenos del campus de la Universidad de California en Los Ángeles mientras, con esa voz cavernosa, inexpresiva, dramática que lo caracteriza, dice: “Hoy, ninguno de los estudiantes es consciente de que este es el epicentro de una de las mayores revoluciones que estamos experimentando como humanos. Uno de los edificios de ciencias es considerado la cuna de internet. Los pasillos aquí parecen repulsivos y, sin embargo, conducen a una especie de santuario”.

Enseguida le cede la palabra al científico computacional Leonard Kleinrock, uno de los creadores de la mítica Arpanet, quien presenta la primera computadora con la que comenzó a funcionar la red en 1969. “Estamos entrando en un lugar sagrado: el lugar donde nació internet”, dice Kleinrock. “Esta máquina fue el primer nodo de internet durante décadas. Y fue desde aquí que fue enviado el primer mensaje. Una revolución comenzaba. El único registro que tenemos de lo que sucedió ese día está en esta bitácora: ‘ El 29 de octubre de 1969, a las 10:30 de la noche, hablamos con el Instituto de Investigación de Stanford, de computadora a computadora’. Es muy parecido a cuando, en el barco de Cristóbal Colón, el sujeto que estaba en la cubierta superior avistó tierra y, al darse cuenta, hizo una anotación diciendo: ‘Hemos visto tierra’. Ese documento y aquel tienen, como mínimo, la misma importancia”.

El llamado Nuevo Mundo. El territorio digital.

Un jueves de enero de 2026 al mediodía, cinco investigadores sobre seguridad de la inteligencia artificial se reúnen de manera virtual en un encuentro exploratorio. Dos de ellos posiblemente trabajan para una gran empresa tecnológica, pero no lo mencionan de manera abierta. Podrían estar haciendo algún tipo de reclutamiento, pero también parecen estar genuinamente atraídos por conocer a otros especialistas en el tema. Uno de ellos, el mayor, mantiene la cámara apagada y avisa, con esa calma firme de quien está habituado a dar las órdenes, que tiene poco tiempo. Son oriundos del Cono Sur, y aunque no trabajan habitualmente en la región, desde hace poco más de un año intentan introducir este incipiente campo de estudios en Brasil, Chile, Argentina.

Uno de ellos, de unos 30 años, lo explica así:

—Se calcula que en un año, a lo sumo en dos, se produce el cambio de fase, y hay que preparar el terreno. Las tecnológicas están desarrollando la estrategia bottom-up, pero es necesario contactar y empujar la top-down, la pata política.

—¿Cambio de fase?

—Sí, un cambio total de las reglas. Suele explicarse dando el ejemplo de cuando el agua pasa del estado líquido al gaseoso.

—No hay conciencia de algo así en la región. Los dirigentes no lo tienen en la agenda, tampoco parecen advertirlo los investigadores. Cuesta encontrar hasta una terminología en común.

—Sí, está pasando en todas partes —dice el de la cámara apagada—. Pero no hay mucho que hacer. Ya se sabe que el futuro será exponencialmente desigual.

Como campo de estudio, la seguridad sistémica de la inteligencia artificial (IA), en especial la enfocada en el aprendizaje automático (machine learning), tiene entre diez y quince años.

Podría decirse que casi no existe todavía, y sin embargo hoy se la considera un área crucial. Hay escasos expertos, en parte porque la mayoría de quienes más saben de IA han sido tentados a dedicarse al desarrollo de sistemas, incluidos —no solo pero especialmente— sistemas militares.

Otros prefirieron migrar de tema. Andrej Karpathy, por ejemplo, ex Tesla y miembro fundador de OpenAI, eligió apartarse de la empresa en febrero de 2024 para crear un proyecto propio. Preocupado por la posibilidad de que la IA favorezca el desempoderamiento humano, la erosión de capacidades en las personas, lanzó una empresa enfocada en IA y educación llamada Eureka Labs. Por su parte, Mira Murati, ex directora de tecnología de OpenAI, una de las creadoras directas del ChatGPT y ferviente partidaria de regular el uso de la IA, se fue de la compañía en septiembre de 2024 y lanzó Thinking Machines Lab, intentando desarrollar sistemas menos opacos y con prioridad en la colaboración humano-máquina. Según cuentan Ronan Farrow y Andrew Marantz en The New Yorker, cuando se marchó, un estrecho aliado de Sam Altman la llamó para insinuarle que “estaba preocupado por su reputación y porque ex colegas ahora la empezaban a ver como una enemiga”.

También Mrinank Sharma, por dos años director de seguridad de IA de Anthropic, dejó su puesto en febrero de 2026 con una carta donde afirmaba que “el mundo está en peligro” y que había visto cuán difícil es “hacer que nuestros valores gobiernen nuestras acciones” —sin mencionar casos puntuales, agregaba: — lo he visto en la propia organización”—. Su plan era volver al Reino Unido a escribir poesía y estudiar filosofía. A finales de enero Sharma había encabezado la publicación de un estudio de Anthropic en el que, tras analizar 1,5 millones de interacciones con Claude, documentaba un potencial de desempoderamiento de los usuarios a lo largo del tiempo. ¿Qué es “desempoderamiento”? Sharma y equipo lo definen así: cuando el rol de una IA en la formación de las creencias, valores o acciones de un usuario es tan importante que el juicio autónomo de la persona se ve comprometido.

Volviendo a la escasez de expertos en seguridad, quizás haya influido que, con la aceleración propia del acontecimiento que intentamos observar, al mismo tiempo que se iba haciendo imprescindible, este conocimiento se volvió en cierto sentido maldito.

El término seguridad tiene en inglés dos variantes que se han vuelto términos técnicos en la jerga de las diferentes industrias de riesgo: security y safety. Se utiliza security para referir la acción preventiva contra delitos, sabotajes o acciones malintencionadas, mientras que safety se refiere a la prevención de accidentes o incidentes fortuitos, enfermedades laborales, riesgos industriales y otros peligros no necesariamente intencionales pero frecuentes, sobre todo en sistemas complejos, que son aquellos en los que se producen múltiples interacciones. En castellano, las industrias acordaron utilizar “protección” para security y “seguridad”, “seguridad operacional” o “seguridad sistémica” para safety. En la informática, que hasta hace poco no se pensaba como industria de riesgo, esa diferencia no está todavía incorporada al vocabulario. Por eso en el uso corriente predomina el término ciberseguridad para referirse a la protección (security) y es todavía escasa la literatura sobre seguridad sistémica.

Dedicarse hoy a la safety de la IA puede tener implicaciones impensadas hasta hace pocos años, como chocar de manera directa contra el director de OpenAI, Sam Altman, o peor: contra la administración al frente del gobierno de los Estados Unidos. En efecto, los lineamientos explícitos que la segunda administración de Donald Trump está imprimiendo a la investigación estratégica en IA incluyen eliminar la safety y limitar la seguridad estrictamente a la security, en un intento algo extravagante —no tanto por el objetivo, sino por lo poco sensato de la vía para alcanzarlo— de liderar la batalla geopolítica por el desarrollo de distintos tipos de IA. Los motivos por los cuales es desatinado creer que es posible acelerar ese desarrollo desentendiéndose de la seguridad quedarán más claros, espero, luego de leer este libro. Pero aun antes de eso es posible visualizarlo de una manera sencilla: cada uno de los esfuerzos de alineación —las permanentes correcciones que hacen los desarrolladores para que los sistemas de IA se comporten tal como las personas desean— ya son trabajos de safety: la seguridad no es lo opuesto del desarrollo, sino que es una parte relevante de él.

Hay al menos cuatro hechos entre 2025 y 2026 que muestran, no obstante, esta escalada contra la seguridad sistémica.

En marzo de 2025, luego de la segunda cumbre de seguridad de la IA en París, Trump ordenó al Instituto de Seguridad de la IA (AISI), creado en 2023, eliminar toda mención a AI safety, responsible AI y AI fairness, priorizando en cambio “reducir el sesgo ideológico”, un eufemismo para desmantelar el conjunto de recomendaciones éticas acordadas desde los Principios de Asilomar (2017) hasta la Recomendación sobre la ética de la inteligencia artificial de la Unesco (2021). Tal como expuso Steven Levy en Wired pocas semanas después, “la orden de Trump contra la IA sesgada no es otra cosa que un sesgo ideológico más”, a través del cual el presidente “presiona a los desarrolladores para que reflejen su visión del mundo”.

Ese mismo mes, el AI Safety Institute del Reino Unido pasó a llamarse AI Security Institute —el cambio de nombre lo decía todo—. En junio de 2025, la administración Trump transformó la AISI en Centro de Estándares e Innovación de la IA, borrando toda referencia a la safety. Y a comienzos de 2026 estalló la tensión entre Anthropic y la Casa Blanca: la empresa se negó a permitir que su IA fuera usada para vigilancia masiva de ciudadanos estadounidenses y para desarrollar armas totalmente autónomas. El gobierno amenazó con designarla “riesgo para la cadena de suministros” —etiqueta reservada para adversarios de los Estados Unidos— e invocar la Ley de Producción de Defensa para eliminar sus medidas de seguridad. Dos amenazas contradictorias: una dice que son un riesgo, la otra considera a Claude esencial para la seguridad nacional.

La imagen del cambio de fase (phase transition) se está usando en el último año en varios sentidos emparentados pero no idénticos. En sentido acotado describe el fenómeno según el cual, superado cierto umbral de escala en los modelos de lenguaje, las capacidades emergentes no crecen gradualmente sino de manera abrupta. Pero el investigador treintañero mencionado más arriba no hablaba de eso: se refería a un umbral de otro orden. La tesis según la cual el campo de la IA está cruzando —o está a punto de cruzar—un punto de inflexión cualitativo que cambiará de manera drástica el régimen de desarrollo, y con él, el modelo de sociedad tal como la conocemos.

¿Cómo se percibe esa transición? En un análisis para el influyente Consejo de Relaciones Exteriores de enero de 2026, el experto en China y tecnologías emergentes Chris McGuire lo formuló así: “Estos no son avances incrementales; señalan una transición de fase”, refiriéndose al hecho de que la IA era ya capaz de resolver en segundos problemas de ingeniería que hace dos años tomaban horas, incluso días enteros, a expertos humanos. “La era de la especulación está llegando a su fin. En 2026 descubriremos qué significa vivir junto a máquinas que pueden pensar”, remató.

Para los aceleracionistas —el propio Altman, Dario Amodei de Anthropic en ciertas declaraciones, Jensen Huang de Nvidia— la transición anuncia la llegada inminente de la inteligencia artificial general o, peor, la superinteligencia: el umbral tras el cual la IA supera a los humanos en la mayoría de las tareas cognitivas. “Lo más sorprendente está siendo la falta de reconocimiento público de lo cerca que estamos del final del crecimiento exponencial. Es absolutamente increíble que haya gente hablando de los mismos temas políticos de siempre, y a nuestro alrededor, estamos cerca del final del crecimiento exponencial”, expresaba Amodei en el podcast Dwarkesh en febrero de 2026. Y aunque a primera vista, “el fin de lo exponencial” parecería indicar que el crecimiento se está deteniendo o agotando, el director ejecutivo de Anthropic quería decir exactamente lo contrario: que estamos llegando al momento en que la curva de capacidades de la IA, que ha crecido de manera sostenida desde 2010, alcanza su fase más explosiva antes de chocar con algún límite: físico, social, político o económico. El mundo humano.

Para los más escépticos, como Karpathy, el cambio de fase ya ocurrió a finales de 2025 y no se refiere a la inteligencia artificial general sino a algo más concreto y, bien mirado, no menos inquietante: un cambio en el régimen de producción donde las IA hacen ya el 80% de la programación, y donde “aceleración” no significa ir más rápido sino expandir la clase de cosas que es posible realizar.

Para quienes investigamos cómo la tecnología transforma el mundo social, la transición de fase más relevante no es la que sucede en los laboratorios sino la que ocurre en la sociedad: el momento en que los sistemas de gobernanza dejan progresivamente de depender de la participación humana —uno de los núcleos del argumento del desempoderamiento—, el límite que el desarrollo tecnológico actual encuentra en sus enormes costos sociales, energéticos y ambientales, o la concentración de riqueza que aplana las expectativas de movilidad de prácticamente toda la humanidad y genera desigualdades extremas. Esos umbrales son, también, lo que está en juego en las guerras híbridas y fragmentadas, los golpes autoritarios hemisféricos, la policrisis (energética, económica, ambiental, educativa), el desorden sistémico.

En muy pocos años, y sobre todo desde que en noviembre de 2022 fue puesto en disponibilidad pública el ChatGPT-3.5, habitamos un mundo cuyos rasgos básicos no logramos definir con nitidez. Como si tras la pandemia del coronavirus hubiésemos entrado en un túnel a bordo de un tren vertiginoso y, cuando cada tanto emergemos a la superficie, el mundo alrededor nos resulta familiar pero irreconocible.

Un rasgo cultural llamativo en estos días, que merece nuestra atención y que es de alguna manera coherente con la ferocidad programática, el lenguaje vulgar y la renegación en la que parece haberse sumergido Occidente, es que son sobre todo los mismos expertos, ingenieros, industriales, directores de las corporaciones quienes avisan acerca de los peligros, incluidos los “riesgos existenciales”, que ellos mismos desencadenan. ¿Por qué lo hacen?

Porque pueden, claro está. Pero sobre todo porque mediante esas advertencias imponen una voz de mando. Los directores ejecutivos y expertos, al advertir sobre la potencia disruptiva de las inteligencias artificiales y sus “riesgos existenciales”, no solo afirman una posibilidad: ordenan una configuración del mundo basada en esa amenaza a cuya producción, además, contribuyen en forma cotidiana. Se aseguran así la instauración de una excepción permanente —la “nueva normalidad” de la crisis autopoiética— y proclaman, en medio del caos resultante, su autoridad sobre el futuro. La palabra del director ejecutivo no se fundamenta en una verdad científica o una justicia ética sino en su capacidad tecnológica. Su advertencia es una voz de mando eficaz; no importa si es verdad que el mundo se va a acabar, lo que importa es que la orden de gestionar los riesgos —no solo los previsibles e inevitables, sino incluso los inimaginables ya está operando sobre nosotros, y ese es, nos dicen, nuestro único horizonte.

Con todo, como se sabe, desencadenar una tecnología es desencadenar imprevisibilidades, accidentes, fallos, anomalías. En esas anomalías habita el espectro de lo humano; no solo como individuos, sino también como multiplicidades, como socius.

Es en este territorio inquietante donde se inscribe este libro. Fue escrito principalmente a lo largo de tres años: en el tiempo que va desde la puesta en disponibilidad pública del ChatGPT y otras IA generativas y lingüísticas, hasta comienzos de 2026. Su base es una serie de intervenciones públicas: conferencias, capítulos de libros, clases, entradas de glosarios, artículos académicos, notas para revistas de comunicación pública de la ciencia. Todos los textos tienen en común la marca de una cierta urgencia por observar e intentar comprender, desde los estudios críticos de la tecnología, un gran acontecimiento tecnopolítico en el mismo momento que se está produciendo. Con conciencia de las limitaciones que eso implica— para la consistencia teórica y metodológica, para la construcción de un estado del arte robusto y equilibrado, para la elaboración de una perspectiva situada de un evento planetario—, pero también con el convencimiento de que este primer registro puede constituir un testimonio valioso para los lectores y los futuros investigadores.

Los cuatro primeros capítulos presentan una mirada propia, situada y a la vez de alcance general, acerca de este momento histórico. Ofrecen también información e interpretaciones basadas en investigación sobre temas frecuentes —pero presentados de manera algo confusa— en la conversación pública e incluso en la discusión de la comunidad especializada en ecosistemas digitales, IA y sociedad. (…)

No es impensable que en el futuro, en retrospectiva, recordemos estos años como un tiempo transcurrido “entre accidentes”: entre la pandemia provocada por el covid-19 y el desencadenamiento de uno o varios de los riesgos sistémicos —incluido el “riesgo existencial”— que conllevan los nuevos tipos emergentes de IA. El primero de estos accidentes, la pandemia del coronavirus, debido a las limitaciones de movimiento que implicó, ubicó a buena parte de la población del mundo en la necesidad de ingresar a un “shock de virtualización”. E instaló en la conversación pública la necesidad de interceptarlo a través de un “nuevo acuerdo tecnológico”: un tech new deal para unas nuevas democracias digitales, como insistieron, desde perspectivas teóricas e ideológicas diferentes, tanto los empresarios Bill Gates y Eric Schmidt como la abogada Renata Ávila.

Con respecto a Gates y Schmidt, acaso se recuerde aún que ya en las primeras semanas de 2020 tanto el cofundador de Microsoft como el ex CEO de Google se reunieron con el entonces alcalde de Nueva York Andrew Cuomo para “reimaginar la realidad poscovid en ese estado, con énfasis en la integración con énfasis en la integración permanente de la tecnología en todos los aspectos de la vida cívica”. “Somos neoyorquinos, así que somos agresivos y ambiciosos —dijo Schmidt en una videoconferencia con Cuomo el 6 de mayo de ese año—. Sabemos que el cambio nosolo es inminente, sino que puede ser beneficioso si se hace bien”.

Sus prioridades se centraban en “la telesalud, el apren dizaje remoto y la banda ancha”, para lo cual era necesario “acelerar y usar la tecnología para mejorar las cosas”. Apenas un día antes, Cuomo había anunciado una colaboración similar con la Fundación Bill y Melinda Gates para desarrollar “un sistema educativo más inteligente”, y había destacado que la pandemia constituía un momento histórico propicio para “incorporar y promover las ideas” de los Gates. “Todos estos edificios, todas estas aulas físicas, ¿para qué, con toda la tecnología que tenemos?”, se preguntaba en plena pandemia el representante de los neoyorquinos de una manera que quería parecer retórica.

Durante esos mismos días de perplejidad global, la abogada guatemalteca Renata Ávila, especializada en tecnología y derechos de propiedad e integrante del equipo que, bajo la dirección de Baltasar Garzón, defendió a Julian Assange y WikiLeaks, afirmaba en diferentes conferencias en línea la necesidad de un nuevo pacto tecnológico orientado a una verdadera democracia digital, mientras impulsaba una discusión sobre soberanía tecnológica para diferentes naciones de la región.

En cuanto a los potenciales “accidentes normales” de la IA, en los últimos tres años ese peligro ha disparado una enorme cantidad de interrogantes, debido a la fuerza disruptiva con la que esta (meta)tecnología parece atravesar las diversas es-calas de la experiencia colectiva, y porque la aceleración que imprime a los procesos que automatiza se manifiesta, al menos en un primer momento, como un impulso de destitución de muchas de las mediaciones que constituían hasta hace poco la infraestructura jurídica, política, cultural de la escala en la que transcurrían principalmente nuestras relaciones con otros seres humanos. Entrado 2026, lo que hace apenas cinco años era una frase tímida, la afirmación de la “crisis de la democracia”, es hoy un hecho consumado. Ni los organismos multilaterales, ni los parlamentos, ni la justicia operan del mismo modo a como lo hacían hace una década. Y el escenario deja entrever que la celeridad de los sucesos va en aumento. Pese a la perplejidad a la que nos asigna, esta apertura temporal es sin dudas un momento de gran potencial creativo. ¿Serán nuestros saberes sobre lo social capaces de afrontar la sociedad artificial del siglo XXI?

☛ Título: Vidas artificiales

☛ Autora: Flavia Costa

☛ Editorial: Taurus

☛ Primera Edición: Agosto de 2026

☛Páginas: 224

Datos de la autora

Flavia Costa es doctora en Ciencias Sociales por la Universidad de Buenos Aires (UBA) e investigadora del Consejo Nacional de Investigaciones Científicas y Técnicas (Conicet).

Es profesora asociada del seminario Técnica, Cultura y Sociedad y dirige el Observatorio de Tecnologías, Sociedad y Ecosistemas Digitales (TecnocenoLab) en la Facultad de Ciencias Sociales de la UBA. Integra el colectivo Ludión: Exploratorio latinoamericano de poéticas/políticas tecnológicas y fue una de las fundadoras de la revista Artefacto: Pensamientos sobre la técnica.

Es autora de la novela Las anfibias (Adriana Hidalgo, 2008) y de numerosas publicaciones académicas sobre tecnología, cultura y sociedad. Su libro Tecnoceno: Algoritmos, biohackers y nuevas formas de vida (Taurus, 2021) fue reconocido en 2024 con el premio Konex de ensayo político.