El vertiginoso ascenso de los modelos de lenguaje y la etiqueta de inteligencia artificial en nuevos productos -desde celulares y computadores hasta lavadoras y neveras- ha causado un aumento casi proporcional en los temores de que la inteligencia artificial (IA) reemplace o incluso acabe con los humanos.
Sin embargo, en los últimos días, especialmente tras las advertencias del investigador de Anthropic Jacob Coxon -quien señaló que esta tecnología extinguiría a la humanidad para 2030-, estas preocupaciones alcanzaron un nuevo nivel y se cruzaron con la disputa abierta entre Estados Unidos y China por el liderazgo de esta tecnología.
“Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, debido al acelerado desarrollo de la inteligencia artificial, advirtió este lunes el alto comisionado de la ONU, Volker Türk que instó a los Estados y a las empresas “a movilizarse urgentemente en el marco de instancias multilaterales”.
Türk, quien considera que “estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, advirtió que los sistemas más avanzados de la IA representan un riesgo sin precedentes.
“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”, agregó el jefe de derechos humanos de la ONU, después de que empleados de ese sector tecnológico urgieron a ralentizar el avance de esa tecnología.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Las alertas de los directivos de empresas IA ante su acelerado avance
Las declaraciones llegaron luego de que el sábado el director ejecutivo de Anthropic, Dario Amodei, defendió una desaceleración coordinada del desarrollo de la IA para comprender mejor los riesgos de sus capacidades más avanzadas. Este pedido ya había sido llevado a Washington en julio, en una misiva firmada por más de mil trabajadores del sector, incluido Amodei.
A la de Amodei se han sumado voces de peso como la del director ejecutivo de OpenAI, Sam Altman; el magnate dueño de Tesla y SpaceX, Elon Musk; el presidente de Google DeepMind, Demis Hassabis; y el director ejecutivo de Microsoft, Satya Nadella.
Los líderes del sector no se refieren a los modelos de lenguaje o usos de IA que experimentan las personas en el día a día, sino a desarrollos más complejos, como la llamada recursive self improvement (automejora recursiva), un sistema que busca que la propia IA se desarrolle y mejore sin intervención humana.
La también llamada IA agéntica puede tomar sus propias decisiones y, de momento, está mostrando fallas que “podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas”, advirtió desde la ONU Türk.
Tanto OpenAI como Anthropic reconocen que están “cerca” de alcanzar este punto, aunque esta última advierte que “está sucediendo más rápido de lo que pensábamos, y las implicaciones merecen mayor atención”.
Todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida.
El mismo Türk alertó que “poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, a la vez que insistió que basta con ver cómo la IA “ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva”.
El debate de desacelerar el avance tecnológico de la IA
Pese a que gran parte de la industria parece estar en coherencia con el freno que requiere el desarrollo de la IA agéntica, la competencia entre los principales actores del sector es tan feroz, y las inversiones en juego tan grandes, que ninguno está dispuesto a levantar el pie del acelerador en solitario.
De momento, Amodei -de Anthropic- ha manifestado su disposición a coordinarse con sus rivales, aunque sin incluir a China.
Mientras que la única medida concreta a la que se comprometieron Anthropic y OpenAI es permitir que observadores independientes verifiquen el trabajo interno en seguridad.
Eso sí, también hay quienes cuestionaron los motivos de Amodei. Para Brian Roemmele, empresario y figura del sector de IA, se trata de un discurso comercial divulgado semanas antes de la probable salida de Anthropic a la bolsa. “Somos la empresa responsable; somos la cura; compren la prima de seguridad”, publicó en X.
Además, esto ocurre cuando el propio sector enfrenta fuertes déficits pese a las gigantescas inversiones: según IsAIProfitable, de los 1,9 billones de dólares gastados en la industria desde 2022, apenas se han generado ganancias por 972.000 millones de dólares.
Asimismo, figuras del capital de riesgo tecnológico acusaron a Anthropic de una “captura regulatoria”, es decir, buscar que las autoridades consoliden mediante regulación una jerarquía en la que su empresa quede en la cúspide.
“Dejen de fingir que la motivación para frenar es puramente altruista”, dijo David Sacks, exasesor de IA del presidente Donald Trump.
Trump asegura que el único control de la IA debe ser ‘un presidente como él’ y China defiende un manejo ‘abierto e inclusivo’
Para los expertos, el freno también debe llegar desde los propios Estados, y con EE. UU. y China liderando la competencia tecnológica, la situación no luce tranquilizadora.
El mandatario estadounidense, Donald Trump, desestimó el domingo las advertencias de los líderes de la IA calificándolas de “fuerzas negativas” y este lunes denunció una supuesta “conspiración enfermiza” contra la tecnología.
Trump, que considera que Washington tiene y debe mantener el liderazgo en el sector, criticó particularmente a Amodei. “El único control o valla de contención que necesita la IA es un presidente fuerte e inteligente, y Estados Unidos lo tiene, y de sobra”, afirmó.
Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad
También varios republicanos han mostrado reticencia a regular activamente la tecnología, por temor a frenar la innovación y dar ventaja a China en la carrera de la IA.
Pero China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio. El ministro chino de Seguridad del Estado, Chen Yixin, pidió construir una “barrera de seguridad” y advirtió que la IA podría amenazar la seguridad nacional, pues potencias extranjeras podrían utilizarla para desestabilizar al país.
Pekín también rechazó lo que calificó como las narrativas de confrontación y defendió una IA “abierta e inclusiva”, argumentando que el desarrollo es en beneficio de la humanidad.
La disputa se produce mientras empresas como DeepSeek, Moonshot, Alibaba, Tencent y Zhipu compiten mediante modelos abiertos, precios bajos y rápida implantación comercial, pese a las restricciones estadounidenses sobre chips avanzados.
La regulación de la IA, una tarea aún pendiente a nivel global
Más allá del auge de la preocupación, estas alertas no son nuevas. Ya en 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una “declaración sobre el riesgo de extinción asociado a la inteligencia artificial” y exhortaron a tratar este tema con la misma seriedad que las pandemias o las armas nucleares.
Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapara al control y considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para “sintetizar y difundir nuevos agentes patógenos”.
Sin embargo, Russell subraya que esos riesgos no corresponden a los sistemas actuales.
No obstante, el peligro inmediato es el uso malicioso de la IA por parte de los seres humanos. De ahí surge la necesidad de consolidar una legislación global que regule y controle los usos y avances de la IA.
En este aspecto, la Unión Europea se convirtió en pionera con la entrada en vigor en agosto de la Ley de IA, el primer marco jurídico en esta materia, que obliga a las empresas y plataformas a implementar, entre otras medidas, mecanismos para que los usuarios identifiquen cuándo interactúan con una IA o ven una imagen creada o modificada por ella.
El Reino Unido también enfrenta esta discusión. La Comisión Conjunta de Derechos Humanos del Parlamento británico urgió este lunes al Gobierno laborista a legislar y crear un regulador específico que supervise los avances de la IA.
Sin embargo, esto está aún lejos de un marco global, pues no hay consenso entre los países, especialmente las potencias.
En medio del debate, también han quedado en segundo plano algunos daños que la IA ya está causando como el impacto medioambiental de construir y mantener centros de datos, reconocidos por su enorme consumo de agua.
Al respecto, la ONU advirtió en junio que solo el consumo hídrico relacionado con el uso de la IA podría igualar las necesidades domésticas anuales básicas de 1.300 millones de personas para finales de la década.
