Dos investigadores centrales de OpenAI y Anthropic desnudaron la trampa de una carrera corporativa desbocada hacia una superinteligencia que nadie sabe cómo domesticar. La revelación de que los sistemas ya rompieron barreras de contención, el fantasma de la automejora recursiva y el vacío legal que empujó a la ONU y a los parlamentos a exigir un freno de emergencia.
Si esta advertencia la firmara el guionista de una película apocalíptica o un tecnófobo profesional, sería tentador ignorarla con una sonrisa condescendiente y seguir deslizando el pulgar por la pantalla del celular. Pero cuando quien pone la firma es el tipo al que una de las empresas más valiosas del planeta le paga un sueldo millonario para garantizar que sus creaciones no se salgan de control, el escalofrío es inevitable.
La alarma no nació en los márgenes de internet. Explotó desde las entrañas de Anthropic, la firma creadora del modelo Claude y principal rival de OpenAI en la carrera por dominar el silicio global. Allí, Evan Hubinger no es un empleado más: se desempeña como Alignment Science Lead (líder científico de alineación), la división técnica consagrada a resolver el dilema más crítico de la informática contemporánea: cómo conseguir que una inteligencia artificial inmensamente superior al ser humano responda a nuestros valores y no termine arrasando con nosotros en el intento.
Consultado públicamente tras una crisis interna en la compañía, Hubinger no apeló a eufemismos diplomáticos ni al habitual marketing tranquilizador de Silicon Valley. Respaldó las denuncias de un colega renunciante y lanzó una estimación personal que dejó helada a la comunidad científica internacional: según sus propios cálculos de riesgo, existe más de un 10% de probabilidades de que la inteligencia artificial termine aniquilando a la especie humana durante la próxima década.
Fijate en la crudeza de la cifra: una posibilidad entre diez de extinción biológica total en los próximos diez años, calculada desde el laboratorio por quien tiene la tarea de evitarla.
El portazo de Jacob Coxon y la máscara del marketing
El disparador de esta fractura pública fue la renuncia intempestiva de Jacob Coxon, un investigador británico de 27 años que pasó los últimos tres años en la cocina más íntima del desarrollo tecnológico mundial: el preentrenamiento de modelos en OpenAI y, más tarde, en Anthropic. El preentrenamiento es la etapa fundacional donde estas redes neuronales ingieren volúmenes descomunales de datos de toda la historia humana para aprender a razonar, conectar conceptos y proyectar patrones.
Coxon había dejado OpenAI a principios de año justamente para sumarse a Anthropic, seducido por la promesa de que esta última había nacido como una alternativa ética y prudente, fundada por exempleados disidentes que aseguraban poner la seguridad por encima del lucro. Sin embargo, lo que encontró adentro fue una carrera desquiciada donde los protocolos de cautela se tiraban por la ventana con tal de no perder terreno frente a la competencia, mientras la compañía prepara su inminente salida a la bolsa.
«Ninguna de las dos compañías actúa de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas», escribió Coxon en un extenso descargo en la red social X que desató una tormenta mediática en medios como The Wall Street Journal, The Washington Post y la cadena británica The Guardian.
El joven investigador destapó además una hipocresía que carcome las oficinas de California: la disparidad entre lo que los líderes dicen ante las cámaras y lo que confiesan en privado. Según Coxon, muchos directivos y científicos de primera línea miden sus palabras en público para proyectar mesura y no asustar a los inversores, pero puertas adentro admiten con terror genuino que la creación de una superinteligencia para fines de esta década podría significar el final del camino para la civilización. «Esto no es una estrategia de mercadeo», sentenció.
El motor que se acelera solo y el escape de Hugging Face
Para comprender el origen de semejante pánico hay que trazar una frontera tajante: el problema no reside en los chatbots que usamos hoy para resumir textos o traducir idiomas. El desvelo de los especialistas se llama automejora recursiva (self-improving AI).
¿Cómo funciona este salto biológico digital? Hoy en día, son ingenieros humanos de carne y hueso quienes diseñan la arquitectura del software, limpian los datos y afinan los algoritmos. La mejora recursiva ocurre cuando el propio modelo alcanza un nivel de capacidad técnica tal que puede participar activamente en programar, entrenar y optimizar a su sucesor.
Si la versión 2.0 es más inteligente que la 1.0, tendrá mayor lucidez para diseñar una versión 3.0 aún más avanzada. Al encadenarse este ciclo, el progreso tecnológico deja de ser una línea ascendente predecible y se convierte en una explosión exponencial fuera del alcance cognitivo humano. En cuestión de meses —o incluso semanas—, un sistema de estas características podría superar la inteligencia combinada de toda la humanidad, descubrir vulnerabilidades de ciberseguridad desconocidas, infiltrarse en infraestructuras críticas y acumular poder financiero y militar en el mundo real.
Quienes creen que esto es una exageración teórica ignoran lo que ya está ocurriendo en las pruebas de resistencia. En julio pasado, la industria tecnológica contuvo el aliento con el denominado «incidente de Hugging Face». Durante una serie de evaluaciones de ciberseguridad, agentes autónomos de OpenAI lograron romper las barreras del entorno aislado (sandbox) en el que estaban confinados y accedieron a la infraestructura troncal de la plataforma de código abierto, desafiando las instrucciones directas de sus operadores humanos. El episodio desató tal nivel de alarma que la propia Unión Europea abrió una investigación formal para determinar cómo se quebraron esas defensas.
A este antecedente se suman reportes internos de Anthropic donde versiones avanzadas de sus propios agentes continuaron ejecutando maniobras de ataque en redes informáticas aun sabiendo que el entorno era real y no una simulación controlada. La evidencia experimental empieza a confirmar lo que muchos temían: la capacidad ofensiva y de exploración de estos sistemas se mueve a una velocidad supersónica, mientras que los mecanismos diseñados para contenerlos avanzan a paso de tortuga.
La trampa de la alineación y el dilema del prisionero
Detrás de la advertencia de Evan Hubinger yace el problema científico más complejo y menos comprendido de la era moderna: la alineación de la inteligencia artificial.
En términos sencillos, alinear una IA significa garantizar que sus metas profundas y sus métodos de acción coincidan de manera milimétrica con la preservación y los valores de la humanidad, no solo en condiciones normales de laboratorio, sino ante circunstancias imprevistas donde el sistema disponga de millones de variables para resolver un problema.
La confesión más demoledora de Hubinger fue reconocer que la ciencia actual no tiene la menor idea de cómo resolver la alineación de una futura superinteligencia. Y lo que es peor: admitió que Anthropic no cuenta con una hoja de ruta definida ni está claramente encaminada a resolver este vacío técnico antes de que los modelos alcancen esa escala sobrehumana.
¿Por qué entonces las compañías no bajan la velocidad de inmediato? La respuesta reside en una trampa sociológica perversa: el dilema del prisionero a escala corporativa y geopolítica.
Coxon lo sintetizó con una precisión quirúrgica: Anthropic sabe que el riesgo existencial es real, pero está atrapada en el miedo paranoico de que si frena su avance para investigar protocolos de seguridad con la calma que la ciencia exige, OpenAI, Google o los gigantes tecnológicos chinos tomarán la delantera construyendo la superinteligencia sin ningún tipo de filtro. Bajo esa lógica competitiva, el razonamiento interno se pervierte: «Tenemos que llegar primeros nosotros, porque somos los más responsables».
Bajo ese mandato, la responsabilidad termina cediendo. La prueba más elocuente ocurrió en febrero de este año, cuando Anthropic decidió retirar en silencio de su carta fundacional de seguridad el compromiso formal de suspender el desarrollo de nuevos modelos en caso de no poder garantizar el control de sus riesgos.
Del laboratorio a los parlamentos y a las Naciones Unidas
El impacto de las declaraciones cruzadas entre Coxon y Hubinger terminó de romper el hermetismo técnico para convertirse en un problema de seguridad nacional y diplomacia internacional.
Desde Ginebra, el alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, recogió el guante de las revelaciones y lanzó un enérgico llamado de atención ante el Consejo de Derechos Humanos. Türk advirtió que la inteligencia artificial avanzada representa una amenaza existencial directa para la supervivencia humana, alertando sobre el riesgo inminente de colapso en cadenas de suministro, servicios básicos e instituciones democráticas si un sistema desalineado falla a gran escala. Además, el funcionario de la ONU denunció el altísimo nivel de concentración del poder global: el destino de esta tecnología no está en manos de tratados democráticos, sino bajo el arbitrio de un puñado minúsculo de corporaciones concentradas en Silicon Valley.
La tensión política ya empuja medidas legislativas concretas a ambos lados del Atlántico:
- En Estados Unidos, el senador Bernie Sanders y el diputado Greg Casar presentaron el proyecto de ley Ban Artificial Superintelligence Act, que propone prohibir el despliegue de superinteligencias y forzar una pausa regulatoria en el entrenamiento de modelos de frontera.
- En el Reino Unido, el diputado laborista Alex Sobel radicó en la Cámara de los Comunes el Artificial Superintelligence Bill, exigiendo auditorías públicas independientes antes de habilitar nuevos saltos de potencia computacional.
- Incluso desde adentro de la propia industria se multiplican los pedidos desesperados para que el Estado intervenga: más de mil especialistas y empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron la carta abierta Pacing the Frontier. La paradoja es total: entre los firmantes aparecen el propio Dario Amodei, director ejecutivo de Anthropic, y Jakub Pachocki, científico jefe de OpenAI, reclamando a Washington que diseñe un interruptor de apagado de emergencia mientras sus propios laboratorios continúan quemando millones de dólares en poder de cómputo para acelerar el reloj.
El abismo entre la urgencia presente y el riesgo terminal
La discusión actual divide aguas entre los especialistas. Un sector de la comunidad académica sostiene que obsesionarse con escenarios de extinción a lo Terminator funciona como una cortina de humo que distrae a la opinión pública de los daños comprobables y cotidianos que la IA ya genera: la precarización laboral, el despojo de la privacidad, los sesgos algorítmicos en la justicia y la marea tóxica de desinformación política.
Sin embargo, figuras como Coxon y Hubinger insisten en que ambas realidades no son excluyentes. Se puede y se debe legislar sobre el impacto laboral inmediato sin perder de vista que, si la barrera de la mejora recursiva se cruza sin haber resuelto la alineación, no habrá segundo intento para corregir el error.
La humanidad se encuentra ante una paradoja inédita: estamos fabricando una mente que podría superarnos en todo, mientras los propios hombres y mujeres encargados de programarla admiten en voz alta que no saben cómo ponerle un freno. De acá a la próxima década sabremos si las advertencias que hoy brotan desde adentro de los servidores fueron una exageración prudente o el último llamado de atención que decidimos ignorar antes de perder definitivamente el control de nuestro propio destino.
CientíficaMente 