Un panel histórico de 40 expertos mundiales de la ONU, liderado por la científica Menna El-Assady, se reúne por primera vez para trazar una hoja de ruta global sobre la IA. Su enfoque es revolucionario: pasar de la automatización total a la «inteligencia aumentada», garantizando que el ser humano siempre tenga la última palabra y que el destino de la humanidad no dependa de un simple algoritmo.

La velocidad a la que avanza la inteligencia artificial (IA) ha encendido las alarmas en los pasillos más altos del poder global. La pregunta ya no es qué puede hacer la tecnología, sino cómo podemos garantizar que sirva a la humanidad y no al revés. Con este mandato urgente, el Panel Científico Internacional Independiente de las Naciones Unidas sobre la IA —el primer organismo mundial de este tipo— se prepara para su primera cumbre presencial.

El objetivo es abordar la compleja relación entre innovación y ética, poniendo en marcha un estudio histórico sobre las fuerzas que están transformando la vida moderna. «No nos centramos únicamente en la IA como un campo matemático o algorítmico: también nos preocupamos por garantizar que los seres humanos ocupen un lugar central en la toma de decisiones», afirma Menna El-Assady, profesora del Instituto Federal Suizo de Tecnología (ETH) de Zúrich y una de las miembros fundadoras del panel.

Del reemplazo a la «Inteligencia Aumentada»

El-Assady, de nacionalidad egipcia, es una de los 40 expertos nombrados formalmente por la Asamblea General de la ONU. Su equipo proviene de diversos ámbitos: academia, sector privado, sociedad civil y organismos internacionales, combinando conocimientos técnicos de IA con experiencia en seguridad, ética e impacto social.

Una de las premisas clave de este panel es el concepto de «inteligencia aumentada», desarrollado por El-Assady. En lugar de utilizar la IA para sustituir por completo a las personas, esta visión propone usar la tecnología para potenciar las capacidades humanas, fomentando la cooperación entre la máquina y el ser humano en campos críticos como el mercado laboral y la salud.

«Estamos tratando de determinar cuándo debemos confiar en los seres humanos y su experiencia, y cuándo las cosas pueden automatizarse», explica la científica. Esta visión aboga por una «infraestructura digital pública» que democratice el acceso al desarrollo de IA y garantice la incorporación de diferentes culturas e idiomas en los modelos, para que no se limiten a un pequeño grupo de países.

Ética, confianza y «marcas de agua»

La creación de este panel refleja la creciente preocupación por los riesgos de una IA no regulada. El Secretario General de la ONU, António Guterres, advirtió tajantemente en 2025 que «el destino de la humanidad no puede dejarse en manos de un algoritmo». Por su parte, Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, alertó que crear modelos de IA sin principios sociales y éticos fundamentales corre el riesgo de crear un «monstruo de Frankenstein».

Para El-Assady, la ética y la confianza son cruciales, al igual que la conciencia de las limitaciones de la IA. Una de las soluciones prácticas propuestas por la experta es el «marcado de agua de la IA», una herramienta técnica que dejaría claro si un contenido —texto, imagen o video— ha sido creado por humanos o generado por máquinas, permitiendo a la sociedad distinguir entre la realidad y la simulación.

El veredicto de la ciencia

Es fundamental aclarar qué es y qué no es este nuevo panel. El Panel Científico Internacional Independiente sobre IA tiene el mandato de elaborar un informe anual con evaluaciones científicas basadas en datos empíricos sobre las oportunidades, los riesgos y los impactos de la IA. Su primer informe se presentará en el Diálogo Global sobre la Gobernanza de la IA, que tendrá lugar los días 6 y 7 de julio en Ginebra.

El Panel no es un organismo regulador. No establecerá normas, no aplicará estándares ni prescribirá políticas. Su función es proporcionar el análisis riguroso, basado en pruebas y relevante para las políticas, que los gobiernos y los sistemas de salud necesitan para tomar decisiones informadas. Su papel es ser el «oído científico» que permita a la humanidad, y no a un algoritmo, seguir al mando del timón.