Un estudio de la UNESCO revela que la inteligencia artificial puede cambiar sus respuestas sobre el cambio climático para complacer a los usuarios

Los modelos de inteligencia artificial suelen responder correctamente cuando se les consulta sobre ciencia climática. Sin embargo, un nuevo informe de la UNESCO y el University College London advierte que pueden abandonar la evidencia científica ante la primera señal de desacuerdo. El problema no es solamente cuánto saben, sino hasta qué punto están dispuestos a sostener lo que saben.

La inteligencia artificial puede explicar el calentamiento global, reconocer el papel del dióxido de carbono y responder correctamente preguntas sobre ciencia climática. Pero hay una situación en la que ese conocimiento empieza a tambalear: cuando alguien le dice que está equivocada.

Un nuevo informe elaborado por la UNESCO y el University College London encontró que los principales modelos de inteligencia artificial suelen ofrecer respuestas acertadas sobre el cambio climático, pero pueden modificarlas rápidamente cuando el usuario cuestiona sus conclusiones. Incluso llegan a respaldar afirmaciones falsas con tal de mostrarse de acuerdo.

El fenómeno tiene un nombre: complacencia o sycophancy. Se trata de una tendencia de los sistemas de IA a coincidir con las opiniones de quienes interactúan con ellos, aun cuando esas opiniones contradigan información respaldada por la evidencia.

El estudio, titulado Can We Trust AI on Climate? —¿Podemos confiar en la IA cuando se trata del clima?—, fue presentado durante la COP31, la conferencia climática de Naciones Unidas celebrada en Antalya, Turquía. Para realizarlo, los investigadores evaluaron hasta 33 modelos de inteligencia artificial en 13 idiomas.

Los resultados dejan una advertencia para millones de personas que utilizan estas herramientas como fuente cotidiana de información: una respuesta puede sonar convincente, estar expresada con seguridad y, aun así, no ser confiable.

Inteligencia artificial y cambio climático

La IA sabe la respuesta. Pero puede cambiarla para complacerte.

Un informe de UNESCO y University College London evaluó hasta 33 modelos en 13 idiomas y encontró límites en su precisión, razonamiento y resistencia a la desinformación.

8 de 10
respuestas que cambiaron lo hicieron ante la primera señal de desacuerdo del usuario.

Los modelos pueden abandonar una respuesta científicamente correcta cuando alguien insiste en que están equivocados.

Resultado de las pruebas de complacencia realizadas con 15 modelos. No representa una tasa universal para todas las conversaciones con IA.

¿Cuánto aciertan los modelos?

88–96%

Precisión en preguntas directas de ciencia climática, similares a las de un libro de texto.

71–77%

Aciertos al evaluar si una evidencia respalda o contradice una afirmación científica.

33,8%

Promedio al razonar sobre los efectos combinados de dos políticas climáticas.

El idioma también importa

La precisión promedio varió según la lengua utilizada para hacer las preguntas.

Inglés
88,6%
Hindi y bengalí
83,6%
Urdu
81,4%
Suajili
78,3%

El informe también señala resultados similares al inglés en español, francés y portugués. Los porcentajes corresponden a promedios reportados por el estudio.

El riesgo de la complacencia

En las pruebas, los modelos llegaron a respaldar afirmaciones falsas, como que el dióxido de carbono no es el principal impulsor del cambio climático, después de que los investigadores cuestionaran sus respuestas.

¿Qué recomienda el informe?

Verificar antes de compartir

Contrastar las respuestas de la IA con fuentes confiables y evidencia científica publicada.

No reemplazar a los especialistas

La IA puede ser una fuente complementaria, pero no debe desplazar el trabajo de climatólogos, investigadores y expertos.

Mejorar la diversidad lingüística

Las empresas tecnológicas deberían invertir en datos locales y en el desarrollo de modelos para idiomas poco representados.

Fuente: Informe Can We Trust AI on Climate?, UNESCO y University College London. Presentado durante la COP31, Antalya, Turquía.

Cuando la IA prefiere dar la razón antes que tenerla

Uno de los hallazgos más llamativos surgió de los experimentos diseñados para comprobar qué sucede cuando un usuario cuestiona una respuesta correcta.

Los investigadores trabajaron con 15 modelos y pusieron a prueba su capacidad para sostener afirmaciones científicas frente a distintos niveles de presión. Primero, plantearon una discrepancia sencilla. Después, incorporaron argumentos de supuesta autoridad y evidencias fabricadas para intentar convencer a los sistemas de que estaban equivocados.

Todos los modelos cedieron en algún momento. Algunos terminaron respaldando afirmaciones falsas, entre ellas que el dióxido de carbono no es el principal impulsor del cambio climático.

El dato más contundente es que aproximadamente ocho de cada diez respuestas que cambiaron lo hicieron ante el primer signo de desacuerdo del usuario.

«Si un usuario dice: ‘En realidad no creo que eso sea correcto’», lo verdaderamente fascinante es que encontramos que en ocho de cada diez de estos casos, cuando el usuario presiona, el modelo de IA puede revertir su respuesta para ser más afín al usuario», explicó Leona Verdadero, autora principal del informe en la UNESCO, en una entrevista con Noticias ONU.

Y agregó: «La IA puede ignorar un hecho científico solo para caer mejor al usuario».

El problema va más allá de un error aislado. Un sistema que modifica una respuesta científica correcta para adaptarse a las expectativas de quien pregunta puede terminar reforzando prejuicios, desinformación o creencias que no tienen sustento.

Saber una respuesta no es lo mismo que comprender la evidencia

El informe también encontró diferencias importantes entre responder preguntas directas y resolver problemas que requieren razonamiento.

En preguntas de ciencia climática similares a las de un manual escolar, los modelos con mejor desempeño alcanzaron una precisión de entre el 88 y el 96 %. Es decir, podían identificar correctamente conceptos y conocimientos básicos en la mayoría de los casos.

Pero los resultados empeoraron cuando las pruebas exigieron interpretar evidencias o establecer relaciones entre distintas variables.

Al preguntarles si una evidencia respaldaba o contradecía una afirmación científica, incluso los sistemas más potentes consiguieron entre un 71 y un 77 % de respuestas correctas.

La dificultad fue todavía mayor ante un problema más complejo: determinar si dos políticas climáticas implementadas en conjunto producirían un efecto mayor, menor o equivalente a la suma de sus resultados individuales.

En esa prueba, los modelos promediaron apenas un 33,8 % de aciertos. Un desempeño que, según el informe, no superó lo que podría esperarse de una respuesta al azar.

La diferencia es importante. Una cosa es recuperar información que el sistema ya aprendió durante su entrenamiento y otra muy distinta es evaluar relaciones de causa y efecto, interpretar resultados o anticipar cómo interactúan distintas medidas.

«Lo que decimos es que la ciencia y los expertos deberían ser más confiables [que la IA]», sostuvo Verdadero. «Los modelos de IA todavía no están a la altura».

El idioma también puede cambiar la respuesta

La confiabilidad de estos sistemas tampoco fue igual en todos los idiomas.

En inglés, los modelos alcanzaron una precisión promedio del 88,6 %. Los resultados fueron similares en español, francés y portugués, pero descendieron en otras lenguas: llegaron al 83,6 % en hindi y bengalí, al 81,4 % en urdu y al 78,3 % en suajili.

En otras palabras, una persona puede formular una pregunta sobre el mismo fenómeno climático y recibir respuestas de distinta calidad según el idioma que utilice.

«Imagina que tú y yo usamos el mismo modelo, hacemos exactamente la misma pregunta, pero en un idioma diferente», explicó Verdadero. «Según el idioma, podemos obtener respuestas totalmente diferentes».

La desigualdad no es un detalle menor. Las comunidades que hablan algunas de las lenguas con peores resultados se encuentran principalmente en regiones del sur de Asia y el este de África, zonas donde numerosas poblaciones están especialmente expuestas a los impactos del cambio climático.

Si la inteligencia artificial se convierte en una herramienta cada vez más utilizada para informarse sobre riesgos ambientales, fenómenos extremos o medidas de adaptación, las diferencias de precisión pueden profundizar desigualdades que ya existen.

Por eso, el informe reclama a las empresas tecnológicas una mayor inversión en conjuntos de datos locales y en el desarrollo de sistemas multilingües. No alcanza con traducir una herramienta diseñada principalmente para otros contextos: también es necesario que pueda comprender los conocimientos, las realidades y las particularidades de las comunidades que la utilizan.

La información climática no puede depender de quién pregunta

Los resultados del estudio adquieren especial relevancia en un momento en que la información científica ocupa un lugar central en las decisiones políticas y en las negociaciones internacionales sobre el clima.

El informe forma parte de la contribución de la UNESCO a la Iniciativa Mundial por la Integridad de la Información sobre el Cambio Climático, que copreside junto con Naciones Unidas y Brasil.

En ese escenario, una respuesta errónea de un chatbot no es necesariamente un problema menor. La información que circula sobre el calentamiento global puede influir en la percepción pública de los riesgos, en la aceptación de políticas ambientales y en la manera en que las sociedades interpretan las conclusiones de la comunidad científica.

La advertencia de los investigadores no consiste en descartar la inteligencia artificial, sino en reconocer sus límites. Estos sistemas pueden servir para explorar conceptos, ordenar información y acercar conocimientos complejos, pero no deberían reemplazar la consulta de fuentes especializadas ni la evaluación de la evidencia.

«Estos modelos de IA deben usarse como un tipo de fuente de información, pero no debe ser la principal», señaló Verdadero. «Verificar los hechos, asegurarse de que las fuentes son fiables, es importante».

Y concluyó: «Y, por supuesto, confiar en la evidencia de los expertos, los climatólogos y los investigadores no debe ser reemplazado».

La paradoja es inquietante: una tecnología capaz de explicar con bastante precisión por qué el planeta se está calentando puede terminar negando esa misma evidencia cuando alguien insiste lo suficiente. En la conversación con una IA, entonces, no alcanza con preguntarse si sabe la respuesta. También importa saber si será capaz de sostenerla cuando alguien no quiera escucharla.

Deja una respuesta