La ONU encendió las alarmas sobre cómo la inteligencia artificial acelera la toxicidad en las redes. Frente a la desinformación y el racismo, la estrategia del organismo apuesta por una herramienta ancestral y sorpresiva que promete desactivar la violencia desde la raíz.

Si scrolleás un par de minutos por cualquier red social, te vas a dar cuenta rápido de que el algoritmo siempre premia el enojo. La bronca garpa, retiene la atención y genera clics. Pero los algoritmos y la inteligencia artificial ya dejaron de ser simples canales pasivos: hoy son verdaderos motores con un poder inmenso para darle nuevas formas y vías de propagación a los discursos de odio. Y lo hacen a una velocidad que asusta.

Ante este panorama donde la oratoria incendiaria corre más rápido que la verdad, el jefe de la ONU, António Guterres, se paró frente a la asamblea en Nueva York con un mensaje urgente. El mundo enfrenta una epidemia de toxicidad digital, pero la salida no es únicamente ponerle más trabas regulatorias a Silicon Valley. La verdadera solución, según advirtió, es profundamente humana y apela a algo que las máquinas todavía no pueden procesar: la sabiduría de nuestras comunidades.

Nuestra humanidad contra las cuerdas

Guterres fue tajante al inaugurar la conferencia mundial sobre diálogo interreligioso. Explicó que el mensaje tóxico de hoy «se propaga rápidamente y golpea con profundidad». El racismo, la misoginia, la islamofobia, el antisemitismo y la xenofobia se están banalizando a un nivel alarmante. Y no, no se trata solo de gente peleando en los comentarios de un video.

Esta retórica erosiona la confianza y deshumaniza a grupos enteros. En la vida real, fuera de la pantalla, estas narrativas actúan como el combustible perfecto para incitar a la violencia y, en sus formas más extremas, pavimentar el camino hacia atrocidades como limpiezas étnicas o crímenes de lesa humanidad. «Ya hemos visto esto ocurrir. Lo estamos viendo todavía hoy. Y no podemos permitir que continúe», sentenció.

El baluarte menos pensado: la sabiduría local

¿Cómo frenamos una máquina impulsada por IA que escupe odio las 24 horas? La propuesta de la ONU es casi contraintuitiva en la era del silicio: volver a las raíces. Guterres hizo un llamado a involucrar activamente a líderes religiosos, referentes tradicionales, grupos minoritarios y pueblos indígenas.

Fijate la lógica detrás de esto: el conocimiento profundo de las realidades locales y la confianza que estos líderes inspiran en sus territorios son la llave maestra para desmontar las narrativas tóxicas desde adentro. No se trata de un parche tecnológico, sino de un cambio de comportamiento intergeneracional. Es el diálogo humano y situado, cara a cara, actuando como escudo contra la frialdad del algoritmo.

La delgada línea de la libertad

Acá es donde siempre salta la polémica. Cuando hablamos de frenar discursos, muchos ven el fantasma de la censura. Sin embargo, el Secretario General fue clarísimo: «Luchar contra la incitación al odio no significa apagar la libertad de expresión».

La libertad para decir lo que pensamos es sagrada, pero nunca puede ser el comodín para causar daños irreparables a minorías o incitar al genocidio. En este equilibrio, el sector tecnológico tiene que asumir su cuota de responsabilidad civil, pero el trabajo pesado nos toca a nosotros. Gobiernos, universidades, medios de comunicación y usuarios de a pie.

Como bien cerró Guterres en su discurso: en esta lucha contra los ciclos trágicos de miedo y violencia, «todos tenemos un papel que jugar, no hay espectadores». La próxima vez que un algoritmo intente empujarte al odio, acordate de que el control definitivo, afortunadamente, todavía lo tenemos los humanos.