ACNUR: El discurso de odio y la desinformación causan daño real a las personas desplazadas

GINEBRA – ACNUR, la Agencia de la ONU para los Refugiados, muestra su preocupación porque la propagación de la desinformación, el discurso de odio y los deepfakes están exacerbando e incitando daños en el mundo real contra las personas refugiadas y el personal humanitario. La inteligencia artificial (IA) está intensificando estos riesgos para la integridad de nuestro ecosistema de información y socavando la confianza, pero también puede ser parte de la solución si se gestiona adecuadamente.

La IA está transformando nuestro mundo y, si se desarrolla con propósito e inclusión, traerá oportunidades y beneficios tangibles, también para las personas refugiadas. Asimismo, puede ayudar a abordar los complejos desafíos relacionados con la información en contextos humanitarios. En la Cumbre Mundial de IA para el Bien, celebrada hoy en Ginebra, ACNUR reunió a expertos de gobiernos, del sector tecnológico y del ámbito académico para debatir respuestas positivas a los complejos desafíos relacionados con la información.

Es fundamental que las perspectivas humanitarias y de las personas refugiadas se incluyan en los esfuerzos internacionales de gobernanza de la IA. Por ejemplo, garantizar que las herramientas de moderación de contenidos funcionen de manera eficaz en contextos humanitarios y en idiomas menos comunes; esto significa situar a las personas en el centro de los equipos de confianza y protección, y crear marcos claros sobre salvaguardias y manipulación.

Este importante trabajo se desarrolla en un contexto de crecientes desafíos relacionados con la información. Desde África hasta Asia y el Pacífico, las mayores crisis de desplazamiento del mundo suelen ser también crisis de información.

Cuando la información se distorsiona, puede reducir el acceso al empleo y a la educación, dificultar la integración y amenazar la cohesión social. Los rumores en línea, las acusaciones falsas, la búsqueda de chivos expiatorios y el discurso deshumanizante han desencadenado protestas y ataques. En casos extremos, se han relacionado con violencia física, homicidios e incluso con el desplazamiento forzado. Apenas el mes pasado, las comunicaciones digitales de ACNUR con motivo del Día Internacional para Contrarrestar el Discurso de Odio se vieron inundadas de comentarios de odio.

La espiral de información errónea y desinformación plantea riesgos para las operaciones humanitarias y la seguridad. ACNUR ha observado un aumento de narrativas falsas y hostiles dirigidas contra sus operaciones y su personal, las cuales tienen el potencial de afectar significativamente la recaudación de fondos en un momento de presupuestos cada vez más reducidos y necesidades crecientes.

Una encuesta reciente de ACNUR reveló que el 93 por ciento del personal encuestado había sido testigo de información errónea, desinformación o discurso de odio, lo que afectaba la ejecución de nuestro mandato. Las mujeres – tanto entre las personas refugiadas como entre el personal – están siendo objeto de ataques de manera desproporcionada. La IA generativa amplifica estos efectos a gran escala. Por ejemplo, los videos deepfake perjudiciales generados con IA en los que aparecen miembros del personal de ACNUR y personas refugiadas representan un desafío cada vez mayor.

Las personas refugiadas, que ya enfrentan las secuelas del trauma, están viendo limitado o impedido su acceso a servicios de protección como el registro, así como a asistencia vital y otros servicios. Esto puede generar enormes riesgos e incluso provocar la muerte, como hemos visto recientemente en Libia, donde una ola de discursos de odio violentos y peligrosa desinformación incitó la hostilidad y los abusos contra las personas refugiadas, y afectó la seguridad del personal de ACNUR y de los trabajadores humanitarios que apoyan a las personas desplazadas y a las comunidades de acogida. Entre los casos más graves se incluyen deepfakes del Representante de ACNUR, llamados en línea para compartir las coordenadas GPS de las direcciones del personal y videos que describen al personal nacional como traidores a su país.

El discurso de odio no conoce fronteras y se propaga rápidamente. Las comunidades que se han visto forzadas a huir de sus hogares debido a la persecución y la violencia, como la población rohinya, siguen enfrentándose a narrativas deshumanizantes en línea, incluso en el exilio. El odio en línea alimenta el acoso y la intimidación en el mundo real, erosionando la cohesión social y profundizando las divisiones entre las comunidades de acogida y las poblaciones desplazadas.

ACNUR cree firmemente que la libertad de expresión es un derecho fundamental y que todas las personas, incluidas las personas refugiadas, deben tener acceso a recibir y difundir ideas e información. No se trata de cómo se debaten en línea las preocupaciones legítimas de la sociedad sobre la migración y el asilo, sino de los riesgos para la información que ponen en peligro vidas y que pueden provocar daños graves en contextos humanitarios. Por ejemplo, actores malintencionados, incluidos traficantes y tratantes de personas, pueden aprovechar las plataformas digitales con desinformación para engañar a las personas forzadas a huir mediante falsas promesas de protección, vías legales y empleo, conduciéndolas a situaciones peligrosas y de explotación.

La respuesta de ACNUR es práctica y colaborativa. Gracias a Suiza, creamos una Comunidad de Práctica sobre Integridad de la Información en Contextos Humanitarios. Colaboramos con diferentes grupos de actores interesados a nivel local y mundial. Iniciativas como el Compromiso Multiactor sobre Integridad de la Información del Foro Mundial sobre los Refugiados, lanzado junto con Google en 2023, pueden inspirar nuevos enfoques multilaterales. Se están logrando avances alentadores, pero es necesario sistematizarlos.

Las personas refugiadas están en el centro de esta labor. Las alianzas locales ayudaron a dar forma al Kit de Herramientas de Respuesta sobre Integridad de la Información de ACNUR. Utilizado por 2.000 profesionales para orientar acciones prácticas, desde evaluaciones de riesgos hasta respuestas basadas en la comunidad, constituye un ejemplo visible de nuestro enfoque colaborativo.

El desafío evoluciona rápidamente y ningún actor puede resolverlo por sí solo. Es fundamental que los contextos relacionados con las personas refugiadas y la acción humanitaria no queden al margen de los debates sobre la gobernanza de la IA. La información confiable es una necesidad para la protección de las personas refugiadas, y la integridad de la información contribuye a salvar vidas y mantener la confianza.

Para más información sobre este tema, favor de contactar:

• En Ginebra, Matthew Saltmarsh, [email protected], +41 79 967 99 36