Críticas a Anmistía Internacional por generar imágenes de abusos con Inteligencia Artificial

La ONG Anmistía Internacional ha publicado un informe para retratar la violencia en las protestas sociales de Colombia de 2021 acompañado de imágenes generadas por Inteligencia Artificial que no han tardado en ser polémicas, recibir críticas y reabrir un debate: ¿Cuáles son los límites de la IA?

La generación de imágenes con Inteligencia Artificial parece no tener límites. Desde el surgimiento y desarrollo de herramientas como Dall-E o Midjourney, hemos sido testigos de primera mano de toda una oleada de imágenes que, sin control ni regulación, invadían la red. La última gran polémica corre a cargo de Anmistía Interncional, que lanzó un informe sobre la violencia en las protestas sociales de Colombia acompañado de imágenes creadas con IA que simulaban abusos.

Durante la ola de disturbios en Colombia en 2021, Amnistía Internacional y otros observadores documentaron cientos de casos de abusos contra los Derechos Humanos cometidos por la policía colombiana, incluyendo violencia, acoso sexual y tortura. Como resultado de su investigación, la organización expresó su preocupación por las violaciones de los derechos humanos que sufren los migrantes venezolanos y cualquier defensor de los Derechos Humanos.

Dicho informe estaba acompañado de unas imágenes que han generado controversia debido a ciertas anomalías identificadas por los usuarios. Por un lado, los rostros de los manifestantes y policías parecen deformados, dando a las imágenes el aspecto distópico tan habitual de la IA. Por otro lado, la bandera tricolor que porta un manifestante tiene los colores de la bandera colombiana, amarillo, azul y rojo, pero en un orden incorrecto. Además, el uniforme policial mostrado en las imágenes está obsoleto.

Synthetic Memories: recuperar el pasado con IA cuando la memoria se desvanece

Disney y Universal demandan a Midjourney: «Esto es un robo»

Más

¿qué hacemos con las imágenes falsas?

Tras la oleada de críticas, la ONG no ha tardado en eliminar las imágenes. Sin embargo, el hecho ha alimentado el debate sobre si se debería aplicar algún tipo de regulación a las imágenes generadas con este tipo de tecnología, sobre todo cuando se trata de retratar unos abusos que van en contra de los Derechos Humanos.

Lo preocupante es que no se trata de caso aislado. En los últimos meses hemos visto numerosas imágenes en las que era realmente difícil diferenciar si se trataban de fotografías reales o si habían sido generadas a través de herramientas de Inteligencia Artificial. Esto incluso llevó a Midjourney a cancelar las pruebas gratuitas debido al abuso que se estaba produciendo.

En los últimos meses hemos visto numerosas imágenes en las que era realmente difícil diferenciar si se trataban de fotografías reales o si habían sido generadas a través de IA

Esta polémica de Anmistía Internacional ha saltado justo la semana en la que Geoffrey Hinton, conocido como el padrino de la IA, ha dimitido de su cargo como vicepresidente de Ingeniería de Google debido el rumbo que las herramientas de IA han tomado en los últimos meses. En una entrevista en New York Times ha confesado que tiene muchas dudas sobre la tecnología que él ayudó a crear: «Es díficil ver cómo se puede evitar que los malos actores lo usen para cosas malas».

Al padrino de la IA también le preocupa especialmente que internet se llene de fotos, textos y vídeos falsos, en los que sea imposible identificar su origen y autoría. De hecho, piensa que muy pronto las inteligencias artificiales serán mucho más inteligentes que el ser humano. Frente a esto el debate está servido, previendo un futuro tan inquietante como misterioso en el que la IA estará en el centro.

Actualizado 03/05/2023