Un anuncio de una herramienta de edición de vídeo e imágenes que insinuaba que los espectadores podían eliminar digitalmente la ropa de una mujer ha sido prohibido por el organismo regulador de la publicidad del Reino Unido.
El anuncio de YouTube de PixVideo – AI Video Maker, visto en enero, mostraba una imagen de «antes» y «después» de una joven, con garabatos rojos superpuestos en su abdomen en la primera y partes de su piel al descubierto en la segunda.
En la parte inferior de la imagen aparecía un texto que decía: «Borra lo que sea», seguido de un emoji de ojos de corazón.
Ocho personas presentaron una queja ante la Autoridad de Normas Publicitarias (ASA, por sus siglas en inglés) alegando que el anuncio sexualizaba y cosificaba a las mujeres, y que era irresponsable, ofensivo y perjudicial.
No está claro si la imagen del anuncio es de una persona real o si ha sido generada por inteligencia artificial, y la ASA (Autoridad de Normas Publicitarias) declaró a la BBC que realizar tal evaluación no formaba parte de su investigación.
El organismo regulador afirmó que PixVideo no permitía a sus usuarios eliminar la ropa de las imágenes digitales para crear contenido sexualmente explícito, pero que los espectadores podrían haber tenido la impresión de que sí lo permitía.
«Dado que el anuncio daba a entender que los espectadores podían usar una aplicación para quitarle la ropa a una mujer, consideramos que aprobaba la alteración digital y la exposición del cuerpo de las mujeres sin su consentimiento», dijo la agencia en un comunicado.
Añadió que el anuncio era «irresponsable, incluía un estereotipo de género dañino y era probable que causara una ofensa grave».
Saeta Tech, propietaria de PixVideo, afirmó comprender por qué el anuncio podría resultar ofensivo, pero atribuyó la culpa a su presentación y mensaje, más que al uso previsto de su producto.
Afirmó que prohibía la creación de contenido desnudo o sexualmente explícito y que contaba con herramientas automatizadas de detección y bloqueo para evitar que se generaran este tipo de imágenes.
La empresa ha accedido a no volver a emitir el anuncio y ha suspendido toda su publicidad mientras lleva a cabo una revisión interna.
El tema de las aplicaciones que «desnudan» a mujeres y niñas sin su consentimiento saltó a los titulares en enero, cuando el chatbot Grok de Elon Musk se utilizó para inundar X con imágenes sexualizadas.
Tras una fuerte reacción a nivel mundial, Musk bloqueó posteriormente a Grok para que no pudiera generar dichas imágenes en las jurisdicciones donde es ilegal, pero X sigue enfrentándose a investigaciones y demandas en todo el mundo.
El gobierno del Reino Unido anunció en diciembre que ilegalizaría la creación y el suministro de herramientas de inteligencia artificial que permitan a los usuarios editar imágenes para, aparentemente, quitar la ropa de una persona.
Los nuevos delitos se basarán en las normas existentes sobre deepfakes con contenido sexual explícito y el abuso de imágenes íntimas.