Ofcom ha iniciado una investigación sobre X de Elon Musk por temores de que su herramienta de inteligencia artificial Grok se esté utilizando para crear imágenes sexualizadas.
En un comunicado, el organismo de control del Reino Unido dijo que había habido «informes profundamente preocupantes» sobre el uso del chatbot para crear y compartir imágenes de personas desnudas, así como «imágenes sexualizadas de niños».
Si se descubre que ha infringido la ley, Ofcom puede potencialmente imponerle a X una multa de hasta el 10% de sus ingresos mundiales o 18 millones de libras, lo que sea mayor.
La BBC contactó a X para obtener comentarios. Elon Musk afirmó previamente que el gobierno del Reino Unido buscaba «cualquier excusa para censurar» en respuesta a una publicación que cuestionaba por qué no se estaban considerando otras plataformas de IA.
La BBC ha visto varios ejemplos de imágenes alteradas digitalmente en X, en las que se desnudaba a mujeres y se las colocaba en posturas sexuales sin su consentimiento. Una mujer afirmó que se han creado más de 100 imágenes sexualizadas de ella .
Si X no cumple, Ofcom puede solicitar una orden judicial para obligar a los proveedores de servicios de Internet a bloquear por completo el acceso al sitio en el Reino Unido.
La secretaria de Tecnología, Liz Kendall, dijo a la BBC que acogía con satisfacción la investigación del organismo y lo instó a completarla lo antes posible.
«Es vital que Ofcom complete esta investigación rápidamente porque el público -y lo más importante, las víctimas- no aceptarán ninguna demora», dijo.
El predecesor de Kendall, Peter Kyle, dijo a BBC Breakfast que era «espantoso» que Grok «no hubiera sido examinado adecuadamente».
«El hecho de que ayer conocí a una mujer judía que vio su imagen en bikini afuera de Auschwitz generada por inteligencia artificial y publicada en línea me hizo sentir mal del estómago», dijo.
Ofcom examinará ahora si X no eliminó rápidamente el contenido ilegal cuando tuvo conocimiento de ello y si no tomó las «medidas adecuadas» para impedir que la gente en el Reino Unido lo viera.
Señaló que dicho contenido ilegal incluía «imágenes íntimas no consensuadas» e imágenes sexuales infantiles.
La decisión se produce tras la reacción global por la función de creación de imágenes de Grok, ya que tanto Malasia como Indonesia bloquearon temporalmente el acceso a la herramienta durante el fin de semana.
Un portavoz de Ofcom no dio ninguna indicación sobre cuánto tiempo duraría la investigación, pero dijo que sería un «asunto de máxima prioridad».
«Las plataformas deben proteger a las personas en el Reino Unido del contenido que es ilegal en el país», dijeron.
«No dudaremos en investigar cuando sospechemos que las empresas están incumpliendo sus obligaciones, especialmente cuando exista riesgo de daño a los niños».