Elon Musk ha dicho que los críticos de su sitio de redes sociales X están buscando «cualquier excusa para la censura», después de que su chatbot de inteligencia artificial (IA) Grok generara críticas después de que se surgiera que estaba siendo utilizado para crear imágenes sexualizadas de personas sin su conocimiento o consentimiento.
Ofcom dice que está realizando una evaluación urgente de X en respuesta, con el respaldo de la Secretaria de Tecnología, Liz Kendall.
Pero las presidentas de los comités de tecnología y medios del Parlamento han dicho que están preocupadas de que las «lagunas» en la Ley de Seguridad en Línea puedan obstaculizar la capacidad del regulador de medios para lidiar con el asunto.
X ahora ha limitado el uso de la función de imágenes de IA a aquellos que pagan una tarifa mensual, un cambio que Downing Street calificó de «insultante» para las víctimas de violencia sexual.
- La inteligencia artificial Grok de Elon Musk parece haber creado imágenes sexuales de niños, dice una organización benéfica
- Acusan al Gobierno de demorarse en la aplicación de la ley deepfake sobre la inteligencia artificial de Grok
- X podría enfrentar una prohibición en el Reino Unido por deepfakes, dice el ministro
Un portavoz de Ofcom dijo: «Nos pusimos en contacto urgentemente [con X] el lunes y establecimos un plazo firme hasta hoy [viernes] para que se explicaran, a lo cual hemos recibido una respuesta».
«Estamos realizando una evaluación acelerada con carácter de urgencia y proporcionaremos más información en breve».
Los poderes de Ofcom bajo la Ley de Seguridad en Línea incluyen la posibilidad de solicitar una orden judicial para impedir que terceros ayuden a X a recaudar dinero o ser accedido en el Reino Unido, en caso de que la empresa se niegue a cumplir.
Kendall ha dicho que espera una actualización de Ofcom en unos días y que tendría el apoyo total del gobierno si decidiera bloquear X en el Reino Unido .
Pero Dame Chi Onwurah, presidenta del comité de innovación y tecnología, dijo que estaba «preocupada y confundida» sobre cómo «se está abordando realmente» el asunto, y escribió a Ofcom y Kendall para pedir aclaraciones.
Dame Chi dijo que «no estaba claro» según la Ley de Seguridad en Línea si la creación de dichas imágenes usando IA era ilegal, como también lo era la responsabilidad de los sitios de redes sociales por lo que se compartía en sus plataformas.
«La ley realmente debería hacer que algo tan dañino para tanta gente sea claramente ilegal, y la responsabilidad de X debería ser clara», dijo al programa Today de BBC Radio 4.
Caroline Dinenage, presidenta de la Comisión de Cultura, Medios de Comunicación y Deportes, también afirmó tener «un temor real de que exista una laguna en la reglamentación».
«Existen dudas sobre si la Ley de Seguridad en Línea realmente tiene el poder de regular la funcionalidad, es decir, la capacidad de la IA generativa de desnudar la imagen de alguien», dijo a BBC Breakfast.
El uso de Grok para generar imágenes sexualizadas no consensuadas ha sido condenado por políticos de todos los partidos:
- El primer ministro Sir Keir Starmer lo calificó de «vergonzoso» y «repugnante».
- El líder de Reform UK, Nigel Farage, dijo que era «horrible en todos los sentidos» y que X «necesita ir más allá» de los cambios que había realizado en Grok el viernes, pero agregó que prohibir la plataforma sería un ataque a la libertad de expresión.
- Los Demócratas Liberales pidieron que se restrinja temporalmente el acceso a X en el Reino Unido mientras se investiga el sitio de redes sociales.