IMPACTO PANAMÁ
Related Articles
El Gobierno británico ha elevado una exigencia formal y urgente a Elon Musk y su plataforma X, demandando medidas drásticas para frenar el uso de Grok, la inteligencia artificial de la red social, tras el hallazgo de imágenes sexualizadas de menores generadas mediante esta tecnología.
Presión gubernamental y regulatoria
La ministra de Tecnología, Liz Kendall, calificó los hechos como «espantosos e inaceptables». El reclamo cuenta con el respaldo de Ofcom, el regulador de comunicaciones, que alertó sobre funciones de Grok capaces de crear imágenes de personas con poca ropa y material degradante.
Las autoridades enfatizaron que:
- El Gobierno no permitirá la proliferación de imágenes que humillan y degradan a mujeres y niñas.
- X debe abordar este problema con máxima urgencia para cumplir con la legislación vigente.
- Nadie debería sufrir la experiencia de ver «deepfakes» íntimos creados sin su consentimiento en la web.
El marco legal: Online Safety Act
Este incidente se produce bajo el amparo de la Online Safety Act británica. Esta ley tipifica como delitos:
- El abuso de imágenes íntimas, incluso las generadas por IA.
- El ciberexhibicionismo.
- La omisión de las plataformas en la prevención o retiro rápido de dicho contenido.
X admite «casos aislados»
Tras un inicio donde minimizó el problema, la empresa reconoció a través de la cuenta oficial de Grok que se detectaron casos de generación de imágenes de «menores con escasa ropa». Elon Musk advirtió que los usuarios que utilicen la herramienta para fines ilegales enfrentarán consecuencias severas, similares a las de publicar material ilícito por medios convencionales.
Cuestionamientos a la moderación de Musk
El escándalo de Grok se suma a una serie de críticas internacionales sobre el deterioro de la seguridad en X desde 2022. Investigaciones de medios como Reuters y The New York Times han documentado:
- Recortes profundos: Reducción drástica en los equipos de confianza y seguridad.
- Aumento de contenido tóxico: Incremento de discursos racistas y misóginos según organizaciones como la Anti-Defamation League.
- Fallas en la eliminación: Retrasos persistentes en la detección de material sexual no consentido.
Además del Reino Unido, la Comisión Europea mantiene procedimientos abiertos contra la plataforma para evaluar su gestión de riesgos y transparencia bajo la Ley de Servicios Digitales (DSA). Para Londres, este caso representa un punto de inflexión en la gobernanza de la IA y la responsabilidad de las redes sociales en la protección de los ciudadanos.
