La plataforma X de Elon Musk endureció esta semana las restricciones sobre Grok, su asistente de inteligencia artificial, tras una ola de indignación internacional, bloqueos gubernamentales e investigaciones legales por la generación de imágenes sexuales y deepfakes no consentidos de mujeres y menores.
Lo que comenzó como una función viral dentro de la red social, capaz de modificar fotos reales con simples instrucciones como “ponle un bikini”, escaló en cuestión de días hasta convertirse en un caso de alto riesgo regulatorio que hoy involucra a autoridades de Asia, Europa y Estados Unidos.
Origen del escándalo
A diferencia de otras herramientas externas de edición con inteligencia artificial, Grok operaba directamente dentro de X, a través de su propia cuenta, lo que permitió que cualquier usuario solicitara la creación o modificación de imágenes y recibiera la respuesta de forma pública.
Esta facilidad detonó una avalancha de montajes hiperrealistas (deepfakes), muchos de ellos sexualizados, que afectaron no sólo a mujeres famosas o usuarias comunes, sino también a víctimas de tragedias recientes y, en los casos más graves, a personas que parecían ser menores de edad.
Un análisis de la ONG AI Forensics sobre más de 20,000 imágenes generadas por Grok reveló que más de la mitad mostraban a personas con poca ropa: el 81% correspondía a mujeres y alrededor del 2% aparentaba involucrar a menores.
Reacción de gobiernos
La respuesta internacional no tardó. Filipinas anunció el bloqueo de Grok, sumándose a decisiones similares de Indonesia y Malasia, que suspendieron el acceso al chatbot por considerar que facilitaba la difusión de contenido sexual ilegal.
En Europa, el caso encendió las alarmas regulatorias. En Reino Unido, el regulador Ofcom abrió una investigación formal contra X para determinar si la plataforma incumplió sus obligaciones legales de evaluar y reducir el riesgo de acceso a contenidos ilegales, especialmente para menores. El proceso podría derivar en multas de hasta 10% de la facturación mundial de la empresa o incluso en un bloqueo judicial del servicio.
El primer ministro Keir Starmer fue tajante y advirtió que si X no lograba controlar a Grok, el Estado lo haría, y criticó que limitar la función sólo a usuarios de pago convirtiera una práctica ilegal en un “servicio premium”, lo que calificó como una afrenta para las víctimas de violencia sexual digital.
En Francia, la ministra de asuntos digitales consideró insuficientes las medidas anunciadas por X, mientras que la Comisión Europea impuso una medida cautelar y advirtió que no dudará en utilizar todo su arsenal legal si los cambios no resultan efectivos.
Estados Unidos entra al caso
La presión también llegó a Estados Unidos, donde la fiscalía de California abrió una investigación contra xAI, la empresa desarrolladora de Grok, al considerar que el chatbot podría haber facilitado la producción a gran escala de montajes íntimos no consentidos, utilizados para acosar a mujeres y niñas en internet, principalmente a través de X.
El fiscal general Rob Bonta señaló que la investigación busca determinar si xAI violó la ley estatal y reiteró una postura de “tolerancia cero” frente a la creación y difusión de imágenes sexuales no consentidas mediante IA.
La respuesta de X y Musk
Ante el aumento de la presión, X anunció una serie de ajustes:
- La creación y edición de imágenes con Grok quedó limitada a usuarios suscriptores.
- Se implementaron bloqueos geográficos en países donde ese tipo de contenido es ilegal.
- Se restringió la edición de imágenes de personas reales con ropa reveladora, incluso para usuarios de pago.
En comunicados oficiales, la plataforma reiteró su política de tolerancia cero frente al material de abuso sexual infantil y aseguró que colabora con autoridades locales cuando es necesario.
Por su parte, Elon Musk defendió que quienes utilicen Grok para crear contenido ilegal enfrentarán las mismas consecuencias que si lo publicaran directamente en X, y acusó a líderes políticos de intentar limitar la libertad de expresión bajo el pretexto de la regulación.
Aunque X sostiene que las nuevas restricciones refuerzan su marco de seguridad, el caso Grok dejó al descubierto los riesgos de integrar herramientas de IA generativa directamente en plataformas masivas, sin salvaguardas suficientes desde su lanzamiento.
Con información de agencias
Te puede interesar
Cortesía de El Economista
Dejanos un comentario: