California inició el miércoles una investigación sobre xAI, la empresa de IA de Elon Musk, después de que su chatbot Grok fuera utilizado para crear imágenes sexualizadas de mujeres y niños, mientras autoridades europeas anunciaron que evalúan las medidas correctivas prometidas por la compañía.
En los últimos días Indonesia y Malasia bloquearon el acceso a Grok, mientras el ente regulador en Reino Unido lanzó su propia pesquisa después de que usuarios crearon imágenes pornográficas o lascivas con simples instrucciones a esa herramienta de inteligencia artificial (IA).
La empresa “xAI parece facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”, indicó el fiscal general de California, Rob Bonta, en un comunicado.
En consecuencia, se iniciará una “investigación sobre xAI para determinar si, y cómo, xAI violó la ley”, añadió.
Te puede interesar
“Exhorto a xAI a tomar medidas inmediatas para que eso no ocurra más”, agregó el fiscal. “Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico“.
Un movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red social X, también propiedad de Musk.
Algunos usuarios aprovecharon esa función para publicar o responder a mensajes que contenían fotografías de mujeres, junto con la instrucción “ponla en bikini” para generar una imagen hiperrealista falsa (deepfake).
Desde el 9 de enero, esa función fue desactivada para los usuarios que no pagan X, la cual aseguró que tomará medidas para suprimir esos contenidos ilegales y suspender las cuentas implicadas.
En Reino Unido, el primer ministro Keir Starmer dijo el miércoles ante el Parlamento que fue informado de que “X está tomando medidas para garantizar el pleno cumplimiento de la legislación británica”.
“Si es el caso, es algo bueno, pero no retrocederemos”, indicó Starmer, y advirtió que la investigación en curso se mantendrá.
Un portavoz de la Comisión Europea, Thomas Regnier, indicó el miércoles que la autoridad tomaba nota de “medidas suplementarias adoptadas por X para evitar que Grok genere imágenes sexualizadas de mujeres y niños”, pero no las precisó.
Si esos “cambios no son efectivos, la Comisión no dudará en utilizar todo” su arsenal legislativo, agregó.
Te puede interesar
Al ser interrogado por la AFP, Grok generó esta respuesta: “xAI impuso restricciones a la generación por parte de Grok de deepfakes sexualizados tras la indignación mundial y las investigaciones, pero no se ha anunciado ninguna prohibición total”.
Un análisis realizado la semana pasada por la oenegé AI Forensics sobre más de 20,000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores de edad.
rrg
Cortesía de El Economista
Dejanos un comentario: