Castigar el uso de la inteligencia artificial en delitos sexuales. Ese es el objetivo de una nueva iniciativa para reformar el Código Penal del Estado de Querétaro, que busca proteger a las personas de la violencia facilitada por las nuevas tecnologías. La propuesta busca establecer normas que limiten el uso de la IA para crear y difundir contenido falso con apariencia auténtica, conocido como deepfakes.
De acuerdo con el comunicado oficial, con esta reforma se busca sancionar específicamente a quien transmita, oferte, divulgue o intercambie contenido íntimo, sexual, erótico o pornográfico de una persona que sea distorsionado o alterado con IA para crear “hechos falsos que tengan apariencia real” sin su consentimiento.
Prisión y multas: así se busca castigar la violencia digital con IA
Según Guillermo Vega, presidente de la comisión legislativa, la difusión de este contenido sería castigada sin importar el medio, ya sea impreso, por correo electrónico, redes sociales o cualquier otra plataforma tecnológica, y aplicaría para imágenes, videos o audios.
La reforma busca establecer penas de 3 a 6 años de prisión por la difusión de este tipo de contenidos. También contempla multas que van de 900 a 1,900 veces el valor diario de la UMA por concepto de reparación de daño, lo que equivale aproximadamente a entre 101,820 y 214,966 pesos al valor actual.
Vega explicó que esta reforma toma como precedente tanto la Ley Olimpia como el Código Penal Federal en lo que respecta a la violación a la intimidad sexual. Sin embargo, se enfoca en la IA como una nueva forma de violencia digital, por ejemplo, con la creación de contenido sexual falso o la manipulación de imágenes y audios íntimos.
El legislador aclaró que la iniciativa no busca regular la inteligencia artificial en general, sino delimitar su uso para evitar que sea utilizada como una herramienta para cometer delitos sexuales.
La diputada Teresa Calzada indicó que la iniciativa también está motivada por la falta de sentencias en delitos de este tipo. Detalló que, entre 2019 y 2023, en México se abrieron 8,854 carpetas de investigación por delitos contra la intimidad sexual digital, de las cuales solo dos terminaron en sentencia y ninguna contempló el uso de IA, a pesar de casos como el del IPN, donde se encontraron miles de fotos y videos alterados con fines sexuales.
Más allá de la Ley Olimpia: los retos de la nueva reforma
Esta iniciativa busca reformar el artículo 167 del Código Penal del Estado de Querétaro para llenar un vacío legal que existe a nivel nacional. La diferencia clave con la Ley Olimpia es su especialización:
- La Ley Olimpia sanciona la difusión de contenido íntimo real y existente que se comparte sin el consentimiento de la persona.
- La reforma de Querétaro sanciona la creación y fabricación de contenido falso que aparenta ser real gracias a la IA, castigando la suplantación de identidad en un contexto sexual.
Sin embargo, la propuesta enfrenta varios desafíos, como la dificultad de demostrar quién creó el contenido y si se usó IA específicamente para ello, además de la complejidad de perseguir a delincuentes que operan desde otros estados o países. También se plantea que los castigos no son suficientes y se requieren estrategias de educación y alfabetización digital a largo plazo.
La respuesta contra los deepfakes: tecnología y otras leyes
Para combatir este problema, las propias compañías de inteligencia artificial ya trabajan en soluciones. Google, por ejemplo, desarrolló SynthID, una tecnología que incluye una “marca de agua” visible y otra invisible en el contenido generado con IA para facilitar su detección. Por su parte, OpenAI colabora con la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) para integrar metadatos en las imágenes creadas con DALL-E 3, que informan sobre su origen.
En México, esta no es la primera vez que se busca legislar sobre el tema. En 2023, después de que el entonces jefe de Gobierno de la Ciudad de México, Martí Batres, denunciara que un audio filtrado con su voz había sido creado con inteligencia artificial, se presentaron iniciativas para reformar el Código Penal Federal. La propuesta contemplaba penas de dos a ocho años de cárcel y multas de 100 a 800 días para quienes generaran estos contenidos.
Ese mismo año, se presentó otra iniciativa federal enfocada específicamente en los deepfakes para generar contenido íntimo falso. En esa propuesta se planteaban modificaciones para castigar con penas de cuatro a seis años de prisión y multas de 500 a 1,000 UMAS la creación de deepfakes sexuales.
Cortesía de Xataka
Dejanos un comentario: