Donald Trump prohibió el uso de “inteligencia artificial woke” en el Gobierno

“Previniendo la inteligencia artificial woke en el Gobierno federal”, dice en grandes letras mayúsculas el encabezado de la última resolución del Gobierno de Donald Trump que prohíbe la utilización de sistemas de IA alineados con la “diversidad, equidad e inclusión” en las agencias estatales de Estados Unidos.

Se trata de una orden ejecutiva para que las herramientas de inteligencia artificial adquiridas por el Gobierno federal prioricen la “veracidad” y la “neutralidad ideológica”. Obviamente, en contrapartida con el “fantasma” woke, forma en la que, actualmente, la ultraderecha llama despectivamente a las agendas ligadas al progresismo, como la preservación de derechos para las minorías, la agenda de igualdad de género o el cuidado del ambiente.

De este modo, Trump busca limitar el uso de Grandes Modelos de Lenguaje (LLM, por sus siglas en inglés) que estén en favor de iniciativas de diversidad, equidad e inclusión (DEI). Pero, ¿qué significa esto? Según el gobierno estadounidense, “una de las ideologías más extendidas y destructivas es la denominada diversidad, equidad e inclusión” (DEI).

La resolución publicada en la página oficial de la Casa Blanca enumera una serie de ejemplos más que llamativos:

  • “En el contexto de la IA, la DEI incluye la supresión o distorsión de información factual sobre raza o sexo”.
  • “La manipulación de la representación racial o sexual en los resultados de los modelos”
  • “La incorporación de conceptos como la teoría crítica de la raza, el transgenerismo, el sesgo inconsciente, la interseccionalidad y el racismo sistémico”.
  • “La discriminación por motivos de raza o sexo”.

Según creen, “la DEI desplaza el compromiso con la verdad en favor de resultados preferentes y, como ilustra la historia reciente, representa una amenaza existencial para una IA fiable”.

Tras lo que pusieron un “ejemplo” histórico cuando un “modelo de IA afirmó que un usuario no debía ‘confundir’ el género de otra persona, incluso si fuera necesario para evitar un apocalipsis nuclear”.

Por eso, afirmaron que en el contexto de las contrataciones federales el Gobierno “tiene la obligación de no adquirir modelos que sacrifiquen la veracidad y la precisión en aras de intereses ideológicos”.

De esta manera, se indica que sólo se podrán adquirir LLM que tengan como centro gravitacional la “búsqueda de la verdad”, priorizando la “precisión histórica, la investigación científica y la objetividad”; y la “neutralidad ideológica”, es decir, “que no manipulen las respuestas en favor de dogmas ideológicos como la DEI”.

¿Los modelos de lenguaje tienen ideología?

En el fondo, todo esto parece caer en un sinsentido. Los LLM son entrenados con muchísima información disponible en internet. No tienen ideología ni capacidad para razonar si algo es verdadero o falso. Simplemente, en base a las toneladas de información, pueden realizar cálculos probabilísticos de resultados.

Si el modelo es entrenado con datos sesgados –como suele ocurrir– de género o de raza, porejemplo, lo que hacen las empresas es un fine-tuning, donde se establecen ciertos parámetros para evitar contenido violento y discriminatorio: pero no por una tendencia woke, sino porque el contenido original, lejos de ser objetivo, tiene sesgos.

Para entenderlo en un ejemplo claro, se puede ver el caso de Tay, desarrollado por Microsoft, un modelo de lenguaje que fue diseñado para imitar los patrones de una mujer estadounidense de 19 años, y para aprender de las interacciones con usuarios humanos de Twitter, al que dieron de baja en menos de 24 horas, porque –entrenado con datos de la propia red social– estaba inundando la red con mensajes de odio, antisemitas, xenófobos y conspirativos. 

Cortesía de Página 12



Dejanos un comentario: