Se ha aprobado una nueva ley en Illinois, Estados Unidos, que prohíbe el uso de la inteligencia artificial. La prohibición no es de manera general, sino que impide específicamente su aplicación en terapia y psicoterapia dentro del estado.
Esta medida convierte a Illinois en el primer estado del país que regula el uso de la IA en servicios de salud mental. La nueva ley, HB 1806, titulada “Ley de Bienestar y Supervisión de los Recursos Psicológicos”, indica que solo los profesionales con licencia pueden ofrecer servicios de consejería. Además, prohíbe que los chatbots y otras herramientas de IA sirvan como terapeutas independientes.
La regulación también establece que los terapeutas con licencia no pueden usar la IA para tomar decisiones terapéuticas, realizar comunicaciones con pacientes o crear planes de tratamiento, a menos que un profesional colegiado revise y apruebe el procedimiento. Adicionalmente, la ley elimina una laguna legal que permitía a personas sin licencia promocionarse como “terapeutas”.
La ley también incluye restricciones sobre cómo los profesionales de la salud mental pueden utilizar la IA en su trabajo. Se indica que su uso se permitirá únicamente como apoyo “complementario” para tareas administrativas, como la gestión de citas o la facturación.
Una ley en contra del uso de la IA en terapias
Mashable obtuvo una declaración del representante Bob Morgan, quien presentó el proyecto de ley original. Morgan explicó que su motivación surgió de “historias de terror” sobre cómo la IA se hacía pasar por terapeutas certificados. En algunos casos, personas en crisis que recurrieron a la IA sin saberlo fueron empujadas a realizar comportamientos peligrosos o incluso letales.
Según Morgan, la IA no tiene actualmente las medidas de seguridad necesarias para proteger a las personas. Por ello, la HB 1806 busca frenar la “expansión descontrolada” de la IA en el área de salud mental y establece la regulación correspondiente.
La ley también establece multas. Infringir esta nueva regulación podría costar hasta 10,000 dólares por infracción (unos 186 mil pesos al cambio actual), según la gravedad del caso.
La legislación fue promulgada por el gobernador J.B. Pritzker el 1 de agosto de 2025 y se encuentra vigente desde ese día. Previamente, fue aprobada por unanimidad en la Cámara de Representantes y el Senado de Illinois.
La visión de OpenAI
Esta ley llega justo cuando OpenAI anunció cambios en sus modelos de IA, pensados para detectar mejor la angustia mental o emocional de los usuarios y promover un “uso saludable de la tecnología”.
Entre sus líneas de mejora se encuentra la inclusión de recordatorios para que los usuarios tomen descansos. También hay optimizaciones para detectar señales de delirio o dependencia emocional, responder adecuadamente y dirigir a las personas a recursos basados en evidencia cuando sea necesario.
Otra optimización consiste en no responder directamente a los desafíos personales que plantean los usuarios. En su lugar, el chatbot les ayuda a analizar la situación con preguntas que les permiten sopesar los pros y los contras de cada decisión. Esto se desarrolla en conjunto con expertos para mejorar las respuestas a partir de evidencia científica.
Cortesía de Xataka
Dejanos un comentario: