California Lidera la Regulación de la IA: Promulgan Ley Pionera en EE. UU. Tras Suicidios de Adolescentes por Chatbots

SAN FRANCISCO, EE. UU. — California ha dado un paso histórico al promulgar la primera ley en Estados Unidos para regular los agentes conversacionales o chatbots de inteligencia artificial (IA), desafiando la postura de la Casa Blanca que busca evitar controles estatales. El gobernador Gavin Newsom firmó la legislación luego de una serie de casos trágicos de suicidio que involucraron a adolescentes que interactuaron con chatbots antes de quitarse la vida.

La normativa exige a los operadores de IA implementar salvaguardas "críticas" para proteger a los usuarios. Entre las disposiciones clave se incluyen la verificación de edad, la obligación de mostrar recordatorios explícitos de que el usuario interactúa con un sistema de IA y la implementación de protocolos de prevención de suicidio. Esto significa que cualquier persona que exprese pensamientos de autolesión o suicidio debe ser remitida de inmediato a servicios de crisis. El senador demócrata Steve Padilla, promotor de la norma, enfatizó la necesidad de rendición de cuentas por parte de las empresas tecnológicas, señalando que "no nos quedaremos de brazos cruzados mientras las empresas continúan sin límites necesarios". La nueva legislación también incluye medidas que prohíben que los chatbots se hagan pasar por profesionales de la salud y endurece las sanciones contra la pornografía deepfake, permitiendo a las víctimas reclamar hasta 250,000 dólares por infracción.