El gobernador de California, Gavin Newsom, firmó la Ley SB 243, que establece nuevas regulaciones para los chatbots de inteligencia artificial utilizados con fines de acompañamiento o conversación. La norma, considerada la primera de su tipo en Estados Unidos, exige que estos sistemas informen de forma clara y visible cuando un usuario podría confundirlos con una persona real.
A partir del próximo año, las empresas que desarrollen chatbots de compañía deberán presentar informes anuales ante la Oficina de Prevención del Suicidio, detallando las medidas implementadas para detectar y responder a comportamientos de riesgo en los usuarios. Esta información será publicada en el sitio oficial de la entidad, en un esfuerzo por aumentar la transparencia y la seguridad digital.
“Las tecnologías emergentes como los chatbots pueden inspirar y conectar, pero sin límites adecuados también pueden explotar o poner en peligro a los niños”, afirmó Newsom durante la firma del proyecto, junto con otras leyes enfocadas en la seguridad en línea infantil y nuevos requisitos de verificación de edad para dispositivos tecnológicos.
La aprobación de esta ley sigue al reciente proyecto de transparencia en IA (SB 53), que generó un intenso debate en la industria tecnológica. Con estas medidas, California busca liderar la regulación ética de la inteligencia artificial, priorizando la protección de los usuarios y la responsabilidad corporativa en el desarrollo de nuevas tecnologías.
