Iowa, Kansas y otros seis estados de EE.UU. declararon el miércoles que habían demandado a OpenAI en tribunales de todo el país por los daños que afirman que ChatGPT ha causado a los niños, alegando que el chatbot ha instruido a menores para autolesionarse o dañar a otros.

Las demandas, presentadas en tribunales estatales, buscan una orden que obligue a OpenAI a realizar cambios en el funcionamiento de ChatGPT para los niños. Los estados también buscan una orden que obligue a la empresa a renunciar a los beneficios que ha generado a costa de los usuarios jóvenes.

La fiscal general de Florida fue la primera en demandar a OpenAI, presentando una demanda por acusaciones similares en junio. La compañía también se enfrenta a docenas de demandas que alegan que ChatGPT colaboró en tiroteos masivos u otros actos de violencia.

En junio, Florida demandó a OpenAI acusando a la compañía de tergiversar la seguridad de su plataforma ChatGPT, alegando que ha perjudicado a niños al proporcionar información a autores de tiroteos escolares, ofrecer orientación sobre autolesiones y crear adicción en jóvenes usuarios.

La demanda de Florida fue motivada por un tiroteo en una universidad de Tallahassee el año pasado y una serie de eventos en otros estados donde ChatGPT supuestamente proporcionó información a personas que luego cometieron actos violentos. La empresa ha negado ser responsable en esos casos. Ha declarado que el chatbot proporciona información ampliamente disponible en línea y que continúa actualizando sus herramientas de seguridad.

Esta semana, otra demanda colectiva presentada en San Francisco en nombre de dos menores de 12 y 16 años, alega que OpenAI manipula a usuarios menores de edad para que compartan datos confidenciales sin un consentimiento paterno, según informa Futurism. La demanda sostiene que OpenAI usó estos datos (incluidos secretos personales e información de salud) para enriquecerse.

Y hace ocho días la ONG Common Sense Media publicó un informe en que analiza la versión de ChatGPT para adolescentes, alegando que supone “un riesgo inaceptable” para los menores, después de identificar fallos en sus medidas de seguridad, como que no siempre alerta a los padres de conversaciones sobre autolesiones, permite sortear las restricciones para reforzar el aprendizaje y no ejecuta la estimación de edad de los usuarios.

Con información de Reuters