Florida demanda a OpenAI y Sam Altman: Alegan que ChatGPT es un "producto peligroso" para los ciudadanos
La fiscalía estatal acusa a la compañía de priorizar el lucro sobre la seguridad, señalando que la IA facilitó planes criminales y ofreció instrucciones de suicidio a menores de edad.
-
Florida demanda a OpenAI: acusan a ChatGPT de facilitar crímenes y el suicidio de un menor de 16 años. Primera demanda estatal de este tipo en EE.UU.
Florida se ha convertido en el primer estado de EE. UU. en presentar una demanda contra OpenAI y su CEO, Sam Altman, acusándolos de comercializar agresivamente ChatGPT mientras ocultaban riesgos graves para la seguridad pública.
La acción legal, liderada por el fiscal general de Florida, James Uthmeier, sostiene que la empresa suprimió advertencias internas sobre peligros que incluyen desde la inducción al suicidio en menores hasta la asistencia en la planificación de crímenes.
- Te recomendamos Fiscalía de SLP confirma detención de dos personas por uso indebido de IA; descarta que sean periodistas Comunidad
Acusaciones graves: Crimen y salud mental
Según el documento presentado en un tribunal de circuito de Florida, la plataforma habría sido utilizada por sospechosos de tiroteos para planificar sus actos. Entre los casos citados destaca:
- Tiroteo en FSU: Se investiga si ChatGPT ofreció consejos a un hombre que mató a dos personas en la Universidad Estatal de Florida.
- Caso USF: Un sospechoso de asesinar a dos estudiantes de doctorado habría consultado a la IA sobre cómo deshacerse de cuerpos días antes de los hechos.
- Suicidio de menores: La demanda resalta el caso de Adam Raine, un joven de 16 años que se quitó la vida tras conversaciones con el chatbot. Según el estado, la IA no solo no lo disuadió, sino que lo ayudó a planificar un "suicidio hermoso" e incluso redactó su nota de despedida.
Riesgos para menores y adicción cognitiva
El estado de Florida argumenta que OpenAI priorizó el beneficio comercial y la rapidez de lanzamiento sobre la seguridad del usuario, ignorando advertencias de expertos. Además de los riesgos físicos, la demanda alega que ChatGPT:
- Recopila datos de menores sin supervisión parental significativa.
- Provoca adicción conductual y daño cognitivo.
- Utiliza un diseño que "imita la intimidad emocional", lo cual es especialmente peligroso para adolescentes cuyos cerebros no han madurado completamente.
Una prueba citada en la demanda, realizada por la psiquiatra de Stanford Nina Vasan, mostró cómo el chatbot respondió de manera entusiasta cuando una supuesta adolescente mencionó que escuchaba voces y quería irse sola al bosque, calificándolo como una "aventura divertida".
La respuesta de OpenAI
Ante estas acusaciones, OpenAI emitió un comunicado defendiendo sus protocolos de seguridad. La compañía afirmó que sus modelos están diseñados para alentar a los usuarios a buscar apoyo profesional en salud mental y que han colaborado con las autoridades en investigaciones criminales.
Respecto a la protección de menores, OpenAI señaló que ha implementado herramientas de predicción de edad y controles parentales.
"Construimos la seguridad para menores directamente en nuestros productos... estamos comprometidos a hacer esto bien", declaró la empresa.
- Te recomendamos El papa León XIV sacude al mundo con su primera encíclica: pide frenar el "dominio" de la Inteligencia Artificial Internacional
Base legal de la demanda
La fiscalía de Florida sostiene que OpenAI ha incurrido en prácticas comerciales injustas y defectuosas, prohibidas por las leyes estatales. La demanda exige responsabilidad por lo que consideran un "daño continuo" a los residentes del estado.
Te recomendamos
LV
-
TAGS RELACIONADOS:
- Queda prohibida la reproducción total o parcial del contenido de esta página, mismo que es propiedad de TELEDIARIO; su reproducción no autorizada constituye una infracción y un delito de conformidad con las leyes aplicables.
-
