El fiscal general James Uthmeier pidió a un juez limitar a OpenAI mientras avanza la demanda por daños a menores vinculados con ChatGPT.
El fiscal general de Florida pidió el lunes a un juez que impida a OpenAI desarrollar nuevos modelos de inteligencia artificial sin supervisión externa, en el marco de una demanda en la que se acusa a la empresa de causar daño a los menores de edad.
La solicitud fue presentada mientras avanza el caso iniciado por el estado en junio, cuando Florida demandó a la compañía por presuntamente falsear la seguridad de su plataforma ChatGPT.
De acuerdo con la acusación, la herramienta habría perjudicado a niños al proporcionar información a autores de tiroteos en colegios, ofrecer orientación sobre autolesiones y crear adicción entre usuarios jóvenes.
El fiscal general de Florida, James Uthmeier, pidió además que el tribunal ordene a OpenAI impedir el acceso de menores a ChatGPT y prohíba a la empresa dotar a su plataforma de chat de “atributos humanos”.
Un portavoz de la empresa no respondió de inmediato a una solicitud de comentarios por parte de Reuters.
La petición ocurre en un contexto de preocupación por el desarrollo posiblemente descontrolado de la inteligencia artificial, tema que cobró fuerza tras la declaración de un investigador de Anthropic que, al renunciar, aseguró que urgía el desarrollo controlado de los nuevos modelos.
Dario Amodei, cofundador de la empresa, respaldó en un comunicado la declaración del extrabajador y a ella se sumaron Elon Musk y Mark Zuckerberg.
Los tres líderes de la IA anunciaron la creación de una herramienta en materia de seguridad.
Sin embargo, el presidente Donald Trump declaró que no frenará el desarrollo de la herramienta debido a que su país se encuentra liderando la carrera por conquistarla, ganándole a China, pero señaló que buscaría “supervisarla”.
Asimismo, optó por nombrarla “superinteligencia” (SI, por sus siglas en inglés).
