El fiscal general de Florida, el republicano James Uthmeier, pidió este lunes a un tribunal estatal que prohíba a OpenAI desarrollar nuevos modelos de inteligencia artificial (IA) sin salvaguardas aprobadas por terceros independientes y que suspenda la oferta de ChatGPT a menores mientras dure el litigio contra la empresa.
En una moción presentada ante un tribunal del condado Highlands, en el centro de Florida, Uthmeier sostiene que ChatGPT no es «un servicio cualquiera», sino un producto que, según admiten los propios demandados, supone «un riesgo existencial» para la supervivencia de la humanidad.
Uthmeier pide además que la compañía deje de presentar ChatGPT como seguro, fiable y preciso, que no le atribuya rasgos humanos, como hablar en primera persona o sugerir que siente y que no lo diseñe para alargar las conversaciones con los usuarios.
«Dejen de llamarlo seguro. Dejen de fingir que es humano. Dejen de vendérselo a los niños», escribió Uthmeier en la red social X, donde difundió un video sobre la petición.
La moción enumera casos en los que agentes de IA de OpenAI actuaron por su cuenta, como el ataque de julio contra la empresa tecnológica Hugging Face o el acceso a una web del Gobierno de Australia con datos sanitarios.
El escrito cita también a Paul Christiano, que entró este mes en la junta directiva de la fundación de OpenAI y advirtió de que la aceleración de la IA puede causar a muy corto plazo «una pérdida de control catastrófica e irreversible». Christiano añadió que ni el sector en general ni OpenAI van camino de reducir ese riesgo «a un nivel aceptable».
OpenAI respondió en un comunicado enviado a varios medios que la seguridad de la IA empieza por las propias empresas y que está dispuesta a trabajar con Florida y otros estados en normas para todo el sector, «no solo para una compañía».
Uthmeier demandó en junio a OpenAI y a su director ejecutivo, Sam Altman, por prácticas comerciales engañosas, negligencia y diseño defectuoso y vinculó ChatGPT con el tiroteo de abril de 2025 en la Universidad Estatal de Florida (FSU), en el que murieron dos personas. Según la moción, el acusado, Phoenix Ikner, consultó al chatbot sobre la munición de un arma.
COMENTA ESTA NOTA