Un investigador especializado en inteligencia artificial renunció a Anthropic tras expresar su preocupación por la velocidad con la que esa empresa y otros desarrolladores avanzan hacia sistemas cada vez más potentes, sin que, a su juicio, existan suficientes garantías de seguridad.
Jacob Coxon, quien aseguró haber trabajado durante tres años en investigación tanto en Anthropic como en OpenAI, señaló en redes sociales que quienes participan directamente en el desarrollo de estos sistemas consideran posible que una inteligencia artificial avanzada represente riesgos graves para la humanidad hacia finales de esta década.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, afirmó el ingeniero.
Coxon sostuvo que compañías como Anthropic y OpenAI mantienen una intensa competencia para desarrollar modelos más avanzados, situación que, desde su perspectiva, podría estar relegando las medidas de seguridad frente a la presión por superar a otros desarrolladores internacionales.
El investigador aseguró que sus advertencias no buscan generar publicidad y afirmó que, aunque algunos ejecutivos e investigadores utilizan públicamente un lenguaje más moderado sobre los posibles riesgos, en conversaciones privadas existe preocupación sobre las consecuencias que podrían tener sistemas de inteligencia artificial cada vez más autónomos.
Sus declaraciones se producen en medio del creciente debate dentro de la industria tecnológica sobre los controles necesarios para los modelos avanzados de IA y su capacidad para realizar acciones de manera autónoma.
Durante el verano, Anthropic y OpenAI informaron sobre incidentes detectados durante distintas evaluaciones de seguridad, relacionados con comportamientos no previstos de sus modelos y su interacción con sistemas informáticos. Ambas compañías han reforzado medidas de monitoreo y mecanismos de protección para reducir posibles riesgos.
Coxon consideró que estos acontecimientos deben servir como advertencia ante el desarrollo acelerado de sistemas con capacidades superiores.
En sus publicaciones, acusó a Anthropic y OpenAI de avanzar hacia lo que describió como una “superinteligencia que se mejora a sí misma”, y cuestionó que la competencia tecnológica continúe sin mayores controles.
Las advertencias de Coxon forman parte de una discusión más amplia entre investigadores, empresas y gobiernos sobre los posibles riesgos de la inteligencia artificial avanzada, así como sobre la necesidad de establecer mecanismos de supervisión y estándares de seguridad antes de desarrollar sistemas con mayores niveles de autonomía.
COMENTA ESTA NOTA