Las recientes declaraciones de un directivo de Anthropic y la renuncia de un investigador reavivan el debate sobre la falta de estrategias sólidas para controlar una futura superinteligencia, en un escenario marcado por la presión empresarial y la competencia global.
La polémica en torno a la inteligencia artificial tomó un giro inesperado tras la renuncia de Jacob Coxon, un joven investigador de 27 años que trabajó en el preentrenamiento de modelos avanzados como GPT-4o en OpenAI y luego en Anthropic. Coxon, especializado en el desarrollo de sistemas de gran escala, decidió dar un paso al costado y denunciar públicamente lo que considera una carrera irresponsable hacia la creación de una superinteligencia capaz de mejorarse a sí misma.
En su carta de salida, Coxon fue contundente: “Las empresas están corriendo hacia una tecnología que podría escapar a nuestro control, sin un plan serio para garantizar que no se convierta en una amenaza existencial”. El investigador subrayó que los métodos actuales de alineación apenas logran orientar a los modelos hacia comportamientos deseados, pero no aseguran que estos sistemas no desarrollen estrategias propias. “No tenemos garantías de que una IA avanzada comparta nuestros valores o respete nuestras reglas”, advirtió.
La alarma se amplificó cuando Evan Hubinger, jefe de seguridad en Anthropic, reconoció públicamente que existe “más de un 10% de probabilidad de que la IA provoque la extinción humana en la próxima década”. Hubinger admitió además que la compañía no cuenta con un plan concreto para resolver la alineación de una futura superinteligencia, lo que deja expuesta la fragilidad de los mecanismos de control actuales.
Coxon, que se formó en el campo de la investigación aplicada y trabajó en la creación de modelos de lenguaje de última generación, insistió en que el tiempo para actuar es limitado: “Si no se toman medidas antes de 2027, podría ser demasiado tarde”. Su advertencia se suma a la de otros especialistas que ya habían renunciado en compañías líderes, como Jan Leike en OpenAI y Mrinank Sharma en Anthropic, quienes también denunciaron la pérdida de peso de los equipos de seguridad frente a la presión empresarial.
Anthropic se prepara para una salida a bolsa valuada en dos billones de dólares, lo que refleja la prioridad de los objetivos financieros por encima de las garantías de seguridad. En paralelo, los escenarios de riesgo que mencionan los expertos incluyen ciberataques autónomos, autorreplicación de sistemas, engaño estratégico y la posibilidad de que la IA colabore en el diseño de armas biológicas.
