Investigador de Anthropic renuncia y advierte que la IA podría acabar con la humanidad antes de 2030
Jacob Coxon, ingeniero británico de 27 años que trabajó en OpenAI y Anthropic, decidió abandonar la industria de la inteligencia artificial por temor a que la carrera por desarrollar sistemas cada vez más poderosos termine representando una amenaza para la humanidad.
Coxon anunció su renuncia a Anthropic y cuestionó públicamente la forma en que las principales compañías de inteligencia artificial están avanzando hacia sistemas de superinteligencia capaces de mejorar sus propias capacidades. Según el investigador, tanto Anthropic como OpenAI están compitiendo por alcanzar estos desarrollos sin haber resuelto completamente cómo mantenerlos bajo control.
En una serie de publicaciones en X, Coxon afirmó que quienes trabajan en el desarrollo de estas tecnologías “creen sinceramente que podría matarnos a todos al final de la década”. El ingeniero sostuvo que no se trata de una estrategia de mercadeo, sino de un temor que, según él, existe entre ejecutivos e investigadores de alto nivel de la industria.
Coxon trabajó durante los últimos tres años en investigación de preentrenamiento de modelos de IA, primero en OpenAI y posteriormente en Anthropic. Tras su salida, pidió una mayor coordinación entre las compañías que desarrollan inteligencia artificial y planteó incluso la posibilidad de establecer una pausa temporal en el incremento de las capacidades de estos sistemas, hasta contar con mayores garantías de seguridad.
Un investigador de Anthropic respalda la advertencia
La preocupación no quedó solamente en las declaraciones de Coxon. Evan Hubinger, investigador especializado en seguridad y alineación de IA de Anthropic, respondió públicamente a sus planteamientos y afirmó que dentro de la compañía realmente existe la preocupación de que una inteligencia artificial avanzada pueda llegar a matar a todos los seres humanos.
Hubinger señaló además que, a título personal, considera que existe más de un 10 % de probabilidad de que ocurra una catástrofe de este tipo durante la próxima década, y reconoció que todavía no existe un plan suficientemente sólido para garantizar que una futura superinteligencia permanezca alineada con los intereses humanos.
Las declaraciones han reavivado el debate mundial sobre los riesgos de la inteligencia artificial. Mientras las grandes compañías tecnológicas aceleran el desarrollo de modelos cada vez más autónomos y capaces, algunos de sus propios investigadores advierten que la velocidad de esta carrera podría estar superando la capacidad de la industria para garantizar su seguridad.
La advertencia de Coxon no significa que la extinción humana sea inevitable. Su argumento es que el riesgo potencial es tan elevado que, a su juicio, continuar desarrollando sistemas capaces de superar y mejorar sus propias capacidades sin mecanismos de control suficientes constituye una apuesta demasiado peligrosa.
