El investigador británico Jacob Coxon renunció a Anthropic tras tres años trabajando en preentrenamiento de modelos de inteligencia artificial entre esa compañía y OpenAI. En una extensa publicación en X, cuestionó directamente a ambos laboratorios y advirtió que la competencia por desarrollar superinteligencia artificial capaz de automejorarse está avanzando mientras, según afirma, sus propios creadores reconocen riesgos extremos.
“Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y apostando con nuestras vidas”, escribió Coxon.
Su advertencia apunta especialmente a la posibilidad de que futuros sistemas superen ampliamente las capacidades humanas, puedan vulnerar sistemas informáticos, acelerar descubrimientos científicos y adquirir recursos o influencia en el mundo real. Coxon asegura que el temor no se limita a voces externas a la industria, sino que también existe entre ejecutivos e investigadores que trabajan directamente en estas tecnologías.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing”, afirmó.
- Te puede interesar: ¿La Inteligencia Artificial reemplazará tu profesión?
El pronunciamiento recibió respaldo desde la propia Anthropic. Evan Hubinger, responsable de investigación de alineación en la compañía, afirmó públicamente que comparte la preocupación y estimó en más de 10 % la posibilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. También reconoció que Anthropic todavía no dispone de un plan definitivo para resolver el problema de alineamiento de una eventual superinteligencia.
Coxon sostiene que el problema no es únicamente tecnológico, sino también competitivo. Según explicó, en Anthropic existe una comprensión más profunda de los riesgos, pero la empresa continúa avanzando bajo la lógica de que, si otros laboratorios desarrollarán primero estas capacidades, debe intentar llegar antes y hacerlo de manera más segura. Para el investigador, aceptar esa carrera representa una apuesta de consecuencias potencialmente globales.
En su mensaje final, Coxon pidió a otros investigadores cuestionar la idea de que el avance hacia sistemas cada vez más poderosos sea inevitable. Entre las alternativas planteó acuerdos para reducir el ritmo de desarrollo entre los principales laboratorios estadounidenses e incluso una suspensión temporal de las mejoras de capacidades, mientras se establecen condiciones más sólidas de seguridad y coordinación internacional.
