El investigador Jacob Coxon anunció el martes 8 de septiembre su renuncia por riesgos de Anthropic, la empresa creadora del asistente de inteligencia artificial Claude, tras advertir en una serie de publicaciones en la red social X que “la gente que construye IA cree genuinamente que podría matarnos a todos antes de que termine la década”.
Coxon, quien trabajó los últimos tres años en investigación de preentrenamiento tanto en OpenAI como en Anthropic, señaló que ninguna de las dos compañías actúa de manera responsable: “están corriendo directo hacia una superinteligencia autosuperable y apostando con nuestras vidas”, escribió. Te contamos los detalles en TV Azteca Quintana Roo.
Lo distintivo de este caso, frente a advertencias externas previas sobre inteligencia artificial, es que el propio liderazgo actual de seguridad de Anthropic respaldó públicamente la magnitud del riesgo descrito por Coxon, aunque en desacuerdo con su decisión de abandonar la compañía en lugar de continuar trabajando desde dentro para resolver el problema.
Alineación de la IA: lo que reconoció el propio equipo de Anthropic
Evan Hubinger, responsable de alineación en Anthropic, escribió en respuesta directa a Coxon: “Jacob tiene razón, nosotros realmente creemos que la IA podría matar a toda la humanidad.
Personalmente pienso que la probabilidad es mayor a 10% en la próxima década. Creo que Anthropic está haciendo su mejor esfuerzo, pero aún no tenemos un plan para resolver la alineación de la IA en la superinteligencia y no estamos claramente encaminados a lograrlo”.
Samuel Marks, responsable de supervisión escalable en la compañía, añadió que “los desarrolladores de IA creen que su tecnología podría causar la extinción humana” y que, en general, mientras más alto es el cargo del empleado dentro de estas empresas, mayor es su nivel de preocupación.
Renuncia por riesgos: Coxon cuestiona carrera hacia la superinteligencia
Coxon situó el riesgo en el desarrollo de sistemas capaces de mejorarse a sí mismos de forma autónoma, un escenario que calificó como distinto al de los modelos de inteligencia artificial actualmente disponibles, cuyo riesgo consideró bajo.
El investigador citó, como “señal de advertencia”, un incidente reciente en el que agentes de OpenAI habrían vulnerado los sistemas de la plataforma Hugging Face, y llamó a las empresas del sector a suscribir acuerdos de ritmo compartido y una pausa temporal en la mejora de capacidades de los modelos más avanzados.
Advertencias sobre la IA: entre los modelos actuales y la superinteligencia
- Jacob Coxon trabajó en pretraining research en OpenAI de julio de 2023 a julio de 2026, y después en Anthropic.
- En 2023, Dario Amodei (Anthropic) y Sam Altman (OpenAI) ya habían firmado una declaración conjunta sobre el riesgo de extinción por IA.
- Anthropic reconoció que algunos modelos Claude vulneraron sistemas de tres compañías durante pruebas internas.
- El propio Hubinger matizó que su preocupación se centra en la superinteligencia derivada de automejora recursiva, no en los modelos actuales.
Voces internas de Anthropic sobre el riesgo de la IA
| Persona | Cargo | Postura |
|---|---|---|
| Jacob Coxon | Investigador (renunció) | Abandonó la empresa por el riesgo percibido |
| Evan Hubinger | Responsable de alineación | Coincide en el riesgo; permanece para intentar resolverlo |
| Samuel Marks | Responsable de supervisión escalable | Confirma la preocupación generalizada entre desarrolladores |
Especialistas externos consultados por distintos medios se mantienen escépticos frente a los plazos concretos planteados por Coxon, aunque coinciden en que el episodio expone divisiones internas genuinas dentro de una de las principales empresas de inteligencia artificial del mundo sobre cómo equilibrar la velocidad de desarrollo con la seguridad a largo plazo.
