Anthropic advierte que la IA está a punto de programarse a sí misma y pide una pausa global

Anthropic ha lanzado este jueves una de las advertencias más serias que ha hecho una empresa de IA sobre su propia tecnología. En un documento firmado por Jack Clark, cofundador de la compañía, y Marina Favaro, directora de The Anthropic Institute, la empresa creadora de Claude asegura que los modelos de IA están a punto de alcanzar un punto en el que puedan programarse y mejorarse a sí mismas sin intervención humana.

El dato más demoledor del informe es interno: en mayo de 2026, más del 80% del código que Anthropic integra en su base ya fue generado por Claude. Hace poco más de un año, en febrero de 2025, esa cifra no llegaba al 10%. La consecuencia directa es que un ingeniero de Anthropic produce hoy ocho veces más líneas de código por trimestre que en el periodo 2021-2025.

A este fenómeno lo llaman "automejora recursiva" y, según la empresa, ya no es ciencia ficción. GPT-3.5 apenas aguantaba 35 segundos trabajando de forma autónoma en 2022. Claude Opus 4.6 ya puede operar 16 horas seguidas en tareas complejas. La longitud de las tareas que un modelo puede completar se doblaba cada siete meses; ahora se dobla cada cuatro. Si la tendencia sigue, en 2027 los sistemas de IA podrían encargarse de trabajos que hoy llevan semanas a una persona.

Los benchmarks también se están quedando cortos. SWE-bench, la prueba estándar para medir la capacidad de programación de los modelos, está prácticamente saturado al 100% por los modelos más recientes. Claude Mythos Preview, presentado en abril de 2026, ya optimiza código haciéndolo tres veces más rápido que antes. La automejora recursiva plantea un escenario donde un modelo genera sus propios datos de entrenamiento, corrige sus fallos y se entrena de forma continua. El riesgo es que los sesgos, por pequeños que sean, se amplifiquen en cada iteración.

Ante este escenario, Anthropic propone una pausa global en el desarrollo de la IA de frontera. "Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo", escriben Clark y Favaro. La propuesta incluye un mecanismo de verificación para garantizar que todos los actores —incluidos laboratorios en China— respeten la pausa. pero, la propia empresa reconoce el problema de fondo: "las carreras de entrenamiento de IA son mucho más fáciles de ocultar que los silos de misiles".

La petición ha desatado críticas. David Sacks, conocido inversor de capital riesgo, acusa a Anthropic de perseguir una "agenda de captura regulatoria": pedir que se frene la industria justo cuando ellos están en posición de liderazgo y a punto de protagonizar la mayor salida a bolsa tecnológica desde Netscape en 1995. Otros críticos señalan que las advertencias apocalípticas también funcionan como herramienta de marketing. Es la misma jugada que hizo Elon Musk en 2023, cuando firmó una carta pidiendo pausar la IA una semana después de que OpenAI lanzase GPT-4 —un movimiento que muchos interpretaron como un intento de ganar tiempo para Grok.

No todo el mundo comparte el alarmismo. Yann LeCun, científico jefe de IA en Meta, sostiene que los grandes modelos de lenguaje nunca igualarán la inteligencia humana y los compara con la inteligencia de un gato. Ethan Mollick, profesor de Wharton, matiza que dentro de Anthropic hay investigadores genuinamente convencidos del riesgo. La verdad probablemente está en algún punto intermedio: la IA avanza más rápido de lo que la mayoría esperaba, pero el miedo también vende.

Personalmente, creo que el dato del 80% de código generado por Claude es lo más honesto del informe. No es una predicción: es lo que ya está pasando dentro de sus propias oficinas. Y si una empresa que literalmente se dedica a crear IA segura ya ha delegado la mayor parte de su programación a sus propios modelos, el debate sobre si debemos o no frenar no es teórico. Ya estamos dentro de ese futuro.