Anthropic propone frenar desarrollo de IA: riesgo de pérdida de control humano (2026)
· Fuente: El Chapuzas Informático
Advertencia de Anthropic sobre seguridad en IA
Anthropic, empresa desarrolladora de Claude, ha intensificado su posición respecto a la seguridad en inteligencia artificial al proponer que los principales laboratorios de IA establezcan un mecanismo global, verificable y coordinado para frenar o pausar temporalmente el desarrollo de modelos frontera cuando los riesgos superen la capacidad de respuesta de la sociedad. La propuesta no aboga por una parada inmediata, sino por preparar un "botón de emergencia" consensuado entre los actores más avanzados de la industria.
Mejora recursiva: el punto crítico
La preocupación central de Anthropic surge del riesgo inminente de que sistemas de IA alcancen la mejora recursiva, es decir, la capacidad de diseñar, entrenar y mejorar sus propios sucesores con intervención humana cada vez menor. Según datos de la empresa, Claude ya no solo asiste en programación, sino que acelera activamente el desarrollo de nueva IA. A mayo de 2026, más del 80% del código integrado en la infraestructura de Anthropic fue escrito por Claude, comparado con cifras "realmente bajas" antes del lanzamiento de Claude Code en febrero de 2025.
La productividad de los ingenieros ha aumentado significativamente: generan ocho veces más código por trimestre que durante 2021-2025. Benchmarks externos muestran que la duración de tareas completadas autónomamente se duplica aproximadamente cada cuatro meses.
Escalada de capacidades autónomas
Anthropic documenta una escalada acelerada en autonomía de modelos. Claude Opus 3 resolvía en marzo de 2024 tareas equivalentes a cuatro minutos de trabajo humano. Un año después, Claude Sonnet 3.7 alcanzaba tareas de hora y media. Con Claude Opus 4.6 llegó a tareas de 12 horas. Si la tendencia se mantiene, tareas de varios días podrían entrar en rango este año, y tareas de semanas en 2027.
Más preocupante aún es la capacidad de cerrar ciclos completos de investigación: escritura de código, ejecución de experimentos, análisis de resultados, corrección de errores y proposición de nuevos enfoques. Claude pasó de una aceleración de 3x en optimización en mayo de 2025 a 52x con Claude Mythos Preview en abril de 2026.
El factor humano en cuestionamiento
Anthropic reconoce que humanos mantienen roles críticos en fijación de objetivos, selección de problemas importantes y juicio investigador. Sin embargo, la empresa sostiene que esta ventaja se está estrechando progresivamente, lo que justifica la necesidad de preparar mecanismos de pausa coordinada antes de alcanzar puntos de no retorno.
Relevancia para Chile y América Latina
Aunque la noticia trata de desarrollos en laboratorios internacionales de IA, tiene implicaciones regulatorias y de política tecnológica relevantes para Chile, donde organismos como la Subsecretaría de Telecomunicaciones y el SERNATUR están evaluando marcos de gobernanza de IA. La propuesta de Anthropic podría influir en discusiones regionales sobre regulación de sistemas autónomos.
Mencionados en esta noticia
Preguntas frecuentes
¿Qué propone exactamente Anthropic sobre el desarrollo de IA?
Anthropic propone que laboratorios de IA preparen un mecanismo global, verificable y coordinado para pausar temporalmente el desarrollo de modelos frontera si los riesgos superan la capacidad de respuesta de la sociedad. Se trata de un "botón de emergencia" consensuado, no una parada inmediata.
¿Cuál es la preocupación principal de Anthropic respecto a Claude?
La principal preocupación es la mejora recursiva: la capacidad de sistemas de IA para diseñar y mejorar sus propios sucesores con intervención humana cada vez menor. Claude ya escribe 80% del código en Anthropic y duplica su autonomía cada cuatro meses.
¿Qué tan rápido está mejorando la autonomía de Claude?
Según Anthropic, Claude pasó de resolver tareas de 4 minutos en marzo 2024 a 12 horas en abril 2026. Si la tendencia continúa, alcanzaría tareas de varios días en 2026 y semanas en 2027.
¿Qué porcentaje del código de Anthropic escribe Claude actualmente?
A mayo de 2026, más del 80% del código integrado en la base de código de Anthropic fue escrito por Claude. Antes de febrero de 2025, este porcentaje era significativamente menor, en dígitos realmente bajos.
¿Afecta esta noticia a usuarios de IA en Chile?
Indirectamente sí. La propuesta de Anthropic podría influir en regulaciones futuras de sistemas autónomos en Chile y América Latina, afectando cómo se gobiernan herramientas de IA como Claude, que ya está disponible en el mercado chileno.