Anthropic ha puesto sobre la mesa un escenario que hasta hace poco parecía propio de la ciencia ficción: que los sistemas de inteligencia artificial lleguen a diseñar, desarrollar y mejorar de forma autónoma a sus propios sucesores. La compañía denomina a este escenario recursive self-improvement (auto-mejora recursiva) y considera que podría llegar antes de lo que muchas instituciones están preparadas para asumir.
Según la firma, la IA ya está acelerando de forma significativa el desarrollo de nuevos sistemas de IA. De hecho, los ingenieros de la compañía generan actualmente ocho veces más código por trimestre que hace unos años gracias al uso de asistentes y agentes de programación basados en Claude. Además, más del 80 % del código que se incorpora a su base de desarrollo ya habría sido escrito por la propia IA.
El informe describe una evolución que ha llevado a la organización desde los primeros chatbots capaces de sugerir fragmentos de código hasta agentes autónomos que pueden ejecutar tareas complejas durante horas, coordinar otros agentes y resolver problemas de forma cada vez más independiente.
Sostiene Anthropic que las capacidades de los modelos están avanzando a un ritmo acelerado. La compañía destaca que los sistemas actuales ya pueden completar tareas de desarrollo de software que requieren varias horas de trabajo humano y apunta a que, si las tendencias continúan, podrían abordar proyectos equivalentes a semanas de trabajo especializado en los próximos años.
La capacidad humana
Sin embargo, la empresa reconoce que todavía existe una diferencia importante entre la capacidad de ejecutar tareas y la de decidir qué problemas merece la pena resolver. A su juicio, el criterio, la visión estratégica y la capacidad de fijar objetivos siguen siendo ventajas claramente humanas.
El documento también aborda los riesgos asociados a esta evolución. Anthropic advierte de que una IA capaz de mejorar sus propios modelos podría acelerar enormemente la innovación científica, médica o tecnológica, pero también incrementaría los desafíos relacionados con el control, la supervisión y la alineación de estos sistemas con los intereses humanos. Por ello, la compañía defiende la necesidad de avanzar en mecanismos de coordinación internacional que permitan gestionar de forma segura los desarrollos más avanzados de la inteligencia artificial.
