October 30, 2026, Berlin, Berlin, Germany: The Claude artificial intelligence logo is displayed in a web browser on an Apple iPhone on Friday, October 30, 2026. Cursor said a maliciously modified version of Anthropic's Claude Code extension was available - Michael Kuenne / Zuma Press / Europa Press
MADRID, 3 Nov. (Portaltic/EP) -
Anthropic ha afirmado que está cerca de alcanzar el umbral de "progreso drásticamente acelerado" en un momento en el que, en septiembre, más del 90 por ciento de las contribuciones al código de la compañía fueron escritas por la misma Inteligencia Artificial (IA).
En la versión actualizada del folleto de su salida a bolsa (S-1/A) revelado este lunes, con la atención mediática centrada en las finanzas actualizadas, el laboratorio de IA incluyó unos comentarios que muestran el marco de desarrollo en el que se encuentra ahora mismo con sus nuevos modelos de IA y cómo los está construyendo.
"Nuestras estimaciones internas y nuestras expectativas sobre los modelos futuros, y no sobre los actuales, indican que podríamos alcanzar de forma inminente la definición de 'progreso drásticamente acelerado atribuible a la IA' de nuestra Política de Escalado Responsable", ha afirmado Anthropic en el documento, para citar que "usar la IA para ayudar a construir una IA más capaz también podría suponer un riesgo considerable para la seguridad, sobre todo si acelera bruscamente el ritmo del progreso".
La preocupación de Anthropic se dirige a una nueva capacidad de su IA que aceleraría exponencialmente su rendimiento, lo que pondría en peligro sus planes para la supervisión y mitigación de los riesgos a medida que el laboratorio de IA se acerca a lo que se ha denominado como "automejora recursiva", es decir, la práctica por la que un sistema de IA diseña y desarrolla de forma autónoma a su propio sucesor.
La evolución de los modelos, de momento, está siendo conducida por humanos, aunque en la codificación, más del 90 por ciento de las contribuciones al código en septiembre "fueron escritas por Claude".
"El volumen medio diario de código aportado a nuestro código base por ingeniero en los tres meses terminados el 30 de septiembre de 2026 fue más de 45 veces el volumen medio diario del año terminado el 31 de diciembre de 2024", ha indicado Anthropic.
Uno de los riesgos a los que se enfrenta la compañía es que la aceleración en rendimiento y capacidad de sus modelos avance más rápido que su capacidad para medirlos y evaluarlos adecuadamente, ya que los datos con los que evalúa ese ritmo le llegan con retraso. Es decir, que no sea capaz de identificar una aceleración significativa del ritmo de desarrollo hasta que se haya producido.
"Sin embargo, no prevemos poder usar Claude de forma segura para diseñar y construir de forma totalmente autónoma generaciones sucesivas de modelos de frontera sin una supervisión o comprensión humana significativa, si llega a ser técnicamente posible y cuando lo sea", ha añadido el laboratorio de IA para recalcar que están estudiando actualizar la Política de Escalado Responsable "para mantener a los humanos al mando del desarrollo de modelos de frontera en Anthropic".