Anthropic reporta un avance acelerado en su IA, a pesar de sus advertencias sobre el desarrollo de la tecnología

A mediados de septiembre, Dario Amodei, CEO de Anthropic, emitió un mensaje inquietante sobre el avance de la inteligencia artificial, sugiriendo que la industria se estaba "pasando de frenada". Este comentario generó diversas interpretaciones, y algunos analistas sugirieron que podría ser una forma de suavizar preocupaciones sobre el rendimiento financiero de la compañía. Sin embargo, un estudio independiente reciente, que tuvo acceso a datos internos de Anthropic, ha revelado que sus modelos de inteligencia artificial están mejorando a una velocidad casi dos veces mayor que en el pasado.

La clave de este notable avance radica en el uso de inteligencia artificial para desarrollar más inteligencia artificial. La organización sin ánimo de lucro METR (Model Evaluation and Threat Research) publicó recientemente un análisis que examina cómo la IA está acelerando su propio desarrollo en Anthropic. Este estudio se llevó a cabo entre el 12 de agosto y el 29 de octubre, comenzando antes de las declaraciones de Amodei, y concluyó que la compañía está mejorando las capacidades de sus modelos en tareas definidas a un ritmo aproximadamente el doble que el observado entre marzo de 2024 y octubre de 2025.

El estudio de METR establece un rango de mejora que oscila entre 1,3 y 3 veces más rápido. Para llegar a estas conclusiones, se basaron en el AECI, que es la versión de Anthropic del Epoch Capabilities Index, un índice que resume el rendimiento de un modelo en un conjunto de tareas de prueba. Según sus estimaciones, desde octubre de 2025, la mejora se sitúa en un incremento de 1,9 veces más rápido.

En cuanto a las causas de esta aceleración, METR asegura que no se debe a un aumento en la potencia de cálculo disponible para el entrenamiento de los modelos. Este es un problema que los consumidores han estado enfrentando durante el último año, contribuyendo a la crisis de componentes que aún no tiene solución a la vista. Los investigadores estiman que alrededor del 80% de esta aceleración se debe al uso de inteligencia artificial en el propio proceso de desarrollo de la inteligencia artificial.

En el análisis realizado por los investigadores, se reconoce que no existe un consenso claro sobre el impulso actual en el desarrollo de la inteligencia artificial. Este fenómeno podría atribuirse, en parte, al uso de IA para entrenar a otras IA, algo que Anthropic ha admitido abiertamente. Además, se ha observado un aumento en las contrataciones dentro de la empresa. Los investigadores sostienen que la IA tiene la capacidad de acelerar el trabajo humano al ofrecer asistencia, aunque aún no realiza contribuciones autónomas en las etapas más críticas del entrenamiento.

En encuestas informales realizadas entre los empleados, se ha reportado una mejora en el ritmo de trabajo, estimada en unas 12 veces más rápido. Sin embargo, la organización METR considera que esta cifra es poco fiable. A pesar de esto, parece haber un consenso más sólido en que no se anticipan cuellos de botella que puedan frenar el desarrollo en los próximos 12 meses. Además, se sugiere que la aceleración en el desarrollo podría ser un proceso autoalimentado, donde modelos más avanzados contribuyan a un desarrollo aún más rápido.

Esta situación resulta interesante en el contexto de la petición realizada el 12 de septiembre por Dario Amodei, quien publicó un ensayo en el que solicitaba un freno en la velocidad de mejora de las capacidades de los modelos de IA. En su escrito, Amodei atribuía el reciente avance, en gran medida, a la mejora recursiva, que es precisamente la capacidad de la IA para crear nuevas generaciones de IA.

Amodei propuso tres pasos para llevar a cabo una especie de auditoría en este ámbito. El primero consiste en otorgar a evaluadores externos un acceso similar al que tienen los empleados dentro de las empresas de IA, mencionando específicamente a METR en este contexto. El segundo paso implica establecer estándares de seguridad comunes entre los laboratorios de países democráticos. Por último, el tercer paso se refiere a la necesidad de una coordinación global en el desarrollo de la inteligencia artificial.

A pesar de la apertura mostrada por Anthropic, la compañía tiene el derecho de ocultar información crítica que no puede hacerse pública, lo que se podría comparar con la "fórmula de la Coca-Cola" de su IA. METR ha señalado que Anthropic censuró la mayor parte de las pruebas que consideraba más informativas. Entre la información censurada se incluyen estimaciones sobre la aceleración en el entrenamiento, un desglose del progreso en relación con el cómputo, los datos y los algoritmos, previsiones sobre modelos futuros y el análisis de diversos cuellos de botella que podrían afectar el desarrollo.

METR utiliza esta situación para transmitir la idea de que es un aspecto poco deseable hacia el exterior, ya que se convierte en una prueba de fe para los futuros usuarios. Sin embargo, Anthropic justifica su decisión por la necesidad de eliminar información confidencial que podría beneficiar a sus competidores en esta carrera. Un tema que resulta más delicado es que METR afirma que Anthropic interrumpió a mitad de su investigación el proceso de verificación sobre cómo distribuye su capacidad de cómputo entre las funciones y la seguridad. Según METR, Anthropic argumentó que prefería enfocarse en la evaluación de riesgos y que la verificación se proporcionaría en otro momento.

Esta situación podría estar relacionada con la intención de Anthropic de salir a bolsa en las próximas semanas, lo que implicaría que ya tendrían que hacer público bastante contenido en el momento de anunciar su "candidatura". En cuanto a la cautela, tras la publicación del análisis, el cofundador y responsable de la política de escalado de Anthropic expresó en Twitter que muchas de las conclusiones del estudio coincidían con sus propias observaciones, aunque no especificó una cifra sobre la mejora en la aceleración del entrenamiento. También admitió que la censura complica el trabajo de METR, pero defendió que detallar los factores que impulsan la aceleración es algo sensible desde el punto de vista comercial, ya que podría ofrecer pistas a otros para avanzar más rápidamente.

En última instancia, los cambios en las condiciones y el contenido 'tachado' llevan a METR a advertir que no tiene claridad sobre cuánto de lo que han medido puede aplicarse a tareas más difusas ni al impacto real. Ellos han analizado el efecto en tareas bien definidas y que son fáciles de puntuar automáticamente, pero también reconocen que podrían haber subestimado la aceleración si la automatización sigue mejorando o si los benchmarks no reflejan adecuadamente el impacto real.

En resumen, existe un consenso sobre que la inteligencia artificial avanza a una velocidad sorprendente y que un factor clave en este progreso es la automejora. Sin embargo, se destaca la necesidad de realizar más pruebas y, sobre todo, de observar si, al momento de salir a bolsa, se elimina la censura para poder medir de manera más precisa el impacto.

Fuente original: Xataka.