Techinfo
Jacob Coxon, quien trabajó en OpenAI y Anthropic, ha señalado que una diapositiva presentada durante la ronda de IPO de Anthropic fue una de las principales razones que lo llevaron a dejar la empresa. Este gráfico ilustra la cantidad de recursos computacionales que Anthropic necesita a lo largo del tiempo para entrenar sus modelos, y la escala está comprimida, de modo que un aumento de 10x y 100x apenas parece diferente. Sin embargo, la curva sigue ascendiendo de manera pronunciada, lo que, según Coxon, indica que la eficiencia algorítmica no solo está mejorando rápidamente, sino que lo hace a un ritmo acelerado. "Es un gráfico increíble y me sorprende que lo hayan hecho público", afirmó.
Coxon argumenta que el modelo Mythos de Anthropic, que representó un salto significativo en capacidades durante la primavera, es parte de esta tendencia acelerada. "Mythos no fue una desviación única, sino un punto en una superexponencial. Ya podrían volver a entrenar a Mythos con una fracción de los recursos computacionales que originalmente necesitaban", explicó. Además, mencionó que las mejoras algorítmicas están "al borde de ser automatizadas", lo que lo lleva a solicitar una pausa en el desarrollo de modelos avanzados el próximo año para que los competidores puedan alcanzar a Anthropic y OpenAI. Según él, una pausa "commoditizaría la inteligencia a nivel humano. Solo perjudicaría a OpenAI y Anthropic".
Coxon, quien previamente entrenó modelos de IA en OpenAI y, más recientemente, en Anthropic, atrajo la atención pública en septiembre al advertir sobre los riesgos de los sistemas de IA avanzados, preocupaciones que han sido compartidas por otros actores de la industria. Uno de los temores es que una IA avanzada y auto-mejorada podría salirse de control.
Fuente original: The Decoder.
