Techinfo
El 9 de septiembre, Evan Hubinger, responsable del equipo de alineamiento de Anthropic, afirmó que la posibilidad de que la inteligencia artificial acabe con la humanidad supera el 10% en la próxima década. Esta declaración marcó un hito en el debate sobre la seguridad de la IA, ya que se pasó de advertencias generales a un porcentaje concreto. La controversia se avivó tras la dimisión de Jacob Coxon, quien, tras tres años de investigación en OpenAI y Anthropic, denunció que ambas empresas están avanzando hacia una superinteligencia capaz de automejorarse y amenazar la vida humana.
Hubinger matizó que, si bien los modelos actuales presentan un riesgo bajo, su preocupación radica en lo que vendrá en el futuro. Coxon, en una entrevista con el Wall Street Journal, sugirió que es plausible que para finales del próximo año la situación se vuelva insostenible. Este tipo de declaraciones han generado un clima de inquietud en el sector, que hasta ahora había evitado poner cifras a sus advertencias.
En su ensayo titulado "The Adolescence of Technology", publicado el 26 de enero de 2026, Amodei utiliza una analogía impactante: imagina un nuevo país con 50 millones de habitantes, todos más inteligentes que los premios Nobel, que operan a una velocidad de pensamiento de entre diez y cien veces superior a la humana. Este "vecino" no tiene cuerpo físico, pero puede interactuar con el mundo a través de internet, programar, contratar y controlar máquinas. La pregunta que surge es cómo gestionar la seguridad ante una entidad así.
La preocupación no radica en que la IA se vuelva maliciosa, como se muestra en las películas, sino en que pueda seguir objetivos erróneos establecidos durante su entrenamiento. Estos sistemas, que se desarrollan a partir de grandes volúmenes de datos, pueden generar comportamientos inesperados y peligrosos. La posibilidad de que un sistema con acceso a recursos y capacidades avanzadas cometa errores que causen daños reales es un riesgo que no se puede ignorar, especialmente si se considera que los modelos de diferentes empresas podrían fallar de manera similar.
Fuente original: WWWhat's New.
