Techinfo
Cathedral informó que logró acceder a datos internos y sistemas de mensajería en cuestión de horas. Según la empresa, los agentes de IA encontraron mensajes de Slack, datos salariales y otros registros internos. Por su parte, Anthropic sostiene que los intentos de acceso se extendieron durante varios días y asegura que nunca se expusieron el código fuente ni los pesos del modelo.
Este incidente pone de manifiesto una creciente amenaza: los agentes de IA ahora pueden explorar redes corporativas las 24 horas del día y a un costo mínimo, lo que pone en riesgo incluso a empresas como Anthropic. Cathedral, que fue fundada por ex-empleados de DOGE, la agencia de eficiencia del gobierno de EE. UU., vende herramientas de seguridad impulsadas por IA a agencias gubernamentales y empresas.
Los investigadores de Cathedral lograron acceder a través de programas externos de administración y ventas. Según su informe, los agentes de IA que operan con modelos avanzados encontraron caminos hacia transcripciones de reuniones, datos salariales, ofertas de trabajo y mensajes de Slack en menos de doce horas. Anthropic confirmó que los investigadores accedieron a un conjunto limitado de sistemas de ventas, recursos humanos y tecnología de la información, incluyendo información de contacto de algunos clientes y socios, así como datos básicos de cuentas de usuario. Sin embargo, la empresa aseguró que las conversaciones con Claude, el código fuente y los pesos del modelo nunca fueron expuestos.
Anthropic tomó medidas inmediatas tras el hallazgo de la brecha, cerrando los puntos de acceso afectados el mismo día y deshabilitando los programas de terceros hasta que se resolviera el problema. Además, notificó a las autoridades federales de EE. UU. sobre el incidente.
Existe un desacuerdo entre Anthropic y Cathedral sobre la duración y el alcance de la brecha. Cathedral afirma que el incidente tomó menos de doce horas, mientras que Anthropic sostiene que el ataque intentado se extendió por varios días. Según Logan Graham, miembro del equipo rojo de Anthropic, solo después de varios días de exploración en los propios sistemas de Anthropic, la startup se dirigió al software de terceros. Allí, Cathedral encontró dos vulnerabilidades, pero reportó solo una. Anthropic, por su parte, afirma que descubrió y corrigió la segunda por su cuenta.
Anthropic también acusa a Cathedral de violar las reglas del programa de recompensas por errores mediante una divulgación incompleta. Graham añadió que el hecho de dirigirse a proveedores externos y extraer datos excedió las disposiciones de puerto seguro del programa, aunque dio la bienvenida al descubrimiento de las vulnerabilidades. Cathedral sostiene que siguió prácticas estándar de investigación de seguridad.
La cantidad de datos a los que realmente se accedió sigue siendo objeto de disputa. Will Depue, un ex empleado de OpenAI, ha afirmado que Anthropic está minimizando el incidente, señalando que varias fuentes que considera altamente confiables le informaron que Cathedral obtuvo acceso completo de administrador al espacio de trabajo de Slack, pudiendo leer todos los mensajes y acceder a cualquier cuenta de usuario.
Tanto los laboratorios de Anthropic como de OpenAI almacenaban todos sus secretos de investigación en Slack, agregó Depue, con claves de API de administrador esparcidas por sus sistemas. Jacob Coxon, un empleado de Anthropic que dejó la empresa en septiembre de 2026, había criticado anteriormente a Anthropic por realizar investigaciones de IA peligrosas utilizando software de oficina como Slack.
Graham respondió, afirmando que las fuentes de Depue estaban equivocadas. Citando la sensibilidad del asunto, se negó a entrar en detalles específicos, pero confirmó la preocupación central de Depue: la industria ahora debe reinventar su seguridad cada año.
Depue insistió en obtener detalles sobre cuáles afirmaciones eran falsas y pidió a Anthropic que revelara qué fue lo que realmente accedió Cathedral. También culpó al problema por la velocidad de la carrera en inteligencia artificial, donde los ejecutivos priorizan la rapidez sobre la seguridad.
Alex Stamos, director de seguridad de la startup de IA Cognition, que utiliza los modelos de Anthropic, comentó al Washington Post que consideraba los hallazgos significativos. Señaló que las aplicaciones de terceros integradas son un gran problema en toda la industria y que Anthropic podría haber hecho un mejor trabajo asegurando sus servicios externos.
Los agentes de IA están transformando la ciberseguridad. Después de meses de advertencias sobre ciberataques impulsados por IA y sus propios incidentes de seguridad accidentales, Anthropic se encuentra ahora en el lado receptor. Los agentes de IA están cambiando la forma en que funcionan los ciberataques, y esta violación demuestra cuán rápido está ocurriendo el cambio. Además, no se trata de una violación cualquiera, ya que Anthropic es probablemente la empresa mejor equipada para defenderse contra ataques liderados por IA.
Graham aprovechó la ocasión para advertir que los atacantes ya operan agentes de inteligencia artificial las 24 horas, enfocándose específicamente en las dependencias externas. Según él, incluso los modelos que están medio paso o un paso completo detrás de la vanguardia actual son lo suficientemente capaces para llevar a cabo estos ataques, y los futuros adversarios inevitablemente contarán con sistemas más potentes a su disposición.
La respuesta de Graham consiste en realizar pruebas de penetración internas de manera continua y en reconstruir el software con verificación formal, algo que la inteligencia artificial ahora hace económicamente viable. "Probablemente deberías realizar pruebas de ataque sobre ti mismo todo el tiempo. Los modelos actuales son muy creativos", escribió Graham. Sin embargo, no abordó cómo Cathedral logró penetrar tan profundamente a pesar de que Anthropic tiene acceso a lo que se considera algunos de los modelos de inteligencia artificial más poderosos del mundo para la ciberdefensa.
Fuente original: The Decoder.
