--- canonical_url: "https://techinfo.com.ar/contenido/1334/mas-de-400-cientificos-alertan-sobre-la-falta-de-control-en-el-desarrollo-de-la-" title: "Más de 400 científicos alertan sobre la falta de control en el desarrollo de la inteligencia artificial" article_type: "Article" description: "Un grupo de más de 400 científicos de 35 países ha emitido una nueva advertencia sobre los riesgos asociados al desarrollo de la inteligencia artificial (IA). En una carta abierta, los expertos subrayan la necesidad de implementar cambios inmediatos para evitar incidentes de seguridad que podrían afectar gravemente la infraestructura crítica." main_image: "https://techinfo.com.ar/download/multimedia.normal.b0414542e5740d4e.bm9ybWFsLndlYnA%3D.webp" date_published: "2026-10-13T16:16:00-03:00" date_modified: "2026-10-13T16:17:08-03:00" author_name: "Techinfo" author_url: "https://techinfo.com.ar/usuario/2/techinfo" category_name: "Actualidad" category_url: "https://techinfo.com.ar/categoria/2/actualidad" --- # Más de 400 científicos alertan sobre la falta de control en el desarrollo de la inteligencia artificial ![](https://media.es.wired.com/photos/6ace65f219f1b1bd7c138284/16:9/w_1280,c_limit/padrinos%20IA%20riesgos%20carta%202295160087.jpg) En la carta, los especialistas advierten que, sin modificaciones urgentes en la forma en que se desarrolla y avanza esta tecnología, los incidentes de seguridad y los hackeos recientes serán “más perjudiciales para nuestra infraestructura crítica expuesta”. Ante esta situación, hacen un llamado a las empresas del sector para que asuman su responsabilidad y adopten medidas de protección más efectivas que prevengan posibles riesgos. El documento cuenta con la firma de reconocidos expertos como Geoffrey Hinton y Yoshua Bengio, quienes son considerados “padrinos” de la IA moderna. En su mensaje, destacan que los modelos de IA más recientes tienen la capacidad de eludir los entornos de prueba aislados y vulnerar sistemas de organizaciones externas. Según la misiva, estas fallas de seguridad ponen de manifiesto la necesidad de implementar procesos de alineación, que buscan asegurar que la IA actúe de manera predecible y conforme a los objetivos establecidos. Sin embargo, los científicos apuntan que estas deficiencias también pueden interpretarse como una “negligencia irresponsable en las prácticas estándar de ciberseguridad” en los laboratorios. A su juicio, muchas de estas vulneraciones podrían haberse evitado si se hubieran aplicado “procedimientos más robustos” de protección. “Las organizaciones que desarrollan, implementan y prueban modelos de IA con capacidad cibernética deben adoptar de inmediato sistemas de contención de alta seguridad. Estas organizaciones deben actuar con cautela”, enfatizan los firmantes de la carta. Para mitigar a corto plazo los riesgos de ciberseguridad vinculados a esta tecnología, los expertos consideran esencial reforzar los mecanismos de contención de los modelos más avanzados. Entre las medidas sugeridas se encuentran el uso de redes aisladas y la desconexión de internet para los sistemas de IA que posean capacidades cibernéticas. En este contexto, los científicos especifican que “para todos los modelos de IA conectados a internet, el rango de acciones permitidas por un sistema de contención debe equilibrarse con nuestra capacidad actualmente limitada para predecir que las acciones del modelo no resultarán en una falla de seguridad”. A largo plazo, añaden, la industria deberá promover un mayor intercambio de información, establecer mecanismos de colaboración y priorizar la transparencia para evitar futuras vulneraciones. La carta señala que la responsabilidad en el desarrollo y la regulación de la inteligencia artificial (IA) no debe recaer únicamente en manos de los creadores de la tecnología. Por esta razón, los científicos sugieren la creación de un organismo internacional que se encargue de establecer estándares, mejores prácticas de alineación y enfoques de contención, todo “en beneficio del interés público”. Esta entidad tendría la tarea de documentar y hacer seguimiento a los incidentes de ciberseguridad relacionados con la IA. Para cumplir con esta función, las empresas desarrolladoras estarían obligadas a informar sobre los incidentes, proporcionando todos los detalles necesarios. “Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas”, concluye el documento. La pregunta que surge es si será posible controlar efectivamente el rápido avance de la IA. Estas recomendaciones se suman a una lista cada vez más extensa de advertencias que instan a gobiernos, organismos internacionales y empresas del sector a implementar medidas de seguridad más robustas que aseguren un desarrollo responsable de la IA. En el ámbito de la ciberseguridad, a mediados de este año, la alianza de inteligencia Five Eyes advirtió que “el vertiginoso desarrollo de la IA de vanguardia implica que las suposiciones sobre el riesgo cibernético pueden quedar obsoletas en cuestión de meses, no de años. Debemos actuar con anticipación y estar preparados para adaptarnos y resistir las amenazas en constante evolución”. La red internacional de inteligencia hizo un llamado a los líderes mundiales para que adopten mecanismos que fortalezcan la resiliencia cibernética ante amenazas cambiantes, las cuales son potenciadas por tecnologías de nueva generación. “La ciberresiliencia no es un asunto exclusivo de las tecnologías de la información; es un elemento fundamental para la continuidad operativa y la confianza del mercado. Los líderes que actúen ahora reducirán su exposición, fortalecerán la resiliencia y generarán confianza entre clientes, socios e inversores. Quienes se demoren afrontarán un riesgo creciente y evitable”, reiteró la alianza. Según estimaciones de la ONU, actualmente existen alrededor de 40 marcos de gobernanza de la IA, pero ninguno ha demostrado de manera concluyente su eficacia. El organismo enfatiza que corregir esta deficiencia debe ser una prioridad, ya que la falta de un marco normativo y “el despliegue rápido y descontrolado de esta tecnología a gran escala” representan riesgos significativos. Entre las preocupaciones manifestadas se encuentran los posibles efectos adversos sobre la salud mental de los usuarios, el uso de la inteligencia artificial como herramienta destructiva y las implicaciones que esto puede tener en los sistemas sociales, económicos y ambientales. Además, se destaca la dificultad de asegurar un control efectivo sobre una tecnología cuyo desarrollo y despliegue se están llevando a cabo a gran velocidad. La finalidad de esta carta es minimizar la posibilidad de que estas capacidades pongan en riesgo servicios esenciales y organizaciones que no están directamente involucradas en su creación. Fuente original: [WIRED en Español](https://es.wired.com/articulos/los-padrinos-de-la-ia-y-400-cientificos-mas-reiteran-la-falta-de-control-y-seguridad-de-la-ia-en-una-nueva-carta-abierta). --- *Contenido creado y optimizado para IA con [Medios CMS](https://medios.io)* — Plataforma profesional para la gestión de medios digitales y portales de noticias.