Techinfo
Sam Altman, en su rol como director ejecutivo de OpenAI, expresó su preocupación por los riesgos que la próxima generación de inteligencia artificial podría acarrear, riesgos que aún no son completamente entendidos por gobiernos, empresas y usuarios. Altman señaló que los modelos avanzados de inteligencia artificial podrían descubrir vulnerabilidades que escapan a los esquemas tradicionales de ciberseguridad, lo que requeriría una revisión exhaustiva de la protección de redes, equipos e infraestructuras. Su mensaje enfatiza la preparación insuficiente ante capacidades técnicas que están en constante expansión.
Esta advertencia es relevante dado que la inteligencia artificial ya desempeña un papel crucial en áreas como atención al cliente, programación, análisis de datos y producción de contenido. Altman sostiene que el próximo avance no se limitará a ofrecer respuestas más rápidas o precisas, sino que podría tener implicaciones mucho más profundas. Su inquietud se centra en la posibilidad de que estos modelos sean capaces de identificar fallos inesperados en programas, chips, servidores y sistemas conectados, antes de que los especialistas humanos puedan detectar esas debilidades y diseñar defensas adecuadas para mitigarlas rápidamente.
En sus declaraciones, Altman cuestionó la respuesta de las instituciones ante la llegada de modelos con mayor autonomía. “No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima”, afirmó. Además, subrayó que líderes, países y personas no han comprendido completamente la magnitud del desafío que se avecina. Según Altman, la discusión pública tiende a centrarse en funciones visibles de la inteligencia artificial, mientras que las amenazas futuras reciben una atención significativamente menor.
Altman también se refirió a los sandboxes, que son entornos aislados utilizados para probar programas sin afectar sistemas externos. Estos entornos son útiles para limitar daños y observar comportamientos antes de una implementación más amplia. Sin embargo, el ejecutivo advirtió que estas barreras podrían perder eficacia una vez que los modelos alcancen capacidades superiores. Cuando una inteligencia artificial logre identificar rutas que no están incluidas en las amenazas conocidas, la contención podría volverse ineficaz, lo que representa un riesgo significativo al descubrir posibles escapes.
Por último, Altman destacó que los sistemas futuros podrían encontrar “fallos increíbles” que se encuentran fuera de los cálculos habituales de seguridad. Esta preocupación abarca no solo vulnerabilidades de software, sino también problemas en componentes físicos como chips, servidores y redes, lo que podría tener consecuencias graves en la seguridad de las infraestructuras tecnológicas.
Una herramienta capaz de detectar errores que nadie había previsto cambiaría la lógica de protección. No sería suficiente con corregir una aplicación; sería necesario revisar arquitecturas enteras y crear defensas adecuadas.
Altman relacionó estos riesgos con las reglas que determinan cómo responde ChatGPT. En una entrevista con The Tucker Carlson Show, admitió que esa responsabilidad afecta su descanso. “No he dormido bien ni una sola noche”, afirmó. OpenAI consulta a especialistas en ética y filosofía moral, pero él reconoció que la decisión final permanece dentro de la empresa. Cada límite influye en millones de conversaciones generadas por el modelo.
El funcionamiento de un modelo no depende únicamente de su capacidad técnica. También responde a criterios sobre qué debe explicar, rechazar o advertir. Altman considera que los dilemas pequeños pueden tener efectos amplios en el uso de la inteligencia artificial.
El tono de una respuesta, la cantidad de información proporcionada o la forma de negar una petición pueden afectar áreas como la educación, la salud y la investigación. Una regla útil para evitar daños puede limitar peticiones legítimas que los usuarios realicen hacia el sistema.
La advertencia de Altman plantea preguntas sobre quién define los límites de una inteligencia artificial avanzada. Empresas, gobiernos y organismos públicos deberán decidir cómo evaluar riesgos, qué pruebas exigir y qué mecanismos de supervisión aplicar para garantizar un uso seguro de estas tecnologías.
El debate incluye aspectos como la transparencia, la responsabilidad y la cooperación internacional. Ninguna organización puede anticipar por sí sola todas las consecuencias de modelos capaces de actuar sobre sistemas complejos y conectados a escala mundial.
El planteamiento no afirma que cada avance conducirá a un incidente, pero insiste en que la prevención debe llegar antes de que las amenazas sean reales. Capacitar especialistas, reforzar infraestructuras y actualizar leyes puede ayudar a reducir la exposición a fallos desconocidos en el funcionamiento de la inteligencia artificial. Las defensas también necesitarán inteligencia artificial para analizar señales y responder con rapidez ante posibles incidentes. La cuestión central será si esa preparación avanza al mismo ritmo tecnológico que los desarrollos en este campo.
Un grupo de investigadores de la Escuela Politécnica Federal de Zúrich ha logrado combinar tejido cultivado con materiales flexibles para crear dispositivos que tienen la capacidad de moverse, doblarse y sostener objetos pequeños. Esta innovación podría abrir nuevas posibilidades en el campo de la robótica y la biotecnología, al permitir la creación de dispositivos que imiten ciertas funciones biológicas.
En otra novedad, Windows 11 ha incorporado un velocímetro integrado que permite verificar la conexión a internet en cuestión de segundos. Anteriormente, el sistema operativo ofrecía un acceso directo que simplemente redirigía al usuario al medidor de velocidad de Bing a través del navegador, lo que hacía que el proceso fuera menos eficiente.
Por su parte, Apple ha desarrollado un escáner que puede identificar si un iPhone, Mac o iPad ha sido manipulado por delincuentes. Esta herramienta se suma a un sistema antirrobo implementado en sus tiendas, diseñado para detectar fraudes en devoluciones y asegurar que cada caja contenga el dispositivo junto con sus accesorios originales.
En el ámbito de la plataforma de videos, YouTube está trabajando en una nueva función que permitirá a sus videos consumir un 30% menos de datos móviles. Este sistema mejorado incluirá más fotogramas por segundo, compatibilidad con HDR y opciones para visualizar múltiples videos simultáneamente.
Finalmente, el delantero del Manchester City, Erling Haaland, se ha expresado sobre su estilo de juego en el popular videojuego Call of Duty, afirmando: “He sido un camper toda mi vida, lo que la gente odia”. Además, Haaland ha compartido su afición por otros juegos, como Minecraft, GTA y EA FC, mostrando su interés por diversas experiencias en el mundo de los videojuegos.
Fuente original: Infobae Tecno.
