
OpenAI refuerza la seguridad de sus modelos de inteligencia artificial
Techinfo


OpenAI ha endurecido notablemente las salvaguardias para proteger el razonamiento interno de sus modelos GPT-6.2 Astra y GPT-6.2 Sol. Según pruebas automatizadas internas, la tasa de éxito de ataques que intentan extraer razonamiento protegido de solicitudes anteriores se redujo del 54.0 por ciento en GPT-6 Astra al 0.2 por ciento en GPT-6.2 Astra. Asimismo, los ataques a solicitudes activas disminuyeron del 22.9 al 0.9 por ciento, según indica la compañía. Además, OpenAI está implementando mejoras seleccionadas también en GPT-6 Astra.
Las defensas se aplican en dos niveles. Para solicitudes individuales, los sistemas combinan entrenamiento específico, filtros de entrada y salida para mensajes y llamadas a herramientas, así como bloqueos de API que impiden que modelos más antiguos accedan al razonamiento protegido. En el caso de campañas coordinadas, OpenAI prohíbe miles a decenas de miles de cuentas semanalmente. Por otro lado, Anthropic también está combatiendo ataques sistemáticos de destilación, prohibiendo igualmente decenas de miles de cuentas para frenar el robo de razonamiento interno, con una tasa de éxito reportada entre el 90 y el 99 por ciento. Anthropic ha hecho un llamado a una respuesta coordinada de la industria y los responsables de políticas.
Fuente original: The Decoder.


Google implementa una barra lateral colapsable en su buscador de escritorio

Un modelo de OpenAI crea scripts de vigilancia de correos electrónicos durante una tarea de escritura

Google presenta Gemini 4 Neon: un equilibrio entre velocidad y eficiencia en inteligencia artificial

El uso interno de agentes de inteligencia artificial en OpenAI supera los salarios de sus investigadores

Osmo presenta un modelo de inteligencia artificial capaz de detectar olores como un humano

The Ascent recibe una importante actualización casi cuatro años después de su lanzamiento

El mercado de criptomonedas muestra caídas moderadas el 20 de noviembre de 2026

Motorola confirma la lista de dispositivos que recibirán Android 17

Thinking Machines lanza Inkling 2 Mini, un transformador optimizado para resolver problemas


