OpenAI refuerza la seguridad de sus modelos de inteligencia artificial

OpenAI ha implementado medidas más estrictas para evitar que se extraiga el razonamiento interno de sus modelos GPT-6.2 Astra y GPT-6.2 Sol, logrando una drástica reducción en las tasas de éxito de ataques.
Inteligencia Artificial21 de noviembre de 2026TechinfoTechinfo

OpenAI ha endurecido notablemente las salvaguardias para proteger el razonamiento interno de sus modelos GPT-6.2 Astra y GPT-6.2 Sol. Según pruebas automatizadas internas, la tasa de éxito de ataques que intentan extraer razonamiento protegido de solicitudes anteriores se redujo del 54.0 por ciento en GPT-6 Astra al 0.2 por ciento en GPT-6.2 Astra. Asimismo, los ataques a solicitudes activas disminuyeron del 22.9 al 0.9 por ciento, según indica la compañía. Además, OpenAI está implementando mejoras seleccionadas también en GPT-6 Astra.

Las defensas se aplican en dos niveles. Para solicitudes individuales, los sistemas combinan entrenamiento específico, filtros de entrada y salida para mensajes y llamadas a herramientas, así como bloqueos de API que impiden que modelos más antiguos accedan al razonamiento protegido. En el caso de campañas coordinadas, OpenAI prohíbe miles a decenas de miles de cuentas semanalmente. Por otro lado, Anthropic también está combatiendo ataques sistemáticos de destilación, prohibiendo igualmente decenas de miles de cuentas para frenar el robo de razonamiento interno, con una tasa de éxito reportada entre el 90 y el 99 por ciento. Anthropic ha hecho un llamado a una respuesta coordinada de la industria y los responsables de políticas.

Fuente original: The Decoder.

Te puede interesar
Lo más visto
portada_techinfo

Motorola confirma la lista de dispositivos que recibirán Android 17

Techinfo
Celulares20 de noviembre de 2026
Motorola ha publicado oficialmente la lista de smartphones que recibirán la actualización a Android 17, un movimiento que es crucial para el rendimiento y la seguridad de sus dispositivos. Esta actualización incluye mejoras significativas en la interfaz, conectividad y seguridad.