La línea de datos como nuevo perímetro de seguridad en la inteligencia artificial

Un representante de ventas solicita a un agente de inteligencia artificial información sobre precios para un cliente, y el agente obtiene datos de diversas fuentes: sistemas de precios restringidos, comunicaciones internas y cotizaciones archivadas. La información parece precisa para el agente, por lo que un segundo agente utiliza esos datos para redactar la propuesta para el representante de ventas. Sin embargo, no hay ninguna verificación humana en las transferencias de información. Cuando se descubre que la propuesta incluye información confidencial, no aprobada y sensible, surge un problema crítico: nadie puede rastrear cómo ingresó ese dato problemático al flujo de trabajo ni cómo se propagó a través de sistemas, archivos y agentes. Este tipo de incidentes plantea serias preocupaciones sobre la seguridad y la integridad de los datos en entornos que utilizan inteligencia artificial.

Este escenario ilustra de manera clara por qué la gobernanza de la inteligencia artificial necesita evolucionar de forma rápida y dinámica. A medida que más empresas comienzan a integrar la inteligencia artificial en sus flujos de trabajo diarios, se dan cuenta de que deben gestionar no solo archivos estáticos, sino también datos en movimiento y fragmentados. Estos datos se ingieren, copian, resumen, transforman, reutilizan y redistribuyen continuamente en nuevas formas. En este sentido, la seguridad de la inteligencia artificial no es simplemente un problema relacionado con las herramientas; se trata de un problema de visibilidad de datos. La falta de transparencia en el manejo de la información puede llevar a consecuencias graves, como la exposición de datos sensibles y la pérdida de confianza por parte de los clientes.

Por lo tanto, los enfoques de seguridad tradicionales, que se basan únicamente en aplicaciones, sistemas, redes o puntos finales, ya no son suficientes para enfrentar los desafíos actuales. Asegurar la inteligencia artificial a gran escala requiere una comprensión profunda de cómo se mueve la información a través de diferentes sistemas y procesos. Las organizaciones deben establecer una línea de datos para gestionar de manera efectiva la gobernanza, la rendición de cuentas y la confianza en flujos de trabajo que involucran tanto a humanos como a agentes de inteligencia artificial y procesos híbridos. Esta nueva perspectiva es fundamental para garantizar que la adopción de la inteligencia artificial no comprometa la seguridad de los datos y la confianza del usuario.

Las afirmaciones desmedidas sobre la inteligencia artificial general (AGI) y sus nuevas capacidades se desmoronan rápidamente bajo un análisis más profundo. Esto pone de manifiesto la necesidad de un enfoque más crítico y fundamentado en la evaluación de estas tecnologías emergentes.

En Estados Unidos, se han invertido miles de millones de dólares en la vigilancia fronteriza. Sin embargo, surge la pregunta: ¿por qué no se logra prevenir que las personas mueran en estas áreas? Las torres de vigilancia, cada vez más impulsadas por inteligencia artificial, prometían respuestas más rápidas ante los cruces. No obstante, nuestra investigación sobre las muertes ocurridas cerca de estas torres ha revelado que están fallando en cumplir con su propósito.

Fuente original: MIT Technology Review IA.