Techinfo
Muchas personas creen que al eliminar una conversación con ChatGPT o cualquier asistente de inteligencia artificial, esta desaparece para siempre. Sin embargo, empresas como OpenAI y Anthropic mantienen registros de estas interacciones en sus servidores por motivos legales, aunque se eliminan después de un tiempo. Esta situación ha llevado a muchos a pensar que tienen un control total sobre sus conversaciones. Sin embargo, un equipo de investigadores del Georgia Tech ha desarrollado una herramienta que pone en duda esta suposición, ya que ha encontrado una manera de recuperar chats eliminados desde la memoria de los dispositivos móviles.
La herramienta, denominada ORISA, es un sistema forense diseñado para recuperar conversaciones que han sido eliminadas de asistentes de inteligencia artificial. Según una publicación en el blog de los investigadores, el objetivo del proyecto es demostrar que, a pesar de que un usuario borre un chat desde la interfaz de la aplicación, gran parte de la información permanece almacenada en la memoria de trabajo del dispositivo. ORISA está diseñada para funcionar con asistentes de inteligencia artificial que operan localmente en dispositivos Android, lo que significa que no dependen de servicios en la nube y, por lo tanto, pueden conservar fragmentos de contexto mientras están en uso.
Esta herramienta se aprovecha de esos fragmentos de memoria para localizar datos de conversaciones eliminadas y reconstruir sesiones que los usuarios pensaban que se habían perdido. En el desarrollo de su investigación, los científicos utilizaron ChatterUI, una aplicación gratuita que actúa como interfaz de chat para modelos de lenguaje de gran tamaño que se ejecutan de manera local. Crearon un asistente ficticio llamado Project Note Keeper y le proporcionaron 100 datos relacionados con un proyecto hipotético. Después de eliminar la conversación, ORISA logró recuperar 26 datos, superando incluso los 14 que permite la ventana de contexto del modelo.
Según los investigadores de Georgia Tech, este descubrimiento pone de manifiesto que los fragmentos de memoria que conserva una inteligencia artificial pueden contener información valiosa, incluso cuando el modelo ya no los utiliza de manera activa. Esto implica que ciertas conversaciones podrían ser recuperadas a pesar de que el usuario creyera haberlas borrado por completo, lo que plantea nuevas cuestiones sobre la privacidad y la gestión de datos en el uso de asistentes de inteligencia artificial.
El experimento incluyó diez aplicaciones de Android y tres modelos diferentes de inteligencia artificial. En un total de 60 configuraciones, ORISA logró recuperar información de conversaciones que habían sido eliminadas y que aún permanecían en la memoria del dispositivo. Los investigadores señalaron que este trabajo podría permitir a los expertos forenses reconstruir los datos que un usuario compartió con su asistente de IA, aunque esto podría plantear un problema de privacidad.
Una de las ventajas de utilizar modelos de IA directamente desde el dispositivo es que no es necesario subir datos a la nube. Tanto OpenAI como Anthropic no tienen acceso a tus conversaciones, ya que la información no sale del móvil. Sin embargo, el inconveniente es que alguien con acceso a ORISA podría recuperar parte de estos chats, siempre que la memoria no haya sido degradada o sobrescrita con otra información.
Actualmente, ORISA no está disponible para el público en general. Esta herramienta está diseñada para investigadores y requiere acceso a copias de la memoria y el almacenamiento del dispositivo móvil. Lejos de tener la intención de espiar a los usuarios, los científicos afirman que puede ser útil en situaciones donde un delincuente utilizó una IA local para evitar que se rastrearan sus intenciones.
Fuente original: Hipertextual.
