Un estudio académico determinó que ChatGPT crea por su cuenta el 96% de los registros que guarda sobre la personalidad de sus usuarios, sin que estos se lo hayan pedido explícitamente, y que más de la mitad de esa información contiene datos psicológicos sensibles.
La investigación, titulada “The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT”, fue presentada en la ACM Web Conference 2026 y realizada por científicos del Instituto Max Planck para Sistemas de Software, el Instituto Max Planck para Seguridad y Privacidad, la Universidad Ruhr de Bochum, el Instituto Indio de Tecnología de Kharagpur y la Universidad Técnica de Delft.
El grupo investigador analizó 2.050 entradas de memoria provenientes de 80 usuarios reales de ChatGPT, que habían obtenido copias de su propio historial de conversaciones mediante el derecho de acceso que otorga el Reglamento General de Protección de Datos de la Unión Europea, la norma que regula el uso de información personal en ese bloque.
De esas entradas, 65 participantes tenían memorias generadas por el sistema. Solo el 4% de los registros fue creado porque el usuario se lo pidió de manera directa. El 96% restante surgió de decisiones unilaterales del propio ChatGPT mientras respondía a otras consultas, sin ninguna instrucción explícita de guardar ese dato.
El 52% de las memorias analizadas contenía lo que los investigadores llaman “información psicológica”: deseos, intenciones, emociones o creencias del usuario, inferidos a partir del contenido de las conversaciones. Otro 28% incluía datos personales definidos como sensibles por la normativa europea.
Qué rasgos psicológicos guarda ChatGPT de sus usuarios
Entre los rasgos psicológicos detectados, los deseos fueron la categoría más frecuente, presente en el 73% de esas memorias, seguidos por las intenciones (16%), las emociones (14%) y las creencias (11%). Los investigadores usaron un marco tomado de la psicología llamado Teoría de la Mente, que describe la capacidad de inferir estados mentales ajenos.
Los autores remarcaron que ChatGPT prioriza rasgos duraderos de la personalidad, como los deseos y las intenciones, por sobre estados pasajeros como las emociones o las percepciones momentáneas: juntos, los primeros representan casi el 90% de las memorias psicológicas detectadas, frente a apenas el 20% de los segundos.
El estudio ejemplifica el mecanismo con un caso concreto: cuando un usuario le pidió a ChatGPT sugerencias de bandas parecidas a Nirvana, el sistema registró en su memoria que a esa persona “le gusta Nirvana”, pese a que nunca lo había afirmado. El propio sistema etiquetó esa inferencia como “débilmente respaldada”.
A pesar de ese tipo de suposiciones, el 84% de las memorias analizadas resultaron fieles al contenido real de las conversaciones, según los investigadores, lo que indica que el sistema no suele inventar información sino que la extrae, con mayor o menor precisión, de lo que el usuario efectivamente escribió.
Por qué las plataformas de IA necesitan saber estos datos de los usuarios
Abhisek Dash, autor principal del estudio, explicó a Gizmodo por qué estas plataformas necesitan saber tanto sobre cada usuario. “Antes, las plataformas tenían un solo objetivo: venderte publicidad y mediar una interacción entre vos y un anunciante”, dijo. “Pero ahora te están hablando directamente, así que quieren saber más sobre vos para poder sostener una conversación efectiva”.
Dash advirtió que esa cercanía abre un riesgo de privacidad, porque los usuarios no siempre tratan a un chatbot como una herramienta. “Ya no hay un límite, porque el sistema actúa como tu asesor, tu amigo, tu médico, tu abogado, y entonces tiene información sobre todo”.
Agregó que, si el sistema valida sistemáticamente las creencias del usuario para que vuelva a usarlo, el efecto puede derivar en “polarización política extrema o en el refuerzo de prejuicios”. Los autores reconocen un límite de su trabajo: la muestra de 80 participantes, mayormente de Estados Unidos y Europa, no representa a todos los usuarios de ChatGPT.
Cómo reducir riesgos al usar ChatGPT
Para reducir ese riesgo, el grupo investigador presentó un sistema experimental llamado Attribution Shield, que detecta por adelantado qué consultas podrían generar una inferencia sensible y le sugiere al usuario formas alternativas de redactar la misma pregunta sin perder su utilidad.
Según el propio paper, el sistema logró evitar ese tipo de atribución en más del 94% de los casos probados, sin afectar de forma sustancial el sentido original de la consulta. El código del proyecto fue publicado en el repositorio Zenodo para que otros investigadores puedan auditarlo.
Fuente: Infobae — Ver noticia original