El perfil sombra de la IA: de la elaboración de perfiles psicológicos al riesgo de chantajes y la respuesta de la Private AI

Durante años hemos debatido sobre la cantidad de datos personales recopilados por gigantes como Google o Meta. Sin embargo, la información acumulada por los sistemas de IA generativa pertenece a un orden de magnitud cualitativamente superior.

This post is also available in: Italiano English (Inglés)

Publicado originalmente en LinkedIn

En los últimos meses se ha hecho viral un pequeño experimento: pedirle a ChatGPT que haga un «roast» del propio perfil. El resultado suele ser sorprendentemente preciso y divertido, pero esconde una realidad mucho más profunda e inquietante. Si la IA es capaz de trazar un retrato tan exacto de nuestra forma de comunicarnos, pensar y actuar, ¿qué sabe realmente de nosotros?

La magnitud de este fenómeno queda confirmada por un estudio académico titulado «The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT» (arXiv:2602.01450). La investigación ha demostrado que la memoria a largo plazo de los modelos de lenguaje no se limita a registrar los datos que le pedimos explícitamente que recuerde: en segundo plano, la IA extrae y procesa continuamente nuestras preferencias, nuestras inclinaciones psicológicas, nuestros estados de ánimo y los contextos en los que nos movemos.

El tema va mucho más allá de la curiosidad tecnológica y plantea un interrogante fundamental sobre la información que cada día confiamos a los chatbots, tanto en la vida privada como en la profesional.

La IA como «confesor»: la exposición de la esfera más íntima

En los últimos tiempos, el uso de la Inteligencia Artificial como apoyo emocional o «psicólogo informal» ha registrado un crecimiento impresionante. Millones de usuarios utilizan herramientas como ChatGPT o Claude para confiar ansiedades, dudas personales, fragilidades y dinámicas relacionales que difícilmente compartirían incluso con personas cercanas.

Esta disposición a «sincerarse» convierte la interacción con la IA en un canal privilegiado de recopilación de datos. A diferencia de las plataformas sociales o los motores de búsqueda tradicionales, que rastrean principalmente nuestros hábitos de consumo o navegación, los modelos conversacionales cartografían nuestra arquitectura emocional y cognitiva. En resumen: no solo registran lo que nos gusta, sino cómo pensamos y dónde somos vulnerables.

El riesgo en el ámbito político y corporativo

Si en el contexto privado el impacto afecta a la privacidad individual, en el ámbito público y empresarial las implicaciones se vuelven estratégicas y sistémicas.

  • En el ámbito político e institucional: cargos de gobierno, parlamentarios y funcionarios públicos que utilizan los chatbots para analizar borradores de normativas, evaluar escenarios de crisis o preparar intervenciones, acaban compartiendo con la IA razonamientos confidenciales, dudas estratégicas y valoraciones internas.
  • En el ámbito corporativo: directivos y empleados introducen a diario en los prompts planes industriales, datos financieros aún no publicados, análisis de la competencia o detalles de negociaciones confidenciales para agilizar informes y resúmenes.

En ambos casos, información de alto valor estratégico se transfiere a infraestructuras centralizadas gestionadas por proveedores externos.

El verdadero peligro: ciberextorsiones, chantajes e intimidaciones

El aspecto más crítico de esta acumulación de datos no se limita al uso formal que los proveedores hacen de las conversaciones para entrenar los modelos, sino a la posibilidad de que dichos datos sean sustraídos o expuestos.

¿Qué ocurriría si estas bases de datos ocultas o perfiles psicológicos cayeran en manos de actores hostiles, grupos cibercriminales o servicios de inteligencia extranjeros a través de filtraciones de datos, vulnerabilidades de software o accesos ilícitos?

Tener acceso al mapa de las vulnerabilidades emocionales de un líder político, o a los secretos industriales y las debilidades organizativas de un directivo de empresa, pondría en manos de personas malintencionadas un arma formidable para llevar a cabo:

  1. Chantajes y presiones dirigidas, basados en información personal o confidencial;
  2. Campañas de ingeniería social y phishing de precisión quirúrgica;
  3. Intimidaciones y acciones de espionaje económico o geopolítico.

Por qué las grandes tecnológicas tradicionales ya han quedado superadas

Durante años hemos debatido sobre la cantidad de datos personales recopilados por gigantes como Google o Meta. Sin embargo, la información acumulada por los sistemas de IA generativa pertenece a un orden de magnitud cualitativamente superior.

Google sabe qué sitios visitamos y qué buscamos en la web. Meta sabe quiénes son nuestros contactos y qué vemos en los feeds. Un modelo LLM con memoria activa comprende nuestro estilo argumentativo, nuestra tolerancia al estrés, nuestros valores guía y nuestras incoherencias. Ya no se trata de elaboración de perfiles de comportamiento, sino de auténtica elaboración de perfiles de personalidad.

La necesidad de soberanía tecnológica y Private AI

Ante este escenario, el debate sobre la Inteligencia Artificial ya no puede limitarse a cuestiones de rendimiento, velocidad de cálculo o funcionalidades avanzadas.

Resulta urgente orientar las inversiones y las políticas empresariales hacia la Private AI y la soberanía tecnológica:

  • Modelos de código abierto y ejecución on-premise/local: garantizar que los datos sensibles nunca salgan de los perímetros protegidos de las organizaciones o instituciones.
  • Sistemas de enmascaramiento y gobernanza de la memoria: adopción de soluciones tecnológicas capaces de detectar y bloquear la extracción automática de rasgos psicológicos o datos personales sensibles en los contextos de uso cotidiano.
  • Concienciación y formación: promover una cultura de uso responsable de la IA que reconozca en los prompts no simples «búsquedas», sino auténticos flujos de información que deben protegerse.

La adopción de la inteligencia artificial es fundamental para la competitividad y el crecimiento, pero no puede producirse a costa de la soberanía sobre nuestros datos más íntimos y confidenciales.

📌 Riferimento bibliografico per approfondire il funzionamento della memoria implicita nei modelli LLM:

«The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT» (arXiv:2602.01450) – https://arxiv.org/abs/2602.01450

Comentarios

Recomendar Comentar Compartir