Anonimización total: el desafío de proteger los datos personales en la IA
Por Pablo RoncoJosé tiene 42 años, trabaja en una empresa de logística y hace dos años dejó de ir al banco. No porque haya tenido un problema, sino porque ya no lo necesita: resuelve to...
Por Pablo Ronco
José tiene 42 años, trabaja en una empresa de logística y hace dos años dejó de ir al banco. No porque haya tenido un problema, sino porque ya no lo necesita: resuelve todo desde el teléfono. Consulta su saldo, hace transferencias y paga servicios. Cada vez que lo hace, genera datos que el banco utiliza para comprender mejor a sus clientes y mejorar sus servicios. José lo sabe y lo acepta. Sin embargo, desde que comenzó a interactuar con el asistente de inteligencia artificial del banco, que responde al instante y parece entender exactamente lo que necesita, empezó a sentirse incómodo.
Ya no solo quedan registradas sus operaciones, sino también sus palabras, sus dudas y los detalles que comparte al explicar un problema. ¿Dónde termina esa información? ¿Quién puede acceder a ella?
La inquietud de José es legítima y tiene una explicación técnica que la mayoría de los usuarios desconoce.
La información compartida con el asistente no desaparece cuando termina la conversación. Se incorpora a los procesos con los que el banco entrena y mejora sus modelos de inteligencia artificial. Ese aprendizaje es precisamente lo que hace que el asistente resulte cada vez más útil: se nutre de miles de conversaciones reales.
El problema es que entrenar modelos con datos reales implica riesgos. Un modelo puede retener información sensible de manera no intencional y exponerla de formas difíciles de prever. Los datos de José podrían resultar más accesibles de lo que imagina. Además, esa información no debería circular libremente ni procesarse fuera del banco, ya que podría incumplir regulaciones como el Reglamento General de Protección de Datos (GDPR) en Europa o sus equivalentes en América Latina.
Este es el dilema central de la inteligencia artificial aplicada a industrias que manejan información sensible: cuanto mejor aprende un sistema, más datos personales necesita; cuanto más incorpora esos datos, mayor es el riesgo para las personas.
La solución más extendida a esta problemática consiste en eliminar o enmascarar la información sensible antes del entrenamiento del modelo. Sin embargo, presenta dos limitaciones importantes. La primera es la cobertura: las herramientas tradicionales detectan solo entre el 56% y el 65% de los datos sensibles, dejando expuesta una proporción significativa. La segunda es la calidad: al eliminar nombres, fechas y otros elementos relevantes, el texto pierde contexto. Un modelo entrenado con información incompleta aprende peor y ofrece respuestas de menor calidad.
Existe otra alternativa: reemplazar los datos reales por información ficticia, pero completamente coherente. José se convierte en Carlos. Sus dos cuentas bancarias pasan a ser tres. Su domicilio en Palermo aparece en Belgrano. El modelo aprende con la misma eficacia, pero la identidad de José nunca forma parte del entrenamiento.
Ese es el principio de la anonimización total.
Esta idea constituye el núcleo del trabajo que desarrollamos junto con un equipo de investigadores argentinos, presentado este año en la RAIE 2026, workshop de Ingeniería de Software Responsable realizado en el marco de la International Conference on Software Engineering. La innovación consiste en utilizar modelos de lenguaje de gran escala (LLMs), la misma tecnología detrás de sistemas como ChatGPT, no para generar contenido, sino para proteger datos. A diferencia de las soluciones tradicionales, basadas en patrones predefinidos, un LLM comprende el contexto y genera reemplazos ficticios, pero consistentes con la información original. Todo el proceso ocurre dentro de la infraestructura de la organización: ningún dato abandona el banco ni intervienen servicios externos.
Los resultados son contundentes: una tasa de detección y reemplazo del 99% de los datos sensibles, frente al 56-65% de las herramientas convencionales. Además, los modelos entrenados sobre datos previamente anonimizados mantienen un 95% de precisión, con una pérdida mínima de calidad. Desde Argentina demostramos que es posible desarrollar investigación tecnológica de nivel internacional, reconocida por el comité científico de la principal conferencia mundial de ingeniería de software.
Cada vez que José resuelve un trámite desde su teléfono existen decisiones de diseño que permanecen invisibles para el usuario. La protección de los datos personales es uno de los desafíos más importantes que enfrenta hoy la inteligencia artificial y, al mismo tiempo, uno de los menos visibles. La anonimización total representa un paso fundamental para que la comodidad que ofrece la IA vaya acompañada de una garantía real de privacidad.
Pablo Ronco es Chief Technology Officer de Veritran y coautor del paper Anonymous-by-Construction: An LLM-Driven Framework for Privacy-Preserving Text, presentado en la RAIE 2026.