¿Qué pasaría si el Estado pudiera anticipar cómo reaccionará la sociedad antes de tomar una decisión política? ¿O cruzar información personal de millones de personas para “predecir” comportamientos sociales futuros?

Eso es, justamente, lo que comenzó a encender alarmas tras el anuncio del Gobierno nacional sobre la creación de un sistema de inteligencia artificial basado en “gemelos digitales sociales”, una herramienta que buscará integrar datos reales de los ciudadanos para simular escenarios y optimizar políticas públicas.

La iniciativa fue presentada por el Ministerio de Capital Humano, que planteó la idea de avanzar hacia un “Estado predictivo” con capacidad de anticipar problemas antes de que ocurran.

Pero detrás del discurso tecnológico empezaron a aparecer preguntas mucho más sensibles: ¿Qué datos se usarán? ¿Quién tendrá acceso? ¿Qué empresas participarán? ¿Quién controlará los algoritmos? Y, sobre todo: ¿hasta dónde puede llegar el Estado con la información personal de los ciudadanos?

El concepto de “gemelo digital” ya existe en distintos países y suele utilizarse para simular sistemas complejos como tránsito, energía, hospitales o crecimiento urbano. Sin embargo, el anuncio argentino fue mucho más allá: la idea es construir modelos sociales alimentados con enormes volúmenes de datos reales.

Ahí aparece el punto más polémico. Especialistas en inteligencia artificial, privacidad y derecho digital comenzaron a advertir que el proyecto todavía no explica cómo se protegerán los datos personales ni qué límites legales tendrá el sistema.

La ingeniera industrial Camila Velasco, especializada en integración de IA para procesos, cuestionó el lanzamiento y sostuvo que el anuncio parece “más marketinero que técnico”.

“La IA requiere gobernanza, auditorías y reglas claras. Y acá no parece ir por ese camino”, advirtió.

Según explicó, para que un sistema de este tipo funcione sin poner en riesgo a la población debería existir anonimización estricta de datos, auditorías permanentes y marcos regulatorios sólidos.

Además, recordó que los sistemas de IA también generan errores y “alucinaciones”, es decir, respuestas equivocadas o interpretaciones incorrectas que pueden afectar decisiones sensibles si no existe control humano constante.

Pero las preocupaciones no terminan ahí.
Uno de los focos más delicados apareció alrededor de posibles acuerdos con empresas tecnológicas extranjeras vinculadas al procesamiento de datos e inteligencia artificial.

El abogado y docente universitario Pablo Serdán cuestionó públicamente la iniciativa y advirtió sobre el riesgo de entregar información sensible de argentinos a compañías sujetas a legislación extranjera.

“Nadie consintió ser materia prima de ningún modelo”, sostuvo.

El especialista recordó además que la Corte Suprema argentina recientemente estableció límites claros sobre el uso de datos personales para fines distintos a aquellos para los cuales fueron originalmente entregados al Estado.

Historias clínicas, registros de ANSES, información patrimonial, asistencia social, consumo e incluso patrones de comportamiento podrían quedar dentro de bases utilizadas para alimentar modelos predictivos.

Y ahí aparece uno de los grandes debates globales de esta nueva etapa tecnológica: la frontera entre eficiencia estatal y vigilancia masiva.

Mientras algunos sectores sostienen que herramientas de este tipo podrían ayudar a optimizar políticas públicas, prevenir crisis o mejorar sistemas de salud y asistencia, otros advierten que sin controles democráticos fuertes la inteligencia artificial puede transformarse en un mecanismo de monitoreo social de escala inédita.

El problema, según remarcan especialistas, es que el anuncio oficial llegó antes que las explicaciones técnicas, legales y éticas.

Y en un contexto donde la inteligencia artificial avanza mucho más rápido que las regulaciones, el debate recién empieza.

Porque detrás de palabras como “innovación”, “predicción” o “optimización”, lo que realmente está en discusión es otra cosa: quién controla los datos, quién decide cómo se usan, y cuánto de nuestra vida cotidiana puede terminar convertido en información procesable por algoritmos.