Argentina lleva la auditoría de IA al escritorio público
Un equipo de la UNSAM diseñó un manual para profesionales sin formación tecnológica y lo sometió a revisión de SIGEN. La iniciativa revela un desafío mayor: convertir principios algorítmicos en evidencia que cualquier auditor pueda exigir.
¿Cómo audita un sistema de inteligencia artificial una persona experta en presupuesto, compras o gestión pública, pero no en aprendizaje automático? Un equipo de estudiantes de la Especialización en Auditoría Gubernamental de la Universidad Nacional de San Martín convirtió esa pregunta en un manual y lo presentó el 21 de julio al síndico general de Argentina, Alejandro Díaz.
El documento académico fue diseñado entre marzo y julio para facilitar el control por profesionales sin formación tecnológica específica. SIGEN lo analizó y aportó observaciones. No se informó que el manual haya sido adoptado como norma ni se publicó su contenido; su relevancia está en acercar la auditoría algorítmica a quienes ya controlan el funcionamiento cotidiano del Estado.
Una iniciativa académica junto a un marco que sí es oficial
El trabajo de la UNSAM complementa una decisión previa. El 24 de junio, SIGEN publicó su Guía de Controles de Inteligencia Artificial mediante la Resolución 197/2026. Ese documento establece un marco de referencia para todo el Sector Público Nacional, basado en riesgos, responsabilidades explícitas, trazabilidad y supervisión humana.
La guía oficial parte de una afirmación sencilla y poderosa: automatizar la ejecución no traslada la responsabilidad. Funcionarios y estructuras organizacionales siguen respondiendo por las decisiones, impactos y resultados. El reto del manual académico es traducir esa obligación a un lenguaje y una secuencia de trabajo que un equipo de auditoría pueda aplicar sin convertirse primero en un laboratorio de ciencia de datos.
No es lo mismo usar ChatGPT que integrar un modelo a una decisión
SIGEN separa dos modalidades. La primera es el uso individual de herramientas generativas como apoyo: redactar, resumir, clasificar o analizar información sin integrarlas a un sistema institucional. Allí los controles se concentran en políticas de uso, herramientas autorizadas, exposición de datos, revisión humana y declaración del contenido asistido.
La segunda modalidad incorpora IA a procesos, aplicaciones o decisiones organizacionales y puede incluir entrenamiento de modelos. Exige más: justificar por qué la IA es adecuada, documentar objetivos y responsables, controlar el ciclo de vida, evaluar datos de entrenamiento, realizar pruebas periódicas y conservar registros de la puesta en producción. Esa clasificación ayuda al auditor a no aplicar la misma lista a una ayuda de escritura y a un sistema que prioriza beneficiarios.
Auditar IA no consiste en mirar dentro de cada fórmula. Consiste en exigir que cada decisión tenga responsable, evidencia, límites y una forma de corregirse.
Cinco carpetas de evidencia
Abre cada carpeta. Si la institución no puede reunir estas pruebas, el sistema difícilmente podrá auditarse.
01Propósito y autorización+
Problema definido, análisis de alternativas, herramienta aprobada, términos revisados y responsables identificados. “Innovar” no sustituye una justificación.
02Datos y procedencia+
Fuentes autorizadas, representatividad, integridad, metadatos, protección de información personal y criterios documentados para seleccionar el conjunto de entrenamiento.
03Pruebas y desempeño+
Casos de prueba, métricas por población, resultados adversos, responsable de validación y controles periódicos para detectar degradación después del despliegue.
04Decisión humana+
Procedimiento que muestra quién revisa, qué puede modificar, cuándo debe detener el sistema y cómo se reconstruye una decisión ante un reclamo.
05Operación y cambios+
Versiones, permisos, logs, incidentes, contingencias, modificaciones del proveedor y evidencia de que el sistema sigue siendo útil, seguro y legal con el paso del tiempo.
La estructura resume controles de la guía oficial de SIGEN y los organiza editorialmente; no pretende reproducir el manual académico de la UNSAM, que no está publicado.
Por qué hacen falta perfiles no técnicos
Un equipo exclusivamente técnico puede comprobar precisión o seguridad, pero pasar por alto que el sistema contradice una norma, duplica un procedimiento o gasta recursos sin mejorar el servicio. Auditores de gestión, legales, financieros y sectoriales conocen esas preguntas. La alfabetización técnica debe ampliar su capacidad, no reemplazarla.
También ocurre lo contrario: una lista administrativa sin apoyo especializado puede aceptar documentación impecable de un modelo deficiente. La auditoría efectiva necesita equipos mixtos y un lenguaje común. Un manual accesible es útil si ayuda a reconocer cuándo el auditor puede seguir y cuándo debe convocar a ciencia de datos, ciberseguridad, derechos o conocimiento sectorial.
De la guía a auditorías con resultados públicos
Argentina ya tiene un marco formal y está formando herramientas para aplicarlo. El siguiente paso será mostrar qué cambia en la práctica: inventarios de sistemas revisados, hallazgos frecuentes, recomendaciones aceptadas y plazos de corrección. Sin esa capa, no será posible saber si el control previno un daño o solo añadió documentación.
Publicar versiones del manual académico, probarlo con unidades de auditoría y registrar las preguntas que no puede resolver permitiría mejorarlo con evidencia. La iniciativa de la UNSAM acierta en el lugar donde muchas políticas de IA se vuelven frágiles: entre el principio que todos comparten y la persona que, frente a un expediente real, debe decidir qué prueba pedir.