Auditando ISO 42001 en el campo · 6 hallazgos que no aparecen en los manuales

Contexto · primeras auditorías ISO 42001 en LATAM

ISO/IEC 42001 fue publicada en diciembre de 2023. En LATAM, las primeras organizaciones empezaron a preparar sistemas de gestión de IA a fines de 2024. En G-CERTI revisamos los primeros casos técnicos a comienzos de 2025. Hoy, mayo 2026, hay un puñado de experiencias piloto y otras tantas en camino.

Lo que voy a compartir acá no es teoría. Son patrones que vimos repetirse en organizaciones distintas · fintechs, una salud digital, una empresa de retail con modelos de recomendación, una consultora de IA. Patrones que no están descritos en la guía oficial de implementación porque la guía oficial todavía está siendo escrita · por los que estamos auditando.

1 · Inventario de sistemas IA con definición vaga

La cláusula 6.1 de ISO 42001 exige que la organización mantenga un inventario de sus sistemas de IA. La intuición sería: lista los modelos que tenés en producción. Lo que encuentro es que casi nadie sabe cuántos tiene.

El problema es la definición de "sistema de IA". Una organización tiene un modelo entrenado por su equipo de datos, varios servicios de IA embebidos en software de terceros (chatbots de proveedores, asistentes en CRM, modelos de recomendación en marketplaces), un par de modelos en proof-of-concept que nadie quitó, y herramientas de IA que el equipo de marketing usa sin consultar a TI. Cuando preguntás cuántos sistemas de IA tienen, la respuesta inicial es "tres". Cuando hacés la auditoría real, encontrás diecisiete.

El hallazgo de auditoría: la cláusula 6.1 no se cumple cuando el inventario solo lista los modelos desarrollados internamente · debe cubrir todos los sistemas que cumplan la definición de ISO 22989 (la norma de vocabulario IA), incluyendo SaaS embebidos.

2 · Riesgos algorítmicos sin metodología explícita

ISO 42001 cláusula 6.1.2 exige evaluación de riesgos. La organización presenta un documento que dice "evaluamos riesgo de sesgo, riesgo de seguridad, riesgo de privacidad". Pregunto cómo lo hicieron. La respuesta es "reunimos al equipo y lo discutimos".

Eso no es metodología. Es opinión grupal documentada. Para que sea evaluación de riesgos auditable necesita: criterios objetivos de severidad, escala de likelihood, mecanismo de score, lista de fuentes de riesgo del Anexo C de la propia norma, evidencia de que se evaluó cada sistema del inventario contra cada fuente. Sin eso, la evaluación es ceremonial.

Las metodologías que mejor funcionan en campo: NIST AI Risk Management Framework como guía + matriz interna de scoring 1-5 en likelihood y severidad + revisión trimestral de cambios.

3 · Política de IA copiada del template de proveedor

La política de IA · cláusula 5.2 · es uno de los documentos más críticos del sistema. Es donde la organización declara qué tipos de sistemas de IA va a permitir, cuáles va a prohibir, qué nivel de autonomía aceptable tienen, cómo se manejan los conflictos éticos.

Lo que veo: políticas que son copy-paste de templates genéricos. Frases como "nos comprometemos a usar IA de forma responsable" sin definir qué es responsable. Sin prohibiciones explícitas (¿prohibimos modelos que toman decisiones autónomas sobre vidas humanas? ¿permitimos uso de generative AI para crear comunicaciones a clientes sin revisión humana?). Sin umbrales (¿qué nivel de explicabilidad exigimos? ¿qué métricas de fairness son aceptables?).

Hallazgo de auditoría: política sin compromisos verificables = NC menor (puede escalar a mayor si se repite el patrón en otros documentos del sistema).

4 · Datos de entrenamiento sin trazabilidad

El control A.7.4 del Anexo A de ISO 42001 (gestión de datos para sistemas de IA) exige trazabilidad de datos. En la práctica esto significa: para cada modelo, debe documentarse el dataset de entrenamiento, su origen, su consentimiento legal cuando contiene datos personales, su sesgo conocido, su período de actualización.

Lo que encuentro: "el dataset es el histórico de la base de datos de la empresa". ¿De qué fechas? "De siempre". ¿Hay datos de personas que ya no son clientes? "Probablemente sí". ¿Tienen consentimiento para uso de IA? "El consentimiento general de privacidad cubre el uso de los datos". Eso último, en términos de RGPD o Ley 25.326, es jurídicamente discutible.

Esto se está convirtiendo en el control más conflictivo de las auditorías ISO 42001. La intersección con privacidad de datos personales obliga a la organización a tener una política específica de uso de datos para entrenamiento de IA, distinta a la política general de protección de datos personales.

5 · Monitoreo postdesplegado inexistente

Una vez que el modelo entra en producción, ISO 42001 cláusula 9.1 exige seguimiento del desempeño. Esto incluye drift detection (¿el modelo sigue funcionando bien con datos nuevos?), fairness drift (¿la performance es equitativa entre grupos?), accuracy degradation, edge case handling.

Lo que encuentro: el equipo de datos puso el modelo en producción, agregó un dashboard de accuracy global, y ahí terminó la responsabilidad. Sin alertas automáticas. Sin revisiones periódicas. Sin procedimiento de qué hacer cuando el modelo empieza a degradarse. El modelo entrega valor incierto y nadie se entera hasta que un cliente reclama.

Esto es el control que más vamos a auditar en el futuro · y donde más NCs vamos a encontrar. La cultura de "deploy and forget" es incompatible con ISO 42001.

6 · Confusión entre RGPD y AIMS

La organización que ya tiene un programa de protección de datos personales bajo Ley 25.326 / Ley 19.628 / LGPD / RGPD asume que "ya cumplimos privacidad". Y sí · pero ISO 42001 requiere algo más específico que cumplimiento de privacidad: requiere gobernanza de IA. Son dimensiones distintas que se cruzan parcialmente.

Una organización puede cumplir RGPD perfectamente y aún así fallar ISO 42001 · porque no tiene política sobre transparencia algorítmica, no documenta cómo decide qué decisiones automatizadas se permiten, no tiene mecanismos de revisión humana de decisiones automatizadas que afecten significativamente a personas, no tiene gobernanza sobre uso de IA generativa.

El error: tratar ISO 42001 como una extensión del programa de privacidad. La realidad: ISO 42001 es un sistema de gestión propio que coexiste con privacidad pero tiene su propio scope.

Cierre · qué pasa los próximos 24 meses

Vamos a ver una explosión de organizaciones implementando ISO 42001. EU AI Act entra en plena vigencia en agosto 2026 para sistemas de alto riesgo · esto presiona a empresas que exportan a Europa a tener un sistema de gobernanza de IA demostrable, y ISO 42001 es la herramienta más reconocida para demostrarlo.

Lo que vamos a aprender los auditores en esa explosión va a redefinir cómo se audita IA. Los 6 hallazgos que comparto acá probablemente se vuelvan estándar en 12-18 meses, y aparecerán hallazgos nuevos que hoy no anticipo. Por eso esta ventana es única para los auditores que se especializan ahora · van a ser la primera generación con experiencia real en auditoría de IA, y la demanda los va a esperar.

— Fernando Arrieta, Director Técnico G-CERTI · Buenos Aires, mayo 2026.