Cómo se audita un proceso donde interviene un modelo
AUDITAR UN PROCESO DONDE INTERVIENE UN MODELO NO ES AUDITAR CON MÁS CUIDADO. ES OTRO PROCEDIMIENTO.
Y conviene tenerlo escrito antes de que llegue la primera auditoría, porque improvisarlo con el auditor sentado enfrente sale caro.
La pregunta que se hace es si el sistema cumple.
La correcta es qué evidencia tengo que poder mostrar, y en cuánto tiempo.
El recorrido, paso a paso:
Delimita qué decide el modelo y qué decide una persona.
Es lo primero que van a preguntar. Si la respuesta es difusa, todo lo demás se vuelve sospechoso. Debe existir un punto explícito donde el flujo se detiene.
Muestra el registro de una decisión concreta.
No la política: un caso. Qué lo disparó, qué información se consultó, qué versión respondió, qué hizo la persona después. Elige tú el caso o lo elegirán ellos.
Demuestra que la fuente estaba vigente.
Aquí se cae la mayoría. Si el procedimiento consultado estaba derogado en esa fecha, la decisión queda sin sustento aunque el resultado fuera correcto.
Presenta el conjunto de casos de referencia y su historial.
Con qué preguntas se evalúa el sistema, cuál era el resultado hace seis meses y cuál ahora. Es el equivalente a la verificación de eficacia.
Enseña el registro de cambios de permisos.
Quién autorizó que el agente pudiera escribir donde antes solo leía, y cuándo. Es el control que menos organizaciones tienen.
Nada de esto se construye en la semana previa. Se construye al diseñar, o no existe.
Dumas y trece coautores lo llaman explicabilidad y lo ponen entre las cuatro propiedades exigibles. No se agrega al final.
¿Cuánto tardarías hoy en mostrar la cadena completa de una decisión automatizada?
- Auditoría
- IA
- Cumplimiento
- GobiernoDeProcesos
- GestiónDeProcesos
El carrusel completo
7 láminas. Toca cualquiera para verla en grande.
