Reflexiones de un Auditor Interno sobre la Inteligencia Artificial (IA)

El libro “El Cisne Negro” indica que la historia no gatea, da saltos; para dar a entender que muchos de los cambios que pareciera se dan de la noche a la mañana son producto de procesos que ocurren de forma paulatina.
Esta situación está sucediendo con el auge de la Inteligencia Artificial (IA), que ha tomado por sorpresa a muchos, aunque es un proceso que se está gestando desde hace décadas.
Pero, como todo en la vida, al igual que la energía atómica, esta puede ser usada para bien o para mal o, como diríamos los seguidores de La Guerra de las Galaxias, tenemos que ser muy sabios en su uso para no pasar al lado oscuro de la fuerza.
Para que el uso de la IA no pase al lado oscuro de la fuerza, los Auditores Internos podemos agregar mucho valor a nuestras organizaciones, cuando revisamos los algoritmos, por ejemplo:

1. La calidad de los datos con la cual se entrena el modelo. Si no son confiables, los algoritmos no van a suministrar información útil para la toma de decisiones y puede ocasionar daños a la reputación y perjuicio económico, irreparables.
2. Evaluar los criterios utilizados para escoger un determinado modelo.
3. Auditar los criterios técnicos para considerar, en el modelo, ciertas variables predictoras, o los utilizados para eliminar algunas, pues esto incide en generar un resultado u otro.
4. Evaluar si el problema se abordó de forma adecuada, por ejemplo, si la variable a predecir es cualitativa o cuantitativa, pues esto determina si es de Clasificación (variable cualitativa) o de Regresión (variable cuantitativa). Un problema cuya variable a predecir sea cualitativa y se aborde con técnicas de regresión, o que sea cuantitativa y se analice con técnicas de clasificación, generará resultados incorrectos, afectando la toma de decisiones.
5. Revisar si la Tabla de Testing utilizada para probar el algoritmo es distinta a la Tabla de Entrenamiento que se utilizó para entrenar el modelo, porque si el algoritmo se verifica con la misma base con que se entrenó, no va a tener ningún sentido la prueba.
6. Analizar si el uso de la IA está definido y alineado con los principios éticos de la organización, el marco legal existente y las buenas prácticas.
7. Grado de actualización del inventario de algoritmos de inteligencia artificial, donde se indique claramente su objetivo.
8. Evaluar si en la gestión de riesgos se consideró el análisis de los peligros de un comportamiento erróneo de los algoritmos, y contemplan los controles compensatorios apropiados.
9. Aprobación formal por los analistas y programadores de cada algoritmo. Es fundamental entender las normas éticas que deben respetar durante la programación, y comprometerse con su cumplimiento.
10. Verificar que los sistemas autónomos conserven registros que justifiquen la lógica de sus decisiones cuando sea preciso.

*Contador Público Autorizado Colegio de Contadores Públicos de Costa Rica