Explainable Artificial Intelligence (XAI)

La creciente utilización de modelos de inteligencia artificial en todos los sectores ha llevado a la aparición de la disciplina de XAI (Explainable Artificial Intelligence), que busca garantizar la interpretabilidad y transparencia de estos modelos. La regulación al respecto es creciente, e incluye el AI Act en Europa, el AI Bill of Rights en Estados Unidos, y la normativa de protección de datos en varias regiones, que otorga a los ciudadanos un “derecho a una explicación” cuando son sometidos a decisiones basadas en AI.

Se trata de un cambio transformacional en la forma en que se utilizan los modelos de inteligencia artificial, con impactos profundos en el negocio y en la necesidad de adaptar los modelos, sistemas, datos y procesos para garantizar su interpretabilidad y transparencia, y la ética en su uso.

Management Solutions cuenta con amplia experiencia en la implantación de modelos de inteligencia artificial interpretables (white boxes) y en el uso de técnicas de interpretabilidad post-hoc para modelos difícilmente interpretables (black boxes) en los principales bancos y corporaciones no financieras en Europa y América, y ha colaborado también con algunos supervisores bancarios para garantizar la interpretación de estos modelos.

Nuestra propuesta de valor está orientada a dar soporte a áreas de Data Science, Riesgos, Cumplimiento y Tecnología en cuatro líneas de trabajo necesarias para garantizar la interpretabilidad y transparencia de los modelos de inteligencia artificial:

• Desarrollar modelos de inteligencia artificial intrínsecamente explicables e interpretables, o bien implementar módulos de interpretación en modelos existentes.
• Soporte en la adaptación del marco de riesgo de modelo, adecuando las políticas, inventarios y marcos de validación a los modelos de AI.
• Transformar los aspectos operativos de XAI, como la incorporación de elementos XAI en el marco de datos, la producción de procesos de interpretación, y la revisión de plantillas de documentación técnica.
• Por último, la implementación de ModelCraft™ como un sistema AutoML propietario que incorpora un módulo de interpretabilidad, y Gamma™ como un sistema de gobierno de modelos.