O uso crescente de modelos de inteligência artificial em todos os setores levou ao surgimento da disciplina da XAI (Inteligência Artificial Explicável), que procura assegurar a interpretabilidade e a transparência desses modelos. A regulamentação está crescendo, incluindo a AI Act na Europa, a AI Bill of Rights nos EUA e as regulamentações de proteção de dados em várias regiões, que dão aos cidadãos um "direito a uma explicação" quando sujeitos a decisões baseadas em IA.
Explainable Artificial Intelligence
Esta é uma mudança transformacional na forma como os modelos de inteligência artificial são usados, com profundo impacto nos negócios e na necessidade de adaptar modelos, sistemas, dados e processos para garantir sua interpretabilidade e transparência, e ética em seu uso.
A Management Solutions tem ampla experiência na implementação de modelos de inteligência artificial interpretáveis (caixas brancas) e no uso de técnicas de interpretabilidade post-hoc para modelos que são difíceis de interpretar (caixas pretas) em grandes bancos e corporações não financeiras na Europa e América, e também colaborou com alguns supervisores bancários para garantir a interpretabilidade desses modelos.
Nossa proposta de valor é orientada para apoiar as áreas de Ciência de Dados, Risco, Conformidade e Tecnologia em quatro linhas de trabalho necessárias para garantir a interpretabilidade e a transparência dos modelos de inteligência artificial:
- Desenvolver modelos de inteligência artificial que sejam intrinsecamente explicáveis e interpretáveis, ou implementar módulos de interpretação em modelos existentes.
- Apoio na adaptação da estrutura de risco do modelo, alinhando políticas, inventários e estruturas de validação aos modelos de inteligência artificial.
- Transformar aspectos operacionais do XAI, tais como incorporar elementos XAI na estrutura de dados, produzir processos de interpretação, e revisar modelos de documentação técnica.
- Finalmente, a implementação de ModelCraft™ como um sistema AutoML proprietário, incorporando um módulo de interpretabilidade, e Gamma™ como um sistema de governança de modelos.