Modelos de IA nem sempre são transparentes sobre
quais fatores mais influenciam suas decisões. Para mitigar
esse efeito, uma abordagem é usar soluções do campo de
pesquisa chamado Inteligência Artificial Explicável, ou em
inglês: Explainable Artificial Intelligence (XAI). O objetivo
é ajudar a entender como um modelo complexo funciona,
fornecendo alguma explicabilidade e/ou interpretabilidade
sobre suas decisões. Sobre o uso de XAI, avalie se são
verdadeiras (V) ou falsas (F) as afirmativas a seguir:
I. Métodos de interpretabilidade robustos e consistentes
são elementos fundamentais para a construção de
confiança e para viabilizar a responsabilização
(accountability) de decisões algorítmicas.
II. No campo da saúde, a busca por modelos de IA interpretáveis é fundamental não só para dar transparência
para médicos e pacientes, mas para diversas outras
partes interessadas, inclusive aos órgãos reguladores.
III. Na pesquisa científica, muitas aplicações utilizam modelos baseados em redes neurais profundas, que são
por natureza pouco transparentes. Neste caso, a XAI
pode desempenhar um papel importante ao dar acesso
aos padrões identificados durante o processo de treinamento do modelo, podendo subsidiar a geração de
hipóteses de pesquisa.
As afirmativas I, II e III são, respectivamente: