Uma equipe de desenvolvimento de Inteligência Artificial
(IA) em uma empresa de tecnologia está implementando
um sistema de recomendação baseado em aprendizado
de máquina. Durante o processo de implementação, a
equipe precisa estar atenta aos potenciais riscos e vulnerabilidades associados ao uso da IA. O sistema utiliza
grandes volumes de dados históricos de clientes para treinar seus modelos. Há uma preocupação com a possibilidade de invasores manipularem a entrada de dados para
enganar o modelo e gerar saídas indesejadas ou incorretas. A equipe deve também garantir que o modelo não
exponha dados sensíveis dos clientes.
Considere as seguintes afirmativas com relação à mitigação dos riscos identificados:
I - adotar uma abordagem de fairness-aware learning
para corrigir potenciais vieses no modelo, garantindo
que as recomendações sejam justas para todos os
grupos de usuários.
II - implementar métodos de robustness testing para simular ataques adversariais e avaliar a resiliência do
modelo, e realizar auditorias regulares para identificar e corrigir vieses algorítmicos.
III - implementar técnicas de data augmentation para
aumentar a diversidade dos dados de treinamento,
reduzindo o risco de viés algorítmico, e adotar uma
estratégia de monitoramento contínuo para detectar
e mitigar ataques adversariais.
IV - utilizar técnicas de differential privacy durante o treinamento do modelo para proteger dados sensíveis
e garantir que as previsões do modelo não revelem
informações específicas dos clientes.
Estão corretas as seguintes afirmativas: