Futuro da Inteligência Artificial e a necessidade da ética relacional para uma governança inclusiva
Estamos vivendo a era da datificação, em que todos os aspectos da vida social são transformados em dados. Esse processo,
fundamental para o desenvolvimento da Inteligência Artificial (IA), nos promete um futuro onde decisões complexas podem
ser automatizadas e otimizadas em uma escala sem precedentes. No entanto, isso frequentemente simplifica a complexidade
da vida humana em métricas e números, ignorando as relações e os contextos que tornam cada indivíduo único. Quando esses
dados são usados em sistemas de IA, eles podem acabar reforçando as mesmas desigualdades e exclusões que pretendiam
resolver.
Os dados que alimentam esses sistemas muitas vezes refletem contextos históricos de desigualdade. Como Coté (2022)
observa, ao moldar identidades e comportamentos humanos em padrões digitais, a datificação impõe limites às representações,
limitando a diversidade de experiências humanas e, em muitos casos, perpetuando estereótipos. Isso pode resultar em decisões
enviesadas, criando um ciclo de exclusão e discriminação. Esse desafio nos obriga a questionar a suposta neutralidade dos algoritmos e a refletir sobre como essas decisões automatizadas moldam a sociedade, frequentemente favorecendo certos grupos
em detrimento de outros.
Pensando em uma governança que seja realmente inclusiva, Browne (2023) propõe a criação de “AI Public Body” – uma
entidade pública que permite a participação de cidadãos comuns, especialmente daqueles mais afetados pelas tecnologias de IA,
nas decisões sobre o uso dessas tecnologias. Inspirado em modelos de democracia deliberativa, esse corpo incluiria a voz de
comunidades diversas, trazendo uma nova perspectiva para as decisões que, até hoje, são dominadas por especialistas técnicos.
Esse modelo representa uma mudança significativa na forma como entendemos a governança, enfatizando que a IA não
deve ser apenas uma questão de precisão técnica, mas também de justiça e representatividade. A inclusão dessas vozes no
processo de governança cria um espaço onde os efeitos sociais das tecnologias podem ser mais bem compreendidos e
endereçados, resultando em uma governança que reflete a diversidade da sociedade.
A justiça algorítmica muitas vezes é tratada como uma questão de otimização matemática, ajustando dados e métricas para
minimizar desigualdades estatísticas. No entanto, como Van Nuenen (2022) aponta, a justiça social na IA deve ir além dos ajustes
técnicos, considerando as complexas desigualdades estruturais que esses dados representam. Em vez de se limitar a resultados
estatísticos, a justiça social exige uma compreensão mais profunda do impacto das decisões tecnológicas na vida das pessoas.
No caso de algoritmos usados em concessão de crédito ou reconhecimento facial, é essencial entender que esses sistemas
não operam em um vácuo: eles são parte de uma sociedade com uma longa história de desigualdade. Para que a IA seja
realmente justa, ela deve ser projetada com o compromisso de mitigar essas desigualdades, considerando as realidades vividas
por comunidades marginalizadas e integrando suas vozes no desenvolvimento e na aplicação dessas tecnologias.
(Carine Roos. Em: 08/02/2025. Disponível em: https://www.hojeemdia.com.br/opiniao. Fragmento.)