INSTRUÇÃO: Leia o texto a seguir para responder à questão.
Algoritmos podem enviesar internet, alertam especialistas
Era para ser uma noite diferente. O rapaz chegou em
casa, pegou um pedaço de pizza e correu para a frente
da TV para assistir a uma comédia no seu serviço de
streaming favorito. Mas, poucos minutos depois, lá
estava ele assistindo a outro filme de ação, como em
todas as noites anteriores. Seria só uma coincidência? Na
verdade, é mais um triunfo de uma sequência de linhas
de código, repleta de complexos cálculos matemáticos,
que é chamada de algoritmo. Eles viraram o núcleo dos
serviços digitais na última década.
Embora a vida tenha ficado mais fácil desde que eles
apareceram – basta lembrar de como era pesquisar
sobre qualquer assunto sem o Google –, há indícios de
que esses softwares não sejam tão neutros e inofensivos
quanto parecem.
“Os algoritmos têm um grande papel nas escolhas das
pessoas hoje em dia”, diz o professor de Ciências da
Computação da Universidade de Washington, Pedro
Domingos. “Eles determinam o que vemos no Google,
escolhem três quartos dos filmes assistidos no Netflix
e sugerem um terço de tudo o que é comprado na
Amazon.”
Isso não seria um grande problema, se todo mundo
soubesse como os algoritmos funcionam e que,
dependendo de quem o desenvolveu, eles podem
apresentar resultados enviesados. Contudo, hoje
eles são como segredos industriais. “Os algoritmos
são feitos para beneficiar quem está por trás deles”,
alertou, em entrevista ao Estado, a matemática
norte-americana Cathy O’Neil, autora do livro Weapons
of Math Destruction (Armas de Destruição Matemática,
em tradução livre). “Eles têm sido usados para separar
vencedores de perdedores na internet.”
Viés
Nos Estados Unidos, os exemplos de algoritmos
“viciados” se acumulam. Em 2016, a agência de notícias
Bloomberg revelou que a Amazon não entregava
produtos no mesmo dia em bairros predominantemente
negros. A empresa negou que seu algoritmo levasse em
conta a raça dos clientes.
Outro caso envolve o uso da tecnologia por juízes
norte-americanos para determinar penas. Uma
investigação da organização sem fins lucrativos
ProPublica mostrou que negros tinham o dobro de
chances de receberem uma pena mais longa que
brancos. Há também casos de sites de emprego que não
mostram vagas com altos salários para mulheres e de
financeiras que cobram taxas mais altas de quem mora
na periferia.
“Os algoritmos aprendem com os dados que são
oferecidos a ele”, explica Júlio Monteiro, doutorando
em Ciências da Computação na Escola Politécnica da
Universidade de São Paulo (USP). “Se quem está por
trás é preconceituoso, ele pode manter esse perfil.”
Para o professor da Universidade Federal do Espírito
Santo (Ufes), Fábio Malini, o uso intensivo de algoritmos
prejudica a sociedade, pois limita o acesso à web.
“A regulação algorítmica melhora a democracia? Acredito
que não”, defende o pesquisador. “É o acesso pleno a
todos os conteúdos da rede que me ajuda a ampliar os
pontos de vista.” Essa curadoria automatizada é o que
tem provocado o “efeito bolha” nas redes sociais, em
que as pessoas só veem conteúdos que reforçam suas
crenças.
Solução
Especialistas consultados são unânimes em defender
que é preciso criar órgãos independentes para auditar
os algoritmos. “Imagino um futuro em que decisões são
tomadas por eles”, diz Cathy. “Mas é preciso poder pedir
explicações.”
Por enquanto, esse tipo de garantia só está prevista na
União Europeia, onde o Regulamento Geral de Proteção
de Dados (GDPR) deve entrar em vigor em maio de
2018. A nova lei, que representa a maior mudança
na área de privacidade online em 20 anos, prevê que
cidadãos possam exigir explicações às empresas por
trás dos algoritmos.
Apesar de apresentarem riscos, esses programas são
considerados um mal necessário no mundo digital.
“Antes, a TV decidia o que veríamos, mas na internet
passamos a escolher livremente o que consumir”,
diz Edney Souza, professor da ESPM. “A maioria não
estava pronta para este salto. O algoritmo está no meio
do caminho.” [...]
Disponível em: <encurtador.com.br/tuGH0>.
Acesso em: 23 abr. 2019.