Texto 1
Inteligência artificial: faz escolhas por nós
À medida que as nossas vidas ficam mais dependentes
da IA – das previsões meteorológicas às transações do
mercado financeiro ou às análises de DNA –, estamos
delegando as escolhas humanas. A IA escolhe as notícias e informações a que estamos expostos e sugere o
que devemos comprar.
A utilização de algoritmos nas redes sociais resulta na
diminuição da exposição das pessoas a notícias que
suscitem atitudes contrárias, facilitando a polarização de pontos de vista. Entre os millenials – também
conhecidos como Geração Y –, em muitas partes do
mundo, as redes sociais são frequentemente a fonte
dominante de notícias sobre política e governos. Ao
recomendarem vídeos e notícias de forma automatizada, o conteúdo manipulativo chega agora facilmente aos que o visualizam, amplificando a difusão
da desinformação. As redes sociais também podem
alimentar ondas populistas, nacionalistas e xenófobas
em todas as sociedades.
A IA contribui para a criação de informações falsas e
para a propagação da desinformação. Deve-se considerar que as redes geradoras antagônicas criam
áudios e vídeos falsos. Essas tecnologias podem agora
ser facilmente utilizadas através de aplicações para
criar falsificações graves e perigosas. Em 2016, mais
de 50% do tráfego da Internet foi gerado por bots.
De fato, a informação falsa tende a espalhar-se mais
amplamente que a verdadeira. As redes sociais podem
reduzir a avaliação crítica e facilitar a difusão de teorias da conspiração.
Na mesma ordem de ideias, quem é responsável por
decisões erradas em matéria de IA? Os pedidos de crédito são rejeitados, e as publicações nas redes sociais
são eliminadas com base em decisões de IA, enquanto
os mecanismos para contestar essas decisões não se
encontram totalmente desenvolvidos. Muitos algoritmos são opacos, não são regulamentados e difíceis de
contestar. Algoritmos de reconhecimento de padrões
podem ser aplicados para atingir determinadas pessoas ou produzir danos colaterais desproporcionais e
tendenciosos quando há imperfeições no código ou
nos dados de formação. A utilização de IA nas forças
armadas para a utilização de armas autônomas ou de
robôs assassinos levanta muitas questões.
A aprendizagem automática também fornece às
empresas informações de mercado que nunca tiveram
antes, criando novos caminhos para a publicidade
enquanto violam potencialmente a privacidade do
consumidor. Quando os consumidores compram
online, revelam as suas preferências e, possivelmente,
informações sobre os seus amigos e familiares, que as
empresas podem utilizar para expandirem o alcance
do mercado. Tais dados, frequentemente fornecidos
inadvertidamente pelos consumidores, podem transferir informações para empresas sem restrições sobre
a forma como podem ser utilizados.
Desenvolvimento Humano: relatório de 2021/2022. Disponível em: <https://www.undp.org/sites/g/files/zskgke326/files/2023-05/hdr2021-22ptpdf.pdf>, p. 45. Acesso em: 12 de ago. 2024. Fragmento
adaptado.