O texto, na sua totalidade, objetiva

Suspeita e cuidado nos usos humanos das Inteligências Artificiais Generativas

Lucia Santaella

Daqui a poucas décadas celebraremos um século desde que o computador emergiu como um novo personagem nas sociedades humanas. No início, suas performances estavam reduzidas ao saber dos especialistas, analistas de sistemas e informáticos, e seus resultados se faziam sentir em zonas de atuação empresariais e governamentais que não eram apreensíveis à sociedade como um todo. Um salto paradigmático se deu quando o computador se tornou um artefato pessoal para, logo depois, se abrir como uma mídia comunicacional de dimensões planetárias. Estávamos na entrada dos anos 1990, uma era a que se dava o nome de cultura mediada por computador. Mais um salto e chegamos à explosão das redes sociais na entrada do novo milênio, cujas promessas iniciais foram pouco a pouco se degradando até, de uns anos para cá, por razões que as bolhas algorítmicas parcialmente explicam, converterem-se em um lodaçal de trivialidades, exibicionismos e, pior do que isso, desinformação, paixões tristes e antagonismos.

Ao se transformar em mídia comunicacional, o computador dava sinais indisfarçáveis de que é de um artefato inteligente, que, evidentemente, carrega todas as ambivalências que são próprias da inteligência quando colocada em ação em sociedades crivadas de contradições. Basta se interessar pelo que se passa dentro e fora do computador para que essa evidência salte à vista. Aliás, uma evidência que o advento bem-sucedido da inteligência artificial (IA) nas duas últimas décadas veio certificar e que a recente emergência da IA generativa (IAG), na sua capacidade linguística e dialogante, agora torna indiscutível.

Julgo esse brevíssimo panorama retrospectivo relevante para evitar o presentismo e imediatismo, que têm imperado em relação ao advento da IAG, especialmente do ChatGPT, que tanto alarido vem provocando, como se os fenômenos não carregassem a sua própria história. A IAG apresenta traços de funcionamento diferenciadores dos algoritmos da IA preditiva já exitosa no mundo empresarial, com repercussões em vários campos e atividades humanas, da medicina e educação aos sistemas bancários etc., atuando hoje, inclusive, em tudo que fazemos, graças a este pequeno mimo, o smartphone, que carregamos e que oculta o que faz conosco. Somos hoje monitorados por algoritmos os quais, sem que saibamos ou que prestemos a devida atenção, estão no controle de nossas vidas até o ponto de pressentirem nossos desejos, antes mesmo que tenhamos clareza sobre eles.

Nesse cenário, a emergência do ChatGPT está provocando tanto fervor porque, em muito pouco tempo, a IA aprendeu não só a soltar imagens, mas também a falar, conversar, em preocupantes competições com aquilo que faz do animal humano ele ser humano. Enquanto a linguagem humana vem de circuitos cerebrais que habitam um corpo metabolizado por hormônios e afligido por pulsões, uma linguagem que vem da carne, que respira, pulsa e palpita, o corpo estranho desse novo robô é feito de outras materialidades extrativistas de metais raros que abrigam invisíveis operações lógicas abstratas e ocultam o enorme dispêndio de energia de que dependem. Como é possível que um corpo e cérebro tão diametralmente distintos do humano possam ser capazes de imitar as habilidades semióticas humanas com tanta aparente perfeição?

O segredo encontra-se em uma façanha da engenharia chamada de Transformer, uma nova espécie de rede neural profunda responsável pelos feitos e fatos dos grandes modelos de linguagem de que o ChatGPT é um dos mais afamados resultados. Trata-se de algoritmos que aprendem a realizar associações estatísticas entre bilhões de palavras e frases para executar tarefas como gerar resumos, traduzir, responder perguntas, classificar textos etc. Quanto mais dados, maior a performance das redes neurais para essas tarefas até alcançar as aquisições atuais que tanto nos impressionam.

A IAG apresenta dois grandes ramos: a IA que gera imagens e a IA que gera textos. As IAG de imagens vêm despertando discussões no campo da arte, do design e da arquitetura, mas nada que possa ser comparado ao estado febril que o ChatGPT tem provocado em pouco espaço de tempo. Por que será? A hipótese é que, enquanto a geração de imagens afeta o nicho dos produtores e usuários no campo da visualidade, o ChatGPT afeta todos os seres humanos falantes e letrados, levando nisso quase todas as profissões e todas as formações educacionais em todas as áreas em que a linguagem verbal em maior ou menor medida está envolvida. Por ter alcançado o estatuto de grande mascote da IAG, é ao ChatGPT que algumas ponderações se seguirão.

Aqueles que fizeram experiências de conversação com esse novo robô devem concordar, em primeiro lugar, que é de relevância fundamental o fator humano na performance a dois que se instaura. Conversações implicam pelo menos dois participantes. Em segundo lugar, há momentos de interação em que as respostas obtidas chegam a nos inebriar pela sofisticação e pela exibição de um tipo estranho de humanidade. Aí mora o perigo, que exige moderação e prudência diante de um sistema que não cria por si, mas só imita.

As principais armadilhas que o Chat oculta de nós provêm da negligência em explorá-las por meio do exercício a que dou o nome de “arte da suspeita”. Não nos deixemos enganar. Essa mascote da IA é um grande simulador cujo mérito é apresentar enunciados sintaticamente coesos e coerentes. Contudo, sem qualquer compreensão sobre o sentido do que escreve. De fato, não tem. Lembremos, no entanto, os escritos dos pós-estruturalistas franceses, em especial Jacques Derrida, Gilles Deleuze, Jacques Lacan e, antes deles, Wittgenstein, que revelam um consenso quanto ao fato de que, já no caso dos humanos, o significado não é um dado que salta imediatamente de nossas cabeças, mas escorrega continuamente pelos circuitos dos jogos da linguagem e de seus contextos internos e externos. Além disso, o pragmaticismo de C. S. Peirce nos lembra que a linguagem vale pelos efeitos sensíveis que ela provoca no curto, médio ou longo caminho do tempo.

Que o Chat não entende o que escreve é um fato. Isso lhe valeu o qualificador de “papagaio estocástico”, qualificador, aliás, que é utilizado triunfantemente por aqueles que não foram além do conhecimento de sua superfície, transformando-se eles próprios em papagaios que nem sequer são estocásticos. Deveria ser um truísmo afirmar que, para o humano, entender o sentido do que diz e, mais do que isso, responsabilizar-se por isso, é condição ética, e mesmo moral, imprescindível cuja falta, em maior ou menor medida, prejudica, contamina e envenena a vida social. Aprendemos com Hannah Arendt que a banalidade do mal é, de fato, banal. Em razão disso, é sempre bom ter em mente que as conversações com o Chat são feitas a dois e que é substantivo o papel nelas desempenhado pelo humano propriamente dito.

A fragilidade mais contundente do Chat, que, aliás, afeta todos os programas de IA, é a falta de senso comum, ou seja, estar aprisionado em um reino estritamente feito de linguagem, diferente do humano cujo senso comum resulta de nossa existência em contextos, não apenas textuais (esses o algoritmo sabe explorar), mas também extratextuais e vivenciais que cumprem um grande papel no modo como interpretamos e damos sentido às palavras e aos contextos em que existimos. Devido à sua cegueira ao contexto externo e, mais ainda, por não estar munido de filtros éticos próprios, devido à sua incapacidade de compreender o que diz, assim como outros programas de IA ou chatbots menores, o ChatGPT pode passar para a frente discursos de ódio e gerar estereótipos racistas e sexistas.

Dificuldades éticas ocorrem especialmente quando confiamos aos algoritmos autônomos ou semiautônomos uma tarefa que tem consequências para a existência de seres humanos. O algoritmo em si não tem a liberdade de ser moral ou imoral, uma vez que é apenas uma sucessão de estados inequívocos. Entretanto, não só as pessoas que projetam os sistemas, mas também aquelas que recebem seus resultados, consciente ou inconscientemente, devem obedecer a um certo número de padrões morais. Portanto, espera-se, ou melhor, é mandatório, de um lado, que esses padrões sejam injetados nos sistemas, de outro, que os usuários sejam capazes de antecipar consequências éticas que podem advir quando, por ingenuidade não deliberada ou por desonestidade deliberada, passam à frente resultados falsos de suas consultas ao ChatGPT. Além da arte da suspeita entraria aqui também a arte do cuidado.

Há toneladas de questões envolvendo o impacto social e as questões éticas e filosóficas da IA que, incluindo as diferentes vozes dos cientistas sociais, dos artistas e das pessoas ligadas às humanidades, precisam passar pelos filtros dos regulamentos. Para isso, ponderações bem fundamentadas são necessárias.