O texto compõe-se dominantemente por

     Recentemente estive lendo sobre um software chamado Apache que é utilizado para gerenciar a disponibilidade de leitos nas UTls dos hospitais. Esse software desliga automaticamente os aparelhos dos pacientes em coma com base em informação estatística sobre a sobrevida média de milhares de pacientes internados com patologias semelhantes. O Apache é alimentado e atualizado constantemente por meio de técnicas de Big Data. Esse tipo de tecnologia parece se confrontar com nossas intuições morais mais primitivas. Será aceitável delegar a uma máquina a decisão de interromper uma vida humana?

     Conversei com várias pessoas sobre esse assunto e obtive diferentes pontos d e vista. Muitas delas consideram o Apache desumano. Outras argumentaram que ele diminui o sofrimento das famílias de pacientes em coma, quase sempre gerado pelas falsas esperanças de sobrevida de seus entes queridos. Apesar das diferenças, todos concordaram que uma das qualidades indiscutíveis do Apache é a imparcialidade das decisões. Não há favorecimentos. Todos são tratados de maneira equânime.

     Penso que o Apache ilustra uma das características mais estranhas da época em que vivemos. Temos mais confiança em máquinas do que em seres humanos. Criaturas humanas têm fraquezas, são influenciáveis e subornáveis. Muitas pessoas acreditam que, se uma máquina desempenhasse as funções de um juiz de direito, teria a vantagem de ser incorruptível. Uma máquina não seria tendenciosa com relação a raça, cor e gênero dos réus. A automatização dos serviços públicos é bem-aceita como uma forma de banir a corrupção. A imparcialidade e a incorruptibilidade das decisões tomadas por máquinas são invocadas como um grande benefício para eliminar privilégios indevidos e tornar as sociedades mais justas e democráticas.

     O caso do Apache mostra claramente para onde caminha nossa relação com a tecnologia. As máquinas, cada vez mais, se tornam autônomas, ou seja, nosso controle sobre elas é parcial. As tecnologias digitais nos convidam a esquecer de nós mesmos e das nossas responsabilidades. Ninguém mais quer ser responsável por nada. Caminhamos para um estado de zumbificação no qual estamos abdicando da consciência e do pouco livre-arbítrio que nos resta. É o paraíso dos zumbis, daqueles que querem viver a vida como sonâmbulos despreocupados.

     As discussões atuais sobre tecnologia se limitam a tentar adivinhar como será o futuro nos próximos 10 ou 20 anos, sobretudo com o desenvolvimento das inteligências artificiais. Mas, ao ler os futurólogos, verifica-se facilmente que nenhum deles faz qualquer referência ao papel que podem ter as escolhas humanas na construção desse futuro. Como zumbis, não nos importamos com os efeitos que essas tecnologias terão sobre nós, e, por isso, oferecemos pouca ou nenhuma resistência ao seu avanço na organização de nossas vidas. Temos uma visão passiva e fatalista do futuro tecnológico que está chegando. A tecnologia nos controla e determinará o futuro da espécie humana. Escolhemos nos tornar dependentes da tecnologia e abdicar de tomar nossas próprias decisões. Optamos por sermos todos zumbis.

     A imparcialidade da tecnologia é o resultado de uma percepção habitual, segundo a qual ela é uma ferramenta, algo neutro que direcionamos de acordo com os nossos objetivos e valores. Mas essa é uma percepção equivocada. Claro que o uso das máquinas tem um papel fundamental. Mas a peculiaridade das tecnologias digitais é o fato de elas incorporarem, intrinsecamente, um histórico de hábitos, preferências e tendências que frequentemente passam despercebidos, gerando a ilusão da imparcialidade. Somos nós que estabelecemos os parâmetros para as pesquisas que usam Big Data. São essas pesquisas, com esses parâmetros, que alimentam softwares como o Apache.

     Esquecemos que a tecnologia é o nosso espelho e que, por isso, ela incorpora, implicitamente, nossos preconceitos, impulsos e valores. Eles estão exteriorizados em máquinas, sobretudo naquelas que são utilizadas para aperfeiçoar as burocracias. A tecnologia é uma expressão do que somos. Temos de aprender a lidar com essa expressão quando a encontramos nas sociedades. A tecnologia segue uma marcha inexorável na história. Mas nossas atitudes em relação a ela não precisam ser tão ingênuas a ponto de não percebermos como seus fabricantes embutem seus valores nas máquinas e inibem as discussões sobre o modo como elas são utilizadas.

     Vivemos em sociedades que valorizam mais as máquinas do que os seres humanos. A organização das sociedades complexas se sobrepôs ao bem-estar de seus habitantes. Passamos a acreditar que o bem-estar depende dessa organização e, por isso, precisamos cuidar da tecnologia muito mais do que de nós mesmos. A tecnologia se tornou mais importante do que os motivos pelos quais ela foi inventada, transformando-se em uma prioridade para si mesma.

     A discussão sobre a tecnologia tem sido relegada a um segundo plano em nosso país. A grande mídia dirige, quase obsessivamente, as preocupações da maioria da população para o debate político, enquanto a revolução tecnológica progride de forma sorrateira e implacável. É uma manobra ideológica sutil, mas que não poderá durar muito tempo. 

TEIXEIRA, João de Fernandes. Filosofia, Ciência e Vida. São Paulo: Editora Escala, Ed. 142, fev. 2019. p. 58-60. [Adaptado].