Quando a tecnologia dá ruim. E pode nos ferrar.

3 de maio de 2021 - 13h59

(Crédito: MF3d/iStock)

Não tenho nenhuma sombra de dúvida de que a tecnologia é e será nossa única salvação para uma série de problemas nos quais nos metemos, enquanto humanidade. Enroscos como o da sustentabilidade do planeta, bem como a fome, o analfabetismo, os nossos dramas de saúde (incluindo aí, de quebra, o Covid e vírus congêneres), além de vários outros, serão todos resolvidos pela aceleração exponencial da tecnologia e seus avanços. Creio forte e inapelavelmente nisso. Até porque, sem ela, não consigo enxergar nenhuma solução para essas questões. A não ser desligar a eletricidade global e voltarmos à Idade das Cavernas, vivendo em idílicas ilhas naturais de convívio harmônico entre o homem e a natureza. Poderia até ser, mas não vai rolar. Assim, fico com a tecnologia.

Esse é o upside. Mas há um assombroso downside sempre que falamos de tecnologia, particularmente a que estamos, como Sapiens, desenvolvendo nas últimas duas décadas. Pouco mais, pouco menos, dependendo da vertente tecnológica em questão. Não um downside, mas vários, inúmeros.

Vou enumerar aqui apenas alguns, talvez os mais aparentes e mais fáceis de enxergar. É o lado negro da força. Alertar sobre eles tem sentido porque ignorá-los é ainda mais arriscado do que conhecê-los, olhar de frente para eles, e, cada um de nós, nos transformarmos em soldados para enfrentá-los e, em alguns casos, combatê-los bravamente. Seja em que frente for.

A Internet – tendo sido, sem dúvida, o maior avanço tecnológico do último século, a internet é demais, boa para cacete para um monte de coisas. Entre elas, ter criado uma camada de troca de informações, conhecimento, culturas e convívio global antes inimaginável, com todo o fascínio e beleza que há nisso. Mas a internet é hoje palco de um sem número de violências contra nós mesmos que, sem ela, não aconteceriam. Os mais evidentes são a disseminação do ódio e do falso como verdade. Sem falarmos na deep web, em que os mais sofisticados e podres crimes cibernéticos (e não cibernéticos) contra as sociedades, países e comunidades as mais diversas são perpetrados sem que nós, reles mortais, tenhamos a menor ideia de que eles tão lá acontecendo.

Dados e (falta de) Privacidade – esse é um clássico. Não vou me estender nada aqui sobre o tema, que você, evidentemente, conhece muito bem. Mas não poderia deixar de registrar que é a tecnologia mal administrada ou administrada pela falta de escrúpulos, que gerou esse aleijão da manipulação de dados de todos nós. Sem qualquer respeito aos nossos direitos instituídos de privacidade. Leis estão sendo criadas em todo o mundo, Brasil incluso, você sabe, para coibir essa tragédia. Temo, no entanto, que muita coisa ruim ainda seguirá rolando com nossos dados no ambiente digital. Espero estar redondamente enganado.

A Inteligência Artificial – sendo ela a base sobre a qual a maior parte dos avanços da ciência e da tecnologia modernas que conhecemos acontece, ela pode e está, de fato, sendo também esteio de suporte para o desenvolvimento de uma série de urdiduras malignas dignas de filmes de James Bond. Para citar facetas mais facinhas de perceber, veja o reconhecimento facial, por exemplo. AI e seus algoritmos conseguem identificar, com absoluta precisão, nossos rostos. Isso pode ser demais para um sem fim de usos legais. Mas empresas e governos estão usando para nos vigiar e policiar. Além disso, ela poderá ser responsável pela substituição de mão de obra em uma série de atividades humanas, colocando batalhões de humanos fora do mercado de trabalho. 

O Algoritmo Racista – no Meio & Mensagem de semanas atrás, pudemos ler uma excelente reportagem sobre esse tema, sobre o qual temos alertado há anos aqui em nosso espaço, nesta coluna, bem como no ProXXIma: a ética e os algoritmos, muitos deles prenhes de vieses discriminatórios vexaminosos. Desenvolvidos prioritariamente por homens brancos com diferenciado status de conhecimento e situação social, os algoritmos, em boa parte, sempre que se relacionam com humanos, carregam dados e informações que lhes foram imputadas por quem não tem nem história, nem repertório e nem, muitas vezes, a menor vontade cultural ou ideológica de acolher o diverso, de resto, a base de toda a Humanidade. O racismo do algoritmo aí do subtítulo é só um aspecto. Há vários outros, tão ou mais vergonhosos, para todo lado que olhemos da diversidade. 

A Máquina (des) Humana – as máquinas, através das avançadas tecnologias cognitivas, estão se tornando, cada vez mais, além do que já são, mais ágeis e “inteligentes” que os seres humanos. Coloco “inteligentes” entre aspas porque elas não são, de fato, inteligentes. Já escrevi mais de uma vez sobre isso. Não vou me repetir aqui. O ponto neste tópico é que elas irão, aos poucos, mesmo que sigam sendo indiscutíveis aliadas na otimização de uma série de atividades das quais pessoas e sociedades dependem para viver e evoluir, serão também potenciais algozes de nós mesmos em uma série de situações. Sim, estou falando das máquinas nos enfrentando frontalmente, naquilo que para muitos é para lá de ficção científica, mas que, para muita gente muito mais esperta e conhecedora do que eu, se constitui, sim, num risco iminente real. 

Digital Warfare – a Terceira Guerra Mundial começou já há alguns anos e você nem percebeu. Percebeu? Poizé. Começou sim. Ela é digital e altamente danosa, tanto quanto as terríveis guerras físicas letais que conhecemos. Vários países, apoiados por empresas e cientistas os mais diversos, estão em pleno campo de batalha através da invasão de ambientes de segurança extrema, mundo afora. A manipulação das eleições norte-americanas pela Rússia é só um pedacinho pequeno do que está, de fato, acontecendo. Isso envolve riscos de ataques nucleares e de armas químicas, por exemplo, para citar apenas um caso potencialmente mais temível. 

A Manipulação Genética – você certamente já ouviu falar em CRISPR e já leu também sobre como hoje decodificamos e brincamos, com alta intimidade, com nosso DNA em banquinhas de manipulação genética de qualquer feira de ciências por aí. Exagerei um pouco, ok, mas meu ponto é que a manipulação genética para experimentos que deixariam Hitler e o Dr Mengele ensandecidos de inveja está aí e não dá mostras que esteja sendo controlada, de fato, por ninguém. Sua evolução para o Mal me parece não só descontrolada, como disse, assim como também, acredito, será acelerada e inevitável.

Poderia me alongar aqui muito mais, mas você já captou meu olhar. E, espero, esteja enxergando pela mesma lente o que ando, preocupadamente e há alguns anos, me preocupando e enxergando, quando falamos dos desmesurados e tortos avanços da tecnologia contemporânea.

Seguirei sendo um defensor intransigente dos avanços da tecnologia do Bem. Assim como, sempre que puder – e será com uma chata frequência – um crítico e incansável inimigo da tecnologia do Mal. Não é pouco o que está em jogo. Você tem sua parte nessa batalha. Ou melhor, nessa guerra. Que, como disse, já começou.