A tecnologia pode acabar com a cidadania, a democracia e a vida. Quer mais?

30 de janeiro de 2019 - 11h59

(crédito: reprodução)

“Who needs democracy when you have data?” O pensamento é do governo chinês. Mas de muitos outros governos também. A tecnologia está no controle e há pouco ou nenhum controle sobre ela. E sobre o que, hoje, pode provocar.

Quem me conhece sabe como sou adepto da tecnologia como enabler do desenvolvimento e de um futuro melhor para todos nós, em todas as áreas de atividades. Ocorre que existem tecnologias e tecnologias. Efeitos e efeitos. Impactos e impactos. E nos últimos anos, entre surpreso, puto e frustrado, venho sendo acometido por uma certeza inabalável de que a tecnologia está na iminência de nos colocar diante de um mundo novo do qual talvez não nos orgulhemos.

Uma edição especial da revista Technology Review, do MIT, que circulou no final do ano passado, foi integralmente dedicada a esse tema. E seus editores, assim como eu, ao longo de toda a publicação, desfilam eles mesmos, muito mais qualificados que eu, esse mesmo espanto. Essa mesma putice. E essa mesma preocupação. “Technology is threatening our democracy. How do we save it?”, indagam os editores.

Uma das premissas é que as mesmas tecnologias que hoje nos ajudam em um sem- número de atividades da vida cotidiana estão e estarão cada vez mais sendo usadas para o controle de cidadãos, consumidores e, não se engane, eleitores e nações inteiras, em verdade.

Só para citar um trecho da revista, “The Artificial Intelligence that brought you Alexa will be weaponized for political manipulation”.

Olha, tenho publicado alguns artigos e alertas como esse e, enquanto não me transformarem num robô com cérebro “daulodável” na nuvem, ou eu mesmo fizer meu próprio “dauloude” para sete palmos abaixo da terra, vou continuar a espernear. Pode esperar, caro leitor.

O que aconteceu com o Facebook e o escândalo da Cambridge Analytica é uma ameaça da tecnologia (e de gestores intelectual e socialmente despreparados para o canhão que têm na mão) à democracia. Certo, coração? Idem o que a Rússia fez nas eleições dos EUA e segue fazendo intermitentemente em todos os países que deseja (há uma guerra mundial digital em curso e você não está nem aí para isso, né? Se liga…). Idem o que o Google está fazendo ao ajudar o governo chinês abrindo seus dados (“seus”, no caso, quer dizer dos seus usuários, porque nem o Google, nem ninguém, é dono de dado nenhum, de pessoa alguma) ao controle que o poder ditatorial chinês quer ter dos cidadãos do país. Idem ainda o que acontece com os nossos pobres e parcos dados pessoais todos os dias, agora, nas mãos de empresas calhordas de tecnologia que nos manipulam feito bonecos digitais. (E topamos. Na boa.) Idem com a futura e inevitável disseminação da face recognition.

Bom, a lista é longa.

Pior de tudo, no topo da cadeia, a inteligência artificial socialmente descontrolada, que vai acabar com a vida biológica humana como a conhecemos nos próximos (poucos) anos. Vai pegar seus filhos e seus netos, na boa. Não sabia? Me liga que te conto o bafo, flor.

Por enquanto, leia o que diz o engenheiro de software e blogueiro, Ben Dickson, em artigo da Wired, cujo título revelador é “Learning How AI Makes Decisions”: “Não codificamos inteligência artificial como programa, softwares e computadores tradicionalmente. Você alimenta o sistema de aprendizagem profunda (deep learning) com dados e, a partir daí, ele aprende sozinho. Isso significa que as redes neurais criam seus próprios padrões de comportamento. Fazendo assim, estamos basicamente perdendo controle e visibilidade sobre o raciocínio da máquina. Mais que isso, os parâmetros e conexões que as redes neurais criam e manipulam são tão rápidos e complexos que fica impossível para humanos entender e acompanhar”.

Basicamente, o que o Ben e vários, vários, vários autores que tenho lido estão nos dizendo é que a inteligência artificial, se não for regrada por princípios social e democraticamente pactuados e aceitos, em breve não teremos lá muito mais controle sobre ela. Tudo isso é mau uso tecnológico a serviço do mal, do lado negro da força. Uma evidente ameaça às bases dos nossos direitos como cidadãos e ao nosso futuro como seres humanos no planeta.

Concluo aqui com meu mantra do momento. Um mantra apavorado…

“Proponho que a sociedade se manifeste global e publicamente contra a evolução indiscriminada da IA. Que leis internacionais sejam votadas pelo controle das pesquisas de IA. Que elas sejam transparentes e possam ser avaliadas pela Humanidade como um todo, e não apenas por um bando de manés cientistas, geniais muitos deles, mas que nem sempre se pautam pela Ética e pelo Humano, prioritariamente. Já vimos isso ocorrer mais de uma vez na História e deu merda forte. Manifesto-me totalmente contra a liberdade irrestrita da pesquisa científica da inteligência artificial por acreditar sinceramente que esse é o começo do nosso fim.”