Papo cabeçudão: se robôs pensam, é ético matá-los?

30 de outubro de 2020 - 8h00

Robô Pepper, já muito utilizado por marcas, sobretudo em serviços de hotelaria e conveniência

Começo resgatando um ícone do futuro imaginado na década de 1950 pelo escritor inglês Arthur C. Clark em seu livro The Sentinel, base do filme “2001 – Uma Odisséia no Espaço”, de Stanley Kubrick, produzido nos anos 1960.

Nesse futuro distópico, conhecemos o primeiro robô inteligente de Hollywood e de nossas memórias referenciais sobre máquinas que pensam, o Hal – 9000. A sigla HAL vem de Heuristically Programmed Algorithmic, ou um algoritmo programado segundo a heurística.

A heurística é um processo filosófico cognitivo muito interessante, porque sistematiza processos de conhecimento que driblam os dados básicos considerados em determinada situação, encontrando atalhos para a resolução de problemas de forma mais rápida e, supostamente, eficaz.

O HAL 9000, como sabemos, por entender heuristicamente que os humanos não são lá grande coisa, assume o controle da nave e inicia processo de eliminação da tripulação. Humanos, por suposto.

Ele não tem um pingo de ética. Entenda-se, ética humana. É uma máquina que pensa e se relaciona conosco de forma clara e fluida, cognitivamente como se fosse um ser humano. E tem reações que mimetizam com extrema proximidade aquilo que poderíamos chamar de emoção.

Dave, o capitão da nave, desliga o mortal HAL, e salva-se.

As máquinas que estamos construindo hoje através de protocolos e plataformas de Inteligência Artificial estão indo num caminho que deságua no HAL. Um caminho de máquinas tão próximas de nós, que mimetizam aparentes sentimentos, além de agirem e pensarem como humanos.

Sabe o ciborg meio humano T-800 protagonizado por Arnold Schwarzenneger em “Exterminador do Futuro”? Uma máquina híbrida que sente e até chora? Pois é… por aí.

O tema filosófico cabeçudo é: essas máquinas podem ser desligadas como o Dave fez com o HAL? Mortas, em última instância?

A primeira resposta rápida que nossos neurônios emocionais produzem imediatamente é: claro que sim. Se elas se tornam uma ameaça, desliga a bagaça e boas.

Tudo certo, parece lógico. E de fato é. Lógica não algorítimica, mas heuristicamente humana.
Agora vamos complicar um pouco mais a brincadeira.

Em excelente artigo sobre o tema do filósofo e professor da Universidade San Jose, California, Anand Vaidya, publicado pela Singularity University e intitulado “If a robot is conscious, is it OK to turn it off? The moral implications of building true AIs” (dá um Google e leia, que vale a pena), abrimos uma portinha para uma camada um pouco mais profunda do que pode parecer, inicialmente, uma enorme perda de tempo para quem tem mais o que fazer.

Anand pergunta: “As real artificial intelligence technology advances toward Hollywood’s imagined versions, the question of moral standing grows more important. If AIs have moral standing, philosophers like me reason, it could follow that they have a right to life. That means you cannot simply dismantle them, and might also mean that people shouldn’t interfere with their pursuing their goals”.

Pensar nesse tema faz sentido porque aquilo que nosso amigo filósofo chama de “true AIs” é o nirvana da ciência contemporânea, o Santo Gral da pesquisa de AI no Planeta, e que é a chamada AGI, ou Artificial General Intelligence.

Os robozinhos que temos hoje são fruto de uma camada bem mais simples de AI, que é a Inteligência Artificial específica. Eles fazem muito bem determinadas tarefas, mas não conseguem sentar numa mesa, tomar um vinho e conversar ou sentir o aroma de uma flor. Jogar futebol, nem pensar.

Mas no caso da AGI e dos ciborgs que são meio máquinas, meio humanos, a coisa fica meio complicada, porque como vimos em outro exemplo de Hollywood, “Blade Runner”, a mocinha do filme é uma máquina totalmente humana, que nem sabe que é máquina. E aí? Vamos lá e matamos a mocinha, sem qualquer culpa?

Hummm … simples assim?

Talvez nem tanto.

Pense em robôs humanos e pense em como vamos ter que lidar com eles. Talvez nem estejamos aqui quando esse problema de fato passar a fazer parte do nosso cotidiano. Mas pensar sobre ele agora é a base para o desenvolvimento das máquinas que construiremos para o futuro. Elas estão começando a ser imaginadas já. A ética sobre elas também.

Sem perceber, estamos escrevendo um futuro em que robôs parecerão humanos e nós humanos, graças aos implantes de chips que já começamos a plugar no nosso corpo hoje, seremos meio máquinas também.
E aí, mata todo mundo?

Exterminador do futuro é um bom nome para esse tipo de reflexão.