É correto cometer crueldades com um robô?

Experimentos demonstraram o desconforto de voluntários com a crueldade com robôs

"Kate Darling é uma pessoa que gosta de nos mandar fazer coisas terríveis com robôs adoráveis. Em um workshop que realizado há dois anos, ela pediu para os participantes brincarem com vários robôs Pleo, um dinossauro de pelúcia verde que serve como brinquedo.

Richard Fisher, BBC Brasil

Ao tirá-lo da caixa, a sensação é de estar segurando um filhote recém-nascido: seu dono é quem tem que ensinar a ele tudo sobre o mundo.

Mas depois de deixar as pessoas brincarem e darem colo ao dinossaurinho durante uma hora, Darling se tornou uma carrasca. Distribuiu aos participantes facas e machadinhas e os mandou torturar e desmembrar o brinquedo. “O que aconteceu em seguida foi muito mais dramático do que eu podia imaginar”, conta ela.

Darling é uma pesquisadora do Instituto de Tecnologia de Massachusetts (MIT), nos Estados Unidos. Para ela, nossa reação à crueldade com robôs é importante porque uma nova geração de máquinas está nos obrigando a repensar nossa relação com elas.

Segundo ela, maltratar certos robôs poderia em breve se tornar algo inaceitável aos olhos da sociedade. Ela acredita até que seja necessário estabelecer um código de “direitos dos robôs”.

Estimulação dos sentimentos

Robô japonês simularia uma criança pequena, mas filósofo pede o fim desse tipo de máquina

Até recentemente, essa ideia era apenas explorada no mundo da ficção científica. Provavelmente porque as verdadeiras máquinas que nos cercavam eram bastante simples: ninguém se sente mal ao jogar fora uma torradeira ou um carrinho de controle remoto, por exemplo.

Mas a chegada dos “robôs sociais” mudou isso. “Eles têm um comportamento autônomo, demonstram intenções e assumem formas familiares como humanoides ou animais de estimação”, afirma Darling. Ou seja, eles agem como se estivessem vivos, estimulando nossos sentimentos.

Por exemplo, em um pequeno experimento em 2011, outros cientistas do MIT pediram para crianças segurarem de cabeça para baixo uma Barbie, um hamster de verdade e um robô Furby pelo tempo que aguentassem.

Os participantes não tiveram dificuldades em manter a boneca virada, mas logo pararam de “torturar” o hamster que se contorcia e, pouco depois, o Furby. As crianças tinham idade para entender que se tratava de um brinquedo, mas não conseguiam mantê-lo de cabeça para baixo quando o robô chorava e dizia “Eu, medo”.

E não são só as crianças que se apegam a esses amontoados de fios e circuitos. Algumas pessoas dão nome a seus aspiradores de pó, enquanto militares costumam honrar robôs com medalhas.

Instinto assassino

Robôs que assumem formas de animais também despertam empatia em usuários

Alguns pesquisadores estão começando a concordar com a ideia de que se um robô parece estar vivo e com uma mente própria, qualquer pequena simulação de sentimentos nos obriga a ter empatia com a máquina, mesmo sabendo que se trata de algo artificial.

Em 2013, cientistas da Universidade de Duisburg-Essen, na Alemanha, usaram um aparelho de ressonância magnética e outros para acompanhar as reações de voluntários a um vídeo que mostrava alguém torturando um dinossauro Pleo.

As respostas emocionais e fisiológicas foram muito mais intensas do que se esperava, apesar de os participantes saberem que se tratava de um robô.

Da mesma forma, os voluntários do workshop de Darling se recusaram a machucar seus dinossauros com as armas distribuídas. A cientista, então, sugeriu que um dos participantes deveria se oferecer para matar apenas um dos Pleos, sob a ameaça de ter todos eles destruídos.

Quando depois de muita discussão, um relutante homem aceitou fazer o sacrifício, a sala inteira caiu em silêncio. “A força da reação emocional das pessoas presentes parece ter surpreendido todos eles”, lembra Darling.

Ética para robôs

Considerando-se a possibilidade de reações como essas, há alguns anos especialistas em robótica da Europa defenderam que precisamos estabelecer um novo código de ética para a fabricação de robôs.

A ideia deles era adaptar as famosas “leis da robótica” do autor Isaac Asimov para a era moderna. Uma das regras determina que os robôs “não poderiam ser projetados de maneira enganosa... e sua identidade de máquina deveria ser transparente”.

Darling, no entanto, acredita que é possível ir além e criar uma maneira de proteger os “direitos dos robôs” no sistema judicial. Seria algo como as leis que defendem animais da crueldade”, explica.

Há ainda a possibilidade de que as máquinas comecem a realmente experimentar sensações de sofrimento. Alguns pesquisadores já começaram a desenvolver robôs que “sentem” dor.

Mas cientistas acreditam que quando esses equipamentos adquirirem uma consciência de sua própria existência, as consequências serão desagradáveis.

Por isso, o filósofo alemão Thomas Metzinger, da Universidade de Mainz, argumenta que deveríamos parar de tentar criar robôs inteligentes. “As primeiras máquinas conscientes serão como crianças, portanto tratá-las como máquinas será uma crueldade”, explica.

“Deveríamos evitar fazer qualquer coisa que possa aumentar a quantidade de sofrimento no universo”, conclui o filósofo.

O que está claro é que existe um espectro de “vida” nos robôs, de simulações básicas do comportamento de um animal de estimação a máquinas que no futuro poderão perceber sentimentos como o sofrimento.

Mas, como a experiência de Darling sugere, não é preciso muito para despertar uma resposta emocional em cada um de nós. A questão é se podemos definir um limite até onde a crueldade com essas máquinas é tolerável."