A ameaça dos robôs

Há máquinas que se ligam sozinhas a tomadas, arrombam portas e podem reproduzir assassinatos. Qual o limite da inteligência artificial?

Luciana Sgarbi - Isto É

Robôs se rebelarem contra seres humanos com a finalidade de exterminá-los é tema recorrente em livros e filmes de ficção científica. O que é novidade, e realidade aterradora, é o fato de engenheiros de robótica de todo o mundo terem se reunido, na semana passada, na Asilomar Conference Grounds, realizada nos EUA, para discutir os riscos do surgimento de uma verdadeira geração de "robopatas" - máquinas perigosas e a perda de seu controle pelo homem

Os cientistas descartam, é claro, a possibilidade de elas adquirirem por si mesmas tal patamar de comportamento, porque isso significaria admitir, absurdamente, que robô pode ter livrearbítrio. Mas o grande receio dos pesquisadores, na verdade, é a possibilidade de esses robôs serem manipulados por criminosos comuns, como já os são pelos governos de alguns países em momentos de guerra. "O que um serial killer poderia fazer, por exemplo, com um sistema robótico de simulação de voz?", indaga Eric Horvitz, pesquisador da Microsoft e presidente da Associação para o Avanço da Inteligência Artificial. Ele responde: "Precisamos refletir sobre consequências perigosas. Cientistas da computação devem ser responsabilizados se máquinas superinteligentes saírem do nosso controle."

Como não é de hoje que essas máquinas vêm sendo desenvolvidas, cabe perguntar por que tais preocupações - e temores - brotam justamente nesse momento. Sobre dois robôs, em particular, recai a responsabilidade dessa síndrome do medo. Um deles, desenvolvido nos EUA pela empresa Williow Garageta, ostenta atualmente o grau máximo de inteligência e independência: quando a sua bateria o alerta que está zerando, é ele quem sai procurando por conta própria uma tomada. Nessa busca, é capaz de abrir portas - e é impulsivo o suficiente para arrombá-las se for necessário. O mais incrível: também é ele quem liga o seu fio na tomada. Tudo se processa em seu "organismo" através de computadores (cérebro), sensores (membros) e microcâmeras (olhos para identificação de saídas elétricas). O outro gênio do momento no campo da inteligência artificial, e que leva os engenheiros a refletir se não é chegada a hora de pisar no freio do acelerado desenvolvimento da robótica, é a máquina que tem a fantástica capacidade de "aprender" sozinha. Criada pelo cientista Rodney Brooks, do Instituto de Tecnologia de Massachusetts, nos EUA, impressiona pelo seu chip que está programado não para executar determinadas tarefas, mas, isso sim, para captar e reproduzir movimentos que seus sensores detectam. Assim, através desse "chip autodidata", está habilitada a repetir compulsivamente alguns movimentos humanos: ao ver alguém martelando um prego, quer martelá-lo. Ao ver alguém matando, pode querer matar também. "E se ela, por algum motivo, sair do controle de pessoas do bem?", indaga Horvitz.

MARS LAND ROVER

A Nasa o descreve como o melhor geólogo automatizado. Sua grande arma é o seu braço robótico

Seria uma atitude no mínimo reacionária negar a importância de robôs na evolução da humanidade e na melhoria da qualidade de vida. Desde que saíram dos laboratórios, sobretudo nos EUA e no Japão, as máquinas de inteligência artificial se espalharam em empresas, bancos, escolas, supermercados, hospitais e asilos. Esses robôs, nascidos para o bem, são refratários a tentativas de serem pervertidos - não foram programados para a agressividade. O problema, no entanto, é que o próprio homem, no poço sem fundo de seu instinto de criar tecnologias cada vez mais fantásticas, acaba ultrapassando limites. Há cerca de meio século o matemático britânico I.J. Good já alertava para o perigo daquilo que chamava de "explosão nervosa" da inteligência artificial. Atualmente, até mesmo um dos maiores entusiastas dessa forma de inteligência, o cientista Tom Mitchell, da Universidade Carnegie Mellow, revê sua boa fé: "Fui muito otimista."