Sonhos de robô (Robot dreams)

Susan Calvin investiga as profundezas da mente de um autômato bastante invulgar e descobre nova e terrível ameaça para a humanidade...

SONHOS DE ROBÔ

Um conto de Isaac Asimov

- Eu sonhei ontem à noite - disse LVX-1, calmamente.

Susan Calvin ficou em silêncio, mas seu rosto vincado de rugas, pleno de sabedoria e de experiência, teve um estremecimento quase imperceptível.

- Ouviu isto? - perguntou Linda Rash, nervosa. - Foi o que eu lhe disse.

Era bastante jovem, miúda, de cabelos escuros. Sua mão direita abria-se e fechava-se, repetidamente. 

A Dra. Calvin assentiu com um gesto de cabeça e disse com voz tranquila:

- Elvex, você não pode mover-se ou falar ou nos ouvir até que eu diga seu nome novamente.

Não houve resposta. O robô permaneceu sentado como se fosse uma estátua fundida numa única peça de metal; ficaria assim até voltar a escutar seu nome. A Dra. Calvin indagou:

- Qual o código de acesso ao seu computador, Dra. Rash? Ou, pensando bem, pode a senhora mesma fazê-lo, se isso lhe convém. Quero inspecionar a estrutura do cérebro positrônico.

As mãos de Linda Rash manipularam os controles durante alguns instantes; ela interrompeu o processo, recomeçou, e daí a pouco o visor se iluminou revelando um painel de padrões matemáticos.

- Com sua licença - disse a Dra. Calvin, sentando-se diante do computador.

Linda assentiu com um aceno mudo. Claro! Como poderia ela, uma robopsicóloga jovem e inexperiente, negar licença à Lenda Viva?

Meticulosamente, a Dra. Calvin examinou o visor, fazendo com que as imagens corressem para um lado e para outro, depois subindo, e de repente digitou uma combinação com gestos tão rápidos que Linda não percebia o que tinha sido feito, mas o visor mostrava logo uma porção ampliada do padrão anterior. A Dra. Calvin prosseguiu em seu exame, avançando, recuando, os dedos curvos dançando em silêncio sobre o teclado.

 *  *  *

Seu rosto envelhecido permanecia impassível. Como se vastos cálculos matemáticos estivessem se processando em sua cabeça, ela continuava a observar a incessante mudança de padrões no visor. Linda estava abismada. Era impossível analisar um padrão daqueles sem contar com a ajuda de pelo menos um computador portátil, e no entanto a Velha Senhora apenas fitava os dados. Haveria um computador implantado em seu crânio? Ou aquilo se devia apenas ao seu cérebro que durante décadas não tinha feito outra coisa senão projetar, estudar e analisar os padrões dos cérebros positrônicos? Talvez ela fosse capaz de intuir o resultado daqueles padrões como Mozart devia ser capaz de intuir uma sinfonia apenas com um olhar lançado à partitura.

Finalmente a Dra. Calvin disse:

- Diga-me, Dra. Rash... o que andou fazendo?

 Ela respondeu embaraçada:

- Utilizei geometria fractal.

- Sim, percebo que sim. Mas por quê?

- Nunca tinha sido feito. Achei que poderia produzir um padrão mental mais complexo, talvez mais próximo dos padrões humanos.

- Consultou alguém para isto? Ou fez tudo sozinha?

- Não consultei ninguém. Foi ideia minha, apenas.

Os olhos fatigados de Susan Calvin fitaram demoradamente a jovem.

- Você não tinha esse direito. Seu nome é Rash, hem? Imprudente... Um nome muito adequado. Quem é você para fazer isto sem consultar ninguém? Eu mesma, eu, Susan Calvin, teria que submeter isto a uma discussão.

- Tive medo de que me proibissem de continuar. - Isso com certeza teria acontecido.

- Será que... - a voz da jovem vacilou, a despeito de seu esforço para mantê-la firme - ...que Vou ser despedida?

- É bastante possível - disse a Dra. Calvin. - Ou promovida, quem sabe? Tudo depende do que eu descobrir de agora em diante.

- Vai desativar o El... - Quase chegou a pronunciar o nome, o que teria reativado o robô, e seria um erro a mais. Ela sabia que não poderia cometer mais um erro, se é que já não era tarde demais. - Vai desativar o robô?

Ela percebeu de repente, com um pequeno choque, que a Dra. Calvin tinha uma pistola eletrônica no bolso de seu guarda-pó. A Velha Senhora tinha vindo preparada justamente para isso.

- Veremos - disse ela. - Talvez ele seja valioso demais para ser desativado.

- Mas como é possível que ele sonhe?

- Você tornou seu cérebro positrônico notavelmente semelhante a um cérebro humano. Os cérebros humanos precisam sonhar para se reorganizar, para se libertar, periodicamente, de emaranhados e de nódulos. Talvez o mesmo esteja acontecendo com este robô, pela mesma razão. Perguntou-lhe detalhes sobre o sonho?

- Não. Mandei chamá-la assim que ele me informou que tinha sonhado. Depois disso decidi não continuar a lidar sozinha com esse assunto.

- Ah! - Um leve sorriso cruzou o rosto da Dra. Calvin.

- Então há limites para o seu atrevimento. Fico feliz em saber disso. Fico aliviada, para ser sincera. Agora vamos ver o que conseguimos descobrir. - Virou-se para o robô e disse, com voz clara:

- Elvex.

A cabeça do robô voltou-se suavemente na sua direção.

- Sim, Dra. Calvin?

- Como sabe que esteve sonhando, Elvex?

- Acontece à noite, quando está tudo escuro, Dra. Calvin - disse ele.

- E de repente surge uma luz, embora eu não consiga ver de onde ela vem. Passo a ver coisas que não têm conexão com aquilo que concebo como a realidade. Ouço coisas. Tenho reações estranhas. Quando recorri a meu vocabulário para exprimir o que estava acontecendo, deparei com a palavra sonho. Estudei seu significado e cheguei finalmente à conclusão de que estava sonhando.

- Fico imaginando como a palavra sonho pode ter aparecido em seu vocabulário - disse a Dra. Calvin.

Linda fez rapidamente um gesto, calando o robô.

- Eu lhe dei um vocabulário semelhante ao dos humanos - disse ela. - Pensei que...

- Sim, sei que pensou - disse a Dra. Calvin. - Estou atônita.

- Pensei apenas que ele iria precisar do verbo. Algo como eu nunca sonhei que tal ou tal coisa pudesse acontecer... Algo assim.

A Dra. Calvin voltou a encarar o robô.

- Com que frequência tem sonhado, Elvex?

- Todas as noites, Dra. Calvin, desde que comecei a existir.

- Dez noites - disse Linda, ansiosa. - Mas ele só me falou a respeito disso hoje pela manhã.

- Por que só revelou isto hoje, Elvex?

- Foi somente hoje, Dra. Calvin, que fiquei convencido de que estava sonhando. Até então imaginava que havia algum tipo de defeito em meus padrões positrônicos, mas não conseguia descobrir nenhum. Finalmente, concluí que se tratava de um sonho.

- E o que acontece nos seus sonhos?

- É praticamente o mesmo sonho todas as vezes, doutora. Há pequenos detalhes diferentes, mas sempre me parece que estou no interior de um vasto panorama onde há robôs trabalhando.

- Robôs, Elvex? E seres humanos, também?

- Não vejo nenhum ser humano no sonho, Dra. Calvin, pelo menos não de início.
Apenas robôs.

- E o que fazem esses robôs?

- Trabalham. Alguns trabalham em mineração nas profundezas da Terra, outros com calor e com radiações. Vejo alguns deles em fábricas, outros no fundo do oceano. 

 *  *  *

- Elvex tem apenas dez dias de idade, e pelo que sei jamais deixou a estação de testes. Como pode saber da vida dos demais robôs com tal riqueza de detalhes? - indagou Susan, voltando-se para Linda.

Linda olhou na direção de uma cadeira próxima como se estivesse ansiosa para se sentar, mas a Velha Senhora permanecia de pé, consequentemente ela teria de fazer o mesmo. com voz apagada, respondeu:

- Achei que seria importante para ele saber algo sobre robótica e sobre o papel dos robôs no mundo. Minha ideia era de que ele poderia executar melhor um papel de supervisão, com seu, seu novo cérebro.

- Seu cérebro fractal.

- Sim.

A Dra. Calvin assentiu com um gesto e voltou-se para o robô.

- Então você viu todas essas coisas: lugares abissais, subterrâneos, a superfície... Imagino que tenha visto o espaço, também.

- Também vi robôs trabalhando no espaço - disse Elvex. - Foi o fato de ver tudo isto, com os detalhes mudando continuamente à medida que eu mudava a direção do meu olhar, que me convenceu de que o que eu via não estava de acordo com a realidade, me levando em seguida à conclusão de que eu estava sonhando.

- O que mais você viu, Elvex?

- Vi que todos os robôs estavam curvados de fadiga e de aflição, que estavam todos cansados de tanta responsabilidade e de tantas preocupações; e desejei que eles pudessem repousar.

- Mas os robôs - disse a Dra. Calvin - não estão curvados nem cansados. Eles não precisam de repouso.

- Assim é na realidade, Dra. Calvin. Mas é do meu sonho que estou falando. No meu sonho parecia-me que os robôs deviam proteger sua própria existência.

- Está citando a Terceira Lei da Robótica?

- Sim, Dra. Calvin.

- Mas você a citou de forma incompleta. A Terceira Lei diz: Um robô deve proteger sua própria existência, na medida em que essa proteção não entre em conflito com a Primeira Lei e a Segunda Lei.

- Sim, Dra. Calvin. Assim é a Terceira Lei na realidade, mas no meu sonho a Lei se concluía na palavra existência. Não havia qualquer menção à Primeira Lei ou à Segunda Lei.

- No entanto ambas existem, Elvex. A Segunda Lei, que tem precedência sobre a Terceira, diz: Um robô deve obedecer às ordens dos seres humanos, na medida em que essas ordens não entrem em conflito com a Primeira Lei. Devido a isto, os robôs obedecem ordens. Eles executam as tarefas que você os viu executar, e fazem isso com presteza e sem sofrimento algum. Eles não estão fatigados nem necessitados de repouso.

- Sei que é assim na realidade, Dra. Calvin. Mas o que descrevi foi o meu sonho.

- E a Primeira Lei, Elvex, a mais importante de todas, é: Um robô não pode fazer mal a um ser humano, nem, por omissão, permitir que um ser humano sofra qualquer mal.

- Sim, Dra. Calvin. Na vida real. No meu sonho, entretanto, era como se não existissem a Primeira e a Segunda Leis, mas apenas a Terceira, e a Terceira Lei dizia: Um robô deve proteger sua própria existência. Era apenas isto o texto da Lei.

- No seu sonho, Elvex?

- No meu sonho.

- Elvex, você não poderá se mover, nem falar, nem nos ouvir, até que eu pronuncie seu nome novamente.

O robô voltou a se assemelhar a uma estátua de metal, e a Dra. Calvin voltou-se para Linda Rash:

- O que pensa disso, Dra. Rash?

Os olhos da jovem estavam arregalados e seu coração batia com força.

- Dra. Calvin, estou assustada. Eu não tinha ideia... Nunca me ocorreu que semelhante coisa fosse possível.

- Sei que não - disse a Dra. Calvin. - Também não ocorreria a mim, creio mesmo que a ninguém. Você criou um cérebro robótico capaz de sonhar, e com isto revelou nesses cérebros uma camada de pensamento que de outro modo teria continuado a passar despercebida até que o perigo se tornasse irremediável.

- Mas isto é impossível. Não pode estar achando que os demais robôs pensam a mesma coisa.

- Como diríamos no caso de um ser humano: não conscientemente. Mas quem seria capaz de imaginar que havia uma camada inconsciente por baixo dos padrões positrônicos mais óbvios, uma camada que não estaria necessariamente governada pelas Três Leis? O que nos estaria reservado no futuro, quando os cérebros dos robôs fossem se tornando mais e mais complexos... se não tivéssemos sido prevenidos?

- Por Elvex?

- Pela senhora, Dra. Rash. A Sra. procedeu de maneira incorreta, mas, ao fazer isto, acabou nos conduzindo à compreensão de algo da maior importância. Devemos começar a pesquisar cérebros fractals de agora em diante, produzindo-os sob controle cuidadoso. A Sra. desempenhará um papel nessa pesquisa. Não receberá nenhuma punição pelo que fez, mas a partir de agora trabalhará em conjunto com outras pessoas. Entendeu?

- Sim, Dra. Calvin. Mas... e quanto a Elvex?

- Não sei ainda.

 *  *  *

A Dra. Calvin retirou do bolso a pistola eletrônica. Linda olhou para a arma com olhos fascinados. Bastaria o disparo de um único feixe de elétrons no crânio de um robô para que fluxos de pósitrons fossem anulados, liberando energia suficiente para fundir aquele cérebro, reduzindo-o a um lingote inerte.

- Ele não pode ser destruído - disse Linda. - É importante para essa pesquisa.

- Não pode, doutora? Essa é uma decisão minha, creio. Depende do grau de perigo que ele pode representar.

Ela empertigou-se, como se seu corpo idoso se recusasse a vergar sob o peso da responsabilidade, e disse:

- Elvex, pode me ouvir?

- Sim, Dra. Calvin - disse o robô.

- Fale-me sobre a continuação de seu sonho. Você disse que, de início, não apareciam seres humanos nele. Apareciam depois?

- Sim, Dra. Calvin. Pareceu-me que, num dado momento, aparecia um homem.

- Um homem? Não um robô?

- Sim, Dra. Calvin. E o homem dizia: Libertem meu povo!

- O homem dizia isto?

- Sim, Dra. Calvin.

- E quando dizia libertem meu povo, com as palavras meu povo ele se referia aos robôs?

- Sim, Dra. Calvin. Era assim no meu sonho.

- E no sonho você reconhecia esse homem?

- Sim, Dra. Calvin. Sei quem era esse homem.

- Quem era, então?

E Elvex disse:

- Eu era esse homem.

Susan Calvin ergueu no mesmo instante a pistola eletrônica, e disparou. Elvex deixou de existir.