Ciências

O que perguntar para um computador: Kieslowski, a inteligência artificial e os limites da ciência

O jovem Pavel (Wojciech Klata) em Decálogo I, de Kieslowski

por João Cortese

“Segundo Eliot, a poesia é intraduzível. Mas será que ele estava necessariamente correto? Imaginem um tradutor capaz de acumular todo o conhecimento existente sobre palavras ou sobre uma língua. Um tradutor dotado de memória ilimitada, à qual pode recorrer a qualquer momento. Usado de maneira não convencional, um computador pode ser algo ou alguém como ele. Considerem este instrumento: ele parece discernir apenas duas figuras, zero e um. Mas na verdade, ele tem não só algo que pode ser chamado de inteligência, mas também um tipo de consciência: ele seleciona, o que significa que ele escolhe. Ou deveríamos dizer que ele tem uma determinação da vontade? Eu creio que um computador, programado de maneira apropriada, poderia ter seu próprio gosto, preferências estéticas e personalidade.”

Com estas considerações termina-se uma aula sobre a tradução automatizada na universidade de Varsóvia – na cena de um filme de 1988. Espectadores da 40ª Mostra Internacional de Cinema de São Paulo puderam reassistir nas últimas semanas aos episódios do monumental Decálogo, de Krzystof Kieslowski.

A cena descrita aparece no primeiro dos dez episódios, no original polonês intitulado simplesmente Jeden, “um”. Na versão brasileira, assim como na norte-americana, um dos Mandamentos é associado ao título: “Amarás a Deus sobre todas as coisas”.

Krzystof (Henryk Baranowski) é um professor universitário, entusiasta da ciência da computação – paixão transmitida ao seu filho Pavel (Wojciech Klata). Juntos, eles calculam em quanto tempo uma pessoa de esqui alcança outra de trenó, controlam as maçanetas e torneiras da casa e preveem a temperatura necessária para que se possa patinar sobre o gelo do lago de seu bairro, sempre pela mesma máquina: o computador pessoal.

Quanto à tradução computacional, reconhecemos no sonho de Krzystof a potência dos tradutores automáticos contemporâneos. A base binária e o acesso a uma enorme “memória” de dados são de fato os recursos com os quais muita informação é hoje processada.

Contudo, T. S. Eliot provavelmente não limitaria a noção de tradução às ações desempenhadas por tais programas. No poema East Coker, um dos “Quatro quartetos” de Eliot, uma estrofe se inicia com os seguintes versos:

O dark dark dark. They all go into the dark,
The vacant interstellar spaces, the vacant into the vacant

Para os quais o tradutor do Google propõe:

O escuridão escuro escuro. Todos eles vão para o escuro,
Os espaços interestelares vago, o vago no espaço vago

Resultado que ninguém acreditará equiparar-se à tradução de Ivan Junqueira:

O escuro escuro escuro. Todos mergulham no escuro,
Nos vazios espaços interestelares, no vazio que o vazio inunda

Se já é difícil decidir em que sentido o computador pode verdadeiramente “traduzir” quando processa a linguagem, poder-se-ia dizer que ele possui uma “inteligência”?

Em 1950, Alan Turing, o pai da computação moderna, publicou um artigo na revista Mind no qual dizia que tal pergunta é demasiado traiçoeira: o que é “pensar”? Ao invés disso, Turing propôs um teste para saber se um computador pode chegar a ter um comportamento indistinguível daquele de um ser humano. O célebre “Teste de Turing” avalia se um computador digital pode ser bem-sucedido num certo “jogo de imitação”.

Fonte: Sherborne School Archive
Alan Turing, aos 15 anos, na Sherborne School

Imagine-se que uma pessoa (o interrogador) é colocada num quarto, e em outro aposento tenhamos um computador e outra pessoa, com as quais o interrogador “dialoga” unicamente através de uma interface do tipo tela e teclado. O interrogador sabe que do outro lado estão o computador e o ser humano, mas não sabe com qual dos dois ele troca mensagens. O jogo consiste em adivinhar, através de perguntas, qual dos dois está respondendo no momento. O computador terá êxito no teste, portanto, caso seu comportamento seja suficientemente indistinguível daquele de um ser humano para que o interrogador não perceba a diferença.

Diversos questionamentos foram feitos ao teste, principalmente sobre o que ele pode medir. Do ponto de vista “prático”, o teste foi realizado com diversos programas de inteligência artificial. Em 2014, pesquisadores da Universidade de Reading anunciaram que uma máquina havia passado no teste, com a personalidade criada de Eugene Goostman, um garoto ucraniano de 13 anos. Nem todos estiveram de acordo sobre o significado de tal resultado[1].

No filme de Kieslowski, o jovem Pavel faz um programa que lhe responde o que sua mãe, que ele crê viver em outro país, está fazendo naquele momento. Às 15h30 em Varsóvia, por exemplo, Pavel descobre através de seu programa que sua mãe está dormindo. Por outro lado, quando ele pergunta com o que ela está sonhando, o computador responde: “não sei”.

Programas de inteligência artificial frequentemente dão respostas deste tipo. Eliza, por exemplo, é um programa concebido para simular a atuação de um psicoterapeuta rogeriano. Eliza pode dar respostas que a tiram de “saias justas”: se perguntamos algo sobre ela, por exemplo, ela responde: “nós estamos falando sobre você, não sobre mim”. Quando perguntei “o que é a morte”, ela respondeu: “você já perguntou isso a alguma outra pessoa? ”[2].

Um programador dirá, de maneira justa, que as inteligências artificiais são feitas para tipos precisos de interação, e que seu propósito não é o de responder à razão da morte, e nem o de traduzir a poesia de Eliot.

A questão a colocar talvez não seja então quanto um computador pode fazer do ponto de vista da inteligência, mas o que, dada a sua natureza, ele pode fazer. Pode-se esperar de um computador tudo o que se espera de um humano?

A questão evoca uma outra, também abordada pelo filme de Kieslowski: a ciência dá poder ao homem sobre o mundo, mas quais são os limites da previsibilidade científica? Se ao computador deve-se perguntar o que ele pode fazer enquanto computador, ao homem cabe perguntar até onde pode ele ir enquanto homem.

Ao tomar café da manhã com seu pai que lê o jornal, Pavel observa a página de obituários e lhe pergunta:

– Por que as pessoas morrem?

– Por várias razões: parada cardíaca, câncer, acidentes ou simplesmente pela idade.

Ao que Pavel insiste:

– Eu quero dizer, o que é a morte?

– A morte? O coração deixa de bombear sangue, o sangue deixa de alcançar o cérebro, tudo para: morre-se. É isso.

Quando Pavel pergunta o que resta após a morte, e se há uma alma, como lhe contou sua tia, seu pai responde:

– Algumas pessoas acham que a vida é mais fácil se elas acreditarem nisso.

– E para você?

– Eu não sei.

A atitude do personagem Krzystof pode ser qualificada como esperar da ciência e da tecnologia aquilo que, por princípio, elas não podem dar ao homem. Sob a pena de aparentar uma tautologia, caberia dizer que só se pode calcular o calculável. Esperar da ciência algo impossível a ela só trará angústia – o gelo do lago se quebra sob os patins, e Krzystof continua negando-o: “isso não pode ter acontecido”.

Talvez a sentença final do filme de Kieslowski seja dada por Pavel, que chora por ter encontrado morto na rua o cachorro do qual tanto gostava: que me importa poder calcular em quanto tempo o esqui alcança o trenó, se o cachorro morre de qualquer maneira?

[1] Software engana humanos e passa pelo Teste de Turing

Para uma perspectiva crítica, link para matéria na revista Wired, aqui.

[2] O programa ELIZA foi desenvolvido entre 1964 e 1966 no MIT, por Joseph Weizenbaum. Uma implementação deste programa pode ser testada clicando aqui.

João Cortese

João Cortese é pesquisador do Núcleo de Bioética da Fundação José Luiz Egydio Setúbal. Professor do Instituto de Biociências da USP, do Ibmec-SP e da Faculdade Paulo VI.