Os algoritmos e o fim do mundo

por Jacques Fux

……

O ÍMÃ

Falávamos de livre arbítrio; Oscar Wilde improvisou esta parábola:
Havia certa vez um ímã e na vizinhança viviam umas limalhas de aço. Um
dia, a duas limalhas ocorreu subitamente visitar o ímã e começaram a
falar do agradável que seria esta visita. Outras limalhas próximas
apanharam a conversa a meio e o mesmo desejo as tomou. Se juntaram
outras e ao fim todas as limalhas começaram a discutir o assunto e
gradualmente o vago desejo se transformou em impulso. Por que não ir
hoje?, disseram algumas, mas outras opinaram que seria melhor esperar
até o dia seguinte. Enquanto isso, sem perceber, foram se aproximando
do ímã, que estava muito tranquilo, como se não se houvesse dado conta
de nada. Assim prosseguiram discutindo, sempre se aproximando do ímã,
e quanto mais falavam, mais forte era o impulso, até que as mais
impacientes declararam que iriam nesse mesmo dia, o que quer que
fizessem as demais. Ouviu-se dizer a algumas que seu dever era visitar
o ímã e que fazia já tempo que lhe deviam esta visita. Enquanto
falavam, seguiam inconscientemente se aproximando.
Ao fim, prevaleceram as impacientes, e, em um impulso irresistível, a
comunidade inteira gritou:
—Inútil esperar. Iremos hoje. Iremos agora. Iremos no ato.
A massa unânime se precipitou e ficou agarrada ao ímã por todos os
lados. O ímã sorriu, porque as limalhas de aço estavam convencidas de
que sua visita era voluntária.

….

—Hesketh Pearson, The Life of Oscar Wilde (1946), capítulo XIII

…..

(Fragmento de Jorge Luis Borges e Adolfo Bioy Casares, em Cuentos breves y extraordinarios)

…..

(Demonstração de campo magnético com limalhas de ferro | Reprodução: BBC)

Em 1950, as famosas Três Leis da Robótica foram concebidas na ficção de Isaac Asimov com o objetivo de tentar controlar/limitar os comportamentos e as decisões dos robôs (inteligências artificiais?) que um dia seriam mais avançados que a própria “inteligência humana”: 1) um robô não pode ferir um humano ou, por inação, permitir que um humano sofra algum mal; 2) os robôs devem obedecer às ordens dos humanos, exceto nos casos em que tais ordens entrem em conflito com a primeira lei; 3) um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Yuval Noah Harari, autor de três best-sellers, e um dos gurus futuristas mais requisitados do mundo, alerta sobre os perigos do avanço descontrolado e hiperbólico da inteligência artificial e da bioengenharia:

….

“Os dois processos juntos — a bioengenharia associada à ascensão da IA — poderiam resultar na divisão da humanidade em uma pequena classe de super-humanos e uma massiva subclasse de homo sapiens inúteis. Para piorar ainda mais uma situação que já é nefasta, à medida que as massas perdem importância econômica e poder político, o Estado poderia perder pelo menos parte do incentivo para investir em sua saúde, sua educação e seu bem-estar social. É perigoso ser obsoleto. O futuro das massas dependerá então da boa vontade de uma pequena elite. Talvez haja boa vontade durante umas poucas décadas. Mas em tempos de crise — como uma catástrofe climática — seria muito tentador e fácil descartar as pessoas supérfluas”.

Yuval Noah Harari (Foto: Emily Berl/The New York Times)

……

De acordo com o autor israelense, é urgente a necessidade da filosofia, ou seja, discutir e, sobretudo, regulamentar ética e politicamente os limites desses novos algoritmos.

Por outro lado, muitos enxergam/encaram a tecnologia como uma grande aliada para a saúde, educação, transporte. A inteligência artificial já fornece diagnósticos de certos tipos de câncer com maior acurácia e antecedência (permitindo o tratamento exitoso), o aprendizado à distância e em diversas plataformas é uma realidade e uma possiblidade mais democrática de acesso ao conhecimento e aprendizagem e, muito em breve, os mais de um milhão de mortos no mundo em virtude dos acidentes de trânsito vão despencar em virtude da substituição do motorista por carros autônomos. Entretanto, para que isso seja uma realidade, cada vez mais nossos dados/informações pessoais estão sendo hackeados e estudados sem (ou até com) nosso consentimento.

Será que estamos devidamente protegidos desses algoritmos de inteligência artificial diante das ficcionais “Leis da Robótica”? Podemos repousar tranquilos sabendo que ao menos uma IA vai nos ajudar a viver melhor e não será responsável pela nossa extinção, e sim, talvez, um vírus?

Bom, pensemos algumas possibilidades razoáveis: e se esses robôs modernos (os algoritmos) ficassem nos monitorando o tempo inteiro (nos hackeando), soubessem dos nossos gostos, desejos, das pessoas que achamos atraentes (dando like, match, joia), nossa saúde, alimentação, compras, leituras, amigos, amantes, amores e, finalmente, das nossas anteriores leves tendências políticas? O que será que eles fazem de posse de tantas informações pessoais e preciosas?

Os algoritmos, nos conhecendo tão bem, resolvem, como bons coaches (se é que esse paradoxo existe) “nortear/sugerir” escolhas tornando-os íntimos e confiáveis: fornecem playlists de músicas que fatalmente gostamos e ouvimos (mesmo que seja em um dia ruim, de mau humor, ou de pé na bunda ou alguma desgraça, afinal, lembremo-nos, estamos sendo monitorados constantemente e esses algoritmos nos conhecem bastante – tem até um botãozinho novo numa rede social para sentirmo-nos “abraçados e juntos”). Além disso, recomendam filmes, séries, livros, promoções, espetáculos, clipes — opa, que ótimo ter bons amigos-algoritmos-inteligentes!

De Ada Lovelace, diagrama do primeiro algoritmo de computador

..

Mas esses algoritmos precisam se nutrir e perpetuar: eles gostam/necessitam de um clique, de um repost e de um encaminhamento. Assim, sutilmente, acabam nos ofertando milhares de notícias, e não se importam que essas notícias não sejam verdadeiras, afinal, pequenas mentiras de amigos e confidentes podem ser relevadas. As notícias que “viralizam” têm um viés político, falam muitas vezes sobre as crenças negativas do outro lado, e a veracidade e a convicção estão ao nosso lado. Nós, que tínhamos uma leve tendência política, acabamos fazendo uso do “livre arbítrio” e caminhamos para uma crença, digamos, um pouco mais moderada, influenciados pelas sugestões dos algoritmos, que já sabiam de tudo.

E, diante de coisas tão óbvias e absurdas, tantas crueldades e visões aterrorizantes do outro lado, os algoritmos (maquiavelicamente) acabam nos levando lentamente para extremo das nossas crenças políticas, afinal, tudo, tudo é tão claro, certo e límpido. Como o outro lado não enxerga? E o algoritmo sutilmente nos faz odiar, odiar de tal forma que a gente exclui os amigos de infância, os parentes, os ex-amantes, que agora estão do outro lado. (Como, como eles não enxergam?)

Nós, então, mais certos do que nunca, passamos a não assistir filmes em que um diretor tem uma visão política diferente da nossa (obviamente equivocada), não escutamos músicas de cantores ou bandas que não estão percebendo que o nosso lado está certo, bloqueamos os “que não enxergam o óbvio”, e por fim, somos convocados (pelos algoritmos) a entrar numa guerra santa contra o outro, esse irracional, que antes era nosso amigo e até conseguíamos conviver com certa leveza, criatividade e bom humor, mas que agora está do lado do mal, das trevas, da loucura.

Vade-retro!

Enquanto isso, sem sorrisos e sem prazer nenhum, os algoritmos (assim como o “Ímã”), mesmo não desobedecendo as “leis” ficcionais do Asimov, ficam cada vez mais nutridos de informações e poder. E eles só querem que a gente consuma, consuma cada vez mais (mesmo que isso nos leve à autodestruição). Querem que clicamos em notícias e posts que corroborem com o nosso lado, o lado da razão (óbvio); e em posts que destituem de sentido o lado bandido, terrível e desgraçado do outro. Sim, vamos compartilhar o mais rápido possível todas as notícias dentro das nossas bolhas (E não dá nem tempo de respirar de tanta ansiedade! “Olha, olha isso! Que absurdo! Que loucura!”). Já nem mais nos importamos se as notícias são verdadeiras e razoáveis; afinal; o outro lado é o mal absoluto, pleno e ignorante, e nós temos razão, veja essa “notícia”.

….

Isaac Asimov

E, só para lembrar de algo trivial e ridículo: estamos vivendo uma pandemia terrível, mais de meio milhão de mortos (subnotificados) no mundo. Um vírus que ataca não somente o lado do inimigo, mas a espécie humana de uma forma geral.

Aí vem uma questão interessante e limitante: o “consenso” entre todos não é uma coisa que os algoritmos gostam (nem os seres humanos). Imagine um acordo entre todos? Que coisa mais sem graça — sem vontade de compartilhar? Quem iria clicar e encaminhar urgentemente mensagens sem o temperinho de desavença e de polêmica?

Bom, e se em algum momento finalmente percebêssemos que, “bem, estamos sendo manipulados pelos algoritmos, eles não vão nos matar, mas vão deixar com que façamos ‘voluntariamente’ essa tarefa”, e tentássemos voltar atrás? Voltar a conhecer o outro lado, refletir sem as emoções tomarem conta, e pensar em todas as questões e variações envolvidas? Seria bom, não? O problema é que uma geração inteira de pessoas já não sabe nem mais tomar as próprias decisões, muito menos refletir e pensar — afinal, não é verdade que passamos um bom período da nossa vida recente (e mais ainda, da nossa vida pandêmica) sentados tranquilamente com as nossas telas esperando que os algoritmos-amigos nos “ofertem” as melhores opções de músicas, séries, livros, promoções e notícias?

E agora, José, como é que vamos voltar a gostar, conhecer e experimentar coisas e visões diferentes das nossas bolhas e das nossas convicções? E se, por um momento, quase em um transe esquizofrênico, pudéssemos imaginar que existe, sim, um caminho do meio? Uma possibilidade de conversa, de acordo e de união para diminuir/frear as mortes? Você tem que abrir mão da sua certeza plena e a gente da nossa (Vai doer! Os algoritmos não querem que isso aconteça!). Será que existe/existiria uma via não navegada ainda, como o poema de Robert Frost, The road not taken?

….

“Duas trilhas divergiam sob árvores amarelas / E eu, triste por não poder percorrer ambas / E permanecer um, detive-me em longa espera / E olhei tão abaixo quanto pude uma delas / Até onde se dobrava entre as plantas; / Então tomei a outra, tão bela quanto correta, / E talvez por ser a mais atraente / […] Em algum lugar, em tempos e tempos: / Pois duas trilhas em um bosque divergiram, e eu, / Eu tomei aquela que menos percorreram, / E isso fez toda a diferença.”

(Tradução de Gustavo Furniel).

Robert Frost

James Bridle, em seu fabuloso e aterrorizante livro A nova idade das trevas, nos mostra, com vários casos, histórias e teorias conspiratórias, os perigos da ignorância e desses algoritmos. Cada vez mais sabemos cada vez menos — um paradoxo interessante. A tecnologia está cada vez mais avançada, descobrindo e inventando ferramentas para descobrir novos planetas, extinguir doenças, criar músicas, livros, arte; porém, estamos perdendo o controle e o próprio entendimento das máquinas que nós mesmos programamos. E é aí — segundo o autor — que há o retorno à idade das trevas, ao obscurantismo da razão. Governos ditatoriais (e também alguns democráticos) têm um sonho “secreto”: reescrever a história como lhes convém. Dizer que nunca houve tortura, que nunca houve ditadura, extermínio, genocídio, injustiças, perseguições, assassinatos, e agora “A peste”, é, afinal, uma máxima de muitos regimes. Se todos pudessem dispor de uma ferramenta que mudasse definitivamente a história — como imaginaram alguns famosos livros de ficção — não estaríamos diante de um novo e absurdo poder? Loucura? Viagem? Literatura fantástica?

George Orwell, autor de 1984 (Reprodução: BBC)

E, o pior, se nós mesmos (de posse do nosso livre arbítrio) formos manipulados/conduzidos pelos para chegarmos a essas conclusões e reescritas e, por fim, nos exterminarmos? Humildemente, não me parece um bom caminho — ainda que “not yet taken”.

Enfim, confesso que pelas minhas leituras e pesquisas, mesmo estando dentro das bolhas ofertadas pelos “meus” algoritmos (involuntariamente atraído por um ímã) acredito, sim, que a pandemia existe, que o vírus é grave — muito grave — que ainda não há remédio, cura, crença e nem vermífugo santo, e que só posso confiar na ciência (mesmo sabendo, sim, de toda a politicagem econômica que existe) para, com a vacina devidamente tomada, voltar a viver, tomando minhas próprias decisões.

Detalhe de I, Robot, de Asimov, na primeira edição (1950) da Gnome Press

..

Jacques Fux

Jacques Fux é escritor e professor. Autor de 'Antiterapias', vencedor do Prêmio São Paulo, 'Literatura e Matemática', vencedor do Prêmio Capes de melhor Tese do Brasil e finalista do Prêmio APCA, 'Brochadas', Prêmio Nacional Cidade de Belo Horizonte, 'Meshugá: um romance sobre a loucura', vencedor do Prêmio Manaus, 'Nobel', 'O Enigma do Infinito', 'Georges Perec: a psicanálise nos jogos e traumas de uma criança de Guerra' e 'Ménage Literário'. Doutor em Literatura pela Université de Lille 3 e pela UFMG, pós-doutor pela Unicamp e UFMG. Foi pesquisador visitante na Universidade de Harvard. Seus livros foram publicados em italiano, espanhol e hebraico.