Governar humanamente as máquinas que nos governam
por Rafael Evangelista
…………………………..
O ano de 2016, com a eleição de Donald Trump e o referendo do Brexit pela saída do Reino Unido da União Europeia, marca o que tem sido chamado em círculos especializados de techlash. O termo busca captar um sentimento geral do público, mas que agora passa a ecoar cada vez mais sobre autoridades reguladoras, com relação ao ambiente de excessiva liberdade e consequente crescente poder das grandes empresas de tecnologia da informação. A lua de mel com as utopias sobre a Internet já havia acabado alguns anos antes, com as revelações de Snowden sobre o conluio entre governos e grandes empresas na sustentação de esquemas de vigilância. Mas o evidente papel da desinformação nos dois processos de consulta popular de 2016 elevou o nível do mal-estar ao limite do tolerável. Na sequência, explode ainda o escândalo da Cambridge Analytica, que revelou a parceria entre o Facebook e a campanha de Trump e do Brexit na confecção de anúncios microssegmentados, direcionados a partir de violação da privacidade dos usuários. O consenso definitivamente mudou e a ideia de que é necessário ter algum tipo de regulação mais efetiva sobre a Internet, em especial sobre as plataformas que operam sobre a rede mundial, passou de um tabu a uma quase unanimidade.
A controvérsia, porém, se dá em como fazer isso, e é aí que Governance for the Digital World encontra seu lugar. No jogo de oposições globais, a China aparece como exemplo mais proeminente de país que, no limite do possível, dita as suas próprias regras na relação com as gigantes das tecnologias da informação, sejam dos EUA ou da própria China. O que não exclui o país de parte dos efeitos negativos das tecnologias aplicadas, como a vigilância indiscriminada, a discriminação algoritmica e as violações de direitos humanos. Além disso, a fórmula chinesa claramente tem menos chances políticas de prosperar nos países de tradição política e econômica liberal. Neither more state nor more market, o subtítulo de Governance for the Digital World, é completamente consistente com a proposta dos autores de encontrar uma saída que nem implique em municiar possíveis Estados autoritários e nem em deixar que o mercado cuide tudo com suas injustiças tradicionais. Nem mais Estado nem mais mercado.….
Seria incorreto apontar, como pode parecer, que essa é uma solução simplista intermediária, a qual busca um caminho do meio feito da soma e divisão das outras duas partes. Governance for the Digital World se junta a outras obras contemporâneas, como The age of surveillance capitalism, de Shoshana Zuboff, ao dar a entender que o atual estado de relações entre as democracias liberais e as grandes empresas de tecnologia, em que impera um ambiente regulatório tímido, tende a ameaçar as próprias democracias liberais. Ao mesmo tempo, o livro se constrói a partir de posicionamentos solidamente ligados à justiça social, como o respeito aos direitos humanos, a construção de oportunidades reais a todos e a noção de comum (bens comuns, os commons). Ou seja, trata-se de agir politicamente com relação à governança da Internet e de seus provedores de aplicação de modo a evitar tanto o colapso da democracia liberal quanto dar margem a violações democráticas advindas de um Estado que concentra poder demais.
Os bens comuns ou comum, tradução para commons, é um conceito da economia popularizado no contexto de discussões sobre o meio ambiente, no final da década de 1960. Ele se refere ao uso compartilhado de recursos comuns e a um problema que foi naquele momento enquadrado como a “tragédia dos comuns”. Se os indivíduos atuam egoisticamente, sem coordenação, o recurso compartilhado tende a se exaurir. Mais tarde, a discussão sobre o comum foi amplamente utilizada no contexto do ambiente de coprodução participativa da internet. O software livre e de código aberto foi entendido como uma iniciativa em torno da produção de um bem comum, assim como ações no campo da produção cultural, como o Creative Commons e a Wikipedia.
Os autores partem dessa discussão e a ampliam, de maneira muito apropriada, para o que chamam de Mundo Digital. Por um lado, o comum seria visto como grande recurso compartilhado do Mundo Digital, feito a partir da colaboração e interação de diversos agentes, públicos e privados, coletivos e indivíduos, operando em regime de coprodução no espaço cibernético. Por outro, alguns poucos conglomerados e países controlam a oferta de produtos e serviços. O Mundo Digital então é entendido como tendo várias camadas, de infraestrutura comunicacional, software, protocolos, dispositivos e dados. A governança desse mundo vai além das leis e das regras formais, passa por uma série de relações de poder, entre atores de setores e com interesses diferentes, que precisam se relacionar para organizar processos que pautam o desenvolvimento das tecnologias e seus usos pela sociedade. Pensemos, por exemplo, no desenvolvimento de padrões técnicos do 5G, que precisam ser acordados por diferentes fabricantes de equipamentos, assim como devem se enquadrar nas normas que regem o uso do espectro eletromagnético. Mas pensemos também nas políticas de combate à desinformação, esta que é impulsionada e viralizada a partir das grandes plataformas de redes sociais.
O paralelo mais importante desenvolvido sobre o Mundo Digital é com o meio ambiente. Só que em lugar de o maior patrimônio serem os ecossistemas naturais, que devem ser defendidos contra o uso predatório e não sustentado, o grande capital do Mundo Digital é o conhecimento e a informação. Governar o Mundo Digital significa criar uma ordem institucional que promova ações coletivas direcionadas a resultados benéficos para a sociedade. A desinformação, por exemplo, poderia ser entendida como uma poluição do Mundo Digital, uma substância tóxica que envenena as conexões e que, podemos adicionar, é um subproduto muito fácil de conectar com o império da economia da atenção, que hoje governa os lucros das grandes plataformas de redes sociais. Sensacionalismo já vendia jornais e dava audiência televisiva no passado, hoje gera cliques e engajamento.
Se a sustentabilidade ambiental é importante para a proteção da vida na Terra, a governança da Internet se destaca para o equilíbrio de poder. “Quem controla o conhecimento e a informação influencia as decisões coletivas e estabelece novas estruturas de poder”, escrevem os autores. De fato, no livro abundam exemplos concretos de rupturas impulsionadas pelas tecnologias que eventualmente se tornam problemas no campo da política (desinformação), da sociedade (novos meios de socialização), das leis (flexibilidade e velocidade contra tradição e rigidez) e da comunicação (liberdade de expressão e bolhas informacionais). O Mundo Digital ameaça o próprio liberalismo ao dotar as plataformas, que amealham dados de todo o globo, dos meios para prever e modificar comportamentos de pessoas e mercados. No campo governamental, os serviços públicos vão progressivamente sendo digitalizados, consequentemente reunindo diversos tipos de dados dos cidadãos, assemelhando governos a plataformas. Essa não é uma questão trivial e envolve a ambiguidade típica da vigilância, ameaça de controle social confrontada com a promessa de mais direitos.
Para resolver essas dilemas, Governance for the Digital World propõe um arranjo que seja internacional e multissetorial, mesmas qualidades do Mundo Digital. Essa estrutura não é exatamente uma novidade, o Brasil mesmo tem uma experiência exitosa em termos de governança da Internet, o Comitê Gestor da Internet no Brasil (cgi.br). Criado nos anos 1990, o CGI.br ganhou sua forma atual na década de 200 e foi importantíssimo para a instituição do Marco Civil da Internet, elogiado por especialistas do mundo todo. No campo internacional, são exemplos de fóruns multissetoriais diversas instâncias das Nações Unidas, como a Comissão para o Desenvolvimento Sustentável ou a Aliança das Vacinas. Não são exemplos isentos de problemas, por isso os autores se aprofundam no que chamam de desenho de instituições, se debruçando numa extensa bibliografia. E apontam que não basta a governança multissetorial, é preciso trazer elementos de uma governança colaborativa.
Uma das vantagens desse mergulho que fazem Filgueiras e Almeida no processo de moldar instituições, contido no capítulo 4, é o detalhamento dos elementos e das condições de colaboração que precisam ser consideradas. Um problema central do multissetorialismo é a assimetria de poder entre os diversos atores, cada um dispondo de recursos muito distintos. Na União Europeia, por exemplo, onde há a tentativa de se regular as grandes companhias de tecnologia da informação, hoje há uma enxurrada de organizações da sociedade civil eivadas de conflitos de interesses, que recebem financiamento e fazem lobby pelas empresas que deveriam fiscalizar. Os autores não tratam desse problema especificamente, mas defendem estruturas policêntricas, sem autoridade central, que requerem processos decisórios sobrepostos, para então gerarem uma combinação complexa de organizações em múltiplos níveis. Trata-se de uma retomada da ideia da capacidade de intervenção humana e planejamento, se não diretamente das tecnologias, mas das diferentes instituições que vão propiciar seu fomento, aplicações e uso justo. O arranjo institucional proposto, policêntrico, também preza e aposta na capacidade de concertações e entendimento de grupos humanos culturalmente diferentes, numa clara fuga das armadilhas etnocêntricas de uma tecnocracia que se pretende acima dos corpos e vidas reais.
As propostas feitas no livro não são considerações genéricas, com aplicação enigmática. Estão bastante especificadas e maduras. Tome-se como exemplo as propostas em torno da transparência algoritmica. É um assunto intangível para aqueles de fora da computação e dessaboroso para as empresas, que fazem do segredo desses códigos um dos seus principais ativos financeiros. Mas a abordagem no livro é bastante razoável e inteligente.
Obras recentes, adotadas no livro como referência, como Black Box Society, de Frank Pasquale, e Automating Inequality, de Virginia Eubanks, já apontaram como as decisões tomadas por sistemas autônomos, sem intervenção humana, podem prejudicar indivíduos e a sociedade. Esses sistemas já são amplamente utilizados hoje e fazem previsões, ranqueamentos, e classificações, sejam de pessoas que usam ferramentas digitais ou incidindo no conjunto amplo da sociedade. Os governos utilizam cada vez mais esses sistemas em seus processos decisórios, os quais atingem ainda mais desigualmente aqueles que precisam de proteção social. Se distanciando da ideia equivocada de neutralidade algorítmica, os autores apontam como processos de aprendizagem de máquina, baseados em dados históricos, podem reforçar e amplificar vieses já existentes, como racismo, sexismo e desigualdades de classe. Um sistema que defina quando fazer abordagens policiais, por exemplo, se baseado no comportamento histórico da polícia, fatalmente se voltará contra a população negra.
Porém, simplesmente expor os algoritmos, permitindo a leitura pública do código, não é suficiente, mostram os autores, além de ser uma batalha politicamente difícil, dado o zelo das companhias pelos seus segredos industriais. Por um lado, algoritmos podem ter a capacidade de modificar variáveis e dados pela sua capacidade de aprender. Por outro, há limitações cognitivas sérias para o entendimento dos códigos envolvidos, não restritas ao desconhecimento técnico dos cidadãos comuns, mas afetando até mesmo os especialistas. Há várias camadas complexas de sistemas que se sobrepõem e que dificultam uma reflexão adequada sobre o funcionamento desse maquinário.
Para combater essa complexidade e promover uma transparência algoritmica mais efetiva, os autores propõem um conjunto de elementos que, se somados, podem oferecer, a governos e à sociedade, justificativas e explicações fornecidas pelos atores responsáveis pelos sistemas. Entre esse conjunto complexo de medidas estão: a supervisão por parte de atores independentes; informações sobre a origem, os processos de coleta de dados e as variáveis usadas para se chegar a resultados; respostas sobre porque os algoritmos tomaram determinadas decisões; informações sobre como o sistema calcula, processa e racionaliza variáveis, além de como classifica, prediz e aprende com os dados; entre outras. Uma transparência desse tipo permitiria, por exemplo, saber que variáveis foram usadas para que um sistema recomendasse determinada postagem ou vídeo a um certo indivíduo numa rede social. Seria um passo importante para equilibrar um pouco a balança nessa relação em que as redes sabem tudo sobre nós e nós quase nadas sobre elas. Um avanço muito necessário no combate à desinformação, tão abundante nessa era de visualização de conteúdos diretamente amarrada aos lucros.
Com capítulos que podem ser lidos de maneira independente, Governance for the Digital World é um livro importante tanto para os interessados em discussões conceituais sobre a internet e o digital (capítulos 2), para os especialistas em políticas públicas digitais (capítulo 3), como para aqueles que pensam o futuro da governança da Internet de forma ampla (capítulo 4). A importância política das propostas contidas no livro é bastante grande, se o que desejamos é retomar o controle humano e democrático das máquinas que hoje nos governam.
………….
………………
……………..
