Democratização algorítmica
Democratização algorítmica
Confira resenha do livro Algorithmic Institutionalism: The Changing Rules of Social and Political Life, escrito pelos brasileiros Ricardo Fabrino Mendonça, Fernando Filgueiras e Virgílio Almeida e publicado pela Oxford University Press
Em um dia qualquer na era do smartphone, um cidadão comum entrará em contato direto ou indireto com dezenas, quiçá centenas de algoritmos. Não à toa, essa palavra – algoritmo – tem ganhado tanta proeminência no debate público. Muitas vezes, porém, os leigos podem se sentir confusos. O que seriam os algoritmos? Como entendê-los? O terreno parece ainda mais movediço quando se considera o rápido surgimento em sequência de cada vez mais novas e potentes tecnologias que parecem chegar para transformar o mundo. Algorithmic Institutionalism: The Changing Rules of Social and Political Life, escrito pelos brasileiros Ricardo Fabrino Mendonça, Fernando Filgueiras e Virgílio Almeida e publicado pela prestigiosa Oxford University Press, é um guia para quem quer se sentir menos perdido diante de tantas mudanças. O livro oferece uma grade de leitura que permite ao leitor não apenas navegar por um mundo tomado por algoritmos. A perspectiva desenvolvida também convida à ação. Em vez de encarar os algoritmos como forças da natureza que submetem a humanidade e são impossíveis de controlar, os autores abrem uma porta para a governança democrática das novas tecnologias.
O livro “Algorithmic Institutionalism: The Changing Rules of Social and Political Life”,
escrito por Ricardo Fabrino Mendonça, Fernando Filgueiras e Virgílio Almeida
(Oxford University Press)
Institucionalismo algorítmico. O título do livro já indica o caminho a ser trilhado para entender as tecnologias que transformam o mundo: os algoritmos devem ser tratados como instituições. A força do argumento dos autores, talvez surpreendente, fica evidente quando se considera a definição tanto de algoritmo, quanto de instituição. O que são algoritmos, afinal? Como os autores mostram, mil anos antes da máquina de Alan Turing, para não falar do ChatGPT e de softwares capazes de aprender sozinhos padrões de alta complexidade e gerir bases de dados infinitamente grandes, a palavra algoritmo surgiu para nomear algo bem mais simples. Algoritmos são protocolos ou instruções para resolver problemas ou cumprir tarefas. E o que são instituições? A literatura que o livro retoma é vasta, mas há um consenso geral: instituições são regras, formais ou informais, que gerem o comportamento social. Entre os protocolos computacionais e as normas sociais há portanto muito em comum. Em todos os casos, trata-se de regras.
O mérito do livro de Mendonça, Filgueiras e Almeida é apontar que num mundo permeado por algoritmos, regras sociais – ou seja, instituições – são reforçadas ou desafiadas a cada vez que alguma dessas tecnologias entra em operação. Quando um aplicativo de táxis define qual motorista será designado para qual passageiro, o preço da corrida, a rota a ser tomada e o sistema de avaliação, ele está mexendo em regras escritas e não escritas de distribuição de renda, de poder de barganha, de mobilidade urbana. Quando para manter o usuário vidrado na frente da telinha o algoritmo de uma plataforma de vídeos decide qual conteúdo recomendar ou qual influencer terá mais views, ele está transformando normas formais e informais de circulação de informação, de monetização, e até de organização política e das próprias dinâmicas da democracia. Quando a polícia usa um software de reconhecimento facial para encontrar suspeitos, ou usa big data para prever a incidência de crimes em um bairro durante o carnaval de maneira aparentemente neutra e objetiva, ela pode acabar reforçando estereótipos raciais e racismo ambiental. Por fim, quando um aplicativo de paquera define uma regra simples como quem pode enviar a primeira mensagem depois de um match, ele contribui para transformar a maneira como casais se formam e em último caso até mesmo as simetrias e assimetrias de poder dentro de um relacionamento amoroso.
Com exemplos intuitivos como esses e uma escrita fluida, o livro convida a pensar algoritmos considerando várias perspectivas: quem os desenhou e de qual forma, em qual contexto histórico e tecnológico e com qual finalidade, como eles operam na prática na interação com usuários, e quais as relações de poder que eles estabelecem. Ao terminar o livro, o leitor se verá constantemente perguntando: o poder está com o usuário ou com a plataforma? Quais estereótipos e estruturas de dominação as tecnologias estão reforçando? E quais elas podem questionar? O que o algoritmo permite ver, e o que ele esconde? Quais são as formas de resistência, de driblar o algoritmo ou fazê-lo jogar a nosso favor?
Ao apresentar os algoritmos como instituições e as relações de poder que os atravessam, Mendonça, Filgueiras e Almeida mostram que as novas tecnologias transformaram profundamente inúmeras práticas sociais, mas são elas mesmas sujeitas à transformação. Como o livro aponta muito bem, os algoritmos podem ter dinâmicas próprias, mas são feitos por pessoas, estão em constante interação com os humanos, e podem ser redesenhados.
Os autores convidam o leitor a pensar em uma democratização algorítmica, por assim dizer. Os algoritmos devem ser democratizados. No que consistiria essa democratização dos algoritmos? Como o livro explica, não se trata aqui necessariamente de submeter os algoritmos ao voto. Democracia é muito mais do que vontade da maioria, e tem a luta pela igualdade como pilar fundante. Com isso em mente, os autores defendem a criação de instâncias de governança como agências reguladoras com princípios e objetivos claros. Entre os princípios e objetivos deve estar a participação social, a igualdade entre os cidadãos e a pluralidade de perspectivas. Num mundo em que os algoritmos parecem impenetráveis, Mendonça, Filgueiras e Almeida apontam que transparência também é fundamental, mas não resolve tudo. A complexidade dos algoritmos torna a compreensão de seus mecanismos difícil, e em alguns casos, por motivos comerciais ou de segurança de dados, pode não ser desejável revelar seus códigos. Porém, como dizem os autores, é preciso um debate público baseado nos resultados, nos efeitos que os algoritmos produzem na sociedade.
A luta pela democratização dos algoritmos sem dúvida não é fácil. Trata-se também de uma luta que se choca com os interesses de algumas das maiores corporações de nosso tempo, capazes de transcender barreiras nacionais. Mas o livro é esperançoso, e em si uma ferramenta importante para guiar-nos nessa batalha para transformar essas novas instituições que tanto impactam nosso mundo.
Thomás Zicman de Barros é pesquisador pós-doutoral no Centro de Ética, Política e Sociedade (CEPS) da Universidade do Minho (Portugal) e pesquisador associado ao Centro de Pesquisa Política (CEVIPOF) da Sciences Po (França).
FONTE:
