Mídia

Próxima revolução política será para controlar algoritmos, diz Cathy O'Neil

'Algoritmos sempre funcionam bem para as pessoas que os projetam, mas não sabemos se funcionam bem para as pessoas-alvo desses algoritmos'

19/11/2018 14:44

(Marcelo Casal Jr/Agência Brasil)

Créditos da foto: (Marcelo Casal Jr/Agência Brasil)

 

A matemática Cathy O'Neil, autora do livro Weapons of Math Destruction (Armas de Destruição Matemática), publicado em 2016, avalia que a próxima revolução política será sobre o controle dos algoritmos, setor da inteligência artificial que se tornou das peças decisivas da eleição de Donald Trump, nos Estados Unidos e, agora, discutida como fator que contribuiu para a eleição de Jair Bolsonaro no Brasil.

Cathy está entre os primeiros matemáticos a chamar atenção para o papel político dos algoritmos e o perfil machista, racista e discriminatório projetado nos sistemas em atuação hoje. Em entrevista para o El Diario, a matemática explica que, mal programados, eles estão se tornando verdadeiros perigos para as democracias.

Os algoritmos foram criados para pontuar pessoas por grupos, usados amplamente no mercado e sistemas bancários para conceder ou negar crédito, por exemplo, ou em outras áreas para apólices de seguros ou admissão em universidades.

"O algoritmo atribui-lhe uma pontuação de forma secreta, você não pode entendê-lo, você não pode levantar um recurso. Utiliza um método de decisão injusto. No entanto, não só é injusto para o indivíduo, mas normalmente este sistema de decisão também é destrutivo para a sociedade", avalia.

"Com algoritmos, estamos tentando transcender o preconceito humano, estamos tentando lançar uma ferramenta científica. Se eles falham, eles fazem a sociedade entrar em um ciclo destrutivo, porque eles aumentam progressivamente a desigualdade", completa.

Em outubro, por exemplo, a Amazon decidiu descartar um algoritmo do seu sistema que fazia seleção para recrutar novos funcionários da empresa porque tinha um viés sexista. A inteligência artificial utilizava como base de dados currículos acumulados ao longo de dez anos com a maioria de inscritos homens. Cathy explica que este exemplo, obviamente, causa surpresa entre as pessoas, mas, considera a reação, especialmente da empresa, "fingida".

"Existem exemplos de algoritmos discriminatórios em todos os lugares. Se eles admitissem que os algoritmos são imperfeitos e que poderiam ser racistas ou sexistas, ilegais, eles teriam que resolver esse problema para todos os algoritmos que estão usando. Se eles agirem como se ninguém soubesse de nada, eles poderiam continuar promulgando".

E foi, para lançar luz a esse poder que se consolida através do uso de dados, que a matemática escreveu seu livro.

"Não devemos abandonar a automação ou parar de confiar em algoritmos, mas exigir responsabilidade. Especialmente quando eles atuam em um campo onde não há uma definição clara do que é "sucesso". Esse é o tipo de algoritmo que me preocupa. Quem controla o algoritmo controla a definição de sucesso. Algoritmos sempre funcionam bem para as pessoas que os projetam, mas não sabemos se funcionam bem para as pessoas-alvo desses algoritmos. Eles podem ser tremendamente injustos com eles".

Cathy explica que as pessoas, normalmente, pensam que o algoritmo é um método inteligente para se chegar a uma verdade objetiva, mas não se trata disso. "Nós desenvolvemos uma fé cega neles porque pensamos que há uma autoridade científica por trás deles".

Na verdade, os algoritmos são "bobos" e, basicamente, usam um conjunto de perfis demográficos gerados a partir de uma grande base de dados. "Descobre se você é um cliente pagador ou quais são suas chances de comprar uma casa com base nas pistas que lhe restam, como sua classe social, sua riqueza, sua raça ou sua etnia".

Sabendo disso, o setor passa a ter maior responsabilidade social para desenvolver algoritmos verdadeiramente mais precisos. "Pode ser um algoritmo para decidir quem tem acesso a liberdade condicional racista, que determina quais bairros sofrem mais com a pressão policial baseada na presença de minorias", exemplificou a pesquisadora.

Ela também destaca que apesar do problema ser real, e cada vez mais preocupante nas decisões políticas, governantes e legisladores não demonstram preparo para colocar a questão na mesa.

"Os políticos pensam que, a partir de sua posição, eles terão controle sobre os algoritmos em suas mãos, de modo que não querem renunciar a esse poder, mesmo que seja ruim para a democracia. É uma consideração muito séria. Como eu disse no livro, Obama foi adorado pela esquerda pelo uso de big data para aumentar as doações ou melhorar a segmentação de mensagens. Mas esse foi um precedente muito perigoso: nas últimas eleições vimos como a campanha Trump conseguiu suprimir o voto dos afro-americanos graças à mesma segmentação de mensagens através dos algoritmos do Facebook".

Cathy termina a entrevista considerando que desde quando lançou o livro, 2016, houve um aumento da preocupação de pessoas comuns sobre o tema. "Eu venho de Barcelona, %u20B%u20Bonde tenho visto 300 pessoas, a maioria jovens, preocupadas com essa questão. É um fenômeno emergente em todo o mundo, as pessoas estão começando a ver o dano, o mal que está aqui. A maior parte desse dano algorítmico não é visível, não é visível. O fato de as pessoas estarem mais conscientes nos faz esperar que haja uma demanda por algoritmos a serem responsabilizados. Eu espero que isso aconteça".

Para ler a entrevista na íntegra, clique aqui.

*Publicado originalmente no Jornal GGN

Conteúdo Relacionado