umaPerdemos a conta de livros, documentários e artigos de jornais que realmente nos falam sobre ameaças algorítmicas à sociedade, como os perigos do viés tecnológico e da manipulação de opinião nas redes sociais. Os escândalos dos últimos três anos explicam essa postagem miserável e generalizada. O caso Cambridge Analytica em 2018 marcou o início de uma era de desconfiança na ciência algorítmica, uma disciplina relativamente nova, com o uso ilegal de dados de milhões de usuários do Facebook. Não devemos, entretanto, entrar no reino de Manoe, totalmente bom ou totalmente mau: a realidade é mais sutil.
Muitos cientistas e engenheiros se organizam para alertar sobre desvios de algoritmos inofensivos quando bem usados ou aplicados de maneira diferente. As ferramentas de reconhecimento facial são especialmente intimidantes. É amplamente controverso, pois há um alto risco de viés algorítmico fazer com que essas ferramentas não sejam reconhecidas (ou subestimadas) de pessoas de cor ou vigilância em massa de cidadãos. Isso é exatamente o que os cientistas Joy Bulamoyne, Cathy O’Neill e Meredith Broussard confirmaram no documentário. Viés codificado. Essas tecnologias de reconhecimento facial são baseadas em algoritmos de identificação de imagem usados em outro lugar no contexto de muitas outras aplicações inofensivas. Um reconhecimento por imagem ou vídeo do nível de maturação da fruta na linha de produção é um deles.
Leia tambémAurélie Jean-Gafam: Nós somos o calcanhar de Aquiles
Efeito bolha
Os algoritmos de classificação consistem em classificar os indivíduos por categoria de acordo com semelhanças estatísticas em seu comportamento e / ou dados pessoais. É provável que alguém na categoria goste do conteúdo que os alunos gostam. Pode ser uma série de um vídeo sob demanda, uma peça de roupa em um site de comércio eletrônico ou uma postagem no Twitter. Abusados, esses algoritmos podem construir categorias estritas que prendem os usuários em círculos opacos para observar o mundo e as opiniões. Nunca mais veremos o que pessoas diferentes de nós veem, gostam ou consomem. A ativista americana Ellie Barries relata o efeito da bolha.
No documentário Um dilema socialO engenheiro Tristan Harris compartilha sua própria experiência no Google, acreditando que os algoritmos ameaçam a democracia. Mas esses algoritmos, quando usados corretamente, também permitem avaliar o percentual de sucesso do tratamento médico de um paciente, ou enviar artigos relevantes para o site da sua revista.
Embora seja essencial e de interesse público continuar alertando sobre os riscos do algoritmo, também é importante articular o que pode ser bem feito com essas ferramentas. É por esta razão que o próximo regulamento europeu sobre estas questões deve afastar-se da posição conservadora e maniqueísta sobre esta ciência. E para se tornar uma referência global de acordo com uma visão precisa e realista … não uma distopia.
