O algoritmo da rede social ofereceu aos usuários “mais vídeos de primatas” depois que um jornal britânico publicou pessoas negras.
A informação vem de O jornal New York Times, o que é particularmente prejudicial para os negócios de Mark Zuckerberg. Um ano atrás no tablóide britânico Correio diário transmitido em Site de rede social do Facebook Um vídeo chamado “O homem branco chama a polícia contra os negros na marina”. O vídeo com homens negros poderia ter passado despercebido, mas sem contar com a recomendação do algoritmo do Facebook que fez a pergunta. Assistindo mais vídeos de primatas? depois de assistir.
A informação compartilhada há poucos dias foi compartilhada pelo ex-designer do Facebook e depois amplamente difundida, e logo essa informação atraiu fortes críticas contra a rede social. do lado dele, O Facebook não escondeu seu constrangimento, informando ao porta-voz que o erro foi “inaceitável” : Pedimos desculpas a todos que se depararam com essas recomendações insultuosas.. A empresa desativou rapidamente sua ferramenta de recomendação e agora pretende encontrar uma solução para esse espinhoso problema.
Falta de diversidade no algoritmo do Facebook?
Depois dessa gafe, a empresa californiana agora tem como objetivo aprimorar sua inteligência artificial para prevenir esse tipo “acidentes” não aconteça novamente. “Embora tenhamos aprimorado nossos sistemas de IA, sabemos que eles não são perfeitos e que temos algum progresso a fazer”. Assim indicou o porta-voz oficial da empresa americana. Acusado de não investir o suficiente na luta contra o racismo e a discriminaçãoO Facebook sabe que já é uma corda bamba sobre isso. Em novembro de 2019, dezenas de funcionários denunciaram a cultura da empresa “Hostil a todos os que não são brancos.”
No entanto, essa falha por parte do algoritmo Site de rede social do Facebook Ele revela especificamente um problema metodológico: Não representar pessoas que sofrem de racismo, exibindo a figura branca como “Padrões”. Sem dúvida a rede social não buscou ser racista propositalmente ao associar negros a primatas, mas a sub-representação de negros em seu banco de dados sem dúvida contribuiu para o subtratamento de sua IA e, portanto, para esse erro.
