Reflexões sobre algoritmos e racismo

...

Estamos no mês da consciência negra e, aqui na ArtMax, voltamos nossa atenção para alguns pontos de encontro relacionados ao tema e o nosso campo de atuação.

Recentemente vieram à tona nas redes sociais algumas discussões sobre racismo algorítmico e nada melhor do que aproveitarmos o dia da Consciência Negra para falar um pouco mais sobre o assunto.

Os algoritmos são nada mais do que uma série de instruções que implementam um tipo de procedimento, como cruzamento de dados, em sistemas comumente baseados em inteligência artificial, que automatizam decisões e processos. Em entrevista ao Alma Preta, o profissional Tarcizio Silva, Tech + Society Fellow na Mozilla Foundation, explica que algumas interfaces e sistemas automatizados, como é o caso das mídias sociais, podem reforçar dinâmicas racistas. Dentre as consequências, o especialista levanta alguns exemplos de danos que podem vir a ser causados por esse tipo de inteligência:

  • Danos potenciais, ocasionando a perda de oportunidades relacionada a habitação, educação e emprego;
  • Perda financeira, pela falta de acesso a crédito ou preços promocionais;
  • Estigmatização social, estabelecida através do reforço de estereótipos em mecanismos de busca.

Quem possui um olhar um pouco mais crítico sobre as redes sociais, muito provavelmente já deve ter percebido alguns dos impactos desses sistemas, seja através da recomendação de conteúdo, reconhecimento facial, entre outros. Algumas das redes sociais que usamos ainda escolhem, a partir destes mecanismos, quais conteúdos irão ter mais visibilidade ou não, moldando o tipo de informação cada um de nós poderá ter acesso no dia a dia.

É importante relembrar que o problema não está nos algoritmos por si só. Os algoritmos são feitos por pessoas inseridas em uma sociedade estruturalmente racista, que por vezes constroem tecnologias discriminatórias. O caminho para mudar este cenário é longo, mas precisa-se acima de tudo que a tecnologia seja pensada e analisada a partir de uma olhar mais diverso e plural.

Então, antes de cobrarmos uma postura dos nossos filhos e das nossas crianças, precisamos dar o exemplo. Se queremos que eles fiquem mais off, vamos ficar também.

Quer aprender mais sobre o assunto? Acesse:

https://tarciziosilva.com.br/blog/

https://www.geledes.org.br/racismo-algoritmico-pesquisador-mostra-como-os-algoritmos-podem-discriminar/

https://almapreta.com/editorias/realidade/como-os-algoritmos-das-redes-sociais-sao-impactados-pelo-racismo

Beatriz
Beatriz Pires,Digital Planner
18 de Novembro 2020