Os algoritmos, independentemente da nossa vontade, estão presentes no cotidiano de todos nós. São inerentes as transformações produzidas pelo campo das novas tecnologias computacionais de informação influenciando a nossa vida humana nas suas mais diversas formas.
O clássico exemplo dos algoritmos traz menção a uma receita de bolo. Pois corresponde a uma sucessão de procedimentos lógicos para executarmos uma tarefa ou resolver algum problema. Assim, de acordo com sua definição, os algoritmos ultrapassam a restrição dos computadores, estendendo sua aplicação para além da existência das tecnologias. Mas de que forma essa representação lógica ou matemática tem impactado nossa vida?
Por trás da aparente imparcialidade, os algoritmos podem esconder critérios que agravam injustiças e fortalecem desigualdades, marginalização indivíduos em sociedade.
Passamos a alguns exemplos de notícias sobre o assunto: Em 2015, o Google Fotos classificou pessoas negras como Gorilas. Uma pesquisa da Universidade Carnegie Mellon descobriu que as mulheres têm menos chances de receber anúncios de emprego bem remunerado no Google .
A Microsoft se viu obrigada a retirar um robô do Twitter porque em sua interação com seres humanos elaborava mensagens com conteúdo racista, sexista e xenófobo.
Isso, porque dentro do algoritmo existe não apenas o código, mas também existe a consciência social como um conceito ou termo que é frequentemente usado para representar algo (algo que não é necessariamente esse código em si).
Se o código é construído por programadores, seres humanos com seus próprios preconceitos, ele pode fomentar um certo ponto de vista e, às vezes, apenas refletir sua própria versão distorcida da realidade carregando para lógica da máquina seus vieses e representação da sua visão de mundo.
Por vez, a máquina se retroalimenta das variáveis definidas por esse contexto anterior, tomando decisões que são reflexo das relações sociais. Inclusive, teriam a capacidade de “aprender” os padrões culturais dos seres humanos.
Num contexto de uma sociedade marcada pelas desigualdades, elas podem assumir facetas opressivas, reproduzindo modos de discriminação e de dominação nas mais diversas vertentes: gênero, raça, etnia, classe social, etc.
Como pesquisadora, me desafio a entender o código a partir de um que desembaraço que pode ser feito por meio de análise de significados ideológicos, onde o “núcleo” do algoritmo não se refere somente ao conteúdo ou sua “organização não-manifesta”. Para além, observa o que é dito como significado, mas também o modo como é dito, e o que é não dito, mas poderia ser dito.
Embora uma tecnologia não determine uma sociedade, ela pode condicioná-la. De modo que a mais grave consequência dessa personalização é sermos levados a uma espécie de determinismo informativo, indo frente a perspectiva de acesso a um repertório diversificado de artefatos culturais, científicos, informativos e democráticos.
*A autora é mestranda em Ciência, Tecnologia e Sociedade pelo Programa PPGCTS da Ufscar. Bacharel em Tecnologias da Informação e Comunicação pela UFSC, com formação complementar em Engenharia Telemática pela UAH (Espanha). Pesquisadora no Instituto de Tecnologia e Equidade – IT&E na área de Democracia Digital. E-mail: ellen.lcaquino@gmail.com.
