por Traduzido por Cezar Xavier
Publicado 15/12/2021 21:04 | Editado 15/12/2021 21:09
Os problemas já estão surgindo.
Pessoas marginalizadas costumam sofrer mais danos devido às consequências indesejadas das novas tecnologias. Por exemplo, os algoritmos que tomam decisões automaticamente sobre quem pode ver qual conteúdo ou como as imagens são interpretadas sofrem de preconceitos raciais e de gênero . Pessoas com múltiplas identidades marginalizadas, como negros e deficientes físicos, correm ainda mais riscos do que aquelas com uma única identidade marginalizada.
É por isso que quando Mark Zuckerberg expôs sua visão para o metaverso – uma rede de ambientes virtuais em que muitas pessoas podem interagir umas com as outras e objetos digitais – e disse que afetaria todos os produtos que a empresa constrói, fiquei com medo. Como pesquisadora que estuda as interseções de raça, tecnologia e democracia – e como mulher negra – acredito que é importante considerar cuidadosamente os valores que estão sendo codificados nesta internet de próxima geração.
Uma divisão racial já está surgindo no valor de avatares que representam usuários em ambientes virtuais. Vetores yuoak / DigitalVision por meio de imagens Getty
Os problemas já estão surgindo. Os avatares, as personas gráficas que as pessoas podem criar ou comprar para se representar em ambientes virtuais, têm preços diferentes com base na raça percebida do avatar, e o assédio racista e sexista está surgindo nos ambientes imersivos pré-metaversos de hoje.
Visões utópicas versus realidades difíceis
As visões utópicas nos primeiros dias da internet costumavam afirmar que a vida online seria radicalmente diferente da vida no mundo físico. Por exemplo, as pessoas imaginaram a internet como uma forma de escapar de partes de sua identidade, como raça, gênero e distinções de classe. Na realidade, a internet está longe de ser sem raça .
Enquanto as tecno-utopias comunicam visões desejadas do futuro, a realidade das novas tecnologias muitas vezes não corresponde a essas visões. Na verdade, a internet trouxe novas formas de danos à sociedade, como a disseminação automatizada de propaganda nas redes sociais e o preconceito nos algoritmos que moldam sua experiência online .
Zuckerberg descreveu o metaverso como uma internet mais imersiva e incorporada, que “ desbloqueará muitas experiências novas e incríveis ”. Esta é uma visão não apenas de uma internet futura, mas de um modo de vida futuro. Por mais fora do alvo que essa visão possa estar, é provável que o metaverso – como as versões anteriores da internet e da mídia social – tenha consequências generalizadas que transformarão a forma como as pessoas se socializam, viajam, aprendem, trabalham e se divertem.
A questão é: essas consequências serão iguais para todos? A história sugere que a resposta é não.
A tecnologia nunca é neutra
As tecnologias amplamente utilizadas geralmente assumem identidades e corpos masculinos brancos como o padrão. A cientista da computação do MIT, Joy Buolomwini , mostrou que o software de reconhecimento facial tem um desempenho pior em mulheres e ainda mais em mulheres com rostos mais escuros. Outros estudos confirmaram isso.
A branquidade é incorporada como padrão nessas tecnologias, mesmo na ausência de raça como uma categoria para algoritmos de aprendizado de máquina. Infelizmente, o racismo e a tecnologia costumam andar de mãos dadas. Políticas e jornalistas negras foram desproporcionalmente alvos de tweets abusivos ou problemáticos, e eleitores negros e latinos foram alvos de campanhas de desinformação online durante o ciclo eleitoral de 2020.
Essa relação histórica entre raça e tecnologia me deixa preocupada com o metaverso. Se o metaverso pretende ser uma versão incorporada da internet, como Zuckerberg o descreveu, isso significa que as pessoas já marginalizadas experimentarão novas formas de dano?
Facebook e sua relação com os negros
A relação geral entre tecnologia e racismo é apenas parte da história. A Meta tem um relacionamento ruim com usuários negros em sua plataforma do Facebook, e com mulheres negras em particular.
Em 2016, os repórteres do ProPublica descobriram que os anunciantes no portal de publicidade do Facebook poderiam excluir grupos de pessoas que veem seus anúncios com base na raça dos usuários , ou o que o Facebook chamou de “afinidade étnica”. Essa opção recebeu muitas críticas porque o Facebook não pergunta a seus usuários qual é a raça, o que significa que os usuários foram atribuídos a uma “afinidade étnica” com base em seu envolvimento na plataforma, como as páginas e postagens de que gostaram.
Em outras palavras, o Facebook estava essencialmente traçando perfis raciais de seus usuários com base no que eles gostam e preferem em sua plataforma, criando a oportunidade para os anunciantes discriminarem as pessoas com base em sua raça. Desde então, o Facebook atualizou suas categorias de segmentação de anúncios para não incluir mais “afinidades étnicas”.
No entanto, os anunciantes ainda podem atingir as pessoas com base em sua corrida presumida por meio de proxies de corrida , que usam combinações de interesses dos usuários para inferir corridas. Por exemplo, se um anunciante vê nos dados do Facebook que você expressou interesse na cultura afro-americana e nos BET Awards, ele pode inferir que você é negro e direcioná-lo a anúncios de produtos que deseja comercializar para negros.
Pior, o Facebook frequentemente remove comentários de mulheres negras que falam contra o racismo e o sexismo. Ironicamente, os comentários das mulheres negras sobre racismo e sexismo estão sendo censurados – coloquialmente conhecidos como “zucked” – por violarem ostensivamente as políticas do Facebook contra o discurso de ódio. Isso é parte de uma tendência maior dentro das plataformas online de mulheres negras serem punidas por expressar suas preocupações e exigir justiça nos espaços digitais.
De acordo com um relatório recente do Washington Post, o Facebook sabia que seu algoritmo estava prejudicando desproporcionalmente os usuários negros, mas optou por não fazer nada.
Um metaverso democraticamente responsável
Em uma entrevista com Vishal Shah, vice-presidente de metaverso de Meta, o apresentador da National Public Radio Audie Cornish perguntou : “Se você não consegue lidar com os comentários no Instagram, como pode lidar com a camiseta que contém discurso de ódio no metaverso ? Como você pode lidar com a manifestação de ódio que pode acontecer no metaverso?” Da mesma forma, se os negros são punidos por falarem contra o racismo e o sexismo online, então como eles podem fazer isso no metaverso?
Garantir que o metaverso seja inclusivo e promova os valores democráticos em vez de ameaçar a democracia requer justiça de design e regulamentação da mídia social.
Justiça de design é colocar pessoas que não têm poder na sociedade no centro do processo de design para evitar a perpetuação das desigualdades existentes. Também significa começar com uma consideração de valores e princípios para orientar o design .
As leis federais protegeram as empresas de mídia social da responsabilidade pelas postagens e ações dos usuários em suas plataformas. Isso significa que eles têm o direito, mas não a responsabilidade, de policiar seus sites . Regulamentar a Big Tech é crucial para enfrentar os problemas da mídia social hoje, e pelo menos tão importante antes de construir e controlar a próxima geração da Internet .
O metaverso e eu
Não sou contra o metaverso. Eu sou a favor de um metaverso democraticamente responsável. Para que isso aconteça, porém, afirmo que é necessário haver melhores estruturas regulatórias para as empresas de Internet e mais processos de design apenas para que a tecnologia não continue a se correlacionar com o racismo.
Da forma como está, os benefícios do metaverso não superam seus custos para mim. Mas não precisa ficar assim.
Breigha Adeyemo é doutoranda em Comunicação na Universidade de Illinois em Chicago.
Autor : Traduzido por Cezar Xavier
Fonte: Portal Vermelho
16/12/2021