Notícias
Compartilhar

Pesquisa aponta que algoritmos e inteligência artificial podem promover racismo no Brasil

Dados de estudo da Ação Educativa e da REDE Negra em Tecnologia e Sociedade, realizado com apoio da Fundação Mozilla, mostram a invisibilidade de pessoas negras no desenvolvimento de tecnologias. Falta de diversidade e baixa inclusão são problemas a serem combatidos no ambiente digital;

Uma pesquisa inédita realizada pela Ação Educativa e a REDE Negra em Tecnologias e Sociedade, com o apoio da Fundação Mozilla, aponta que tecnologias digitais que usam procedimentos algorítimicos, automatização e inteligência artificial podem promover a manutenção e até mesmo a intensificação do racismo estrutural no Brasil. Segundo as informações do estudo, por serem baseadas em dados de larga escala, sem mecanismos de representação adequados que possam atender as complexidades sociais, essas tecnologias podem contribuir para a sustentação do racismo. A pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade” será comentada neste sábado (27/11) em evento online, às 15h30. O estudo está disponível neste link.

O levantamento realizado entre maio e setembro deste ano contou com a colaboração de 113 especialistas no tema, com atuação em diversas áreas, das cinco regiões do país. O estudo mostra que a invisibilidade de pessoas negras e suas ideias sobre tecnologia devem ser consideradas como as principais prioridades antirracistas no meio digital e na sociedade.

Cada entrevistado pôde indicar até cinco respostas para a pergunta “Quais são suas prioridades sobre antirracismo na tecnologia?”. Ao analisar o conteúdo das respostas, os pesquisadores identificaram 18 preocupações em comum – no topo da lista, com 10,8%, aparece a invisibilidade das contribuições negras, afrocentradas e antirracistas na tecnologia. Problemas como falta de diversidade e inclusão; inteligência artificial e algoritimização; vigilância e violência estatal vêm empatados com 9,7% das respostas na sequência.

Quanto ao apagamento da colaboração de pessoas negras, os participantes afirmaram que as tecnologias não são neutras, mas a invisibilidade de suas relações de poder, histórias e controvérsias penalizam a justiça racial. Por consequência, afetam negativamente a superação dos impactos de séculos de racismo.

Ao responder sobre a falta de diversidade e de inclusão, seja na produção, desenvolvimento, ideias, análise e/ou controle das tecnologias, os entrevistados apontaram que essa realidade traz enorme prejuízo individual e coletivo para toda a sociedade brasileira.  

“Nessa resposta os participantes também ressaltaram que a presença das pessoas negras nesse meio, além de ser escassa, é desproporcional ao tamanho da população no país”, segundo a pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade”.

Vigilância e violência estatal

Segundo o estudo, os investimentos em tecnologias como parte das estratégias de prevenção à violência, especialmente nas grandes cidades, também são motivo de preocupação no combate ao racismo. Esses sistemas de monitoramento, com reconhecimento facial e biometria, são apontados na pesquisa como promotores de seletividade penal e encarceramento das populações negras e de baixa renda.

Metodologia

A pesquisa “Prioridades Antirracistas sobre Tecnologia e Sociedade” é uma consulta qualitativa, multisetorial, desenvolvida por um coletivo de ativistas e pesquisadoras/es da Rede Negra em Tecnologia e Sociedade com o apoio da Ação Educativa e Fundação Mozilla. Participaram especialistas ligados a organizações da sociedade civil, academia e universidades, imprensa, setor privado e governamental. Nesse grupo estão pessoas negras que refletem sobre o tema, promovem conteúdos e ações para equidade nas relações entre raça, tecnologia e sociedade.

O conteúdo está disponível em www.acaoeducativa.org.br  

Evento online

Neste sábado (27/11), às 15h30 a pesquisa será comentada no encontro “Diálogos Antirracistas sobre Tecnologia: Reconhecimento Facial e Segurança Pública”, promovido pelas redes sociais da Ação Educativa no www.youtube.com/acaoeducativa e www.facebook.com/acaoeducativa .

Participam do evento Ana Gabriela Ferreira, mestra em Direito Público pela Universidade Federal da Bahia e Co-Fundadora da Articulação Interamericana de Mulheres Negras nas Ciências Criminais e Luã Cruz, pesquisador na equipe de telecomunicações e direitos digitais do Idec (Instituto Brasileiro de Defesa do Consumidor) e mestrando em Divulgação Científica e Cultural pela Universidade Estadual de Campinas (Unicamp).

A mediação será de Glenda Dantas, jornalista pela Universidade Federal da Bahia, co-criadora da Conexão Malunga (plataforma de discussões sobre TIC’s para a autonomia) e pós-graduanda em Comunicação Estratégia (UFBA) e pesquisa sobre Identidades Digitais e Governança da Internet.

Ações sobre tecnologia

Entre as iniciativas ligadas à tecnologias digitais de informação e comunicação, a Ação Educativa lançou em 2021 o projeto TECLA – Tecnologia (em) Ação. A iniciativa é responsável por projetos de amadurecimento em cibersegurança e proteção de dados, participação em redes e campanhas de defesa de direitos digitais e cursos formativos como “Internet e Desigualdades” e “Bem-Viver na Internet”.

Comentários: