Documentário 'Coded Bias' mostra o impacto dos algoritmos das big techs - WHOW

Tecnologia

Documentário ‘Coded Bias’ mostra o impacto dos algoritmos das big techs

Filme engrossa coro sobre a responsabilidade das empresas de tecnologia em assumir responsabilidades perante as soluções que criam

POR Adriana Fonseca | 27/11/2020 16h45 Imagem reprodução do documentário Coded Bias Imagem reprodução do documentário Coded Bias

Não faltam documentários que abordam os perigos trazidos pelas big techs e as preocupações em torno de suas soluções. O mais comentado recentemente foi “O Dilema das Redes”, documentário da Netflix, que traz à tona os modelos de design manipulativos de algoritmos das mídias sociais.

Agora, em “Coded Bias”, a cineasta norte-americana Shalini Kantayya se aprofunda em como as redes sociais e os algoritmos das big techs estão impactando os grupos mais marginalizados da sociedade, no seu mais novo documentário.

O filme mostra como um grupo homogêneo de pessoas é responsável pelo rápido desenvolvimento da inteligência artificial e como preconceitos inerentes de suas visões de mundo são incorporados aos códigos.

Isso acontece desde a ferramenta de recrutamento da Amazon, que pode ter eliminado candidatas, até práticas discriminatórias de instituições bancárias e códigos que estão sendo transformados em armas pelas forças policiais e pelo governo. Coded Bias recorre a uma ampla gama de casos para construir um argumento para que haja mais checagem e equilíbrio nos algoritmos que hoje dirigem as vidas das pessoas.

Regulamentação das big techs

Os exemplos exibidos no documentário falam dos algoritmos de machine learning em diferentes esferas: publicidade, contratação, serviços financeiros, policiamento e muitos outros campos. Pelo argumento de Shalini, os robôs de inteligência artificial podem perpetuar as desigualdades de raça, classe e gênero existentes na sociedade.

O filme, além de criticar a tecnologia em si, argumenta que não se trata apenas dos robôs – o problema é mais amplo, porque mesmo se a tecnologia fosse perfeita, iria infringir a liberdade das pessoas. A cineasta detalha, por exemplo, os esforços da China para criar um programa de “crédito social” que usaria varreduras de rosto para rastrear a vida dos cidadãos e gerar pontuações que controlam seu acesso a vários serviços.

Ela mostra também que, nos Estados Unidos, empresas de redes sociais, outras corporações e agências de aplicação da lei vigiam as pessoas e influenciam suas informações e oportunidades de maneiras semelhantes. E tudo isso sem muita transparência. 

O tom unânime de Coded Bias é que precisa haver mais regulamentação nas big techs, especificamente para coibir abusos e falhas algorítmicas que perpetuam os vieses. Enquanto essas grandes discussões na legislação estão acontecendo nos tribunais, Shalini também quer que o documentário tenha um impacto mais imediato sobre os telespectadores.

Joy Buolamwini, estudante do MIT que aparece no documetário, tem uma palestra no TED Talks com mais de 1 milhão de views sobre a luta contra os vieses dos algoritmos. Ela estava trabalhando com um software de análise facial quando percebeu um problema: o software não detectou seu rosto – porque as pessoas que codificaram o algoritmo não o ensinaram a identificar uma ampla gama de tons de pele e estruturas faciais.

Depois disso, Joy tomou para si a missão de combater o preconceito no aprendizado de máquina, um fenômeno que ela chama de “olhar codificado”. A palestra é sobre a necessidade de apurar responsabilidades na programação à medida que os algoritmos assumem cada vez mais aspectos de nossas vidas.


+BIG TECHS

Big techs na mira do senado norte-americano
Algoritmos podem piorar a desigualdade social, aponta Harvard
Big techs e o problema do monopólio de poder
Big techs se unem para combater fake news