Início » Internacional » A tecnologia pode ser racista?
RACISMO?

A tecnologia pode ser racista?

Carros sem motoristas podem ser um exemplo perigoso de como ocorre o racismo na tecnologia

A tecnologia pode ser racista?
A maioria dos carros autônomos, porém, existe mais de um sensor de segurança (Foto: Wikimedia)

Existe uma regra para lidar com computadores: lixo entra, lixo sai. Coloque o número errado de zeros em sua planilha do Excel e ele irá, sem pensar, pagar sua equipe com os números a mais; treinar um carro autônomo para reconhecer figuras humanas, mostrando milhões de fotos de pessoas brancas, pode trazer dificuldade em identificar pedestres de outras raças.

Essa foi a descoberta de pesquisadores da Georgia Tech, que analisaram a eficácia de vários sistemas de “visão de máquina” ao reconhecer pedestres com diferentes tons de pele. Os resultados foram alarmantes: os sistemas de inteligência artificial eram consistentemente melhores em identificar pedestres com tons de pele mais claros do que os mais escuros. E não por um pouquinho: uma comparação ugere que uma pessoa branca tem 10% mais chances de ser identificada corretamente como pedestre do que uma pessoa negra.

Os carros autônomos não são, de forma alguma, a primeira tecnologia a falhar quando confrontados por outras etnias: o sistema de reconhecimento de imagens do Google notoriamente falha em diferenciar os negros de gorilas. Quase todos os designs de produtos não conseguiram lidar com a realidade da humanidade, desde o filme colorido da Kodak, que reduziu a pele escura a uma mancha escura; a torneiras e secadores ativados por movimento que se recusam a reconhecer a presença de uma mão negra, mas que são acionados por uma branca.

A boa notícia é que a maioria dos carros autônomos existentes usa mais de um tipo de sensor, incluindo vários que não dependem de luz visível: os carros da Tesla, por exemplo, têm um radar embutido na frente do veículo, enquanto o Waymo, do Google, usa um sistema por  volume, mas extraordinariamente preciso, como um radar, mas com lasers.

A má notícia é que há uma forte pressão do mercado para migrar para sistemas somente de câmeras, devido à enorme economia de custos. Tais sistemas só atingiriam as ruas em grande número se mostrassem significativamente mais seguros que os condutores humanos, mas mesmo isso levanta a importante questão: mais seguro para quem?

 

Leia também: Carros autônomos podem vão redefinir transportes urbanos

Fontes:
The Guardian-The racism of technology - and why driverless cars could be the most dangerous example yet

Os comentários são de responsabilidade de seus autores e não refletem a opinião deste site

Sua Opinião

O seu endereço de email não será publicado. Campos obrigatórios são marcados *