Em junho deste ano, o Metrô de São Paulo anunciou a instalação de novas câmeras nas estações da linha 3-Vermelha. Poderia ser apenas uma notícia corriqueira, mas a grande polêmica foi o uso de inteligência artificial nos aparelhos e aspectos de privacidade.
No mês seguinte, a Polícia Federal adquiriu um novo programa para cruzar dados biométricos, entre eles, de câmeras reconhecimento facial. Desde antes de essas tecnologias se popularizarem, especialistas já apontavam problemas em sua adoção.
Não são poucas as pesquisas que mostram erros graves cometidos pela inteligência artificial, principalmente com pessoas negras e pessoas trans. O principal argumento da defesa é em prol da segurança. Em contrapartida, a acusação pergunta: segurança de quem?
Erros no reconhecimento
"[É uma tecnologia que] tem sido usada para identificar 'classes perigosas', setores marginalizados", afirma o sociólogo Sérgio Amadeu da Silveira. "[Elas] são probabilísticas, têm erro embutido nesse reconhecimento", completa.
Com um vasto currículo de pesquisa na área de redes digitais e muitos livros sobre o assunto, Silveira ficou conhecido pelo seu ativismo a favor do software livre e da inclusão digital. Ele foi presidente do ITI (Instituto Nacional de Tecnologia da Informação) em 2003 e, hoje, é professor adjunto da UFABC (Universidade Federal do ABC).
O Tilt, canal de tecnologia do site Uol, conversou com Amadeu sobre a adoção de câmeras de reconhecimento facial no Brasil e seus "efeitos perversos", como ele considera. Sua opinião é clara: "Defendo um banimento — ou, no mínimo, uma moratória desse uso".
Leia a seguir o trecho da entrevista em que o sociólogo Sérgio Amadeu da Silveira comenta sobre as câmeras no Metrô. Se quiser ler a matéria na íntegra, clique aqui.
O Metrô de São Paulo está instalando câmera com inteligência artificial. Esse uso também é controverso?
Esse uso é inaceitável. Pode ser algo que será usado para afastar segmentos que serão considerados perigosos. Além de vender dados que eles vão captar por esses sistemas para vender produtos, já que podem detectar o seu estado de humor. Isso vai ser muito perigoso. É uma tecnologia que vai deixar o tempo todo mais pessoas à disposição de sistemas de modulação de comportamento. Sem contar que a pessoa não consentiu com o uso ou mesmo a captura de suas imagens. É um uso indevido e abusivo de dados biométricos, não dá para venderem o nosso estado emocional ou atuarem sobre ele a partir de sistemas biométricos.
Leia também:
Metrô de SP realiza mais um teste da pesquisa Origem Destino digital
Metrô de SP retoma instalação de portas de segurança em plataformas
ViaQuatro é condenada por gravar reações faciais
Reconhecimento facial no Metrô de São Paulo não garante privacidade
Linha-4 do Metrô de SP processada devido a câmeras que leem emoções