O reconhecimento facial não só traz a possibilidade de instaurar uma vigilância em massa, mas também contém uma tendência preconceituosa contra certos grupos de nossas sociedades – com as mulheres negras sendo as mais afetadas.
A difusão de novas tecnologias facilita o nosso cotidiano de muitas maneiras. Contudo, essas tecnologias, juntamente com a massa de dados coletados tanto pelos governos quanto por empresas privadas e os fluxos de dados permanentes, criaram ferramentas não só com potencial de vigilância em massa, mas também de exclusão e repressão. O reconhecimento facial é um exemplo de tecnologia com potencial para isso. A tecnologia per si não é nova, mas acapacidade de processamento, a diminuição dos custos para seu desenvolvimento, acompanhado do avanço da inteligência artificial, estão permitindo a sua proliferação ampla em várias áreas de aplicação. Hoje empresas e universidades como a Microsoft e a Stanford armazenam milhões de imagens de faces de pessoas no mundo em seus bancos de dados, alimentando tecnologias de reconhecimento facial.
Uso no Metrô de São Paulo é considerado controverso
Aqui no Brasil, esta tecnologia passou a ser mais discutida a partir de abril de 2018 quando um sistema de reconhecimento facial foi instalado na linha vermelha do Metrô de São Paulo. O sistema mudava anúncios exibidos aos passageiros conforme suas expressões faciais. Era possível detectar idade e sexo e classificar as emoções nas categorias feliz, insatisfeito, surpreso ou neutro. Desenvolvido pela empresa Via Quatro, o projeto foi implementado em conjunto com a LG, companhia multinacional de eletrônicos que forneceu as telas, e com a Hypera Pharma, uma grande empresa farmacêutica brasileira. Críticas como a de Jacqueline Abreu, coordenadora da área de Privacidade e Vigilância da InternetLab, publicada em um artigo no Vice, site estadunidense-canadense de cultura, contestam a iniciativa por ser uma forma de “interceptação ambiental com processamento automático de dado pessoal sensível, feita sem base jurídica por concessionária de serviço público para a exploração de terceiros”. A tecnologia parou de ser utilizada após uma ação civil do Idec (Instituto Brasileiro de Defesa do Consumidor) contra a Via Quatro. A Justiça decidiu, devido à falta de consentimento dos passageiros, que a operadora cessasse essa coleta de dados sob risco de multa diária de R$50 mil, em caso de descumprimento.
Por outro lado, há casos considerados positivos: a utilização de um sistema de reconhecimento facial nos ônibus de São Paulo bloqueou mais de 331.000 Bilhetes Únicos. Eles estavam sendo utilizados por terceiros que usavam os benefícios da gratuidade para idosos e pessoas com deficiência, além do desconto na tarifa para estudantes.
Em julho de 2019, o Metrô de São Paulo reapareceu no noticiário ao instalar um novo sistema de monitoramento, aumentando o parque de câmeras extensivamente e dessa vez com a opção de vincular o sistema aos bancos de dados da Secretaria de Segurança Pública para perseguição de foragidos da Justiça[i]. Segundo o presidente da companhia do Metrô Silvani Pereira, o sistema oferece muitas vantagens, por exemplo, possibilitaria ajudar a buscar crianças perdidas que estão circulando sozinhas no Metrô ou também faria parte da segurança antiterrorista por detectar objetos suspeitos.
Ameaças a liberdade e democracia
Essas coletas de dados biométricos sem consentimento provocaram muitas críticas por setores da sociedade civil. A maioria das críticas se baseia no argumento de que os custos sociais e de liberdade desse tipo de vigilância pesam mais que a segurança que ela pode promover. Não é dificil duvidar que haja realmente uma crise de segurança no Metrô para justificar o uso desse meio. O uso de fotografia de rostos de pessoas tem grande uso na história para a busca de criminosos e não apresentava questões éticas. Por outro lado a tecnologia de reconhecimento facial está ligada a bancos de dados gigantes que possibilitam não só um uso em processos criminais, mas como uma vigilância em massa, na qual não há diferenciação de quem está sendo monitorado. Essa ferramenta nas mãos de um governo com interesses questionáveis pode servir para instaurar controle sobre inimigos políticos, dissidentes ou outras pessoas não alinhadas com a política no poder.
O que são dados biométricos ?
Cada pessoa nesse planeta tem atributos fisiológicos únicos como DNA, impressão digital, íris, cheiro ou a maneira como a pessoa anda, a voz e também a distância entre certos pontos do rosto. Se essas informações forem gravadas, falamos sobre dados biométricos. Devido a seu caráter único, dados biométricos podem identificar pessoas sem necessidade de nomes ou cartas de identificação. Hoje, a tecnologia biométrica já chegou em nosso cotidiano e se tornou comum, por exemplo, ao desbloquear seu smartphone. Os fabricantes afirmam que a autenticação de dados biométricos é mais segura que as senhas tradicionais. Por outro lado, a tecnologia provoca perigos já que é fácil fazer uma cópia de uma impressão digital ou gravação de voz.O caso da China pode ser um exemplo. O regime comunista instaurou um sistema de “crédito social”, que nada mais é do que o uso de tecnologia de vigilância nas mãos de um governo. Na China todas as pessoas registradas pelas câmeras de reconhecimento facial, do sistema chamado SkyNet, quando se movem no espaço público são avaliadas com notas de acordo com seu comportamento cívico. Consequentemente, enfrentam penalidades ou recebem privilégios. Pagamento de multas, dívidas e infrações civis, mesmo até fumar em local público proibido são incluídos na avaliação, feita por algoritmos cujo código não é conhecido pelo público. Em caso de uma pontuação baixa, que significa uma “baixa confiabilidade” do cidadão, pode levar, por exemplo, a proibir uma pessoa de viajar de avião ou trem. O caso da China mostra como o reconhecimento facial pode contribuir com governos autocráticos para instaurar um controle social que viola o direito à privacidade. Deste modo, o reconhecimento facial usado no Metrô de São Paulo também poderia fazer com que ativistas, políticos ou pesquisadores críticos tivessem que evitar esses lugares.
Assim, produzir-se-ia um efeito de controle social tóxico para a democracia. Por tudo isso, o reconhecimento facial pode ser visto como ameaça à sociedade civil limitando o direito à privacidade, à liberdade de movimento,de reunião e associação, pilares dos Direitos Humanos[1]. Em suma, é necessário pôr a questão. Este tipo de tecnologia pode dar a policiais em delegacias o poder de identificação de quem participa de protestos, comícios políticos, reuniões de igreja ou até dos Alcoólicos Anônimos.
Índices de erro
Uma outra crítica presente é como usar o reconhecimento facial se esta tecnologia ainda tem índices de erro alto.Um estudo independente de dois pesquisadores da Universidade de Essex sobre o uso de reconhecimento facial em Londres, realizado entre junho 2018 e fevereiro 2019, por exemplo, mostrou números chocantes. O sistema operou com uma cota de sucesso de somente 19% e levou à detenção 42 pessoas e 8 pessoas procuradas pela polícia. Para alcançar esse resultado, o escaneamento de rostos de milhares de pessoas consideradas inocentes foi aceito. Segundo artigo da Wired, na final da UEFA Champions League, em 2017, um sistema de reconhecimento facial identificou 2.470 pessoas como criminosos dos quais somente 173 foram corretamente identificados. Isso significa um índice de erro de 92%. No Brasil, durante o carnaval carioca de 2019, as autoridades testaram um sistema com um índice de erro que ficou em 90%, segundo Joana Varon, fundadora da Coding Rights. Os dados coletados foram administrados pela Oi, empresa privada com histórico de ter sido multada por violações da privacidade de seus clientes. Esses índices de erro enfraquecem o argumento pró-reconhecimento facial de que a tecnologia aprimoraria a eficiência da polícia. Para ilustrar o problema dessa falta de precisão, podemos imaginar um outro serviço público como, por exemplo, uma ambulância com o mesmo índice de erro. Se você chamasse uma ambulância dez vezes e nove vezes, fosse um alarme falso, a indignação pública seria grande.
Viés e preconceitos nos algoritmos
Quando um sistema de reconhecimento facial foi testado no Metrô do Rio de Janeiro em julho de 2019, já no segundo dia a tecnologia falhou. Detectou uma mulher erroneamente como uma criminosa e em seguida ela foi encaminhada à delegacia em Copacabana. Além da falsa acusação, há algo importante neste caso:a vítima era uma mulher. Há outros casos nos quais os algoritmos de reconhecimento facial demonstraram que contêm viés e preconceitos contra mulheres e pessoas negras, principalmente, mulheres negras.
O caso do ativista do tema da tecnopolítica Jacky Alcinéé um dos exemplos desta questão.Em 2015, Jacky Alciné twittou que o aplicativo de fotos do Google nomeou automaticamente imagens dele e de sua namorada negra com a palavra "gorilas".
Fonte: https://br.boell.org/pt-br/2020/02/05/reconhecimento-facial-e-suas-controversias
