Impactos sociais do reconhecimento facial: Privacidade e vigilância

Abstract

A integração de dispositivos tecnológicos promovida pela Cibercultura transformou o espectro cotidiano e incluiu a esfera digital no universo das interações sociais, tornando os contextos on e offline quase indiferenciados. O desenvolvimento de tecnologias da informação representa um avanço do ponto de vista técnico, contudo o uso de técnicas de Reconhecimento Facial sob lógicas comerciais impacta o contexto social, pois conflita com as estruturas tradicionais de privacidade e mecanismos que regulamentam o processamento de informações biométricas baseados no consentimento emitido pelo utilizador no universo digital. Paralelamente, o uso de técnicas de vigilância sofisticadas inerentes às sociedades modernas torna o Reconhecimento Facial um aliado para as forças de segurança que viabiliza práticas de vigilância intrusivas, cuja influência do viés algorítmico e da automatização de processos criminais revela preocupações que atingem os diferentes grupos sociais de forma desproporcional. Diante deste enquadramento, propõe-se uma reflexão crítica sobre a mediação tecnológica associada aos contextos da privacidade e segurança, abordando a multiplicidade de danos decorrentes do processamento de informações pessoais de forma descontextualizada, e os desdobramentos deste processo na criação de subjetividades na esfera digital. Este enquadramento sugere a influência de questões raciais ligadas a processos históricos que moldam as práticas de vigilância permeadas por estereótipos hierarquizantes, que por seu turno são transferidos para a lógica sistêmica das decisões algorítmicas destacando a responsabilidade das empresas de tecnologia e das autoridades de segurança, além de questões éticas associadas ao universo da Inteligência Artificial.

The integration of technological devices promoted by Cyberculture transformed the everyday spectrum and included the digital sphere in the universe of social interactions, making the online and offline contexts almost undifferentiated. The development of information technologies represents an advance from a technical point of view however the use of Face Recognition techniques under commercial logic impacts the social context as it conflicts with traditional privacy structures and mechanisms that regulate the processing of biometric information based on consent issued by the user in the digital universe. At the same time, the use of sophisticated surveillance techniques inherent in modern societies makes Face Recognition an ally for the security forces that enables intrusive surveillance practices, whose influence of algorithmic bias and the automation of criminal processes reveals concerns that affect different social groups disproportionately. Given this framework, it is proposed a critical reflection on technological mediation associated with the contexts of privacy and security, addressing the multiplicity of damage resulting from the processing of personal information in a decontextualized way, and the consequences of this process in the creation of subjectivities in the digital sphere. This framework suggests the influence of racial issues linked to historical processes that shape surveillance practices permeated by hierarchical stereotypes, which in turn are transferred to the systemic logic of algorithmic decisions highlighting the responsibility of technology companies and security authorities, in addition of ethical issues associated with the universe of Artificial Intelligence.