Viés humano, algoritmos e inteligência artificial

Abstract

No presente, os avanços tecnológicos marcam a evolução das sociedades modernas e é traçado um caminho sem perspetivas de retorno, sendo visível a integração massiva de sistemas inteligentes. Paralelamente, acelerou-se a construção de algoritmos inteligentes e robots humanizados que podem pensar, agir e decidir por nós, levantando várias questões éticas associadas à regulamentação e ao impacto do viés humano no desenvolvimento de máquinas inteligentes. O presente estudo tem como objetivo explorar a relação entre o Viés Humano e desenvolvimento de Algoritmos e da Inteligência Artificial; analisar a incorporação de valores e princípios humanos em sistemas inteligentes e compreender o impacto na tomada de decisão e no desenvolvimento social. O estudo é de cariz qualitativo intensivo com aplicação de entrevistas semiestruturadas a 22 indivíduos que representam um segmento da população nacional composto por adultos empregados, com níveis de escolarização superior e de literacia digital. Os resultados obtidos levaram à criação e aplicação do índice de (in)consciência social sobre o impacto do viés humano no desenvolvimento do Algoritmo e da Inteligência Artificial, envolvendo análise fatorial do nível de educação, literacia digital, competências digitais, profissão e motivação em saber mais, para compreensão das opiniões e perceções recolhidas, concluindo haver forte relação dos níveis de (in)consciência com os níveis de motivação/interesse individual, sendo da responsabilidade dos utilizadores querer ser consciente ou inconsciente do tipo de práticas sociais digitais aquando uso de sistemas inteligentes. O futuro está muito presente e é necessário refletir o que dele e com ele, tecnologicamente, pretendemos fazer.

At present, technological advances mark the evolution of modern societies and a path with no prospects of return is traced, with the massive integration of intelligent systems being visible. At the same time, the construction of intelligent algorithms and humanized robots that can think, act and decide for us has accelerated, raising several ethical questions associated with regulation and the impact of human bias in the development of intelligent machines. This study aims to explore the relationship between Human Bias and the development of Algorithms and Artificial Intelligence; analyze the incorporation of human values and principles into intelligent systems and understand the impact on decision-making and social development. The study is of an intensive qualitative nature, applying semi-structured interviews to 22 individuals who represent a segment of the national population composed of employed adults, with higher education and digital literacy levels. The results obtained led to the creation and application of the social (in)consciousness index on the impact of human bias on the development of intelligent systems, involving factor analysis of the level of education, digital literacy, digital skills, profession and motivation to know more, to understand the opinions and perceptions collected, concluding that there is a strong relationship between the levels of (un)consciousness and the levels of motivation/individual interest, being the users' responsibility to want to be conscious or unconscious of the type of digital social practices. The future is very present, and it is necessary to reflect what we intend to do with it and with it, technologically.