Os riscos éticos associados ao uso da inteligência artificial na automação de processos nos bancos comerciais: Uma abordagem DEMATEL

Abstract

A presente dissertação analisa os riscos éticos que estão associados à utilização da inteligência artificial na automação de processos, no setor bancário. Os nove riscos principais foram extraídos da literatura sobre a ética da IA, onde foram separadas em dois grupos: os riscos éticos pelos autores e os riscos éticos que apesar de não estarem diretamente associados aos bancos, poderiam também fazer sentido associados diretamente a esse setor. Estes riscos foram avaliados por especialistas do setor, através de matrizes para posteriormente se proceder a uma análise DEMATEL. Os dados que foram extraídos da análise permitiram mapear as relações causa-efeito entre os riscos e perceber qual a influência que determinados riscos têm nos outros. Os resultados, em termos teóricos, contribuíram para a literatura uma vez que demonstraram a utilidade da análise no mapeamento das relações entre os riscos éticos, acrescentando informações empíricas no setor bancário. Para além disto, demonstrou-se que os riscos éticos não estão isolados uns dos outros, mas são sim parte de um sistema interdependente. Já em termos teórico-práticos, permitiram perceber quais os riscos que mais influenciam os restantes, assim como separar entre riscos “causa” e riscos “efeito”, de modo a dar uma perceção aos gestores sobre quais os que devem ser alvo de maior intervenção. Por fim, em termos práticos, demonstra a necessidade de suporte à auditoria no uso da IA, de integrar as várias dimensões sociais, organizacionais, para que haja uma probabilidade mínima da existência destes riscos.

This dissertation analyzes the ethical risks associated with the use of artificial intelligence in process automation within the banking sector. The nine main risks were extracted from the literature on AI ethics and were divided into two groups: the ethical risks directly associated with banks by the authors, and the ethical risks that, although not directly associated with banks, could also be relevant to this sector. These risks were assessed by industry experts using matrices, which were then used to conduct a DEMATEL analysis. The data extracted from the analysis allowed for the mapping of cause-and-effect relationships between the risks and an understanding of the influence that certain risks have on others. In theoretical terms, the results contributed to the literature by demonstrating the usefulness of the analysis in mapping the relationships between ethical risks, adding empirical information to the banking sector. Furthermore, it was shown that ethical risks are not isolated from one another but are part of an interdependent system. In practical-theoretical terms, the results made it possible to understand which risks have the greatest influence on the others, as well as to distinguish between "cause" risks and "effect" risks, in order to give managers an insight into which ones should be targeted for greater intervention. Finally, in practical terms, it demonstrates the need for audit support in the use of AI and for integrating various social and organizational dimensions to ensure a minimal probability of these risks occurring.