Desenvolvimento de iniciativas facilitadoras do uso de chatbots empresariais através de Explainable AI (XAI)

Abstract

A crescente adoção de chatbots por parte das empresas tem sido fortemente impulsionada pelo avanço da Inteligência Artificial Generativa (IAG). No entanto, a opacidade dos algoritmos subjacentes a esta tecnologia acarreta desafios ao nível da transparência, com questões sobre a aceitação e a confiança dos utilizadores. Perante este cenário, a literatura relativa à facilitação do uso de chatbots por meio da Explainable Artificial Intelligence (XAI) é escassa, o que resulta em duas lacunas que se procuram resolver na presente investigação: (1) falta de clareza sobre iniciativas facilitadoras do uso de chatbots empresariais e XAI; e (2) falta de estudos que investiguem as relações de causa-efeito entre essas mesmas iniciativas. Para superar essas limitações, serão aplicadas metodologias de natureza construtivista, nomeadamente: Nominal Group Technique (NGT) e o método Interpretive Structural Modeling (ISM) combinado com a Lógica Neutrosófica, com o objetivo de estruturar e avaliar o problema de decisão intrínseco ao estudo. Estes métodos foram aplicados ao longo três sessões de trabalho, recorrendo, para isso, a um painel de decisores com experiência profissional e conhecimento aprofundado sobre o tema. Os resultados obtidos foram validados por uma expert da Agência Nacional para Inovação (ANI), externa ao processo, a fim de conceber maior credibilidade ao modelo proposto. Como resultado, foi desenvolvido um modelo de avaliação transparente e robusto, capaz de apoiar no processo de tomada de decisão neste domínio.

The growing adoption of chatbots by companies has been strongly driven by advances in Generative Artificial Intelligence (GAI). However, the opacity of the algorithms underlying this technology presents challenges in terms of transparency, raising concerns about user acceptance and trust. In light of this, the literature on facilitating the use of chatbots through Explainable Artificial Intelligence (XAI) is scarce, leading to two gaps that this research aims to address: (1) a lack of clarity regarding initiatives that facilitate the use of business chatbots and XAI; and (2) a lack of studies investigating the cause-andeffect relationships among these initiatives. To overcome these limitations, constructivist methodologies are applied, namely: Nominal Group Technique (NGT) and the Interpretive Structural Modeling (ISM) method combined with Neutrosophic Logic, with the aim of structuring and evaluating the decision problem intrinsic to the present study. These methods were applied across three working sessions, using a panel of decision-makers with professional experience and in-depth knowledge of the subject. The results were validated by an expert from the National Innovation Agency (ANI, in Portuguese) external to the process, in order to enhance the credibility of the proposed model. As a result, a transparent and robust evaluation model was developed, capable of supporting the decision-making process in this study domain.