"The dark side of the moon": A structured analysis of generative AI: Chatbots' negative effects on SMEs

Abstract

Generative Artificial Intelligence (GenAI), despite its longstanding existence, is currently more powerful than ever and has gathering unprecedented levels of attention. Chatbots, built upon these sophisticated systems, are an example of it. These tools can address text questions across a wide array of subjects, at any given moment, and because of that they have been capturing the interest of the public, academics, researchers, and companies. The business world is eager to leverage these tools to gain a competitive advantage and be more efficient. Nevertheless, every innovation comes with its own set of challenges, often presenting a “dark side of the moon” that can prove catastrophic for small and medium-sized enterprises (SMEs). Unlike larger companies, SMEs often have limited resources for implementing such tools and, in the literature, they have little information tailored to their reality. Therefore, this dissertation aims to provide SMEs with a tailored structured framework that identifies and understands the negative impacts of GenAI chatbots, along with their underlying cause-and-effect relationships. Furthermore, this study also prioritizes the key issues associated with these tools, emphasizing the need for their mitigation. To achieve these results, the study employs cognitive mapping, the Nominal Group Technique (NGT), and Interpretive Structural Modeling (ISM), complemented by the Matrice d’Impacts Croisés Multiplication Appliquée à un Classement (MICMAC) analysis. These methodologies are based on group discussion between a panel of field experts throughout two sessions. Subsequently, the findings are consolidated with neutral experts in the process to ensure the robustness of the final model and to offer pertinent suggestions.

Apesar da sua longa existência, a Inteligência Artificial Generativa (IAGen) está mais poderosa do que nunca e tem atraído muita atenção recentemente. Os chatbots, construídos através desses sistemas sofisticados, são um exemplo disso. Estas ferramentas conseguem responder a perguntas em forma de texto sobre uma ampla variedade de assuntos, a qualquer momento. As suas capacidades evoluíram significativamente, captando o interesse do público, académicos, investigadores e empresas. Consequentemente, o mundo empresarial está ávido por explorar o potencial destas ferramentas para obter uma vantagem competitiva e ser mais eficiente. No entanto, toda a inovação vem acompanhada do seu próprio conjunto de desafios, frequentemente apresentando um “lado escuro da lua” que pode ser catastrófico para pequenas e médias empresas (PMEs). Ao contrário do que acontece com as maiores empresas, as PMEs possuem recursos limitados para implementar estas ferramentas e existe pouca informação na literatura adaptada às suas realidades. Posto isto, o objetivo desta dissertação é fornecer às PMEs um modelo estruturado adaptado ao seu contexto que identifique e compreenda os impactos negativos dos "chatbots", juntamente com as suas relações de causa e efeito subjacentes. Adicionalmente, este estudo também prioriza os fatores negativos chave associados a estas ferramentas, enfatizando a necessidade de mitigá-los. Para alcançar estes resultados, o presente estudo aplica o mapeamento cognitivo, a técnica de grupo nominal e o "Interpretive Structural Modeling" (ISM), complementado pela análise "Matrice d’Impacts Croisés Multiplication Appliquée à un Classement" (MICMAC). Estas metodologias são baseadas na discussão de grupo com recurso a um painel de especialistas na área, ao longo de duas sessões. Posteriormente, os resultados são consolidados com especialistas neutros ao processo para garantir a robustez do modelo final e oferecer sugestões pertinentes.