Impact of Artificial Intelligence on public policy automation: Benefits, risks, and pathways for responsible governance

Abstract

The integration of Artificial Intelligence (AI) into the Portuguese Public Administration creates a legal-technical deadlock, because modern Machine Learning (ML) systems are structurally incapable of fulfilling the duty to state reasons (iter cognoscitivo) mandated by Articles 152 and 153 of the Administrative Procedure Code (Código do Procedimento Administrativo). Despite the entry into force of the EU AI Act, a critical operational void remains, leaving public entities without tools to translate abstract compliance into daily engineering workflows. This dissertation addresses that gap through a Design Science Research methodology, producing a governance artifact, the Portuguese Algorithmic Impact Assessment (AIAPT), grounded in a Systematic Literature Review (PRISMA) of 107 peer-reviewed studies and 18 grey literature sources. The AIA-PT is structured around three pillars: risk classification with procedural escalation (Pillar I), engineering requirements and continuous AI lifecycle monitoring (Pillar II), and algorithmic transparency and ethics by design (Pillar III). The framework is evaluated through ex ante scenario-based demonstration across four domains: predictive triage (Health), recidivism risk assessment (Justice), tax evasion detection (Finance), and a municipal FAQ chatbot (Local Administration). The evaluation reveals that the AIA-PT acts as a vital regulatory safety net, successfully capturing highstakes sovereign functions, such as financial fraud detection by the Tax Authority, that are explicitly exempted from high-risk scrutiny under Annex III of the EU AI Act. Ultimately, the AIA-PT equips Portuguese public managers with the operational tools to deploy AI that is effective, constitutionally compliant, and democratically accountable.

A integração da Inteligência Artificial na Administração Pública Portuguesa cria um impasse técnico-legal, porque os sistemas modernos de machine learning são estruturalmente incapazes de cumprir o dever de fundamentação (iter cognoscitivo) exigido pelos artigos 152.º e 153.º do Código do Procedimento Administrativo. Apesar da entrada em vigor do EU AI Act, persiste um vazio operacional crítico, deixando as entidades públicas sem ferramentas para traduzir a conformidade abstrata em fluxos de trabalho de engenharia. Esta dissertação aborda essa lacuna através de uma metodologia de Design Science Research, produzindo um artefacto de governação, o Portuguese Algorithmic Impact Assessment (AIA-PT), fundamentado numa Revisão Sistemática da Literatura (PRISMA) de 107 estudos revistos por pares e 18 documentos de literatura cinzenta. O AIA-PT estrutura-se em três pilares: classificação de risco com escalonamento processual (Pilar I), requisitos de engenharia e monitorização do ciclo de vida da IA (Pilar II), e transparência algorítmica e ética desde a conceção (Pilar III). A framework é avaliada através de demonstrações ex ante em quatro domínios: triagem preditiva (Saúde), reincidência criminal (Justiça), evasão fiscal (Finanças) e chatbots municipais (Administração Local). A avaliação revela que o AIA-PT atua como uma rede de segurança regulatória vital, captando funções soberanas de alto risco, como a deteção de fraude financeira pela Autoridade Tributária, isenta do escrutínio de alto risco ao abrigo do Anexo III do EU AI Act. Em última análise, o AIA-PT equipa os gestores públicos portugueses com as ferramentas operacionais para implementar uma IA eficaz, constitucionalmente conforme e democraticamente escrutinável.