A Inteligência Artificial na Administração Pública Portuguesa: Desafios, Riscos e Promessas do AI Act

Introdução

“O verdadeiro paraíso é o paraíso perdido”, escrevia Marcel Proust nas páginas finais da sua última obra, Le Temps retrouvé. Perguntar-se-á, talvez, se um dia falaremos assim do mundo pré-digital…. Certo é que o futuro já bate à porta. Vivemos hoje um processo de transformação acelerada, frequentemente designado como “nova revolução industrial”, “quarta revolução industrial” ou, ainda, “revolução algorítmica”. Esta transformação implica o uso de algoritmos, “coding” e grandes volumes de dados (“big data”), nomeadamente nos processos de tomada de decisão. A chamada “revolução algorítmica” já não é uma promessa futura: é o presente concreto das sociedades contemporâneas. Abrange não apenas os sectores produtivo, comercial e dos serviços, mas também as administrações públicas.

Neste contexto, surgiu o termo “inteligência artificial” (IA) para designar máquinas concebidas com o objectivo de imitar a inteligência humana e as suas funções cognitivas, como a resolução de problemas e a aprendizagem. A Administração Pública não escapa a este movimento: chamada a modernizar-se, entrou nele a toda a velocidade, por vezes na margem da legalidade. Surgem, assim, problemas específicos: procedimentos digitais e decisões administrativas produzidas em massa, limites da automatização, natureza jurídica dos algoritmos, controlo jurisdicional das decisões digitais. Perante estes novos desafios, o legislador português (e europeu) vê-se envolvido numa autêntica corrida contra o tempo.

Coloca-se, portanto, um dilema essencial: poderá a Administração Pública continuar verdadeiramente humana numa era de decisões automatizadas? Após uma contextualização preliminar, proceder-se-á à análise das vantagens e dos riscos da inteligência artificial na Administração Pública e, em seguida, ao exame do enquadramento jurídico vigente, para finalmente abordar as inovações introduzidas pelo Regulamento EU 2024/1689 de 13 de junho de 2024[1](doravante “AI Act”) e os respectivos limites. Pretende-se, entre outros aspectos, avaliar se o actual sistema normativo é suficiente para garantir a transparência, a legalidade e a tutela efectiva dos direitos fundamentais dos particulares.

A tese defendida é que a regulação actual é bem orientada, mas não suficiente: a legislação em vigor confere direitos subjectivos públicos que tendem a proteger os particulares, mas a sua eficácia depende da concretização e efectivação prática. O AI Act representa um avanço significativo; todavia, a introdução da inteligência artificial na Administração Pública traduz uma mudança de paradigma que exige mais do que a consagração de novos direitos subjectivos públicos, impondo o reconhecimento de um novo direito fundamental: o direito à intervenção e à inteligência humanas.

---

[1] Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 on Artificial Intelligence, JO L 202, 12.7.2024, pp. 1–260.

I. Entre a máquina e o humano: o novo dilema do Estado “algorítmico”

1. Definições de referência para a Inteligência Artificial

A definição e a delimitação do conceito de inteligência artificial (IA) não são unívocas[1]. A OCDE, num estudo de 2019, L’intelligence artificielle dans la société[2], define um sistema de inteligência artificial como “um sistema automatizado que, para um conjunto determinado de objectivos definidos pelo homem, é capaz de estabelecer previsões, formular recomendações ou tomar decisões que influenciam ambientes reais ou virtuais”.  A Comissão Europeia[3] segue linha semelhante, salientando que a IA designa “qualquer ferramenta utilizada por uma máquina capaz de reproduzir comportamentos associados ao ser humano, tais como o raciocínio, a planificação e a criatividade”. Na doutrina portuguesa, a Dra. Beatriz Garcia[4] define a IA como “o conjunto de tecnologias que permitem que tarefas que, até hoje, requeriam uma intervenção humana, sejam levadas a cabo por mecanismos tecnológicos elaborados e formatados por especialistas através de algoritmos que, funcionando com base em dados, são cuidadosamente criados e programados para, respondendo a estímulos, realizar determinadas tarefas, com maior ou menor grau de autonomia”. Por sua vez, o AI Act[5]no seu art. 3.º, apresenta uma definição harmonizada com a da OCDE. De acordo com o diploma europeu, entende-se por sistema de IA “um sistema baseado em máquinas, concebido para operar com diferentes níveis de autonomia e que pode apresentar capacidade adaptativa após a sua implementação; que, para objectivos explícitos ou implícitos, infere, a partir das entradas que recebe, a forma de gerar saídas - como previsões, conteúdos, recomendações ou decisões - susceptíveis de influenciar ambientes físicos ou virtuais”. Esta definição assenta na autonomia do sistema, e não nas técnicas concretas utilizadas.

2. Pluralidade de inteligências artificiais e progressão na autonomia

Importa distinguir “machine learning[6]”, “deep learning” e “automation” (automatização ou, mais recentemente, automação)[7]. O “deep learning” é a vertente mais avançada do aprendizado automático. Os seus algoritmos podem melhorar os resultados de forma autónoma, por repetição e sem intervenção humana, exigindo, contudo, grandes volumes de dados, frequentemente diversos e não estruturados. Esta característica confere à tecnologia um maior grau de imprevisibilidade, que a coloca, pelo menos parcialmente, fora do controlo humano directo. Existem ainda diferentes níveis de automatização, que podem ir desde o simples apoio à decisão humana até à eliminação total da intervenção humana.

3. Um processo civilizacional e não apenas tecnológico

A revolução algorítmica e a “dataficação” da vida humana constituem um processo civilizacional, e não apenas tecnológico. Desde a reflexão pioneira de Alan Turing[8], a IA evoluiu profundamente, transformando economias e sociedades, com promessas de produtividade e bem-estar. Os governos recorrem cada vez mais à IA para melhorar a comunicação e apoiar a decisão pública, mas esta disseminação suscita sérias interrogações sobre a equidade, a privacidade, a segurança e a responsabilidade - sobre o próprio lugar do ser humano nesta revolução. Em Portugal, a IA parece ajustar-se às exigências de boa administração, mas o seu uso ainda se encontra numa fase inicial[9].

 

---

[1] MESQUITA NUNES, Adolfo; RIBEIRO FERREIRA, Francisco, “O Regulamento da IA: o que tem a Administração Pública de fazer?”, Revista de Direito Administrativo, n.º 21 (2024).

[2] OECD (2019), Artificial Intelligence in Society. Paris, OECD Publishing.

[3] Commission européenne. (2020). White Paper on Artificial Intelligence – A European approach to excellence and trust. Bruxelles : Commission européenne.

[4] Garcia, B. (2025). A Responsabilidade Civil Extracontratual do Estado e Demais Entidades Públicas por Danos Decorrentes da Utilização de Inteligência Artificial no Exercício da Função Administrativa. Lisboa: AAFDL Editora. p.30

[5] Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 on Artificial Intelligence, JO L 202, 12.7.2024, pp. 1–260.

[6] O “machine learning” se refere a sistemas informáticos capazes de aprender e adaptar-se automaticamente a partir dos dados, sem necessidade de programação explícita.

[7] LANCEIRO, Rui Tavares, “AI and Public Administration: What Is to Come from the AI Act?”, em PEREIRA DA SILVA, Vasco; KÄMMERER, Jörn Axel; GALETTA, Diana-Urania (eds.), New Public Tasks in Times of Tension, Napoli, Editoriale Scientifica, 2024, pp.263-278.

[8] TURING Alan, Computing machinery and Intelligence, 1950, obra considerada como fundamento teórico da futura IA.

[9] Segundo um estudo recente da DGEEC, os principais entraves residem na incerteza jurídica, na falta de competências técnicas e na qualidade dos dados, revelando que a revolução algorítmica é, antes de mais, um desafio cultural e civilizacional.

II. A promessa da Inteligência Artificial na Administração Pública: eficiência, objectividade e racionalização do poder público

1. O encanto prometido da Inteligência Artificial

As promessas associadas à IA são múltiplas: celeridade, redução de custos, eficácia e imparcialidade. A IA apresenta-se como instrumento de maior consistência e redução do erro humano, enquanto se destaca pela sua capacidade analítica para detectar irregularidades e padrões anómalos, combatendo corrupção e desperdício. Encara-se como a concretização de um sonho milenar de ubiquidade e de omnisciência, em que o poder público se tornaria mais presente, racional e previsível.

2. A quintessência da boa administração

A IA é frequentemente associada ao ideal de boa administração, entendida como a actuação administrativa eficiente, racional, transparente e próxima dos cidadãos. A sua incorporação surge no quadro da modernização administrativa, em conformidade com os princípios constitucionais (art. 267.º, n°1 da CRP), o CPA (art. 5.º, n.º 1 e 2) e o artigo 41.º da Carta dos Direitos Fundamentais da União Europeia (CDFUE), que impõem à Administração o dever de assegurar uma gestão eficaz e acessível. Entre as principais potencialidades da IA destacam-se: a automatização de procedimentos e consequente celeridade decisória; a uniformização e consistência das decisões administrativas; o apoio técnico em matérias complexas, melhorando a qualidade do planeamento e a tomada de decisão[1]; a melhor gestão dos dados públicos e a prevenção da fraude; a acessibilidade contínua e a interacção personalizada com o cidadão[2]. Instrumento de objectivação da decisão administrativa, a IA tem vindo a ser incorporada na tomada de decisões processando grandes volumes de dados[3].

3. O limite da promessa tecnocrática revolucionária

As novas ferramentas tecnológicas podem melhorar a eficácia dos órgãos administrativos, tanto na análise de dados e na optimização da afectação de recursos, como na execução de procedimentos repetitivos. Tudo isto representa uma revolução na Administração Pública. Todavia, subsiste uma incógnita: a IA é eficiente, mas será ela sempre justa[4]? Poderá a racionalidade algorítmica substituir a razão e a sensibilidade humanas sem comprometer a legitimidade e a justiça da decisão administrativa?

---

[1] designadamente em domínios como a saúde, a educação ou a gestão territorial.

[2] através de “chatbots”, atendimento digital, tradução automática e serviços disponíveis 24 horas por dia, 7 dias por semana.

[3] Essencialmente: saúde, educação, segurança pública, mobilidade

[4]ABREU DUARTE, Francisco; TAVARES LANCEIRO, Rui, “Vulnerability and the Algorithmic Public Administration”, Revista da Faculdade de Direito da Universidade de Lisboa, vol. LXII, n.º 1 (2021), pp. 283-304.

III. O lado obscuro da automatização: riscos jurídicos, éticos e o desafio da responsabilidade

1. Capacidade administrativa, literacia digital e soberania decisória da Administração Pública

A formação técnica e jurídica é indispensável para operar na Administração algorítmica, mas a falta de literacia digital faz com que a Administração dependa de “softwares” privados e de segredos comerciais. Isso dificulta a transparência e aumenta o risco de perda de soberania numa Administração Pública cada vez mais privatizada.

2. Transparência e legalidade dos actos: o problema da “caixa negra” e das decisões administrativas algorítmicas indecifráveis

A utilização da IA pela Administração Pública levanta riscos jurídicos e éticos, sobretudo quando a decisão exige ponderação de interesses, exercício em que a intervenção humana é imprescindível. Um primeiro problema surge na qualificação jurídica do acto administrativo resultante de procedimentos algorítmicos, face ao dever de fundamentação[1] previsto nos art. 148.º e 152.º e seguintes do CPA. Quando a decisão é gerada por sistemas de aprendizagem automática, desenvolvidos por entidades privadas, o resultado deixa de ser exclusivamente expressão de vontade administrativa, passando a incluir a execução técnica de um algoritmo[2]. A opacidade destes sistemas “caixas negras” cujo processamento interno é indecifrável, entra em conflito com o dever de fundamentação e com as garantias de reclamação e recurso (art. 268.º n. ° 4 CRP; arts. 184.º e ss. CPA).  Torna-se então pertinente perguntar se tais resultados podem ser considerados actos administrativos propriamente ditos. Uma resposta elucidativa é o acórdão do Supremo Tribunal espanhol de 11 de Setembro de 2025, que reconheceu à Fundação Civio o direito de acesso ao código-fonte da aplicação BOSCO[3], usada para verificar a elegibilidade ao bónus social eléctrico. O Tribunal entendeu que o direito de acesso à informação pública é inerente ao Estado de direito e que o uso de algoritmos exige transparência reforçada, podendo justificar o acesso ao código-fonte. Esta decisão consagrou uma jurisprudência inovadora sobre o dever de abertura tecnológica da Administração Pública.

A problemática da IA repercute-se também no princípio da legalidade (art. 3.º do CPA). Quando o procedimento depende parcial ou totalmente de “softwares” e algoritmos, coloca-se a questão de saber se o código passa a funcionar como nova forma de “lei”. Como assinala Lawrence Lessig[4], “code is law”, na medida em que o código informático define os resultados (e as estatuições) possíveis. Para garantir o cumprimento da lei, é preciso traduzir as normas em código, assegurando a interoperabilidade, isto é, a sua leitura pelas máquinas. A questão é especialmente relevante nos actos discricionários, onde a IA pode influenciar a escolha da Administração entre várias opções[5]. Por isso é essencial garantir uma supervisão humana[6] e manter o controlo administrativo e judicial sobre as decisões automatizadas.

3. Discriminação, enviesamento algorítmico e ameaça aos Direitos Fundamentais

A IA funciona a partir de algoritmos treinados com bases de dados, pelo que qualquer enviesamento nesses dados pode gerar resultados discriminatórios e violar direitos fundamentais, em especial os princípios da igualdade e da imparcialidade (art. 266.º, n.º 2, CRP; art. 6.º CPA) e o princípio da proporcionalidade (art. 7.º CPA). Existem garantias jurídicas, como o Regulamento Geral sobre a Protecção de Dados, denominado RGPD[7], a Lei n.º 58/2019[8] e o artigo 35.º da CRP, mas muitas vezes revelam-se insuficientes. Exemplos internacionais ilustram estes riscos. Nos E.U.A, sistemas de reconhecimento facial utilizados pela polícia apresentaram enviesamentos significativos[9], identificando desproporcionadamente pessoas negras devido à composição dos conjuntos de dados. Ainda significativo foi o caso neerlandês “Toeslagenaffaire”[10] : a Autoridade Tributária utilizou sistemas automatizados de detecção de fraude que classificavam como suspeitas milhares de famílias, com base em critérios como nacionalidade ou origem étnica. As decisões opacas e inauditáveis violaram princípios fundamentais e provocaram danos, culminando na demissão do governo. Este caso demonstra os riscos da automação sem supervisão humana. Impõe-se garantir que os sistemas digitais de decisão pública observam o devido processo administrativo e respeitam os direitos fundamentais.

4. Responsabilidade administrativa e imputação da culpa

A responsabilidade administrativa torna-se especialmente complexa quando as decisões passam a ser tomadas por sistemas de IA. Quem responde por um erro algorítmico: a Administração, o programador ou o fornecedor? Existiria uma “bipartição da execução da lei[11]” ou seja, uma separação dos comportamentos humanos do das operações produzidas mecanicamente? Se a decisão for inteiramente automatizada, deixa de existir um decisor humano identificável que possa ser responsabilizado disciplinar ou civilmente? Um algoritmo não pode, por si mesmo, ser responsabilizado. A doutrina[12] responde que subsiste a responsabilidade da entidade pública, seja o Estado, o município ou outra pessoa colectiva de direito público nos termos dos art. 22.º e 271.º da CRP, dos art. 152.º e seguintes do CPA e da Lei n.º 67/2007 (Regime da Responsabilidade Civil Extracontratual do Estado e Demais Entidades Públicas). A decisão automatizada é um acto imputável à Administração, que poderá exercer direito de regresso contra o fornecedor por erro técnico. Porém, a imputação da culpa e do nexo de causalidade tornam-se difíceis quando o erro decorre de código e muitas vezes a Administração recusa o acesso ao código-fonte, invocando segredo comercial. Torna-se por isso essencial garantir supervisão e controlo jurisdicional efectivos, para uma implementação responsável da IA na Administração Pública.

 

---

[1] LANCEIRO, Rui Tavares, “AI and Public Administration: What Is to Come from the AI Act?”, em PEREIRA DA SILVA, Vasco; KÄMMERER, Jörn Axel; GALETTA, Diana-Urania (eds.), New Public Tasks in Times of Tension, Napoli, Editoriale Scientifica, 2024, pp. 263-278.

[2] Ao contrário da decisão humana, a decisão algorítmica pode ser um produto automático, impossível de explicar.

[3] Tribunal Supremo (Espanha), Sala de lo Contencioso-Administrativo, Sección 3.ª, Sentencia n.º 1119/2025, de 11 de septiembre de 2025, Recurso de casación n.º 7878/2024 (caso BOSCO).

[4] LESSIG, Lawrence, Code and Other Laws of Cyberspace, New York, Basic Books, 1999; HASSAN, Samer; DE FILIPPI, Primavera, “The Expansion of Algorithmic Governance: From ‘Code Is Law’ to ‘Law Is Code’”, Field Actions Science Reports, Special Issue 17 (2017), pp. 88-90. Disponível em: https://journals.openedition.org/factsreports/4518

[5] Já, nos actos vinculados, a IA apenas automatiza um resultado já definido pela lei.

[6] “Human in the loop” in Art. 4.a. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 on Artificial Intelligence, JO L 202, 12.7.2024, pp. 1–260.

[7] Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016 (Regulamento Geral sobre a Proteção de Dados — RGPD), JO L 119, 4.5.2016, pp. 1–88.

[8] Lei n.º 58/2019, de 8 de agosto, que assegura a execução, na ordem jurídica interna, do RGPD.

[9] Um exemplo é o PredPol, sistema de geolocalização policial destinado a prever zonas de criminalidade. Quando aplicado a todos os tipos de crime, o sistema tende a concentrar recursos nas zonas mais pobres e habitadas por minorias, gerando um ciclo de retroalimentação discriminatória: mais presença policial conduz a mais detenções, reforçando o viés inicial do algoritmo.

[10] FACULDADE DE DIREITO DA UNIVERSIDADE DE LISBOA, Conferência “IA, Digitalização e Direitos Fundamentais”, Lisboa, outubro de 2025. O caso é de 2021.

[11] Conceito na doutrina alemã de “Zweiteilung des Gesetzvollzug”

[12] Seguimos as posições na doutrina de PEREIRA DA SILVA, Vasco Manuel Pascoal, Em Busca do Acto Administrativo Perdido, Coimbra, Almedina, 1998, pp. 481-489 — “Potencialização da automação da Administração Pública” e GARCIA, Beatriz, A Responsabilidade Civil Extracontratual do Estado e Demais Entidades Públicas por Danos Decorrentes da Utilização de Inteligência Artificial no Exercício da Função Administrativa, Lisboa, AAFDL Editora, 2025.

IV. O enquadramento jurídico vigente: entre a legalidade “clássica” e a era digital

1. Bases constitucionais e legais da ordem jurídica portuguesa

A Constituição garante princípios essenciais: Estado de direito democrático (art. 2.º), legalidade (art. 3.º), igualdade (art. 13.º), direitos fundamentais (art. 16.º e 18.º), responsabilidade do Estado (art. 22.º), protecção de dados (art. 35.º) e princípios da actividade administrativa (art. 266.º e 268.º). Estes preceitos permitem assegurar tutela jurisdicional efectiva, incluindo contra decisões automatizadas.

Embora não regule expressamente a IA, o CPA contém princípios aplicáveis ao uso de sistemas automatizados[1]: legalidade (art. 3.º), proporcionalidade (art. 4.º), igualdade e imparcialidade (art. 6.º), justiça e razoabilidade (art. 7.º), boa-fé (art. 10.º) e administração electrónica (art. 14.º). O Prof. Dr. Vasco Pereira da Silva[2] destaca que a reforma do CPA de 2015 representou um avanço importante ao consagrar, nomeadamente no art. 14.º, a obrigação de a Administração utilizar meios electrónicos com garantias de integridade, autenticidade, segurança e não discriminação. Contudo, sublinha que a lei permanece insuficiente: em primeiro lugar, as normas são demasiado genéricas para responder aos desafios específicos da IA; depois, faltam limites procedimentais claros para decisões automatizadas; por fim, não existe um regime autónomo para procedimentos digitais. O CPA mantém, contudo, garantias essenciais: fundamentação (art. 152.º), audiência prévia (arts. 121.º e ss.) e responsabilidade administrativa (arts. 180.º e ss.). A Lei n.º 67/2007[3] não prevê expressamente danos decorrentes de IA. A doutrina[4] aponta para ancorar a responsabilidade no art. 22.º da CRP, rejeitar a aplicação generalizada do art. 11.º [5], adoptar deveres objectivos de cuidado e considerar soluções de compensação associadas a seguros, embora a falta de precedentes dificulte a aplicação prática. O denominado RGPD[6] e a Lei n.º 58/2019[7] constituem o núcleo da regulação da decisão automatizada: o art. 22.º proíbe decisões exclusivamente automatizadas com efeitos significativos e impõe explicação da “lógica envolvida”. Contudo, o regime é limitado, aplicando-se apenas a decisões totalmente automatizadas baseadas em dados pessoais. A Lei n.º 27/2021[8], que aprova a Carta Portuguesa de Direitos Humanos na Era Digital, acrescenta novas garantias: proibição da discriminação algorítmica (art. 4.º), direito à explicação (art. 5.º), segurança digital (art. 7.º) e transparência (art. 11.º). Por fim, a Carta Ética da Administração Pública[9] consagra os dez princípios éticos da Administração Pública.

2. Outros instrumentos internacionais, europeus e direito comparado

O quadro nacional articula-se com normas europeias e internacionais, como a CDFUE[10] (art. 41.º), a Convenção 108[11], a Estratégia Nacional para a IA[12] e a Resolução do Parlamento Europeu sobre IA no sector público[13]. Em França, o Code des relations entre le public et l’administration (art. R. 311-3-1-1) impõe um dever amplo de transparência algorítmica : o cidadão deve conhecer o papel do algoritmo na decisão, os dados utilizados, os parâmetros relevantes e as operações de tratamento. Na Alemanha, o VwVfG[14], com base na jurisprudência do Tribunal Constitucional alemão, proíbe actos totalmente automatizados em matérias discricionárias, preservando intervenção humana e responsabilidade decisória[15].

---

[1] PEREIRA DA SILVA, Vasco, “The New World of Information and New Technologies in Constitutional and Administrative Law”, em BUCK-HEEB, Petra; OPPERMANN, Bernd H. (eds.), Automatisierte Systeme, München, C.H. Beck, 2022, pp. 425-435.

[2] PEREIRA DA SILVA, Vasco, ibidem.

[3] Lei n.º 67/2007, de 31 de dezembro, que aprova o Regime da Responsabilidade Civil Extracontratual do Estado e Demais Entidades Públicas.

[4] Posição da Dra. Beatriz Garcia que acompanhamos, ibidem.

[5] Responsabilidade pelo risco, muito abrangente.

[6]  Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016 (Regulamento Geral sobre a Proteção de Dados — RGPD), JO L 119, 4.5.2016, pp. 1–88.

[7] Lei n.º 58/2019, de 8 de agosto, que assegura a execução, na ordem jurídica interna, do RGPD.

[8] Lei n.º 27/2021, de 17 de maio, que aprova a Carta Portuguesa de Direitos Humanos na Era Digital.

[9] Carta Ética para a Utilização da Inteligência Artificial nos Tribunais Administrativos e Fiscais, Conselho Superior dos Tribunais Administrativos e Fiscais, Deliberação de 25.03.2025, DR n.º 66/2025.

[10] Carta dos Direitos Fundamentais da União Europeia, JO C 326, 26.10.2012. O art. 41° estabelece que todas as pessoas têm direito a que os seus assuntos sejam tratados pelas instituições, órgãos e organismos da União de forma imparcial, equitativa e num prazo razoável.

[11] Convenção para a Proteção das Pessoas relativamente ao Tratamento Automatizado de Dados de Caráter Pessoal (Convenção n.º 108, Conselho da Europa, 1981).

[12] PORTUGAL, Governo da República, Estratégia Nacional para a Inteligência Artificial 2030, Lisboa, República Portuguesa, 2019.

[13] PARLAMENTO EUROPEU, Resolution of 5 October 2022 on artificial intelligence in a digital age (Artificial intelligence in public administration and services), 2021/2060(INI), Estrasburgo, Parlamento Europeu, 2022.

[14] Verwaltungsverfahrensgesetz (Lei do Procedimento Administrativo alemão) + A jurisprudência do Tribunal Constitucional Alemão consagra um direito autónomo de tutela dos dados pessoais, construído como direito à autodeterminação informativa, a partir da consideração conjunta do direito geral de personalidade (art. 2°.1 GG) e do princípio da dignidade humana (art. 1°.1 G.G), in MIRANDA, Jorge; MEDEIROS, Rui (coords.), Constituição Portuguesa Anotada, vol. I, Lisboa, Universidade Católica Portuguesa Editora, anotação ao art. 35.º, p. 568.

[15] Os dois modelos ilustram abordagens complementares: transparência reforçada (França) e primado da decisão humana (Alemanha).

V. O AI Act: regulação técnica, garantias e insuficiências

1. Base jurídica, objectivos e calendário

O AI Act, adoptado ao abrigo do art. 114.º do TFUE, constitui o primeiro regime europeu harmonizado para a IA[1]. Publicado em 12 de Julho de 2024 e em vigor desde 1 de Agosto de 2024, terá aplicação faseada até 2 de Agosto de 2026. O Regulamento abrange todos os sistemas de IA[2], visando conciliar uma IA confiável com a protecção dos direitos fundamentais, da ética e da segurança.

2. Abordagem baseada no risco e princípios gerais

O AI Act assenta numa abordagem baseada no risco[3]. Classifica os sistemas de IA em três categorias: as práticas proibidas, os sistemas de alto risco e os sistemas de risco limitado. A classificação depende do potencial da IA para causar danos ou afectar direitos fundamentais. As práticas proibidas são aquelas consideradas incompatíveis com os valores da União; os sistemas de alto risco estão sujeitos a rigorosos mecanismos de controlo e avaliação de conformidade; e os sistemas de baixo risco ficam apenas vinculados a obrigações de transparência, como a informação aos utilizadores quando interagem com um “chatbot” ou quando um sistema gera “deepfakes”. O novo art. 4.º-A do AI Act estabelece princípios gerais aplicáveis a todos os sistemas de IA, designadamente: o princípio da supervisão humana[4], o princípio da transparência, que exige rastreabilidade, explicabilidade e informação aos afectados sobre os seus direitos; e o princípio da diversidade, não discriminação e equidade[5]. Estes princípios respondem às problemáticas de transparência e protecção dos direitos fundamentais.

3. Novas obrigações para a Administração Pública

No caso dos sistemas de alto risco[6], o Regulamento impõe múltiplas obrigações aos “providers” e, em menor grau, aos “deployers”. Estas obrigações respondem às exigências de transparência, fundamentação e controlo da decisão administrativa, permitindo aproximar o dever de explicação previsto no AI Act do dever de fundamentação constante do CPA. O Anexo II abrange os sistemas de IA que são componentes de segurança de produtos já regulados por legislação europeia[7]. O Anexo III, por sua vez, lista os sistemas de IA autónomos[8] associados a utilizações particularmente sensíveis[9]. Todos os sistemas de alto risco devem ser submetidos a uma avaliação de conformidade antes da sua colocação no mercado e ser registados numa base de dados pública gerida pela Comissão Europeia. Presume-se a conformidade sempre que o sistema obedeça às normas técnicas europeias.

Entre as inovações mais relevantes encontra-se a introdução da Fundamental Rights Impact Assessment (FRIA)[10], prevista no art. 29.º-A, que obriga as entidades públicas e privadas prestadoras de serviços públicos a realizar uma avaliação de impacto sobre os direitos fundamentais antes da primeira utilização de sistemas de alto risco. Essa avaliação deve descrever o contexto de utilização, os grupos de pessoas potencialmente afectados, os riscos de prejuízo, as medidas de supervisão humana e os mecanismos de governação e reclamação. O AI Act abrange não apenas as decisões inteiramente automatizadas, mas também as decisões semi-automatizadas, em que a decisão final é formalmente humana, mas influenciada pelo algoritmo. Outras obrigações específicas incluem: o registo público dos sistemas de alto risco (art. 51.º-1-B); o direito à explicação (art. 68.º-C), impondo às autoridades administrativas o dever de fornecer uma explicação clara e significativa sobre o papel do sistema de IA na decisão e sobre os seus principais elementos; e o dever de informação aos cidadãos (art. 29.º, n.º 6-B), que exige que qualquer pessoa sujeita a uma decisão assistida por IA seja informada dessa utilização. O AI Act impõe ainda limitações severas à utilização, pela Administração Pública, de sistemas como o reconhecimento biométrico em tempo real (art. 5.º, n.º 1, al. d)) e proíbe sistemas de policiamento preditivo ou de inferência emocional em contextos como a segurança pública, a gestão de fronteiras, o trabalho ou a educação. Por fim, qualquer pessoa singular ou colectiva pode apresentar queixa à autoridade de supervisão competente em caso de violação do Regulamento (art. 68.º-A).

4. Implementação em Portugal, discricionariedade, limites estruturais e perspectivas futuras

A aplicação do AI Act terá impacto relevante na decisão administrativa automatizada[11].  O art. 77.º exige que cada Estado-Membro designe autoridades nacionais responsáveis pela supervisão dos direitos fundamentais na utilização de sistemas de alto risco. Em Portugal, foram identificadas 14 entidades competentes[12], coordenadas pela ANACOM, que assegurará uma actuação harmonizada na protecção dos direitos fundamentais. O AI Act impõe ainda cooperação estreita entre estas entidades e o novo AI Office europeu, em linha com o modelo do GDPR e do Digital Services Act.

O AI Act confere ampla margem de discricionariedade[13] tanto às entidades reguladas como às autoridades de supervisão, nomeadamente na avaliação de conformidade, nos sistemas de gestão da qualidade e na documentação técnica. Existe igualmente grande latitude na cooperação entre autoridades nacionais e europeias. Para tornar o AI Act exequível, será necessária uma execução densa e tecnicamente rigorosa. O cumprimento das regras será fiscalizado pelas autoridades nacionais e, a nível europeu, pelo EDPS[14], com poderes sancionatórios. Em síntese, o AI Act regula e previne riscos, mas não assegura a presença humana na decisão administrativa, centrando-se na gestão técnica do risco. Daí a necessidade emergente de reconhecer um direito a uma decisão com intervenção humana significativa, isto é, um princípio do humano no exercício do poder público automatizado.

Conclusão: Para além da regulação, o direito a um “Estado humano” na era algorítmica

Entre a euforia da “solução miraculosa[15]” e o “cepticismo alimentado pela ignorância tecnológica[16]” - dois extremos perigosos, como adverte o Prof. Dr. Vasco Pereira da Silva[17], impõe-se um caminho de equilíbrio: a informação e as novas tecnologias não devem ser vistas nem como remédio universal, nem como ameaça absoluta. A IA oferece ganhos inegáveis de eficiência, mas ameaça o núcleo humano da Administração Pública e, em última análise, da sociedade. O seu uso suscita problemas jurídicos específicos em todos os ramos do Direito, mas com especial acuidade no Direito Público: desde os direitos fundamentais (autodeterminação digital, direito de acesso, rectificação e apagamento de dados, direito ao esquecimento) até ao Direito Administrativo, onde se colocam questões sobre decisões massificadas, autorizações e limites da automatização, procedimentos digitais, controlo dos algoritmos e revisão jurisdicional das decisões digitais.

O quadro jurídico é robusto, mas essencialmente defensivo. As normas existentes visam mais prevenir riscos do que afirmar positivamente uma nova concepção do Estado de direito na era digital. O AI Act representa um avanço técnico e normativo, mas permanece insuficiente para enfrentar o problema essencial: a necessidade de garantir ao cidadão um direito fundamental a beneficiar da presença e da inteligência humanas nas decisões públicas.

A história dos direitos fundamentais demonstra a sua plasticidade[18]. Cada geração de direitos nasce como resposta a novas ameaças à dignidade da pessoa humana. Se o Estado social introduziu direitos de terceira geração[19], a transição digital impõe agora um novo paradigma constitucional: não basta proteger o particular contra a máquina, por via de um direito subjectivo público ao recurso; é preciso assegurar-lhe o direito de beneficiar do humano, da empatia, da ponderação e da falibilidade compreensível que só o juízo humano pode oferecer.

Propõe-se o reconhecimento de um Direito fundamental à intervenção humana significativa nas decisões administrativas. Este direito constituiria a expressão moderna da dignidade, prudência e justiça próprias do ser humano, preservando a legitimidade democrática da acção administrativa e reforçando a confiança dos cidadãos nas instituições públicas[20]. Uma implementação bem-sucedida da IA poderá não apenas modernizar o Estado e aumentar a sua eficiência, mas também restituir à tecnologia o seu verdadeiro sentido: servir o humano, e não substituí-lo. A IA, mais do que um desafio técnico, revela-se assim um teste ético e democrático à própria legitimidade do Estado de direito contemporâneo.

 

 

 

---

[1] HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE, A Definition of AI: Main Capabilities and Disciplines, Comissão Europeia, 2018.

[2] excepto os de natureza militar

[3] MESQUITA NUNES, Adolfo; RIBEIRO FERREIRA, Francisco, “O Regulamento da IA: o que tem a Administração Pública de fazer?”, Revista de Direito Administrativo, n.º 21 (2024).

[4] “human agency and oversight” garantindo que os sistemas podem ser controlados e monitorizados por pessoas.

[5] ‘fairness”

[6] constantes dos Anexos II e III do AI Act: incluindo os relativos a dados biométricos, infra-estruturas críticas, educação, emprego, serviços públicos, aplicação da lei, migração, justiça e processos democráticos.

[7] como máquinas, brinquedos, dispositivos médicos, veículos ou aeronaves.

[8] “stand-alone systems”

[9] entre as quais se incluem a educação, o emprego, os serviços públicos e a aplicação da lei.

[10] LANCEIRO, Rui Tavares, “AI and Public Administration: What Is to Come from the AI Act?”, em PEREIRA DA SILVA, Vasco; KÄMMERER, Jörn Axel; GALETTA, Diana-Urania (eds.), New Public Tasks in Times of Tension, Napoli, Editoriale Scientifica, 2024, pp. 263-278.

[11] As autoridades administrativas serão, regra geral, “users”, podendo também ser “providers” quando desenvolvam internamente ou adquiram sistemas de IA personalizados (“tailor-made systems”).

[12] MELO EGÍDIO, Mariana, “Quem protege os direitos fundamentais face a sistemas de IA de risco elevado em Portugal?”, Lisbon Public Law Blog, 6 janeiro 2025.

[13] FARINHO, Domingos Soares, “The AI Act Political Agreement: A Cautionary Tale”, Lisbon Public Law Blog, 15 dezembro 2023.

[14] European Data Protection Supervisor. Autoridade independente da UE responsável pela supervisão da IA utilizada pelas instituições na EU, garantindo o respeito pelos Direitos fundamentais.

[15] PEREIRA DA SILVA, Vasco, “The New World of Information and New Technologies in Constitutional and Administrative Law”, em BUCK-HEEB, Petra; OPPERMANN, Bernd H. (eds.), Automatisierte Systeme, München, C.H. Beck, 2022, pp. 425-435.

[16] Ibidem.

[17] Ibidem.

[18] MIRANDA, Jorge, Manual de Direitos Fundamentais, Coimbra, Coimbra Editora, 2002.

[19] como o direito de acesso à informação e o direito à autodeterminação digital, hoje consagrados no art. 35.º da CRP

[20] MESQUITA NUNES, Adolfo; RIBEIRO FERREIRA, Francisco, “O Regulamento da IA: o que tem a Administração Pública de fazer?”, Revista de Direito Administrativo, n.º 21 (2024).

Bibliografia

I. Legislação

Constituição da República Portuguesa, aprovada em 2 de abril de 1976, com as alterações posteriores.
Código do Procedimento Administrativo (CPA), aprovado pelo Decreto-Lei n.º 4/2015, de 7 de janeiro.
Código de Processo nos Tribunais Administrativos (CPTA), aprovado pela Lei n.º 15/2002, de 22 de fevereiro, com as alterações subsequentes.
Lei n.º 67/2007, de 31 de dezembro, que aprova o Regime da Responsabilidade Civil Extracontratual do Estado e Demais Entidades Públicas.
Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016 (Regulamento Geral sobre a Protecção de Dados — RGPD), JO L 119, 4.5.2016, pp. 1–88.
Lei n.º 58/2019, de 8 de agosto, que assegura a execução, na ordem jurídica interna, do RGPD.
Lei n.º 27/2021, de 17 de maio, que aprova a Carta Portuguesa de Direitos Humanos na Era Digital.
Carta dos Direitos Fundamentais da União Europeia, JO C 326, 26.10.2012.
Tratado sobre o Funcionamento da União Europeia (TFUE), JO C 202, 7.6.2016.
Convenção para a Protecção das Pessoas relativamente ao Tratamento Automatizado de Dados de Carácter Pessoal (Convenção n.º 108, Conselho da Europa, 1981).
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 on Artificial Intelligence, JO L 202, 12.7.2024, pp. 1–260.
Carta Europeia de Ética sobre a Utilização da Inteligência Artificial nos Sistemas Judiciais, CEPEJ, Conselho da Europa, 2018.
Carta Ética para a Utilização da Inteligência Artificial nos Tribunais Administrativos e Fiscais, Conselho Superior dos Tribunais Administrativos e Fiscais, Deliberação de 25.03.2025, DR n.º 66/2025.
Code des relations entre le public et l’administration (França), art. R. 311-3-1-1.
Verwaltungsverfahrensgesetz (VwVfG) — Lei Federal do Procedimento Administrativo da Alemanha.

II. Jurisprudência

Tribunal Supremo (Espanha), Sala de lo Contencioso-Administrativo, Sección 3.ª, Sentencia n.º 1119/2025, de 11 de septiembre de 2025, Recurso de casación n.º 7878/2024 (caso BOSCO).

III. Manuais e Monografias

AMARAL, Diogo Freitas do, Curso de Direito Administrativo, vol. I, 4.ª ed., Coimbra, Almedina, 2015, pp. 751-755. ISBN 978-972-406-209-9.
GARCIA, Beatriz, A Responsabilidade Civil Extracontratual do Estado e Demais Entidades Públicas por Danos Decorrentes da Utilização de Inteligência Artificial no Exercício da Função Administrativa, Lisboa, AAFDL Editora, 2025, ISBN 978-989-9252-55-4.
HASSAN, Samer; DE FILIPPI, Primavera, “The Expansion of Algorithmic Governance: From ‘Code Is Law’ to ‘Law Is Code’”, Field Actions Science Reports, Special Issue 17 (2017), pp. 88-90. Disponível em: https://journals.openedition.org/factsreports/4518
LESSIG, Lawrence, Code and Other Laws of Cyberspace, New York, Basic Books, 1999.
MIRANDA, Jorge, Manual de Direitos Fundamentais, Coimbra, Coimbra Editora, 2002.
MIRANDA, Jorge; MEDEIROS, Rui (coords.), Constituição Portuguesa Anotada, vol. I, Lisboa, Universidade Católica Portuguesa Editora, anotação ao art. 35.º, pp. 565-581.
MIRANDA BARBOSA, Mafalda, Inteligência Artificial. Entre Utopia e Distopia, 2.ª ed., Coimbra, Gestlegal, 2024, ISBN 978-989-53579-7-0.
OTERO, Paulo, Manual de Direito Administrativo, vol. I, Coimbra, Almedina, 2013, pp.63-121 e pp. 360-401. ISBN 978-972-405-388-2.
PEREIRA DA SILVA, Vasco Manuel Pascoal, Em Busca do Acto Administrativo Perdido, Coimbra, Almedina, 1998, pp. 481-489 — “Potencialização da automação da Administração Pública”, ISBN 978-972-400-894-3.
REBELO DE SOUSA, Marcelo, Lições de Direito Administrativo, vol. I, Lisboa, Lex, 1999, ISBN 972-9495-77-7.
TAVARES, José F. F.; COSTA, Paulo Nogueira da, Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Lisboa, Almedina, 2023.

IV. Estudos e Relatórios Institucionais

COMISSÃO EUROPEIA, White Paper on Artificial Intelligence – A European Approach to Excellence and Trust, COM (2020) 65 final, Bruxelas, 2020.
DIREÇÃO-GERAL DE ESTATÍSTICAS DA EDUCAÇÃO E CIÊNCIA, Inteligência Artificial na Administração Pública – IUTICAP e IUTICCM 2023, Lisboa, DGEEC, dezembro de 2024.
HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE, A Definition of AI: Main Capabilities and Disciplines, Comissão Europeia, 2018.
OECD, Artificial Intelligence in Society, Paris, OECD Publishing, 2019, DOI 10.1787/eedfee77-en, ISBN 978-92-64-58254-5.

V. Artigos, Capítulos e Estudos Doutrinários

ABREU DUARTE, Francisco; TAVARES LANCEIRO, Rui, “Vulnerability and the Algorithmic Public Administration”, Revista da Faculdade de Direito da Universidade de Lisboa, vol. LXII, n.º 1 (2021), pp. 283-304.
COELHO, Ricardo; CALIENDO, Paulo, Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Coimbra, Almedina, 2023, ISBN 978-989-401-069-2.
FARINHO, Domingos Soares, “The AI Act Political Agreement: A Cautionary Tale”, Lisbon Public Law Blog, 15 dezembro 2023.
LANCEIRO, Rui Tavares, “AI and Public Administration: What Is to Come from the AI Act?”, em PEREIRA DA SILVA, Vasco; KÄMMERER, Jörn Axel; GALETTA, Diana-Urania (eds.), New Public Tasks in Times of Tension, Napoli, Editoriale Scientifica, 2024, pp. 263-278.
LANCEIRO, Rui Tavares, Artificial Intelligence and Public Administration: The Problems and Possible Answers by the AI Act, Lisbon Public Law Working Paper Series, n.º 2024-3, 14 novembro 2024, DOI 10.2139/ssrn.5035992.
MELO EGÍDIO, Mariana, “Quem protege os direitos fundamentais face a sistemas de IA de risco elevado em Portugal?”, Lisbon Public Law Blog, 6 janeiro 2025.
MESQUITA NUNES, Adolfo; RIBEIRO FERREIRA, Francisco, “O Regulamento da IA: o que tem a Administração Pública de fazer?”, Revista de Direito Administrativo, n.º 21 (2024).
PEREIRA DA SILVA, Vasco, “The New World of Information and New Technologies in Constitutional and Administrative Law”, em BUCK-HEEB, Petra; OPPERMANN, Bernd H. (eds.), Automatisierte Systeme, München, C.H. Beck, 2022, pp. 425-435.

VI. Conferências

FACULDADE DE DIREITO DA UNIVERSIDADE DE LISBOA, Conferência “IA, Digitalização e Direitos Fundamentais”, Lisboa, Outubro de 2025.
SIPE – Sociedade Internacional de Direito Público, New Public Tasks in Times of Tension, XVI Congresso SIPE, FDUL, 22–24 junho 2023.