A Inteligência Artificial e os Desafios da Digitalização na Administração Pública: entre a Eficiência Administrativa e o Princípio da Legalidade.
A Inteligência Artificial e os Desafios da Digitalização na Administração Pública: entre a Eficiência Administrativa e o Princípio da Legalidade.
Introdução
Tal como todas as atividades que têm um impacto na sociedade, a atuação administrativa, está, neste momento, profundamente influenciada pelo processo da digitalização. Há que especificar o impacto que este processo teve na em termos do Direito Administrativo.
De forma sumária, os efeitos da digitalização podem ser resumidos na presença crescente de algoritmos e data, e na imensa digitalização dos processos administrativos, que reconfiguraram o modo como o Estado se relaciona com os cidadãos, tanto na gestão de informação, como na tomada de decisões. A modernização administrativa pretende, simultaneamente, aumentar a eficiência da Administração Pública e responder a uma sociedade cada vez mais tecnológica.
Contudo, esta transformação levanta desafios jurídicos. A atuação administrativa está vinculada a princípios estruturantes do Estado de Direito, designadamente o princípio da legalidade. O desafio é, portanto, garantir que a utilização de IA na Administração Pública ocorre dentro dos limites jurídicos adequados. Assim, o presente trabalho pretende responder à seguinte questão: Como compatibilizar a utilização de sistemas de inteligência artifical pela Administração Pública com o princípio da legalidade?
Capítulo I – A Evolução da Administração Pública e o Paradigma Digital
1. Da Administração clássica à Administração digital
Nos últimos anos, emergiu aquilo que alguns autores chamam Estado Pós-social, caracterizado por exigências crescentes de eficiência, qualidade do serviço público, rapidez e redução de custos. Neste contexto, a tecnologia desempenha um papel central, dando origem à chamada Administração digital. A transição para sistemas eletrónicos, plataformas online e automatização de procedimentos tornou-se uma prioridade do Estado, impulsionada também por políticas europeias de modernização.
Paralelamente, autores como Vasco Pereira da Silva descrevem a atualidade como um momento de “Administração sem fronteiras”, resultado da integração europeia, da globalização e da partilha de standards internacionais. Esta nova Administração é influenciada por decisões de entidades supranacionais, normas europeias e cooperação digital.
Assim, a Administração contemporânea é marcada por duas tensões estruturantes: por um lado, a necessidade de modernização tecnológica; por outro, a necessidade de garantir que a inovação não compromete os princípios jurídicos tradicionais. A introdução da inteligência artificial intensifica esta tensão e convida a uma reflexão jurídica profunda.
Capítulo II – A Inteligência Artificial na Atividade Administrativa
2.1. Conceito e tipologia da inteligência artificial
No âmbito da digitalização, o conceito da inteligência artificial baseia-se na crescente presença de data e algoritmos, que se tornam o centro da tomada de decisões nas instituições públicas.
O fenómeno “big data” reporta-se ao uso de dados pelas principais instituições através do qual estas orientam o seu desenvolvimento de modo a identificar os seus objetivos de forma mais precisa, e assim a tomar decisões mais informadas.
O uso de dados em grande escala não é nada de novo para as administrações- há anos que a administração acumula informação de diferentes tipos: fiscal, social, etc… e a usa para tomar decisões. A grande novidade é que a acumulação de dados tem vindo a aumentar exponencialmente, tanto no setor público, como no setor privado: “Conforme uma estimativa amplamente conhecida, 2,5 mil milhões de bytes de dados são processados todos os dias e 90% dos dados existentes no mundo foram gerados apenas nos últimos dois anos.”. É através do uso de algoritmos que esta enorme quantidade de dados é convertida, tanto por instituições públicas, como por instituições privadas, em decisões. JBA, no seu artigo “Administrative Law Facing Digital Challenges”, oferece-nos uma definição de algoritmo segundo a Wikipedia, por considerar que é uma definição de fácil entendimento, “um algoritmo é um procedimento que resolve um dado problema através de um número limitado de passos, elementares, claros e inequívocos, dentro de um tempo razoável”.
Usa o termo “algorithmic governance”, para descrever as áreas em que a administração pública decide, usando um algoritmo ou outras manifestações da digitalização,em contextos complexos, onde existe dificuldade em melhorar os critérios de decisão existentes.
2.2. O fenómeno da “administração algorítmica” : A utilização de algoritmos e sistemas automatizados na decisão administrativa.
“Algorithmic governance”, ou administração algorítmica, encontra-se profundamente ligada à digitalização da Administração Pública.
Este é o fenómeno central da digitalização da administração pública. A utilização de algoritmos e sistemas automatizados na decisão administrativa dá-se por dois motivos essenciais. Em primeiro lugar, é necessário garantir que as instituições conseguem lidar com a complexidade do processamento de grandes volumes de dados, uma vez que as dinâmicas tradicionais de tomada de decisão já não são suficientes para tal. Em segundo lugar, o processamento algorítmico trata-se de uma ferramenta eficaz de tratar a vasta quantidade de dados, ligando-os a uma pessoa ou situação, de forma rápida, o que não seria possível através das dinâmicas tradicionais através das quais as instituições tentam medir e agir. É, sobretudo, uma questão de eficiência administrativa.
2.2.2. Vantagens e riscos da automatização administrativa
A lógica operacional dos algoritmos tem um foco na correlação. Os algoritmos contemporâneos não operam de acordo com uma lógica causal e determinista, mas sim de acordo com uma lógica de correlações estatísticas e uma lógica probabilística.
Dominique Cardon, explica que “na sua execução, as correlações estatísticas já não passam da causa para a consequência, mas sim das consequências para as causas prováveis”. Existe, portanto, uma distância do raciocínio causal no qual as decisões da Administração se baseiam tradicionalmente, o que levanta uma série de riscos, muitos deles já perceptíveis.
A decisão administrativa é caracterizada pela sua universalidade, ou seja, mesmo que a decisão seja aplicada a uma situação em concreto, tem de ser universalmente aplicada a casos semelhantes, uma vez que a decisão não pode ser criada para lidar com apenas aquele caso específico. As decisões baseadas na aplicação de algoritmos assentam numa extrema individualização de situações e pessoas o que por sua vez pode levar à individualização extrema da decisão administrativa.
O uso de algoritmos pela Administração Pública também levanta problemas éticos: o algoritmo opera através da estandardização de indivíduos, estandardização essa que pode ser feita a partir de dados que não sejam 100% transparentes ou que reflitam apenas uma pequena parte dos indivíduos a quem se pretende aplicar a decisão administrativa. Este facto é agravado pela possibilidade do encontro de erros, mas também pela possibilidade de existência de preconceitos no próprio algoritmo.
Coloca em causa a eficácia do controlo judicial, pois as técnicas tradicionais deste baseiam-se no modelo clássico de racionalidade causal, o que terá um impacto limitado sobre decisões baseadas em correlações estatísticas. Para além disso, o autor Jean- Bernard Aubry sublinha que o juiz não terá um entendimento acerca do funcionamento dos algoritmos particularmente superior ao cidadão médio. É também esta uma desvantagem da digitalização administrativa- não se pode exigir ao cidadão médio que tenha um entendimento profundo dos processos administrativos digitalizados, impondo aquilo a que se chama “Digital by default”’.
O fenómeno da administração algorítmica afeta diretamente o Direito Administrativo, tanto no seu objeto central, o ato administrativo, como no processo que leva à sua adoção.
Capítulo III – Princípios Fundamentais do Direito Administrativo em Tensão
3.1. O princípio da juridicidade e o controlo da decisão automatizada
A introdução da inteligência artificial na Administração Pública levanta questões jurídicas relacionadas com o modo como os princípios estruturantes do Direito Administrativo se aplicam no contexto da decisão automatizada, sobretudo, o princípio da juridicidade.
O princípio da legalidade, presente no artigo 266º/2, da Constituição da República Portuguesa, pode ser analisado em duas dimensões: o princípio da legalidade negativa da administração, concretizado através do princípio da prevalência de lei, e o princípio da legalidade positiva da administração, expresso no princípio da precedência de lei. A administração está subordinada não apenas à Constituição e à lei, mas também às restantes normas tradicionalmente vigentes na ordem jurídica portuguesa, nomeadamente as normas de direito internacional e europeu (art. 8º, CRP). O princípio da legalidade aponta para um princípio mais abrangente, o princípio da juridicidade da administração, pois todo o direito- regras e princípios vigentes na ordem constitucional portuguesa, e também a soft law- é fundamento da atividade administrativa.
O princípio da juridicidade implica que toda a atuação administrativa deve estar submetida à lei, servindo de fundamento e pressuposto à mesma, tanto no sentido positivo de impor à Administração que atue nos limites definidos pelo legislador, como no sentido negativo de impedir a atuação contra legem. Deste modo, está estabelecido que a decisão administrativa tradicional está necessariamente vinculada a uma norma jurídica clara, e prévia.
A legalidade exige a previsibilidade, determinabilidade e a capacidade de controlo judiciário, elementos que podem ser comprometidos pela opacidade dos sistemas de IA, que produzem resultados sem explicar o seu raciocínio interno. A legalidade fica especialmente comprometida quando se tratam de sistemas de aprendizagem automática, sistemas que evoluem com base em dados e modelos estatísticos, que podem alterar, sem intervenção humana, os critérios de decisão que utiliza. O administrado deve conseguir antecipar os critérios administrativos, no entanto, quando a decisão é gerada por sistemas de aprendizagem automática, a previsibilidade corre o risco de desaparecer. A decisão deixa de ser claramente atribuída à lei, e passa a depender de padrões criados autonomamente pelos sistemas de aprendizagem automática
Outro elemento relevante do princípio da juridicidade é que, utilizando sistemas de IA, a Administração está a delegar a terceiros a definição dos critérios materiais da sua decisão. É particularmente preocupante, quando a decisão administrativa utiliza algoritmos desenvolvidos por entidades privadas- transferindo assim, ainda que indiretamente, a sua função decisória para um sistema criado por programadores externos.
A decisão pública deve ser pública, não apenas na sua forma, mas na sua substância, de modo a que o Estado mantenha o controlo judicial sobre todos os elementos que influenciam essa decisão.
Capítulo IV – O Quadro Regulatório Atual
4.1. O Regulamento Europeu de Inteligência Artificial (AI Act)
O Regulamento UE 2024/189 ou Regulamento Europeu da Inteligência Artificial (AI Act), aprovado em 2024, veio estabelecer o primeiro quadro jurídico horizontal para o desenvolvimento, colocação no mercado e utilização de sistemas de Inteligência Artificial na União Europeia, fazendo parte de um pacote vasto de medidas políticas para apoiar o desenvolvimento de uma IA de confiança.
Este regulamento serve como uma garantia de confiança para os cidadãos europeus- muitas vezes não é possível perceber porquê que um sistema de IA tomou determinada decisão, previsão ou ação, dificultando assim avaliar se alguém foi injustamente prejudicado. Apesar de a maioria dos sistemas de IA apresentarem um risco diminuto, existem determinados sistemas de IA que criam riscos que resultam em fins indesejáveis.
Decorre do art. 1º/1 que o propósito deste regulamento é melhorar o funcionamento do mercado interno e promover o crescimento de inteligência artificial centrado no ser humano e de confiança, enquanto garante a proteção da saúde, segurança, e os direitos fundamentais, incluindo a democracia, a rule of law e a proteção ambiental perante os efeitos prejudiciais de sistemas de IA na União Europeia, apoiando a inovação. Vale destacar o art.4º, que exige medidas de para garantir aos usuários de sistemas de IA um nível suficiente de literacia ao nível da Inteligência artificial, tendo em conta o seu conhecimento técnico, educação e experiência
4.2. O RGPD e o enquadramento jurídico da decisão automatizada
O Regulamento Geral sobre a Proteção de Dados (Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho) estabelece limites claros à utilização de decisões automatizadas
O RGPD, no artigo 22º estabelece que uma pessoa tem direito a não ficar sujeita a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar.
Por regra, as pessoas não devem ser sujeitas a uma decisão baseada exclusivamente em meios automatizados, elas são permitidas nos casos do nº2 do artigo 22º do RGPD- se a decisão baseada no algoritmo é necessária para celebrar ou executar um contrato com a pessoa cujos dados foram tratados pela sua empresa/organização através do algoritmo (por exemplo, um pedido de empréstimo em linha);se determinada lei, da UE ou nacional, permitir a utilização de algoritmos, prevendo garantias adequadas para a salvaguarda dos direitos, liberdades e interesses legítimos da pessoa, como, por exemplo, a regulamentação anti evasão fiscal; se houver consentimento expresso da pessoa para decisão baseada no algoritmo.
Para os dois últimos casos, a pessoa tem de ser informada da lógica envolvida no processo de decisão, do seu direito a obter intervenção humana, das possíveis consequências do tratamento, e do seu direito a opor-se à decisão, tomando as medidas processuais necessárias.
Conclusão
A análise desenvolvida ao longo deste trabalho permite concluir que a inteligência artificial representa simultaneamente uma oportunidade e um desafio para a Administração Pública. A transformação digital do Estado, que inclui a utilização de sistemas algorítmicos em procedimentos administrativos, pode reforçar a eficiência, a racionalidade e a universalização do serviço público, correspondendo às exigências contemporâneas de celeridade e de qualidade administrativa. Contudo, esta evolução não é neutra do ponto de vista jurídico: ela implica uma reconfiguração da forma como a Administração atua, decide e se relaciona com os cidadãos.
Em primeiro lugar, verificou-se que a digitalização e a automação administrativa não podem ser entendidas como simples instrumentos técnicos. Pelo contrário, modificam o próprio modelo de atuação administrativa, aproximando-o de um regime de processamento automático de informação que, se não for devidamente enquadrado, pode colidir com princípios fundamentais do Direito Administrativo. O princípio da legalidade, pedra angular do Estado de Direito, revela-se particularmente sensível. A introdução de algoritmos que aprendem autonomamente e inferem padrões pode afastar a decisão administrativa do controlo jurídico-formal exigido pela lei, reduzindo a previsibilidade e a segurança jurídica. Assim, o desafio consiste em garantir que a inovação tecnológica permanece subordinada à normatividade democrática e não se autonomiza num sistema decisório imune ao escrutínio.
Em segundo lugar, importa reconhecer que a proteção dos direitos fundamentais deve ocupar o centro da reflexão sobre o uso de IA pelo Estado. O RGPD, a Constituição e o regime do AI Act fornecem uma moldura mínima de salvaguardas — desde a proteção dos dados pessoais até ao direito a não ficar sujeito exclusivamente a decisões automatizadas. Contudo, estas garantias só serão eficazes se acompanhadas por mecanismos robustos de auditoria, supervisão e revisão humana das decisões. Isso implica formar funcionários públicos capazes de compreender a lógica dos sistemas algorítmicos, reforçar a transparência dos modelos utilizados, assegurar auditorias independentes, criar registos de decisões automatizadas e, sobretudo, garantir que toda decisão administrativa respeita os princípios basilares do direito administrativo.
Bibliografia
JEAN-BERNARD AUBY, “ Administrative Law Facing Digital Challenges*” in European Review of Digital Administration & Law- Erdal , Volume 1 Issue 1-2, June-December 2020, pages 7-15
BUCK-HEEB, OPPERMANN, “Automatisierte Syesteme”, Munique: Verlag C.H.Beck oHG, 2022
J.J. GOMES CANOTILHO/VITAL MOREIRA, “Constituição da República Portuguesa Anotada”, Volume II, 4ª edição, Coimbra: Wolters Kluwer Portugal sob a marca Coimbra Editora, 2010
VASCO PEREIRA DA SILVA, “Direito Constitucional e Administrativo sem Fronteiras”, Almedina, Coimbra, 2019.
Webgrafia
https://diariodarepublica.pt/dr/lexionario/termo/decisoes-individuais-automatizadas-rgpd
https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
https://digital.gov.pt/regulamentacao/ai-act
Sofia Alexandra Azevedo Fernandes dos Santos
nº67963
2º ano, Turma B, Subturma 16
Direito Administrativo I
Comentários
Enviar um comentário