RESUMO: A crescente digitalização da Administração Pública e a adoção de sistemas de Inteligência Artificial para a tomada de decisões estatais inauguraram o modelo da "burocracia algorítmica". O presente artigo analisa os limites constitucionais da automação dos atos administrativos, contrapondo a busca pelo Princípio da Eficiência (materializado na Lei de Governo Digital) com os riscos inerentes ao uso de algoritmos opacos e suscetíveis a vieses. Através de pesquisa doutrinária e jurisprudencial, o estudo demonstra como as decisões geradas exclusivamente por máquinas violam o Dever de Motivação, a Impessoalidade e a Ampla Defesa. Conclui-se que a mitigação deste cenário exige a aplicação estrita do "direito à explicação" previsto no art. 20 da Lei Geral de Proteção de Dados (LGPD), impondo ao Estado a obrigatoriedade da revisão humana (human-in-the-loop) para validar atos que afetem as garantias fundamentais dos administrados.

Palavras-chave: Inteligência Artificial; Atos Administrativos; Direitos Fundamentais; LGPD; Viés Algorítmico.

1. Introdução

A Administração Pública contemporânea atravessa um período de profunda metamorfose tecnológica, caracterizado pela transição de um modelo burocrático fundado no suporte em papel para uma verdadeira "burocracia algorítmica". Impulsionado pelo Princípio da Eficiência, consagrado no artigo 37, caput, da Constituição da República Federativa do Brasil de 1988 (CRFB/88), o Estado tem adotado, de forma crescente, sistemas de Inteligência Artificial (IA) e processos de automação massiva para otimizar o seu funcionamento e a prestação de serviços. Esta digitalização acelerada promete celeridade, redução de custos operacionais e uma pretensa padronização das decisões, alterando substancialmente o paradigma de interação entre o Poder Público e os cidadãos.

Todavia, a implementação destas tecnologias disruptivas suscita um problema de pesquisa fulcral: até que ponto pode o Estado delegar a sistemas automatizados e algoritmos a tomada de decisões administrativas que afetam, de forma direta e restritiva, a esfera de direitos dos administrados? A substituição do juízo de valor humano pelo processamento opaco de dados na concessão de benefícios sociais, na aplicação de sanções, na triagem de investigações e no policiamento preditivo levanta desafios dogmáticos sem precedentes para o Direito Público.

A relevância deste debate reside na constatação de que a automação governamental não é uma operação axiologicamente neutra. Os sistemas de IA são frequentemente suscetíveis a "vieses algorítmicos" (algorithmic bias) e costumam operar sob uma lógica de opacidade técnica (o fenómeno da black box ou caixa-preta). Esta dinâmica entra em rota de colisão direta com pilares fundamentais do Estado Democrático de Direito, nomeadamente os princípios da Impessoalidade, da Motivação dos Atos Administrativos, do Contraditório e da Ampla Defesa. Torna-se imperioso garantir que a procura incessante pela eficiência tecnológica não atropele o devido processo legal nem converta o cidadão num mero objeto de escrutínio computacional.

Neste enquadramento, o presente artigo assume como objetivo geral analisar os limites constitucionais da automação dos atos administrativos e do uso da Inteligência Artificial na tomada de decisão pelo Estado. De forma específica, o estudo propõe-se a: (i) examinar a referida tensão entre a inovação digital e o risco de violação das garantias fundamentais; (ii) dissecar o dever irrenunciável de motivação válida nas decisões geradas por máquinas; e (iii) demonstrar de que forma o "direito à explicação", assegurado pela Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018), impõe a exigência da revisão humana (human-in-the-loop) como salvaguarda indispensável contra o arbítrio digital no setor público.

2. A Transformação Digital da Administração Pública

A inserção da Inteligência Artificial (IA) e de sistemas automatizados no seio do Estado não constitui um fenómeno isolado, mas sim o corolário de um irreversível processo de digitalização da Administração Pública. Historicamente moldada pela rigidez do processo físico e pela lentidão inerente à burocracia tradicional, a máquina estatal depara-se hoje com a necessidade premente de modernização, impulsionada tanto pelas exigências de uma sociedade hiperconectada quanto por estritos imperativos legais.

Neste contexto, o Princípio da Eficiência, erigido à categoria de princípio constitucional expresso no artigo 37, caput, da Constituição Federal de 1988 (por força da Emenda Constitucional nº 19/1998), assume um papel central e redimensionado. A eficiência administrativa deixou de ser interpretada, na doutrina moderna, apenas como mera contenção de despesas, para se consolidar como a otimização qualitativa e quantitativa dos serviços prestados. A automação de processos surge, assim, como a materialização tecnológica deste princípio, permitindo ao Estado processar um volume colossal de dados (Big Data) e proferir decisões de massa com uma velocidade e precisão inatingíveis pela capacidade humana isolada.

O arcabouço normativo que legitima e fomenta esta transição estrutural é a Lei nº 14.129/2021, conhecida como a Lei de Governo Digital. Este diploma legal estabelece princípios, regras e instrumentos para o aumento da eficiência pública, estatuindo a prestação digital dos serviços como a regra e promovendo a interoperabilidade de bases de dados entre diferentes esferas de poder. A norma incentiva de forma expressa a inovação e a desburocratização, conferindo a necessária segurança jurídica para que os gestores públicos adotem algoritmos na triagem de requerimentos, na concessão de benefícios assistenciais e na fiscalização tributária.

Os benefícios práticos e operacionais desta governança algorítmica são inegáveis. Destaca-se, em primeiro lugar, a celeridade, que aniquila a morosidade dos processos administrativos, garantindo respostas tempestivas e efetivas aos administrados. Em segundo plano, a redução de custos liberta os servidores públicos e as autoridades policiais de tarefas repetitivas e puramente mecânicas, permitindo a realocação do capital humano para funções de inteligência, planejamento estratégico e investigação complexa. Por fim, a padronização algorítmica promete mitigar o risco de corrupção miúda e de arbitrariedades isoladas, uma vez que o sistema, em tese, aplica exatamente os mesmos parâmetros analíticos a todos os casos análogos.

Contudo, a dogmática jurídica adverte que a presunção de total neutralidade tecnológica é uma falácia. Se, por um lado, a máquina otimiza e higieniza a gestão pública, por outro, a sua adoção acrítica na tomada de decisões restritivas instaura um terreno fértil para violações silenciosas, sistémicas e massificadas, transferindo o debate para a esfera do Direito Constitucional de Defesa.

3. Os Riscos da Decisão Algorítmica e a Violação de Garantias Constitucionais

A adoção da Inteligência Artificial pelo Estado não pode ser escudada por uma presunção absoluta de infalibilidade matemática. A transição da decisão humana para a decisão automatizada acarreta riscos dogmáticos profundos, com potencial para violar o núcleo duro dos direitos fundamentais do administrado e subverter as garantias elementares do devido processo legal. A literatura jurídica aponta dois obstáculos centrais que a Administração Pública precisa de transpor: o viés discriminatório e a opacidade sistémica.

3.1. O "Viés Algorítmico" e o Princípio da Impessoalidade

Um dos maiores perigos inerentes à tomada de decisão por máquinas é o chamado "viés algorítmico" (algorithmic bias). Os sistemas de aprendizagem automática (Machine Learning) não criam o conhecimento a partir do zero; eles são treinados com base em vastos conjuntos de dados históricos (datasets). Se o acervo de dados fornecido ao sistema refletir assimetrias sociais, preconceitos estruturais ou práticas institucionais desvirtuadas do passado, o algoritmo tenderá a assimilar, replicar e potenciar essas mesmas distorções sob uma capa de aparente neutralidade tecnológica.

No âmbito do Direito Administrativo, esta dinâmica afronta frontalmente o Princípio da Impessoalidade (artigo 37, caput, da CF/88). Quando o Estado utiliza, por exemplo, ferramentas algorítmicas de policiamento preditivo, sistemas de biometria facial para identificação de suspeitos ou plataformas automatizadas para a triagem de requerentes de benefícios sociais (como no INSS), existe o risco iminente de a máquina criar "perfis de risco" pautados em marcadores socioeconómicos dissimulados. A ferramenta tecnológica, longe de ser imparcial, passa a atuar como um amplificador matemático de desigualdades, resultando em condutas discriminatórias e inconstitucionais perpetradas, de forma massificada, pelo próprio Poder Público.

3.2. A Opacidade (Black Box) e o Dever de Motivação

O segundo e mais complexo desafio dogmático reside na natureza opaca dos algoritmos mais avançados, mormente aqueles baseados em redes neuronais profundas (Deep Learning). Este fenómeno, conhecido na ciência da computação como Black Box (caixa-preta), traduz-se na impossibilidade de compreender ou rastrear exatamente qual o caminho lógico, matemático e ponderativo que a IA percorreu para chegar a um determinado output – um mistério que desafia até mesmo os programadores que a conceberam.

A aplicação desta tecnologia opaca colide de forma intransigente com o Dever de Motivação dos atos administrativos (consagrado no artigo 50 da Lei nº 9.784/1999). A motivação consubstancia-se na exteriorização clara e congruente dos motivos de facto e de direito que justificam a vontade estatal. Se a Administração Pública indefere um pedido de alvará, cessa um benefício previdenciário ou aplica uma sanção baseando-se unicamente no resultado inexplicável de um software, o ato administrativo nasce irremediavelmente inquinado de nulidade por vício de forma (ausência de motivação idônea).

A consequência mais nefasta desta opacidade é o esvaziamento das garantias do Contraditório e da Ampla Defesa (artigo 5º, inciso LV, da CF/88). É material e juridicamente impossível para o cidadão contestar, quer na via administrativa, quer na via judicial, uma decisão restritiva de direitos cujos fundamentos permanecem ocultos, indecifráveis e trancados no código-fonte de um algoritmo estatal.

4. O Direito à Explicação e a Aplicação da LGPD no Setor Público

Para obstar as lesões a direitos fundamentais inerentes à automação desregrada, o ordenamento jurídico pátrio encontrou no microssistema de proteção de dados o seu principal mecanismo de defesa. É imperioso destacar que a Lei Geral de Proteção de Dados (LGPD — Lei n.º 13.709/2018) não restringe a sua eficácia à iniciativa privada; o seu Capítulo IV submete expressamente o Poder Público aos seus ditames, estabelecendo limites rigorosos ao tratamento de dados pessoais para a execução de políticas públicas.

A resposta legislativa mais contundente ao problema da "caixa-preta" (Black Box) encontra-se positivada no artigo 20 da LGPD. Este dispositivo consagra o chamado "direito à explicação", garantindo ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem os seus interesses. No contexto do Direito Administrativo, isto significa que o cidadão detém a prerrogativa incontornável de exigir que o Estado esclareça os critérios e os procedimentos lógicos utilizados pelo algoritmo para chegar àquela conclusão.

A Exigência da Revisão Humana (Human-in-the-loop)

A garantia conferida pelo artigo 20 da LGPD impõe à Administração Pública a adoção do modelo human-in-the-loop (humano no ciclo). Em termos dogmáticos, isto traduz-se na impossibilidade de o Estado delegar a palavra final, de forma absoluta e irrecorrível, a um sistema de Inteligência Artificial em atos punitivos ou restritivos de direitos.

Sempre que a máquina indeferir uma pretensão ou aplicar uma sanção, deve existir a possibilidade de uma auditoria cognitiva humana. O servidor público (auditor, investigador ou gestor) atua como a instância de validação ética e jurídica da decisão automatizada, assegurando que o algoritmo não cometeu erros de inferência ou aplicou vieses discriminatórios. É esta revisão humana que devolve ao ato administrativo a sua necessária motivação, permitindo que a decisão seja fundamentada em linguagem compreensível e passível de contestação pelo administrado.

A Proteção de Dados como Direito Fundamental Autónomo e a Visão do STF

A relevância deste escrutínio foi elevada ao patamar máximo do ordenamento jurídico com a promulgação da Emenda Constitucional n.º 115/2022, que inseriu a proteção de dados pessoais no rol dos direitos e garantias fundamentais (artigo 5.º, inciso LXXIX, da CF/88).

A jurisprudência do Supremo Tribunal Federal (STF) tem sido implacável na defesa desta nova garantia contra o ímpeto tecnológico do Estado. No julgamento da ADI 6387 (caso da partilha de dados de telecomunicações com o IBGE), o STF assentou que o Estado não detém um poder soberano e ilimitado sobre os dados dos cidadãos. A Suprema Corte consolidou o entendimento de que qualquer tratamento de dados governamentais — o que inclui a sua utilização para treinar IA e proferir decisões automatizadas — deve obediência estrita aos princípios da finalidade, da necessidade e da proporcionalidade.

O Supremo alertou, portanto, que a eficiência administrativa e o interesse público não consubstanciam um "cheque em branco" para a devassa informacional. O Estado que automatiza as suas decisões assume, simultaneamente, o ónus da transparência algorítmica, devendo comprovar, caso seja provocado, que a máquina operou dentro das balizas constitucionais e sem violação da dignidade da pessoa humana.

5. Conclusão

A transição da Administração Pública para o paradigma da governança algorítmica representa um marco civilizacional irreversível. Como demonstrado ao longo deste estudo, o emprego da Inteligência Artificial e a automação massiva de procedimentos consubstanciam a materialização do Princípio da Eficiência, conferindo ao Estado uma capacidade operacional sem precedentes para processar dados, reduzir custos e acelerar a prestação de serviços à sociedade. A tecnologia, sob esta perspetiva, afigura-se como uma aliada indispensável para a superação da morosidade burocrática sistêmica.

Não obstante, a eficiência tecnológica não pode ser erigida a um superprincípio capaz de suplantar o Estado Democrático de Direito. A delegação de decisões restritivas de direitos a sistemas opacos (Black Box) e suscetíveis a vieses discriminatórios configura uma grave ameaça aos princípios constitucionais da Impessoalidade, do Contraditório e da Ampla Defesa. A nulidade por ausência de motivação é o destino jurídico inexorável de qualquer ato administrativo punitivo cuja fundamentação reside, exclusivamente, no processamento de dados indecifráveis para o cidadão afetado.

Nesta senda, conclui-se que o ordenamento jurídico brasileiro já dispõe dos anticorpos necessários para conter o arbítrio digital, notadamente através do artigo 20 da Lei Geral de Proteção de Dados (LGPD) e da jurisprudência garantista do Supremo Tribunal Federal (STF). A exigência do "direito à explicação" impõe à Administração Pública a adoção obrigatória do modelo human-in-the-loop, garantindo que a máquina atue como um instrumento de suporte à decisão, e não como um decisor final infalível.

A modernização do Estado é imperativa, mas deve ser pautada por um "algoritmo constitucional" onde a transparência, a auditabilidade e a dignidade da pessoa humana permaneçam como os parâmetros supremos de qualquer linha de código governamental.

Referências

BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: http://www.planalto.gov.br. Acesso em: [inserir data].

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018.

BRASIL. Lei nº 14.129, de 29 de março de 2021. Dispõe sobre princípios, regras e instrumentos para o Governo Digital e para o aumento da eficiência pública. Brasília, DF: Presidência da República, 2021.

BINENBOJM, Gustavo. Uma Teoria do Direito Administrativo: Direitos Fundamentais, Democracia e Jurisdição. 3. ed. Rio de Janeiro: Renovar, 2014.

FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência Artificial e Direito: Ética, Regulação e Responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.

SUPREMO TRIBUNAL FEDERAL (STF). Ação Direta de Inconstitucionalidade (ADI) nº 6387. Relatora: Ministra Rosa Weber. Plenário. Julgado em: 07 de maio de 2020. Brasília, DF.