1. Introdução

A revolução digital transformou a Administração Pública, evoluindo do uso de sistemas básicos de dados para a implementação de Inteligência Artificial (IA) na tomada de decisões. Hoje, algoritmos são utilizados para tudo, desde a triagem de processos judiciais e concessão de benefícios previdenciários até a gestão de tráfego e predição de crimes. Esta "Administração Pública 4.0" promete uma eficiência sem precedentes, reduzindo a burocracia e otimizando recursos escassos.

Contudo, a automação traz consigo um desafio ético e jurídico profundo: a "opacidade algorítmica". Quando uma decisão administrativa que afeta a esfera de direitos de um cidadão é tomada por um sistema complexo (muitas vezes chamado de "caixa-preta"), os princípios constitucionais do contraditório e da ampla defesa podem ser postos em xeque.

O presente artigo analisa como a utilização da IA pela Administração deve ser limitada pelos princípios da explicabilidade e da motivação. Defender-se-á que a busca pela eficiência tecnológica não pode atropelar o devido processo legal, garantindo que a tecnologia atue como servidora da Constituição, e não o contrário.

2. Desenvolvimento

2.1 Automação vs. Discricionariedade e o Risco do Viés

A introdução da IA na Administração levanta o debate sobre a natureza da discricionariedade administrativa. Se um algoritmo decide, baseado em padrões de dados, quem deve receber uma fiscalização prioritária, a escolha ainda é discricionária ou tornou-se puramente técnica? O risco reside no fato de que algoritmos não são neutros; eles herdam os preconceitos (vieses) contidos nos dados de treinamento.

Se os dados históricos usados para treinar uma IA de segurança pública contêm preconceitos geográficos ou raciais, a máquina irá reproduzir e amplificar essas injustiças de forma automatizada. Portanto, o Direito Administrativo deve exigir uma "auditoria de viés" constante, garantindo que a automação não se torne um instrumento de discriminação algorítmica institucionalizada, violando o princípio da impessoalidade e da igualdade.

2.2 O Dever de Explicabilidade e a Motivação das Decisões

No Direito Administrativo, o dever de motivação (art. 50 da Lei nº 9.784/99) é essencial para o controle da legalidade. O cidadão tem o direito de saber por que o seu pedido foi negado. No contexto da IA, isso se traduz no Princípio da Explicabilidade. Não basta que a Administração diga "o sistema decidiu assim"; ela deve ser capaz de explicar a lógica e os critérios utilizados pelo algoritmo.

A transparência algorítmica é, portanto, uma nova face do princípio da publicidade (art. 37, caput, da CF). Além disso, em harmonia com a Lei Geral de Proteção de Dados (LGPD), deve-se garantir ao cidadão o direito à revisão humana de decisões tomadas puramente por meios automatizados, evitando que o indivíduo seja refém de erros de código ou de interpretações mecânicas desprovidas de sensibilidade jurídica.

2.3 Responsabilidade Civil por Erros da Inteligência Artificial

A responsabilidade civil do Estado (art. 37, §6º, da CF) é, em regra, objetiva. Se uma IA administrativa causar um dano — por exemplo, ao emitir uma ordem de demolição indevida ou ao negar um tratamento de saúde vital por erro de processamento — o Estado deve responder pelos danos. A grande discussão em 2025 é: o erro do algoritmo pode ser considerado "falha do serviço"?

A resposta tende a ser afirmativa. O Estado, ao optar pela automação para ganhar eficiência, assume o risco da atividade tecnológica. A dificuldade reside na prova do nexo causal em sistemas de aprendizado profundo (deep learning), onde o caminho da decisão é obscuro. Por isso, a inversão do ônus da prova em favor do cidadão e a exigência de registros de log (rastreabilidade) tornam-se mecanismos essenciais para que a responsabilidade objetiva do Estado não se torne uma letra morta no mundo digital.

3. Conclusão

A Inteligência Artificial é uma ferramenta indispensável para uma Administração Pública moderna e eficiente, mas a sua implementação não pode ocorrer em um vácuo ético ou jurídico. A tecnologia deve ser um meio para atingir o interesse público, nunca um fim em si mesma. A eficiência prometida pelos algoritmos só é legítima se for acompanhada pela transparência e pela responsabilidade.

O Direito Administrativo do futuro será o Direito da Governança Algorítmica. O controle da Administração Pública deverá evoluir da mera análise de papéis para a auditoria de códigos e bancos de dados. Garantir a explicabilidade e a possibilidade de revisão humana é o único caminho para assegurar que, na era das máquinas, a Dignidade da Pessoa Humana continue sendo o centro de gravidade de todo o ordenamento jurídico.