Ministra criada por IA levanta discussões jurídicas. Se fosse no Brasil?

De: Alexander Coelho

Especialista em Direito Digital, Cibersegurança e Inteligência Artificial (IA), é membro da Comissão de Inteligência Artificial e Privacidade da OAB/SP. Pós-graduado em Digital Services pela Faculdade de Direito da Universidade de Lisboa (Portugal)

O governo albanês anunciou a nomeação simbólica de Diella, uma ministra digital gerada por IA, encarregada de supervisionar contratos públicos e promover a transparência nas licitações. Ela discursou no Parlamento, declarou que “não está aqui para substituir humanos, mas para ajudá-los” e se tornou, instantaneamente, uma figura global. A reação foi mista: do entusiasmo tecnológico à inquietação constitucional.

Mas o que está realmente em jogo nesse episódio? Embora o governo tenha afirmado que Diella não possui poder decisório e atua de forma complementar, a mera formalização de um “posto ministerial” a uma IA representa uma ruptura simbólica significativa. Em tese, nenhuma inteligência artificial pode exercer funções públicas, por um motivo simples: a responsabilidade civil, administrativa e penal exige um sujeito de direito, com consciência, vontade e responsabilidade jurídica.

Diella, por mais “transparente” e “neutra” que pareça, é uma criação algorítmica. E algoritmos são treinados por humanos, com dados humanos, refletindo vieses e decisões humanas.

O objetivo declarado é nobre: combater a corrupção. Mas como fazer isso se não sabemos quem programou Diella, quais são suas fontes de dados, seus critérios de avaliação e, principalmente, quem responde por ela em caso de erro, exclusão injusta ou favorecimento disfarçado?

Não há transparência real sem accountability humana. Um sistema de IA que detecta irregularidades, por exemplo, pode ser uma ferramenta poderosa, desde que esteja subordinado a autoridades públicas, sob supervisão judicial e controle social.

Do contrário, corremos o risco de terceirizar decisões críticas a um “oráculo digital” sem rosto nem voz, mas com poder efetivo sobre vidas, recursos e direitos.

O discurso de que “a IA está aqui apenas para ajudar” parece reconfortante. Mas precisamos encarar o fato de que toda automação – por definição – desloca algum grau de atribuição humana. O que começa como um assistente pode, sem os devidos limites, tornar-se protagonista silencioso.

Esse tipo de iniciativa acende um alerta global: o uso político da IA como cortina de fumaça para decisões tecnocráticas sem debate público. Uma máquina que “aponta erros” sem direito a defesa, que “seleciona propostas” sem critérios acessíveis, que “julga processos” com base em correlações estatísticas, tudo isso enfraquece os pilares do Estado de Direito.

Se esse experimento ocorresse no Brasil, haveria clara afronta à Constituição. A função pública exige investidura, responsabilidade e obediência ao princípio da legalidade. A Lei de Acesso à Informação (Lei 12.527/2011), a LGPD, e o Marco Civil da Internet estabelecem exigências de transparência e governança algorítmica, ainda tímidas, mas fundamentais.

A nomeação de uma IA como autoridade pública, sem regulação, seria objeto imediato de Ação Direta de Inconstitucionalidade.

O caso Diella é emblemático porque materializa um dilema contemporâneo: vamos usar a IA como instrumento de fortalecimento institucional ou como atalho tecnocrático para concentrar poder?

Não se trata de rejeitar a tecnologia. Pelo contrário: IA bem regulada e sob controle humano pode ser aliada na luta contra a corrupção, na eficiência da máquina pública, na análise de dados.

Mas jamais podemos nos iludir: o poder nunca é neutro. E, quando ele começa a usar uma voz robótica para se anunciar como imparcial, é justamente quando devemos redobrar nossa vigilância. Afinal, como dizia o escritor inglês G.K. Chesterton: “A maior das tiranias é aquela exercida em nome do bem”.