11º Diálogo Brasil-Alemanha: Discussão sobre regulação de IA avança no mundo, e governos já utilizam ferramentas no cotidiano

Estiveram no painel, moderado pela professora Indra Spiecker gen. Döhmann, da Universidade de Colônia, os professores Jeanette Hofmann (Freie Universität Berlin) e Juliano Maranhão (Universidade de São Paulo), além de Renata Mielli, do Comitê Gestor da Internet no Brasil (CGI.br). 

Hofmann partiu da análise do Artificial Intelligence Act (AI-Act), que entrou em vigor em agosto de 2024 na União Europeia (UE), para discutir a linha evolutiva da regulamentação baseada em matrizes de risco, tal como foi desenhado o próprio AI-Act. Segundo ela, a análise e o gerenciamento de riscos são metodologias bem estabelecidas e são utilizados amplamente em regulamentações. 

No caso da inteligência artificial, no entanto, há um problema adicional: a definição do que é IA ainda é muito instável. “A Comissão Europeia foi ambiciosa ao criar um ato que cobrisse todos os setores que utilizam IA atualmente ou que possam vir a fazê-lo no futuro, e definição de inteligência artificial teve que ser extremamente ampla e genérica. Além disso, as classificações de risco parecem ter sido produto de negociação política. A distinção formal entre análise de risco e gestão de risco desapareceu”, disse. 

Dessa maneira, os próprios fornecedores de sistemas de IA passaram a ser os responsáveis por prever, mitigar e definir a aceitabilidade dos riscos. “O que acontece é que um mercado paralelo já surgiu antes mesmo da aprovação do AI-Act. Empresas começaram a oferecer serviços de conformidade para os fornecedores de IA, garantindo que cumpream as exigências da regulamentação”, afirmou, destacando, inclusive, o caso de uma empresa que usa a própria IA para garantir conformidade.  

Brasil 

Mielli, do CGI.br, apresentou o panorama regulatório do Brasil, que, tendo como ponto de partida o AI-Act da União Europeia, tenta criar um marco nacional sobre inteligência artificial. Para ela, o projeto é “uma proposta oportuna e transformadora”, e possui diferenças fundamentais em relação à proposta europeia: além de descrever obrigações e processos de maneira diferente da UE, também não trata as matrizes de risco de maneira isolada. 

“O projeto coloca o ser humano no centro das aplicações de inteligência artificial, garantindo um conjunto robusto de direitos fundamentais. O Brasil está tentando construí-lo de forma democrática, garantindo um caminho sólido para a era digital, equilibrando proteção de direitos, confiança nos sistemas de IA e um ecossistema regulatório colaborativo”, disse. 

A especialista disse que o país está tentando construir uma estratégia nacional de inteligência artificial. “Um dos exemplos é o Plano Brasileiro de Inteligência Artificial, lançado em julho do ano passado. Esse plano estabelece diretrizes estratégicas para o desenvolvimento da IA com foco em inclusão digital e sustentabilidade. A proposta é chamada de ‘IA para o bem de todos’, priorizando pesquisa, infraestrutura, educação e empreendedorismo.” 

Uso no Judiciário 

Enquanto governos debatem as implicações, riscos e regulações da inteligência artificial, órgãos dos próprios governos já utilizam as ferramentas de IA em suas atividades, apontou o professor Maranhão. Outros já têm marcos regulatórios, como o Banco Central (em sistemas de análise de crédito) e a Agência Nacional de Saúde Suplementar (ANS). De acordo com o docente da USP, o setor público brasileiro é o que mais utiliza IA. 

O Poder Judiciário estabeleceu, ainda em 2020, regras para o uso de sistemas tradicionais de inteligência artificial, mas, depois de escândalos como a redação de uma decisão judicial em IA generativa, o Conselho Nacional de Justiça (CNJ) decidiu revisar a regulamentação. Um estudo, liderado por Maranhão, procurou saber como este tipo de IA estava sendo usada entre juízes e servidores públicos. Foram consultados cerca de 10% dos magistrados do país (cerca de 1.600), além de 18.000. 

“Metade dos juízes utilizava a IA generativa de maneira privada e, desse total, 30% em suas atividades profissionais. Muitos utilizavam IA adequadamente, como para resumo de documentos, elaboração inicial de sentenças, posteriormente revisadas. No entanto, o uso da IA como motor de busca jurídica sem revisão do conteúdo gerado era preocupante. Sem treinamento adequado e política de governança, há um risco elevado de incorreções. Aqueles que já utilizavam a tecnologia tinham uma baixa confiança nos resultados produzidos, já que o domínio jurídico exige expertise e precisão”, afirmou. 

Os achados da pesquisa foram fundamentais para a criação de um marco regulatório no Judiciário. “Duas questões principais surgiram. Deveriam os juízes revelar o uso de IA generativa ao redigir suas decisões? Os juízes deveriam ser proibidos de utilizar IA não contratada oficialmente pelos tribunais? No caso da primeira, determinou-se que a transparência sobre a IA deve ser integralmente aplicada no Judiciário, garantindo que o público saiba do uso dessas ferramentas. Já para a segunda, solução encontrada foi empoderar os tribunais para decidirem quais ferramentas seriam permitidas”, relatou. 

Diálogo Brasil-Alemanha 

O 11º Diálogo Brasil-Alemanha foi uma realização do Centro Alemão de Ciência e Inovação (DWIH) São Paulo e pela Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp). Reunindo especialistas de Brasil e Alemanha, da academia e da indústria, o Diálogo teve como tema em 2025 “Artificial Intelligence: Promises, Expectations, and Limitations in Science and Society”. 

Quatro tópicos nortearam o evento: a IA na medicina e na saúde, inteligência artificial em ciência e engenharia, regulação de impactos e seu uso nas ciências humanas. A ideia era elucidar, de maneira interdisciplinar, as implicações da tecnologia e os caminhos que precisam ser seguidos para que sejam mitigados os efeitos negativos de sua utilização.

Texto: Rafael Targino