11º Diálogo Brasil-Alemanha: IA precisa aumentar capacidades humanas, não as substituir

Os professores Anderson Rocha, da Universidade Estadual de Campinas (Unicamp), e Renata Wassermann, da Universidade de São Paulo (USP), foram os keynote speakers de encerramento do evento. A coordenação da mesa ficou a cargo de Eduardo Zancul, representando a Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp). 

Rocha centrou sua palestra no questionamento: queremos uma inteligência artificial que realize as tarefas humanas ou uma inteligência aumentada, que colabora com os humanos? Na história, afirmou o professor, há vários exemplos de tentativas da humanidade de criar seres mecânicos. Hoje, disse, acontece algo parecido com a IA: há promessas que são vendidas como “mágicas”. Quando se fala em algo “mágico”, notou, pressupõe-se uma imunidade a críticas. 

“Quando você não critica, você não exige mudanças. Você não exige legislação, regulação. Você não exige melhorias. Se você vai a uma loja e compra um par de sapatos e ele tem um buraco, você não volta para casa com eles. Mas você continua comprando soluções em IA e tecnologia que não funcionam, e estão dizendo a você que são mágicas — mas não são”, afirmou. 

Esse debate vale, também, para sistemas autônomos, e o questionamento sobre uma inteligência aumentada se torna ainda mais importante. “Estamos falando de IA versus inteligência aumentada: em vez de substituição, em vez de sistema autônomo, em vez de intervenção humana mínima, queremos capacidades humanas aprimoradas. Queremos trabalho colaborativo, centralidade, humanos com um papel central no processo de desenvolvimento. As calculadoras não nos substituíram, por exemplo. Elas estão aqui para melhorar nossa capacidade de fazer cálculos”, defendeu. 

“Hoje, em 2025, pensamos que a Revolução Industrial foi algo maravilhoso. Mas não foi. Foram necessários mais de 70 anos para que as pessoas que não eram donas das máquinas colhessem os benefícios da Revolução Industrial. Durante esse período de adaptação, muitas coisas precisaram ser feitas. A mesma coisa está acontecendo novamente, mas a transformação por IA e tecnologia é muito mais rápida. Não teremos 70 anos para nos adaptar. E é por isso que precisamos exigir legislação, regulação, programas dos governos e das entidades para requalificação, capacitação, compreensão das soluções, exigência de transparência e de soluções imparciais”, disse. 

Definir a inteligência artificial 

A professora Wassermann ressaltou que existe um problema de base: a falta de definição do que é inteligência artificial. São plataformas que pensam? Ou que agem? máquinas que devem reproduzir o comportamento humano e/ou racional? “Ficamos muito confusos ao navegar nesse mundo do ‘o que estamos buscando’ ao criarmos sistemas de inteligência artificial. E há coisas que filósofos e outras pessoas vêm estudando há séculos e milênios, como todos esses dilemas morais. Se vejo que um trem vai atropelar cinco pessoas e, se eu puxar uma alavanca, ele vai atropelar apenas uma pessoa, o que devo fazer? Isso sempre foi visto como uma questão filosófica, mas, agora, se estamos construindo sistemas autônomos, temos que pensar nesses dilemas morais”, disse. 

Ela lembrou que a inteligência artificial não se resume, somente, a aprendizado de máquina. Pesquisadora do que se convencionou a chamar de “IA simbólica”, modalidade em que o conhecimento sobre determinado assunto é mais importante do que um banco de dados, a professora deu o exemplo de um projeto que realizou a partir de números do Sistema Único de Saúde (SUS). “Cada sistema computacional do SUS registra os dados de uma forma diferente, com um formato diferente, com significados diferentes. Claro, você pode colocar tudo na máquina e deixar o algoritmo de aprendizado de máquina gerar uma explicação para esses dados. Mas às vezes sabemos quem criou esses dados e, se soubermos o que estavam pensando, podemos representá-los de outra forma.” 

Wassermann defendeu a criação de ontologias para melhor classificar e entender não só os dados com que os modelos de IA são alimentados, mas também seus resultados. “Com essas explicações [ontológicas], podemos dar sentido aos dados daquela planilha cheia de números e códigos. Um especialista, como um médico, não precisa saber como funciona um banco de dados para fazer uma pergunta. Mas também não queremos fazer uma pergunta a um LLM [Modelo de Linguagem de Grande Escala] e não saber o que ele vai responder. Para alguns sistemas críticos, como medicina e saúde, você precisa ter certeza antes de aplicar algo”, afirmou. 

“Claro que há muitos benefícios em usar ferramentas de aprendizado de máquina, deep learning etc. Mas podemos combinar as coisas. Se conseguirmos usar o conhecimento de especialistas combinado com a IA orientada por dados, esse é o santo graal, o melhor dos dois mundos. Não há, no entanto, uma maneira simples de fazer isso. Há muitas pessoas tentando combinar sistemas de formas diferentes, e essa é uma área de pesquisa muito rica para o futuro”, disse. 

Diálogo Brasil-Alemanha 

O 11º Diálogo Brasil-Alemanha foi uma realização do Centro Alemão de Ciência e Inovação (DWIH) São Paulo e pela Fapesp. Reunindo especialistas de Brasil e Alemanha, da academia e da indústria, o Diálogo teve como tema em 2025 “Artificial Intelligence: Promises, Expectations, and Limitations in Science and Society”. 

Quatro tópicos nortearam o evento: a IA na medicina e na saúde, inteligência artificial em ciência e engenharia, regulação de impactos e seu uso nas ciências humanas. A ideia era elucidar, de maneira interdisciplinar, as implicações da tecnologia e os caminhos que precisam ser seguidos para que sejam mitigados os efeitos negativos de sua utilização. 

Texto: Rafael Targino