Vânia Zuin Zeidler: Inteligência artificial na ciência sempre fornece uma resposta, mas não necessariamente a correta

Nesta entrevista, Zeidler discute o uso de inteligência artificial na ciência, seus impactos no meio ambiente e defende uma cultura científica e social responsável. “A ciência não deve se torar um mero produto de consumo”, diz.

Apesar da IA e das ferramentas digitais, os estudantes ainda estão no laboratório com bico de Bunsen, óculos de proteção e balões Erlenmeyer. Por que o trabalho tradicional de laboratório ainda é importante no ensino hoje?

Modelos são criados por pessoas, mas eles têm limites, e esses limites precisam ser compreendidos. Somente quem já trabalhou no laboratório em química entende como os dados são gerados e o que eles realmente significam. Isso é essencial para poder interpretar criticamente os resultados científicos.

Mas os modelos de IA estão ficando cada vez melhores. Eles não poderiam, em algum momento, substituir o trabalho de laboratório?

O experimento é indispensável. O conhecimento químico surge por meio da observação. Teorias, modelos e fórmulas podem ser validados quando são confirmados experimentalmente. Sem experimentos, a química se torna muito especulativa.

Mas a IA não poderia prever estruturas moleculares?

Na Leuphana, já trabalhamos há bastante tempo com métodos de quimioinformática. Eles ajudam a economizar recursos ao evitar experimentos desnecessários. Mas não podemos confiar apenas nisso. Já vimos casos em que modelos generativos de IA “projetaram” moléculas que nem sequer podem existir quimicamente. As imagens parecem atraentes e convincentes à primeira vista — mas podem estar simplesmente erradas e, portanto, também perigosas. Especialmente estudantes muitas vezes não conseguem identificar esses erros. A IA sempre fornece uma resposta, mas não necessariamente a correta.

Isso significa que a senhora vê a IA generativa de forma mais crítica no ensino?

De forma mais diferenciada. Os estudantes hoje são muito familiarizados com o digital. Eles devem conhecer essas ferramentas. Mas precisam entender como o conhecimento é produzido, desde a formulação da pergunta, passando pelo processo, até uma resposta verificável. Queremos que aprendam a avaliar criticamente. Essa é a base do pensamento científico e, em última análise, também uma contribuição para a democracia.

Como química, a senhora pertence ao Instituto de Química Sustentável. Quais são os custos sociais e ecológicos da IA generativa?

As belas imagens e respostas rápidas têm um preço. Grandes centros de dados consomem enormes quantidades de energia e água. Precisamos falar sobre proteção de dados e justiça socioambiental: muitas pessoas perdem seus empregos. Precisamos aprender a considerar esses custos. Não se trata apenas do que a IA generativa pode fazer, mas também do que ela causa, como o faz, por que e para quem. Um número de grandes empresas frequentemente utiliza dados sem o consentimento de seus autores.

E como fica a proteção dos dados científicos?

Bons dados valem ouro. Por isso, muitos pesquisadores trabalham com a indústria para protegê-los, mas isso é caro. Especialmente no Sul Global, faltam esses recursos. Portanto, também precisamos falar sobre acesso justo ao conhecimento.

A Europa está atualmente trabalhando em uma regulamentação da IA, o AI Act. Isso é suficiente?

Esse é um passo importante, mas a regulamentação por si só não é suficiente. Precisamos de uma cultura científica e social que leve a responsabilidade a sério. A ciência não deve se tornar um mero produto de consumo. Trata-se de valores: de transparência e da nossa humanidade.

Fonte: Universidade Leuphana de Lüneburg