Procurar
Close this search box.
Procurar
Close this search box.

Inteligência artificial pode colocar em risco os fundamentos da ciência

Inteligência artificial pode colocar em risco os fundamentos da ciência

O bioquímico David Marçal questiona se as descobertas produzidas por sistemas de inteligência artificial podem ser consideradas conhecimento científico sem validação humana.

A crescente utilização da inteligência artificial na investigação científica está a levantar questões sobre a forma como o conhecimento é produzido e validado. Num ensaio publicado no PÚBLICO, a 30 de outubro, o bioquímico e divulgador de ciência David Marçal questiona se os resultados apresentados por sistemas de inteligência artificial podem ser considerados descobertas científicas antes de serem compreendidos e confirmados pelos investigadores. O autor recorda que a ciência moderna se desenvolveu através da circulação do conhecimento e do escrutínio entre investigadores, um processo que ganhou particular importância com a consolidação da publicação de artigos científicos sujeitos a revisão por pares. A possibilidade de outros cientistas reproduzirem experiências, identificarem erros e contestarem conclusões constitui uma parte essencial deste modelo. A inteligência artificial introduz uma dificuldade adicional, uma vez que consegue produzir resultados a uma velocidade muito superior à capacidade humana de os verificar. Para David Marçal, o problema não está na utilização destas ferramentas, cuja presença na investigação considera inevitável, e sim na possibilidade de a produção automática de resultados ultrapassar os mecanismos que permitem reconhecer uma descoberta como conhecimento científico.

Os exemplos recentes apresentados pelo autor ilustram algumas destas dificuldades. Em setembro, a empresa Anthropic anunciou que o seu modelo de inteligência artificial, Claude, tinha identificado um sistema de enzimas semelhante ao CRISPR/Cas9, tecnologia de edição genética associada ao Prémio Nobel da Química de 2020. A descoberta anunciada, contudo, não tinha sido confirmada experimentalmente nem apresentada num artigo sujeito a revisão por pares. O caso levantou ainda dúvidas sobre a origem da informação utilizada pelo sistema, depois de Mario Rodríguez Mestre, investigador da Universidade de Copenhaga, ter questionado se a inteligência artificial poderia ter aproveitado pistas fornecidas por si durante a utilização da ferramenta. A Anthropic negou essa possibilidade. Na matemática, David Marçal refere igualmente o anúncio da OpenAI sobre uma alegada resolução de um dos Problemas do Milénio, relacionado com as equações de Navier-Stokes, cuja validade permanece dependente do escrutínio científico. A empresa divulgou também mais de 700 artigos de matemática gerados por inteligência artificial, colocando os investigadores perante um volume considerável de resultados por verificar. Ursula Martin, investigadora da Universidade de Oxford, descreveu a situação à revista NATURE afirmando que “[A empresa] atira-nos um primeiro rascunho desarrumado e espera que sejamos nós a limpá-lo.”

A questão ultrapassa a fiabilidade de cada descoberta. David Marçal considera que a ciência assenta em dois princípios particularmente importantes, a transparência e a descentralização. O primeiro permite conhecer os métodos utilizados e reproduzir os resultados, enquanto o segundo impede que uma única entidade controle a produção e a validação do conhecimento. A investigação científica desenvolve-se através de uma comunidade internacional de instituições e investigadores, com diferentes possibilidades de publicação e financiamento. Os sistemas de inteligência artificial apresentam características distintas, uma vez que o seu funcionamento nem sempre permite compreender como determinadas respostas foram produzidas. Além disso, o desenvolvimento dos modelos mais avançados encontra-se concentrado num número reduzido de empresas, que controlam grande parte dos recursos tecnológicos necessários. Esta concentração poderá tornar a investigação dependente de decisões comerciais e limitar a capacidade de escrutínio dos resultados. No ensaio, o autor alerta para a possibilidade de surgir uma forma de “pós-ciência”, expressão que utiliza para descrever um cenário em que a sociedade aceita resultados cuja origem e validade não consegue verificar, aproximando esse fenómeno da chamada “pós-verdade”.

A resposta, segundo David Marçal, não deverá passar pela rejeição da inteligência artificial, uma vez que estas ferramentas poderão desempenhar um papel importante no desenvolvimento científico. O desafio consiste em garantir que os investigadores conservam a capacidade de compreender os resultados e de controlar os sistemas utilizados. O autor refere que já existem modelos que podem ser executados nos computadores dos próprios investigadores, permitindo maior autonomia relativamente às empresas que desenvolvem estas tecnologias. Defende, por isso, uma orientação política que favoreça sistemas verificáveis e sujeitos ao controlo humano, considerando improvável que esse modelo resulte apenas da iniciativa de empresas orientadas para o lucro. A preservação da ciência enquanto atividade aberta ao escrutínio público dependerá também das decisões tomadas pelos governos e pelas instituições científicas. Sem essas garantias, a produção de resultados poderá continuar a crescer, enquanto diminui a capacidade de os compreender e validar. David Marçal termina o ensaio com um aviso sobre as consequências dessa transformação, afirmando que “Caso contrário, não nos faltarão resultados, mas deixará de haver ciência.”

Carlos Diogo Pereira
ET AL.
Com fotografia de Lorenzo Herrera.

Palavras-chave