Em 2023, apenas dois meses após seu lançamento, o ChatGPT atingiu a marca de 100 milhões de usuários ativos mensais, tornando-se o aplicativo de consumo com crescimento mais rápido da história. Três anos depois, o chatbot já alcança a marca de 900 milhões de usuários ativos semanais. Embora continue desfrutando do status de sistema de inteligência artificial generativa mais conhecida, hoje disputa o mercado com outras concorrentes de peso, como Gemini, Copilot e DeepSeek.
Estima-se que 22% dos jovens brasileiros recorram a sistemas de IA como fonte para tirar dúvidas e consultar informações. Outros usos populares incluem redação de textos e produção de imagens e infográficos. Esse cenário de transformações desperta preocupações, especialmente no meio acadêmico e científico, acerca dos impactos dessas novas tecnologias sobre a pesquisa científica e a produção de conhecimento.
Buscando ampliar e aprofundar esse debate, a Pró-reitoria de Pesquisa da Unesp organizou, na última quinta-feira (21 de maio), a quarta edição do evento “Ética na Pesquisa Científica”, com o tema “Influência e impacto da inteligência artificial na ética da pesquisa”. O encontro ocorreu na sede da Reitoria da Unesp, em São Paulo, e reuniu pesquisadores e divulgadores científicos da Universidade e da comunidade externa para discutir os desafios da incorporação da IA na ciência e as medidas necessárias para preservar a ética no fazer científico.
“Essa discussão é muito apropriada e ocorre em um momento em que a Universidade está completando 50 anos e amadurecendo em todos os aspectos necessários: ensino, pesquisa, extensão e cultura”, destacou a reitora Maysa Furlan na abertura do evento. “Estamos vivendo uma realidade bastante transformadora, mas, mais do que isso, desafiadora. Uma universidade que produz conhecimento com qualidade e excelência, como é a Unesp, precisa debater essa produção e se posicionar”, afirmou.
Inteligência artificial é ferramenta, não autora
A primeira palestra foi conduzida por Ricardo Limongi França Coelho, docente da Universidade Federal de Goiás e pesquisador das implicações cognitivas e éticas da inteligência artificial. Em sua fala, ele abordou o papel do pesquisador em um cenário no qual a IA já consegue executar grande parte das atividades de pesquisa.
Segundo o pesquisador, existe uma tendência crescente de delegar às inteligências artificiais tarefas como levantamento bibliográfico, estudo de materiais, realização de análises, produção de textos acadêmicos e elaboração de conclusões. Isso ocorre porque muitos acreditam que essas tecnologias seriam capazes de alcançar percepções que o cientista, sozinho, não conseguiria atingir. Essa lógica, associada à alta exigência de produtividade no ambiente acadêmico, faz com que pesquisadores recorram cada vez mais a essas ferramentas.
Durante a apresentação, Coelho destacou que, após o surgimento do ChatGPT, o número de submissões de artigos científicos aumentou em 42%, mas, em contrapartida, houve piora na qualidade dos trabalhos. “Hoje em dia, as bancas [acadêmicas] estão mais preocupadas em questionar se o texto foi produzido com IA do que em discutir a contribuição da pesquisa. Estamos tão preocupados com a autoria do trabalho que deixamos de debater a ciência produzida”, afirma.
Há evidências, segundo ele, de que a qualidade textual também está sendo impactada negativamente. “Estudos publicados na revista Science demonstram preocupação com o impacto cognitivo do uso excessivo de inteligência artificial, já que o pesquisador deixa de pensar e delega essa função para a máquina”, explica.
Segundo dados relatados pela revista Nature, uma tendência é o uso destas ferramentas para viabilizar a publicação de estudos e artigos com apenas um autor, o que vai contra a perspectiva de trabalho colaborativo que é tão importante para a produção científica. Outros efeitos incluem uma redução de 4,63% no escopo temático das pesquisas e de 22% no número médio de citações por artigo. “Estamos mais preocupados em utilizar os algoritmos mais modernos do que em efetivamente preencher as lacunas de conhecimento científico”, afirma.
Coelho defende mudanças de perspectiva, como uma transparência maior quanto ao processo de pesquisa, a definição de normas claras para uso de IA e a valorização de todo o percurso metodológico de uma pesquisa, e não apenas do produto final. “Dessa forma, garante-se que o pesquisador permaneça presente e reflexivo em relação ao próprio estudo. E, caso haja uso inadequado da tecnologia, seja possível responsabilizá-lo adequadamente”, conclui.
Inteligência artificial: o novo desafio ético
O editor da revista Pesquisa FAPESP, Fabrício Marques, apresentou um panorama dos principais desafios éticos enfrentados pela ciência nas últimas décadas. Entre eles, destacou o plágio, a manipulação de imagens por softwares, as retratações de artigos considerados não confiáveis, a proliferação de revistas predatórias, os problemas de reprodutibilidade de resultados, a fabricação e venda de artigos científicos, a manipulação da revisão por pares, os casos de assédio moral e sexual no ambiente acadêmico e, mais recentemente, a popularização das inteligências artificiais.
Segundo Marques, as IAs retomam problemas antigos, como plágio e manipulação de imagens, mas também introduzem novas questões. Uma delas é a produção de referências e citações a artigos que simplesmente não existem, as chamadas “alucinações”. O jornalista mencionou um estudo que apontou que, nas primeiras sete semanas de 2026, um em cada 277 artigos publicados no PubMed continha ao menos uma referência falsa.
O debate foi complementado pela palestra de Suelane Garcia Fontes, gerente do Centro de Dados e Inteligência Artificial do Insper, que se debruçou sobre os modos atuais de uso da IA na pesquisa científica.
Entre as potencialidades destacadas pela pesquisadora estão a interpretação de contextos complexos, a reformulação de ideias mantendo o rigor científico, a sugestão de metodologias, a síntese de grandes volumes de literatura e a adaptação da linguagem para diferentes públicos. Fontes também ressaltou que pesquisadores de países emergentes passaram a ter acesso a ferramentas antes restritas a nações desenvolvidas, além das facilidades de tradução oferecidas pelas plataformas.
Apesar desses benefícios, a pesquisadora alertou para diversos riscos, como as já mencionadas alucinações, a fabricação de dados falsos, a produção em massa de artigos sem valor científico, o plágio por reescrita de conteúdos protegidos, a manipulação de imagens e resultados experimentais e uma crescente crise de confiança na ciência.
“A falta de ética não é algo recente e nem surgiu com a IA. Mas as inteligências artificiais podem ampliar esses problemas se não tomarmos medidas”, explica Fontes.
A partir dessa reflexão, a pesquisadora apresentou princípios éticos que poderiam orientar o uso adequado dessas tecnologias. Elas incluem a transparência no uso; a preferência por modelos interpretáveis quando houver impacto nos resultados; a avaliação e mitigação de vieses algorítmicos; a manutenção da responsabilidade do autor pelos resultados apresentados; supervisão humana contínua e a proteção de dados sensíveis, que não devem ser submetidos a modelos externos sem consentimento.
Segundo Fontes, esses princípios devem orientar não apenas pesquisadores, mas também políticas institucionais desenvolvidas por universidades, centros de pesquisa e agências de fomento.
Inteligência Artificial e as publicações científicas
O docente da Unesp e coordenador do Escritório de Ética do SciELO, Sigmar de Mello Rode, apresentou as diretrizes desenvolvidas por repositórios de preprints para evitar que publicações contendo informações falsas geradas por inteligência artificial sejam armazenadas em bibliotecas digitais. Segundo ele, há uma crescente preocupação porque esses sistemas costumam aceitar manuscritos em um tempo muito menor do que o demandado pelos periódicos científicos tradicionais.
Rode citou o caso do repositório de ciências físicas arXiv, que proíbe pesquisadores de publicarem na plataforma por um ano caso sejam identificadas referências falsas ou sinais incontestáveis de uso de IA sem verificação adequada.
Em outros casos, como os repositórios PsyArXiv, da área de psicologia, e SocArXiv, da sociologia, pode haver um banimento pode ser permanente. Já o servidor de preprints do College of Science encerrou suas atividades devido à enxurrada de submissões de baixa qualidade, muitas delas atribuídas ao uso indiscriminado de inteligência artificial.
Esse impacto nas publicações científicas também foi abordado pelo docente aposentado da Faculdade de Filosofia e Ciências da Unesp José Augusto Chaves Guimarães. Segundo ele, as ferramentas de IA afetam todas as etapas da comunicação científica, desde sua produção até a avaliação e a publicação de artigos, influenciando inclusive a revisão por pares e as decisões editoriais.
O professor destacou que ainda existem diversas lacunas nas legislações relacionadas às publicações científicas e defendeu a criação de políticas específicas para editores e pareceristas, especialmente em atividades que envolvem confidencialidade de manuscritos inéditos e proteção de dados sensíveis.
Guimarães também defendeu a implementação de programas de formação sobre uso ético da IA na comunicação científica, abrangendo formação editorial e educação continuada. Além disso, segundo ele, os periódicos precisam ampliar suas diretrizes para autores, editores e pareceristas; definir usos permitidos e restritos; padronizar a declaração de uso de IA; e priorizar a responsabilidade humana nas decisões editoriais.
“A clareza nas diretrizes editoriais é importante porque a ética na pesquisa está diretamente ligada à ética da socialização do conhecimento. Afinal, uma pesquisa realizada e não socializada deixa de cumprir plenamente sua função”, afirma o docente. As gravações das palestras estão disponíveis no canal oficial da Unesp no Youtube.
Foto acima: José Augusto Chaves Guimarães, docente aposentado da Faculdade de Filosofia e Ciências; Denis Henrique Pinheiro Salvadeo, coordenador do Laboratório do Futuro; Maria Del Pilar Taboada Sotomayor, assessora da Pró-reitoria de Pesquisa; Sigmar de Mello Rode, Coordenador do Escritório de Ética do SciELO.