Ao buscar pelo próprio nome no Google Acadêmico, prática que está longe de ser incomum entre adultos maduros que vivenciaram o mundo das enciclopédias e dos dicionários volumosos, um professor de uma das maiores universidades do Brasil descobriu que havia sido citado em um artigo científico de autores indianos publicado como preprint na plataforma arXiv.org. Físico de formação, ficou curioso pelos detalhes e, depois de alguns cliques, descobriu que o artigo referido não existe e, mais do que isso, a referência em questão citava uma colaboração acadêmica que também nunca existiu entre três pesquisadores, o docente e outros dois físicos de universidades brasileiras importantes.
O docente dividiu a experiência singular em uma rede social, levantando a hipótese de que a referência tenha sido gerada por inteligência artificial. Nos comentários, um professor de uma tradicional universidade federal fez um relato complementar, na mesma linha: nesse caso, o docente tivera um artigo citado por autores chineses aparentemente fora de propósito, levantando a hipótese de que “as listas de referências podem estar sendo geradas de modo a incluir possíveis revisores (dos artigos submetidos) e deixá-los satisfeitos”, o que seria uma tentativa de influenciar na revisão por pares (peer review), etapa fundamental que atesta a qualidade do trabalho científico.
Exemplos de má conduta em pesquisa, como os relatados na abertura deste texto, parecem ter sido levados a um outro patamar, cujos desdobramentos e consequências ainda se sabe muito bem quais são, com a popularização do acesso aos chats de inteligência artificial, a chamada inteligência artificial (IA) generativa, hoje disponível a quem deseja dinamizar o fazer científico com ferramentas que sintetizam, em segundos, a produção intelectual conhecida até aquele instante, conhecimento que o ser humano construiu em escalas de tempo muito diferentes da praticada na aprendizagem automática de machine learning.
Embora os benefícios e as vantagens do uso das ferramentas de IA no dia a dia sejam incontáveis, ampliar os debates sobre questões éticas e a integridade na pesquisa científica tornou-se essencial para a compreensão dos impactos que as ferramentas de inteligência artificial estão causando no mundo acadêmico, tanto para o graduando que faz iniciação científica como para o PhD que se lança em um pós-doutorado. Esta foi uma das principais conclusões da terceira edição do evento de ética na pesquisa científica promovido em junho pela Pró-Reitoria de Pesquisa (ProPe) da Unesp, no prédio da Reitoria em São Paulo, sob o tema “Desafios Éticos da Ciência Aberta e da Colaboração Científica”.
“Ficou claro (no evento) que a inteligência artificial generativa está tornando-se um desafio enorme e ao mesmo tempo, até certo ponto, uma ferramenta útil. Cabe a nós pôr os limites éticos sobre o seu uso”, afirma a professora Maria Del Pilar Taboada Sotomayor, assessora da ProPe e organizadora do evento unespiano. “Existem muitas práticas que, por vezes mais por inocência do que por má-fé, ocorrem por desconhecimento, principalmente no caso daqueles que estão aprendendo”, diz a docente.
A ética na pesquisa e nas publicações científicas em tempos de inteligência artificial, já tratada na conferência mundial de integridade na pesquisa realizada em 2024 na Grécia, será discutida com profundidade também na próxima conferência, agendada para maio do ano que vem no Canadá. Na Unesp, o pró-reitor de pesquisa Edson Cocchieri Botelho anunciou, no evento de junho, novos investimentos na área de ética em pesquisa, dando mais força à comissão que trabalha com a temática na Universidade. “Estamos querendo ampliar esta comissão ou revê-la para termos ações mais robustas para orientar de forma mais eficiente a nossa comunidade científica, desde os alunos de graduação até os pós-doutorandos, envolvendo claro os novos professores da nossa universidade”, afirmou o pró-reitor. “Contem com a nossa pró-reitoria de pesquisa com relação a isso.”
Inicialmente pensado para apoiar o começo do trabalho dos docentes recentemente contratados pela Unesp, que desde 2022 vem recompondo o quadro fixo de professores, o ciclo de eventos para discutir ética na pesquisa científica vem mostrando também aos docentes mais experientes a importância da dimensão educativa, ou formativa, dessas discussões, em especial pelo contato com as novas tecnologias. Na abertura do encontro, por exemplo, o vice-reitor Cesar Martins lembrou que nos anos 1990, quando submeteu o seu primeiro artigo científico para publicação, teve de imprimir o material, envelopá-lo e despachá-lo via correio para uma revista internacional na expectativa de uma resposta que poderia demorar meses ou até mais de um ano para ocorrer.
“São avanços (tecnológicos) que nos colocam muitos desafios e todos eles têm de ser discutidos em relação à produção do conhecimento, que é o fundamento da nossa universidade”, disse o vice-reitor. “Nossa missão é formar pessoas, colocar profissionais a serviço da sociedade e, para isso, estes profissionais têm que ter contato com conhecimento de ponta, de vanguarda, produzido com muito cuidado, cautela e seguindo princípios básicos de ética e boa conduta. É isso que está em pauta”, afirmou.
Mesa de abertura do evento com a presença da pró-reitora de graduação, professora Celia Giacheti (à esq.), do vice-reitor da Unesp, professor Cesar Martins, do pró-reitor de pesquisa, professor Edson Botelho e do pró-reitor de extensão e cultura, professor Raul Borges Guimarães. Ao fundo, a mestre de cerimônias do encontro, Mayra Ferreira. (Crédito: Fábio Mazzitelli/ACI Unesp)
Benefícios da Inteligência Artificial para a pesquisa
Transmitido ao vivo por meio do canal Unesp Oficial no YouTube, o evento de ética na pesquisa científica realizado em junho contou com quatro palestrantes: os professores Sigmar de Mello Rode e José Augusto Chaves Guimarães, ambos da Unesp; a professora Carmen Penido Monteiro, da Fundação Oswaldo Cruz (Fiocruz); e a docente Claudia Bauzer Medeiros, do Instituto de Computação da Universidade Estadual de Campinas (Unicamp).
Ex-presidente da Associação Brasileira de Editores Científios (Abec Brasil), Sigmar de Mello Rode iniciou o debate com uma apresentação sobre os princípios éticos na publicação científica, na qual buscou definições para o que é ética e retomou as bases para a “Declaração de Helsinque”, uma diretriz ética para pesquisas médicas envolvendo seres humanos construída pela primeira vez em 1964. “Somos éticos porque temos valores para o que fazemos”, resumiu, durante a apresentação.
No debate sobre o uso de ferramentas de inteligência artificial generativa na produção científica, o docente expressou uma visão otimista, citando como a utilização deste tipo de recurso pode reduzir desigualdades, por exemplo, na elaboração de artigos em inglês por autores que não são nativos ou fluentes em língua inglesa. “Nós podemos e devemos utilizar a IA nos nossos trabalhos, mas não omitir o fato de que nós a usamos”, afirma Sigmar de Mello Rode, fazendo uma ressalva importante. “A curadoria do ser humano é fundamental em todos os aspectos, não só no uso da inteligência artificial. A curadoria na redação de um artigo, no envio para publicação, na resposta para o editor. Não podemos abrir mão desta curadoria em todos os aspectos da execução da ciência.”
Os pesquisadores, de forma geral, concordaram com a frase que “ética se aprende”. A maioria dos participantes pontuou que a disseminação de determinados valores desde a iniciação científica pode ajudar na absorção de boas práticas em pesquisa.
“A discussão ética traz princípios, valores e percepções que levam a mais aprendizados. Aqui, enquanto plateia dessas palestras, aprendi coisas que eu não imaginava. E, quando falamos especialmente nas questões da integridade em pesquisa, existe muito a se aprender”, afirma a professora Carmen Penido Monteiro, da Fiocruz. “Quando a gente fala especificamente da integridade em pesquisa, essa discussão começou no Brasil nos anos 2000, quando começaram as iniciativas e primeiras disciplinas de pós-graduação, e vem crescendo, não porque aumentaram os casos de má conduta, porque tem se percebido a urgência de se falar sobre isso para que consigamos melhorar a nossa ciência”, diz.
Além do pró-reitor de pesquisa e do vice-reitor da Unesp, a mesa de abertura do evento reuniu representantes de todas as dimensões da vida universitária, com a participação da pró-reitora de graduação, professora Celia Giacheti, e do pró-reitor de extensão universitária e cultura, professor Raul Borges Guimarães. Veja abaixo a íntegra da terceira edição do evento de ética na pesquisa científica promovido em junho pela Pró-Reitoria de Pesquisa.
Na imagem acima: da esquerda para a direita: os professores Sigmar de Mello Rode e José Augusto Chaves Guimarães, ambos da Unesp; e a professora Carmen Penido Monteiro, da Fundação Oswaldo Cruz (Fiocruz)