IA detecta fraude científica em milhões de artigos publicados entre 2000 e 2024

Pesquisadores utilizaram inteligência artificial para identificar um possível problema de grandes proporções na pesquisa sobre câncer ao analisar milhões de artigos científicos publicados entre 1999 e 20Uma ferramenta desenvolvida por acadêmicos ligados à Universidade de Tecnologia de Queensland, Austrália, detectou mais de 250 mil estudos com características compatíveis às encontradas em trabalhos associados a empresas que produzem pesquisas falsas ou de baixa qualidade — conhecidas como “fábricas de artigos”.

O risco das fábricas científicas. As chamadas paper mills são companhias internacionais especializadas no comércio de publicações prontas. Elas não apenas vendem textos prontos; muitas vezes comercializam até mesmo autoria científica para dar credibilidade aos materiais.

Pesquisadores utilizam inteligência artificial para identificar um possível problema de grandes proporções na pesquisa sobre câncer

Segundo os pesquisadores da universidade australiana, esses documentos frequentemente apresentam dados fabricados e utilizam linguagem incomum nos estudos publicados na área do câncer. Por seguirem modelos repetitivos em sua redação, acabam deixando padrões que podem ser detectados por sistemas avançados como o desenvolvido pela equipe estudiosa.

Leia também

Flávio Bolsonaro critica “tarifaço” americano na campanha presidencial

Banco Central aponta alta no IBC em maio com previsão positiva

Nexiqon inova com telhados feitos de resíduos industriais em SP

Os autores alertaram ainda que esse mercado representa uma ameaça crescente à confiabilidade geral da literatura acadêmica mundial, especialmente porque a pesquisa sobre biologia molecular é um campo com altíssimo volume de publicações anuais.

Como funciona a detecção artificial

Para criar essa ferramenta sofisticada, os pesquisadores empregaram um modelo de linguagem baseado na tecnologia BERT (Bidirectional Encoder Representations from Transformers). Esse sistema foi treinado especificamente utilizando artigos científicos já retratados ou desmentidos em outras ocasiões.

O algoritmo aprendeu o padrão e as pequenas semelhanças estruturais desses trabalhos suspeitos. Essa capacidade permite que ele crie uma espécie de “assinatura textual” capaz de diferenciar materiais potencialmente problemáticos dos demais estudos legítimos da área científica.

Nos testes realizados pelos acadêmicos, o desempenho do modelo se mostrou robusto: a IA identificou corretamente documentos duvidosos com taxa de 91% nos casos testados; um índice comparado aos filtros voltados para produção científico acadêmica.

A análise também revelou como esse tipo de publicação aumentou drasticamente ao longo das últimas décadas. Enquanto no início dos anos 2000 apenas cerca de 1% era suspeito, em 202este percentual já havia ultrapassado os 16%.

Impacto e uso na revisão científica

Os estudos sinalizados não estão restritos à biologia molecular do câncer ou a pesquisas laboratoriais sobre ossos. Os pesquisadores observaram que esses trabalhos fraudulentos aparecem distribuídos por milhares de periódicos científicos diferentes.

Diante disso, três grandes periódicos internacionais iniciaram testes com o sistema durante sua etapa interna de avaliação de manuscritos acadêmicos. A proposta é usar essa inteligência artificial como um primeiro filtro para editores identificarem possíveis irregularidades antes mesmo da tradicional fase de revisão por pares.

A equipe responsável planeja adaptar ainda mais esse método e acredita na melhoria contínua em precisão conforme novos exemplos confirmados forem incorporando ao treinamento do modelo; no entanto, os autores fizeram questão de ressaltar que nenhum estudo sinalizado deve ser classificado automaticamente ou considerado falso sem análise individualizada dos especialistas.