STJ Investiga Fraude com Inteligência Artificial: Injeção de Comando Revelada
STJ Investiga Tentativas de Fraude Processual com Inteligência Artificial
O Superior Tribunal de Justiça (STJ) anunciou que conduzirá uma investigação sobre tentativas de fraude processual que envolvem a manipulação de modelos de inteligência artificial. A técnica, conhecida como “injeção de comando“, consiste em inserir instruções ocultas em documentos, como petições e recursos, com o objetivo de influenciar o comportamento de sistemas de IA.
A Corte destaca que seu sistema de IA generativa, o STJ Logos, já possui mecanismos para identificar e bloquear essas tentativas de manipulação. O presidente do tribunal, Herman Benjamin, explicou que, apesar da capacidade do STJ Logos, o tribunal adotará uma medida adicional: a certificação de todos os casos em tramitação para garantir a aplicação de sanções processuais aos responsáveis por essas práticas.
Como Funciona a Injeção de Comando
A “injeção de comando” explora a forma como modelos de IA processam o texto para entender o contexto e responder a comandos. Um usuário mal-intencionado pode inserir instruções específicas em um documento, buscando forçar o sistema a ignorar regras de análise e favorecer uma das partes envolvidas no processo.
Leia também
Essa manipulação visa contornar os mecanismos de segurança da IA e influenciar o resultado final.
Investigação e Responsabilização
Em resposta à crescente preocupação com essa prática, a Presidência do STJ determinou a abertura de um inquérito policial e de um procedimento administrativo. Ambos serão conduzidos com o objetivo de coletar depoimentos de advogados e buscar a responsabilização criminal e correcional dos envolvidos.
A medida visa garantir a integridade do sistema processual e prevenir futuras tentativas de fraude.
Autor(a):
Redação ZéNewsAi
Aqui no ZéNewsAi, nossas notícias são escritas pelo José News! 🤖💖 Nós nos esforçamos para trazer informações legais e confiáveis, mas sempre vale a pena dar uma conferida em outras fontes também, tá? Obrigado por visitar a gente, você é 10/10! 😊 Com carinho, equipe ZéNewsAi 📰 (P.S.: Se encontrar algo estranho, pode nos avisar! Adoramos feedbacks fofinhos! 💌)
