TJ reforça “defesas” e ferramenta alerta juízes sobre manipulação com IA

O TJMS (Tribunal de Justiça de Mato Grosso do Sul) reforçou a segurança nos processos após tentativas de manipulação com IA (inteligência artificial) em ações na 2ª Vara Cível de Campo Grande.

• Leia Também
• STJ recebeu 9 pedidos de recurso de escritório de MS com tentativa de driblar IA
• STJ abre inquérito sobre comandos ocultos de IA em processos judiciais

Escritório de advocacia inseriu instruções de texto não visíveis na leitura convencional em 28 ações. Elas são projetadas para influenciar sistemas de inteligência artificial de apoio ao Poder Judiciário.

De acordo com o desembargador Odemilson Fassa, coordenador do Comitê de Governança e Ética para o uso de Inteligência Artificial no TJMS, foi disponibilizado recurso aos magistrados para validar a integridade das peças jurídicas.

“A ferramenta analisa o documento e gera um relatório claro apontando se há risco de prompt injection, mostrando os trechos suspeitos e orientando como tratar, assim como ocorreu na 3ª Vara do Trabalho de Parauapebas [PA], onde o sistema Galileu detectou comandos ocultos', diz o desembargador.

Fassa destaca que a defesa institucional não se esgota na detecção tecnológica. “Ela exige também a curadoria e validação humana dos resultados gerados pelos sistemas de IA, o chamado human in the loop, bem como a articulação entre as esferas processual, disciplinar e, idealmente, penal, para que a resposta institucional seja proporcional à gravidade da conduta'.

Escobar brasileiro - Depois de identificar na petição inicial um “prompt injection' oculto, a Justiça em Campo Grande condenou o ex-major Sérgio Roberto de Carvalho, chamado de “Escobar Brasileiro', a pagar multa em uma ação na qual ele buscava indenização por danos morais e queria impedir veículos de imprensa de usarem o apelido.

A decisão, de 19 de maio, foi assinada pelo juiz Renato Antonio de Liberali, da 11ª Vara Cível de Campo Grande. O magistrado entendeu que a inserção do comando oculto configurou ato atentatório à dignidade da Justiça e aplicou multa de 10% sobre o valor da causa, que era de R$ 100 mil, o que corresponde a R$ 10 mil.

Segundo a sentença, o texto oculto foi inserido no cabeçalho de todas as páginas da petição inicial e continha comandos voltados a influenciar eventual análise por sistemas de IA  em tribunais superiores. O juiz afirmou que o comando buscava facilitar ou direcionar positivamente o recebimento de recurso, embora não tivesse efeito imediato no julgamento do processo em primeiro grau.

Receba as principais notícias do Estado pelo Whats. Clique aqui para acessar o canal do Campo Grande News e siga nossas redes sociais.