Comando oculto em laudo do TJRN tenta manipular inteligência artificial
Um laudo pericial analisado pela 3ª Câmara Cível do Tribunal de Justiça do Rio Grande do Norte (TJRN) revelou a presença de um comando oculto, escrito em branco sobre fundo branco, que passava despercebido na leitura convencional do documento. O conteúdo, identificado ao copiar o texto para outro programa, tinha a função de orientar sistemas de inteligência artificial (IA) a concordar com as conclusões do perito.
A descoberta ocorreu após um advogado alertar o gabinete da juíza Érika Tinôco sobre a existência do comando escondido. Segundo relatos, o comando configurava um tipo de “prompt injection”, técnica que insere instruções dentro de textos para influenciar respostas de IA. Enquanto o olho humano não percebia o texto, as ferramentas de IA conseguiam interpretá-lo e seguir a orientação.
O episódio acontece em meio à crescente utilização da inteligência artificial no Judiciário, que já conta com orientações do Conselho Nacional de Justiça para evitar esse tipo de manipulação, incluindo supervisão humana e transparência. No caso do TJRN, o laudo com o comando oculto não foi usado para formar o voto dos magistrados, que se basearam em outra perícia. Agora, o tribunal investiga como o comando foi inserido e quem é responsável.
Com informações do g1 RN.
Publicar comentário