STJ identificou tentativas de inserção de comandos ocultos em documentos induzindo-os a favorecer uma das partes
Por Aramis Merki II e Mariana Ribas
O Brasil tem quase 80 milhões de ações judiciais em curso. São oito vezes mais que os Estados Unidos, uma economia dez vezes maior. Empresas americanas como Meta e United Airlines enfrentam mais processos de consumidores aqui do que em seu país de origem. O Conselho Nacional de Justiça (CNJ) registra 30 milhões de novos casos por ano. Diante desta relevância do setor jurídico para companhias, não é difícil imaginar que a inteligência artificial (IA), vista como poção mágica para melhorar eficiência operacional, esteja sendo usada massivamente nesta área.
A parte negativa disso é o mau uso da tecnologia. Na quarta-feira, 20, o Superior Tribunal de Justiça (STJ) anunciou que identificou em petições tentativas de prompt injection, uma técnica que consiste em inserir comandos ocultos em documentos para manipular sistemas de IA, induzindo-os a ignorar regras de análise e favorecer uma das partes.
O presidente da corte, ministro Herman Benjamin, determinou a instauração de inquérito policial e procedimento administrativo contra advogados e escritórios envolvidos. Além disso, o STJ Logos, sistema de IA generativa do tribunal, foi desenvolvido com três camadas de proteção contra o ataque, mas a tentativa de fraude já havia sido feita. Agora, todas as tentativas de prompt injection serão notificadas e investigadas.
Andressa Barros, CEO do Fragata e Antunes Advogados e presidente da Comissão de Jurimetria da Ordem dos Advogados de São Paulo (OAB-SP), afirma que hoje vivemos um paradoxo. “Enquanto a IA legítima, focada em jurimetria, análise de dados e eficiência, desonera o sistema, o uso irregular e predatório de ferramentas automatizadas acaba saturando ainda mais os Tribunais”, avalia. Para ela, o ponto central de atenção deve ser a governança, com políticas estritas de compliance tecnológico onde a validação final seja sempre estritamente humana.
Terreno fértil
No ambiente judiciário brasileiro, com alta demanda e complexidade, as startups de tecnologia jurídica, as chamadas legaltechs, encontraram um ecossistema ideal para prosperar. Segundo Sávio Pereira de Andrade, head da área de inovação e legaltech do Machado Meyer, o número de processos pendentes no País (75 milhões) está no menor patamar nos últimos seis anos. “A combinação de ferramentas de triagem automatizada, classificação de recursos e apoio à decisão está realmente movendo o setor”, disse. No entanto, o especialista pondera que a eficiência é mais concentrada no contencioso de massa e tarefas repetitivas de alto volume.
A validação mais visível às iniciativas locais ocorreu quando a paulistana Enter captou US$ 100 milhões e atingiu valuation de US$ 1,2bilhão. Tornou-se o primeiro unicórnio de IA da América Latina. A plataforma da empresa, o EnterOS, opera como um sistema operacional para o contencioso corporativo: agentes de IA redigem petições, calculam acordos e pesquisam condições específicas em ações. Os clientes incluem Bradesco, Nubank, Mercado Livre, Latam e Azul.
O modelo da Enter é focado no lado corporativo, as grandes empresas que recebem processos em volume. Mas o mercado comporta apostas diferentes. A Forlex, fundada em 2023, construiu seu caminho ao lado dos escritórios de advocacia. Com parceria firmada com a Ordem dos Advogados do Brasil (OAB), a startup desenvolveu a Livia, plataforma de IA generativa distribuída para a base de mais de um milhão de advogados registrados no país. Em maio, assinou contratto de US$ 32 mlhões com a Amazon Web Services para ampliar sua infraestrutura de processamento de dados. “Existe espaço para diferentes players, justamente porque o mercado ainda está em construção e as demandas são bastante diversas”, afirma Daniel Bichuetti, co-fundador e CEO da startup.
Há ainda o JusBrasil, veterano do setor. Fundado em Salvador em 2008 como um buscador de processos judiciais, a empresa acumula mais de um bilhão de documentos indexados e lançou a Jus IA, seu modelo próprio de inteligência artificial para advogados. Luiz Paulo Pinho, co-fundador da empresa, avalia que, para utilizar a IA com confiança, é necessário ter um ambiente de informação organizado e estruturado. “No ambiente jurídico, confiança não é um diferencial. É uma obrigação.”
Ambos os executivos, Bichuetti e Pinho, convergem no sentido de que a expansão da IA no setor jurídico não deve substituir os advogados, mas sim automatizar tarefas repetitivas e operacionais que hoje sustentam o funcionamento de escritórios e departamentos jurídicos. Segundo Bichuetti, a tecnologia pode ajudar a afastar o Direito de um modelo “fordiano”, baseado na produção em massa de documentos e processos, permitindo que profissionais concentrem mais tempo em estratégia, negociação e interpretação jurídica.
