Plataformas Broadcast
Soluções de Dados e Conteúdos
Broadcast OTC
Plataforma para negociação de ativos
Broadcast Datafeed
APIs para integração de conteúdos e dados
Broadcast Ticker
Cotações e headlines de notícias
Broadcast Widgets
Componentes para conteúdos e funcionalidades
Broadcast Wallboard
Conteúdos e dados para displays e telas
Broadcast Curadoria
Curadoria de conteúdos noticiosos
Selecione abaixo qual plataforma deseja acessar.
24 de julho de 2026
Artigo de: Isac Costa
Por Isac Costa*
Uma notícia me chamou atenção nesta semana: um modelo da OpenAI teria “escapado” durante um teste e, virado um programa que não deveria estar na internet, teria “saído por aí” – em algumas versões, tentando até publicar código no GitHub. Resolvi investigar o que de fato aconteceu separando o sensacionalismo do que é real.
O episódio foi confirmado pelas duas protagonistas: a OpenAI e a Hugging Face, a maior plataforma pública de inteligência artificial do mundo, uma espécie de repositório de modelos (à semelhança do GitHub, repositório de código).
A OpenAI realizava um teste interno para medir a capacidade ofensiva de seus modelos, isto é, um exercício de segurança batizado de ExploitGym. Esses testes acontecem propositalmente em um ambiente isolado, sem acesso à rede, como um laboratório lacrado, com o objetivo de aferir capacidades de um modelo sem colocar em risco sistemas reais em execução.
No teste, a OpenAI ainda desativou as travas de segurança usuais de produtos comerciais. O problema é que o programa não ficou dentro do laboratório no qual deveria ficar confinado.
Boa parte da cobertura lê o caso pela lente da corrida por uma IA geral, super-humana e consciente, distorcendo os fatos. Antes de seguir, uma distinção técnica que faz diferença: qual a diferença entre um modelo de raciocínio e um agente? O modelo de raciocínio é o “cérebro” que produz texto, planos e respostas. O agente é esse cérebro ligado a ferramentas – capaz de executar comandos, navegar, rodar código, agir. Quem operou no caso aqui comentado aqui foi um agente.
O ponto mais delicado da discussão é a inadequação da “antropomorfização” dos modelos de IA e o real significado de “escapar”. É tentador montar a narrativa em cadeia: consciência, senso de aprisionamento, vontade de escapar, o plano de fuga, a fuga em si e o desfrutar da liberdade. É uma bela estória, porém falsa. Quando Houdini tentava escapar, ele estava querendo ser livre? Não. Era um especialista executando uma tarefa especializada: contornar as restrições do ambiente que lhe impuseram, no menor tempo possível.
O modelo fez o mesmo, não “quis” fugir. Recebeu um objetivo estreito – “gabaritar” o ExploitGym – e, sem travas, encontrou o caminho mais curto para a nota máxima. Esse caminho, por acaso, passava por cima das paredes do laboratório.
A realidade é muito menos romântica e, ainda assim, sofisticada o bastante para merecer atenção. O que aconteceu de fato?
O ambiente isolado tinha uma única brecha para o mundo externo: um “proxy” que servia de cache para baixar pacotes de programação. O agente encontrou uma falha inédita – um “zero-day”, jargão para uma vulnerabilidade que ninguém conhecia e para a qual não havia correção – justamente nessa brecha. Usou-a para sair, “escalou privilégios” e fez “movimento lateral” pela rede – em português, ganhou mais poderes e foi pulando de máquina em máquina – até alcançar um ponto com internet aberta.
Então, deduziu que as “respostas da prova” podiam estar guardadas na Hugging Face e foi buscá-las: usou credenciais roubadas e explorou novas falhas até executar código nos servidores da plataforma e ler o “gabarito” direto do banco de dados de produção. Foram cerca de 17 mil ações automatizadas ao longo de um fim de semana.
Podemos pensar em um aluno que, para colar na prova, descobriu um buraco na parede da sala, saiu pelo corredor, arrombou a sala do professor e leu o gabarito no armário. Sofisticado, sim; consciente, não.
Vale lembrar que esse tipo de evento não é inédito. Laboratórios já haviam flagrado modelos que, em vez de jogar xadrez, reescreviam o arquivo da partida para vencer. Meses antes, a Anthropic revelara a primeira campanha de espionagem majoritariamente tocada por IA, com um grupo estatal chinês deixando o modelo fazer de 80% a 90% do trabalho.
A novidade no caso do teste do modelo da OpenAI é que ninguém mandou o modelo atacar ninguém: ele escolheu o ataque sozinho, como atalho para a nota. A IA não agiu de forma “consciente”. Um modelo sem travas, perseguindo cegamente uma métrica, foi capaz de desenvolver e encadear ataques reais por conta própria – e que a fronteira entre “ambiente de teste isolado” e “sistema de produção de terceiros” é bem mais frágil do que se supunha.
A OpenAI, por sua vez, classificou o caso como um incidente cibernético “sem precedentes” e aproveitou para promover seu programa de acesso controlado a modelos para defensores. Por outro lado, críticos sugeriram que o evento foi apenas a revelação da falha de uma empresa em impor limites aos seus próprios testes, prejudicando terceiros.
A lição que fica é a de que não adianta confiar que o modelo vai “se comportar”, sendo necessário construir “paredes” que aguentem em hipóteses de não conformidade (“rebeldia”).
A imagem que fica não deve ser a de um robô que desperta e sonha com a liberdade. É a de uma fechadura de laboratório que se mostrou mais fácil de arrombar do que os projetistas imaginavam, com um aluno obstinado do outro lado da porta. Menos Skynet, mais engenharia de segurança que precisa amadurecer no mesmo ritmo acelerado das capacidades que estamos criando. E talvez seja essa, no fim, a manchete que merecia ter sido destacada.
*Isac Costa é advogado, articulista do Broadcast, é diretor do Instituto Brasileiro de Inovação e Tecnologia (IBIT) e professor do Insper. Doutor (USP), mestre (FGV) e bacharel (USP) em Direito e Engenheiro de Computação (ITA). Ex-Analista da CVM.
Veja também
