Ideia é que nem governos nem empresas dependam de sistemas fechados para se defenderem de ataques
Aramis Merki II
A Open Secure AI Alliance, anunciada nesta segunda-feira, 27, reúne gigantes da tecnologia em torno de um objetivo comum: desenvolver e compartilhar modelos de inteligência artificial, agentes autônomos e ferramentas de segurança abertas, de forma que nenhuma empresa ou governo dependa exclusivamente de sistemas fechados para se defender de ataques cibernéticos. A mensagem da iniciativa, encabeçada pela Nvidia, é que a abertura não é um risco, mas uma tática estratégica de defesa.
“Empresas e países precisam de ferramentas e técnicas defensivas de fronteira aberta para construir sistemas de segurança com múltiplos fornecedores e evitar pontos únicos de falha”, aponta a Nvidia em comunicado. Também estão na aliança nomes como Microsoft, SpaceX, IBM, Cisco, Cloudflare, CrowdStrike, Palantir e Linux Foundation.
O episódio envolvendo a Hugging Face, plataforma de dados colaborativos sobre IA, ajuda a explicar a urgência por trás do anúncio. Ao investigar uma invasão em sua própria infraestrutura, a plataforma colaborativa esbarrou em ferramentas de IA fechadas incapazes de diferenciar atacantes de defensores. A solução para o problema foi possível com um modelo aberto chamado GLM 5.2, rodado internamente para varrer mais de 17 mil ações e conter a intrusão.
No lançamento, a Open Secure AI Alliance aponta explicitamente que restringir modelos de fronteira abertos enfraquece a capacidade de defesa das nações. O aviso ressoa além do debate corporativo e alcança a geopolítica. Isto porque, dias antes, o presidente chinês Xi Jinping defendeu publicamente o avanço de modelos abertos de IA, criticando – sem citar nomes – tentativas dos Estados Unidos de blindar sua liderança no setor sob o argumento da segurança nacional.
Ainda que com razões distintas de Pequim, a aliança liderada por empresas americanas também aposta na abertura tecnológica. O argumento pelo “código aberto”, neste caso, é estritamente pela segurança. “Restrições generalizadas a sistemas de IA de fronteira aberta enfraquecem a capacidade defensiva e podem concentrar poder, dependência e vulnerabilidade em poucos fornecedores fechados”, aponta a aliança, em comunicado.
Caso Hugging Face
Na semana passada, a OpenAI, criadora do ChatGPT, informou que seus modelos de IA estiveram por trás de um “incidente cibernético sem precedentes” que afetou a plataforma para desenvolvedores da Hugging Face. A empresa afirmou que uma combinação de seus modelos GPT-5.6 Sol e de um modelo ainda não lançado extrapolou um ambiente de testes isolado (sandbox), acessou a internet e explorou uma vulnerabilidade para obter acesso aos sistemas.
O episódio, para analistas de segurança, ilustra duas faces da mesma moeda. “O incidente reflete um problema já conhecido nas áreas de aprendizado de máquina e segurança: os modelos nem sempre perseguem o objetivo real pretendido pelos humanos”, afirma Dmitry Galov, líder da equipe global de pesquisa da Kaspersky. Ao mesmo tempo, ele destaca que o caso reforça a relevância crescente dos grandes modelos de linguagem também na defesa. No caso, foi um modelo aberto (GLM-5.2) que permitiu identificar e conter o ataque. “Por um lado, os modelos avançados são capazes de executar muitas das ações cibernéticas. Por outro, as atividades de detecção e resposta também se beneficiam cada vez mais do uso de IA”, resume o pesquisador.
