Entre humanos e robôs

André Marinho

Era difícil circular poucos minutos pela Febraban Tech sem ser bombardeado pela inteligência artificial. Nos três dias do maior evento de tecnologia financeira do País, robôs humanoides e agentes de IA disputavam a atenção dos 70 mil humanos que passaram pelo Distrito Anhembi, em São Paulo.

O tema apareceu em boa parte dos 220 painéis que reuniam 667 palestrantes, além dos incontáveis estandes de grandes empresas que mostravam os seus negócios – a Broadcast marcou presença por mais um ano.

O público também demonstrou interesse pelo assunto, ao lotar os espaços que ofereciam experiências ligadas à IA. Na Mastercard, por exemplo, longas filas se formavam minutos depois da abertura e persistiam ao longo do dia. A bandeira apresentou totens interativos que simulavam a execução de compras feitas por agentes de IA. Também havia um “robô” servindo café para os visitantes.

Outro estande concorrido foi o da Oracle, que montou uma ativação que criava agentes do zero. Já a gigante de computação na nuvem AWS, da Amazon, exibiu o funcionamento da Amazon Nova, sua família de modelos de inteligência artificial generativa.

Nas arenas de palestras, os debates mais disputados também eram aqueles que discutiam o futuro da IA. No painel que reuniu os diretores de tecnologia dos bancões, os representantes das instituições financeiras reiteraram os planos de expansão em investimentos em tecnologia. A Febraban estima que serão R$ 3 bilhões para IA este ano e R$ 50 bilhões para tech como um todo.

A cifra é vultuosa, mas a discussão parece ter evoluído para além do financeiro. O tema do evento – “agentes inteligentes, liderança humana” – foi apenas um dos sinais dessa mudança. Na nova fronteira do desenvolvimento tecnológico, o setor agora investe também em mecanismos de controles que equilibrem a inovação com a segurança.

No jargão da indústria, são os “guardrails”. Ou melhor, para fugir do anglicanismo: sistemas de segurança que estabelecem limites para o comportamento da IA, com objetivo de evitar respostas ou ações inadequadas, arriscadas ou fora das regras definidas. É a governança da IA.

“Há um tendência de se falar que a governança freia [a evolução tecnológica], mas, na verdade, a governança é o que nos permite acelerar sem sair da pista”, resumiu o diretor de Informação (CIO) do Santander Brasil, Richard Silva.

Essa diretriz é particularmente importante quando se aplica a tecnologia ao sistema financeiro. Afinal, no fim das contas, é do meu e do seu dinheiro de que estamos falando. Uma resposta errada do ChatGPT sobre que roupa usar em um casamento vai resultar, no máximo, em um atentado contra a moda e uns olhares tortos na festa. Um comando errado do agente de seu banco, por outro lado, pode causar dores significativas no seu bolso.

Talvez por isso a implementação do comércio por agentes tem avançado em um ritmo um pouco mais lento do que o de outras revoluções da IA. Há muito entusiasmo, testes e experimentos. Mas pouco uso prático. Nem mesmo um executivo de uma gigante de pagamentos, questionado sobre quando esses assistentes serão tão usados quanto o PIX, soube muito o que responder: “Essa é a pergunta de um milhão de dólares”, admitiu.