Agentes autônomos: segurança e a busca pelo autoaperfeiçoamento

Nos últimos anos, a inteligência artificial começou a ir muito além dos assistentes comuns de conversa para dar lugar aos agentes autônomos, programas criados não apenas para responder a perguntas, mas para agir no ambiente digital de forma independente, planejando passos, executando tarefas e tomando decisões sem que um ser humano precise orientar cada clique.

Para quem acompanha as notícias de tecnologia, a inteligência artificial (frequentemente chamada pela sigla IA) ficou muito associada aos robôs de bate-papo: você digita uma dúvida na tela do computador ou do celular e o sistema, baseado em modelos de linguagem — programas sofisticados treinados com grandes volumes de textos para reconhecer padrões e gerar escrita humana —, devolve uma resposta explicativa. No entanto, os agentes autônomos operam em um nível totalmente diferente.

Para compreender essa diferença prática, vale recorrer a uma comparação simples do nosso cotidiano. Se você ligar para uma rodoviária e perguntar quais são os horários de ônibus disponíveis para uma viagem entre Petrolina e Juazeiro, o atendente consultará a tabela e informará os horários. Esse é o papel de um assistente de conversa tradicional: ele apenas entrega a informação que você solicitou. Agora, imagine que você contrate um assistente pessoal humano e diga a ele: "preciso viajar na próxima terça-feira com orçamento máximo de duzentos reais". Esse profissional não apenas consulta os horários, mas pesquisa passagens em diferentes empresas, compara os preços, escolhe a melhor poltrona, usa os seus dados autorizados para emitir o bilhete, efetua o pagamento e encaminha a confirmação para o seu aplicativo. É exatamente essa postura ativa, que transforma pedidos em sequências concretas de ações no computador, que caracteriza os agentes de inteligência artificial.

Embora essa promessa soe fascinante e muito conveniente, os bastidores da engenharia de computação revelam desafios formidáveis. Quando permitimos que um programa navegue na internet, crie arquivos, execute códigos de programação e tome iniciativas por conta própria, duas dúvidas cruciais emergem com força: primeiro, onde e como esse software deve ser colocado para rodar com segurança, sem colocar em risco informações sigilosas ou danificar os computadores da empresa? E segundo, como esses sistemas podem aprender com os seus próprios tropeços e se aperfeiçoar sem gastar quantias astronômicas de dinheiro e energia elétrica?

Onde os agentes autônomos devem rodar: o dilema entre segurança e liberdade

A busca por um local seguro e adequado para abrigar esses programas inteligentes foi o tema central dos debates na AI DevCon, uma importante conferência de tecnologia realizada em Londres, cuja próxima edição já está confirmada para novembro na cidade de Nova York. No encontro, especialistas e grandes empresas do setor demonstraram que não existe uma fórmula única e apresentaram visões bastante divergentes sobre o chamado ambiente de execução, conhecido na área pelo termo em inglês runtime.

Para entender o conceito de runtime, pense na cozinha de um restaurante comercial. O cozinheiro chefe precisa de panelas, facas afiadas, fogão a gás e ingredientes para preparar as refeições dos clientes. Se você trancar esse cozinheiro em uma sala vazia sem água nem energia, ele será incapaz de cozinhar. Por outro lado, se você der a ele as chaves de todas as salas do restaurante, incluindo a sala da gerência, o cofre financeiro e os arquivos de funcionários, qualquer acidente na cozinha ou descuido com o fogo poderá colocar em perigo o patrimônio inteiro da empresa. Na informática, o runtime representa exatamente essa cozinha: é o espaço delimitado de memória, processador e programas auxiliares que concedemos a um agente para que ele trabalhe, sem permitir que ele invada áreas proibidas do sistema.

O grande ensinamento compartilhado no evento é que a presença prática e definitiva dos agentes autônomos no dia a dia das empresas depende muito mais de solucionar problemas de segurança digital e governança de infraestrutura do que propriamente de criar modelos com raciocínio mais avançado. Afinal, nenhum banco, hospital ou empresa comercial aceitará delegar tarefas críticas a um programa autônomo se houver o menor risco de que ele apague dados vitais, exponha segredos comerciais ou facilite invasões virtuais.

O risco do contêiner convencional e a blindagem com máquinas virtuais

Entre as abordagens discutidas para proteger os sistemas, a empresa Docker, referência mundial na organização de programas em compartimentos fechados, apresentou uma mudança radical de rumo. O engenheiro Oleg Shaleev demonstrou o reposicionamento da ferramenta de isolamento da companhia, denominada Docker SBX, sigla derivada de sandboxes (caixas de areia, em português). O termo é uma analogia direta àquelas caixas de areia instaladas em parques e creches: um espaço delimitado onde as crianças podem brincar e espalhar brinquedos à vontade, garantindo que a sujeira não se espalhe pelo restante do piso. Em software, uma sandbox é um cerca digital projetada para que um programa rode sem afetar nada fora de seus limites.

Oleg Shaleev revelou que a Docker decidiu abandonar os contêineres convencionais em suas sandboxes após sofrer severa rejeição das equipes de segurança de grandes empresas. Para entender por que isso aconteceu, imagine a diferença entre morar em um edifício residencial ou em casas separadas. O contêiner tradicional funciona como um apartamento dentro de um prédio coletivo: cada família tem suas divisórias internas, mas todos os apartamentos utilizam a mesma tubulação de água, a mesma fiação e a mesma fundação física, que no caso do computador é o kernel — o núcleo central do sistema operacional que controla a máquina física. O problema é que, nos últimos oito anos, foram registradas cerca de doze falhas de segurança graves que permitiam o chamado container escape (fuga de contêiner), situação na qual um programa consegue escapar das paredes do seu apartamento digital aproveitando brechas na tubulação compartilhada para tomar o controle do prédio inteiro.

Para neutralizar de vez esse perigo, a nova arquitetura do Docker SBX passou a utilizar as chamadas microVMs, ou micro máquinas virtuais. Em vez de apartamentos compartilhando o mesmo prédio, as microVMs funcionam como pequenas casas isoladas em terrenos separados, com alicerces e redes elétricas totalmente independentes. Com isso, mesmo que um agente autônomo seja vítima de um código malicioso ou cometa um erro crítico, o disco rígido do computador principal permanece blindado (isolamento de disco do host). A solução ainda permite aninhar outros contêineres e ferramentas de teste (como o testcontainers), possui injeção controlada de segredos — o que significa entregar senhas e chaves criptográficas necessárias para o trabalho sem que o agente possa gravá-las ou repassá-las indevidamente — e inclui um intermediário de rede (proxy) para barrar qualquer tentativa de exfiltração, impedindo o envio criminoso de credenciais para a internet.

Máquinas dedicadas, controle no navegador e telas colaborativas

O isolamento em micro máquinas virtuais, contudo, não é a única alternativa em estudo. Durante o encontro em Londres, outros três modelos conceituais revelaram a diversidade de caminhos possíveis para estruturar o trabalho dos agentes autônomos.

A empresa Helix ML, liderada pelo presidente-executivo Luke Marsden, defendeu uma visão focada na infraestrutura centralizada das empresas. Em sua opinião, as organizações deveriam simplesmente disponibilizar um computador dedicado e exclusivo para cada agente de inteligência artificial. Para justificar essa tese, Marsden citou uma parceria e um artigo técnico da publicação DevIcon sobre a dinâmica de trabalho entre diferentes fusos horários globais. Em grandes corporações globais, quando a equipe de Londres encerra seu dia de trabalho, ela transfere os relatórios pendentes para os colegas de Tóquio ou Nova York continuarem o processo. Da mesma forma, manter agentes operando em computadores corporativos dedicados na nuvem permite que esses assistentes digitais trabalhem 24 horas por dia de forma contínua, trocando tarefas entre turnos e fusos horários sem jamais atrapalhar ou sobrecarregar as máquinas pessoais dos funcionários de carne e osso.

Uma visão quase oposta foi apresentada pela gigante Adobe, com foco na simplicidade para o usuário comum. O cientista principal Lars Triloff revelou ao público o projeto Slick (disponível no endereço eletrônico sliccy.com) com uma demonstração prática: a sua própria apresentação de slides durante a conferência estava sendo coordenada e conduzida ao vivo pelo agente. A grande sacada técnica do Slick é que seu ciclo de operação roda integralmente dentro do navegador de internet da pessoa (no chamado modelo client-side ou lado do cliente), sem necessidade de se comunicar com servidores complexos na nuvem. A grande vantagem dessa abordagem é a facilidade de supervisão e segurança física: caso o usuário perceba qualquer anomalia ou simplesmente decida encerrar o trabalho, basta fechar a aba do navegador no computador. No mesmo instante, o agente é desligado, exatamente como quem puxa o plugue de um eletrodoméstico da tomada.

Já a plataforma de criação visual tldraw, fundada por Steve Ruiz, trouxe uma proposta que transforma o trabalho dos agentes em algo lúdico e visível por meio do conceito batizado de fairies (fadas digitais). Em vez de comandos de texto em telas pretas e frias, os agentes ganham corpos visuais representados por cartões interativos em uma lousa virtual de desenho. O aspecto técnico mais engenhoso dessa ideia é a chamada orquestração visual: quando o usuário seleciona e agrupa diferentes fadas digitais na lousa, os programas realizam uma votação instantânea entre si para eleger um agente coordenador. Esse coordenador analisa a demanda, monta uma lista estruturada de afazeres (conhecida como lista de to-dos) e delega cada tarefa específica aos outros agentes do grupo. É um modelo semelhante a uma equipe de profissionais reunida diante de um quadro branco no escritório, colando lembretes e decidindo quem cuida de cada parte do projeto.

O desafio do aprendizado: como os agentes autônomos buscam se autoaperfeiçoar

Garantir que um agente trabalhe em um ambiente seguro e controlado é apenas a primeira metade do quebra-cabeça. A segunda metade, e talvez a mais ambiciosa de todas, consiste em descobrir como esses agentes autônomos podem aprender com as suas próprias tentativas para resolver desafios cada vez mais difíceis, sobretudo em áreas nobres como a matemática e a programação de computadores. Trata-se da busca pelo chamado autoaperfeiçoamento recursivo, frequentemente identificado na ciência da computação pela sigla RSI (do inglês Recursive Self-Improvement).

O termo "recursivo" refere-se a um processo que se repete alimentando-se do próprio resultado anterior, como um espelho refletido diante de outro espelho. A teoria do autoaperfeiçoamento recursivo foi proposta originalmente na década de 1960 pelo pioneiro matemático I.J. Good. A hipótese prevê a criação de uma máquina inteligente capaz de analisar seu próprio funcionamento e redesenhar uma versão melhorada de si mesma; como essa nova versão será mais esperta que a primeira, ela terá ainda mais facilidade para criar uma terceira geração superior, desencadeando um ciclo acelerado de avanço cognitivo.

Essa busca teórica ganhou fôlego renovado recentemente com a publicação do estudo científico The Last AI Built by Humans (A Última IA Construída por Humanos), produzido por um grupo de 33 pesquisadores de instituições internacionais de prestígio, entre elas a empresa ByteDance e a Universidade Tsinghua. No documento, os cientistas estruturaram um roteiro detalhado de cinco fases para mapear a transição gradual rumo a sistemas autônomos verdadeiramente capazes de se autoaperfeiçoar.

Essa corrida de vanguarda não parte do zero. Ela se apoia em sucessos já documentados por métodos avançados de busca e exploração automatizada, popularizados por sistemas como o Alpha Evolved. Essa família de algoritmos desempenhou papel relevante na exploração de quebra-cabeças matemáticos profundos, como a secular conjectura Jacobiana, em progressos teóricos em torno da hipótese de Riemann e na antecipação de soluções para as equações de Navier-Stokes (que modelam o movimento de fluidos como a água e o ar, um dos problemas mais complexos da física moderna), tema que também gerou investigações notórias pela OpenAI.

A simulação por histórico de execuções e a quebra de recordes práticos

Diante do imenso desafio de ensinar máquinas a resolver problemas lógicos de alto nível, uma das descobertas mais celebradas do momento foi apresentada por pesquisadores da Google DeepMind e da Universidade de Maryland no artigo intitulado Wet Dream RSI (frequentemente simplificado como Dream RSI). O grande mérito desse estudo foi encontrar uma saída elegante para um gargalo econômico brutal: toda vez que um agente de inteligência artificial tenta resolver um problema escrevendo um novo código e consultando um modelo de ponta, ocorre o que os técnicos chamam de inferência — o cálculo matemático que a rede neural realiza para formular uma resposta. Se um agente precisasse fazer milhões de inferências para encontrar a resposta certa, o custo em servidores e energia elétrica tornaria o projeto financeiramente inviável.

A grande sacada do método Dream RSI consistiu em armazenar no disco rígido os registros detalhados (os chamados logs) de todas as execuções anteriores, contendo três elementos essenciais: o código de programação testado, a nota ou pontuação de desempenho obtida e os erros de travamento (conhecidos como crashes). Ao reunir essa vasta memória de sucessos e falhas, os pesquisadores transformaram esses registros gravados em um simulador offline. Em vez de pagar por novas consultas na nuvem a cada segundo, o sistema consegue testar e aprimorar milhares de estratégias de busca diferentes (as chamadas exploration policies) de forma totalmente local, sem custo computacional de novas inferências.

Para visualizar essa engenhosa estratégia, imagine um jovem que treina para um concurso público de alto nível. Se ele tiver de pagar um professor particular por hora para corrigir cada exercício individualmente, seu dinheiro acabará em poucas semanas. Em contrapartida, se ele pegar um caderno com todas as provas dos últimos dez anos, contendo os gabaritos, as resoluções e a anotação exata de onde milhares de outros candidatos tropeçaram, ele poderá passar meses analisando esses padrões e aperfeiçoando suas próprias técnicas de estudo em casa, sem gastar mais nada. É exatamente isso que a simulação por registros de execução faz com os agentes digitais.

Para comprovar a eficiência do Dream RSI, os pesquisadores submeteram o modelo Gemini a oito desafios rigorosos de matemática e de criação de algoritmos. Os resultados deixaram a comunidade científica entusiasmada: o sistema foi capaz de conceber, de forma autônoma, um algoritmo de resolução para o modelo estatístico Lasso (uma técnica essencial em aprendizado de máquina utilizada para filtrar variáveis e simplificar conjuntos gigantescos de dados) com desempenho superior ao algoritmo oficial presente na biblioteca padrão de programação em Python.

Além da precisão técnica, a velocidade alcançada quebrou marcas históricas. O Dream RSI desenvolveu o resolvedor de Lasso em aproximadamente 300 iterações (tentativas de ajuste). Para efeito de comparação, quando se utiliza uma política de busca padrão e fixa, o processo consome em média 550 iterações. Mais impressionante ainda: o método simplesmente pulverizou o recorde anterior registrado pela literatura científica para o mesmo problema, que exigia cerca de 51.000 iterações para convergir para uma solução ideal.

Esse salto espetacular de foco e velocidade não aconteceu por acaso; ele foi moldado por uma rigorosa engenharia de instruções (a chamada engenharia de prompt, que define as regras e diretrizes que a inteligência artificial deve seguir ao raciocinar). Na metodologia do Dream RSI, o agente foi submetido a mandamentos inegociáveis: ele era formalmente obrigado a ler todas as tentativas e erros anteriores antes de digitar uma única linha nova de código; estava terminantemente proibido de aplicar microajustes repetitivos — aquelas alterações preguiçosas que apenas mudam nomes de variáveis sem tentar uma lógica nova —; e estava vetado de encerrar prematuramente os processos de execução. Essa disciplina rígida obrigou o programa a pensar de forma estruturada e inovadora.

As repercussões práticas dessas descobertas já começam a desembarcar no cotidiano do desenvolvimento de software corporativo. A empresa nascente Blacksmith, por exemplo, colocou no mercado uma ferramenta de agente em nuvem chamada Codesmith. Esse programa conecta-se diretamente aos repositórios onde as empresas guardam seus códigos e integra-se às esteiras de testes automatizados conhecidas como CI/CD (integração contínua e entrega contínua). Com isso, o Codesmith é capaz de examinar erros em sistemas, programar correções de bugs e submeter automaticamente propostas completas de alteração (os conhecidos pull requests) prontas para serem revisadas e aprovadas pelos engenheiros humanos, acelerando drasticamente o ritmo de lançamento de melhorias nos aplicativos.

Evolução real ou ilusão de inteligência: o que os dados técnicos revelam

Ao ler sobre máquinas que batem recordes matemáticos, escrevem códigos mais rápidos que programadores experientes e corrigem defeitos em esteiras corporativas, é muito fácil se deixar levar pela imaginação e acreditar que a inteligência artificial adquiriu consciência ou que alcançou a tão comentada singularidade tecnológica. Contudo, manter um olhar sóbrio e bem fundamentado exige distinguir com clareza o que é evolução real do cérebro da máquina e o que é apenas aperfeiçoamento das ferramentas que a cercam.

Muitos especialistas e analistas técnicos salientam que métodos como o Dream RSI não satisfazem a definição clássica de autoaperfeiçoamento recursivo imaginada por I.J. Good nos anos 1960. A explicação para isso é puramente técnica: ao longo de todos os experimentos, os chamados "pesos" da rede neural de base continuaram completamente estáticos e inalterados.

Mas o que são esses "pesos" afinal? Para quem não é especialista em computação, os pesos são como as sinapses e conexões biológicas consolidadas em nosso cérebro ao longo de anos de estudo na escola. Quando uma rede neural é criada, ela passa por um treinamento inicial exaustivo em que trilhões desses valores matemáticos (os pesos) são ajustados para ensinar o sistema a raciocinar sobre a linguagem e a lógica. Uma vez concluído o treinamento, esses números ficam congelados como pedras. Portanto, se os pesos não foram alterados durante os testes do Dream RSI, significa que o cérebro fundamental da inteligência artificial não sofreu nenhuma mutação interna nem se tornou biologicamente mais inteligente por si mesmo.

De onde veio, então, todo aquele ganho impressionante na resolução de problemas? Os cientistas esclarecem que o salto decorreu do chamado harness externo (palavra em inglês que designa uma armação, andaime ou estrutura de suporte) e do reaproveitamento inteligente de dados guardados em memória rápida (cache). Em termos simples: a inteligência artificial em si não ficou magicamente mais brilhante, mas recebeu uma bancada de ferramentas extraordinariamente bem projetada, um caderno de anotações impecável e regras claras de disciplina mental que a impediram de perder tempo em círculos viciosos. Trata-se de um triunfo da engenharia de suporte e da orquestração de busca, e não de um despertar biológico da máquina. Por essa razão, a presença humana continua sendo o pilar indispensável de todo o processo: cabe aos engenheiros humanos supervisionar esses resultados, filtrar as descobertas úteis e reinserir esses dados valiosos nos futuros ciclos de treinamento para que, aí sim, as próximas gerações de redes neurais possam nascer verdadeiramente mais inteligentes.

O futuro dos agentes autônomos e os próximos passos da automação

A análise conjunta dos novos ambientes de execução e dos avanços em técnicas de simulação revela um panorama muito animador e realista: o universo dos agentes autônomos está deixando para trás a fase de euforia desmedida para entrar na fase da maturidade técnica. Os grandes dilemas do setor não giram mais em torno de especulações vazias, mas sim de questões de engenharia aplicada que afetam diretamente a economia e a sociedade.

No campo da segurança, a busca por micro máquinas virtuais isoladas, computadores corporativos exclusivos operando em fusos horários alternados e botões de desligamento instantâneo em navegadores demonstra que o mercado está aprendendo a construir gaiolas digitais adequadas antes de soltar programas autônomos para lidar com o patrimônio alheio. No campo do aprendizado e da produtividade, a capacidade de reaproveitar históricos de erros para encontrar atalhos matemáticos e automatizar esteiras de programação comprova que o método científico, a disciplina de instruções e a economia de recursos são as verdadeiras molas propulsoras do progresso tecnológico.

Para os leitores do Vale do São Francisco e de todo o país que observam essa revolução em curso, a lição mais valiosa é perceber que a inteligência artificial de ponta não avança por meio de mágica, mas sim pelo trabalho paciente de cientistas e engenheiros que transformam falhas passadas em aprendizado estruturado. Compreender como essas engrenagens funcionam é a melhor forma de se preparar com serenidade e confiança para as transformações que o trabalho inteligente trará para a nossa vida nos próximos anos.

Fontes

• The AI Native Dev: assista/ouça o episódio completo
• Fireship: assista/ouça o episódio completo