O avanço da inteligência artificial na programação e seus riscos

O impacto da inteligência artificial na programação está transformando profundamente a forma como nascem os aplicativos e sistemas que usamos no dia a dia. Para quem vive no Vale do São Francisco, essa discussão pode parecer restrita aos grandes polos de tecnologia, mas a verdade é que os programas de computador já estão em toda parte: do aplicativo bancário no celular aos sistemas automatizados que controlam a irrigação nas plantações de frutas da nossa região. Tradicionalmente, criar esses sistemas dependia de equipes de desenvolvedores digitando linha por linha de comando em seus teclados. Contudo, essa dinâmica histórica está sendo reformulada com a chegada de ferramentas capazes de gerar códigos completos em segundos.

A ascensão da inteligência artificial na programação e o fim do código manual

Para entender o tamanho dessa transformação, vale lembrar o que é a programação de computadores. Um computador não possui intuição; ele funciona executando uma sequência minuciosa de instruções lógicas, parecida com uma receita de bolo detalhada. Durante décadas, os profissionais precisavam aprender linguagens artificiais rigorosas para redigir cada uma dessas etapas. Agora, entram em cena os agentes autônomos. Diferente de robôs de conversação simples, os agentes são programas dotados de capacidade para receber um objetivo abrangente, planejar os passos necessários e operar ferramentas digitais sozinhos até entregar a tarefa concluída.

O impacto dessa novidade foi recentemente exposto por David Heinemeier Hansson, um dos criadores de tecnologia mais influentes do mundo. Durante uma palestra na conferência Rails World, em Austin, no Texas, ele defendeu que a digitação manual de código deixou de ser viável economicamente diante da velocidade dos novos assistentes automatizados. Para comprovar sua tese na prática, ele anunciou que sua empresa, a 37signals, está reescrevendo o serviço de e-mail Hey utilizando a linguagem Rust inteiramente gerada por agentes autônomos, substituindo a base anterior na linguagem Ruby on Rails.

Essa troca tecnológica ilustra com clareza o ganho de eficiência da máquina. A linguagem Ruby on Rails sempre priorizou o conforto do desenvolvedor humano, oferecendo uma leitura agradável e intuitiva. Já a linguagem Rust funciona como uma engenharia mecânica de alta precisão: ela exige um controle rigoroso de memória e processamento, o que a torna rápida e econômica, embora muito complexa para ser redigida à mão. Ao delegar essa escrita densa aos agentes, a empresa obteve uma redução de 95% no consumo de processador e memória dos servidores, economizando uma quantidade expressiva de recursos computacionais.

Em termos de ritmo de trabalho, a mudança é assustadora. O próprio executivo relatou que sua produtividade pessoal saltou de 30 mil linhas de código escritas por ano para cerca de 150 mil linhas geradas a cada mês com o suporte dos robôs. Durante a conferência, em uma enquete espontânea diante de 1.200 desenvolvedores na plateia, apenas cerca de 5 pessoas ergueram a mão afirmando que ainda dedicam a maior parte do tempo escrevendo código manualmente. Por essa razão, a instrução para o mercado foi direta: quem projeta softwares deve agora construir interfaces de linha de comando — aquelas telas de texto onde se digitam ordens diretas para o sistema operacional — voltadas para a operação por agentes artificiais, e não mais para mãos humanas.

Os perigos da inteligência artificial na programação sem filtros de qualidade

Se criar código se tornou uma tarefa rápida e barata, um novo gargalo surgiu imediatamente: como garantir que essas instruções não contenham erros perigosos? No dia a dia da engenharia de software, o maior desafio deixou de ser a digitação e passou a ser a capacidade humana de revisar, testar e aprovar o dilúvio de informações produzidas pelas máquinas. Sem filtros adequados, acelerar a produção de código apenas multiplica as falhas no ambiente real em que os clientes utilizam os aplicativos.

Um exemplo real veio da empresa Honeycomb, referência no setor de observabilidade de sistemas. Em apenas três meses, o volume diário de pedidos de inclusão de código — conhecidos como pull requests, semelhantes a capítulos que um autor envia para a revisão de uma editora — saltou de 30 para 70. Contudo, essa duplicação na quantidade de alterações enviadas resultou em um aumento a longo prazo de 1,5 vez no total de incidentes e interrupções nos serviços. Diante desse tipo de problema, até o presidente-executivo da gigante de comércio eletrônico Shopify, Tobi Lütke, criticou publicamente as chamadas slop bombs: uma avalanche de códigos automatizados de baixa qualidade e sem polimento que estavam sendo jogados diretamente nos sistemas em produção.

A sobrecarga foi tão intensa que mantenedores de projetos colaborativos abertos da Honeycomb chegaram a considerar a suspensão de contribuições externas durante o evento Hacktoberfest, para evitar que robôs inundassem a plataforma com alterações superficiais. Diante dessa realidade, especialistas como Liz Fong-Jones alertam que sistemas essenciais jamais devem funcionar como fábricas totalmente escuras, conceito emprestado da indústria onde fábricas operam sem presença humana. O desenvolvedor humano precisa manter o controle e a responsabilidade legal sobre cada linha que entra no ar.

Mecanismos de defesa e o novo papel do desenvolvedor

Para lidar com esse volume avassalador, a indústria passou a criar barreiras automáticas de proteção. A Honeycomb, por exemplo, adotou o assistente interno Autobot. Embora crie apenas cerca de 5 propostas de código por dia, o bot passou a revisar 100% das alterações da equipe, identificando erros simples de digitação e formatação através de corretores automáticos chamados linters. Outra solução foi o classificador Jeff, um sistema de triagem que calcula uma nota de confiança para cada mudança e consegue aprovar de forma autônoma cerca de 20% das alterações consideradas de baixíssimo risco.

A questão dos custos também exigiu criatividade. A ferramenta de revisão Claude Code Reviews, da empresa Anthropic, custava entre 20 e 30 dólares por execução e levava de 10 a 20 minutos para avaliar o código, o que motivou os engenheiros a projetarem soluções próprias focadas em análises de menos de 3 minutos com despesas de poucos dólares. Ao mesmo tempo, reforçou-se o princípio da segurança mínima: o modelo Claude passou a adotar por padrão credenciais apenas de leitura na nuvem da Amazon Web Services, impedindo que o assistente apague ou modifique dados críticos por engano, mesmo quando senhas com acesso completo de escrita estiverem disponíveis.

Para fechar o circuito de segurança, novos protocolos como o MCP conectam os agentes inteligentes a interruptores de recursos, conhecidos como feature flags, e a comandos de reversão automática. Se uma novidade causar instabilidade no sistema durante a madrugada, o próprio agente consegue desligar o recurso defeituoso ou reverter a versão do sistema em tempo real, sem a necessidade de acionar um plantonista humano no meio da noite.

No final das contas, o valor do profissional de tecnologia não desapareceu; ele apenas subiu de patamar. Decorar comandos e sintaxes deixou de ser o diferencial. A verdadeira missão agora é entender a necessidade do cliente, desenhar arquiteturas seguras e supervisionar o trabalho dos agentes digitais. Afinal, a automação sem métodos sólidos de testes e observabilidade não resolve fragilidades antigas: ela apenas faz com que os erros cheguem muito mais depressa.

Fontes

• Fireship: assista/ouça o episódio completo
• The AI Native Dev: assista/ouça o episódio completo