A tomada virou o gargalo: a nova corrida da IA é elétrica, não algorítmica

Quantos tokens por segundo cabem em uma subestação? A pergunta soa absurda até o momento em que você tenta escalar um modelo gigante e descobre que o limite não é o parâmetro 70B, é o disjuntor. A IA ficou tão faminta por energia que data centers começam a parecer usinas com servidores acoplados — e não o contrário. O software está bem; é a física que está com a agenda lotada.

Quem vive de cluster sabe: GPU nova chega, orçamento some e o rack esquenta. A boa notícia é que há um reequilíbrio em curso — do silício ao cabo óptico, passando por NPUs em notebooks — que pode reduzir latência, kWh e boletos. A má notícia? Vamos precisar de engenharia pesada, menos FOMO de benchmarks e mais planejamento elétrico do que muito projeto industrial.

O hardware parou de caber no ar: liquid cooling saiu do laboratório

Ar-condicionado não dá conta de placas que passam de 700 W por slot com memória HBM colada no die. O avanço inevitável é o resfriamento líquido direto ao chip (direct-to-chip) e, em muitos casos, imersão. Manifolds, quick-disconnects e placas frias viram itens de prateleira. O impacto técnico é imediato: aumenta-se a densidade de potência por rack, melhora-se o delta-T e abre-se margem para clocks sustentados, sem throttling. Impacto econômico: CAPEX inicial maior, OPEX menor por PUE mais baixo e menos hotspots matando componentes prematuramente.

Existe um detalhe pouco glamouroso: hidráulica. Vazão, pressão e qualidade da água (ou dielétrico) entram no backlog do SRE. E sim, sensor de vazamento agora é métrica crítica no dashboard. Ainda melhor: calor residual reaproveitado para aquecimento distrital ou processos industriais, monetizando aquilo que antes era vento quente saindo da chaminé do data hall.

O cabo está ficando curto: do 400G ao 800G e além

Quando a conta de energia não mata, a de comunicação tenta. Treino distribuído e inferência em malha exigem interconexões com latência e jitter controlados; 800G (QSFP-DD/OSFP) já avança em folhas e spines. O próximo salto está em co-packaged optics (CPO): mover transceptores para perto ou dentro do pacote do switch/ASIC reduz consumo por bit e minimiza perdas de sinal em pistas de alta frequência. Isso diminui o custo energético do “shuffle” entre nós — crucial quando o modelo vive fragmentado em dezenas de GPUs.

Tecnicamente: menos equalização agressiva, menos calor em long-reach elétrico, e um caminho mais limpo para topologias non-blocking. Economicamente: o custo por porta sobe no curto prazo, mas o custo por terabyte movido cai quando você considera o OPEX energético e a vida útil do backbone óptico.

HBM é rei, mas cobra pedágio

Processamento não falta; o que falta é alimentação de dados. A largura de banda da HBM explodiu, só que o acesso eficiente depende de layout de operadores e atenção quase artesanal ao data movement. Técnicas como quantização de 8/4 bits, sparsity estruturada e kernels fused evitam passeios desnecessários à memória. No treino, pipeline e tensor parallelism bem desenhados evitam aquele all-reduce indigesto que evapora watts e paciência. Na inferência, cache KV sob medida e batching dinâmico rendem ganhos reais sem tocar no modelo.

Três pontos práticos que vêm mudando a curva de custo: 1) compilar para o hardware específico (graph compilers com scheduling agressivo); 2) explorar chiplets e empilhamento 2.5D/3D para aproximar compute de memória; 3) usar formatos numéricos mistos que mantêm acurácia com menos banda. Tudo isso troca FLOPs por engenharia — e a troca tem sido barata.

Edge com NPU: menos rede, mais bateria

Nem tudo precisa atravessar meia internet para responder “sim” a uma pergunta trivial. NPUs de laptops e dispositivos móveis finalmente entregam inferência útil offline: transcrição, sumarização, visão embarcada, copilotos de produtividade. Benefícios técnicos óbvios: latência apressada, privacidade reforçada, custo de egress a zero. Benefícios menos óbvios: descarregar requests do data center permite reservar GPU para workloads que realmente exigem pareamento massivo, como treino contínuo e fine-tuning pesado.

Para produtos, isso muda roadmap. Modelos menores e bem calibrados, quantizados para NPU/CPU+GPU integradas, viram recursos padrão. O back-end passa a servir atualizações de parâmetros, não respostas token a token. E sim, o PM sorri quando descobre que o CAC cai porque a experiência funciona mesmo no Wi‑Fi cambaleante do café.

A guerra invisível por watts

Quem constrói infra de IA hoje administra energia como ativo financeiro. Fila na rede elétrica, PPAs longos, subestações próprias, baterias e, onde faz sentido, geração no local com recuperação de calor. A métrica deixa de ser só PUE; entra WUE (água) e até CUE (carbono). A melhor otimização de custo pode ser adiar uma compra de GPU para investir em retrofit térmico e ótico que libera 20% de capacidade real no cluster atual.

Mercado reage. Colocations vendem kW e kVA como slots premium. Fabricantes amadurecem SKUs líquidos e chassis high-density. Fornecedores de software correm para dar visibilidade de energia por job e por experimento, ligando custo a commit. Quem acordou tarde está tentando o equivalente a trocar pneu com o carro em movimento.

Riscos e contradições

– Lock-in térmico: escolher um ecossistema de resfriamento pode dificultar upgrades de servidor. Padrões abertos ajudam, mas os detalhes do manifold mandam no calendário.

– Água e regulação: regiões com estresse hídrico podem limitar expansões líquidas sem planos claros de reuso e qualidade.

– Complexidade operacional: mais sensores, mais pontos de falha. O MTTR de um vazamento é bem diferente de um fan barulhento. Treinamento de equipe e runbooks deixam de ser “nice to have”.

– Fantasia de FLOPs infinitos: sem governança de workloads, o cluster vira buraco negro de GPU para jobs de vaidade. Custos explodem sem uma política de cotas, SLOs e preço interno por watt-hora.

Playbook de quem está acertando

– Arquitetura térmica-first: projeto começa no cooling, não na placa. Simulações CFD, escolha de loops independentes e plano de expansão a três ciclos de hardware.

– Telemetria elétrica e energética por job: custo marginal visível no CI/CD. Quem paga a conta decide se aquele ajuste de hiperparâmetro vale 300 kWh.

– Topologia de rede pensada para o padrão de comunicação do modelo: treinos com all-to-all ganham com malhas mais ricas; inferência com cache distribuído pode viver em leaf-local quando a latência é soberana.

– Edge bem usado: tirar 30% do tráfego trivial da nuvem libera o cluster caro para aquilo que realmente move agulha de negócio.

O que vem depois da tomada

A próxima vantagem competitiva não estará no paper bonitão, mas na engenharia que amarra elétrons, fótons e bits. Três apostas claras: 1) co-packaged optics como padrão de fato em switches topo de linha; 2) liquid cooling massificado, com reuso de calor virando linha de receita em climas frios; 3) NPUs onipresentes, com modelos híbridos que negociam em tempo real onde rodar cada parte do pipeline. Em paralelo, veremos orquestradores de IA que tratam energia como recurso de primeira classe, alocando job por custo por token, não só por latência.

Se você lidera produto ou infraestrutura, a pergunta certa mudou. Não é “qual LLM roda?”, é “qual LLM roda dentro do meu orçamento térmico e elétrico e ainda deixa espaço para crescer”. E, antes que alguém pergunte: sim, a GPU nova continua incrível. Ela só precisa de um encanador e de um bom eletricista para brilhar.