Um chip do tamanho de um prato de jantar. Sem GPUs. Sem clusters com centenas de placas interconectadas. E mesmo assim, inferência a 1.000+ tokens por segundo num modelo de 3 trilhões de parâmetros. Parece ficção, mas é exatamente o que a Cerebras acabou de demonstrar com o WSE-3T, e o mercado de IA nunca mais vai ser o mesmo.

Eu acompanho hardware de IA desde que rodar um modelo de 7B era “impressionante”. Hoje, quando a Cerebras mapeia o Kimi K3 (sim, 3 trilhões de parâmetros) em 59 wafers e entrega velocidade de inferência que faz GPU parecer modem 56k, fica difícil não prestar atenção.

O problema que ninguém gosta de admitir

Vamos ser honestos: inferência em GPU é um pesadelo logístico quando o modelo passa de 100 bilhões de parâmetros. Você precisa de dezenas (às vezes centenas) de GPUs H100 interconectadas, cada uma com sua própria HBM (High Bandwidth Memory), comunicando entre si via NVLink ou InfiniBand, num balé coreografado que, quando funciona, é bonito. Quando não funciona, é uma conta de luz de fazer chorar.

O gargalo real não é computação. É memória. Cada vez que o modelo precisa acessar pesos que não cabem na memória do chip, ele precisa buscar no próximo nível da hierarquia (HBM, depois DRAM, depois SSD). Cada salto desses adiciona latência. E latência em inferência significa tokens mais lentos, usuários irritados e dinheiro queimado.

A NVIDIA sabe disso. Por isso a arquitetura Blackwell B200 empacota 192 GB de HBM3e por GPU. Mas quando seu modelo tem 3 trilhões de parâmetros (algo em torno de 1,5 TB em quantização de 4 bits), você ainda precisa de um cluster inteiro.

Wafer-Scale: a aposta maluca que deu certo

A Cerebras resolveu o problema da forma mais radical possível: em vez de colocar vários chips numa placa, eles fazem um chip que ocupa o wafer inteiro. Um único chip de silício com 4 trilhões de transistores, 900.000 núcleos de IA e 44 GB de SRAM on-chip.

Para quem não é de hardware: normalmente, uma fábrica de semicondutores produz um wafer (disco de silício de 300mm) e depois corta ele em centenas de chips individuais. A Cerebras simplesmente… não corta. O wafer inteiro vira um processador.

A diferença no bandwidth de memória é obscena: 21 petabytes por segundo contra 3,35 terabytes por segundo. Isso é uma diferença de mais de 6.000 vezes. E é por isso que a inferência na Cerebras é tão rápida: os pesos do modelo ficam na SRAM, grudados nos núcleos de computação, sem precisar viajar pela hierarquia de memória.

59 wafers para rodar o Kimi K3: a matemática

O Kimi K3, da Moonshot AI, é um modelo com arquitetura hybrid-attention: mistura camadas de atenção densa (full attention) com camadas de atenção linear. Isso importa muito para como a Cerebras distribui o modelo.

Camadas densas (24 camadas): cada uma fica sozinha em um wafer. Por quê? Porque atenção densa precisa de KV cache (key-value cache) que cresce com o contexto. Um wafer tem 44 GB, a camada usa ~16 GB, e o restante (~28 GB) fica reservado para armazenar as chaves e valores das requisições ativas. Uma camada por wafer.

Camadas lineares (69 camadas): cabem duas por wafer. Atenção linear mantém um estado de tamanho fixo independente do comprimento do contexto, então não precisa de tanto espaço para KV cache. Duas camadas por wafer, cada uma com ~16 GB.

A conta fica:

Camadas densas:  24 wafers (1 camada cada)
Camadas lineares: 35 wafers (2 camadas cada = 70, mas são 69 + 1 slot sobrando)
Total: 59 wafers

Em quantização de 4 bits (alinhada com implementações do HuggingFace), os 3 trilhões de parâmetros do Kimi K3 ocupam aproximadamente 1,5 TB. Distribuídos em 59 wafers, cada um com ~16 GB por camada.

Pipeline parallelism: sem batch, sem espera

Aqui é onde a arquitetura Cerebras fica realmente interessante. Em GPUs, você agrupa várias requisições num batch para amortizar o custo de carregar pesos do modelo. Batch de 1? Lento. Batch de 32? Rápido, mas com latência para o primeiro token.

A Cerebras faz diferente: usa pipeline parallelism. Cada requisição flui pelos 59 wafers como numa linha de montagem. Enquanto a requisição A está sendo processada na camada 30, a requisição B está na camada 15, e a C está na camada 3. Todas avançando simultaneamente, sem esperar batch.

A comunicação entre wafers acontece via RDMA sobre Ethernet, com latência de aproximadamente 2 microssegundos por salto. E o dado que viaja entre wafers é só a ativação (o output de uma camada que vira input da próxima). Os pesos ficam parados, estáticos, na SRAM de cada wafer.

Requisição A: [Wafer 59] → processando camada 59
Requisição B: [Wafer 45] → processando camada 45
Requisição C: [Wafer 30] → processando camada 30
Requisição D: [Wafer 15] → processando camada 15
Requisição E: [Wafer 1]  → processando camada 1

← Dados fluem da esquerda pra direita, sem parar →

O resultado prático? 1.000 a 2.000+ tokens por segundo em inferência, com latência consistente. Não importa se é a primeira ou a centésima requisição.

Os números que fazem a NVIDIA suar frio

A Cerebras publicou benchmarks comparativos que, se confirmados por terceiros, são devastadores:

A Cerebras é 6,7x mais rápida que o melhor provedor de GPU cloud e 23x mais rápida que a mediana. Para modelos de 400B+, o CS-3 entrega até 2.500 tokens por segundo.

Mas calma. Tem um asterisco importante: esses números são para batch 1 a 4. Quando você sobe o batch para 8, 32, 64, a H100 começa a recuperar terreno:

Percebe o padrão? A Cerebras escala quase linearmente (pouco ganho com mais batch), enquanto a GPU adora batch grande. Para workloads com alto throughput e tolerância a latência, GPUs ainda vencem. Para baixa latência e poucos requests simultâneos, Cerebras é imbatível.

O IPO de $56 bilhões

A Cerebras não é mais uma startup de garagem. Em maio de 2026, a empresa fez seu IPO a $185 por ação, abriu a $350 (ganho de 68% no primeiro dia) e atingiu uma avaliação de $56,4 bilhões. Foi o maior IPO americano do ano.

Os números que convenceram Wall Street:

• Receita: $510 milhões (último ano fiscal)
• Contrato com OpenAI: $20 bilhões para 750 megawatts de capacidade computacional
• Clientes: OpenAI, Amazon, e um pipeline crescente de empresas que querem inferência rápida
• Modelo de negócio: vende tanto hardware (CS-3 como sistema completo) quanto inferência como serviço (pay-per-token)

O modelo de inferência como serviço é particularmente inteligente. Em vez de gastar milhões num cluster de GPUs, você paga por token. O DeepInfra cobra ~$0,08 por milhão de tokens num modelo de 120B e entrega 161 tokens por segundo. A Cerebras, pelo mesmo modelo, entrega 3.000 tokens por segundo.

Onde a Cerebras tropeça

Seria desonesto pintar só o lado bonito. A Cerebras tem limitações reais que explicam por que a NVIDIA continua dominando:

1. Só funciona para inferência. Se você precisa treinar modelos, fazer fine-tuning, RLHF, ou qualquer coisa que não seja inferência pura, a Cerebras não serve. O ecossistema CUDA da NVIDIA, com PyTorch, JAX, e décadas de tooling, simplesmente não tem rival.

2. Hardware inflexível. Você não compra um chip WSE-3 e coloca no seu datacenter. A Cerebras vende o sistema CS-3 completo, com refrigeração e gerenciamento de energia especializados. É uma solução monolítica.

3. Escala com batch limitada. Como vimos nos benchmarks, quando o batch size sobe, GPUs escalam muito melhor. Para aplicações que processam milhares de requisições em paralelo (como APIs públicas de LLM), GPUs em cluster podem ser mais eficientes no throughput total.

4. Ecossistema menor. A NVIDIA tem um ecossistema de software que levou décadas para construir. Cerebras está se movendo rápido, mas ainda depende de suporte limitado a frameworks e modelos.

5. Preço do sistema completo. Um CS-3 custa significativamente mais que um servidor com 8 GPUs. O ROI só fecha para workloads específicos de inferência de alta performance.

E o Groq? E o Google TPU?

A Cerebras não está sozinha na briga contra GPUs. O Groq tem sua LPU (Language Processing Unit) que também promete inferência ultrarrápida. O Google tem TPUs que já rodam Gemini internamente.

A diferença é filosófica:

• Groq: chips menores e mais baratos, focados em latência para modelos de até 70B. Não escala naturalmente para trilhões de parâmetros.
• Google TPU: excelente para treino e inferência, mas é um jardim murado. Você só usa TPU dentro do Google Cloud.
• Cerebras: aposta tudo na escala do wafer. Um chip gigante que resolve o problema de memória pela força bruta.

Cada abordagem tem seu nicho. Mas nenhuma outra demonstrou rodar um modelo de 3 trilhões de parâmetros com a velocidade que a Cerebras mostrou.

O que isso significa na prática

Se você é um dev que consome APIs de LLM, a competição entre Cerebras, NVIDIA, Groq e Google é a melhor coisa que poderia acontecer. Preços caindo, velocidades subindo, e mais opções para cada tipo de workload.

Se você trabalha com infraestrutura de IA, a mensagem é clara: GPUs não são mais a única resposta. Para inferência de modelos grandes com baixa latência, alternativas como a Cerebras já entregam performance superior com complexidade operacional menor (um sistema, não um cluster de 128 GPUs).

E se você investe em tech? A avaliação de $56 bilhões num IPO, com $510 milhões de receita e um contrato de $20 bilhões com a OpenAI, mostra que o mercado está apostando pesado que inferência rápida é o próximo grande negócio. Faz sentido: à medida que agentes de IA se tornam mainstream, a demanda por inferência vai explodir, e quem entregar mais tokens por dólar vai dominar.

Quando usar Cerebras vs GPU

Para simplificar a decisão, uma tabela prática:

A corrida está só começando

Há 3 anos, ninguém levava a Cerebras a sério. “Um chip do tamanho de um prato? Impossível de fabricar em escala. Impossível de resfriar. Impossível de programar.” Hoje, a empresa vale $56 bilhões, roda o maior modelo do mundo em 59 wafers, e a OpenAI assinou um cheque de $20 bilhões.

A NVIDIA não vai perder o sono tão cedo. Ela ainda domina treino, tem o ecossistema CUDA, e escala melhor com batch grande. Mas para inferência pura, especialmente de modelos cada vez maiores? A Cerebras provou que existe um caminho radicalmente diferente. E ele funciona.

Quer saber o que eu acho mais fascinante? Daqui a 2 anos, modelos de 3 trilhões de parâmetros vão parecer pequenos. E a arquitetura wafer-scale da Cerebras foi literalmente desenhada para esse futuro.

Fonte de inspiração: How We Deploy Trillion-Parameter Frontier Models on Cerebras