Inkling: O Modelo de 975B Parâmetros Open-Source que Ninguém Esperava

Quando Mira Murati saiu da OpenAI em setembro de 2024, muita gente achou que ela ia tirar um ano sabático, escrever um livro, talvez virar conselheira de algum fundo de venture capital. O que ninguém esperava era que, 18 meses depois, ela apareceria com um modelo de 975 bilhões de parâmetros, open-weights, multimodal e com janela de contexto de 1 milhão de tokens. Sem aviso prévio. Sem hype tour. Só jogou na mesa e disse: “aqui está”.

O Inkling, primeiro modelo da Thinking Machines Lab, chegou hoje (15 de julho de 2026) e já está no topo do Hacker News. E eu entendo por quê: é o maior modelo open-weights já lançado, com uma arquitetura que faz coisas que nenhum outro modelo aberto faz. Vamos destrinchar.

Quem é a Thinking Machines Lab?

Mira Murati fundou a Thinking Machines Lab em fevereiro de 2025, junto com outros ex-funcionários da OpenAI. A startup levantou US$ 2 bilhões em uma rodada que avaliou a empresa em US$ 12 bilhões, e rumores indicam que uma nova rodada pode chegar a US$ 50 bilhões de valuation.

A tese central da empresa é provocativa: modelos “one-size-fits-all” não são o futuro. Em vez de construir um modelo gigante e genérico (como o GPT-5.6 da OpenAI), a Thinking Machines aposta em modelos que sirvam como base customizável. O Inkling não foi feito para ser o melhor em tudo. Foi feito para ser o melhor ponto de partida.

Murati resumiu a filosofia em uma frase: “Nossas interações umas com as outras são muito ricas. Modelos de interação capturam todas essas nuances.” Na prática, isso significa que o Inkling foi projetado para ser fine-tunado, adaptado e moldado para casos de uso específicos.

Os Números que Importam

Antes de entrar nos detalhes técnicos, olha a ficha do Inkling:

Para contextualizar: o Llama 3.1 405B da Meta tem 405B de parâmetros (todos ativos). O DeepSeek-V3 tem 671B com 37B ativos. O Inkling tem 975B com 41B ativos. É o maior modelo open-weights do mundo, e pelo design MoE, roda com um custo computacional comparável a um modelo de 41B.

Arquitetura: O Que Faz o Inkling Diferente

A arquitetura do Inkling segue a linha do DeepSeek-V3 (256 experts roteados, 6 ativos por token), mas adiciona várias inovações que merecem destaque.

Atenção Híbrida com Sliding Window

O Inkling alterna entre camadas de atenção global (que enxergam todo o contexto) e camadas de sliding window (que olham apenas uma janela fixa). A proporção é 5:1, ou seja, para cada camada de atenção global, existem cinco camadas de sliding window. Só a última camada é sempre global, para garantir representações ricas na saída.

Por que isso importa? Porque atenção global em 1 milhão de tokens é computacionalmente insana. Esse esquema híbrido permite que o modelo “preste atenção” no contexto completo quando precisa, mas economize recursos nas camadas intermediárias. É eficiência de engenharia, não preguiça.

Posicionamento Relativo (sem RoPE)

Diferente de quase todo modelo transformer moderno, o Inkling não usa RoPE (Rotary Position Embedding). Em vez disso, usa embeddings posicionais relativos com features per-token e per-head ajustadas com informação de distância. Na prática, isso melhora a capacidade de extrapolação para sequências mais longas do que as vistas durante o treino.

Short Convolutions

Cada camada de atenção e MLP inclui uma convolução 1D curta que lê o token atual mais os W-1 tokens anteriores. Isso pode parecer um detalhe menor, mas resolve um problema real: representações locais. Transformers puros às vezes “esquecem” o contexto imediato em favor de padrões globais. As short convolutions garantem que o modelo sempre tenha uma noção forte do que acabou de ler.

Multimodalidade Nativa (sem Encoder Externo)

Aqui é onde fica interessante. O Inkling não usa encoders separados para visão e áudio. Em vez disso:

Visão: usa um patchifier hierárquico baseado em MLP (chamado hMLP) que divide imagens em patches de 40×40 pixels e faz merging progressivo. Nada de ViT externo, nada de CLIP. Tudo integrado no backbone do modelo.

Áudio: discretiza espectrogramas mel em chunks de 100ms e os classifica diretamente. A abordagem é chamada de dMel (discretized Mel spectrogram).

O resultado é um modelo que processa texto, imagem e áudio no mesmo forward pass, sem precisar de pipelines separados. Isso simplifica enormemente a integração em aplicações reais.

Benchmarks: Honestidade Brutal

A Thinking Machines fez algo raro no mundo de IA: admitiu que o Inkling não é o melhor modelo do mundo. No blog de lançamento, eles escrevem literalmente: “O Inkling não é o modelo mais forte disponível hoje, aberto ou fechado.”

Dito isso, os números são impressionantes para um modelo open-weights:

Alguns destaques que valem uma pausa:

97.1% no AIME 2026 coloca o Inkling no mesmo patamar do Claude Opus e GPT-5.6 em raciocínio matemático. Para um modelo open-weights, isso é absurdo.

77.6% no SWE-Bench é competitivo com os melhores modelos fechados. Significa que o Inkling consegue olhar para um repositório real, entender o bug, e gerar um patch que resolve o problema. Em quase 4 de cada 5 casos.

98.6% no StrongREJECT é o score mais alto entre modelos open-weights. O modelo recusa requests perigosos (armas, violência) sem “over-refusing” requests legítimos. Isso é um equilíbrio difícil de alcançar.

VoiceBench 91.4% é o melhor resultado entre modelos abertos para compreensão de áudio. A abordagem sem encoder separado parece funcionar muito bem.

Esforço de Raciocínio Controlável

Uma feature que merece destaque: o Inkling permite que você controle quanto “pensamento” o modelo dedica a cada resposta. São sete níveis:

none → minimal → low → medium → high → xhigh → max

Na prática, isso significa que para uma pergunta simples como “Qual a capital da França?”, você pode usar reasoning_effort="none" e gastar pouquíssimos tokens. Para um problema de programação complexo, usa reasoning_effort="max" e deixa o modelo pensar com calma.

Segundo a Thinking Machines, o Inkling atinge performance comparável ao Nemotron 3 Ultra no Terminal Bench usando um terço dos tokens. Isso é economia real de dinheiro em produção.

from transformers import AutoModelForMultimodalLM, AutoProcessor

processor = AutoProcessor.from_pretrained("thinkingmachines/Inkling")
model = AutoModelForMultimodalLM.from_pretrained(
    "thinkingmachines/Inkling",
    dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "Explique quicksort em Python com exemplo."}
]

inputs = processor.apply_chat_template(
    messages,
    add_generation_prompt=True,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    reasoning_effort="high",  # Ajuste conforme a complexidade
).to(model.device)

output = model.generate(**inputs, max_new_tokens=2000)
print(processor.decode(output[0], skip_special_tokens=True))

Como Rodar o Inkling

Vou ser direto: rodar o Inkling em full precision (BF16) exige 2TB de VRAM. Ou seja, você não vai rodar em casa. Mas existem opções para cada bolso.

Opção 1: API (Zero Setup)

O jeito mais rápido de testar. O Inkling está disponível no Tinker (plataforma da Thinking Machines), Together, Fireworks, Modal, Databricks e Baseten. Também está no Hugging Face com 2 horas gratuitas no lançamento.

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://router.huggingface.co/v1",
    api_key=os.environ["HF_TOKEN"],
)

response = client.chat.completions.create(
    model="thinkingmachines/Inkling:auto",
    messages=[
        {"role": "user", "content": "Qual o melhor framework web em 2026?"}
    ],
)

print(response.choices[0].message.content)

Opção 2: Self-Hosted com vLLM ou SGLang

Se você tem acesso a um cluster GPU (8x H100 ou equivalente com NVFP4):

# SGLang
pip install sglang
python3 -m sglang.launch_server \
  --model-path thinkingmachines/Inkling-NVFP4 \
  --tp-size 8 \
  --served-model-name inkling \
  --host 0.0.0.0 --port 30000

# vLLM
pip install vllm
vllm serve thinkingmachines/Inkling-NVFP4 \
  --tensor-parallel-size 8 \
  --served-model-name inkling

Opção 3: llama.cpp (Para os Corajosos)

Sim, dá para rodar localmente com quantização agressiva. A Unsloth disponibilizou versões GGUF com quantização de 1-bit que retêm 74.2% da acurácia top-1:

llama serve -hf unsloth/inkling-GGUF:UD-IQ1_S

Isso sobe um servidor OpenAI-compatível em http://localhost:8000/v1. Vai ser lento? Vai. Mas funciona. E suporta tools, MCP e workflows agênticos.

O Treinamento: 45 Trilhões de Tokens e RL em Escala

O Inkling foi treinado em 45 trilhões de tokens que cobrem texto, imagem, áudio e vídeo. Para referência, o Llama 3.1 foi treinado em 15 trilhões de tokens (só texto). O Inkling processou 3x mais dados, em múltiplas modalidades.

O processo de treinamento usou clusters de NVIDIA GB300 NVL72 (o hardware mais recente da Nvidia) e uma técnica de otimização híbrida: Muon para matrizes grandes e Adam para o restante dos parâmetros.

A fase de Reinforcement Learning merece destaque: foram mais de 30 milhões de rollouts de RL, e os gráficos mostram melhoria log-linear sustentada. Um efeito colateral interessante que a equipe reportou: conforme o treinamento de RL avançou, o chain-of-thought do modelo ficou mais conciso. Ele aprendeu a pensar com menos palavras, sem perder qualidade. Como se o modelo tivesse “aprendido a parar de enrolar”.

O Elefante na Sala: Mira Murati vs. OpenAI

Não dá para falar do Inkling sem falar do contexto político. Mira Murati foi CTO da OpenAI durante o período mais turbulento da empresa. Ela esteve presente durante o “quase-golpe” contra Sam Altman em novembro de 2023, e saiu menos de um ano depois.

Agora ela volta com um modelo open-weights. A ironia é grossa: a OpenAI, que tem “Open” no nome, cada vez fecha mais seus modelos. A Thinking Machines, sem “open” em lugar nenhum do nome, libera os pesos de um modelo de quase 1 trilhão de parâmetros.

A empresa se posiciona explicitamente contra a abordagem “tamanho único” que domina o mercado. Enquanto OpenAI e Google constroem modelos cada vez maiores e mais fechados, Murati argumenta que o futuro está em modelos base que empresas podem adaptar para seus casos específicos. O modelo de negócio da Thinking Machines reflete isso: eles monetizam via Tinker, uma ferramenta de fine-tuning, com clientes como a Bridgewater Associates (o maior hedge fund do mundo).

Para Quem é o Inkling?

Eu vejo três públicos claros:

1. Empresas que querem soberania sobre seus modelos. Se você depende de APIs da OpenAI ou Anthropic, está à mercê de mudanças de pricing, policy updates e rate limits. Com o Inkling, você baixa os pesos, faz fine-tuning com seus dados, e roda na sua infra. Ponto.

2. Pesquisadores e hackers. Um modelo de 975B com pesos abertos é um playground incrível. Dá para estudar como MoE funciona em escala, como a multimodalidade sem encoder se comporta, como o esforço de raciocínio controlável afeta a geração. A ciência aberta ganha muito com isso.

3. Startups que precisam de um modelo forte sem pagar API. Especialmente com a versão quantizada rodando via llama.cpp, startups com orçamento limitado podem experimentar com um modelo frontier sem gastar com APIs.

Quem NÃO é o público: se você quer o melhor modelo absoluto em tudo, hoje, o Claude Opus 4.8 e o GPT-5.6 Sol ainda lideram em vários benchmarks. O Inkling não se propõe a ganhar todas as corridas. Ele se propõe a ser a melhor fundação para construir algo seu.

O Que Isso Significa para o Ecossistema

O lançamento do Inkling tem implicações que vão além do modelo em si.

Primeiro, valida a tese de que modelos open-weights podem competir em escala com modelos fechados. Até agora, os maiores modelos abertos (Llama 405B, DeepSeek-V3 671B) ficavam significativamente atrás dos líderes fechados. O Inkling diminui essa distância.

Segundo, reforça uma tendência que já era clara: ex-funcionários de big techs fundando labs de IA focados em openness. Dario e Daniela Amodei saíram da OpenAI para fundar a Anthropic. Agora Murati sai para fundar a Thinking Machines com uma proposta ainda mais aberta.

Terceiro, coloca pressão na Meta. O Llama era o rei dos modelos open-source, mas relatórios recentes indicam que a Meta está se movendo em direção a modelos mais proprietários. Se a Thinking Machines continuar nessa rota, pode herdar a comunidade que a Meta está abandonando.

E tem o ângulo geopolítico que a própria Murati mencionou: enquanto desenvolvedores chineses avançam com modelos abertos competitivos (DeepSeek, Qwen), os EUA precisam de alternativas open-source fortes para não depender exclusivamente de modelos fechados. O Inkling preenche essa lacuna.

Testando na Prática: Primeiras Impressões

Eu rodei o Inkling via API do Hugging Face (as 2 horas gratuitas de lançamento) e posso compartilhar algumas impressões rápidas:

Coding: pedí para ele refatorar uma função Python complexa e o resultado foi limpo, bem estruturado e com type hints. No nível de reasoning_effort="high", ele realmente para e pensa antes de responder, e a qualidade se nota.

Multimodal: enviei uma screenshot de um dashboard e pedi para ele identificar problemas de UX. Ele pegou coisas que eu não tinha notado, como contraste insuficiente em labels e hierarquia visual confusa. Impressionante para um modelo open-weights.

Velocidade de resposta: com reasoning_effort="low", as respostas são quase instantâneas e surpreendentemente boas para perguntas simples. É aí que a economia de tokens fica evidente.

Como Experimentar Agora

Se você quer testar o Inkling hoje:

1. Acesse o Tinker (plataforma da Thinking Machines) que oferece 50% de desconto por tempo limitado
2. Use o Hugging Face com inference gratuita nas primeiras horas
3. Baixe via llama.cpp se quiser rodar local: llama serve -hf unsloth/inkling-GGUF:UD-IQ1_S
4. Integre via API OpenAI-compatível com Together, Fireworks ou Modal

Os pesos estão no Hugging Face em thinkingmachines/Inkling (BF16), thinkingmachines/Inkling-NVFP4 (quantizado para Blackwell), e unsloth/inkling-GGUF (GGUF para llama.cpp).

A documentação técnica completa, incluindo paper de arquitetura e scripts de fine-tuning, está disponível no blog oficial da Thinking Machines.

Eu vou ficar de olho nos próximos dias para ver como a comunidade reage. Modelos desse tamanho com pesos abertos não aparecem todo dia. E quando a ex-CTO da OpenAI é quem está por trás, a coisa fica ainda mais interessante.