Vera Rubin corta banda de HBM4 e NVLink; FuriosaAI levanta US$ 620 mi para inferência

A Nvidia mexeu na ficha técnica do Vera Rubin sem anunciar nada — e a mudança não é cosmética. A página de especificações passou a listar 19,2 TB/s de banda de HBM4 e 3 TB/s de NVLink , contra os 22 TB/s e 3,6 TB/s que circulavam até então. A empresa agora chama os números antigos de "metas preliminares", segundo o registro feito em 29 de outubro pelo blog técnico llms.blog.

Banda de memória é o que decide a velocidade da fase de decode: cada token gerado exige ler os pesos do modelo (e o KV cache) da memória. Menos banda significa menos tokens por segundo por GPU, menos usuários simultâneos por placa e mais dólares por milhão de tokens — exatamente a métrica que entrou no centro das decisões de compra em 2026. O corte é de 12,7% na HBM4 e de 16,7% no NVLink .

A conta que importa para o decode

Não existe medição pública aqui: é aritmética de limite superior. Num modelo denso de 1 trilhão de parâmetros em FP8 (≈1 TB de pesos), um único stream mal consegue passar de 19,2 tokens/s por GPU a 19,2 TB/s — antes o teto teórico era 22. Em BF16, com 2 TB de pesos, o teto cai para ~9,6 tokens/s. Na prática, batching esconde parte da diferença no caso de modelos pequenos; em modelos grandes com pouco batch, o número aparece.

O segundo efeito é no KV cache. Um modelo de 70B com 80 camadas, 8 cabeças KV e head_dim 128 gasta ~320 KB por token em FP16 — o que dá cerca de 41 GB de KV cache para um contexto de 128K . Ler esses 41 GB a 19,2 TB/s leva no mínimo 2,1 ms por passo de decode; a 22 TB/s, 1,9 ms. Com milhares de requisições concorrentes, a diferença de 13% em banda vira fila.

Já o NVLink afeta o paralelismo: em tensor parallel e, principalmente, em expert parallel de MoE, o all-to-all entre GPUs compete com a banda de computação. Cortar de 3,6 para 3 TB/s encarece topologias agressivas — quem planejava TP=8 ou EP grande precisa refazer a conta de eficiência.

A leitura honesta é que a Nvidia está recalibrando expectativas de uma plataforma que ainda não está em produção, e que fichas técnicas de aceleradores se tornaram documentos móveis. Planejamento de capacidade feito com o número "de lançamento" agora carrega risco de 10% a 15%.

FuriosaAI: US$ 620 milhões para brigar em inferência

Na quinta-feira (29/10), a sul-coreana FuriosaAI fechou uma Série D de US 2,9 bilhões — cerca de quatro vezes o valor do ano anterior, com participação relevante de fundos estatais coreanos. A empresa diz ter capacidade de memória e de fabricação para produzir 20 mil placas RNGD em 2026 e mais de 40 mil em 2027 .

O ponto para quem compra infraestrutura: o RNGD é um acelerador dedicado a inferência, não a treino. O argumento comercial do segmento não é FLOPS, é energia por token e custo total por consulta em modelos abertos. Se a entrega acontecer, é mais uma opção de fornecimento fora da Nvidia — o que historicamente puxa preço de contrato para baixo.

Iluvatar: 1,05x H200, sem método divulgado

Na quarta (28/10), em Xangai, a chinesa Iluvatar CoreX mostrou o Tiangai 300 rodando em hardware real pela primeira vez e afirmou throughput de 1,05x o H200 por cartão. A empresa não informou workload, batch, precisão nem contexto usados na medição. O supernó IXL144 empacota 144 GPUs, 18 CPUs e cerca de 10,1 TB de memória de GPU por rack .

Sem condição de medição, o número não é comparável a nada — vale como sinal de que o ecossistema doméstico chinês segue avançando sob restrição de exportação. O gargalo ali raramente é o silício: é compilador, suporte a operadores e a distância até CUDA.

Oracle vai vender TPU a partir de 2027

Também em 29/10, a Oracle confirmou que a OCI passa a oferecer TPUs do Google a partir de 2027 : a Oracle entra com energia, refrigeração e rede de datacenter; o Google fornece o acelerador e o software. É a primeira vez que um provedor de nuvem de grande porte revende TPU como infraestrutura de terceiro — e cria uma terceira via de negociação para treino e inferência em larga escala.

AMD mostra RL em 24 GPUs MI308X

Em paralelo, um post no blog ROCm descreveu um ciclo completo de RL para o DeepSeek-V4 Flash em 24 Instinct MI308X , rodando rollout, treino, atualização de pesos e checkpoint na mesma stack, com 75 passos de otimização. A acurácia held-out no AIME-2024 subiu de 30,0% para 49,2% . É RL de porte pequeno, mas medido ponta a ponta em hardware AMD — o tipo de evidência que faltava para justificar migração parcial.

Leitura prática

Não feche capacidade com a ficha do anúncio. Ajuste o planejamento de tokens/s com 10% a 15% de folga sobre a banda publicada; foi exatamente esse o tamanho da correção do Vera Rubin.

Refaça a conta de KV cache por contexto. Se você vende 128K ou 256K de janela, o custo por requisição cresce com a banda disponível, não com o preço do token.

Teste MoE com expert parallel pequeno. Com NVLink mais estreito, topologias de EP agressivas perdem eficiência antes do que a intuição sugere.

Coloque TPU e RNGD na mesa de negociação de 2027. Mesmo sem contrato, a existência de alternativas muda a conversa de preço com o provedor atual.

Próximos passos: acompanhar a ficha definitiva do Vera Rubin na abertura de pedidos e os primeiros benchmarks independentes de tokens/s por GPU em modelos MoE com contexto longo.

Fontes