Radar IA: um 65B denso numa caixa só, imagem em 6 s e vídeo a US$ 0,07/s

Radar IA: um 65B denso numa caixa só, imagem em 6 s e vídeo a US$ 0,07/s

Entre 5 e 6 de novembro, três anúncios mexeram com as variáveis que definem custo de IA em produção: latência de geração multimodal, preço por unidade de saída (segundo de vídeo, token de treino) e memória necessária para servir um modelo denso de grande porte. Nenhum é modelo de fronteira. Todos mudam a conta.

Ripple-65B: 65 bilhões densos, 1 milhão de contexto, uma máquina

A Ricursive Intelligence publicou em 6 de novembro o Ripple-65B Preview : modelo denso de 65 bilhões de parâmetros, licença Apache 2.0 , pesos no Hugging Face, janela de 1.048.576 tokens e 80,52 no Terminal-Bench 2.1 , segundo a empresa. A afirmação comercial é que ele roda em um único NVIDIA DGX Spark .

Denso muda tudo em relação à onda de MoEs esparsos. Em um denso, todos os parâmetros são lidos a cada token gerado, então o decode é limitado por banda de memória , não por FLOPs. O DGX Spark (GB10) tem 128 GB de memória unificada e cerca de 273 GB/s de banda. Fazendo a conta de guardanapo, com 65B em 4 bits (≈32,5 GB de pesos) o teto teórico fica em ~8 tokens/s por sequência; em FP8 (≈65 GB), ~4 tokens/s. São estimativas minhas , de primeira ordem, em batch 1: o número real depende da quantização efetiva, do overhead de runtime e de quanto do modelo sobra para o KV cache.

E é aí que o "1M de contexto" pede leitura cuidadosa. O KV cache cresce com o número de camadas, grupos KV e dimensão de cabeça: 2 × camadas × grupos_kv × head_dim × bytes . Numa arquitetura hipotética de 80 camadas, 8 grupos KV e head_dim 128, em FP8, isso dá cerca de 160 KB por token — ou ~160 GB para 1M de tokens, mais do que a máquina tem. O número do cartão é o limite de janela do modelo, não a promessa de que você serve 1M de tokens localmente. Checar antes de adotar : config publicada, número de camadas/cabeças e se há atenção com janela deslizante ou híbrida.

Imagem: GPT-Image-2.6 e os 6 segundos

Em 5 de novembro a OpenAI colocou na API o Images 2.6 , com duas variantes: Flare , para iteração rápida, e Sunburst , para composições detalhadas e consistência entre edições. A companhia diz que o Flare devolve imagem em 6 segundos em qualidade baixa e que a versão é 50% mais rápida que a anterior. A atualização adiciona saída em GIF e SVG e edições guiadas por marcação ( markup-guided edits ). O anúncio também cita um parâmetro complexity , cujo detalhamento não aparecia na fonte consultada.

Na prática: 6 s em low quality importa para quem constrói UI de geração iterativa — é a diferença entre preview e espera. Mas low quality não é o modo de produção, e os 50% são contra a geração anterior da própria OpenAI, não contra concorrentes. A saída em SVG é a mudança estrutural: pipeline de design passa a receber asset vetorial editável em vez de bitmap.

Vídeo: Gemini Omni 1.2 Flash a US$ 0,07 por segundo

Também em 5 de novembro, o Google DeepMind lançou o Gemini Omni 1.2 Flash : clipes de 15 segundos , edição conversacional em múltiplos turnos e aderência mais apertada à imagem de referência. O preço caiu 30% , para US$ 0,07 por segundo em 720p . É a primeira vez que o Omni aparece em disponibilidade geral na Gemini API e no Google Cloud — antes era acesso limitado.

A conta: 15 s × US 1,05 por clipe 720p**; na tabela anterior, com 30% a mais, ~US 60 para ~US$ 42. O custo dominante em vídeo continua sendo o número de tentativas, não o preço unitário.

Treino cobrado por token: Baseten Serverless Loops

Em 6 de novembro a Baseten colocou em disponibilidade geral o Serverless Loops , para fine-tuning supervisionado e aprendizado por reforço em modelos abertos, com cobrança por token de treino e caminho direto dos checkpoints para inferência dedicada. O ganho real é não precisar reservar GPU por hora para um experimento de pós-treinamento. Ressalva honesta: preço por token de treino não é comparável a preço por hora de GPU sem saber a taxa efetiva de tokens/hora — que depende de comprimento de sequência, packing , otimizador e paralelismo.

Ling-3.2-flash: multimodal barato com janela grátis

Fecha o ciclo o Ling-3.2-flash , da Ant Group (6 de novembro): entende imagem, vídeo e texto, custa uma fração dos modelos de fronteira e fica grátis nas duas primeiras semanas . A empresa afirma superar o Claude Opus 5 em três testes — benchmark de fornecedor, sem condições de medição nem versão exata do concorrente na fonte consultada. Trate como indicativo, não como fato comparável.

Leitura prática

Não confunda janela com capacidade de serving. Modelo anunciado com 1M de contexto não significa 1M de tokens rodando na sua máquina: o KV cache come a memória antes dos pesos.

Compare denso com denso. 65B densos em uma caixa é um caso de uso diferente de um MoE de 600B com poucos experts ativos; o gargalo é banda, não contagem de parâmetros.

Vídeo ainda é caro por iteração. Queda de 30% ajuda, mas o orçamento real é número de gerações descartadas.

Exija a condição da medição. "50% mais rápido", "6 segundos", "supera o concorrente" — sem batch, quantização e qualidade, o número não viaja para o seu workload.

Próximos passos

Acompanhar se a Ricursive publica a config completa do Ripple-65B e números de tokens/s em hardware definido — é o dado que separa anúncio de viabilidade.

E você: qual modelo, stack de serving ou hardware está no seu ambiente hoje? Conta aí nos comentários — especialmente se já testou um denso de 65B em hardware de desktop.

Fontes