Nvidia já não vende só GPUs, vende o data center inteiro

Quem ainda olha para a Nvidia como “a empresa das GPUs” está preso em 2023. A partir dos últimos resultados e da nova geração de hardware Vera Rubin, a mensagem é outra: o dinheiro sério da IA está a deslocar-se da placa gráfica para o sistema completo, rack a rack, megawatt a megawatt.

Durante os primeiros anos da febre da IA generativa, a narrativa era simples. A Nvidia tinha as únicas GPUs realmente competitivas, a procura explodiu, o valor em bolsa multiplicou por dez e todos os grandes cloud providers correram atrás. Depois veio a contra-narrativa: Amazon, Google, Microsoft e até a OpenAI começaram a desenhar chips próprios, os investidores entraram em modo nervoso e a história passou a ser “as GPUs vão commoditizar, a margem da Nvidia também”. É uma leitura confortável, mas cada vez menos alinhada com a realidade dentro dos centros de dados.

O que está a emergir é um jogo diferente: orquestração de dados e energia em escala absurda. À medida que o cálculo de IA passa a operar em gigawatts, deixar GPUs paradas à espera de dados é desperdício puro. A Nvidia está a tentar capturar essa camada com a arquitectura Vera Rubin: não só o GPU Rubin, mas também o CPU Vera, o acelerador de inferência Groq 3 LPX e racks desenhados de raíz para armazenamento e rede. Se o GPU é o motor, todo o resto do chassis, transmissão e depósito de combustível está a ser vendido pela mesma marca.

O CPU Vera ataca o problema menos glamoroso e mais caro: mover dados no momento certo, do flash para a GPU, sem entupir nada. Segundo Jason Hardy, VP de tecnologia de armazenamento da Nvidia, este CPU dedicado dá até 3x de melhoria em certas operações, porque liberta o potencial total do armazenamento flash sem criar gargalos. Isto encaixa directamente no contexto que temos vindo a acompanhar, em que os centros de dados de IA já estão a absorver memória, SSDs e rede ao ponto de afectar outras indústrias. Se o gargalo deixa de ser o GPU e passa a ser tudo o resto, é aí que se joga a vantagem competitiva.

Curiosamente, a OpenAI segue um caminho diferente com o chip Jalapeño: em vez de aceitar o caos do tráfego interno, tenta evitá-lo, mantendo o máximo possível da carga de trabalho dentro de um único sistema integrado. Menos movimento de dados, menos latência, maior eficiência. O princípio é o mesmo do lado da Nvidia: eficiência não vem só de mais ciclos de processamento, vem de trânsito inteligente. Para quem gere clusters gigantescos na Europa, isto traduz-se em menos energia desperdiçada, menos arrefecimento e menos factura elétrica, algo que reguladores e governos não vão ignorar num continente obcecado com metas climáticas.

Importa notar que esta nova camada não é vitória automática para a Nvidia. Hyperscalers têm dinheiro, talento e razões para querer controlar toda a pilha, desde o silício ao software. Mas é diferente competir num GPU isolado e competir num sistema em que cada cabo, cada controladora, cada firmware está pensado como um produto fechado. A compra recente da Hugging Face encaixa nesta estratégia de fechar o círculo do hardware ao software, um movimento que detalhámos quando a Nvidia decidiu trazer a principal montra de modelos open source para dentro de casa. Se a IA for a nova cloud, a Nvidia quer ser a AWS e o Intel ao mesmo tempo. E, por enquanto, está a jogar em mais tabuleiros do que a concorrência gosta de admitir.

Fonte: TechCrunch