Se você estava procurando seu próprio supercomputador de IA pessoal, a Nvidia tem o que você precisa.
A fabricante de chips anunciou na CES que está lançando um supercomputador pessoal de IA chamado Project Digits em maio. O coração do Project Digits é o novo GB10 Grace Blackwell Superchip, que possui poder de processamento suficiente para executar modelos sofisticados de IA, ao mesmo tempo que é compacto o suficiente para caber em uma mesa e funcionar a partir de uma tomada padrão (esse tipo de poder de processamento costumava exigir muito maior , sistemas com maior consumo de energia). Este sistema do tamanho de um desktop pode lidar com modelos de IA com até 200 bilhões de parâmetros e tem um preço inicial de US$ 3.000. O produto em si se parece muito com um Mac Mini.
“A IA será dominante em todas as aplicações de todos os setores. Com o Project Digits, o Grace Blackwell Superchip chega a milhões de desenvolvedores”, disse o CEO da Nvidia, Jensen Huang, em um comunicado à imprensa. “Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador e estudante de IA capacita-os a se envolver e moldar a era da IA.”
Cada sistema Project Digits vem equipado com 128 GB de memória unificada e coerente (em comparação, um bom laptop pode ter 16 GB ou 32 GB de RAM) e até 4 TB de armazenamento NVMe. Para aplicações ainda mais exigentes, dois sistemas Project Digits podem ser interligados para lidar com modelos com até 405 bilhões de parâmetros (o melhor modelo do Meta, Llama 3.1, tem 405 bilhões de parâmetros).
O chip GB10 oferece até 1 petaflop de desempenho de IA (o que significa que pode realizar 1 quatrilhão de cálculos de IA por segundo) com precisão FP4 (o que ajuda a tornar os cálculos mais rápidos fazendo aproximações), e o sistema possui núcleos CUDA de última geração da Nvidia e Tensor Cores de quinta geração, conectados via NVLink-C2C a uma CPU Grace contendo 20 núcleos baseados em Arm com eficiência energética. A MediaTek, conhecida por seus designs de chips baseados em Arm, colaborou no desenvolvimento do GB10 para otimizar sua eficiência energética e desempenho.
Os usuários também terão acesso à biblioteca de software de IA da Nvidia, incluindo kits de desenvolvimento, ferramentas de orquestração e modelos pré-treinados disponíveis no catálogo Nvidia NGC. O sistema é executado no sistema operacional Nvidia DGX baseado em Linux e oferece suporte a estruturas populares como notebooks PyTorch, Python e Jupyter. Os desenvolvedores podem ajustar modelos usando a estrutura Nvidia NeMo e acelerar fluxos de trabalho de ciência de dados com bibliotecas Nvidia RAPIDS.
Os usuários podem desenvolver e testar seus modelos de IA localmente no Project Digits e, em seguida, implantá-los em serviços em nuvem ou infraestrutura de data center usando a mesma arquitetura Grace Blackwell e plataforma de software Nvidia AI Enterprise.
A Nvidia oferece uma variedade de dispositivos semelhantes no mesmo estilo de acessibilidade – em dezembro, anunciou uma versão de US$ 249 de seu computador Jetson para aplicações de IA, voltado para hobbyistas e startups, chamado Jetson Orin Nano Super (lida com modelos de até 8 bilhões de parâmetros) .
