A Intel começou a liberar nesta semana a primeira atualização de software para o Project Battlematrix, estação de trabalho voltada a aplicações de Inteligência Artificial anunciada em maio. O pacote, classificado pela companhia como “habilitação antecipada para clientes”, reforça a expectativa de que a máquina chegue ao mercado em breve.
LLM Scaler 1.0 é o destaque
O principal componente do update é a versão 1.0 do LLM Scaler, ferramenta responsável por escalonar o processamento de Grandes Modelos de Linguagem (LLMs). Nessa edição, a Intel implementou novas funções e aperfeiçoamentos que, segundo a empresa, podem entregar ganhos de desempenho de até 4,2 vezes.
Entre os recursos inéditos estão:
- Suporte à decodificação especulativa, que acelera respostas prevendo resultados de solicitações;
- Integração com o torch.compile, que otimiza a execução de códigos em PyTorch.
Já as otimizações englobam:
- Quantização online por camadas, reduzindo o uso de memória em LLMs;
- Compatibilidade com modelos de rerank e de embedding;
- Detecção automática do limite máximo de parâmetros;
- Função de paralelismo de dados.
Ferramentas de gerenciamento e roadmap
O LLM Scaler 1.0 também passa a oferecer ferramentas de benchmark para a biblioteca de comunicação OneCCL e inclui um gerenciador de XPU, capaz de atualizar firmware, monitorar consumo e largura de banda de memória das GPUs Arc Pro, além de executar diagnósticos.
A Intel informou que pretende disponibilizar uma versão aprimorada do LLM Scaler até o fim do terceiro trimestre e uma edição “completa” no quarto trimestre de 2024.
Imagem: tudocelular.com
Configuração e preço do Battlematrix
Concebido como alternativa de menor custo frente a soluções de AMD e NVIDIA, o Project Battlematrix pode ser configurado com processadores Xeon, até oito GPUs Arc Pro B60 e até 192 GB de VRAM. Os preços estimados ficam entre US$ 5 000 (aproximadamente R$ 27 000) e US$ 10 000 (cerca de R$ 55 000).
Com a liberação da atualização de “habilitação antecipada”, a empresa indica que unidades do Battlematrix já estão nas mãos de clientes selecionados para testes finais.
Com informações de TudoCelular
