Servidor ASUS Anuncia um avanço de performance de IA com 26 recordes em MLPerf Inference v2.0!
A ASUS, a empresa líder de TI em sistemas de servidores, motherboars de servidores e estações de trabalho, lançou hoje os seus resultados pela primeira vez desde que se juntou à MLCommons Association em Dezembro passado – estabelecendo instantaneamente novos recordes de performance em dezenas de tarefas de benchmarking.
Especificamente, na última ronda do MLPerf Inference 2.0, os servidores da ASUS estabeleceram 26 recordes no data center Closed division através de seis tarefas de benchmark de AI, superando todos os outros servidores com as mesmas configurações de GPU.
Os resultados consistem em 12 recordes obtidos com um servidor ASUS ESC8000A-E11 configurado com oito GPUs Tensor Core NVIDIA® A100 de 80 GB; e 14 recordes com um servidor ASUS ESC4000A-E11 com quatro GPUs Tensor Core NVIDIA A30 de 24 GB.
Estes resultados inovadores demonstram claramente o domínio da performance dos servidores da ASUS na arena da IA – trazendo um valor significativo para as empresas que procuram implementar IA e garantindo uma performance óptima nos data centers.
A ASUS estabelece 26 registos na inferência da IA, e domina as tabelas de resultados em seis tarefas
O benchmark MLPerf Inference 2.0 cobre seis volumes de trabalho comuns de interferência de IA, incluindo classificação de imagens (ResNet50), deteção de objetos (SSD-ResNet34), segmentação de imagens médicas (3D-Unet), reconhecimento de voz (RNN-T), processamento de linguagem natural (BERT) e recomendação (DLRM).
O ESC8000A-E11 alcançou múltiplas posições de liderança para performance, incluindo:
| – Processou 298105 classificações de imagens por segundo na ResNet50 |
| – Completou o reconhecimento de objetos de 7462.06 imagens por segundo na SSD-ResNet34 |
| – Processou 24.3 imagens médicas por segundo em 3D-UNet |
| – Completou 26005.7 perguntas e respostas por segundo no BERT |
| – Completou 2363760 previsões de cliques por segundo em DLRM |
Tabela de Resultados do ESC8000A-E11
| Divisão | Tarefa | Modelo | Resultados | Precisão | Cenário | Unidades |
| DataCenter Fechado | Classificação da Imagem | ResNet50 | 210011 | 99,00 | Servidor | queries/s |
| 298.105 | Offline | samples/s | ||||
| Deteção de Objetos (largo) | SSD-ResNet34 | 7.096,10 | 99,00 | Servidor | queries/s | |
| 7.462,06 | Offline | samples/s | ||||
| Imagem Médica | 3D-UNet | 24,3 | 99,00 | Offline | samples/s | |
| 24,3 | 99,90 | Offline | samples/s | |||
| Conversação-para-texto | RNN-T | 94.996,9 | 99,00 | Servidor | queries/s | |
| 102.738 | Offline | samples/s | ||||
| Processamento de Linguagem Natural | BERT | 23.489,5 | 99,00 | Servidor | queries/s | |
| 26.005,7 | Offline | samples/s | ||||
| 11.491,3 | 99,90 | Servidor | queries/s | |||
| 13.168,2 | Offline | samples/s | ||||
| Recomendações | DLRM | 1.601.300 | 99,00 | Servidor | queries/s | |
| 2.363.760 | Offline | samples/s | ||||
| 1.601.300 | 99,90 | Servidor | queries/s | |||
| 2.363.760 | Offline | samples/s |
O ESC4000A-E11 alcançou múltiplas posições de liderança para performance, incluindo:
| – Processou 73814,5 classificações de imagens de por segundo na ResNet50 |
| – Completou o reconhecimento de objetos de 1957.18 imagens por segundo na SSD-ResNet34 |
| – Processou 6.83 imagens médicas por segundo em 3D-UNet – Completou 27299,2 conversões de reconhecimento de voz por segundo no RNNT |
| – Completou 6896.01 perguntas e respostas por segundo no BERT |
| – Completou 574371 previsões de cliques por segundo em DLRM |
Tabela de Resultados do ESC4000A-E11
| Divisão | Tarefa | Modelo | Resultados | Precisão | Cenário | Unidades |
| DataCenter Fechado | Classificação da Imagem | ResNet50 | 68192 | 99,00 | Servidor | queries/s |
| 73.814,5 | Offline | samples/s | ||||
| Deteção de Objetos (largo) | SSD-ResNet34 | 1.886,75 | 99,00 | Servidor | queries/s | |
| 1.957,18 | Offline | samples/s | ||||
| Imagem Médica | 3D-UNet | 6,83 | 99,00 | Offline | samples/s | |
| 6,83 | 99,90 | Offline | samples/s | |||
| Conversação-para-texto | RNN-T | 17.391,4 | 99,00 | Servidor | queries/s | |
| 27.299,2 | Offline | samples/s | ||||
| Processamento de Linguagem Natural | BERT | 6.367,97 | 99,00 | Servidor | queries/s | |
| 6.896,01 | Offline | samples/s | ||||
| 2.917,66 | 99,90 | Servidor | queries/s | |||
| 3.383,03 | Offline | samples/s | ||||
| Recomendações | DLRM | 560.158 | 99,00 | Servidor | queries/s | |
| 574.371 | Offline | samples/s | ||||
| 560.158 | 99,90 | Servidor | queries/s | |||
| 574.371 | Offline | samples/s |
Melhoria contínua da performance da IA com design otimizado do servidor
A dúzia de recordes MLPerf Inference 2.0 12 definidos pelo ESC8000A-E11 de 4U e certificado pela NVIDIA – configurado com oito GPUs NVIDIA A100 PCIe Tensor Core de 80 GB e dois CPUs AMD EPYC 7763 – demonstram a sua escalabilidade suprema para IA e Machine Learning.
O seu design térmico simplificado, com túneis para fluxo de ar independentes para o CPU e GPU, fornece uma solução de arrefecimento de alta eficiência aos Data Centers arrefecidos a ar.
O ESC4000A-E11, certificado pela NVIDIA, dispõe da dimensão de 2U mais compacta do mercado – e configurado com quatro GPUs NVIDIA A30 PCIe Tensor Core de 24 GB e dois CPUs AMD EPYC 7763 – bateu um total de 14 recordes MPLerf Inference 2.0.
Oferece uma vasta gama de aceleradores gráficos, e suporte para a interligação de alta velocidade do GPU NVIDIA NVLink, para libertar a performance máxima de IA.
Disponibilidade & Preços
Os Servidores da ASUS estão mundialmente disponíveis. Por favor contacta o teu representante local da ASUS para mais informações.
