Super Micro Computer, Inc. (SMCI)宣布使用NVIDIA HGX B200 8-GPU在多個MLPerf Inference v5.0基準測試中率先實現了業界領先的性能。在特定基準測試中,4U液冷和10U風冷系統實現了最佳性能。與H200 8-GPU系統相比,Supermicro在Llama2-70B和Llama3.1-405B基準測試中展示了每秒生成令牌數(Token/s)超過3倍的效果。(美通社)