2023年開放計算社區中國峰會(OCP China Day 2023)上發布了《開放加速規范AI服務器設計指南》,該指南旨在進一步發展和完善開放加速規范AI服務器的設計理論和設計方法,以助力社區成員高效地開發符合規范的AI加速卡,并縮短與AI服務器的適配周期此指南的發布將有望為業界提供更多關于生成式AI算力產業的巨大機遇。
2019年OCP成立了OAI小組,對適用于超大規模深度學習訓練的AI加速卡進行了定義,并發布了OAI-UBB1.0設計規范,為開放加速規范AI服務器的產業化實踐奠定了基礎。
《開放加速規范AI服務器設計指南》提出了四大設計原則:應用導向、多元開放、綠色高效、統籌設計。此外,該指南還倡導多維協同設計、全面系統測試和性能測評調優等設計方法。多維協同設計強調系統和芯片廠商在規劃初期的全面協同,以最大程度減少定制開發的內容,從而提高適配部署效率。
全面系統測試則強調對異構加速計算節點進行更全面、嚴格的測試,以降低系統故障風險。性能測評調優關注多層次的性能評測和軟硬件深度調優,以確保開放加速規范AI服務器能夠有效支持當前主流大模型的創新應用。(美通社頭條)