近期,三星在Hot Chips 33會議上展示了其在內存內處理(PIM)技術方面的最新進展。Hot Chips 33會議作為半導體行業的重要會議,每年都會有備受矚目的微處理器和IC創新產品亮相。
三星發布的信息包括,三星首次成功將基于PIM的高帶寬存儲器(HBM-PIM)整合到商用化加速器系統中,并擴大PIM應用范圍至DRAM模組和移動內存,從而加速實現內存和邏輯的融合。
三星首次將HBM-PIM集成到AI加速器中
今年2月,三星推出了其首個HBM-PIM(Aquabolt-XL),將AI處理能力整合到三星HBM2 Aquabolt中,以增強超級計算機和AI應用的高速數據處理能力。隨后,HBM-PIM在賽靈思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中進行了測試,它提升了近2.5倍的系統性能,并降低超過60%的能耗。
由PIM驅動的DRAM模塊
加速DIMM(AXDIMM)能在DRAM模塊內進行“處理”,盡可能減少CPU和DRAM之間的大量數據交換,以提升AI加速器系統的能源效率。由于緩沖芯片內嵌有AI引擎,AXDIMM可對多個內存排列(DRAM芯片組)并行處理,而非每次僅訪問一組,從而大大提升了系統性能和效率。由于AXDIMM模塊能保留傳統DIMM的外形尺寸,因此它能在不修改系統的情況下直接替換。目前,AXDIMM正在客戶的服務器上進行測試,能夠在基于AI的推薦應用中,提供大約2倍的性能,并使整個系統的能耗減少40%。
移動存儲器將AI從數據中心帶到設備上
三星LPDDR5-PIM移動存儲器,可在不連接數據中心的情況下,提供獨立的AI功能。模擬測試表明,LPDDR5-PIM在用于語音識別、翻譯和聊天機器人等應用時,可提升1倍以上的性能,同時減少60%以上的能耗。
激發生態系統活力
三星計劃通過與其他行業領導者合作,在2022年上半年實現PIM平臺標準化,從而擴展AI內存產品組合。三星還將繼續努力,培養一個高度健全的PIM生態系統,以確保整個內存市場的廣泛適用性。(美通社,2021年8月24日韓國首爾)