logo

《科技》Arm發表次世代Zeus平台,強化邊緣AI運算

瀏覽數

99+

半導體矽智財大廠Arm(安謀)在美國聖荷西舉辦年度最大技術年會Arm TechCon,發表Arm Neoverse邊緣運算解決方案新一代Zeus(宙斯)平台,支援bfloat16功能,可為人工智慧(AI)運算帶來更佳的機器學習能力與運行時間。另外,Arm亦發表新一代Cortex CPU核心Matterhorn,能大幅提升機器學習效能。業界指出,新一代Arm架構晶片採用7奈米及更先進製程,晶圓代工龍頭台積電會是重要合作夥伴。

 包括AI、5G、IoT(物聯網)等第五波運算技術的匯集,持續帶動令人驚訝的變化,並驅動全新的資料消費模型。在僅考量IoT的情況,即使還在發展初期,已經看到它褪去全球微型感測器網路的原始面貌,進一步擴展並包含所有高效能的端點,例如從智慧影像感測器到自駕車輛。

 隨著IoT持續成長並帶動全球數位轉型,往上游雲端帶來巨大的資料海嘯,讓長期以來針對下游分配優化的網路基礎建設出現裂痕。它也驅動出一個迫切的需求,就是整個全球網際網路的架構,運算必須更為分散,因此對Arm Neoverse邊緣運算解決方案的需求也與日俱增。

 由於大型資料與專屬的運算相當集中的緣故,今日較為吃重的AI運算多數在雲端完成,特別是機器學習模型的訓練。但若把這些模型應用到真實世界中靠近決策點的推論時,以雲端為中心的AI模型就會捉襟見肘。資料傳輸數千英里來到資料中心進行模型比較時,可能會碰到不少延時的問題,因此沒有人能保證下決定時它是否仍然有用。當時間事關緊要時,把智慧由雲端分配到邊緣,就相當合理。

 Arm發表新一代Arm Neoverse的Zeus平台,並將bfloat16資料格式加入下一個版本的Armv8-A架構中。此一重要的強化將大幅提升基於Arm矽智財的CPU的訓練與推論效能,並將bfloat16的支援性加入Zeus平台來強化速度,預計明年就可推出,可為AI工作負荷帶來增強的機器學習能力與運行時間。

 此外,5G、AI、各種實境技術與IoT的加速發展正在改變運算需求。要達到數位沉浸所需要的效能,將超越今天所具有的一切,並朝Total Compute的世界邁進。這需要在設計矽智財時採用非常不同的方法,重點必須深度聚焦在效能、安全性與開發人員存取性的優化。Arm自從推出Cortex-A73後,便逐步且逐世代地提升機器學習效能,因此Arm將Matrix Multiple(MatMul)加入新一代Cortex CPU的Matterhorn中,與上一代CPU相比ML效能可有效提升一倍。(新聞來源:工商時報─涂志豪/台北報導)