華為大動作!AI新技術革命性突破「叫陣輝達」

分享:

華為21日發表了革命性的AI容器軟體Flex:ai,同步在魔擎社群開源。而輝達(Nvidia)早在2024年以7億美元收購的以色列 AI 基礎設施公司Run:ai,其核心產品正是具備類似功能的軟體平台。

華為21日發表AI容器軟體Flex:ai。(圖/新華社)
華為21日發表AI容器軟體Flex:ai。(圖/新華社)

與輝達不同的是,輝達只能綁定自家算力卡,華為Flex:ai透過軟體創新,可對輝達、昇騰以及其他第三方算力資源實現統一管理與高效利用,有效屏蔽不同算力之間的差異,為AI訓練與推理提供更高效的資源支持。

Flex:ai透過算力切分技術,將單張圖形處理器(GPU)或神經網路處理器(NPU)算力卡切分為多份虛擬算力單元來彈性調度使用,切分粒度精細至10%,並可讓算力資源平均利用率提升30%。

華為公司副總裁周躍峰表示,傳統容器技術的建構時間已無法完全滿足AI工作負載需求,AI時代需要真正的AI容器。其次是傳統容器主要針對CPU、內存等通用資源進行管理與調度,無法對GPU/NPU智慧調度,導致很小的AI任務也得獨佔整張算力卡。

最後是傳統容器以固定分配、通用調度為主,而AI工作負載需要以「任務完成效率」為目標,感知不同任務特性,實現動態彈性資源分配。周躍峰表示,Flex:ai將在發表後同步開源在魔擎社區中。Flex:ai將與華為此前開源的AI工具共同組成完整的ModelEngine開源生態。(CTWANT)

【延伸閱讀】
全台首張AI空污罰單屏東開出! 工廠排黑煙超標遭罰21萬
帳戶20年未用遭誤匯!媽媽反被告侵占 家屬喊冤:我們要為你的錯誤買單?
「借帳戶代收」變警示帳戶 頂大生收警察通知崩潰:快把自己未來毀掉

留言衝人氣 1則留言

登入留言有機會獲得旺幣哦!
NO MESSAGE 無任何留言,趕緊搶頭香!