12 月 19—20 日，由鵬城實驗室和新一代人工智能產業技術創新戰略聯盟主辦的“2021 新一代人工智能院士高峰論壇暨啟智開發者大會”在深圳舉辦，期間，華為技術有限公司承辦的新一代人工智能院士高峰論壇昇騰人工智能應用專場于 20 日成功舉行。

深耕基礎，厚植技術。近年來，華為昇騰以“硬件開放、軟件開源、使能伙伴、發展人才”16 字方針不斷發展產業，攜手各行各業的開發者們進行賦能升級，助推人工智能的應用落地。本次昇騰人工智能應用專場，華為更是邀請了多位昇騰技術專家，從一線的 AI 應用挑戰出發，與開發者們研討交流，共創機遇。

與開發者共成長，共筑 AI 技術生態

會上，華為昇騰生態首席專家張存燕以行業的人才培養為切入點，向大家分享了昇騰面向開發者們的 offering 發展戰略，以及面向行業、高校、初創、個人不同類型開發者的權益和計劃。張存燕介紹到，華為深耕根技術，一直致力于打破算力消耗的鴻溝。在昇騰基礎軟硬件平臺上，昇騰一共打造了技術和商業兩個生態。技術生態為科研機構、高校、企業、合作伙伴的研發人員提供技術支撐，加速科研創新;商業生態則注重與合作伙伴一起打造面向各行各業的解決方案，真正讓 AI 走入到千行百業，賦能各個產業的智能化改造和智能化升級。

在這兩個生態的帶動下，昇騰希望打造一個人工智能的“黑土地”，合力為每位 AI 開發者及每個行業的應用開發者提供強大引擎，共同繁榮國內人工智能產業新生態。

構筑澎湃 AI 算力，CANN5.0 性能再提升

在洶涌的 AI 時代浪潮中，人工智能技術領域無疑面臨著重重困難和挑戰。AI 算力設施昂貴、專業人才稀缺，整個行業對計算效率和編程易用性的訴求愈發強烈。昇騰 CANN 運營總監田曉亮便從新計算范式出現、異構計算興起和大集群等行業新挑戰引導發問，介紹了 CANN 的基礎架構及其適配場景。自 2018 年 CANN1.0 發布面世，經過三年發展，CANN 在技術和生態上都已經有了長足的進步。在性能方面，CANN5.0 通過軟硬件結合優化，充分發揮了昇騰芯片的算力性能。這主要源自于多項關鍵技術的突破，如自動流水、算子深度融合、自適應梯度切分、智能計算調優帶來的更高效的任務角度和切分策略。

在發展過程中，CANN 還非常注重生態發展，通過社區運作，CANN 不斷創新優化，迭代出了新的產業、新的軟件。回應開發者訴求、助力解決行業困境，CANN 未來將持續在基礎和關鍵技術上進行突破，“只有基礎打得牢、根扎得深，才會有人工智能的繁榮發展”，田曉亮這樣強調。

全場景 AI 計算框架，MindSpore 超大模型訓練落地實踐

近段時間，中文大規模預訓練語言模型層出不窮，已經成長到僅加載就需要 TB 級內存或顯存的生態。昇思 MindSpore 架構師 ZOMI 醬就針對 MindSpore 超大模型訓練的一些關鍵技術，進行了一些稍為“硬核”的內容分享。MindSpore 在 2020 年 3 月份開始開源，到現在的 1.5 版本，總下載量已經接近 100 萬。快速部署、靈活調試，現在的 MindSpore 已經能夠支撐像鵬城盤古 NLP、鵬城神農氨基酸序列生成、華為云 NLP 模型、紫東太初多模態模型這樣的千億大模型。對于大模型面臨的“內存、性能、效率、調優”挑戰，MindSpore 則分別對應給出了圖算融合、Scale out、集群調優等解決方案。

講起核心技術，ZOMI 醬表示，除了通過圖的編譯把多維度并行融合到框架，“多維度混合自動并行”是 MindSpore 做得比較好的地方。現今，MindSpore 自動并行已經實現 5 維的并行方式，實現對超大規模的分布式訓練及超大規模中文預訓練模型的探索。

MxIndex: 更快、更便捷、更友好的數據檢索 SDK

將物理世界中的非結構化數據，如圖片、視頻、音頻通過 AI 模型轉換為特征，是眾多 AI 業務的核心邏輯。昇騰 MindX 技術專家李明舉在給大家介紹數據檢索的 SDK 時，就用簡單的語言闡釋了普通開發者如何用 AI 來解決生活中的問題。讓 AI 從學術成果到產業落地，昇騰 MindX 總結了三座問題大山——算法開發難、應用開發難和業務部署難，而 MindX 的四個組件“ MindX DL”“ MindX Edge”“MindX Zoo”和“MindX SDK”則對應這三座大山給出了解決方案。

“大數據”“區塊鏈”“元宇宙”，各行各業的概念正潛移默化地改變著我們的生活，昇騰 MindX SDK mxIndex 更是將目光聚焦在了非結構化數據上。李明舉提到，非結構化數據有著非常多潛在的發展空間，在推薦系統、數據挖掘等領域都有良好的發展前景。但同時，機遇與挑戰并存，算法問題常常會演化成更大的工程問題，如何在如此多的技術之下去搭建業務，mxIndex 在這里給出了答卷。“更快”——帶來更高的 QPS，更大的吞吐量和更大的底庫數據規模；“更便捷”——昇騰擁有開源中最受歡迎的框架之一，而 mxIndex 在用戶遷移上更是兼具了輕體量與便捷性兩項優點；“更友好”——清晰操作、在線交流，在用戶體驗上，mxIndex 擁有簡明的接口定義，豐富詳實的手冊和活躍的社區支持。對于大規模特征檢索或聚類的應用場景需求，mxIndex 能夠提供極簡易用、高性能的 API，助力昇騰 AI 處理器賦能各類應用。

Sedna，分布式協同 AI 框架

邊緣 AI 在如今的工業互聯網、智慧園區等場景已有著越來越多的應用，但同時還存在著諸多挑戰，包括軟硬件異構、邊緣資源受損、邊緣數據異構、邊緣小樣本和隱私安全等常見問題。會上，華為云邊緣云創新 Lab 高級工程師普杰從應用的角度，向開發者們介紹了華為云在邊緣計算尤其是邊云協同 AI 領域的相關探索。

2018 年，華為云開源了邊緣計算平臺項目 KubeEdge。作為業界首個云原生的邊緣計算平臺，KubeEdge 通過開放的社區治理連接云原生和邊緣計算生態，旨在提供應用協同、資源協同以及數據協同和設備協同的統一標準。

在邊緣計算場景中，AI 應用需要面對個性化的邊緣場景，資源碎片化、數據異構、小樣本、數據隱私等問題急需解決。2020 年底，KubeEdge 社區成立了特別興趣小組 SIG AI，聚焦邊緣 AI 相關的技術討論、API 定義、參考架構、開源實現等，使能 AI 應用在邊緣更好的運行。

2021 年初，華為云進一步開源了邊云協同 AI 框架 Sedna，基于 KubeEdge，實現邊與云的協同推理、增量學習、終身學習、聯邦學習等核心邊緣 AI 能力，能有效提升模型準確度，降低邊緣資源的消耗，保護數據隱私和安全。

普杰提到，Sedna 不是想做一個 TensorFlow 這樣的框架，而是基于 KubeEdge 提供的邊云協同的能力，支持現有的 AI 應用無縫地下沉到邊緣，降低邊云協同 AI 應用的構建和部署成本、提升模型的性能并保護數據隱私。

現場實操，在線體驗昇騰全棧 AI 魔力

當天下午，昇騰人工智能應用專場進行了豐富有趣的案例分享和在線實驗。現場由昇騰 CANN 資深技術專家毛紅朝、昇騰 MindX 研發專家陳航、昇思 MindSpore 資深技術專家 xavier 和昇騰 CANN 資深技術專家鄭佳帶領，為開發者們帶來了“基于昇騰 CANN 的 AI 應用開發”、“使用 MindX SDK 開發智能質檢應用”、“昇思 MindSpore YOLO 案例開發到部署介紹”和“基于昇騰 CANN 的模型遷移”四場實操課程。

共筑 AI 新高地，共贏智能新未來。伴隨著驚喜有趣的現場抽獎環節，開發者們于實踐中全方位感受華為面向“端、邊、云”的全場景 AI 基礎設施方案，在線體驗來自昇騰的全棧 AI 魔力。