
2023年9月21日上午,鵬城實驗室主任、中國工程院院士高文在2023華為全聯接大會上正式發布了“鵬城·腦海”(PengCheng Mind)通用AI大模型,以國產化基座大模型為新一代AI大模型發展構筑新基點。
高文主任介紹,“鵬城·腦海”通用AI大模型以稠密型架構實現2000億參數,依托“鵬城云腦II”國產化AI算力平臺進行全程預訓練,采用了MindSpore昇思國產化深度學習框架,完善了大規模并行訓練策略、底層算子性能和容錯機制,顯著提升了國產算力平臺的訓練效率,并構建了一套涵蓋中文、英文及50余個“一帶一路”沿線國家及地區語種的多樣化語料數據集和數據質量評估工具集。本次發布的是以中文為核心的“鵬城·腦海”基礎版,將在OpenI啟智社區向全社會開源。
面向新一輪人工智能變革浪潮,在廣東省和深圳市的統一部署下,在國家外文局、華為、騰訊等戰略合作伙伴的聯合支持下,鵬城實驗室貫穿國產算力+自主大模型創新鏈,聚焦AI核心器件、算力設施、模型算法、訓練系統等關鍵環節,持續推進“鵬城·腦海”大模型核心技術攻關。
高文主任強調,鵬城實驗室正同步研制“中國算力網”(China Computing Network,C²Net)全國一體化算力協同計算調度平臺,以深圳為總調度中心,已匯聚全國協同算力達3E規模。“鵬城·腦海”大模型將進一步依托“中國算力網”接入的協同算力,以“算力網算力調度+模型賦能”相結合的方式,攜手國家新一代AI公共算力平臺,共同推動國產化AI大模型的持續演進與部署應用,最終打造一個基于“中國算力網”的各類領域AI大模型及應用生態的數字化基座。與此同時,實驗室將牽頭成立“鵬城·腦海”開源聯合體,廣泛聯合企業、高校和科研院所,通過這一全新的開源群智合作模式,“一攬子”提供覆蓋壓縮、部署、微調與價值對齊等環節的模型工具,并加強大模型的開源管理與資源共享,加速為千行百業插上人工智能的“翅膀”。
”今天的發布是國產AI大模型全新的起點。我們將陸續發布“鵬城·腦海”大模型進階版、專業版等各個階段的版本,持續滿足我國不斷增長的數字化轉型需求,助力中國人工智能產業的快速崛起,并為全球人工智能變革提供一個來自東方古國的選擇。“
“鵬城·腦海”大模型推廣計劃
“鵬城·腦海”大模型愿景
“鵬城·腦海”大模型(基礎版)開源鏈接:https://openi.pcl.ac.cn/extension/mind
掃碼了解腦海大模型更多信息