【ITBEAR科技資訊】9月21日消息,今日上午,鵬城實驗室主任、中國工程院院士高文在2023華為全聯接大會上宣布了一項重大突破,發布了名為“鵬城?腦?!?PengCheng Mind)的通用AI大模型。這一創新的技術成果標志著中國在人工智能領域的不斷發展和領先地位。
根據高文主任的介紹,這個“鵬城?腦?!蓖ㄓ肁I大模型擁有2000億參數,采用了稠密型架構,并借助國產化AI算力平臺“鵬城云腦 II”進行全程預訓練。值得一提的是,該模型使用了國產深度學習框架MindSpore,同時在大規模并行訓練策略、底層算子性能和容錯機制方面進行了全面的優化,從而顯著提高了國產算力平臺的訓練效率。此外,模型還構建了一個包含中文、英文以及“一帶一路”沿線50多個國家和地區語種的多樣化語料數據集和數據質量評估工具集。
據ITBEAR科技資訊了解,這次發布的“鵬城?腦?!被A版以中文為核心,計劃在OpenI啟智社區向全社會開源,為更廣泛的合作和應用提供了可能。
高文主任強調,鵬城實驗室正在積極研發“中國算力網”(China Computing Network,C2Net)全國一體化算力協同計算調度平臺,該平臺以深圳為總調度中心,已經匯聚了全國協同算力資源,規模達到了3E。未來,“鵬城?腦?!贝竽P蛯⑴c“中國算力網”協同合作,實現“算力網算力調度 + 模型賦能”的方式,共同推動國產化AI大模型的不斷演進和廣泛應用,最終打造一個基于“中國算力網”的各領域AI大模型及應用生態的數字化基礎。
與此同時,鵬城實驗室將主導成立“鵬城?腦?!遍_源聯合體,與企業、高校和科研院所廣泛合作,通過全新的開源群智合作模式,提供涵蓋壓縮、部署、微調和價值對齊等環節的模型工具,并強化大模型的開源管理與資源共享。這一舉措將促進科研成果的更廣泛傳播和應用,加速中國在人工智能領域的發展步伐。