技術(shù)
導(dǎo)讀:中國(guó)電信官方宣布,中國(guó)電信研究院、天翼云、北京電信成功完成業(yè)內(nèi)首個(gè) 1024 卡千億參數(shù)商用大模型分布式聯(lián)合訓(xùn)練真實(shí)用戶試商用。
1 月 23 日消息,中國(guó)電信官方宣布,中國(guó)電信研究院、天翼云、北京電信成功完成業(yè)內(nèi)首個(gè) 1024 卡千億參數(shù)商用大模型分布式聯(lián)合訓(xùn)練真實(shí)用戶試商用。
中國(guó)電信通過(guò)天津市武清區(qū)到北京市大興區(qū)瀛海鎮(zhèn)之間的真實(shí)光路環(huán)回,實(shí)現(xiàn)了 500 公里長(zhǎng)距互聯(lián)分布式訓(xùn)練,而且訓(xùn)練性能達(dá)到單數(shù)據(jù)中心的 97% 以上。
從官方獲悉,本次試商用基于北京現(xiàn)網(wǎng) 800G 廣域智聯(lián)無(wú)損網(wǎng)絡(luò)以及息壤一站式智算服務(wù)平臺(tái)開(kāi)展,在互聯(lián)距離、帶寬收斂比以及模型參數(shù)方面均產(chǎn)生突破,實(shí)現(xiàn)了多數(shù)據(jù)中心互聯(lián)及資源整合支持商用模型分布式聯(lián)合訓(xùn)練。