首頁  ?  新聞頻道  ?  國內新聞

大國工匠丨大國重器九天大模型是如何打造的?“AI工匠”帶你揭秘

2025-05-03 10:12:57

來源:央視新聞客戶端

  近兩年,人工智能大模型日益受到社會關注,AI+算力正在驅動千行百業的智能化轉型。

  有一位“AI工匠”王斌,他帶領團隊駕馭大規模國產智算集群,訓練出了一套全系統自主可控的九天大模型,打造面向未來的大國重器。

  中國移動研究院人工智能中心高級總監 王斌:這是北京市最典型的一個覆蓋居民區的基站,類似的基站中國移動已經開通了686萬臺,這些基站實際上每天會消耗大量的電力。

  信號基站引入九天人工智能大模型技術,對海量手機流量信號精確預測,給出每臺基站的智能節能方案,全國600多萬臺基站通過人工智能等多種技術實現全年節電2.5億度。

  王斌:我們的大模型的定位,不光是要能夠寫詩作畫,除了能夠識別傳統的文本類和圖片類知識,它還要能看得懂像這種雷達、紅外,這種射頻信號。

  搶抓人工智能發展的歷史機遇,2023年初,我國提出,根據通信、電力、交通物流、能源等領域的需求,使用國產軟硬件,打造人工智能大模型,形成自主可控的全新的產業生態。

  作為中國移動研究院AI技術專家,王斌有十多年芯片研發技術背景,之后又投入人工智能這一新賽道,是我國為數不多的既精通AI芯片又熟悉AI模型的技術人員。訓練九天大模型這一國之重器的任務就落在了王斌團隊肩上。

  王斌:這是我們的一個機房,智算的服務器就在這個機架里面。

  記者:有多少臺?

  王斌:整個樓里面一共有2304臺服務器,折算成AI加速卡的話,超過1.8萬張。

  這個全國規模最大的軟硬件都基于國產技術的智算集群就是九天大模型的最強大腦。

  王斌帶領團隊,收集了近500萬億字符的原始文本數據,幾乎涵蓋了人類有史以來全量的文本類知識,從中篩選出超10萬億字符的高質量訓練數據集。讓大模型記住這些知識不難,難的是怎么學會運用,這正是王斌必須邁過的第一道關卡。

  王斌:大模型的結構跟咱們人類的大腦結構是比較類似的,像人類大腦也有差不多1000億個神經元,可能不同的神經元是負責不同的任務。我們平時做數學題用到的神經元,跟做語文題用到的神經元可能是不一樣的。

  記者:所以這大模型也是這么分的?

  王斌:像一個千億的大模型,我們要拆成18000份,每一個芯片在訓練它所負責那部分的時候,都要高效地從這些數據中把知識萃取出來。

  大模型的18000張芯片要學會理解知識之間的邏輯關系,還要各有分工,彼此聯動,逐漸變得聰明起來,王斌帶領團隊給大模型設計學習知識的算法、控制學習進程、矯正大模型的價值觀。然而,他卻碰到了一個棘手的難題。

  王斌:在我們這個行業,有個說法叫得開發者得天下。像國際主流AI芯片,它的開發者人數有好幾百萬,它會有很多優化的手段,這種優化手段會帶來整個訓練效率的提升。咱們現在國內的AI芯片,它的開發者人數可能都不到10萬,可能里面還會有很多缺陷,只能說是一個坑一個坑去蹚,一個坎一個坎去邁。

  從系統設計到功能模塊開發,近150名工程師歷時一年半時間,寫出了超過120萬行的代碼,構建了一套完整的平臺軟件,瞄準國際先進行列,加速追趕。

  這個智算集群里的18000張芯片運行時,好像一個龐大的方陣,整齊劃一,共同推進,只要有一張卡出現問題,就會導致整個方陣混亂,訓練任務失敗。在訓練了兩個月的時候,這一巨大方陣就出現了嚴重故障。王斌帶領技術骨干扎入18000張卡的數字深海,一層層排查,直到智算集群最底部。

  中國移動研究院人工智能中心高級工程師 叢鵬宇:王斌原來積累的硬件知識,在做大模型訓練過程中,特別是排障過程中,其實發揮了很重要的作用。有很高的技術的前瞻性和技術的敏感性,能夠指導大家從更加廣泛的角度、更加有建設性的角度來解決問題。

  7天后終于找到了一張故障卡。然而,這7天的停滯卻導致整個訓練任務要從頭再來。

  王斌:這么大規模的資源,已經執行了這么長時間任務,整個效果要清零是多么大的一個打擊。為了解決這個問題,我們必須有一個即時檢測技術。

  半年多,王斌帶領團隊對上萬次大大小小的故障逐個分析,找到每一個故障的根本原因,歸類整理,做出了一份故障處置清單,打造了一套自動檢測軟件,把各類故障的排查恢復時間從幾天縮短到了十幾分鐘。

  在王斌團隊的努力下,國產AI芯片在萬卡規模上的訓練效率達到同代國際主流AI芯片水平,為后續國產芯片在其他領域更廣泛的應用打下了堅實基礎。

  目前九天大模型已經進入了通信、石油生產、農業種植、智能制造等很多領域,正在用智慧賦能新質生產力。2025年1月,九天大模型被評為央企大國重器。

  中國信息通信研究院人工智能研究所平臺與工程化部副主任 董昊:九天大模型不僅是我們自主技術的一種突破,同時也為我們國家大模型的應用落地提供了可復制可借鑒的成熟解決方案。

  王斌:國家給了我們這種期許,能夠用國產算力實現對國際主流算力的替代,我們九天大模型還在持續迭代升級,在AI賽道上任重道遠,我們有信心有決心來應對挑戰。

  • 相關閱讀
  • 截至2024年底全國共有共青團員7531.8萬名

      中新網北京5月3日電 (記者 余湛奕)記者5月3日從共青團中央獲悉,截至2024年12月底,全國共有共青團員7531.8萬名,共青團組織439.7萬個。  其中,團的地方委員會0.3萬個,基層團(工)委19.5萬個,團(總)支部419.9萬個。學校...

    時間:05-03
  • 中國駐舊金山總領館緊急提醒中國公民注意旅行安全

      中新網5月3日電 據“中國駐舊金山總領館”微信公眾號消息,日前領區發生旅行交通事故,涉及中國公民傷亡。中國駐舊金山總領事館提醒中國公民做好各項行前準備,穩妥擬定旅行方案,警惕各類安全風險,確保人身財產安全:  ...

    時間:05-03
  • 山不轉人轉

    口述人:楊亞林,1964年出生。2017年3月至2021年3月,任云南省昭通市委書記。現任云南省委常委、政法委書記,省人大常委會副主任、黨組成員。 常紹慧,女,1964年出生。曾任昭通市大關縣圖書館館長。2015...

    時間:05-03
  • 云南省政協原黨組成員、秘書長,辦公廳黨組書記車志敏接受審查調查

      中新網5月3日電 據云南省紀委監委消息:云南省政協原黨組成員、秘書長,辦公廳黨組書記車志敏涉嫌嚴重違紀違法,目前正接受云南省紀委監委紀律審查和監察調查。...

    時間:05-03
  • 臺青在江西:“讓更多臺灣同齡人看見真實的江西”

      中新網南昌5月3日電 (盧夢夢)夜幕降臨,燈火璀璨的江西南昌萬壽宮歷史文化街區內愈發熱鬧起來。熙熙攘攘的人群間,南昌大學臺生陳佳瑜正和朋友排隊買白糖糕。  “剛來南昌的時候吃過一次,軟糯香甜的口感和臺灣的‘...

    時間:05-03
  • 全國共有共青團員7531.8萬名

    人民網北京5月3日電 (肖聰聰)共青團中央3日發布的中國共青團團內統計主要數據顯示,截至2024年12月底,全國共有共青團員7531.8萬名,共青團組織439.7萬個。 其中,團的地方委員會0.3萬個,基層團(工)委19.5萬...

    時間:05-03
  • @大學應屆畢業生:基層就業還可享受這些“政策禮包”

      眼下正是高校畢業生找工作的關鍵期,除了市場性崗位信息,基層也是吸納高校畢業生就業的廣闊空間。從國家到地方都出臺了一系列優惠政策,鼓勵大學生到這些崗位上去建功立業。  目前,2025年大學生志愿服務西部計劃正在...

    時間:05-03
  • 分水有術 迅流無滯(文化中國行)

      圖為不同視角下的戴村壩。  泰安市水利局供圖">   圖為不同視角下的戴村壩。   泰安市水利局供圖   圖為不同視角下的戴村壩。  泰安市水利局供圖">   圖為不...

    時間:05-03
  • 從“黑粗重”到“綠精美”,本鋼靠什么(記者手記)

      行走在本鋼集團的廠區,機器在高大廠房里轟鳴作業,門外的綠植悄然萌發新芽,不遠處的細河兩岸,幾只水鳥正在嬉戲……略帶“反差感”的場景,改變了過去人們對鋼鐵企業“黑粗重”的印象,遞出了“綠精...

    時間:05-03
免責聲明:本網對文中陳述、觀點判斷保持中立,不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔全部責任。 本網站轉載圖片、文字之類版權申明,本網站無法鑒別所上傳圖片或文字的知識版權,如果侵犯,請及時通知我們,本網站將在第一時間及時刪除。
主站蜘蛛池模板: 永久看一二三四线| 韩国爱情电影妈妈的朋友| 婷婷五月在线视频| 久久久亚洲av波多野结衣| 欧美性大战xxxxx久久久| 光棍影院y11111| 老师你下面好湿好深视频| 国产成人亚洲综合| 337p中国人体啪啪| 天天躁日日躁狠狠躁av中文| 中文字幕国产剧情| 日本精品3d动漫一区二区| 亚洲va国产日韩欧美精品| 欧美精品黑人粗大| 亚洲视频在线一区二区三区| 精品国产v无码大片在线看| 国产三级精品三级在专区中文| 久久久久久久性| 国产精品永久免费| 99久久免费中文字幕精品| 婷婷人人爽人人做人人添| 中文字幕日本最新乱码视频| 日韩avwww| 久久综合给合久久狠狠狠97色| 欧美区在线播放| 亚洲欧美成人一区二区三区| 99久久综合狠狠综合久久一区| 成人羞羞视频网站| 久久久亚洲精品无码| 日韩精品亚洲人成在线观看| 亚洲伊人久久精品影院| 欧美激情视频一区二区| 产国语一级特黄aa大片| 真实国产乱视频国语| 十八岁的天空完整版在线观看| 老师办公室被吃奶好爽在线观看| 国产乱理伦片a级在线观看| 麻豆免费高清完整版视频| 国产成人综合美国十次| 五月婷婷中文字幕| 国产精品久久久久久亚洲小说|