国产成人精品a有声小说,在线观看亚洲网站,91最新地址永久入口,欧美精品国产第一区二区

            中國西藏網(wǎng) > 即時(shí)新聞 > 新聞

            大模型興起導致算力緊張?專(zhuān)家呼吁:國產(chǎn)AI芯片系統應練好“內功”

            發(fā)布時(shí)間:2023-12-21 14:44:00來(lái)源: 科技日報

              大模型興起導致算力緊張?專(zhuān)家呼吁——

              國產(chǎn)AI芯片系統應練好“內功”

              ◎本報記者 張佳星

              “大模型訓練需要大量數據,因此對算力的要求很高。”在日前召開(kāi)的首屆“AI Tech Day(人工智能科技日)”峰會(huì )上,中國工程院院士、清華大學(xué)計算機科學(xué)與技術(shù)系教授鄭緯民介紹,自去年12月份以來(lái),大模型需要的AI芯片漲價(jià)一倍,國外芯片“一卡難求”。盡管?chē)鴥葦凳夜驹贏(yíng)I芯片研制和生產(chǎn)方面取得了很大進(jìn)步,但國產(chǎn)芯片尚未受到市場(chǎng)的廣泛青睞。

              對此,與會(huì )專(zhuān)家呼吁,解決算力難題,應重塑大模型算力生態(tài),助力國產(chǎn)AI芯片系統練好“內功”。

              加強底層研發(fā),提升國產(chǎn)AI芯片“包容力”

              “如果基于國外芯片編寫(xiě)的軟件能夠很容易移植到我們的國產(chǎn)芯片系統上來(lái),用戶(hù)就會(huì )感覺(jué)到國產(chǎn)芯片好用。”鄭緯民認為,但由于生態(tài)建設不完備,目前國產(chǎn)芯片在大模型訓練相關(guān)軟件移植方面表現不太順暢,因此需要進(jìn)一步加強底層研發(fā),做好包括編程框架、并行加速、通信庫在內的軟件研發(fā)工作。

              “為了發(fā)展AI芯片的生態(tài)體系,一些國際大企業(yè)甚至可以放棄一些高利潤的項目和方案。”英博數科CEO周韡韡介紹,營(yíng)造生態(tài)需要發(fā)動(dòng)整個(gè)行業(yè)的創(chuàng )新力量,例如國際企業(yè)曾通過(guò)主動(dòng)開(kāi)源部分軟件的底層代碼、讓利給基于芯片的軟件開(kāi)發(fā)者,形成以AI芯片為核心的算力體系。

              相較于芯片本身的硬件性能提升,鄭緯民認為,通過(guò)營(yíng)造生態(tài),提升國產(chǎn)AI芯片的“包容力”更加急迫。“如果算力生態(tài)做得非常好,即使國產(chǎn)芯片的硬件性能只有國外性能的60%及以上,大家也會(huì )喜歡用。”鄭緯民說(shuō),但如果算力生態(tài)沒(méi)做好,新型軟件跑不起來(lái)、軟件移植不順暢,即便硬件性能達到國外的120%,照樣難以轉變?yōu)橛行懔Α?/p>

              為凝聚行業(yè)力量、改變當前的大模型算力生態(tài),英博數科聯(lián)合百川智能、中國計算機學(xué)會(huì )、清華大學(xué)等單位共同成立北京AI創(chuàng )新賦能中心技術(shù)委員會(huì )。作為該技術(shù)委員會(huì )的顧問(wèn),清華大學(xué)電子工程系教授汪玉表示:“在大模型領(lǐng)域,我們將同時(shí)從軟件側和硬件側方面開(kāi)展聯(lián)合優(yōu)化。在打造通用型人工智能服務(wù)平臺的同時(shí),推動(dòng)高性能計算領(lǐng)域智能芯片和高模態(tài)電路關(guān)鍵技術(shù)的研發(fā)。”

              共建基礎生態(tài),推動(dòng)現有算力融合創(chuàng )新

              “大模型興起之前建設的算力,相對而言利用率較低,跟不上現階段大模型對算力指數級發(fā)展的需求。”艾瑞咨詢(xún)產(chǎn)業(yè)數字化研究院負責人徐樊磊介紹,為提升整體算力效率和滿(mǎn)足差異化需求,應建立支撐大模型萬(wàn)億量級參數計算的“智算中心”。“智算中心”可利用現有高質(zhì)量數據中心,通過(guò)提升組網(wǎng)能力、協(xié)同能力、軟硬件適配能力等實(shí)現部署。當前,“萬(wàn)卡”級別的智算中心正在主要節點(diǎn)城市發(fā)展起來(lái)。

              與會(huì )專(zhuān)家認為,推動(dòng)現有算力融合創(chuàng )新將進(jìn)一步提升當前算力使用效率。“1萬(wàn)塊卡(AI芯片)應該怎么連?是不是每塊卡和其他9999塊直連?如果這樣,中間的連接將需要1萬(wàn)乘以9999個(gè)連接卡,成本將非常高。”鄭緯民說(shuō),通過(guò)最有效的連接支持模型并行、數據并行等不同的要求,是融合創(chuàng )新的關(guān)鍵。

              大模型背后運行的是更加復雜的網(wǎng)絡(luò )架構和智能算法。如何在降本增效的同時(shí),促進(jìn)大模型算力使用門(mén)檻的降低?“‘云’模式是打通供需不對稱(chēng)、達成算力普惠的有效路徑。”周韡韡表示,通過(guò)共享、共融集結現有算力,萬(wàn)卡平臺及配備高效網(wǎng)絡(luò )交互機制的大模型訓練與推理平臺,可以開(kāi)放給大企業(yè)、小微企業(yè)共用。通過(guò)搭載數據遷徙、訓練數據庫等工具,云平臺等基礎生態(tài)的搭建有望讓算力像水和電一樣隨取隨用。(科技日報)

            (責編:郭爽)

            版權聲明:凡注明“來(lái)源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來(lái)源中國西藏網(wǎng)和署著(zhù)作者名,否則將追究相關(guān)法律責任。