哈哈哈哈哈操欧洲电影,久草网在线,亚洲久久熟女熟妇视频,麻豆精品色,久久福利在线视频,日韩中文字幕的,淫乱毛视频一区,亚洲成人一二三,中文人妻日韩精品电影

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

搭建萬卡GPU集群,小米AI大模型即將全力啟動(dòng)

Simon觀察 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃山明 ? 2024-12-29 00:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃山明)近日,有媒體報(bào)道,小米正在著手搭建自家的GPU萬卡集群,將對(duì)AI大模型加大投入。該計(jì)劃已進(jìn)行數(shù)月,據(jù)悉小米大模型團(tuán)隊(duì)在成立之初便已擁有6500張GPU資源,小米創(chuàng)始人兼董事長(zhǎng)雷軍在該團(tuán)隊(duì)扮演重要的領(lǐng)導(dǎo)角色。

高性能計(jì)算是大模型發(fā)展的基礎(chǔ),而GPU在其中扮演重要作用。隨著AI在如今社會(huì)中發(fā)揮著越來越重要的作用,應(yīng)用領(lǐng)域不斷擴(kuò)展,需要的計(jì)算資源也越來越多,因此對(duì)于GPU的需求也在不斷上升。

小米搭建萬卡GPU集群,加大AI大模型投入

如今我們生活中已經(jīng)有不少領(lǐng)域開始充斥著AI的身影,包括AI配音、AI影像、AI圖片、AI導(dǎo)航,以及不少人正在使用的免費(fèi)AI大模型等。但相比ChatGPT、豆包、Kimi、通義千問等知名度不小的大模型,小米的MiLM顯得相對(duì)低調(diào)。

這是一款在今年5月份才正式通過大模型備案的小米大預(yù)言模型,小米宣布將把相關(guān)模型逐步應(yīng)用于小米汽車、手機(jī)、智能家居等產(chǎn)品中,后續(xù)“將面向更多用戶開放體驗(yàn)”。

而到了近期,市場(chǎng)更是傳出小米準(zhǔn)備搭建GPU萬卡集群,決心加大對(duì)AI的投入。但搭建GPU的萬卡集群并不容易,一方面在于昂貴的成本。訓(xùn)練AI大模型通常需要使用高性能的GPU芯片,如英偉達(dá)的A100、H100等。

這些高端芯片的單價(jià)本身就非常高,A100芯片價(jià)格約9萬元一張,H100閹割后的HGX H20渠道價(jià)格約11萬一張,而萬卡集群需要至少一萬張以上的GPU卡,僅芯片采購(gòu)成本就可能達(dá)到數(shù)十億元。

并且除了GPU芯片本身,構(gòu)建萬卡集群還需要大量的配套硬件設(shè)備,如服務(wù)器、存儲(chǔ)設(shè)備、網(wǎng)絡(luò)設(shè)備等。這些設(shè)備的采購(gòu)和安裝成本也相當(dāng)恐怖,進(jìn)一步增加了總體投入。

而之所以需要GPU萬卡集群,是因?yàn)锳I大模型通常包含數(shù)十億乃至數(shù)萬億的參數(shù),例如GPT-3就有1750億個(gè)參數(shù),訓(xùn)練和推理過程中需要進(jìn)行海量的矩陣運(yùn)算和復(fù)雜的數(shù)學(xué)計(jì)算。如此大規(guī)模的計(jì)算任務(wù),單張GPU的計(jì)算能力遠(yuǎn)遠(yuǎn)無法滿足,需要借助GPU萬卡集群并行計(jì)算來加速。

當(dāng)然,這些技術(shù)的出現(xiàn),其實(shí)并非突然,而是早有布局。小米早在2016年便開始組建第一只視覺AI團(tuán)隊(duì),逐步建立了視覺、語(yǔ)音、聲學(xué)、知識(shí)圖譜、NLP、機(jī)器學(xué)習(xí)、多模態(tài)等AI技術(shù)能力。

到2017年,小米正式發(fā)布了智能語(yǔ)音助手“小愛同學(xué)”。盡管當(dāng)時(shí)的AI技術(shù)和現(xiàn)在相比可能顯得較為基礎(chǔ),但小愛同學(xué)已經(jīng)運(yùn)用了語(yǔ)音識(shí)別、NLP、機(jī)器學(xué)習(xí)等核心技術(shù)來實(shí)現(xiàn)人機(jī)交互。

去年4月份,小米成立AI實(shí)驗(yàn)室大模型團(tuán)隊(duì),初始團(tuán)隊(duì)便擁有6500張GPU資源。并認(rèn)為欒劍擔(dān)任該團(tuán)隊(duì)的負(fù)責(zé)人,欒劍此前曾任東芝(中國(guó))研究院研究員、微軟(中國(guó))工程院高級(jí)語(yǔ)音科學(xué)家、微軟小冰首席語(yǔ)音科學(xué)家及語(yǔ)音團(tuán)隊(duì)負(fù)責(zé)人等職位。

并且在近期,有消息稱DeepSeek開源大模型DeepSeek-V2的關(guān)鍵開發(fā)者之一羅福莉?qū)⒓尤胄∶?,有望進(jìn)一步加強(qiáng)小米AI大模型團(tuán)隊(duì)實(shí)力。

端側(cè)擁抱AI已成共識(shí),小米具備重大優(yōu)勢(shì)

國(guó)內(nèi)目前已經(jīng)有多家企業(yè)開展了萬卡集群的建設(shè),例如華為昇騰、科大訊飛、中國(guó)電信、中國(guó)移動(dòng)等,其中中國(guó)電信在上海、北京兩個(gè)萬卡集群已經(jīng)投產(chǎn),而中國(guó)移動(dòng)位于呼和浩特、哈爾濱兩大萬卡級(jí)別的智算中心也已經(jīng)先后投產(chǎn)運(yùn)行。

更別說百度等公司已經(jīng)在探討構(gòu)建十萬卡集群,有業(yè)內(nèi)人士認(rèn)為,市場(chǎng)中很快便會(huì)有更多的十萬卡集群出現(xiàn)。

另一方面,海外則更加激進(jìn)。例如由馬斯克旗下xAI公司打造的xAI Colossus 超級(jí)AI集群,擁有10萬個(gè)英偉達(dá)H100 GPU。其第一階段建設(shè)已完成并全面上線,未來計(jì)劃增加5萬張H100 GPU和5萬張下一代H200 GPU,屆時(shí)GPU總數(shù)將翻倍。

OpenAI正在設(shè)計(jì)能夠?qū)?000萬塊GPU連在一起的計(jì)算模型,Meta CEO扎克伯格曾在年初宣布,計(jì)劃購(gòu)買35萬塊英偉達(dá)H100 GPU,將Meta的算力擴(kuò)展到相當(dāng)于60萬塊英偉達(dá)H100 GPU的水平。

與此同時(shí),越來越多的企業(yè)開始更為注重AI,包括理想汽車創(chuàng)始人李想此前公開表示,理想汽車不僅是一家汽車制造企業(yè),更是一家AI企業(yè)。

加上如今的AI手機(jī)、AI手表、AIPC甚至智能汽車等,這些端側(cè)產(chǎn)品均在積極擁抱AI,AI的加入也為這些產(chǎn)品帶來了更多的差異化與個(gè)性化,甚至有望成為未來產(chǎn)品體驗(yàn)差異的分水嶺。

而相比其他企業(yè),小米擁有一項(xiàng)重大的優(yōu)勢(shì),其AI大模型可以與自身的“人車家”戰(zhàn)略完美契合,甚至可以說AI大模型的加入,讓小米“人車家”全生態(tài)完成了最后一項(xiàng)閉環(huán)。

從手機(jī)到智能家居,再到新能源汽車,小米均有涉獵,并且大多已經(jīng)成為行業(yè)中的主要參與者,例如小米為全球第三大手機(jī)廠商,米家更是全球最大的智能家居平臺(tái),其中小愛音箱以超過40%的市場(chǎng)份額穩(wěn)居中國(guó)智能音箱榜首。

小米汽車更是后來居上,不僅屢屢出圈,自今年3月份發(fā)布以來,有望在今年內(nèi)實(shí)現(xiàn)超過13萬輛的交付成績(jī),為小米集團(tuán)貢獻(xiàn)近百億元的營(yíng)收。同時(shí)小米汽車更是小米集團(tuán)獨(dú)資控股,保證了小米汽車能夠貫徹未來小米集團(tuán)的發(fā)展方向。

另一方面,雷軍不僅是小米的創(chuàng)始人,如今依然是金山軟件的董事長(zhǎng),意味著未來小米AI大模型有望在WPS等辦公軟件中布局。

從硬件端的互聯(lián)網(wǎng)入口,到辦公軟件、游戲等領(lǐng)域,都已經(jīng)為小米的MiLM大模型預(yù)留足夠的發(fā)展空間,這是許多AI大模型企業(yè)沒有的巨大優(yōu)勢(shì)。不僅保障了未來小米AI大模型的迭代升級(jí),同時(shí)也解決了其數(shù)據(jù)歸屬問題,進(jìn)一步加速AI大模型的升級(jí)。

總結(jié)

從小米過往布局新賽道的步伐來看,通常是確定了某個(gè)賽道已經(jīng)得到市場(chǎng)驗(yàn)證,并相對(duì)成熟再?zèng)Q定進(jìn)入。進(jìn)入賽道后,再利用小米集團(tuán)的自身優(yōu)勢(shì),迅速做大做強(qiáng)。如今小米采用萬卡集群,加大投入到AI大模型領(lǐng)域,意味著不久后便有望看到該模型的普及。也期待未來市場(chǎng)中小米AI大模型的表現(xiàn)。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5271

    瀏覽量

    136069
  • 小米
    +關(guān)注

    關(guān)注

    70

    文章

    14547

    瀏覽量

    152597
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    407

    瀏覽量

    1038
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Java并發(fā)編程的“基石”——多線程概念初識(shí)

    之下,隱藏著一個(gè)龐大而復(fù)雜的“算力帝國(guó)”。如何將成千上GPU 的算力精準(zhǔn)、高效地分配給無數(shù)個(gè)并發(fā)的 AI 任務(wù)?這便是 AI 算力調(diào)度的核心使命。在這個(gè)看似屬于 Python 和
    發(fā)表于 04-16 18:50

    中科曙光6AI4S計(jì)算集群:用 "超智融合" 重塑科學(xué)計(jì)算敘事

    電子發(fā)燒友網(wǎng)報(bào)道(文 / 吳子鵬)4 月 14 日,國(guó)內(nèi)最大規(guī)模的 AI for Science(AI4S)計(jì)算集群在鄭州國(guó)家超算互聯(lián)網(wǎng)核心節(jié)點(diǎn)投入使用。這個(gè)由中科曙光打造、集成 6
    發(fā)表于 04-16 15:59 ?5139次閱讀

    中國(guó)電信與阿里云共建粵港澳大灣區(qū)首個(gè)真武智算集群上線

    近日,由中國(guó)電信聯(lián)合阿里云建設(shè)的粵港澳大灣區(qū)首個(gè)真武智算集群在韶關(guān)數(shù)據(jù)中心正式上線。
    的頭像 發(fā)表于 04-15 10:47 ?406次閱讀

    國(guó)內(nèi)最大規(guī)模6AI4S計(jì)算集群投入使用

    4月14日,中科曙光提供的6科學(xué)智能(AI for Science)計(jì)算集群系統(tǒng),在位于鄭州的國(guó)家超算互聯(lián)網(wǎng)核心節(jié)點(diǎn)投入使用。作為國(guó)內(nèi)最大的AI
    的頭像 發(fā)表于 04-14 16:19 ?1545次閱讀
    國(guó)內(nèi)最大規(guī)模6<b class='flag-5'>萬</b><b class='flag-5'>卡</b><b class='flag-5'>AI</b>4S計(jì)算<b class='flag-5'>集群</b>投入使用

    國(guó)內(nèi)首個(gè)國(guó)產(chǎn)AI推理千集群落地,采用云天勵(lì)飛全自研AI推理芯片

    3 月 12 日,云天勵(lì)飛中標(biāo)湛江市AI滲透支撐新質(zhì)生產(chǎn)力基礎(chǔ)設(shè)施建設(shè)項(xiàng)目,中標(biāo)金額4.2億元。項(xiàng)目將基于云天勵(lì)飛自研的國(guó)產(chǎn)AI推理加速,建設(shè)國(guó)產(chǎn)AI推理千
    發(fā)表于 03-12 11:10 ?1320次閱讀

    中科曙光scaleX集群專項(xiàng)測(cè)試任務(wù)已突破300項(xiàng)

    國(guó)家超算互聯(lián)網(wǎng)核心節(jié)點(diǎn)上線試運(yùn)行并啟動(dòng)邀測(cè)計(jì)劃以來,一場(chǎng)依托國(guó)產(chǎn)“AI算力的創(chuàng)新驗(yàn)證正全面推進(jìn)。短短一個(gè)月,已吸引高校、科研院所、企業(yè)等多領(lǐng)域超3000位用戶踴躍參與測(cè)試。
    的頭像 發(fā)表于 03-06 16:16 ?930次閱讀

    中科曙光3套scaleX集群落地國(guó)家超算互聯(lián)網(wǎng)鄭州核心節(jié)點(diǎn)

    2月5日,由中科曙光提供的3套集群系統(tǒng)在國(guó)家超算互聯(lián)網(wǎng)鄭州核心節(jié)點(diǎn)同時(shí)上線試運(yùn)行,成為全國(guó)首個(gè)實(shí)現(xiàn)3部署、且實(shí)際投入運(yùn)營(yíng)的最大國(guó)產(chǎn)
    的頭像 發(fā)表于 02-09 10:32 ?715次閱讀

    中科曙光scaleX集群重塑超大規(guī)模算力基礎(chǔ)設(shè)施

    在“人工智能+”行動(dòng)深入推進(jìn)的當(dāng)下,算力基礎(chǔ)設(shè)施已成為國(guó)家戰(zhàn)略競(jìng)爭(zhēng)力的核心,而超大規(guī)模集群的運(yùn)維管控難題卻日益凸顯。中科曙光scaleX集群打造的智能管理體系,正以“能管住-管得
    的頭像 發(fā)表于 01-30 15:43 ?969次閱讀

    中科曙光scaleX集群背后的持續(xù)創(chuàng)新

    智算集群的發(fā)展浪潮正以超乎想象的速度襲來,未來五年,十萬級(jí)的算力集群將成為標(biāo)配。但一個(gè)核心挑戰(zhàn)也隨之而來:當(dāng)成千上的芯片緊密堆疊,如何將產(chǎn)生的巨額熱量快速帶走?
    的頭像 發(fā)表于 01-19 14:49 ?791次閱讀

    部分能力超越2027年NVL576,中科曙光發(fā)布scaleX集群

    2025年12月18日,在昆山舉行的光合組織2025人工智能創(chuàng)新大會(huì)(HAIC2025)上,中科曙光發(fā)布并展出了全球領(lǐng)先的大規(guī)模智能計(jì)算系統(tǒng)——scaleX集群,這也是國(guó)產(chǎn)
    發(fā)表于 12-18 18:30 ?1177次閱讀
    部分能力超越2027年NVL576,中科曙光發(fā)布scaleX<b class='flag-5'>萬</b><b class='flag-5'>卡</b>超<b class='flag-5'>集群</b>

    AI模型的配置AI模型該怎么做?

    STM32可以跑AI,這個(gè)AI模型怎么搞,知識(shí)盲區(qū)
    發(fā)表于 10-14 07:14

    睿海光電以高效交付與廣泛兼容助力AI數(shù)據(jù)中心800G光模塊升級(jí)

    引領(lǐng)AI時(shí)代網(wǎng)絡(luò)變革:睿海光電的核心競(jìng)爭(zhēng)力 在AI時(shí)代,數(shù)據(jù)中心正經(jīng)歷從傳統(tǒng)架構(gòu)向AI工廠與AI云的轉(zhuǎn)型。AI工廠依賴超大規(guī)模
    發(fā)表于 08-13 19:01

    燧原科技國(guó)產(chǎn)集群通過中國(guó)信通院權(quán)威認(rèn)證

    近日,中國(guó)信息通信研究院(以下簡(jiǎn)稱“中國(guó)信通院”)成功召開智算集群服務(wù)推進(jìn)方陣年中總交流會(huì)。會(huì)議期間,中國(guó)信通院重磅發(fā)布了首批《大規(guī)模智算集群服務(wù)成熟度》評(píng)估結(jié)果。燧原科技作為算力
    的頭像 發(fā)表于 07-04 16:50 ?1348次閱讀

    弘信電子旗下燧弘華創(chuàng)加入智算集群服務(wù)推進(jìn)方陣

    近日,中國(guó)信息通信研究院在北京召開智算集群服務(wù)推進(jìn)方陣(ICCPA)年中總結(jié)交流會(huì)。會(huì)上為第二批成員單位辦法證書,發(fā)布一系列產(chǎn)業(yè)研究成果,并通過深度交流研討,凝聚產(chǎn)業(yè)共識(shí),規(guī)范產(chǎn)品建設(shè)體系,
    的頭像 發(fā)表于 07-03 15:43 ?1006次閱讀

    智算加速是什么東西?它真能在AI戰(zhàn)場(chǎng)上干掉GPU和TPU!

    隨著AI技術(shù)火得一塌糊涂,大家都在談"大模型"、"AI加速"、"智能計(jì)算",可真到了落地環(huán)節(jié),算力才是硬通貨。你有沒有發(fā)現(xiàn),現(xiàn)在越來越多的AI企業(yè)不光用
    的頭像 發(fā)表于 06-05 13:39 ?1893次閱讀
    智算加速<b class='flag-5'>卡</b>是什么東西?它真能在<b class='flag-5'>AI</b>戰(zhàn)場(chǎng)上干掉<b class='flag-5'>GPU</b>和TPU!
    苍溪县| 双流县| 庄河市| 大邑县| 元谋县| 铜川市| 龙门县| 永新县| 淮南市| 永和县| 同仁县| 周口市| 尤溪县| 万全县| 隆子县| 宜都市| 太仆寺旗| 唐海县| 宽甸| 綦江县| 永嘉县| 伊宁市| 新泰市| 金坛市| 石屏县| 金门县| 台北市| 平邑县| 黄龙县| 北安市| 宁明县| 稷山县| 岳阳市| 英吉沙县| 顺昌县| 临潭县| 佳木斯市| 六枝特区| 辽中县| 平顶山市| 广河县|