哈哈哈哈哈操欧洲电影,久草网在线,亚洲久久熟女熟妇视频,麻豆精品色,久久福利在线视频,日韩中文字幕的,淫乱毛视频一区,亚洲成人一二三,中文人妻日韩精品电影

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DeepSeek沖擊(含本地化部署實(shí)踐)

京東云 ? 來源:京東零售 姜海 ? 作者:京東零售 姜海 ? 2025-02-23 17:10 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作者:京東零售 姜海

DeepSeek無疑是春節(jié)檔最火爆的話題,上線不足一月,其全球累計(jì)下載量已達(dá)4000萬,反超ChatGPT成為全球增長最快的AI應(yīng)用,并且完全開源。那么究竟DeepSeek有什么魔力,能夠讓大家趨之若鶩,他又將怎樣改變世界AI格局和我們的生活,本篇文章將進(jìn)行簡要解析。

DeepSeek與ChatGPT對(duì)比

說到人工智能就不得不提OpenAI和ChatGPT,這是繞不開的話題,要分析DeepSeek的實(shí)力,最簡單的方式就是跟ChatGPT進(jìn)行對(duì)比。

模型分類

ChatGPT目前有兩種大模型,分別是面向普通用戶,解決日常應(yīng)用問題的4-OMNI,以及面向?qū)I(yè)用戶,處理深度思考問題的O1,DeepSeek與之對(duì)標(biāo)的分別是V3模型以及R1模型。

wKgZO2ezAOuAM9ILAACXlWslKmk151.png

??

實(shí)用效果

據(jù)我目前的使用體驗(yàn)下來,DeepSeek的實(shí)際體驗(yàn)效果完全不輸ChatGPT,甚至在解決數(shù)學(xué)、物理和推理問題方面表現(xiàn)出色,響應(yīng)速度比ChatGPT還要快,且能夠完整地展示其思考和給出答案的過程,例如最經(jīng)典的,讓絕大多數(shù)AI翻車的“1.11和1.9誰大?”的問題,ChatGPT給出的回答是:

wKgZPGezAOyAAFarAANhVNxyCC0965.png

??

前言不搭后語,而反觀DeepSeek:

wKgZO2ezAO2AdA_0AASTOs27mLo034.png

??

wKgZPGezAO-AFkHPAAndToqudNU054.png

??

wKgZO2ezAPGAS2PgAAcv375GsrE685.png

??

wKgZPGezAPKAQAHNAAPTBSWyjrA412.png

??

可以看到DeepSeek不僅給出了正確答案,而且展示了詳細(xì)的解題思路,甚至有最后的驗(yàn)證。我也測試了許多其他的問題,DeepSeek完全不拉垮,相對(duì)于ChatGPT,他在中文領(lǐng)域的問題理解和處理更加到位,使用體驗(yàn)非常好。

這無疑也使得蘋果公司柳暗花明又一村,為彌補(bǔ)apple intelligence上在中國區(qū)無法使用ChatGPT提供了完美的解決方案。

成本

成本分為兩部分:硬件成本和訓(xùn)練成本。AI大模型構(gòu)建算法絕大部分都是基于公開的論文,所以市場上的大模型,底層邏輯都大同小異,訓(xùn)練數(shù)據(jù)也來自于互聯(lián)網(wǎng),所以主要的成本體現(xiàn)在硬件上,也就是提供AI算力的芯片,自從AI大爆發(fā)以來,大家的共識(shí)就是堆砌的芯片越多,大模型的表現(xiàn)就越優(yōu)秀。我先簡單介紹一下為什么提升AI的性能就要堆砌大量的芯片。

AI算力的芯片領(lǐng)域是英偉達(dá)(Nvidia)一家獨(dú)大,芯片價(jià)格非常昂貴,目前該公司最先進(jìn)的B200芯片單張的價(jià)格就高達(dá)4萬美金,而且對(duì)于AI公司來說你還必須買,因?yàn)樾酒漠a(chǎn)能有限,如果你不搶就會(huì)被競爭對(duì)手買走,導(dǎo)致你的大模型算力不如他的。

??

英偉達(dá)公司為自家的芯片研發(fā)了一種叫CUDA的核心的技術(shù),其全名叫做Compute Unified Device Architecture(統(tǒng)一計(jì)算設(shè)備架構(gòu))。

??

這是一種并行計(jì)算平臺(tái)和編程模型。開發(fā)者通過它,可以間接利用GPU的處理能力,大幅提升計(jì)算性能。簡單的說,CUDA核心就像是一間間的海水提純工廠,它可以把如海洋般的GPU算力轉(zhuǎn)換成AI開發(fā)者可以直接使用的AI算力,越多的CUDA核心數(shù)量就意味著更大的AI算力。

wKgZO2ezAPaAdVvMAABsuYXKCoY695.png

??

這也就是為什么AI行業(yè)越發(fā)展,芯片的需求量越大,英偉達(dá)的市值就越高。美國也多次通過英偉達(dá)“鎖算力”以及限制芯片出口,阻礙中國的AI發(fā)展。AI行業(yè)的發(fā)展被一家公司扼住喉嚨的現(xiàn)象顯然極度不合理,英偉達(dá)可謂是真正的萬惡之源。

OpenAI不受限制,所以囤積了大量的英偉達(dá)芯片,訓(xùn)練ChatGPT據(jù)傳用到了5萬張英偉達(dá)的芯片,而DeepSeek作為中國公司,在這方面相比自然相去甚遠(yuǎn)。

DeepSeek沖擊

由于CUDA技術(shù)被英偉達(dá)牢牢掌握,所以間接提高了所有AI大模型的使用成本,阻礙了AI的發(fā)展。以ChatGPT為例,4-OMNI和O1兩個(gè)大模型的研發(fā)成本高達(dá)數(shù)十億美金,免費(fèi)用戶使用有諸多限制,付費(fèi)用戶每月20美金,專業(yè)用戶每月200美金,如果企業(yè)想要接入OpenAI的人工智能服務(wù),調(diào)用API做客服等用途,則更是按字符收費(fèi),雖然比人工客服省錢,但也是一筆不小的開銷。這些收入中,絕大多數(shù)都是用來平衡購買芯片帶來的巨大成本。

DeepSeek之所以引起全球矚目,就是因?yàn)樗凇靶酒笔芟薜那疤嵯?,達(dá)到了與ChatGPT近似的使用體驗(yàn),甚至在某些領(lǐng)域還遠(yuǎn)遠(yuǎn)超過了。OpenAI和它的母公司微軟囤積了大量的高端芯片,而DeepSeek手里的芯片,不論從數(shù)量還是質(zhì)量上都不占優(yōu)勢,甚至可以說遠(yuǎn)遠(yuǎn)落后。

在深度解析DeepSeek開源的模型代碼之后,研究人員發(fā)現(xiàn),DeepSeek之所以能夠絕地反擊,秘訣就在于他繞過了CUDA核心的限制,使用了完全創(chuàng)新的技術(shù)訓(xùn)練大模型,直接利用英偉達(dá)的底層技術(shù)調(diào)用了GPU的算力,相當(dāng)于能直接使用如大海般的GPU資源,所以才能使用低端的芯片,在極短的時(shí)間內(nèi)完成了模型的訓(xùn)練,達(dá)到了與ChatGPT近似的效果。

而且此技術(shù)成功解除了AI模型對(duì)英偉達(dá)芯片的依賴,使DeepSeek可以使用華為的芯片進(jìn)行訓(xùn)練。DeepSeek服務(wù)調(diào)用的費(fèi)用只有ChatGPT的十分之一,具有非常高的性價(jià)比和廣闊的應(yīng)用前景。

整體來說,DeepSeek用了很少的錢,很低端的工具,就把美國投入上百億美元的事給辦了。自從DeepSeek爆火之后,市場普遍認(rèn)為英偉達(dá)的芯片估值過高,要實(shí)現(xiàn)高性能的AI并不需要如此之貴的芯片,最高端的芯片也并不值那個(gè)價(jià)錢,這直接導(dǎo)致英偉達(dá)的股價(jià)當(dāng)天就暴跌17%,創(chuàng)造了美國股市歷史上單日最大跌幅,截至目前英偉達(dá)市值蒸發(fā)近6000億美元。

技術(shù)曝光的第二天,英偉達(dá),微軟和亞馬遜的計(jì)算平臺(tái)都宣布接入DeepSeek模型,堪稱AI界的“斯普特尼克時(shí)刻”,就如同當(dāng)年蘇聯(lián)率先成功發(fā)射人造衛(wèi)星時(shí)一樣,讓一直以為自己在技術(shù)上遙遙領(lǐng)先的西方世界陷入了一片混亂,世界AI市場的格局就此改變。

本地化部署R1模型

DeepSeek雖然好,但是用過的同學(xué)都知道他有個(gè)致命的問題,就是萬惡的資本主義經(jīng)常組織針對(duì)DeepSeek的網(wǎng)絡(luò)攻擊,導(dǎo)致使用時(shí)出現(xiàn)“服務(wù)器繁忙的問題”。

wKgZPGezAPeABW52AARKlF2SftM305.png

??

為了避免被攻擊,降低延遲和卡頓,規(guī)避共享敏感信息的風(fēng)險(xiǎn),同時(shí)更靈活的進(jìn)行微調(diào)和實(shí)驗(yàn),我們可以把R1模型部署到本地。

安裝Ollama

首先登陸Ollama官網(wǎng):https://ollama.com/。打開官網(wǎng),然后點(diǎn)擊下載,之后安裝到本地。

wKgZO2ezAPiAXVJiAACTbXuyAwc842.png

??

拉取 DeepSeek R1 模型

然后打開Ollama 的模型列表: https://ollama.com/library/deepseek-r1 ,搜索到DeepSeek R1:

wKgZPGezAPmAdzfVAAEdWGRNCNY902.png

??

顯卡需求

各個(gè)模型版本需求的顯卡檔次大致如下表

模型(DeepSeek-R1) 顯卡檔次 顯存需求
1.5b GTX1050以上 1GB
7b RTX2050、RTX3060以上 4GB
8b RTX2060、RTX3070以上 5GB
14b RTX3080、RTX4070以上 8GB
32b RTX4080以上 18GB
70b RTX4090、RTX5080以上 36GB以上

我們普通的電腦安裝1.5B,7B就可以使用,然后在【右上角的的代碼】復(fù)制,打開終端,輸入上述下載命令回車后,會(huì)出現(xiàn)模型下載進(jìn)度,當(dāng)進(jìn)度為100%就說明該模型已經(jīng)下載到本地了。

wKgZO2ezAPmADz8nAAIBdz__0bk269.jpg

??

輸入ollama list可以查看安裝的模型。

wKgZPGezAPqAQRA7AABUBBuJwr0258.png

??

此時(shí)已經(jīng)可以在控制臺(tái)使用R1模型進(jìn)行問答了。

包裝GUI

只能在命令行中使用既不美觀也特別的不方便,所以我們可以使用現(xiàn)成的GUI進(jìn)行包裝,相當(dāng)于包上圖形用戶界面。這里以Cherry Studio為例,下載對(duì)應(yīng)版本后打開。

wKgZO2ezAPuAQGjeAAFi4f4lLlQ087.png

??

在設(shè)置中選擇模型服務(wù),選中Ollama

wKgZPGezAPyAJd2aAAOyONZJHtY190.png

??

填入對(duì)應(yīng)的本地模型信息:

wKgZO2ezAP2AD7qHAAEZADTcpQs658.png

??

然后就可以使用了!希望本篇文章能夠幫到大家!

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3751

    瀏覽量

    5268
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    837

    瀏覽量

    3394
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    免費(fèi)本地部署的數(shù)據(jù)庫 DevOps 工具,能覆蓋多少日常工作場景?以 NineData 社區(qū)版為例

    本文以 NineData 社區(qū)版為例,探討免費(fèi)本地部署的數(shù)據(jù)庫 DevOps 工具。其不是單一審核模板,而是集成多能力的本地工作臺(tái),涵蓋日常操作、治理協(xié)同、運(yùn)維保障等功能,將查、審、改、追等動(dòng)作銜接。適合有
    的頭像 發(fā)表于 03-17 14:57 ?645次閱讀
    免費(fèi)<b class='flag-5'>本地</b><b class='flag-5'>部署</b>的數(shù)據(jù)庫 DevOps 工具,能覆蓋多少日常工作場景?以 NineData 社區(qū)版為例

    技嘉與趨境科技聯(lián)合部署AMaaS平臺(tái) 推動(dòng)本地大模型應(yīng)用加速落地

    高性能本地化AI基礎(chǔ)平臺(tái)。 基于AI TOP ATOM的本地算力優(yōu)勢,技嘉現(xiàn)已與趨境科技聯(lián)合部署其自研大模
    的頭像 發(fā)表于 03-12 15:11 ?193次閱讀
    技嘉與趨境科技聯(lián)合<b class='flag-5'>部署</b>AMaaS平臺(tái) 推動(dòng)<b class='flag-5'>本地</b>大模型應(yīng)用加速落地

    如何在ZYNQ本地部署DeepSeek模型

    一個(gè)將最小號(hào) DeepSeek 模型部署到 AMD Zynq UltraScale+ MPSoC 處理系統(tǒng)的項(xiàng)目。
    的頭像 發(fā)表于 12-19 15:43 ?7803次閱讀
    如何在ZYNQ<b class='flag-5'>本地</b><b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b>模型

    小鵬汽車正式啟動(dòng)其馬來西亞本地化生產(chǎn)項(xiàng)目

    近日,小鵬汽車與馬來西亞EPMB集團(tuán)簽約,正式啟動(dòng)其馬來西亞本地化生產(chǎn)項(xiàng)目。這是繼印尼、奧地利之后,小鵬在全球布局的第三個(gè)本地化生產(chǎn)項(xiàng)目。
    的頭像 發(fā)表于 12-18 14:16 ?661次閱讀

    發(fā)布元服務(wù)配置本地化基礎(chǔ)信息(應(yīng)用名稱、圖標(biāo))

    您可以添加元服務(wù)支持的語言,并配置對(duì)應(yīng)語言的本地化信息。 例如,當(dāng)您設(shè)置簡體中文為默認(rèn)語言,并且只配置中文的本地化信息,那么元服務(wù)在所有設(shè)置的發(fā)布國家或地區(qū)的信息都將顯示中文。如果您還設(shè)置了英文
    發(fā)表于 10-24 17:42

    DeepSeek模型如何在云服務(wù)器上部署?

    隨著大型語言模型(LLM)的應(yīng)用日益普及,許多開發(fā)者和企業(yè)希望將像DeepSeek這樣的優(yōu)秀模型部署到自己的云服務(wù)器上,以實(shí)現(xiàn)私有、定制服務(wù)并保障數(shù)據(jù)安全。本文將詳細(xì)闡述
    的頭像 發(fā)表于 10-13 16:52 ?1126次閱讀

    廣和通成功部署DeepSeek-R1-0528-Qwen3-8B模型

    近日,廣和通在MediaTek MT8893平臺(tái)上成功部署并運(yùn)行了DeepSeek-R1-0528-Qwen3-8B模型,顯著提升了端側(cè)AI設(shè)備的處理效率與智能水平,特別是在本地化復(fù)
    的頭像 發(fā)表于 09-26 13:35 ?985次閱讀

    破解非洲數(shù)字鴻溝:傳音控股以本地化創(chuàng)新與教育合作助力可持續(xù)發(fā)展

    科技出海企業(yè)代表傳音控股繼續(xù)秉持“全球視野,本地化創(chuàng)新”理念,通過技術(shù)研發(fā)與公益投入雙輪驅(qū)動(dòng),助力非洲跨越數(shù)字鴻溝。深耕本地化創(chuàng)新,傳音賦能非洲數(shù)字發(fā)展在非洲
    的頭像 發(fā)表于 09-25 16:46 ?1341次閱讀
    破解非洲數(shù)字鴻溝:傳音控股以<b class='flag-5'>本地化</b>創(chuàng)新與教育合作助力可持續(xù)發(fā)展

    本地部署openWebUI + ollama+DeepSeek 打造智能知識(shí)庫并實(shí)現(xiàn)遠(yuǎn)程訪問

    。 DeepSeek 作為一個(gè)開源的大語言模型,我們可以通過 ZeroNews + openWebUI + ollama的方式,輕松的在本地私有部署
    的頭像 發(fā)表于 09-10 16:41 ?5511次閱讀
    <b class='flag-5'>本地</b><b class='flag-5'>部署</b>openWebUI + ollama+<b class='flag-5'>DeepSeek</b> 打造智能知識(shí)庫并實(shí)現(xiàn)遠(yuǎn)程訪問

    能源監(jiān)測管理平臺(tái)是本地化部署好還是云端部署好?

    能源監(jiān)測管理平臺(tái)本地化部署和云端部署各有優(yōu)劣,企業(yè)需根據(jù)自身需求和實(shí)際情況來選擇。如果企業(yè)對(duì)數(shù)據(jù)安全要求極高、網(wǎng)絡(luò)環(huán)境特殊且預(yù)算充足,本地化部署
    的頭像 發(fā)表于 07-22 15:16 ?650次閱讀
    能源監(jiān)測管理平臺(tái)是<b class='flag-5'>本地化</b><b class='flag-5'>部署</b>好還是云端<b class='flag-5'>部署</b>好?

    傳音控股本地化戰(zhàn)略的跨區(qū)域成功:驅(qū)動(dòng)?xùn)|南亞、南亞數(shù)字浪潮 ?

    全球新興市場智能終端競爭進(jìn)入新階段,傳音控股繼續(xù)憑借“本地化”戰(zhàn)略優(yōu)勢書寫著從非洲到全球的擴(kuò)張傳奇。與印尼電信巨頭IOH達(dá)成戰(zhàn)略合作、優(yōu)化游戲體驗(yàn)、研發(fā)全膚色影像技術(shù),傳音正在將成熟的本地化模式成功
    的頭像 發(fā)表于 07-18 16:09 ?1183次閱讀
    傳音控股<b class='flag-5'>本地化</b>戰(zhàn)略的跨區(qū)域成功:驅(qū)動(dòng)?xùn)|南亞、南亞數(shù)字<b class='flag-5'>化</b>浪潮 ?

    AI+能源數(shù)字破局者故事5:斯倫貝謝 x IBM 咨詢之 “全球經(jīng)營與本地化適配”

    斯倫貝謝與 IBM 的合作建立在技術(shù)專長、交付能力及本地化支持的基礎(chǔ)上,IBM 的強(qiáng)大技術(shù)實(shí)力和本地經(jīng)驗(yàn),使其成為斯倫貝謝推動(dòng)數(shù)字轉(zhuǎn)型的重要合作伙伴
    的頭像 發(fā)表于 07-17 19:02 ?1582次閱讀

    施耐德電氣與奇安信共建技術(shù)本地化創(chuàng)新中心

    ?在施耐德電氣技術(shù)本地化創(chuàng)新日上 ; 施耐德電氣與奇安信集團(tuán)宣布成立 施耐德電氣(中國)技術(shù)本地化創(chuàng)新中心。 該中心將提供 針對(duì)國產(chǎn)基礎(chǔ)軟硬件的深度適配服務(wù),以信息技術(shù)共創(chuàng)和生態(tài)協(xié)同為核心 ,更好
    的頭像 發(fā)表于 07-10 19:01 ?1151次閱讀
    施耐德電氣與奇安信共建技術(shù)<b class='flag-5'>本地化</b>創(chuàng)新中心

    ElfBoard技術(shù)實(shí)戰(zhàn)|ELF 2開發(fā)板本地部署DeepSeek大模型的完整指南

    ELF 2開發(fā)板本地部署DeepSeek大模型的完整指南
    的頭像 發(fā)表于 05-16 11:13 ?2757次閱讀
    ElfBoard技術(shù)實(shí)戰(zhàn)|ELF 2開發(fā)板<b class='flag-5'>本地</b><b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b>大模型的完整指南

    誠邁信創(chuàng)電腦實(shí)現(xiàn)本地部署DeepSeek,開啟智慧辦公新體驗(yàn)

    近期,中國人工智能平臺(tái)深度求索(DeepSeek)迅速走紅,成為當(dāng)下熱門的AI應(yīng)用之一,在國內(nèi)外引發(fā)了廣泛的關(guān)注。目前,誠邁信創(chuàng)電腦和望龍電腦已實(shí)現(xiàn)本地部署DeepSeek平臺(tái),能夠?yàn)?/div>
    的頭像 發(fā)表于 04-21 15:26 ?981次閱讀
    誠邁信創(chuàng)電腦實(shí)現(xiàn)<b class='flag-5'>本地</b><b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b>,開啟智慧辦公新體驗(yàn)
    东光县| 邓州市| 蓬安县| 广元市| 郯城县| 东海县| 东丽区| 汶川县| 桑植县| 延寿县| 图木舒克市| 射阳县| 穆棱市| 龙陵县| 安吉县| 林芝县| 长汀县| 碌曲县| 登封市| 麦盖提县| 连平县| 巴彦淖尔市| 通渭县| 遂平县| 伊宁市| 仙游县| 吴旗县| 福州市| 武隆县| 汉沽区| 嵊州市| 潮州市| 平安县| 辉南县| 漳平市| 纳雍县| 彩票| 友谊县| 沁阳市| 凯里市| 石林|