• <table id="iwim8"></table>
    <code id="iwim8"></code>
  • <li id="iwim8"></li>
    
    
    <rt id="iwim8"></rt>
  • 神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署
    2025-02-05 中國(guó)智能產(chǎn)業(yè)網(wǎng)

    DeepSeek AI最新發(fā)布的多模態(tài)大模型Janus-Pro,以及之前發(fā)布的大型語(yǔ)言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2,一經(jīng)發(fā)布,就在AI領(lǐng)域引起了熱烈反響,多項(xiàng)創(chuàng)新技術(shù)顯著提升了模型的性能與效率。DeepSeek系列模型首發(fā)即支持昇騰平臺(tái),神州數(shù)碼旗下神州鯤泰推理服務(wù)器產(chǎn)品搭載昇騰硬件,可全面支持DeepSeek系列模型的快速部署,可為用戶帶來(lái)更快、更高效、更便捷的AI開(kāi)發(fā)和應(yīng)用體驗(yàn)。

    2025年2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區(qū),支持一鍵獲取DeepSeek系列模型,支持昇騰硬件平臺(tái)上開(kāi)箱即用,推理快速部署,帶來(lái)更快、更高效、更便捷的AI開(kāi)發(fā)和應(yīng)用體驗(yàn),歡迎廣大開(kāi)發(fā)者體驗(yàn)使用。

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    ?下面以Deepseek-V3為例,

    演示在昇騰社區(qū)如何高效獲取模型及使用

    1 硬件要求

    部署DeepSeek-V3模型需配置4臺(tái)KunTai A924推理服務(wù)器(每臺(tái)搭載8張昇騰推理卡)

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    2 模型調(diào)用實(shí)踐

    一、權(quán)重轉(zhuǎn)換

    GPU:

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    NPU:

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    二、加載鏡像

    在昇騰社區(qū)/開(kāi)發(fā)資源下載適配DeepSeek-V3的鏡像包:

    mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

    完成之后,請(qǐng)使用docker images命令確認(rèn)查找具體鏡像名稱(chēng)與標(biāo)簽。

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署


    三、容器啟動(dòng)

    提供的MindIE鏡像預(yù)置了DeepSeek-V3模型推理腳本,從您信任的來(lái)源自行獲取權(quán)重后,放置在從上述下載的模型代碼的主目錄下,修改模型文件夾屬組為1001,執(zhí)行權(quán)限為750,啟動(dòng)容器。

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    四、服務(wù)化測(cè)試

    配置服務(wù)化環(huán)境變量,expandable_segments-使能內(nèi)存池?cái)U(kuò)展段功能,即虛擬內(nèi)存特性。

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    修改服務(wù)化參數(shù)

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    拉起服務(wù)化

    神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署

    圖片出現(xiàn)“Daemon start success!”,則認(rèn)為服務(wù)成功啟動(dòng)。

    更深入了解DeepSeek系列模型在昇騰上的使用方法及指導(dǎo)文檔,可登錄昇騰社區(qū)模型庫(kù)專(zhuān)區(qū)學(xué)習(xí)了解!

    更多DeepSeek模型獲取鏈接可參考:

    ?DeepSeek-R1

    https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3

    (掃碼獲取)

    ?DeepSeek-V3:

    https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15

    (掃碼獲取)

    ?Janus-Pro

    https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9

    (掃碼獲取)

     
     
     
     
    主站蜘蛛池模板: 来凤县| 河北区| 县级市| 福海县| 施甸县| 澜沧| 阜平县| 织金县| 汕尾市| 临海市| 崇文区| 邮箱| 新乡市| 甘泉县| 双流县| 定兴县| 仪征市| 马公市| 海阳市| 自贡市| 沐川县| 留坝县| 南川市| 松阳县| 霍山县| 台州市| 成都市| 武清区| 盐源县| 锡林浩特市| 和平县| 平度市| 左云县| 项城市| 忻城县| 扶风县| 巴马| 陆河县| 云梦县| 慈溪市| 道真|