DeepSeek怎么進(jìn)行本地部署

近期，國產(chǎn)大型模型DeepSeek備受矚目，然而，由于其訪問量巨大，頻繁遭遇響應(yīng)緩慢乃至服務(wù)中斷的問題。幸運(yùn)的是，DeepSeek作為一個(gè)開源模型，允許用戶將其本地部署在個(gè)人終端上，實(shí)現(xiàn)隨時(shí)隨地的便捷使用。更令人欣喜的是，一旦完成本地部署，用戶無需網(wǎng)絡(luò)連接即可直接享受其服務(wù)。

在本地部署DeepSeek模型并使用Ollama和Chatbox的步驟如下，已整理為清晰的操作指南：

一、安裝Ollama

1.下載Ollama

訪問官網(wǎng)：[Ollama官網(wǎng)](https://ollama.com/)

根據(jù)操作系統(tǒng)(Windows/macOS/Linux)選擇對(duì)應(yīng)的安裝包，下載后雙擊安裝。

2.驗(yàn)證安裝

打開命令提示符(CMD)或終端，輸入命令：

bash

ollama help

若顯示幫助信息(無報(bào)錯(cuò))，則安裝成功。若報(bào)錯(cuò)，需檢查環(huán)境變量或重新安裝。

Ollama 安裝包下載完成后直接雙擊安裝即可，安裝速度還是比較快的。

Ollama 安裝完成后需要打開電腦的 CMD ，也就是命令提示符，只需要在電腦下方的搜索框中輸入 cmd 即可打開。

打開后在命令提示符窗口中輸入 ollama help 并按回車鍵，這個(gè)操作是為了驗(yàn)證這個(gè)軟件是否安裝成功，如果沒有報(bào)錯(cuò)的話則表示這個(gè)軟件安裝成功。

二、下載并部署DeepSeek模型

1.選擇模型版本

返回Ollama官網(wǎng)，搜索`deepseek-r1`，進(jìn)入模型頁面。

根據(jù)硬件配置選擇模型規(guī)模(如1.5b、7b、67b等)。參考建議：

-CPU用戶：選擇≤7b的模型。

-GPU用戶(如NVIDIA)：可選更大模型，需確保已安裝CUDA驅(qū)動(dòng)。

2.下載模型

復(fù)制頁面右側(cè)的下載命令(如`ollama run deepseek-r1:7b`)。

在CMD中粘貼命令并按回車，開始下載模型。

-注意事項(xiàng)：

確保網(wǎng)絡(luò)穩(wěn)定，模型文件較大(如7b約4GB)。

檢查磁盤空間(至少預(yù)留模型大小的2倍空間)。

3.驗(yàn)證模型

下載完成后，輸入相同命令即可啟動(dòng)模型交互：

bash

ollama run deepseek-r1:7b

輸入測試問題(如“你好”)，觀察是否正常響應(yīng)。

需注意的是，這里我們需要根據(jù)自己電腦的硬件配置來選擇模型大小，下面是一個(gè)模型大小配置參考表格，大家可根據(jù)自己的電腦配置來自行選擇，當(dāng)然了，部署的本地模型越大，使用的深度求索效果就越好。

選擇好模型規(guī)模后，復(fù)制右邊的一個(gè)命令。

命令復(fù)制完成后回到命令提示符窗口，將剛剛復(fù)制的命令粘貼到命令提示符窗口中并按回車鍵即可下載模型。

模型下載完成后，我們就直接可以在命令提示符面板中使用它了。

以后如果我們需要再次使用 Deepseek 這個(gè)模型的話，我們可以直接打開命令提示符窗口，只需要再次在命令符提示窗口中輸入上面復(fù)制的指令即可。

三、配置Chatbox可視化界面

1.訪問Chatbox

官網(wǎng)：[Chatbox官網(wǎng)](https://chatboxai.app/zh)，選擇網(wǎng)頁版或下載客戶端。

2.連接Ollama服務(wù)

在Chatbox設(shè)置中，選擇“Ollama API”作為模型來源。

-關(guān)鍵配置步驟：

-Windows用戶：設(shè)置環(huán)境變量`OLLAMA_HOST=0.0.0.0`。

右鍵“此電腦” → 屬性 → 高級(jí)系統(tǒng)設(shè)置 → 環(huán)境變量 → 新建系統(tǒng)變量。

重啟Ollama服務(wù)：

bash

ollama serve

重啟Chatbox，選擇`deepseek-r1`模型。

3.使用Chatbox交互

新建對(duì)話，輸入問題后模型將顯示思考過程和答案。

-高級(jí)功能：通過“我的搭檔”創(chuàng)建專屬智能體，自定義回復(fù)風(fēng)格或用途。

進(jìn)入 Chatbox 網(wǎng)頁版本后點(diǎn)擊使用自己的 API Key 或本地模型。

點(diǎn)擊后會(huì)進(jìn)入模型提供方選擇界面，這里選擇 Ollama API 。

這里需要注意的是，為了能夠 Ollama 能遠(yuǎn)程鏈接，這里我們最好看一下 Chatbox 提供的教程，根據(jù)這個(gè)教程操作一下。

這個(gè)教程還是非常簡單的，如果是 Windows 操作系統(tǒng)則只需要配置一下環(huán)境變量即可，配置完環(huán)境變量后需重啟一下 Ollama 程序。

重啟 Ollama 程序后，我們需要將 Chatbox 設(shè)置界面關(guān)閉并重新打開，重新打開 Chatbox 設(shè)置界面后即可選擇 Deepseek 模型了，選擇后 Deepseek 模型后點(diǎn)擊保存即可。

接下來只需要在 Chatbox 中新建對(duì)話即可使用 Deepseek 模型了，以下圖為例，上方是它的思考過程，下方是它給出的答案。

Chatbox 可視化圖文交互界面還有一個(gè)特點(diǎn)就是可以創(chuàng)建專屬智能體，只需點(diǎn)擊我的搭檔即可創(chuàng)建，此功能是 Deepseek 官方暫時(shí)還沒有的功能。

常見問題解決

1.Ollama安裝失敗

檢查系統(tǒng)版本兼容性，以管理員權(quán)限運(yùn)行安裝程序。

手動(dòng)添加Ollama到PATH環(huán)境變量。

2.模型下載中斷

重新執(zhí)行`ollama run <模型名>`繼續(xù)下載。

使用代理或更換網(wǎng)絡(luò)環(huán)境。

3.Chatbox無法連接Ollama

確認(rèn)環(huán)境變量已設(shè)置并重啟服務(wù)。

檢查防火墻是否放行Ollama端口(默認(rèn)11434)。

4.模型運(yùn)行緩慢

降低模型規(guī)模(如從7b切換至1.5b)。

確保硬件滿足需求(GPU用戶安裝CUDA Toolkit)。

優(yōu)勢與注意事項(xiàng)

-優(yōu)勢：完全本地運(yùn)行，無需聯(lián)網(wǎng)，隱私性強(qiáng)。

-硬件建議：≥8GB內(nèi)存(7b模型)，GPU加速需NVIDIA顯卡+CUDA。

-模型更新：定期執(zhí)行`ollama pull deepseek-r1:7b`獲取最新版本。

通過以上步驟，即可在本地流暢使用DeepSeek模型，享受無服務(wù)器延遲的AI交互體驗(yàn)。如遇復(fù)雜問題，建議查閱Ollama和Chatbox的官方文檔或社區(qū)論壇。

• 上一篇：浙里辦app如何申請(qǐng)生育津貼
• 下一篇：如何將WinRAR添加到右鍵菜單