DeepSeek(深度求索)是由杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司開(kāi)發(fā)的人工智能平臺(tái),專注于大語(yǔ)言模型(LLMs)的研發(fā)與應(yīng)用,目前相當(dāng)?shù)幕鸨?,用戶可以直接在本地進(jìn)行部署。
一、安裝 Ollama
1、下載安裝包
訪問(wèn)Ollama 官網(wǎng):點(diǎn)擊前往
點(diǎn)擊對(duì)應(yīng)系統(tǒng)的下載鏈接(Windows 用戶選擇 Windows 版本)。
下載完成后安裝
控制臺(tái)驗(yàn)證是否成功安裝,這樣就表示安裝成功了
二、下載并部署 Deepseek-R1 模型
1、通過(guò) Ollama 拉取模型
在瀏覽器中訪問(wèn)模型庫(kù)中的 Deepseek-R1 頁(yè)面:點(diǎn)擊前往。
根據(jù)自己電腦配置,建議選擇參數(shù)較小的 8B 版本。
在 CMD 中執(zhí)行以下命令自動(dòng)下載并部署模型:
ollama run deepseek-r1:8b
執(zhí)行后,系統(tǒng)會(huì)自動(dòng)下載模型文件,下載完成后進(jìn)入交互模式。
三、測(cè)試 Deepseek 模型交互
1、命令行交互測(cè)試
在 CMD 窗口中執(zhí)行:
ollama run deepseek-r1:8b
你將進(jìn)入一個(gè)交互界面,可以輸入問(wèn)題,例如:
2、注意
如果交互過(guò)程中響應(yīng)較慢,可多按幾次回車,耐心等待下載完成和加載模型。
四、安裝 Open WebUI(增強(qiáng)交互體驗(yàn))
1、安裝 Open WebUI
Open-WebUI官方文檔地址:點(diǎn)擊前往
這里直接使用 docker 安裝:
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main
如果沒(méi)有安裝過(guò) docker,則從官方下載Docker 安裝程序:點(diǎn)擊前往。依照提示完成安裝即可。
2、訪問(wèn) Open WebUI
打開(kāi)瀏覽器,訪問(wèn) http://localhost:3000/,進(jìn)入 WebUI 界面。
首次使用需要注冊(cè)管理員賬號(hào),按提示填寫(xiě)信息完成注冊(cè)
3、在 Open WebUI 中配置 Deepseek 模型
登錄后,進(jìn)入模型管理頁(yè)面,選擇“添加本地模型”,并填寫(xiě)模型名稱(例如:Deepseek-R1-8b)和運(yùn)行命令。
保存設(shè)置后,在主界面點(diǎn)擊對(duì)應(yīng)模型,即可開(kāi)始與模型對(duì)話。
相關(guān)評(píng)論