DeepSeek与chatbox 本地部署
发布于 3 个月前 作者 pangguoming 118 次浏览 来自 分享

1.下载Ollama并安装运行DeepSeek

从Ollama官方网站下载Ollama:

https://ollama.com/ 进入Ollama官方网站后,可以看到Ollama已经支持DeepSeek-R1的部署: image.png

image.png

2、安装(以Windows平台为例):在Windows系统下,获取对应的exe应用程序后,双击启动安装程序。安装过程中,全程选择默认设置,点击“Install”后一路确认到底。安装完成后,程序会自动启动,此时在电脑右下角的托盘区域,你将看到Ollama的应用图标。

image.png 验证安装:安装完成后,打开命令行窗口,输入以下命令:

ollama -v

3、加载模型

选择模型:Ollama软件安装完成后,便要获取DeepSeek R1模型。再次打开Ollama官网,点击“Models”,在众多模型中,“deepseek - r1”位列榜首,十分醒目。 若命令执行后,显示类似“ollama version is 0.5.7”这样的版本信息,即表明Ollama已成功安装。若此前已安装过Ollama,此步骤可将其更新至最新版本,当前最新版本为0.5.7 。 image.png 模型详情与下载:点击“deepseek - r1”进入详情页面,可知该模型是DeepSeek的第一代推理模型,性能与OpenAI - o1相当。复制并在命令行中运行以下命令:

ollama run deepseek - r1

image.png Ollama随即开始载入模型。首次运行此命令时,模型会通过网络下载,若后续再次运行,将直接从本地载入。默认下载的是7B Q4的量化版模型,其大小约为4.7G。 image.png

4、安装ChatBox实现可视化交互

为了更便捷地与模型交互,摆脱命令窗口的限制,你可以安装ChatBox这一可视化界面工具。安装完成后,即可开启与DeepSeek R1的轻松对话之旅。 (1)打开 https://chatboxai.app/zh 下载ChatBox image.png (2)打开软件设置本地模型 image.png image.png 好了,我们就可以自己研究本地的大模型了

回到顶部