分享

DeepSeek本地部署,再也不怕服务器崩了!

 施王阁 2025-02-14 发布于湖北

最近国产大模型 DeepSeek 非常火,但由于访问人数过多经常频繁出现反应迟缓甚至是宕机的情况。

但万幸的是,DeepSeek 是一个开源模型,我们可以通过本地部署在自己的终端上随时使用,而且部署到本地后无需联网即可直接使用。

一:安装Ollama

如果想要在本地运行 DeepSeek 需要用到 Ollama 这个工具,这是一个开源的本地大模型运行工具。

我们可以访问 https:/// 进入 Ollama 官网下载 Ollama ,下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可,这里我选择的是 Windows 版本。

DeepSeek本地部署,再也不怕服务器崩了!

Ollama 安装包下载完成后直接双击安装即可,安装速度还是比较快的。

DeepSeek本地部署,再也不怕服务器崩了!

Ollama 安装完成后需要打开电脑的 CMD ,也就是命令提示符,只需要在电脑下方的搜索框中输入 cmd 即可打开。

DeepSeek本地部署,再也不怕服务器崩了!

打开后在命令提示符窗口中输入 ollama help 并按回车键,这个操作是为了验证这个软件是否安装成功,如果没有报错的话则表示这个软件安装成功。

DeepSeek本地部署,再也不怕服务器崩了!

二:下载部署 Deepseek 模型

回到 https:/// 网址中,在网页上方搜索框中输入 Deepseek-r1,这个 Deepseek-r1 就是我们需要本地部署的一个模型。

DeepSeek本地部署,再也不怕服务器崩了!

点击 Deepseek-r1 后会进入详情界面,里面有多个参数规模可供选择,从 1.5b 到 671b 都有。

DeepSeek本地部署,再也不怕服务器崩了!

需注意的是,这里我们需要根据自己电脑的硬件配置来选择模型大小,下面是一个模型大小配置参考表格,大家可根据自己的电脑配置来自行选择,当然了,部署的本地模型越大,使用的深度求索效果就越好。

DeepSeek本地部署,再也不怕服务器崩了!

选择好模型规模后,复制右边的一个命令。

DeepSeek本地部署,再也不怕服务器崩了!

命令复制完成后回到命令提示符窗口,将刚刚复制的命令粘贴到命令提示符窗口中并按回车键即可下载模型。

DeepSeek本地部署,再也不怕服务器崩了!

模型下载完成后,我们就直接可以在命令提示符面板中使用它了。

DeepSeek本地部署,再也不怕服务器崩了!

以后如果我们需要再次使用 Deepseek 这个模型的话,我们可以直接打开命令提示符窗口,只需要再次在命令符提示窗口中输入上面复制的指令即可。

DeepSeek本地部署,再也不怕服务器崩了!

三:可视化图文交互界面 Chatbox

虽然我们可以在本地正常使用 Deepseek 这个模型了,但是这个 AI 工具的面板是非常简陋的,很多人使用不习惯,这时我们就可以通过 Chatbox 这个可视化图文交互界面来使用它。

点击 https://chatboxai.app/zh 进入 Chatbox 官网,Chatbox 虽然有本地客户端,但我们也可以直接使用网页版。

DeepSeek本地部署,再也不怕服务器崩了!

进入 Chatbox 网页版本后点击使用自己的 API Key 或本地模型。

DeepSeek本地部署,再也不怕服务器崩了!

点击后会进入模型提供方选择界面,这里选择 Ollama API 。

DeepSeek本地部署,再也不怕服务器崩了!

这里需要注意的是,为了能够 Ollama 能远程链接,这里我们最好看一下 Chatbox 提供的教程,根据这个教程操作一下。

DeepSeek本地部署,再也不怕服务器崩了!

这个教程还是非常简单的,如果是 Windows 操作系统则只需要配置一下环境变量即可,配置完环境变量后需重启一下 Ollama 程序。

DeepSeek本地部署,再也不怕服务器崩了!

重启 Ollama 程序后,我们需要将 Chatbox 设置界面关闭并重新打开,重新打开 Chatbox 设置界面后即可选择 Deepseek 模型了,选择后 Deepseek 模型后点击保存即可。

DeepSeek本地部署,再也不怕服务器崩了!

接下来只需要在 Chatbox 中新建对话即可使用 Deepseek 模型了,以下图为例,上方是它的思考过程,下方是它给出的答案。

DeepSeek本地部署,再也不怕服务器崩了!

Chatbox 可视化图文交互界面还有一个特点就是可以创建专属智能体,只需点击我的搭档即可创建,此功能是 Deepseek 官方暂时还没有的功能。

DeepSeek本地部署,再也不怕服务器崩了!

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多