分享

DeepSeek 本地部署安装指南,让数据安全与 AI 体验双丰收

 板桥胡同37号 2025-02-17 发布于天津


在 AI 大语言模型的激烈竞争中,DeepSeek 脱颖而出,以其强大的自然语言处理能力、出色的代码生成效果和流畅的多轮对话表现,成为众多 AI 爱好者和开发者的心头好。但用户在线使用时频繁遭遇到服务器繁忙的问题,而本地部署能有效解决这一困扰。接下来,让我们一起来探究DeepSeek如何进行本地部署,对比网络版又有什么差别。

本地版本和网络版本的优缺点对比
优缺点本地版本网络版本
优点1. 数据隐私有保障,所有数据在本地处理,避免泄露,如企业处理机密文件更安全
2. 响应速度快,不依赖网络,在网络不佳或无网络时也能流畅使用
3. 灵活可定制,用户可根据硬件性能调整参数,开发者能优化模型满足个性化需求
1. 便捷易用,通过浏览器或应用程序即可访问,无需复杂安装配置,普通用户易上手
2. 无需硬件升级,只要有网络,无论设备配置高低都能使用
缺点1. 硬件成本高,显卡需 GTX 1060(6GB)及以上等较高配置,可能需投入资金升级硬件
2. 技术门槛不低,部署涉及环境配置和模型调试,新手操作困难
1. 受网络限制,网络不稳定或拥堵时会出现加载缓慢、连接中断等问题,影响效率
2. 数据隐私存在隐患,数据上传云端处理,有隐私泄露风险

可以看得出DeepSeek 的本地版本和网络版各有优劣。如果你对数据隐私、离线使用和定制化有较高要求,且有一定的硬件和技术支持,那么本地部署更适合你;如果你希望快速使用、操作简单,且对数据隐私和定制化要求不高,网络版则是不错的选择。

DeepSeek本地部署的安装教程

准备工作:确保设备满足硬件要求,显卡GTX 1060 ( 6GB ) 及以上,推荐RTX 3060及以上;内存容量为8GB,推荐16GB及更高,C盘剩余存储空间20GB,推荐使用Nvme固态硬盘。

首先,前往Ollama官网中下载对应系统的程序。( Ollama 是一款开源的大语言模型本地部署工具,官网地址:https://

图片

接着,在上方的搜索框中搜索到DeepSeek-r1。根据用户电脑配置去选择模型精度,随后复制右侧的代码。(以1.5b模型精度为例,代码则是ollama run deepseek-r1:1.5b

图片

DeepSeek模型有多个版本:1.5b、7b、8b、14b、32b、70b、671b,版本越高对GPU要求越高。不同模型精度适配不同的配置,详情可看下图:

模型版本显卡配置
1.5B非必需,若需 GPU 加速可选 4GB 显存的如 GTX 1650
7B推荐 8GB + 显存,如 RTX 3070/4060
8B推荐 8GB + 显存,略高于 7B 版本需求,如 RTX 3070/4060 也可满足基本需求
14B16GB + 显存,如 RTX 4090 或 A5000
32B24GB + 显存,如 A100 40GB 或双卡 RTX 3090
70B32GB + 显存或多卡并行方案,如 2x A100 80GB 或 4x RTX 4090
671B多节点分布式训练,如 8x A100/H100 或 AMD MI300X(192G,8 块)

然后,按下“Win+R”打开运行窗口,输入“cmd”打开终端,可先输入“ollama -v”命令查看Ollama程序是否已经安装好。

图片

确认好已安装好程序后,再粘贴刚复制的命令,回车即可开始下载模型。

图片

(注:不同的模型,大小不同,下载的时间也不同,后续若想卸载模型,只需将命令中的run改成rm即可)

部分用户可能会遇到模型下载速度缓慢的情况,此时有个小技巧,只需按下“Ctrl+C”停止下载,再粘贴上方的命令即可重新下载,且保持已下载的进度条。

图片

部署安装完成后,即可在本地运行进行使用DeepSeek。

图片

一些用户可能会觉得没有UI,使用起来不太方便,想要像网络版一样在浏览器上使用,可以下载一个名为Pageassist的浏览器插件。

图片

(图片来源于Google商店)

本文图片/资料来源:

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多