在 AI 大语言模型的激烈竞争中,DeepSeek 脱颖而出,以其强大的自然语言处理能力、出色的代码生成效果和流畅的多轮对话表现,成为众多 AI 爱好者和开发者的心头好。但用户在线使用时频繁遭遇到服务器繁忙的问题,而本地部署能有效解决这一困扰。接下来,让我们一起来探究DeepSeek如何进行本地部署,对比网络版又有什么差别。
可以看得出DeepSeek 的本地版本和网络版各有优劣。如果你对数据隐私、离线使用和定制化有较高要求,且有一定的硬件和技术支持,那么本地部署更适合你;如果你希望快速使用、操作简单,且对数据隐私和定制化要求不高,网络版则是不错的选择。 准备工作:确保设备满足硬件要求,显卡GTX 1060 ( 6GB ) 及以上,推荐RTX 3060及以上;内存容量为8GB,推荐16GB及更高,C盘剩余存储空间20GB,推荐使用Nvme固态硬盘。 首先,前往Ollama官网中下载对应系统的程序。( Ollama 是一款开源的大语言模型本地部署工具,官网地址:https://) 接着,在上方的搜索框中搜索到DeepSeek-r1。根据用户电脑配置去选择模型精度,随后复制右侧的代码。(以1.5b模型精度为例,代码则是ollama run deepseek-r1:1.5b) DeepSeek模型有多个版本:1.5b、7b、8b、14b、32b、70b、671b,版本越高对GPU要求越高。不同模型精度适配不同的配置,详情可看下图:
然后,按下“Win+R”打开运行窗口,输入“cmd”打开终端,可先输入“ollama -v”命令查看Ollama程序是否已经安装好。 确认好已安装好程序后,再粘贴刚复制的命令,回车即可开始下载模型。 (注:不同的模型,大小不同,下载的时间也不同,后续若想卸载模型,只需将命令中的run改成rm即可) 部分用户可能会遇到模型下载速度缓慢的情况,此时有个小技巧,只需按下“Ctrl+C”停止下载,再粘贴上方的命令即可重新下载,且保持已下载的进度条。 部署安装完成后,即可在本地运行进行使用DeepSeek。 一些用户可能会觉得没有UI,使用起来不太方便,想要像网络版一样在浏览器上使用,可以下载一个名为Pageassist的浏览器插件。 (图片来源于Google商店) 本文图片/资料来源:
|
|