我的DeepSeek本地AI服务搭建之旅

风来自远方 互联网评论阅读模式

最近,人工智能领域的一颗新星DeepSeek吸引了我的目光。很多人对AI技术怀有敬畏之心,觉得它宛如一座难以攀登的高峰,总会联想到复杂得让人头疼的神经网络和机器学习算法,仿佛只有依托那些强大无比的服务器才能实现其功能,普通人想要接触简直比登天还难。

但当我深入研究后,惊喜地发现DeepSeek的入门版本十分“接地气”,甚至可以用普通的笔记本电脑搭建。这让我萌生了一个大胆的想法:自己动手搭建一个本地AI服务。下面我就和大家详细分享我的搭建过程和使用体验。

但是用笔记本搭建的用起来非常卡,还是不建议大家用直接用成品的AI工具使用还好一点,比如,纳米AI搜索里面就有接入deepseek满血版本。

搭建指南目录

  1. 笔记本电脑软硬件配置确认
  2. 安装Ollama
  3. 安装DeepSeek模型,并开启对话
  4. 安装美化界面Chatbox
  5. 试用与感受

软硬件配置确认

在动手搭建之前,我们得先确定自己的笔记本电脑是否适合用于DeepSeek搭建。经过一番“功课”,需要确认以下这些方面。

先来说硬件配置,这里列出了DeepSeek的最低配置和推荐配置:

  • 最低配置:Win10以上系统 ,CPU要支持AVX2指令集,16GB内存以及30GB存储。
  • 推荐配置:NVIDIA GPU(RTX 3090 或更高性能),32GB内存和50GB存储。

由于我的笔记本没有独立显卡,只能看看是否满足最低配置。其中,CPU支持AVX2指令集是DeepSeek的硬性要求,可以借助工具CPU - Z来查看详细的CPU信息。一般新买的笔记本电脑大多支持这个指令集,但老款或者比较旧的电脑就需要查看一下了。

CPU - Z的下载地址为:https://download.cpuid.com/cpu-z/cpu-z_2.14-cn.zip ,下载完成后安装并打开,就可以查看相关信息。

我的DeepSeek本地AI服务搭建之旅-图片1

下载并安装Ollama

  1. 下载Ollama 可以从Ollama官方网站(https://ollama.com/ )下载安装包,但这个网站在Github上,下载速度可能会很慢。我推荐大家从https://ollama.zhike.in/ 下载,
  2. 使用github加速链接(745M版本):https://ghfast.top/https://github.com/ollama/ollama/releases/download/v0.5.7/OllamaSetup.exe
  3. 安装Ollama 在windows系统下运行安装包,它会自动安装到C盘。安装完成后,在命令提示符(通过运行 - cmd命令打开)中输入命令:ollama --version 。如果输出版本号(比如ollama version is 0.5.7 ,显示的就是你安装的版本号),则表明安装成功。

安装DeepSeek模型

DeepSeek - R1有多种模型可供选择:

入门级:1.5b版本,适合初步测试。它拥有15亿参数,约占1.1G空间,是DeepSeek训练的基础模型。中端:7b或8b版本,适合大多数消费级GPU。7b版本大约4.7G,8b版本大约4.9G,从测试得分来看,8b版本的表现还不如7b版本。

  • 高性能:14b、32b或70b版本,适合高端GPU 。

因为我的笔记本配置比较一般,所以选择安装入门版本的1.5b模型来体验一下。要是你的笔记本配置好,或者台式机带有较好的显卡,就可以选择更高版本的模型。

在cmd命令行中输入相应命令进行安装:

  • 安装1.5b模型命令:ollama run deepseek - r1:1.5b
  • 安装7b模型命令:ollama run deepseek - r1:7b

输入命令后回车等待,安装完成会提示“success”,这就代表安装好了。下载的模型会保存到:C:\Users\你的用户名.ollama\models\blobs (每个人的用户名不一样)。

我的DeepSeek本地AI服务搭建之旅-图片2

安装完成后开始对话

当安装自动完成,出现“success”提示符时,就意味着安装大功告成,是不是挺简单的?接下来就可以和AI直接对话或者提问了。但在cmd窗口操作既不方便,界面又不美观,所以我们需要安装一个对话界面来提升使用的便利性。

要是不小心关闭了命令框,还可以再次进入cmd,输入命令:ollama run deepseek - r1:1.5b 重新打开对话框。

我的DeepSeek本地AI服务搭建之旅-图片3

安装前端美化界面Chatbox

Chatbox官方网站是:https://chatboxai.app/en

Windows版的下载链接为:https://download.chatboxai.app/releases/Chatbox - 1.9.8 - Setup.exe

下载安装好Chatbox后,打开软件进行关键配置:选择“使用自己的API Key或本地模型”,然后API类型选择 “Ollama API”,接着保存设置。这一步能确保Chatbox与我们部署的DeepSeek - R1模型进行正确通信。

我的DeepSeek本地AI服务搭建之旅-图片4

接口地址默认是http://127.0.0.1:11434 ,这是Ollama服务的默认接口地址,通过它Chatbox就能连接到本地运行的DeepSeek - R1模型。模型选择deepseek - r1:latest (因为本地只下载了一个模型),设置好后就可以愉快地和AI聊天了。

我的DeepSeek本地AI服务搭建之旅-图片5

微信咨询
打开微信扫一扫
weinxin
QQ咨询
打开QQ扫一扫
weinxin
82265727
千月工作室
风来自远方
  • 本文由 风来自远方 发表于 2025年2月18日11:53:00
  • 转载请务必保留本文链接:https://52dg.998w.cn/2139.html
  • DeepSeek
  • DeepSeek本地部署
  • DeepSeek本地搭建
  • DeepSeek笔记本电脑安装
匿名

发表评论

匿名网友
:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:
确定

拖动滑块以完成验证