windows本地化部署deepseek1.5+ollama+cherry studio搭建个人知识库
windows本地化部署deepseek1.5+ollama+cherry studio搭建个人知识库
·
一、部署环境
我的都是普通办公电脑,windows,不带GPU
二、安装ollama
1、访问ollama官方网站
https://ollama.com
2、选择相应的操作系统
macOS、linux(centos 8)、windows10 我都安装好,还是比较方便的
macOS和windows,都是安装文件直接安装
linux我是基于docker安装的,会单独写一篇基于centos8+docker+anythingssl搭建局域网知识库
三、下载模型
这篇我是以windows为例,打开cmd,输入相应模型命令,就静静等待安装完成
入门级:1.5B版本,适合低配置个人知识库测试,我是用办公电脑装了1.5b,7b就装不上了。如果硬件实在不行,可以通过硅基流动,不依赖于本地硬件,就可以体验满血deepseek-r1,我另外写一篇内容可以查看相关操作。
ollama run deepseek-r1:1.5b
中级:7B或8B版本,适合大多数消费级硬件。
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
高级:14B、32B、70B或者671B版本,适合高性能硬件。
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b
具体可以查看ollama官网-Models-deepseek-r1
四、下载cherry studio
官网上下载cherry studio
https://cherry-ai.com/

点击cherry studio设置按钮-模型服务-选择ollama-开启服务-选择API地址
五、搭建个人知识库,这个目前做不了局域网的,仅限于个人使用
1、点击知识库按钮-点击添加-输入知识库和嵌入模型,上传对应文件
2、开始对话
对话的时候选择知识库回答
更多推荐




所有评论(0)