一、部署环境

我的都是普通办公电脑,windows,不带GPU

二、安装ollama

1、访问ollama官方网站

https://ollama.com

2、选择相应的操作系统
macOS、linux(centos 8)、windows10 我都安装好,还是比较方便的
macOS和windows,都是安装文件直接安装
linux我是基于docker安装的,会单独写一篇基于centos8+docker+anythingssl搭建局域网知识库
在这里插入图片描述

三、下载模型

这篇我是以windows为例,打开cmd,输入相应模型命令,就静静等待安装完成
在这里插入图片描述

入门级:1.5B版本,适合低配置个人知识库测试,我是用办公电脑装了1.5b,7b就装不上了。如果硬件实在不行,可以通过硅基流动,不依赖于本地硬件,就可以体验满血deepseek-r1,我另外写一篇内容可以查看相关操作。

ollama run deepseek-r1:1.5b

中级:7B或8B版本,适合大多数消费级硬件。

ollama run deepseek-r1:7b
ollama run deepseek-r1:8b

高级:14B、32B、70B或者671B版本,适合高性能硬件。

ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b

具体可以查看ollama官网-Models-deepseek-r1
在这里插入图片描述

四、下载cherry studio

官网上下载cherry studio

https://cherry-ai.com/

在这里插入图片描述
点击cherry studio设置按钮-模型服务-选择ollama-开启服务-选择API地址
在这里插入图片描述

五、搭建个人知识库,这个目前做不了局域网的,仅限于个人使用

1、点击知识库按钮-点击添加-输入知识库和嵌入模型,上传对应文件
在这里插入图片描述
2、开始对话
对话的时候选择知识库回答
在这里插入图片描述

Logo

一站式 AI 云服务平台

更多推荐