DeepSeek V3搭建个人知识库教程,AnythingLLM+DeepSeekV3

2025/3/26 16:09:17 1575 
 

为什么需要私人AI知识库为什么需要私人AI知识库

是不是厌倦了LLM⼀本正经的答⾮所问、套话...等低效的信息检索。

私有知识库在前AI时代就有⾮常多使⽤场景 ,尤其是企业内部知识、个人知识库等。结合⼀个优秀的 LLM之后 ,能够让知识检索和归纳上升⼀个台阶。

⼩⽩快速搭建个人AI知识库

个人AI知识库的⽅案有很多种 ,今天介绍⼀种难度很低且知识检索效果不错的⽅案:

AnythingLLM+DeepSeekV3。

• AnythingLLM 是⼀个知识库管理前端⼯具 ,⽀持上传知识、 向量化数据、 RAG(检索增强) ⼀条 龙服务 ,⽽且是开源免费的。

• DeepSeekV3(简称DS)是幻⽅量化的⼤模型 ,总体评分和Clad ue3.5不相上下 ,⽽且Token⾮常 便宜 ,本次⽅案使⽤DS作为推理模型。

(AnythingLLM还⽀持其他推理模型 ,如GPT、Claude或者ollama运⾏本地开源模型等)

⼀ 、安装AnythingLLM

1.下载地址:https://anythingllm.com/ ,⽀持windows、 mac、 Linux系统。

2.打开软件 ,先设置LLM ,这⾥选DeepSeek ,模型选择chat(也就是新的V3模型) 。API Key可以 去它们官⽹注册下 ,充值⼏块钱就够⽤了。

3.进⼊⼯作区 ,可以在左下角设置按钮中进⾏基础配置 ,如: LLM、嵌⼊模型、 向量数据库选择等 ,新 ⼿可以先保持默认设置。 (这⾥单d提下Embedding模型 ,Embedding是将⾼纬度数据嵌⼊低纬度空间⽅便存储 ,模型性能影 响对后续知识检索有挺⼤影响 ,建议可以换成bge-m3 ,这个模型对多语⾔和⻓⽂本都⽀持的不错 ,需

要本地运⾏Ollama加载这个模 , 由于需要安装Ollama ,新⼿可以跳过这⼀步)。

⼆ 、上传⽂档

1.上点击⼯作空间的上传按钮 ,打开上传

2.⽀持上传pdf、csv、⾳频或者抓取⽹页内容等等。上传后右键加⼊⼯作空间就ok了。




附件:DeepSeek V3搭建个人知识库教程,AnythingLLM+DeepSeekV3



 
上一篇   下一篇
 
返回顶部
  技术支持
  关于创泽
  隐私条款
咨询热线
 
销售咨询
4006-935-088 / 4006-937-088
 
客服热线
4008-128-728

版权所有 @ 创泽智能机器人集团股份有限公司
运营中心 / 北京市·清华科技园九号楼5层
生产中心 / 山东省日照市开发区太原路71