从零开始构建企业智能问答系统:Ollama+Deepseek+MaxKB本地部署指南
本文介绍了使用Ollama+Deepseek+MaxKB搭建企业级本地知识库的完整流程。内容包括Docker安装MaxKB,配置Ollama模型,创建知识库上传文档,以及构建智能问答应用。方案强调数据安全和检索效率,适合企业知识管理需求。最后还展示了如何将系统嵌入第三方应用,实现更广泛的应用场景。
本文介绍了使用Ollama+Deepseek+MaxKB搭建企业级本地知识库的完整流程。内容包括Docker安装MaxKB,配置Ollama模型,创建知识库上传文档,以及构建智能问答应用。方案强调数据安全和检索效率,适合企业知识管理需求。最后还展示了如何将系统嵌入第三方应用,实现更广泛的应用场景。
前排提示,文末有大模型AGI-CSDN独家资料包哦!
前言
还在为企业的知识管理头疼?试试Ollama+Deepseek+MaxKB,轻松搭建本地知识库,实现高效智能问答!本文将带你从安装部署到模型配置,再到知识库创建与第三方应用集成,手把手教你打造专属的企业级知识管理系统。无论是数据安全还是检索效率,这套方案都能完美满足你的需求!
MaxKB 的产品架构:

实现原理上,仍然是应用了 RAG 流程:

安装 MaxKB
首先我们通过 Docker 安装 MaxKB
-
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb注意这里镜像源是 china mainland,走代理的镜像会下载失败。
安装成功后访问:http://localhost:8080/ 登录,初始账号为:
-
用户名: admin -
密码: MaxKB@123..
进入系统后是这样的:

配置模型

可以看到有许多模型的供应商,这里你可以通过 API key 在线去连接大模型

所以,第一步我们添加模型选择 Ollama

第二步配置模型,在模型添加界面有几个点要注意(下图是修改界面,和添加界面差不多)

- 模型名称和基础模型一定要和你在
ollama list中显示的一样,不然可能会导致没有必要的重复下载和连接失败
- API 域名,因为 MaxKB 是 Docker 部署的,Ollama 是本机部署的,不在一个网络环境,所以要填 :host.docker.internal:11434
- API Key 可以自定义
创建知识库
模型添加完成,就可以创建知识库了。
这个比较简单,通过界面功能自己就能搞定,我就不多说了

这里比较好的是,MaxKB 支持选择文件夹,这一点 AnythingLLM 就不行,不过一次上传文件数量有限:

创建应用
创建知识库,就可以创建应用进行问答了

这里注意除了要为应用添加知识库外,还要进行一下设置参数

根据知识库大小进行选择

设置完成后点击演示

问答效果展示

嵌入第三方应用
我们经常看到一些网站右下角的浮窗就是这种形式,在 MaxKB 中支持嵌入三方应用,需要在应用的 “概览” 中点击 “嵌入第三方”

剩下的你只需要把代码集成到你的其他应用中就可以了

中…(img-97AR4tOk-1758770676871)]
剩下的你只需要把代码集成到你的其他应用中就可以了
[外链图片转存中…(img-UFsO7dGV-1758770676871)]

读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用。
针对0基础小白:
如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓


👉AI大模型学习路线汇总👈
大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈
这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难。

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
更多推荐
所有评论(0)