Ollama+MaxKB 搭建本地大模型知识库

大模型在训练时学习到的知识大部分都是些通用知识,当我们向它提问一下专业领域的知识时,往往不能得到很多的效果。

对于这种情况,我们可以将涉及到的一些专业或预备知识构建成知识库,在模型回答问题时让它去知识库中找到最相关的段落,然后带着这些知识与问题一起生成更精准的回答。

在这方面目前已经有了比较成熟的开源项目MaxKB,说不多话,直接分享如何搭建本地大模型知识库

首先登录ollama官网(https://ollama.com/download/),点击对应操作系统下载后一键安装

Ollama+MaxKB 搭建本地大模型知识库

ollama本地部署开源模型

Ollama+MaxKB 搭建本地大模型知识库

docker拉取MaxKB镜像并运行

官方指导文档(https://maxkb.cn/docs/installation/online_installtion/)

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

Ollama+MaxKB 搭建本地大模型知识库

Ollama+MaxKB 搭建本地大模型知识库

通过8080端口访问(默认用户名admin,密码MaxKB@123..)进去后可以修改密码

Ollama+MaxKB 搭建本地大模型知识库

选择添加ollama供应商

Ollama+MaxKB 搭建本地大模型知识库

如果基础模型不在选项中,可以直接填写ollama run的模型名称然后回车,api域名填ollama所在机器的ip:11434端口,本地大模型的apikey随意填非空即可

Ollama+MaxKB 搭建本地大模型知识库

(如果添加后显示api域名无效,首先确保不要使用127.0.0.1和localhost,还是不行修改环境变量OLLAMA_HOST为0.0.0.0再重启ollama

创建知识库

Ollama+MaxKB 搭建本地大模型知识库

点击上传文档,然后创建并导入

Ollama+MaxKB 搭建本地大模型知识库

选择智能分段并导入,完成后如下图

Ollama+MaxKB 搭建本地大模型知识库

然后创建应用

Ollama+MaxKB 搭建本地大模型知识库

选择之前创建的模型,关联创建的知识库,最后保存并发布

Ollama+MaxKB 搭建本地大模型知识库

选中概览,点击演示

Ollama+MaxKB 搭建本地大模型知识库

与直接在模型中提问比较效果

Ollama+MaxKB 搭建本地大模型知识库

由于我构建知识库时上传pdf的是一篇讨论中国在人工智能产业发展中挑战的论文,所以其回答明显提取了论文中的信息与观点

Ollama+MaxKB 搭建本地大模型知识库

前沿技术提示词技巧新闻资讯

AI 大脑如何被 “套路”?— 揭秘大模型提示词攻防

2026-4-17 18:37:12

前沿技术新闻资讯模型微调

高效微调大模型:XTuner 工具库全面解析

2026-4-17 18:43:34

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索