发布日期：2026-05-28 11:29:16 浏览次数： 1817
作者：GraphScope
微信搜一搜，关注“GraphScope”
推荐语
Karpathy 新作：LLM 驱动的知识库，让代码也能“开口说话”。
核心内容：
1. LLM Wiki 的三层目录结构与管理逻辑
2. 知识“编译”与代码仓库的创新处理方式
3. 三重核心操作与开源实践带来的影响
杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家
> 把知识库注入你的LLM，一次查询节省6倍Token。
LLM领域的传奇大牛 Karpathy ，这次带来了全新的知识库。
就在一个多月前，Andrej Karpathy（没错，就是那个OpenAI创始团队成员，刚刚加入 Anthropic 的LLM研究员）发布了他日常使用的知识库形态。
“实体”、“概念”，这一套逻辑没变，区别是让LLM全面接手知识库的管理，包含三重目录和三种操作：
* •`raw`目录：存储原始文档
* •`wiki`目录：存储各个wiki页面，包括摘要、实体、概念等
* •`schema`目录：存储各种规则、提示词、约束
* •**Ingest**操作：将新的文档加入知识库
* •**Query**操作：用户向知识库发起提问
* •**Linter**操作：知识库健康检查，清理过时知识
如果说基于向量召回的知识库是知识的“**解释器**”，那么基于LLM的知识库就是知识的“**编译器**”。
LLM Wiki不会每次都读取原始知识，而是将知识“编译”成wiki摘要，并基于摘要回答。
而他的开源方式更加特立独行：没有完整的项目仓库，也没有可供复现的demo，而是直接在GitHub上开源了一个“llm-wiki.md”的文件。
# 将代码塞入知识库
Karpathy的方案一经提出便获得千万阅读，相关的复现实践更是层出不穷。但绝大部分的复现都局限于**文本数据**，例如学术论文、技术文档、学习笔记。
LLM Wiki能够取得巨大效果的核心原因在于，能够轻松将整篇文档放入上下文，直接理解文档内容并执行后续的抽取知识、总结wiki操作。
恰好我们的工作流需要频繁地调研竞品代码并对比，于是便有了一个新的idea：**为什么不把代码直接塞进知识库？**
# 怎么让 LLM 读透代码仓库？
先来看看需要分析的三个仓库：
**MySQL**- 6.36GB
**PostgreSQL**- 958 MB
**NeuG**- 38MB
再长的上下文也塞不进这么多信息。
因此，我们全面重构了LLM Wiki的数据管理逻辑，确保LLM不会遗漏每一个细节。
### 三层目录
在`raw`目录中，我们不再存储原始代码，而是直接通过**Submodule**关联到远程仓库。
默认情况下，Submodule 只是一个指向特定仓库特定分支的链接，只有LLM确实需要检查原始代码时才会下载代码。
通过submodule管理的代码仓库，天然支持增量更新，只需要直接对比两个分支的diff即可。
在`wiki`目录中，我们会将代码仓库划分成多个**模块**，每个模块都会生成一个独立的wiki页面，各自描述对应的功能。
每个模块对应的wiki页面和其他类型的wiki页面（如实体，对话等）一致，同样包含丰富的引用链接，并且可以关联到特定的概念页面。
在`schema`目录中，所有的**提示词**和**流程规范**都会永久保存，确保可复用性和一致性。
### 三重操作
LLM Wiki提供了三种核心操作：**摄入**、**查询**、**健康检查**。
其中查询和健康检查的操作都建立在wiki之上，可以直接复用，而如何在知识摄入阶段建立准确的wiki则是一个难题。
我们广泛调研并扩展了现有的工具，例如DeepWiki和RepoWiki，设计了一套两阶段生成方案：
* •**架构生成阶段**。LLM扫描仓库的元信息，例如README文件和项目目录，了解整个仓库的架构，并划分模块。
* •**细节生成阶段**。LLM针对每一个模块阅读具体的代码，并生成详细的wiki内容。
这种解析方式可以让LLM自主决定模块的划分，确保每个模块对应的代码规模适中，不会受到上下文规模的影响。
而将两阶段操作分开，便于用户快速观测划分的模块是否合理，在昂贵的wiki细节生成环节之前提前审查划分的质量。
# 怎么对齐概念和模块的名称？
“**从原始文档中抽取特定的概念**”是将数据存入知识库的核心操作，不同的文档可以通过相同的概念建立关联，实现知识的图谱化。
在LLM出现之前，概念的抽取与对齐是一个颇具挑战的任务：例如“数据修改”和“数据更新”其实对应相同的操作，而“量化交易”和“量化压缩”中的“量化”概念完全不同。
而现在强大的LLM借助对上下文的理解，几乎能够完全确保概念的对齐。具体来说，概念的抽取总结为下面三条规则：
> 阅读LLM wiki中已有的所有概念；
>
> 从该文档中总结3～5个概念；
>
> 最多只允许出现一个新的概念。
**这样做的好处在于鼓励LLM匹配并更新已有的概念，而不是新建，确保wiki的结构不会过于发散。**
受到这个概念的抽取过程启发，我们在解析代码仓库之前，提前将其他仓库的wiki目录注入上下文，并且要求LLM在划分模块时必须参考已有的模块标题。
这样，划分模块的过程就从“填空题”变成了“选择题”，确保最终抽取的模块能够尽量对齐。
# 实践案例：一个查询节约6倍token
在本案例中，我们选取两个知名数据库产品**MySQL**和**PostgreSQL**，以及我们团队的开源数据库产品**NeuG**，要求LLM wiki能够横向对比三个数据库在**事务管理**方面的能力。
### 回答质量对比
可以看到在事务处理的重点模块上（**MVCC**、**并发控制**、**隔离级别**、**WAL**）两组都可以精准提取。
差别在于对照组由于使用了原始代码，加入更多的**代码逻辑**，而实验组由于使用wiki就可以得到足够完整的结果，更倾向于介绍**整体架构设计**。
**从“技术方案总结”的角度来看，两者的回答质量都较高。**
### 资源开销对比
接下来我们对比两组实验所耗费的资源。由于单个上下文窗口中可能包含多轮对话，且不同类型的token计费也不同，因此我们统一采用最后出账的credit为基准作为对比数据。
可以看到在使用wiki之后，通过极少的token就可以解答问题，**整体提升率在6倍左右**。
此外，由于token生成的速度比较固定，token的消耗和整体执行时间大致成正比，这就导致整体的执行时间同样存在**高达4倍以上的差异**。
**一个更省token的方案，节约的不仅是你的金钱，还有你的时间。**
# 总结与展望
这次LLM Wiki + Code的实践案例，是我们尝试将wiki这一数据管理方式扩展到**多模态场景**的一次尝试。
我们认为，LLM管理的wiki就应该和LLM本身一样，**能够接收并输出任意格式的数据**。
同时，知识库的管理方式也打破了数据的边界，借助LLM的理解能力，**所有的数据都可以在一个统一的知识库下管理**。
下一步，我们会把这套流程整合进 CodeGraph[1]（基于NeuG[2]），让 coding Agent 在调研源码、跨仓库对比时，直接用上预编译好的代码知识库。
[登录查看剩余 70% 内容](javascript:void (0);)
https://www.53ai.com/keyword/AI%E7%9F%A5%E8%AF%86%E5%BA%93https://www.53ai.com/keyword/%E7%9F%A5%E8%AF%86%E7%AE%A1%E7%90%86https://www.53ai.com/keyword/%E7%9F%A5%E8%AF%86%E7%AE%A1%E7%90%86%E4%BD%93%E7%B3%BB
分享：
用微信扫描二维码
用微信扫描二维码
用微信扫描二维码
用微信扫描二维码
53AI，企业落地大模型首选服务商
**产品**：场景落地咨询+大模型应用平台+行业解决方案
**承诺**：免费POC验证，效果达标后再合作。**零风险落地应用大模型**，已交付160+中大型企业
https://www.53ai.com/news/zhishiguanli/2026053137958.htmlhttps://www.53ai.com/news/zhishiguanli/2026052809237.html
https://www.53ai.com/news/zhishiguanli
相关资讯
https://www.53ai.com/news/zhishiguanli/2026070483450.htmlhttps://www.53ai.com/news/zhishiguanli/2026070298312.htmlhttps://www.53ai.com/news/zhishiguanli/2026070210735.htmlhttps://www.53ai.com/news/zhishiguanli/2026070128069.htmlhttps://www.53ai.com/news/zhishiguanli/2026070103542.htmlhttps://www.53ai.com/news/zhishiguanli/2026070130596.htmlhttps://www.53ai.com/news/zhishiguanli/2026063070523.htmlhttps://www.53ai.com/news/zhishiguanli/2026063026970.html
https://www.53ai.com/solution.html
https://www.53ai.com/solution.html
160+中大型企业正在使用53AI
[立即咨询](javascript:void(0))[预约演示](javascript:void(0))
https://www.53ai.com/news/dongtai/2025012294502.htmlhttps://www.53ai.com/news/dongtai/2025012234192.html
https://hub.53ai.com/
热点资讯
https://www.53ai.com/news/zhishiguanli/2026040727630.htmlhttps://www.53ai.com/news/zhishiguanli/2026042838960.htmlhttps://www.53ai.com/news/zhishiguanli/2026041292651.htmlhttps://www.53ai.com/news/zhishiguanli/2026040796142.htmlhttps://www.53ai.com/news/zhishiguanli/2026060472109.htmlhttps://www.53ai.com/news/zhishiguanli/2026040705498.htmlhttps://www.53ai.com/news/zhishiguanli/2026042094382.htmlhttps://www.53ai.com/news/zhishiguanli/2026061189154.htmlhttps://www.53ai.com/news/zhishiguanli/2026042650829.htmlhttps://www.53ai.com/news/zhishiguanli/2026040807925.html
大家都在问
https://www.53ai.com/news/zhishiguanli/2026070483450.htmlhttps://www.53ai.com/news/zhishiguanli/2026063028037.htmlhttps://www.53ai.com/news/zhishiguanli/2026062952940.htmlhttps://www.53ai.com/news/zhishiguanli/2026062917592.htmlhttps://www.53ai.com/news/zhishiguanli/2026061976038.htmlhttps://www.53ai.com/news/zhishiguanli/2026060469170.htmlhttps://www.53ai.com/news/zhishiguanli/2026060124079.htmlhttps://www.53ai.com/news/zhishiguanli/2026052737860.html
热门标签
https://www.53ai.com/news/neirongchuangzuohttps://www.53ai.com/news/LargeLanguageModelhttps://www.53ai.com/news/gerentixiaohttps://www.53ai.com/news/langchainhttps://www.53ai.com/news/llamaindexhttps://www.53ai.com/news/MultimodalLargeModelhttps://www.53ai.com/news/RAGhttps://www.53ai.com/news/zhinengkefuhttps://www.53ai.com/news/knowledgegraphhttps://www.53ai.com/news/finetuninghttps://www.53ai.com/news/RAGFlowhttps://www.53ai.com/news/cozehttps://www.53ai.com/news/difyhttps://www.53ai.com/news/fastgpthttps://www.53ai.com/news/Bishenghttps://www.53ai.com/news/Qanythinghttps://www.53ai.com/news/AIqichehttps://www.53ai.com/news/AIjinronghttps://www.53ai.com/news/AIgongyehttps://www.53ai.com/news/AIpeixunhttps://www.53ai.com/news/AISaaShttps://www.53ai.com/news/tishicikuangjiahttps://www.53ai.com/news/tishicijiqiaohttps://www.53ai.com/news/AIdianshanghttps://www.53ai.com/news/AImianshihttps://www.53ai.com/news/shuziyuangonghttps://www.53ai.com/news/zhinengbaobiaohttps://www.53ai.com/news/zhishiguanlihttps://www.53ai.com/news/OpenSourceLLMhttps://www.53ai.com/news/zhinengyingxiaohttps://www.53ai.com/news/zhinengyingjianhttps://www.53ai.com/news/zhinenghuagaizaohttps://www.53ai.com/news/AIyiliaohttps://www.53ai.com/news/MaxKBhttps://www.53ai.com/news/Palantirhttps://www.53ai.com/news/Gleanhttps://www.53ai.com/news/Openclaw
[应聘简历请发送至： ceo@53ai.com](mailto:ceo@53ai.com)
https://www.53ai.com/product.html
https://www.53ai.com/product/quanyuanAIhttps://www.53ai.com/product/gongzuoduihuahttps://www.53ai.com/product/neirongchuangzuohttps://www.53ai.com/product/zhinengwendanghttps://www.53ai.com/product/mofacaidan
https://www.53ai.com/product/yewuAIhttps://www.53ai.com/product/weixinfenshenhttps://www.53ai.com/product/haiwaikefuhttps://www.53ai.com/product/guanwangkefuhttps://www.53ai.com/product/douyinkefuhttps://www.53ai.com/product/shuzilaoshihttps://www.53ai.com/product/shuzidudaohttps://www.53ai.com/product/zhinengfuwutai
https://www.53ai.com/product/AIXyewuhttps://www.53ai.com/product/zhinengwenshuhttps://www.53ai.com/product/zhinengshenhehttps://www.53ai.com/product/zhinenggongdanhttps://www.53ai.com/product/qiweigenjinzhushouhttps://www.53ai.com/product/zhinengbaojiahttps://www.53ai.com/product/qiweixiaoshouzhushouhttps://www.53ai.com/product/zijianyingyonghttps://www.53ai.com/product/qiweikefuzhushou
https://www.53ai.com/consulting.htmlhttps://www.53ai.com/fine-tuning.html
https://www.53ai.com/kehuanli.html
https://www.53ai.com/kehuanli/hangyeanlihttps://www.53ai.com/kehuanli/solution
https://www.53ai.com/news.html
https://www.53ai.com/news/qianyanjishuhttps://www.53ai.com/news/agentplatformhttps://www.53ai.com/news/hangyeyingyonghttps://www.53ai.com/news/qiyejingyinghttps://www.53ai.com/prompt.html
https://www.53ai.com/about.html
https://www.53ai.com/about/introductionhttps://www.53ai.com/about/cooperation
友情链接：
https://www.waytoagi.com/https://www.yuncan.com/https://www.wescrm.com/https://www.mingpian.top/https://www.uweb.net.cn/
CopyRight © 2012-2026 深圳市博思协创网络科技有限公司 版权所有
https://beian.miit.gov.cn/
广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）
深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204
上海：上海市浦东新区金新路58号1602室
微信扫码
和创始人交个朋友
联系我们
售前咨询
[186 6662 7370](tel:18666627370)
预约演示
[185 8882 0121](tel:18588820121)
微信扫码
添加专属顾问
回到顶部
加载中…
扫码咨询
[](https://www.53ai.com/news/zhishiguanli/2026052891643.html)
https://work.weixin.qq.com/ca/cawcde2599cf74e2d9https://work.weixin.qq.com/ca/cawcdefb661890e885[电话咨询](tel:400-838-1185)
扫码登录
– [x] 登录即表示您同意[《53AI网站服务协议》](javascript:void(0);)
服务协议
欢迎您使用【53AI 官方网站】（以下简称“本网站”或“我们”）。本《会员服务协议》（以下简称“本协议”）是您（以下简称“会员”或“用户”）与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。
在您注册或登录前，请务必审慎阅读、充分理解各条款内容，特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时，即视为您已完全理解并同意接受本协议的全部内容。
一、 定义
本网站：指由【深圳市博思协创网络科技有限公司】运营的，域名为【53ai.com】的网站及相关移动端页面。
会员服务：指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。
知识库内容：指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。
二、 账号注册与登录
登录方式：本网站支持以下登录方式，您可根据实际情况选择：
微信公众号授权登录：您同意将您的微信OpenID信息授权给本网站，用于创建或关联会员账号。
手机验证码登录：您需提供真实有效的手机号码，并通过短信验证码完成身份验证与登录/注册。
账号安全：您的账号仅限您本人使用，禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失，由您自行承担。
实名认证：根据相关法律法规要求，我们可能要求您在特定功能下完成实名认证。如您拒绝提供，可能无法使用部分或全部服务。
未成年人保护：若您未满18周岁，请在法定监护人的陪同下阅读本协议，并在征得监护人同意后使用本服务。
三、 服务内容与规范
知识库查阅权限：会员登录后，有权按照其会员等级对应的权限范围，在线浏览、检索本网站知识库中的相关文章及内容。
服务变更：我们有权根据业务发展需要，调整、变更或终止部分服务内容，并将以网站公告、公众号消息等方式提前通知。
禁止行为：您在使用服务时不得实施以下行为：
利用技术手段批量爬取、下载、转存知识库内容；
将知识库内容用于商业目的或未经授权地向第三方传播；
干扰本网站正常运行或侵犯其他用户合法权益；
发布违法违规信息或从事违反公序良俗的活动。
四、 知识产权声明
权利归属：本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有，受《中华人民共和国著作权法》等法律保护。
有限许可：本网站授予会员一项非独占、不可转让、不可转授权的普通许可，仅限于个人学习、研究之目的在线查阅知识库内容。
侵权追责：未经书面许可，任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现，我们保留追究其法律责任的权利。
五、 个人信息保护
我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息，请单独阅读 《隐私政策》。
您通过微信公众号授权或手机号验证所提供的信息，我们将严格按照《个人信息保护法》的规定处理，仅用于身份识别、服务提供及安全验证等必要用途。
您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。
六、 免责声明
内容准确性：知识库内容仅供参考，不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证，您应自行判断并承担使用风险。
不可抗力：因自然灾害、政策法规变化、网络故障、第三方平台接口异常（如微信接口维护、运营商短信通道故障）等不可抗力导致的服务中断或延迟，我们不承担违约责任。
第三方链接：本网站可能包含指向第三方网站的链接，该等网站的内容和服务不受我们控制，请您自行甄别风险。
七、 违约责任
如您违反本协议约定，我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施，并保留要求赔偿损失的权利。
如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失，您应承担全部赔偿责任（包括但不限于罚款、赔偿金、律师费、公证费等）。
八、 法律适用与争议解决
本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。
因本协议产生的或与本协议有关的任何争议，双方应友好协商解决；协商不成的，任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。
九、 其他
本协议构成双方就本服务达成的完整协议，取代此前任何口头或书面约定。
本协议任一条款被认定为无效或不可执行的，不影响其他条款的效力。
我们对本协议享有最终解释权，并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效，继续使用服务即视为同意修订内容。
[已查阅](javascript:void(0);)
安全验证
拖动下方拼图完成验证
AI生成背景
您的速度已超过 99% 的用户
验证错误,请重试
确定
安全验证
刷新验证码
反馈
切换无障碍验证
切换常规验证
