-
Magic-PDF：端到端PDF文档解析神器 构建高质量RAG必备！
项目结构流程解析预处理的作用是判断文档内容是否需要进行OCR识别，如果是普通可编辑的PDF文档，则使用PyMuPDF库提取元信息。模型层除了常规的OCR、版面结构分析外，还有公式检测模型，可提取公式内容，用于后续把公式转化为Latex格式。但是目前暂无表格内容识别，官方预计1个月之内会放出。管线层主要是把上面模型的结果进行加工处理。比如把公式转化为Latex格式、图表保存起来成为图片、把文本框进行…- 4
- 0
-
ACL2024 | LLM+RAG可能要毁了信息检索，一份深入研究
论文：[ACL2024] Spiral of Silence: How is Large Language Model Killing Information Retrieval?—A Case Study on Open Domain Question Answering地址：https://arxiv.org/pdf/2404.10496研究背景研究问题：这篇文章研究了大型语言模型（LLMs）…- 6
- 0
-
揭秘MemoRAG：AI记忆模块如何提升生成质量
RAG技术已经成为当下提升大语言模型（LLMs）生成质量的重要手段。然而，传统的RAG方法在处理模糊信息需求或非结构化知识时存在显著局限性。近期，一项名为《MEMORAG: MOVING TOWARDS NEXT-GEN RAG VIA MEMORY-INSPIRED KNOWLEDGE DISCOVERY[1]》的研究提出了一种创新的RAG框架——MemoRAG，通过引入长时记忆模块，显著提升了…- 7
- 0
-
大模型RAG的下一形态，MAG
LLMs在处理长文本时，因为注意力机制二次时间和空间复杂度的问题，所以处理长文本时的内存消耗和计算成本有点恐怖。检索增强生成RAG自然就成了一个工业界成熟的解决方案，MemLong是一个新的解决方案，跟之前有些产品提到的RAG2.0有点类似（RAG 2.0有无数个版本~）。整体上来看，他跟RAG的对比图如下，主要是通过存储过去的上下文和知识在一个记忆库中，利用这些存储的信息来检索（K-V and …- 5
- 0
-
【RAG】LongRAG：利用长上下文LLMs增强检索增强生成
前言现有的RAG框架通常使用100词的短段落作为检索单元，这种设计使得检索器需要在大量语料库中搜索，增加了工作负担，并且容易引入难负样本，影响性能。LongRAG框架为了解决这一问题，该框架使用长检索单元（最多4K词），显著减少了语料库的大小（从22M减少到600K），从而减轻了检索器的负担，并提高了检索性能。一、方法LongRAG框架由两个主要组件构成：长检索器（Long Retriever）和…- 9
- 0
-
北航沙磊教授：当Agentic RAG照进现实｜Agent Insights
WWDC 24 发布会上，苹果带来了全新的系统，除此之外，Apple Intelligence 作为压轴戏也终于上演，让我们看见了 AI 如何融入我们的日常生活。绿洲邀请到了一位在 NLP 领域有着学术背景和产业双重背景的专家——沙磊教授，他曾经也在美国湾区苹果公司 Siri 组工作。沙教授将在本期为我们介绍他的最新研究项目 ATM（Adversarial Tuning Multi-agent S…- 8
- 0
-
大模型分不清 9.9 与 9.11 谁大，那 Embedding 模型呢？
这是我在维也纳举行的 ICML 会议上被问到的问题。在茶歇期间，一位 Jina 用户向我提出了一个 LLM 社区最近热议的问题。他问我们 Jina Embedding 模型能不能判断 9.11 比 9.9 更小，很多大模型在这个小问题上栽了跟头。我说：“说实话，我也不确定。” 他接着详细阐述了这个问题对于他研究的重要性，并暗示：Tokenizer 可能是问题的根源，我若有所思点点头，脑海里开始构思…- 5
- 0
-
RAG系列｜大模型之RAG扫盲
最近RAG在日常工作中出现的越来越频繁，网上相关资料很多，今天我们一起来初步认识RAG、了解RAG工作原理、RAG优化的关键技术、如何评估RAG的有效性以及RAG存在的问题挑战。认识RAG大型语言模型 (LLM) 已成为我们生活和工作中不可或缺的一部分，通过其惊人的多功能性和智能改变了我们与信息交互的方式。尽管它们的能力令人印象深刻，但它们并非没有缺陷。这些模型可能会产生误导性的“幻觉”，依赖可能…- 10
- 0
-
认识GraphRAG、理论结合案例剖析
背景一、引言1.1 GraphRAG 是什么1.2 GraphRAG 能做什么1.3 GraphRAG 预期用途1.4 GraphRAG 示例效果二、技术原理2.1. 索引第一步：拆分文本块2.2. 索引第二步：解析出元素实例2.3. 索引第三步：总结元素摘要2.4. 索引第四步：检测出图社区（community）2.5. 索引第五步：总结社区摘要2.6.1 索引查询：全局搜索2.6.2 索引查询…- 5
- 0
-
深度解析RAG技术在大模型时代的原理与实践
RAG的概念QCon北京2024上涉及了很多大模型应用落地场景，出现比较多的应用模式关键词是：AI Agent和RAG（RAG也常被在Agent的Cot或是Mutil-Agent协作的流程中）。上篇针对AI Agent有过初步讲解，那什么是RAG？本文将结合Qcon的见闻，基于RAG的核心组件、RAG的常见范式，RAG的应用场景及RAG的评估，介绍当前各大公司使用RAG进行相应应用落地实践情况。0…- 4
- 0
-
一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？
点击上方蓝字关注我们GraphRAG是一种基于知识图谱的检索增强生成（RAG）应用，不同于传统基于向量检索的RAG应用，其允许进行更深层、更细致与上下文感知的检索，从而帮助获得更高质量的输出。 我们已经用几篇文章演示过GraphRAG应用的基本创建与使用过程（基于Langchain/LlamaIndex，以及Microsoft GraphRAG框架）。那么什么时候应该使用GraphRAG，而什么时…- 3
- 0
-
企业级RAG应用优化大全【下】：检索与生成阶段的8个必知技巧
点击上方蓝字关注我们在上篇中（企业级RAG应用优化大全【上】：数据索引阶段的8个必知技巧），我们对企业级RAG应用在数据索引阶段的常见优化方法做了总结。本篇将专注到RAG应用在检索与生成阶段的优化： 使用查询重写提高检索的精确性 用语义路由来分发请求 使用高级检索机制 用检索后处理来丰富上下文 选择合适的LLM 优化你的响应生成模式 用Agent（智能体）的思想优化RAG 在上线前评估你的RAG系…- 5
- 0
-
基于RAG的智能知识问答探索企业知识边界
信息时代到来，企业积累的数字文档知识数量巨大，文档中蕴含的信息对业务发展至关重要，与企业相关的数据价值难以估量。企业利用好现有资源，将企业资源合理配置，将数据串联，产生更大的效益，这才是企业最需要的。然而，传统的搜索技术常常因只能进行关键字查询而无法满足对文档深层次理解的需求。因此需要建立一个面向企业级知识管理的智能问答，对知识进行统一管理，通过精准的信息检索加上严格的权限控制，帮助企业内部员工挖…- 3
- 0
-
长文本分块的新策略——后期分块（Late Chunking），让RAG应用”又准又高效”
你是否曾经为了在海量文档中找到关键信息而苦恼不已?在AI时代,这个问题似乎已经不再是难题。但是,当我们面对特别长的文本时,检索系统往往会陷入两难:要么牺牲精确度,要么付出高昂的成本。最近,JinaAI提出了一个叫后期分块(Late Chunking)[1]的新方法,声称可以解决这个难题。今天,我们就来一探究竟,看看这个新技术到底有什么神奇之处。后期分块:颠覆传统的新思路想象一下,你在整理一大堆文件…- 7
- 0
-
轻松上手GraphRAG源码，手把手教你怎样给GraphRAG增加流式输出
在我的LLM项目开发过程中，第一个遇到的需求就是实现流式输出。这个功能可以减少用户的等待时间，从而提升用户体验。不过，目前作为一个演示项目，GraphRAG还没有支持流式输出。因此，我将带领大家实现这个流式输出功能。我们的目标不仅是添加新功能，更重要的是通过这个过程，加深你对GraphRAG源码的理解。命令行添加streaming参数GraphRAG在graphrag/query/main.py文…- 11
- 0
-
为什么RAG应用很难落地？细说RAG系统开发关键痛点和解决方案
受 Barnett 等人所著的《Seven Failure Points When Engineering a Retrieval Augmented Generation System》一文启发，本文将探讨其中提到的几个关键问题。更重要的是，我们将深入探讨如何应对这些 RAG 系统中的挑战，以便在日常开发中更好地解决这些问题。格式错误当我们告诉计算机以某种特定格式（比如表格或JSON）来整理信息…- 2
- 0
-
最近爆火的GraphRAG是什么，真的能用于商业应用吗？
GraphRag解决了什么问题在朴素的RAG（自我检索生成模型）中，我们使用一个向量库作为我们的知识库。当用户提出查询时，该系统从向量库中匹配顶部K个元素作为上下文，并将这个上下文与提示和查询一起交给大型语言模型(LLM)进行回答。现在，让我们假设这个向量库是指向企业知识的。有两个示例查询:xx产品的价格是多少？去年技术团队的成果有哪些？对于第一个问题，由于它是非常具体的，知识库的搜索可能会找到相…- 1
- 0
-
大模型RAG实战｜如何优化对网页信息的处理
ThinkRAG大模型RAG实战系列文章，带你深入探索使用LlamaIndex框架，构建本地大模型知识库问答系统。本系列涵盖知识库管理、检索优化、模型本地部署等主题，通过代码与实例，讲解如何打造生产级系统，实现本地知识库的快速检索与智能问答。LLamaIndex提供了众多数据装载器（Loader）。我们最常用的是SimpleDirectoryReader，用于加载各种PDF、DOCX文件或整个文件…- 8
- 0
-
RAG文本切分LV3：轻松定制Markdown切分
之前介绍了文本切分五个层级，本文方法是第三个层次：Level 1: Character Splitting - 简单的字符长度切分Level 2: Recursive Character Text Splitting - 通过分隔符切分，然后递归合并Level 3: Document Specific Splitting&nbs…- 5
- 0
-
【深入浅出RAG】结合LlamaCloud优化Chunksize
在检索增强生成（RAG）系统中，分块大小的选择可以显著影响检索的准确性和系统的整体性能。然而，传统上尝试不同的分块大小一直是一个耗时的过程。本文探讨了分块大小优化相关的挑战，并介绍了LlamaCloud的功能，这些功能有助于简化这一过程。Chunksize实验许多开发者已经找到了在RAG流水线中试验检索参数和提示的方法——调整top-k和问答提示是相对直接的任务，当然对性能有影响。在索引阶段试验参…- 10
- 0
-
如何提升大模型RAG系统的效果？RAG推理增强(二)
“如何提升大模型RAG系统的推理能力，尤其是RAG中的Generation部分，即假定我们已经检索到了Top K的相关文档出来之后，如何排除不相干的信息？如何根据已有信息进行知识推理？”本文试图从几篇paper中提炼几个提升大模型RAG系统推理能力的方法： 强大的基座模型数据构造提升大模型RAG推理能力CoT与RAG相辅相成提升大模型RAG推理能力OODA迭代式推理提升大模型RAG推理…- 8
- 0
-
如何提升大模型RAG系统的效果？RAG框架 and 落地选型 （一）
本文Key Takeaway：RAG整体框架论文证实有用的RAG trick:Query改写PE/HyDE/LLM ReRank工业落地的一些实际选型：意图分流；领域BGE；RAG Fusion；多路召回01背景为什么要写RAG？RAG的各种优化眼花缭乱，公众号、论文都多的看不过来了，需要进行一个梳理，挑点重点能落地的进行尝试。之所以有这么多方式，本质还是因为rag是一个系统，包含非常多的模块所以…- 8
- 0
-
RAG应用过程监控系统选型：LangFuse
Langfuse 是一个开源 LLM 工程平台，可帮助团队协作调试、分析和迭代他们的 LLM 应用程序。1、概述：核心平台功能发展可观察性：检测你的应用并开始将跟踪信息导入 Langfuse（快速入门、跟踪）跟踪应用程序中的所有 LLM 调用和所有其他相关逻辑适用于 Python 和 JS/TS 的异步 SDK@observe()Python 的装饰器OpenAI SDK、Langchain、Ll…- 20
- 0
-
一键安装最新生产环境GraphRAG UI，kotaemon日增1.3KStar霸榜Github
这两天Github上有一个项目火了。可用于生产环境GraphRAG的开源UI项目kotaemon，更新不到两天后已经有6.6KStar，昨日新增1.3KStar已位居Github Trending榜首。周末抽空部署了一下，还挺简单，推荐给大家。可能大家用了一段时间GraphRAG感觉还不错。但很多读者反应，不好部署，也不知该怎么用，那么这个UI界面的GraphRAG或许可以解决这些个问题。我还是用…- 7
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×