-
MemoryScope：为LLM聊天机器人配备的长期记忆系统
01前言记忆连接着人的过去与现在，塑造着人的身份和经验。每个人的记忆都是独一无二的，记忆存储着经历和知识，帮助人类不断提升与突破自我。如果在生活工作中，能有一个AI助手能像朋友一样，记住我们的喜好、习惯，甚至是微小的细节，提高工作效率必不在话下。面对当下RAG（ Retrieval-Augmented Generation）与各类Memory Management框架蓬勃发展的景象，构建一个既强大…- 2
- 0
-
LightRAG：创新双级检索系统，整合图形结构，实现更强大信息检索！
检索增强生成（RAG）系统通过集成外部知识源，提升了大型语言模型（LLMs）的准确性和上下文相关性。然而，现有的RAG方法仍存在明显的不足，包括对平面数据表示的依赖和对复杂上下文的处理能力不足，这常常导致回答碎片化，无法捕捉信息之间的深层关系。为了解决这些问题，我们推出了LightRAG。这一创新框架将图形结构引入文本索引和信息检索过程，采用双级检索系统，提升了从低级和高级知识发现中获取综合信息的…- 16
- 0
-
AI领域的新突破：混合RAG系统提升复杂推理能力
致敬不凡，致敬平凡|原标题：A Hybrid RAG System with Comprehensive Enhancement on Complex Reasoning| 链接：https://arxiv.org/pdf/2408.05141| 日期：2 Sep 2024核心概述这本主要介绍了一种增强的混合检索增强生成（RAG）系统，通过改进网页中的文本块和表格、添加属性预测器以减少…- 8
- 0
-
o1推理扩展的风吹到了RAG，性能飙升58.9%！
以往的研究主要集中在通过增加检索文档的数量或长度来扩展检索增强生成（RAG）中检索到的知识。然而，仅增加知识量而不提供进一步的指导存在一定的局限性。为此，Google DeepMind研究了RAG在推理计算扩展（Inference Scaling）情况下的性能，特别是当上下文很长时。通过应用最优配置，在长上下文LLMs上扩展推理计算可以实现高达58.9%的性能提升。用于RAG的推理扩展策略为了衡量…- 7
- 0
-
语义分块真的有效吗？
最近看到一篇有意思的论文《Is Semantic Chunking Worth the Computational Cost?[1]》，论文探讨了在检索增强型生成（Retrieval-Augmented Generation, RAG）系统中，语义分块（semantic chunking）与传统固定大小分块（fixed-size chunking）的效率和性能比较。语义分块旨在通过将文档分割成语义…- 8
- 0
-
突破传统RAG局限：GraphRAG如何提升大模型问答能力？
大模型存在不可避免的幻觉问题，这正是RAG（检索增强生成）发挥作用的地方。RAG通过连接外部数据源，将事实型知识引入大模型。但是，传统基于向量的RAG仍有其局限性，传统RAG是将数据分解成文本块，并独立检索这些片段，这可能导致遗漏信息片段之间的关系，缺乏全局视角。GraphRAG是一种正在兴起的RAG技术，利用知识图谱来表示数据和元数据，同时还可以将文本或节点嵌入到图中。GraphRAG通过将知识…- 13
- 0
-
打造自己的RAG解析大模型：(可商用)智能文档分析解决方案！
在上一篇文章中，我们成功将文本识别、表格识别和版面识别模型串联，实现了对PDF文档的全面解析。然而，随着技术的飞速发展，文档智能解析领域迎来了更加创新的解决方案。近日，百度发布了PP-ChatOCRv3，基于数据融合技术，提供了OCR模型的二次开发功能，大幅提升了模型的微调能力。该技术将百万级高质量的通用OCR数据与垂直领域的模型训练数据按特定比例融合，解决了传统行业模型训练过程中，通用文本识别能…- 9
- 0
-
记忆力的本质就是注意力，AI框架带给我的启发，深刻解析记忆的神秘过程
记忆力不好的人，通常注意力也不咋地，记忆力和注意力有没有什么关系？如何才能记得更加高效？人为什么没有三岁前的记忆？如果你了解过记忆的一些研究，应该会接触过一种叫记忆曲线的图，随着时间的推移人们会遗忘记忆中的知识和事实。有句老话叫时间会淡化一切，说的就是这个道理。知道了记忆曲线这个概念，有规律地去回顾那些记忆项，就能把记忆保留得更久。同时，我们仍然需要了解记忆的本质。记忆的本质是什么？我们从大模型词…- 4
- 0
-
深度测评 RAG 应用评估框架：指标最全面的 RAGas
大家常说 RAG 应用是：一周出 demo，半年用不好。那么怎么评估 RAG 应用是否能够上生产了呢？如果公司人手足够，当然可以人工测试评估准确性，但指标未免单一。本文介绍一个全自动化的 rag 应用评估框架 ragas。RAGas（RAG Assessment)[1]RAG 评估的缩写，是一个专门的解决方案用于评估、监控和提升生产环境中大语言模型（LLM）和检索增强生成（RAG）应用的性能，包括…- 11
- 0
-
-
RAG(Retrieval-Augmented Generation)评测：评估LLM中的幻觉现象
Retrieval-Augmented Generation (RAG) 系统依然是当前很热门的话题，虽然当前RAG技术有了很大的进步，有很多专业的框架（RAG（Retrieval Augmented Generation）及衍生框架：CRAG、Self-RAG与HyDe的深入探讨），也有很多创新的思路Retrieval-Augmented Generation (RAG 检索增强生成) 创新切块…- 7
- 0
-
一文梳理RAG（检索增强生成）的现状与挑战
一 RAG简介大模型相较于过去的语言模型具备更加强大的能力，但在实际应用中，例如在准确性、知识更新速度和答案透明度方面，仍存在不少问题，比如典型的幻觉现象。因此，检索增强生成 (Retrieval-Augmented Generation, RAG) 被当作于大模型应用开发的一种新范式。RAG是指在利用大语言模型回答问题之前，先从外部知识库检索相关信息，然后再让模型根据这些信息进行总结归纳，这样便…- 5
- 0
-
数据库文档问答的应用和演化
导读 PingCAP 的 AILab 项目人力投入不超过三人，因此本文将以小团队视角，分享如何利用 RAG 方法高效构建各种 RAG 应用。今天的介绍会围绕下面四点展开：1. 较大规模文档的业务挑战2. RAG 技术落地实践和演化过程3. 前沿介绍4. Q&A分享嘉宾｜李粒 PingCAP PM 编辑整理｜王吉东内容校对｜李瑶出品…- 4
- 0
-
5.3K+ Star！llmware：一个构建企业级RAG管道的统一框架
llmware 简介llmware[1] 提供了一个统一的框架，用于构建基于大型语言模型（LLM）的应用，例如RAG（Retrieval-Augmented Generation）和多步骤代理工作流（Agent）。它使用小型、专门的模型，这些模型可以私有部署，安全地与企业知识源集成，并针对任何业务流程进行成本效益的调整和适应。项目特点主要特点RAG管道：集成组件，负责从知识源连接到生成性AI模型的…- 4
- 0
-
论文解读：迄今为止最好的 RAG 技术栈
概述这篇文章深入探讨了 Wang 等人在 2024 年的研究，旨在为构建高效的检索增强生成（RAG）系统提供最佳实践建议。文章由 Towards AI 的联合创始人兼 CTO Louis-Francois 撰写，分析了 RAG 系统的核心组件与策略。主要内容摘要查询分类：通过分类任务决定是否需要进行检索，确保系统只在必要时检索外部数据。数据分块：为数据选择合适的块大小至关重要，理想的块大小在 25…- 6
- 0
-
多文档RAG｜一个结构化数据提取工具：Knowledge Table
多文档提取和检索是一项艰巨的任务。将信息以结构化的方式进行映射以便于检索，其实比听起来要复杂得多。构建适用于多个文档的 RAG 系统尤为困难，尤其是当你希望确保 LLMs 返回的答案具有一定的细粒度，而不仅仅是QFS(查询聚焦摘要)任务时。为解决这一问题，找到一个基于表格的多文档提取和图谱创建工具：KnowledgeTable。点关注不迷路介绍 KnowledgeTable(知识表)Knowled…- 8
- 0
-
颠覆RAG性能！揭秘多头RAG的强大优化秘诀
尽管经典的检索增强生成（RAG）通过将检索到的文档纳入大型语言模型（LLM）的上下文中来提供更准确和相关的响应，从而增强了模型的功能，但它在处理多样化内容查询时表现出局限性。此类查询在实际应用中非常常见，尤其是在需要从截然不同的多个信息源中获取答案时，RAG方案往往难以应对。这是因为这些文档的嵌入在嵌入空间中可能相距较远，传统的检索方法很难同时准确捕获所有相关内容，导致查询结果不够全面或准确。尤其…- 2
- 0
-
RAG/LLM 和 PDF：增强文本提取
在LLM（大型语言模型）应用程序的RAG（检索增强生成）场景中提取PDF文本变得越来越重要。认识到虽然文本“数据”仍然是大预言模型的主要原材料，但文本的上下文及其通过表格、图像或图形的视觉表示也变得越来越重要。PyMuPDF能够从PDF （和其他文档格式）中提取文本、表格、图像、矢量图形等。然后，您可以将此文本转换为各种格式，例如 JSON、CSV、Excel、纯文本、HTML 或 XML。PyM…- 7
- 0
-
FixAgent: 基于多 Agent 交互的自动 debug 应用框架
本文是由香港中文大学、伊利诺伊大学联合发表。该文提出的 FixAgent 框架通过 LLM 代理的协同作用的方式，能够一站式完成漏洞的定位、修复和分析。有效提升模型 20% debug 能力。FixAgent: A Unified Debugging Approach via LLM-Based Multi-Agent SynergyFixAgent: 基于多 Agent 交互的自动 debug …- 17
- 0
-
使用RAG技术构建企业级文档问答系统：检索优化(8)Step-Back Prompting
1 概述Step-Back Prompting是Google DeepMind团队在论文Take a Step Back: Evoking Reasoning via Abstraction in Large Language Models中提出的一种Prompt技术。跟CoT要解决的问题类似，本质上都是In-Context Learning，区别在于CoT是让LLM将求解步骤分开，不要一次输出所…- 6
- 0
-
三个最新RAG前沿思路分解：从Astute RAG减少检索噪声到Retriever-and-Memory自适应检索迭代生成
今天是2024年10月17日，星期四，北京，天气阴。来回顾下昨日大模型早报，社区日常互动，欢迎加入。我们来看看最近的三个RAG进展，包括Astute RAG、StructRAG、Retriever-and-Memory等几个工作，有些思路很有趣，可看看。供大家一起参考并思考。一、Astute RAG减少检索噪声不太好的检索结果可能引入无关、误导甚至恶意信息；LLMs内部知识与外部知识之间的潜在冲突…- 5
- 0
-
RAG技术深度优化：三大策略帮你打造智能回答新高度
近年来，检索增强生成（Retrieval-Augmented Generation，RAG）技术在自然语言处理领域取得了显著发展。RAG通过将检索（Retrieval）与生成（Generation）相结合，能够有效解决开放领域问答中的信息缺失和答案不准确的问题。然而，为了让RAG在实际应用中更加有效，提升生成答案的准确性仍是研究重点。本文将结合理论与实践，详细探讨如何从知识内容、生成能力、检索能力…- 4
- 0
-
使用RAG技术构建企业级文档问答系统：检索优化(10)上下文压缩
1 概述检索阶段面临的一个挑战是，通常你无法预知你的文档存储系统在处理数据时会面临哪些具体的query。这意味着，对于一个query来说，最相关的信息可能被埋没在包含大量无关文本的文档中。如果你将整个文档传递给LLM，可能会导致更昂贵的调用开销，以及响应质量的下降。这其实与上一节介绍的一样，都是信息被稀释的问题。上下文压缩（Contextual compression）技术尝试解决这一问题，想法非…- 9
- 0
-
探索DB-GPT V0.6.0：构建智能数据助手应用开发指南
亲爱的读者朋友们，今天我们将带您深入了解DB-GPT V0.6.0的最新功能——构建一个数据助手类应用；让我们一起探索如何通过DB-GPT，将复杂的数据处理和智能问答变得触手可及！目标概览构建你的数据助手应用，包含以下三个方面的能力：1.根据文档进行智能问题2.根据数据库进行数据对话3.根据工具插件进行互联网搜索这三类能力，可以基于DB-GPT提供的意图识别的能力，在一个对话中使用。数据助手会根据…- 3
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×