-
一篇RAG噪声分析的综述
今天分享一个针对RAG噪声的综述，中文标题为：潘多拉魔盒还是阿拉丁神灯：揭示 RAG 噪声在大型语言模型中作用的综合分析Pandora’s Box or Aladdin’s Lamp: A Comprehensive Analysis Revealing the Role of RAGNoise in Large Language Models检索增强生成（RAG）已成为解决大型语言模型（LLMs…- 8
- 0
-
Meta-Knowledge RAG：显著提升传统RAG的6大性能指标
Meta-Knowledge RAG：显著提升传统RAG的6大性能指标发布时间：2024 年 08 月 16 日RAGMeta Knowledge for Retrieval Augmented Large Language ModelsRAG 技术通过增强 LLM 的上下文相关信息，提升了其处理时效性和领域特定问题的能力，但构建高效综合多样化文档信息的 RAG 系统仍具挑战。我们创新性地将传统“…- 8
- 0
-
RAG数据集自动构造探索, 附PROMPT
从文档中手动创建数百个 QA（问题-上下文-答案）样本可能非常耗时且劳动密集。此外，人工生成的问题可能难以达到全面评估所需的复杂程度，最终影响评估的质量。通过使用合成数据生成，开发人员在数据聚合过程中的时间可以减少 90%。理想的数据集应涵盖生产中遇到的各种类型的问题，包括不同难度级别的问题。默认情况下，LLM 不擅长创建多样化的样本，因为它倾向于遵循共同的路径。今天我们介绍Ragas中创建数据的…- 7
- 0
-
搞大模型，没有重排工具怎么行？
在说重排工具之前，我们要先了解一下 RAG。检索增强生成（RAG）是一种新兴的 AI 技术栈，通过为大型语言模型（LLM）提供额外的 “最新知识” 来增强其能力。基本的 RAG 应用包括四个关键技术组成部分：Embedding 模型：用于将外部文档和用户查询转换成 Embedding 向量向量数据库：用于存储 Embedding 向量和执行向量相似性检索（检索出最相关的 Top-K 个信息）提示词…- 7
- 0
-
长文本 Embedding 模型中的“迟分”策略
大约一年前，2023 年 10 月，我们推出了全球首个支持 8K 上下文长度的开源 Embedding 模型 —— jina-embeddings-v2-base-en。自此，长文本在 Embedding 模型中的应用引发了广泛讨论和争议。信息压缩问题：将数千字的长文本编码为单一 Embedding 表示会导致语义信息的"过度压缩"，使得检索系统难以准确定位特定信息。检索粒度不…- 2
- 0
-
15 种高级 RAG 技术，值得收藏！
15 种高级 RAG 技术1.增加信息密度（Increase Information Density Using LLMs）利用 LLMs（大语言模型）处理、清理和标记数据，以提高信息密度，从而减少生成模型所需的上下文窗口大小，降低成本并提高响应准确性。就像我们在准备考试时，把一本教科书浓缩成一个简单的笔记，只保留最重要的知识点。这样复习起来更高效。2.应用分层索引检索（Apply Hierarc…- 2
- 0
-
RAG优化策略RAG-Fusion是什么？一文带你理清前因后果
RAG通过检索现有的大量知识，结合强大的LLM，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。然而，尽管RAG有其独特的优势，但在实践过程中也遭遇了多个挑战:当前搜索技术的限制：RAG受到限制的方面与我们的检索式基于词汇和向量的搜索技术相同。人类搜索效率低下：人类在向搜索系统输入他们想要的内容时并不擅长，如打字错误、含糊的 查询或词汇有限，这常常导致错过那些超出显而易见的顶部搜索结果的大量…- 5
- 0
-
一文说清大模型RAG应用中的两种高级检索模式：你还只知道向量检索吗？
如果你知道RAG（检索增强生成），那么一定知道这里面的R代表Retrieval即检索，也一定知道这个环节对于最终的生成质量有多重要，而基于向量（Vector）的语义检索是最为熟知的一种基础检索模式。但在实际应用中，如果只是简单的使用一次向量检索，往往很难满足多样化的需求。所以在模块化RAG的时代，很多新的范式与算法都对检索这个环节进行了大量的创新与优化，本文将深入探讨两种在RAG应用中可灵活应用的…- 7
- 0
-
构建“生产就绪”的企业级RAG应用的6大优化考量【下】
多模态文档处理企业中有很多的知识并不总是简单的文字形态，很多是以半结构化与非结构化文档的形式存在，最常见的就是图、文、表混排的PDF文档。针对复杂PDF文档的解析、分割与向量化是常见的一种复杂知识处理需求，且在实际应用中达到的效果往往不尽如人意（有少量原因是一些文档自身排版与格式的过度随意与不规范）。 处理复杂多模态文档一般需要借助到第三方的PDF解析…- 2
- 0
-
Google Gemini 做 RAG 的4大阶段10个步骤
从B站看到一位小姐姐分享《基于 Gemini 和向量搜索的生成式推荐》，里面提到做RAG的流程，我总结为4大阶段10个步骤如下：一、知识准备阶段1. 文档收集与预处理首先收集大量的相关文档，即知识。这些文档可以是文本文件、PDF、网页、图片等多种形式。收集完成后，对文档进行预处理，包括清洗、去重等，确保数据的质量。其中可以做元数据提取，提取文件名、章节title、图片alt信息等，也利用OCR等技…- 6
- 0
-
大模型RAG中二次重排序的重要性：为什么需要rerank
在两阶段检索系统中，第一阶段的嵌入模型负责从庞大的数据集中快速检索出一组与查询相关的候选文档。嵌入模型通过将文档和查询转换为向量表示，计算它们之间的相似度，进而筛选出可能相关的文档。由于嵌入模型能够将复杂的文本信息压缩成固定长度的向量，因此这一过程非常高效，尤其适用于处理大规模数据集。然而，嵌入模型在压缩文本信息时会丢失部分上下文信息，导致它的准确率不如重新排序器。为了解决这一问题，在第二阶段，我…- 6
- 0
-
深度解读RAG技术发展历程：从基础Naive RAG 到高级Advanced，再到模块化Modular RAG的全面升级
深度解读RAG技术发展历程：从基础Naive RAG 到高级Advanced，再到模块化Modular RAG的全面升级1.RAG简介为了引出什么是 RAG，先看一下 LLM 当前存在的问题：幻觉、过时的知识、不透明无法追踪的推理过程RAG（Retrieval-Augmented Generation，检索增强生成），是指对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威…- 4
- 0
-
探索RAG与Multi-Agent的结合：解决复杂任务的新方法
最近帮企业定制了一个langgraph+rag的项目，跟大家简单介绍一下设计架构和具体的应用。如果大家有兴趣，我也可以出一期视频，给大家详细介绍一下。我们会一步步探讨如何构建一个可以控的Agent，以执行RAG任务，并最终展示一个简短的演示。什么是RAG？RAG，全称Retrieval-Augmented Generation，是一种辅助AI语言模型生成基于外部信息文本的方法。在RAG中，我们将数…- 6
- 0
-
以度量为驱动的代理开发RAGAS：提升RAG性能的关键
今天我们要讨论的是以度量为驱动的代理开发，特别是如何通过度量来评估代理在检索信息和生成答案方面的表现。这个度量驱动的方法的核心理念是，通过在我们的pipline中添加评估，我们可以更快速地迭代代理和检索生成（RAG）性能。这正是我们将在这里重点讨论的内容：如何通过Langchain将RAG应用于对话代理。引入我们的代理首先，我们将介绍我们的代理。我们的代理将使用Claude 3 LLM（大型语言模…- 7
- 0
-
具有自我纠正功能的高级 RAG | LangGraph | 无幻觉 | 代理 | GROQ
想过如何让你的大型语言模型（LLMs）更聪明、更可靠吗？想象一个不仅能检索信息，还能自我纠正以提供准确响应的系统。欢迎来到具有自我纠正功能的高级检索增强生成（RAG）的世界。在本文中，我们将探讨使用 LangGraph 构建自适应和自我反思 RAG 应用程序的过程。目标是构建一个能够自我批评以防止幻觉的系统，集成强大的代理，并利用 GROQ 减少 LLM 响应的延迟。理解 RAGRAG 将信息检索…- 6
- 0
-
长文本 Embedding 模型中的“迟分”策略
大约一年前，2023 年 10 月，我们推出了全球首个支持 8K 上下文长度的开源 Embedding 模型 —— jina-embeddings-v2-base-en。自此，长文本在 Embedding 模型中的应用引发了广泛讨论和争议。信息压缩问题：将数千字的长文本编码为单一 Embedding 表示会导致语义信息的"过度压缩"，使得检索系统难以准确定位特定信息。检索粒度不…- 5
- 0
-
长上下文 还是 RAG？ Google:我全都要！
最近，深度学习和人工智能领域的大牛们在arXiv上发表了一篇有趣的研究，标题挺长的：《检索增强生成或长上下文大型语言模型？全面研究和混合方法》。今天分享一篇由Google DeepMind和密歇根大学的研究人员发布的一个长上下文和RAG混合的方法。Retrieval Augmented Generation or Long-Context LLMs? AComprehensive Study an…- 7
- 0
-
RAG Foundry：一个用于增强大语言模型以实现检索增强生成的框架
一、结论写在前面论文来自Intel Labs。论文标题：RAG Foundry: A Framework for Enhancing LLMs for Retrieval Augmented Generation 论文链接：https://arxiv.org/pdf/2408.02545代码：https://github.com/IntelLabs/RAGFoundry实…- 7
- 0
-
GraphRAG揭秘：构建层次化知识图谱的终极指南
简介现在的 RAG 检索增强生成是一种使用真实世界信息改进 LLM 输出的技术。大多数 RAG 方法使用向量相似性作为搜索技术，叫 Baseline RAG 。但是 RAG 提取的每个文档是独立的，没有显式的结构化关系。检索出的文档可能缺乏上下文连接，并且依赖于语言模型的推理能力还有检索出的文…- 7
- 0
-
Easy-RAG 一个适合学习、使用、自主扩展的检索增强生成系统
当今时代，人工智能技术的飞速发展为各行各业带来了革命性的变化。在自然语言处理领域，检索增强生成（RAG）系统因其卓越的性能和广泛的应用前景，正成为研究和应用的热点。今天，我要向您推荐的是一个创新的系统——Easy-RAG，它不仅易于学习、使用，还具备自主扩展的能力。希望能让您对RAG能更近一步的了解。一、Easy-RAG 系统概览Easy-RAG 是一个开放源代码的检索增强生成 (RAG) 系统，…- 6
- 0
-
一文简单了解RAG的心脏 —— 向量数据库
2023年，大模型的出现惊艳世界，2024年，RAG技术如火如荼，RAG可以在大模型不进行预训练或微调，获得必要的上下文，降低大模型的幻觉，RAG出现解决了大模型的幻觉问题同时也标志着搜索范式的变化。向量数据库作为RAG的心脏，RAG的向量数据库市场竞争越来越激烈，本文主要简单了解一下向量数据库的相关内容。什么是向量数据库？向量数据库是一种组织有序的向量嵌入集合，整合了可以随时创建、读取、更新和删…- 6
- 0
-
15 种高级 RAG 技术，值得收藏！
一篇报告，介绍了 15 种高级 RAG（检索增强生成，Retrieval-Augmented Generation）技术，可以从预检索、检索、后检索和生成四个环节来细分。值得学习。15 种高级 RAG 技术1.增加信息密度（Increase Information Density Using LLMs）利用 LLMs（大语言模型）处理、清理和标记数据，以提高信息密度，从而减少生成模型所需的上下文窗…- 5
- 0
-
TC-RAG: Turing-Complete RAG–图灵完备的检索增强
文章链接：[2408.09199] TC-RAG:Turing-Complete RAG's Case study on Medical LLM Systems (arxiv.org)本文作者单位：北京大学计算机学院，高可信软件技术教育部重点实验室 高可信软件技术教育部重点实验室(北京大学…- 8
- 0
-
也看CommunityKG-RAG用于事实核查任务：从建库到检索技术实现思路解读
今天，我们继续来看看关于Graph/KG-RAG，其中有涉及到一个社区的问题，比如微软等方案都有在讲这个，将其于于事实核查任务结合，是个应用的方向，我们来看看一个有趣的工作。8月份即将结束，供大家一起参考并思考。一、CommunityKG-RAG用于事实核查任务先说下这个事实核查是个啥东西，事实核查任务的目标是定位最相关的前n个句子，以便使用大型语言模型将给定的声明分类为被反驳、被支持或信息不足的…- 4
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×