-
使用 Markdown 和 Gemini 为 RAG 解锁 PDF
可以说，检索增强生成（RAG）为许多企业和组织带来了变革。通过将像 Gemini[1] 这样的 LLM 的内置功能与您自己的信息相结合，您可以创造出真正具有变革性的强大体验。尽管如此，创建一个能够很好处理复杂非结构化文档（如 PDF）的 RAG 应用程序仍然是一个挑战。本文提出了一种从 PDF 中提取文本并转换为 Markdown 格式的新技术，从而提高了检索增强生成（RAG）…- 4
- 0
-
长文 | RAG的实战指南及探索之路
1. 背景介绍RAG（Retrieval Augmented Generation，检索增强生成 ）方法是指结合了基于检索的模型和生成模型的能力，以提高生成文本的质量和相关性。该方法是Meta在2020年发表的文章《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中提出的，该方法让LM（Language Model，…- 4
- 0
-
2024年，百万上下文依然没有杀死RAG
每一次，当基础模型能力变强，总会有人预言：RAG（检索增强生成）或许要过时了。但目前为止，每一次，这种预言都已落空。比如今年2月，当第一批百万上下文长度模型出现的时候，有人说KV缓存会取代RAG。后来大模型Agent突飞猛进的时候，又有人说10年就是以嵌入为基础的RAG的最后期限。10年毕竟太远，现在很难说得清楚。但有RAG存在的未来，已经业内有不少人正在积极规划：产业界，英伟达等巨头亲自下场挖掘…- 9
- 0
-
在推荐、RAG等业务中，如何完成亿级向量的快速检索？
在推荐、RAG等业务中都需要用到ANN(Approximate Nearest Neighbor)，最常用的方法就是用户Query向量与向量库中的每个向量遍历检索得到答案，俗称暴力计算，这样做精度最高，但效率也最低。同时还有个非常严重的问题，那就是存储，假设一个向量用1024维的float32（4字节）来表示，即一个向量所占的内存就是，那么一千万个向量所占空间就是。暴力计算通常用于精准度要求极高的…- 3
- 0
-
RAG 工程实践优化点及方法总结
一、优化索引结构1.1 优化被检索的embedding微调被检索的 embedding目的：增强被检索内容与 query 之间的相关性，尤其适用于术语更新迅速且罕见的领域。通过微调，可以使 embedding 更好地捕捉特定领域的语义信息，从而提高检索的准确性。方法示例：可利用领域内的专业术语、最新的术语更新数据等对 embedding 进行针对性训练，使模型能够更精准地理解和匹配与这些术语相关的…- 4
- 0
-
强化 RAG 应用：生成式 AI 返回准确率提升的高效策略与实践
摘要：RAG 是一种将信息检索与语言生成相结合的技术架构。在 RAG 中，搜索召回主要是指从外部知识源（如文档库、数据库等）中检索出与用户查询相关的信息片段，以便为后续的语言生成提供依据。其召回过程大致如下：首先，将用户的输入查询进行处理和理解，通常会将其转化为适合检索的形式（如向量表示等）。然后，利用这些表示在预先构建的索引或知识库中进行搜索匹配，通过特定的检索算法（如基于向量相似度的算法等）找…- 2
- 0
-
RAG开发中，如何用Milvus 2.5 BM25算法实现混合搜索
01.背景混合搜索(Hybrid Search)作为RAG应用中Retrieve重要的一环，通常指的是将向量搜索与基于关键词的搜索（全文检索）相结合，并使用RRF算法合并、并重排两种不同检索的结果，最终来提高数据的召回率。全文检索与语义检索不是非此即彼的关系。我们需要同时兼顾语义理解和精确的关键字匹配。比如学术论文的写作中，用户不仅希望在搜索结果看到与搜索查询相关的概念，同时也希望保留查询中使用的…- 10
- 0
-
构建生产级 RAG 系统前，必须搞懂的 7 个核心问题
在人工智能领域，如何使大模型既能理解外部数据，又能高效回答复杂问题，一直是生产级应用开发中的核心挑战。检索增强生成（RAG, Retrieval-Augmented Generation）技术正为这一难题提供解决方案。本文将带您深入探索如何构建生产级 RAG 应用，解决常见技术难题，并优化性能表现。一、使用大模型理解外部数据的两种范式在实际开发中，大模型理解外部数据的关键有两种主要范式：1. 检索…- 5
- 0
-
除了混合搜索，RAG 还需要哪些基础设施能力？
Infinity 是一款专门为 RAG 设计的，在功能和性能上全面领先的数据库，针对向量，稀疏向量，还有文本类数据，分别提供高性能的向量搜索、稀疏向量搜索以及全文搜索，并且提供这些数据之上的高性能范围过滤，除此之外，还提供了基于 Tensor 的重排序，这使得数据库内置不亚于 Cross Encoder 的排序能力成为可能，并且还是多模态 RAG （还有个流行的说法叫做 VisualRAG）的强力…- 9
- 0
-
万字长文梳理 2024 年的 RAG
在已经过去的 2024 年，RAG 的发展可以称得上是风起云涌，我们回顾全年，从多个角度对全年的发展进行总结。首先用下图镇楼：对于 2024 年的 RAG 来说，有一系列标志性事件：关于 RAG 的争论—RAG 已死，RAG 永存！2024 年在年初被称为“RAG 发展元年”，虽然这并非共识性的说法，但事实证明，全年的进展无愧于这一称号。在LLM 使用的场景中，RAG 自始至终都在扮演着不可或缺的…- 4
- 0
-
面向医疗场景的大模型 RAG 检索增强解决方案
在现代信息检索领域，检索增强生成（Retrieval-Augmented Generation, RAG）模型结合了信息检索与生成式人工智能的优点，从而在特定场景下提供更为精准和相关的答案。在特定场景下，例如医疗等领域，用户通常需要精确且相关的信息来支持决策。传统生成模型虽然在自然语言理解和生成方面表现良好，但在专业知识的准确性上可能有所不足。RAG 模型通过将检索与生成相结合，能有效提升回答的准…- 2
- 0
-
深入RAG工作流：检索生成的最佳实践
今天分享的是复旦大学和智能信息处理上海市重点实验室联合发表的一篇文章：实现检索增强生成（RAG）的最佳实践论文题目：Searching for Best Practices in Retrieval-Augmented Generation论文链接：https://arxiv.org/pdf/2407.01219代码地址：https://github.com/FudanDNN-NLP/RAG?ta…- 7
- 0
-
o1 pro “碾压式”洞察：世界顶尖免疫学专家被机器深度分析“惊醒”
今天想跟大家聊一个科技圈和生物医学圈都值得关注的“炸裂”事件。一位顶尖的免疫学专家，Derya Unutmaz博士，刚刚分享了一段让他“震撼到情绪激动”的经历：他把自己和学生撰写的关于MAIT细胞的综述文章，交给o1-Pro进行评估，结果AI给出的评论和洞察碾压了他这可不是一般的科学家，Derya Unutmaz博士是研究衰老和癌症免疫疗法领域的权威，对MAIT细胞的研究更是到了“炉火…- 6
- 0
-
使用 Lang Chain 和 Lang Graph 构建多代理 RAG ：分步指南 + Gemma 2
检索代理[1] 在我们想要判断文档是否相关以决定是否从索引中检索时非常有用，或者它可以从网络搜索工具中检索。要实现检索代理，我们只需让 LLM 访问检索工具。智能体 RAG 是一种基于智能体的方法，用于以有序的方式对多个文档进行问答。虽然标准 RAG 在少量文档的简单查询中表现出色，但智能体 RAG 进一步提升，成为问答的强大解决方案。它通过采用 AI 智能体引入了一层智能。这些智能体作…- 8
- 0
-
RAG评估框架：RAG Triad框架及其实战
RAG 三元组由三个关键的评估指标组成：答案相关性、忠实度和上下文相关性。若一个 RAG 管道在这三个指标上均表现出色，则可以确信该管道使用了最优的超参数。因为在 RAG 三元组中，每个评估指标都对应着一个特定的超参数。例如：答案相关性：答案相关性指标评估的是生成的答案与用户输入问题的相关性。在当前的大型语言模型（LLM）中，推理能力已经相当强大，因此在优化答案相关性时，重点往往是调整提示模板（p…- 5
- 0
-
2个简单技巧把 RAG 检索准确率从 50% 提高到 95 %
在讨论了 RAG 的 chunking、embedding、评估指标、评估流程等技术后，我们进一步探讨 RAG 系统的实际应用。在实际项目中，RAG（Retrieval-Augmented Generation）系统的检索阶段往往是影响生成效果的核心环节。RAG 系统的工作流程包括数据摄取（Data Ingestion）和数据查询（Data Querying），其中检索是至关重要的一步。本文介绍了…- 6
- 0
-
Browser-Use + LightRAG Agent：可使用 LLM 抓取 99% 的网站
在这个故事中，我将提供一个快速教程，展示如何使用浏览器使用、LightRAG和本地LLM创建一个强大的聊天机器人，以开发一个能够抓取您选择的任何网站的AI代理。此外，您可以询问有关您的数据的问题，这将为您提供该问题的回答。免责声明：本文仅用于教育目的。我们不鼓励任何人抓取网站，特别是那些可能有反对此类行为的条款和条件的网络属性。现有的RAG系统存在显著的局限性，包括依赖扁平数据表示和缺乏上下文意识…- 5
- 0
-
Dynamic RAG实战：解决知识增强中的动态更新挑战
在探讨大模型在垂直领域的落地实践时，我们往往会遇到这样一个关键问题：如何在保证模型输出质量的同时，又能够让模型具备领域专业知识？目前业界主流的技术路线包括：Prompt Engineering、RAG（检索增强生成）、微调以及预训练等方案。每种方案都有其适用场景和技术边界：Prompt Engineering：是大模型应用的入门级选择，适合资源有限且需要快速验证的场景。虽然其技术难度低、投入少，但…- 21
- 0
-
构建行业RAG应用系统：金融、财务、保险、医疗等行业该怎么做？
金融、财务、保险和医疗行业创建 RAG 应用系统的意义RAG 应用系统在金融、财务、保险和医疗行业中具有重要意义，可高效识别 PDF 和图片中的表格信息，如财务报表、资产负债表、保险理赔单和医疗化验结果等。通过将这些表格转化为结构化数据并存储于向量数据库，RAG 系统能快速检索和分析数据，支持智能决策、优化规划、提升效率，并实现个性化服务。既然RAG系统在这些行业这么有意义，那该怎么构建RAG应用…- 7
- 0
-
构建基于多智能体RAG的企业的AI应用程序
本文重点介绍了多智能体RAG如何利用如AWS Bedrock和SingleStore等先进科技增强实时AI交互。让我们从理解朴素的RAG方法开始。理解基础的RAG（检索增强生成)朴素的RAG（或简单的RAG）构成了更为复杂系统的基础概念。它涉及通过检索机制增强语言模型的能力，使其能够访问外部数据源，从而提供更为详尽的响应。虽然朴素的RAG在基本应用中可能有效，但它通常缺乏企业级应用所需的复杂性。这…- 9
- 0
-
必读！RAG好用的3种Router
本公众号主要关注NLP、CV、LLM、RAG、Agent等AI前沿技术，免费分享业界实战案例与课程，助力您全面拥抱AIGC。目前开源了很多LLMs大模，虽然GPT4o一直占据第一位的宝座，但是并不是在每个领域都很强。例如：写代码的Code-LM、做数学的meta-math,做图文多模态的Macaw-llm等等。都有自己的强项。PolyRouter提供了一个多LLM路由系统，该系统根据特定需求动态将…- 3
- 0
-
GraphRAG0.5.0：从安装到高效应用的全方位指南
Graphrag 介绍GraphRAG（基于知识图谱检索增强生成）是一种新型的检索增强生成（RAG）技术，它通过将知识图谱（KGs）或图形数据库与大型语言模型（LLMs）集成，显著增强了传统的检索增强生成方法。以下是对 GraphRAG 的详细介绍：GraphRAG 的基本原理GraphRAG 旨在通过知识图谱和图机器学习技术来提升大语言模型（LLM）的能力。它利用从大型语言模型中提取的知识图谱，…- 8
- 0
-
大模型之深入探索RAG流程
前言在上一章【大模型之初识RAG】中，我们初步了解了RAG的基本概念和原理，并通过代码实践了一个简单的RAG流程。本章我们将基于RAG的基本流程，深入了解文档读取(LOAD)、文档切分(SPLIT)、向量化(EMBED) 和 存储(STORE) 的每个环节，并结合代码进行常见场景的实践。RAG流程回顾回顾RAG的流程如上所示，具体代码见RAG代码，本章不再赘述。文档读…- 12
- 0
-
如何构建一个可信的联邦RAG系统
今天给大家分享一篇论文。题目是：C-RAG：如何构建一个可信的联邦检索RAG系统。论文链接：https://arxiv.org/abs/2412.1316301论文概述尽管大型语言模型 (LLM) 在各种应用中展现出令人印象深刻的能力，但它们仍然存在可信度问题，例如幻觉和偏差。检索增强语言模型 (RAG) 被提出通过接地外部知识来增强生成的可靠性，但对其生成风险的理论理解仍未探索。当前RAGt可信…- 7
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×