-
从普通RAG到RAPTOR，10个最新的RAG框架
大型语言模型（LLMs）如GPT-4在自然语言处理（NLP）领域有着重要作用，擅长生成文本、回答问题等任务。但这些模型也存在一些短板，比如对最新信息的掌握不足、难以实时更新知识库以及在处理大量信息时效率不高。为了解决这些问题，检索增强生成（RAG）技术应运而生，它通过整合外部数据源，提升了模型的响应质量和适用性。今天分享10种改进版的RAG技术，它们在检索和生成环节上各有侧重，覆盖了从通用到特定问…- 4
- 0
-
如何使用 RAG 提高 LLM 成绩
初学者友好的介绍 w/ Python 代码本文是关于在实践中使用大型语言模型的更大系列的一部分。在上一篇文章中，我们使用 QLoRA 对 Mistral-7b-Instruct 进行了微调，以回应 YouTube 评论。尽管微调后的模型在回应观众反馈时成功捕捉了我的风格，但它对技术问题的回答与我的解释并不匹配。在这里，我将讨论如何通过检索增强生成（即 RAG）来提高 LLM 的性能。大型语言模型（…- 6
- 0
-
提升RAG性能的全攻略：优化检索增强生成系统的策略大揭秘 | 深度好文
.01概述近年来，随着检索增强生成（Retrieval Augmented Generation，RAG）应用的快速普及，其性能优化成为开发者们关注的热点。尽管基础RAG管道设计较为简单，但要满足实际业务需求，往往需要更高级的优化策略。本文将全面解读RAG优化的各类方法，帮助大家快速掌握主流策略并在实践中应用。.02RAG管道基础：从零开始理解工作原理一个标准的RAG管道一般包含以下几个基本步骤：…- 3
- 0
-
FastGraphRAG 如何做到高达 20%优化检索增强生成（RAG）性能优化
在自然语言处理领域，检索增强生成（RAG）被广泛用于构建基于知识的生成系统。然而，随着知识库规模的增长，如何高效检索并生成相关内容成为一大挑战。本文将带你深入了解 FastGraphRAG 这一创新工具，它通过经典 PageRank 算法的巧妙应用，为提升 RAG 系统性能提供了全新解决方案。从推荐系统到智能问答：RAG 的效率困局想象一下，你正在开发一个智能问答系统。它需要从…- 3
- 0
-
为裸奔的大模型穿上防护服;企业AI安全护栏设计指南
随大模型应用门槛逐步降低，越来越多的企业以大模型为基础，开始构建基于 RAG 和 Agent 的内部智能应用系统。尤其今年以来，各种开源和商用的 RAG、Agent 框架如雨后春笋般大量涌现，技术也日趋成熟，大家的选择多了起来，落地速度也快了不少。但在快速落地的过程中，尤其是使用开源项目搭建 RAG 系统的场景中，有些企业却忽视了一个很关键的问题：即安全护栏的建设。无安全护栏的 RAG 系统，虽能…- 4
- 0
-
RAG-Fusion技术在产品咨询中的实践与分析
本文研究了Infineon技术人员和客户经理快速获取产品信息的需求，评估了新流行的RAG-Fusion方法。RAG-Fusion结合了检索增强生成（RAG）和互惠排名融合（RRF），通过生成多个查询并使用互惠分数重新排序文档，以提供更准确和全面的答案。然而，该方法面临的一个挑战是，当生成的查询与原始查询相关性不足时，答案可能会偏离主题。RAG已在多个知识密集型自然语言处理任务中取得显著成功，而RR…- 5
- 0
-
构建高性能RAG：文本分割核心技术详解
构建高性能RAG：文本分割核心技术详解本文深入浅出地介绍了5种文本分割方法，帮助你更好地处理大规模文本数据引言检索增强生成（RAG）是提升AI应用性能的关键技术，而优秀的文本分割策略则是RAG的基石。然而，真实场景中的挑战不少：各类文档格式需要不同处理方式，不当的分割会导致上下文丢失、检索效果差、成本上升...这些都制约着RAG的效果。本文将为你详细介绍5个层次的文本分割技术，帮助你应对各种场景，…- 6
- 0
-
【RAG竞赛获奖方案】CCF第七届AIOps国际挑战赛季军方案分享EasyRAG：一个面向AIOps的简洁RAG框架
今天，我们来看看一个竞赛的方案，之前有讲过EasyRAG，现在作者【来自北航，也是老刘说NLP社区的成员】专门写了个稿子，可以再次温习下。历经4个月的时间，从初赛赛道第1，复赛赛道第2，到最后决赛获得季军，这一路我们团队收获了很多实践经验，也结识了不少业界的RAG研究者，受益匪浅。应组委会邀请，本文介绍一下我们EasyRAG方案的亮点和实验结果，欢迎感兴趣的朋友批评指正！开源地址：https://…- 7
- 0
-
企业RAG构建中，如何用“行级别权限管控”避免数据泄露
01.背景介绍在现代数据管理中，如何高效地进行权限控制是企业面临的一个重要挑战。尤其在涉及多个部门和角色的场景下，确保数据的安全性和访问的便捷性变得尤为关键，基于此 Milvus 提供了 RBAC（Role-Based Access Control ）功能。然而，一些关键行业却对数据的权限异常敏感且有着实际的应用场景，譬如：在医疗行业中，医院和医疗机构需要保护患者的隐私，同时又需要在专业人员之间共…- 9
- 0
-
大模型prompt压缩技术总结：从硬提示到软提示代表方案实现思路
今天是2024年11月4日，星期一，北京，天气晴昨天有说到RAG中的长文本压缩，那么，进一步可以看看方案总结，关于prompt压缩的技术总结，在技术路线上可以分为硬提示和软提示两种路线。事实上，核心问题是，我们应该如何去设计一个prompt 压缩算法，从而能够最大化的压缩prompt，同时又不影响LLMs的性能。这种被压缩的prompt能直接用在下游任务中吗？它的泛化性怎么样？这些问题，都可以看看…- 20
- 0
-
Lilian Weng 大模型幻觉问题解读 | 检测方法
OpenAI 联合创始人John Schulman（约翰·舒尔曼）23年在Berkeley的一个分享 <<RL and Truthfulness：Torwards TruthGPT>>，分享了如何提升大型语言模型的真实性与减少幻觉现象的研究与见解。内容大纲幻觉产生的原因训练数据问题微调新知识幻觉检测检索增强式评估基于采样的检测对未知知识进行校准间接查询反幻觉方法R…- 10
- 0
-
1.2kStar RAG2.0具备超长记忆，实现全局检索
MemoRAG实战 from memorag import MemoRAG# Initialize MemoRAG pipelinepipe = MemoRAG( mem_model_name_or_path="TommyChien/memorag-mistral…- 8
- 0
-
RAG等数据增强型LLM应用的4个任务级别
通过将外部知识与大语言模型（LLM）的集成，可以增强其在特定领域输出的专业性与时效性，减少幻觉问题，提高输出的可控性与可解释性。典型的方法如我们所熟知的RAG(Retrieval-Augmented Generation)应用与模型微调（Fine-tuning），都是常见的技术策略。尽管随着RAG理论与技术的不断进步（如查询转换、融合检索、Agentic RAG、GraphRAG等），其表现已经愈…- 8
- 0
-
“无”中生有：基于知识增强的RAG优化实践
自2023年大模型技术进入大家视线后，业内出现了较多基于大模型技术和RAG对智能问答机器人的探索，利用大模型对产品的相关文档学习，建立个人/平台助手以减少客服的人工作业量。在我做RAG这大半年的时间里，从开始很坚定认为RAG一定是非常有前景的技术方向之一，到中间一度迷茫RAG在知识问答上是否真正能比传统文档检索技术带来更多的实用价值，再到逐渐尝试并摸索到现在的一整套较适合我们应用算法团队训练和部署…- 6
- 0
-
微软 GraphRAG AI 更新提效了
资源是有限的，提高资源利用率就变得很重要了，我之前写的推文《微软正式开源 GraphRAG》提到过了这一点。通过提升大模型的全局检索和上下文理解能力，正是为了达到协同效果。近日，微软研究院对GraphRAG系统进行了更新。个人觉得它不仅在技术层面上实现了显著的提升，更在多个维度上为未来的信息处理和智能搜索领域带来了新的思考。提高数据检索效率通过引入动态社区选择功能，GraphRAG能够更加智能地识…- 9
- 0
-
通过Reranking来优化RAG：提升信息检索的精准度
RAG（Retrieval-Augmented Generation）作为一种重要的信息检索与生成技术（RAG（Retrieval Augmented Generation）及衍生框架：CRAG、Self-RAG与HyDe的深入探讨），在帮助用户获取准确答案方面发挥着重要作用。然而，随着数据量的不断增长和用户需求的日益复杂，传统 RAG 系统在检索准确性和上下文相关性方面面临着诸多挑战。Reran…- 9
- 0
-
从RAG到TAG：探索表增强生成（TAG）的力量
.01概述在人工智能（AI）不断发展的时代，数据的交互与利用方式也随之演变。在AI驱动的数据检索领域，出现了两种重要的方法：检索增强生成（RAG）和最近崭露头角的表增强生成（TAG）。尽管RAG通过将AI与外部数据检索系统结合，实现了有效的信息获取，但TAG则通过使大型语言模型（LLM）能够直接与结构化数据库交互，提供了一种全新的范式。在这篇文章中，我们将深入探讨TAG，分析其如何超越RAG，并介…- 10
- 0
-
复旦发布：最佳RAG方案
摘要检索增强生成（RAG）技术在整合最新信息、减轻幻觉以及提升响应质量方面表现出色，特别是在专业领域。尽管许多RAG方法被提出以通过查询依赖检索来增强大型语言模型，但这些方法仍面临复杂的实施和较长的响应时间问题。通常，RAG工作流涉及多个处理步骤，每个步骤可以通过不同的方式执行。本文探讨了现有的RAG方法及其潜在组合，以确定最佳RAG实践。通过大量实验，提出了一些部署RAG的策略，以平…- 9
- 0
-
破解PDF解析难题：RAG中高效解析复杂PDF的最佳选择
在 AI 领域，高效处理 PDF 文档是提升知识管理效率的关键。随着检索增强生成（RAG）技术的普及，从朴素 RAG 到高级 RAG，再到 GraphRAG 的快速演进，如微软的 GraphRAG 和 LightRAG 等框架不断涌现。这些框架提升了 RAG 的精度，但大多不支持 PDF 格式，而企业内部却存在大量 PDF 文档。因此，将这些资料有效整合进内部知识库成为技术挑战。然而，各种开源 P…- 7
- 0
-
RAG技术全解析：从基础到前沿，掌握智能问答新动向
RAG检索增强生成（Retrieval-Augmented Generation），通过结合语言模型生成能力和检索技术，为人们快速、准确地获取知识提供了解决方案。RAG技术不仅能够理解和生成自然语言，还能从海量数据中检索相关信息，以增强模型的回答准确性和可靠性，这在医疗、法律、金融等需要高度专业知识的领域尤为重要。本文将清晰的介绍RAG技术发展历程和未来趋势，阐述RAG技术如何从基础的检索-生成框…- 7
- 0
-
RAG在未来会消失吗？附RAG的5种切分策略
最近，Prompt大神李继刚在即刻抛出一个问题：随即，就有很多大神在群里讨论起来，大家总体的看法是Prompt会更加重要，RAG和微调可能会消失或者变成另一种形式而存在。而讨论这个问题大家可能需要先了解模型训练的一些基本原理（以下总结来自社恐患者杨老师）：目前模型训练有几个瓶颈亟待突破：1、模型无法进行实时增量训练，现在预训练完成之后，再微调还是RLHF都无法让模型学到新的知识。模型参数无法动态更…- 7
- 0
-
HtmlRAG：利用 HTML 结构化信息增强 RAG 系统的知识检索能力和准确性
.01概述在大型语言模型（LLM）逐渐普及的今天，检索增强生成（Retrieval-augmented Generation，简称RAG）技术逐渐成为提高AI知识处理能力、减少模型幻觉（hallucination）的关键手段。通过将外部知识库和生成模型相结合，RAG为如ChatGPT等多种商业应用提供了重要支持。然而，当前RAG的实现方式仍面临一项根本性挑战，即在知识处理过程中对HTML网页结构与…- 9
- 0
-
打造自己的RAG解析大模型：表格数据标注的三条黄金规则
在上一期文章中，我们详细介绍了使用 LabelMe 进行版面标注的安装、标注流程和数据导出方法。本期我们将聚焦于使用 PPOCRLabel 进行表格标注的三条“黄金规则”。遵循这些规则，可以确保生成高质量的训练数据集，为构建高精度的文档表格识别模型奠定坚实基础。掌握这些技巧，将帮助我们进一步提升垂直领域模型的表格识别精度。PPOCRLabel全面介绍PPOCRLabel是一款适用于OCR领域的半自…- 7
- 0
-
RAGCache：让RAG系统更高效的多级动态缓存新方案
.01概述在当下的AI研究中，检索增强生成（RAG）技术正在逐步提升大型语言模型（LLM）的知识运用能力，帮助它们结合外部知识生成更加准确、符合现实的文本。然而，RAG系统却面临一个无法忽视的瓶颈：庞大的计算和内存需求。每当模型从知识库中获取大量文档来生成内容时，原始文本长度可能会被扩展十倍以上，极大地增加了系统的计算负担和响应时间，从而限制了RAG在实时场景中的应用潜力。为解决这一问题，北京大学…- 9
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×