-
RAG的2024—随需而变，从狂热到理性（下）
本文主要内容：RAG和Fine-tune目前的市场态势RAG在这一年的市场需求变化这一年的AI从业者观察1.RAG vs Fine-tune2024这一年，RAG技术对应的市场需求变化也是挺大的。在讲变化之前，我觉得有必要分享一下为什么RAG是目前市场上不可或缺的一种大模型应用的技术实现方式，它的优点是什么？以及它和主要竞争技术之间的现状是怎么样的？RAG最开始被大家热推，更多是因为以下三个原因：…- 3
- 0
-
RAG的2024—随需而变，从狂热到理性（下）
本文主要内容：RAG和Fine-tune目前的市场态势RAG在这一年的市场需求变化这一年的AI从业者观察1.RAG vs Fine-tune2024这一年，RAG技术对应的市场需求变化也是挺大的。在讲变化之前，我觉得有必要分享一下为什么RAG是目前市场上不可或缺的一种大模型应用的技术实现方式，它的优点是什么？以及它和主要竞争技术之间的现状是怎么样的？RAG最开始被大家热推，更多是因为以下三个原因：…- 5
- 0
-
糟糕！LLM输出半截Json的答案，还有救吗！
本公众号主要关注NLP、CV、LLM、RAG、Agent等AI前沿技术，免费分享业界实战案例与课程，助力您全面拥抱AIGC。一、前言 虽然现在大部分LLM都已经可以支持输出上万个Token了。但是，我们在实际业务落地的时候，还是会经常遇到LLM不按照我们规定的格式输出的情况。特别是我们需要输出的结果具备结构化，方便我们继续执行下游任务的情况。由于json格式天生亲近纯文本，所以想让LLM结构化输出…- 1
- 0
-
解读GraphRAG
RAG 结合了大型语言模型和信息检索模型的力量，允许它们用从大量文本数据中提取的相关事实和细节来补充生成的响应。事实证明，这种方法在提高模型输出的实际准确性和总体质量方面是有效的。然而，随着 RAG 系统得到更广泛的采用，它们的局限性开始浮出水面，具体而言：平面检索: RAG 将每个文档作为一个独立的信息。想象一下，阅读单独的书页，却不知道它们之间是如何连接的。这种方法错过了不同信息片段之间更深层…- 6
- 0
-
RAGChecker:显著超越RAGAS，一个精细化评估和诊断 RAG 系统的创新框架
RAG应用已经是当下利用大模型能力的典型应用代表，也获得了极大的推广，各种提升RAG性能的技术层出不穷。然而,如何全面、准确地评估 RAG 系统一直是一个挑战。传统评估方法存在诸多局限性:无法有效评估长文本回复、难以区分检索和生成模块的错误来源、与人类判断的相关性不高。为此,亚马逊和上海交通大学等研究团队开发了 RAGChecker[1],这是一个专为 RAG 系统设计的创新评估框架。RAGChe…- 6
- 0
-
FastRAG半结构化RAG实现思路及OpenAI O1-long COT蒸馏路线思考
今天是2024年11月23日，星期六，北京，天气晴。本文看两个问题，一个是最近模仿openaiAI O1现有路线-long COT蒸馏路线，有些有趣的点。另一个是还是回归到RAG上，最近同名的RAG框架很多，例如fastRAG(https://github.com/IntelLabs/fastRAG.git，朴素rag的一个模块化)和FastRAG(https://arxiv.org/html/2…- 7
- 0
-
检索增强生成（RAG）：解密AI如何融合记忆与搜索
人工智能（AI）在生成类似人类的文本和准确回答问题方面取得了飞跃，但存在局限性。传统模型完全依赖于它们的训练数据——在训练期间吸收的固定知识。它们无法查找新鲜或专业信息，这限制了它们在动态情况下的实用性。检索增强生成（RAG）通过使 AI 能够实时“咨询外部来源”来解决这个问题，就像学生在开卷考试中参考教科书一样。这种检索和生成的混合方法使 RAG 能够产生更准确、上下文相关和最新的回答。让我们深…- 8
- 0
-
如何提高RAG系统准确率？12大常见痛点及巧妙解！
· 痛点 1：缺失内容· 痛点 2：未能捕获排名靠前的文档· 痛点 3：上下文不相关——整合策略的局限性· 痛点 4：未提取内容· 痛点 5：格式错误· 痛点 6：特异性不准确· 痛点 7：内容不完整· 痛点 8：数据摄取的可扩展性· 痛点 9：结构化数据质量检查· 痛点 10：复杂 PDF 的数据提取· 痛点 11：后备模型· 痛点 12：大语言模型的安全性受 Barnett 等人在论文《构建检…- 8
- 0
-
RAG 2.0性能提升：优化索引与召回机制的策略与实践
导读 本次分享题目为《RAG2.0 引擎设计挑战和实现》。主要包括以下几部分内容：1. RAG1.0 的痛点和解决方向2. 如何有效 Chunking3. 如何准确召回4. 高级 RAG 和预处理5. RAG 未来如何发展6. Q&A分享嘉宾｜张颖峰 英飞流（上海）信息科技有限公司 创始人编辑整理｜陈沃晨内容校…- 5
- 0
-
RAG技术在实际应用中的挑战与解决方案
随着自然语言处理技术的快速发展，RAG（Retrieval-Augmented Generation）作为一种结合了检索和生成的方法，逐渐成为构建高效问答系统的重要工具。然而，在实际应用中，RAG系统仍然面临许多挑战。本文将详细介绍RAG过程中常见的问题及其解决方案，并结合应用场景进行优化，帮助开发者和研究人员更好地应对这些挑战，后续的文章中将详细讲解每一个问题的解决思路及代码实现。一、Query…- 8
- 0
-
从普通RAG到RAPTOR，10个最新的RAG框架
大型语言模型（LLMs）如GPT-4在自然语言处理（NLP）领域有着重要作用，擅长生成文本、回答问题等任务。但这些模型也存在一些短板，比如对最新信息的掌握不足、难以实时更新知识库以及在处理大量信息时效率不高。为了解决这些问题，检索增强生成（RAG）技术应运而生，它通过整合外部数据源，提升了模型的响应质量和适用性。今天分享10种改进版的RAG技术，它们在检索和生成环节上各有侧重，覆盖了从通用到特定问…- 10
- 0
-
如何使用 RAG 提高 LLM 成绩
初学者友好的介绍 w/ Python 代码本文是关于在实践中使用大型语言模型的更大系列的一部分。在上一篇文章中，我们使用 QLoRA 对 Mistral-7b-Instruct 进行了微调，以回应 YouTube 评论。尽管微调后的模型在回应观众反馈时成功捕捉了我的风格，但它对技术问题的回答与我的解释并不匹配。在这里，我将讨论如何通过检索增强生成（即 RAG）来提高 LLM 的性能。大型语言模型（…- 6
- 0
-
提升RAG性能的全攻略：优化检索增强生成系统的策略大揭秘 | 深度好文
.01概述近年来，随着检索增强生成（Retrieval Augmented Generation，RAG）应用的快速普及，其性能优化成为开发者们关注的热点。尽管基础RAG管道设计较为简单，但要满足实际业务需求，往往需要更高级的优化策略。本文将全面解读RAG优化的各类方法，帮助大家快速掌握主流策略并在实践中应用。.02RAG管道基础：从零开始理解工作原理一个标准的RAG管道一般包含以下几个基本步骤：…- 4
- 0
-
FastGraphRAG 如何做到高达 20%优化检索增强生成（RAG）性能优化
在自然语言处理领域，检索增强生成（RAG）被广泛用于构建基于知识的生成系统。然而，随着知识库规模的增长，如何高效检索并生成相关内容成为一大挑战。本文将带你深入了解 FastGraphRAG 这一创新工具，它通过经典 PageRank 算法的巧妙应用，为提升 RAG 系统性能提供了全新解决方案。从推荐系统到智能问答：RAG 的效率困局想象一下，你正在开发一个智能问答系统。它需要从…- 5
- 0
-
为裸奔的大模型穿上防护服;企业AI安全护栏设计指南
随大模型应用门槛逐步降低，越来越多的企业以大模型为基础，开始构建基于 RAG 和 Agent 的内部智能应用系统。尤其今年以来，各种开源和商用的 RAG、Agent 框架如雨后春笋般大量涌现，技术也日趋成熟，大家的选择多了起来，落地速度也快了不少。但在快速落地的过程中，尤其是使用开源项目搭建 RAG 系统的场景中，有些企业却忽视了一个很关键的问题：即安全护栏的建设。无安全护栏的 RAG 系统，虽能…- 5
- 0
-
RAG-Fusion技术在产品咨询中的实践与分析
本文研究了Infineon技术人员和客户经理快速获取产品信息的需求，评估了新流行的RAG-Fusion方法。RAG-Fusion结合了检索增强生成（RAG）和互惠排名融合（RRF），通过生成多个查询并使用互惠分数重新排序文档，以提供更准确和全面的答案。然而，该方法面临的一个挑战是，当生成的查询与原始查询相关性不足时，答案可能会偏离主题。RAG已在多个知识密集型自然语言处理任务中取得显著成功，而RR…- 6
- 0
-
构建高性能RAG：文本分割核心技术详解
构建高性能RAG：文本分割核心技术详解本文深入浅出地介绍了5种文本分割方法，帮助你更好地处理大规模文本数据引言检索增强生成（RAG）是提升AI应用性能的关键技术，而优秀的文本分割策略则是RAG的基石。然而，真实场景中的挑战不少：各类文档格式需要不同处理方式，不当的分割会导致上下文丢失、检索效果差、成本上升...这些都制约着RAG的效果。本文将为你详细介绍5个层次的文本分割技术，帮助你应对各种场景，…- 5
- 0
-
【RAG竞赛获奖方案】CCF第七届AIOps国际挑战赛季军方案分享EasyRAG：一个面向AIOps的简洁RAG框架
今天，我们来看看一个竞赛的方案，之前有讲过EasyRAG，现在作者【来自北航，也是老刘说NLP社区的成员】专门写了个稿子，可以再次温习下。历经4个月的时间，从初赛赛道第1，复赛赛道第2，到最后决赛获得季军，这一路我们团队收获了很多实践经验，也结识了不少业界的RAG研究者，受益匪浅。应组委会邀请，本文介绍一下我们EasyRAG方案的亮点和实验结果，欢迎感兴趣的朋友批评指正！开源地址：https://…- 4
- 0
-
企业RAG构建中，如何用“行级别权限管控”避免数据泄露
01.背景介绍在现代数据管理中，如何高效地进行权限控制是企业面临的一个重要挑战。尤其在涉及多个部门和角色的场景下，确保数据的安全性和访问的便捷性变得尤为关键，基于此 Milvus 提供了 RBAC（Role-Based Access Control ）功能。然而，一些关键行业却对数据的权限异常敏感且有着实际的应用场景，譬如：在医疗行业中，医院和医疗机构需要保护患者的隐私，同时又需要在专业人员之间共…- 8
- 0
-
大模型prompt压缩技术总结：从硬提示到软提示代表方案实现思路
今天是2024年11月4日，星期一，北京，天气晴昨天有说到RAG中的长文本压缩，那么，进一步可以看看方案总结，关于prompt压缩的技术总结，在技术路线上可以分为硬提示和软提示两种路线。事实上，核心问题是，我们应该如何去设计一个prompt 压缩算法，从而能够最大化的压缩prompt，同时又不影响LLMs的性能。这种被压缩的prompt能直接用在下游任务中吗？它的泛化性怎么样？这些问题，都可以看看…- 10
- 0
-
Lilian Weng 大模型幻觉问题解读 | 检测方法
OpenAI 联合创始人John Schulman（约翰·舒尔曼）23年在Berkeley的一个分享 <<RL and Truthfulness：Torwards TruthGPT>>，分享了如何提升大型语言模型的真实性与减少幻觉现象的研究与见解。内容大纲幻觉产生的原因训练数据问题微调新知识幻觉检测检索增强式评估基于采样的检测对未知知识进行校准间接查询反幻觉方法R…- 6
- 0
-
1.2kStar RAG2.0具备超长记忆，实现全局检索
MemoRAG实战 from memorag import MemoRAG# Initialize MemoRAG pipelinepipe = MemoRAG( mem_model_name_or_path="TommyChien/memorag-mistral…- 6
- 0
-
RAG等数据增强型LLM应用的4个任务级别
通过将外部知识与大语言模型（LLM）的集成，可以增强其在特定领域输出的专业性与时效性，减少幻觉问题，提高输出的可控性与可解释性。典型的方法如我们所熟知的RAG(Retrieval-Augmented Generation)应用与模型微调（Fine-tuning），都是常见的技术策略。尽管随着RAG理论与技术的不断进步（如查询转换、融合检索、Agentic RAG、GraphRAG等），其表现已经愈…- 7
- 0
-
“无”中生有：基于知识增强的RAG优化实践
自2023年大模型技术进入大家视线后，业内出现了较多基于大模型技术和RAG对智能问答机器人的探索，利用大模型对产品的相关文档学习，建立个人/平台助手以减少客服的人工作业量。在我做RAG这大半年的时间里，从开始很坚定认为RAG一定是非常有前景的技术方向之一，到中间一度迷茫RAG在知识问答上是否真正能比传统文档检索技术带来更多的实用价值，再到逐渐尝试并摸索到现在的一整套较适合我们应用算法团队训练和部署…- 4
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×