-
奇思妙想：多头RAG
大模型技术论文不断，每个月总会新增上千篇。本专栏精选论文重点解读，主题还是围绕着行业实践和工程量产。若在某个环节出现卡点，可以回到大模型必备腔调或者LLM背后的基础模型新阅读。而最新科技（Mamba,xLSTM,KAN）则提供了大模型领域最新技术跟踪。若对于具身智能感兴趣的请移步具身智能专栏。技术宅麻烦死磕AI架构设计。当然最重要的是订阅“鲁班模锤”。 RAG检索增强生成 （RAG） 是一种通过集…- 1
- 0
-
三分钟带你了解提示工程、微调、RAG怎么选？
本文主要探讨提示工程（Prompt Engineering） 、微调（Fine-tuning）和检索增强生成（RAG）分别是什么？都有什么优缺点？希望帮助你理解何时以及如何有效地运用这些技术。我们先来了解一下各自的概念，我们先来看看元宝的理解：提示工程（Prompt Engineering）定义：提示工程是一种技术，通过设计和优化提示词来引导生成式AI模型生成所需的输出。它涉及到自然语言…- 2
- 0
-
如此简单，利用DSPy高效实现RAG
介绍如何利用DSPy实现RAG。检索增强生成（RAG）是一种先进的方法论，它赋予语言模型（LLMs）访问丰富知识库的能力，能够搜索并筛选出相关信息，进而生成精准而精炼的回答。RAG技术允许语言模型在没有直接训练数据的情况下，通过上下文学习（ICL）动态地吸收和应用实时知识。尽管这一技术带来了在构建和优化RAG流程方面的额外挑战，但DSPy提供了一种简洁而高效的解决方案，使得设置RAG提示流程变得流…- 1
- 0
-
RAG全景图：从RAG启蒙到高级RAG之36技，再到终章Agentic RAG！
检索增强生成（RAG：Retrieval-Augmented Generation）技术可追溯到2020年Facebook发表的一篇论文：“Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”。它结合了信息检索和生成模型技术，通过引入外部知识库信息，解决知识密集型NLP任务的效果：问答、文本摘要等。大模型RAG之启蒙大型…- 3
- 0
-
RAG 可以使 LLM 能够在实时请求提供事实信息时，访问外部来源的数据，比如经过审核的数据库或互联网上的信息
本文正文字数约 4000 字，阅读时间 10 分钟左右。在上一篇文章《链式思维提示是什么？使用 Prompt 就能让 AI 像你一样思考》中，我在最后有一小段提到了有关于 RAG 的内容：RAG 可以使 LLM 能够在实时请求提供事实信息时，访问外部来源的数据，比如经过审核的数据库或互联网上的信息。这样一来，RAG 就消除了大家对于 LLM 仅依赖其训练数据中获得的内部知识库的顾虑，毕竟，这些知识…- 1
- 0
-
零基础入门：Milvus向量数据库及RAG技巧
1. Milvus简介Milvus是一款开源的向量数据库，由 Zilliz 开发并维护，适合用于机器学习和人工智能领域。是一款专为处理向量查询而设计的数据库，Milvus 能够对万亿级向量进行索引。Milvus官网：https://milvus.io/Milvus中文文档：https://www.milvus-io.com/2. Milvus部署2.1. 环境准备Linux操作系统Docker 1…- 3
- 0
-
Mem0 深度解析：智能记忆层的架构原理
引言 Mem0（发音为"mem-zero"）是一个专为 AI 代理和助手设计的智能记忆层。本文深入剖析其 CRUD（创建、读取、更新、删除）全流程，重点揭示其 LLM 驱动的记忆提取流水线、多信号混合搜索、以及非阻塞容错设计。 快速开始 from mem0 import Memoryfrom mem0.configs.base import MemoryConfigmemory…- 16
- 0
-
RAG 技术大起底！北大团队深挖 300 篇论文，综述 AIGC 的检索增强技术
在基于大模型的RAG应用中，可能会出现不同类型的问题，知识图谱通过提供结构化的知识表示，能够增强检索的准确性和生成内容的相关性，还可以利用知识图谱在 RAG 系统中战略性地注入人类推理。本文转载自公众号PaperWeekly，作者是来自北京大学的硕士生赵鹏昊，研究方向是分布式机器学习。文章介绍了一篇 RAG 技术的综述论文，推荐给大家。作为一种将检索与生成相结合的技术，RAG（Retrieval-…- 2
- 0
-
【深入浅出RAG】LangChain与Redis联姻！ 通过RAG模板打造Redis集成方案
近几年互联网的发展，让 Redis 在缓存方案已经成为了绝对的王者。大量的生产环境中，Redis 提供了一种可扩展的、可靠的缓存方案，已经应用在大量的数据读取场景中，但是在未来以 AI 为核心的生产环境中，Redis 需要如何跟 Agent 或者 RAG 进行结合？LangChain 为开发者创建和部署API 提供了一种新的方法。通过 LangChain 检索增强生成（RAG）模板，可以轻松整合R…- 0
- 0
-
Vanna：用自然语言查询你的 SQL 数据库
Vanna 是一个开源的 Python RAG（检索增强生成）框架，用于 SQL 生成和其他相关功能。它使用大型语言模型（LLM）来实现准确的文本到 SQL 生成。Vanna 的工作原理：1.在你的数据上训练一个 RAG “模型”。2.提出问题，Vanna 会返回 SQL 查询，这些查询可以被设置为自动运行在你的数据库上。用户界面：Vanna 提供了多种用户界面，例如 Jupyter Notebo…- 3
- 0
-
一文说清大模型RAG应用中的两种高级检索模式：你还只知道向量检索吗？
如果你知道RAG（检索增强生成），那么一定知道这里面的R代表Retrieval即检索，也一定知道这个环节对于最终的生成质量有多重要，而基于向量（Vector）的语义检索是最为熟知的一种基础检索模式。但在实际应用中，如果只是简单的使用一次向量检索，往往很难满足多样化的需求。所以在模块化RAG的时代，很多新的范式与算法都对检索这个环节进行了大量的创新与优化，本文将深入探讨两种在RAG应用中可灵活应用的…- 3
- 0
-
Karpathy的LLM Wiki + 3.5 万Star的Graphify：企业级 RAG 缺的真是知识图谱？
4 月中旬的时候，知识星球里有盆友问到 Karpathy 的 LLM Wiki。当时只是粗略复现了下，没来得及系统测试。正好这周末得空，花了一天时间把 LLM Wiki，以及另一个更火的衍生项目 Graphify 都认真跑了一遍。 我写这篇的时候，Karpathy 那份 LLM Wiki gist 已经到 5000+Star，而 Graphify 已经有了3.5 万 Star 左右。一个讲知识预编…- 11
- 0
-
KG RAG vs. Vector RAG：基准测试、优化杠杆和财务分析示例 – WhyHow.AI实践
Neo4j和WhyHow.AI团队探索了图形和向量搜索系统如何相互协作，以改进检索增强生成（RAG）系统。通过使用财务报告RAG示例，我们探讨了图形和向量搜索之间的响应差异，对比了这两种类型的答案输出，展示了如何通过图形结构来优化深度和广度，并发现将图形和向量搜索结合起来是RAG未来的方向。图形数据库（如Neo4j）建立在图的概念基础上：图包含了节点和关系的集合。节点代表着单个的数据点，而关系定义…- 3
- 0
-
介绍了 HippoRAG
原文：HippoRAG: Neurobiologically Inspired Long-Term Memory for Large Language Models引言在人工智能领域，尤其是自然语言处理（NLP）中，大型语言模型（LLMs）的长期记忆能力一直是研究的热点和难点。人类大脑能够在不断变化的环境中存储和更新大量知识，而现有的LLMs在预训练后整合新经验时仍面临挑战。为了解决这一问题，本文…- 2
- 0
-
RAG（检索增强生成） = 检索技术 + LLM 提示
背景RAG（检索增强生成） = 检索技术 + LLM 提示。比如，我们向 LLM 提问一个问题，RAG 从各种数据源检索相关的信息，并将检索到的信息和问题注入到 LLM 提示中，LLM 最后给出答案。我们已经熟悉了如何利用大语言模型处理文档文件（word、pdf），提出问题并获得答案。但是，如何上传一个表格文件，帮助我们能更轻松地利用表格文件中的数据，并从中获得有用的信息，从而支持我们的决策和行动…- 3
- 0
-
会呼吸的RAG项目前沿，及总结预告
在Llamaindex的全栈项目分享会上，我多次提到要优先使用RAG，尽量不要微调或增量，大规模的+数据质量错位的，微调+增量技术，不靠谱，很难收到结果！在会议末尾讲了一下什么情况下用RAG，也分享了一些RAG的坑和经验，刚刚不想让会议显得太长，我这里再补充一下：重申技术背后：RAG技术是通过从外部来源检索信息，将内容添加到提示中，然后调用LLM！目标是为模型提供其参数化上下文（或基本知识）中可能…- 6
- 0
-
【深入浅出RAG】构建生产级RAG：通过LlamaIndex打造多租户的RAG系统
RAG（检索器增强生成）系统中的多租户概念在数据安全性和隐私方面变得越来越重要。简单来说，多租户指的是系统能够独立且安全地为多个用户提供服务。在企业中，不同的部门都有不同的权限，比如客服和销售。他们各自都有不同的文件，需要通过RAG进行查询，但是彼此不能看到对方的文件内容。多租户的关键之处在于，当用户A查询系统时，他们应该只从他们索引的文档中获得答案，而不是从用户B索引的文档中获得答案，反之亦然。…- 3
- 0
-
【RAG提升技巧】查询改写HyDE
unsetunset简介unsetunset提高 RAG 推理能力的一个好方法是添加查询理解层 ——在实际查询向量存储之前添加查询转换。以下是四种不同的查询转换：路由：保留初始查询，同时查明其所属的适当工具子集。然后，将这些工具指定为合适的选项。查询重写：维护选定的工具，但以多种方式重新编写查询，以将其应用于同一组工具。子问题：将查询分解为几个较小的问题，每个问题针对由其元数据确定的不同工具。Re…- 3
- 0
-
图与矢量 RAG — 基准测试、优化手段和财务分析示例
Neo4j 和 WhyHow.AI 团队探索了图和矢量搜索系统如何协同工作以改进检索增强生成 （RAG） 系统。使用财务报告 RAG 示例，我们探索了图和矢量搜索之间的响应差异，对两种类型的答案输出进行了基准测试，展示了如何通过图结构优化深度和广度，并探索了为什么将图和矢量搜索结合起来是 RAG 的未来。图数据库（如 Neo4j）基于图的概念构建：节点和关系的集合。节点表示单个数据点，而关系定义它…- 2
- 0
-
CoA-Agent模式解决长文本RAG的思路：兼看UniOQA大模型知识图谱问答框架
今天是2024年6月6日，星期四，北京，天气晴。我们来看看两个问题，一个是关于RAG中使用Agent模式解决长文本RAG的思路，另一个是关于大模型与知识图谱的结合，UniOQA大模型知识图谱问答框架实现思路，都很干货，感兴趣的可以看看。问题1：使用Agent模式解决长文本RAG的思路有效地处理长文本上下文已成为大型语言模型（LLMs）面临的关键问题。目前出现了两种常见策略：1）减少输入长度，如通过…- 2
- 0
-
Llamaindex最佳实践：13.ReAct 代理 – 简单的计算器工具介绍
这是一个展示 ReAct 代理如何使用简单的计算器工具（没有复杂的 RAG 管道或 API 调用）的笔记本。我们将展示它如何逐步推理，使用不同的工具来实现最终目标。如果你在 colab 中打开这个笔记本，你可能需要安装 LlamaIndex ?。%pip install llama-index-llms-openai!pip install llama-indexfrom llama_index.…- 2
- 0
-
“大模型+数据治理”的应用场景与实践
数据的采集方式、使用环境以及组织之间存在的语义差异导致数据碎片化现象严重，大模型的出现将对企业数据治理产生深远影响，自然语言有望成为数据语言，使企业能够更加容易地访问数据，而不需要解决以上导致数据碎片化的难题。目前，大模型与数据治理的结合仍处于早期阶段，尤其是中国大部分企业在数据治理水平方面仍有较大欠缺，短期来看大模型对数据治理的影响较小，但企业不应忽视大模型将带来的长期影响。01大模型对数据治理…- 1
- 0
-
在使用大语言模型 (LLMs) 构建产品一年中的经验总结 (第一部分)-RAG的使用
信息检索/检索增强生成（RAG）除了使用上一篇文章（在使用大语言模型 (LLMs) 构建产品一年中的经验总结 (第一部分)）的提示来引导大语言模型（LLM）外，另一种有效的方法是将知识作为提示的一部分提供。这种方法将 LLM 锚定在提供的上下文上，用于上下文学习，这被称为检索增强生成（RAG）。实践中发现，RAG 在提供知识和改进输出方面非常有效，而且所需的努力和成本远低于微调。RAG 的效果取决…- 1
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×