-
Zilliz落地垂直RAG：为什么说医疗场景中，LLM只是半成品？
“卷模型不如卷应用，作为一个在公立医院工作的非正式程序员，把 AI 的某一个特性功能应用到医院的日常的工作中，解决某一个痛点这就是最好的创新、最实用的“卷”。”云南省富源县人民医院医疗装备科的工程师李工说到。在临床工作中，有很多医疗设备种类，每种产品类目又包含多个企业的多个产品型号，不同的型号功能不同维护也不同。比如设备的清洁消毒，呼吸机和监护仪都需要消毒，但是消毒方式可能不一样，甚至呼吸机A型号…- 6
- 0
-
GraphRAG结合普通RAG，打造Hybrid RAG
HybridRAG：RAG与GraphRAG的强强联合。RAG在生成式AI领域取得了重大进展，用户可以将自己的个人文档，比如文本文件、PDF、视频等，与大型语言模型（LLMs）连接起来进行互动。最近，RAG的进阶版GraphRAG也亮相了，它通过知识图谱和LLMs来执行RAG的检索任务。RAG和GraphRAG各有所长，也各有局限。RAG擅长利用向量相似性技术，而GraphRAG则依赖图分析和知识…- 3
- 0
-
RAG融合技术探索与应用
编者荐语在信息爆炸的时代，精准检索和理解信息变得尤为重要。本文深入探讨了RAG通过结合检索增强型生成和多查询生成等先进技术，显著提升了信息检索的质量和准确性。无论是客户支持、内容创作还是学术研究，RAG融合技术都能提供更快速、更直观的交互体验，是信息检索领域的一大突破。期望本文能为追求高效信息处理的专业人士带来一定启发。RAG融合技术探索与应用 亚信科技（中国）有限公司摘要：随着人工智能和自然语言…- 5
- 0
-
【已更新】深入LLM与RAG 原理、实现与应用
项目实战简介在本课程中，你将学习如何构建和部署独立的Embedding模型服务，用于计算文本查询的向量嵌入；此外，我还将带你完成两个完整的Chatbot项目实战：FAQ-Chatbot（自研项目）和 LangChain-Chatchat（整合了自研Elasticsearch知识库功能），你将有机会亲手设计并实现这两个智能问答机器人。通过系统化的学习，你不仅能深入理解LLM和RAG的先进技术，还能积…- 8
- 0
-
影响RAG检索效果的原因有那些？
“ RAG任何一个环节都可能对最终结果造成重大影响，也就是失之毫厘差之千里 ”RAG——检索增强生成技术，其技术的核心点在于数据检索；在RAG系统流程中，需要经过文档加载，切片，嵌入，存储和检索等多个步骤。但从实际效果来看，RAG检索还存在很多问题，比如说数据检索不准确，冗余数据多，成本高等多个方面；而怎么优化RAG系统是目前大模型应用领域中一个亟待解决的问题。但具体怎么解决这…- 11
- 0
-
GraphRAG和轻量级LightRAG技术及应用案例深度解析
by Satyabrata Dash | Dec, 2024摘要:本文讨论了传统检索增强生成（RAG）系统在处理复杂、相互关联问题时的局限性，并介绍了GraphRAG和LightRAG 作为更先进的替代方案，这些方案利用知识图谱来提高答案的全面性。关键要点:- 传统RAG系统无法有效处理需要理解相互关联概念的问题。- 基于图谱的RAG系统，如GraphRAG 和LightRAG，通过利用知识图谱提…- 6
- 0
-
使用 Markdown 和 Gemini 为 RAG 解锁 PDF
可以说，检索增强生成（RAG）为许多企业和组织带来了变革。通过将像 Gemini[1] 这样的 LLM 的内置功能与您自己的信息相结合，您可以创造出真正具有变革性的强大体验。尽管如此，创建一个能够很好处理复杂非结构化文档（如 PDF）的 RAG 应用程序仍然是一个挑战。本文提出了一种从 PDF 中提取文本并转换为 Markdown 格式的新技术，从而提高了检索增强生成（RAG）…- 6
- 0
-
长文 | RAG的实战指南及探索之路
1. 背景介绍RAG（Retrieval Augmented Generation，检索增强生成 ）方法是指结合了基于检索的模型和生成模型的能力，以提高生成文本的质量和相关性。该方法是Meta在2020年发表的文章《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中提出的，该方法让LM（Language Model，…- 5
- 0
-
2024年，百万上下文依然没有杀死RAG
每一次，当基础模型能力变强，总会有人预言：RAG（检索增强生成）或许要过时了。但目前为止，每一次，这种预言都已落空。比如今年2月，当第一批百万上下文长度模型出现的时候，有人说KV缓存会取代RAG。后来大模型Agent突飞猛进的时候，又有人说10年就是以嵌入为基础的RAG的最后期限。10年毕竟太远，现在很难说得清楚。但有RAG存在的未来，已经业内有不少人正在积极规划：产业界，英伟达等巨头亲自下场挖掘…- 10
- 0
-
在推荐、RAG等业务中，如何完成亿级向量的快速检索？
在推荐、RAG等业务中都需要用到ANN(Approximate Nearest Neighbor)，最常用的方法就是用户Query向量与向量库中的每个向量遍历检索得到答案，俗称暴力计算，这样做精度最高，但效率也最低。同时还有个非常严重的问题，那就是存储，假设一个向量用1024维的float32（4字节）来表示，即一个向量所占的内存就是，那么一千万个向量所占空间就是。暴力计算通常用于精准度要求极高的…- 3
- 0
-
RAG 工程实践优化点及方法总结
一、优化索引结构1.1 优化被检索的embedding微调被检索的 embedding目的：增强被检索内容与 query 之间的相关性，尤其适用于术语更新迅速且罕见的领域。通过微调，可以使 embedding 更好地捕捉特定领域的语义信息，从而提高检索的准确性。方法示例：可利用领域内的专业术语、最新的术语更新数据等对 embedding 进行针对性训练，使模型能够更精准地理解和匹配与这些术语相关的…- 8
- 0
-
强化 RAG 应用：生成式 AI 返回准确率提升的高效策略与实践
摘要：RAG 是一种将信息检索与语言生成相结合的技术架构。在 RAG 中，搜索召回主要是指从外部知识源（如文档库、数据库等）中检索出与用户查询相关的信息片段，以便为后续的语言生成提供依据。其召回过程大致如下：首先，将用户的输入查询进行处理和理解，通常会将其转化为适合检索的形式（如向量表示等）。然后，利用这些表示在预先构建的索引或知识库中进行搜索匹配，通过特定的检索算法（如基于向量相似度的算法等）找…- 3
- 0
-
RAG开发中，如何用Milvus 2.5 BM25算法实现混合搜索
01.背景混合搜索(Hybrid Search)作为RAG应用中Retrieve重要的一环，通常指的是将向量搜索与基于关键词的搜索（全文检索）相结合，并使用RRF算法合并、并重排两种不同检索的结果，最终来提高数据的召回率。全文检索与语义检索不是非此即彼的关系。我们需要同时兼顾语义理解和精确的关键字匹配。比如学术论文的写作中，用户不仅希望在搜索结果看到与搜索查询相关的概念，同时也希望保留查询中使用的…- 7
- 0
-
构建生产级 RAG 系统前，必须搞懂的 7 个核心问题
在人工智能领域，如何使大模型既能理解外部数据，又能高效回答复杂问题，一直是生产级应用开发中的核心挑战。检索增强生成（RAG, Retrieval-Augmented Generation）技术正为这一难题提供解决方案。本文将带您深入探索如何构建生产级 RAG 应用，解决常见技术难题，并优化性能表现。一、使用大模型理解外部数据的两种范式在实际开发中，大模型理解外部数据的关键有两种主要范式：1. 检索…- 4
- 0
-
除了混合搜索，RAG 还需要哪些基础设施能力？
Infinity 是一款专门为 RAG 设计的，在功能和性能上全面领先的数据库，针对向量，稀疏向量，还有文本类数据，分别提供高性能的向量搜索、稀疏向量搜索以及全文搜索，并且提供这些数据之上的高性能范围过滤，除此之外，还提供了基于 Tensor 的重排序，这使得数据库内置不亚于 Cross Encoder 的排序能力成为可能，并且还是多模态 RAG （还有个流行的说法叫做 VisualRAG）的强力…- 6
- 0
-
万字长文梳理 2024 年的 RAG
在已经过去的 2024 年，RAG 的发展可以称得上是风起云涌，我们回顾全年，从多个角度对全年的发展进行总结。首先用下图镇楼：对于 2024 年的 RAG 来说，有一系列标志性事件：关于 RAG 的争论—RAG 已死，RAG 永存！2024 年在年初被称为“RAG 发展元年”，虽然这并非共识性的说法，但事实证明，全年的进展无愧于这一称号。在LLM 使用的场景中，RAG 自始至终都在扮演着不可或缺的…- 4
- 0
-
面向医疗场景的大模型 RAG 检索增强解决方案
在现代信息检索领域，检索增强生成（Retrieval-Augmented Generation, RAG）模型结合了信息检索与生成式人工智能的优点，从而在特定场景下提供更为精准和相关的答案。在特定场景下，例如医疗等领域，用户通常需要精确且相关的信息来支持决策。传统生成模型虽然在自然语言理解和生成方面表现良好，但在专业知识的准确性上可能有所不足。RAG 模型通过将检索与生成相结合，能有效提升回答的准…- 5
- 0
-
一文详谈20多种RAG优化方法
大规模语言模型（LLMs）已经成为我们生活和工作的一部分，它们以惊人的多功能性和智能化改变了我们与信息的互动方式。然而，尽管它们的能力令人印象深刻，但它们并非无懈可击。这些模型可能会产生误导性的“幻觉”，依赖的信息可能过时，处理特定知识时效率不高，缺乏专业领域的深度洞察，同时在推理能力上也有所欠缺。在现实世界的应用中，数据需要不断更新以反映最新的发展，生成的内容必须是透明可追溯的，以便控制成本并保…- 8
- 0
-
深入RAG工作流：检索生成的最佳实践
今天分享的是复旦大学和智能信息处理上海市重点实验室联合发表的一篇文章：实现检索增强生成（RAG）的最佳实践论文题目：Searching for Best Practices in Retrieval-Augmented Generation论文链接：https://arxiv.org/pdf/2407.01219代码地址：https://github.com/FudanDNN-NLP/RAG?ta…- 8
- 0
-
o1 pro “碾压式”洞察：世界顶尖免疫学专家被机器深度分析“惊醒”
今天想跟大家聊一个科技圈和生物医学圈都值得关注的“炸裂”事件。一位顶尖的免疫学专家，Derya Unutmaz博士，刚刚分享了一段让他“震撼到情绪激动”的经历：他把自己和学生撰写的关于MAIT细胞的综述文章，交给o1-Pro进行评估，结果AI给出的评论和洞察碾压了他这可不是一般的科学家，Derya Unutmaz博士是研究衰老和癌症免疫疗法领域的权威，对MAIT细胞的研究更是到了“炉火…- 7
- 0
-
使用 Lang Chain 和 Lang Graph 构建多代理 RAG ：分步指南 + Gemma 2
检索代理[1] 在我们想要判断文档是否相关以决定是否从索引中检索时非常有用，或者它可以从网络搜索工具中检索。要实现检索代理，我们只需让 LLM 访问检索工具。智能体 RAG 是一种基于智能体的方法，用于以有序的方式对多个文档进行问答。虽然标准 RAG 在少量文档的简单查询中表现出色，但智能体 RAG 进一步提升，成为问答的强大解决方案。它通过采用 AI 智能体引入了一层智能。这些智能体作…- 7
- 0
-
RAG评估框架：RAG Triad框架及其实战
RAG 三元组由三个关键的评估指标组成：答案相关性、忠实度和上下文相关性。若一个 RAG 管道在这三个指标上均表现出色，则可以确信该管道使用了最优的超参数。因为在 RAG 三元组中，每个评估指标都对应着一个特定的超参数。例如：答案相关性：答案相关性指标评估的是生成的答案与用户输入问题的相关性。在当前的大型语言模型（LLM）中，推理能力已经相当强大，因此在优化答案相关性时，重点往往是调整提示模板（p…- 5
- 0
-
2个简单技巧把 RAG 检索准确率从 50% 提高到 95 %
在讨论了 RAG 的 chunking、embedding、评估指标、评估流程等技术后，我们进一步探讨 RAG 系统的实际应用。在实际项目中，RAG（Retrieval-Augmented Generation）系统的检索阶段往往是影响生成效果的核心环节。RAG 系统的工作流程包括数据摄取（Data Ingestion）和数据查询（Data Querying），其中检索是至关重要的一步。本文介绍了…- 9
- 0
-
Browser-Use + LightRAG Agent：可使用 LLM 抓取 99% 的网站
在这个故事中，我将提供一个快速教程，展示如何使用浏览器使用、LightRAG和本地LLM创建一个强大的聊天机器人，以开发一个能够抓取您选择的任何网站的AI代理。此外，您可以询问有关您的数据的问题，这将为您提供该问题的回答。免责声明：本文仅用于教育目的。我们不鼓励任何人抓取网站，特别是那些可能有反对此类行为的条款和条件的网络属性。现有的RAG系统存在显著的局限性，包括依赖扁平数据表示和缺乏上下文意识…- 3
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×