-
LLM 基础知识 | WaterMarking，你搞懂了吗？
LLM 基础知识 | WaterMarking，你搞懂了吗？这篇论文，我的决心是都撸一遍。算法不算很流行，总要搞懂它怎么起作用的吧？前半段我采取的方式是“朗读”，也就是自己录个“有声书”给到自己，后半段我打算直接用翻译的。可能会请求百度翻译增加效率。介绍我国公务员国考，难度是相当大的！我都不知道自己有没有机会参与考试，如果有这个机会的话，我也要全力以赴的！加油吧，伙伴们！这些直播其实营养较少，有些…- 0
- 0
-
刘润：我对OpenAI，知之甚少
今天终于如常所愿。在网上，我看过太多关于OpenAI的新闻，见过太多关于OpenAI的分析，我自己也根据这些新闻和分析，写过不少关于OpenAI的思考。但是，说实话，我并不确定我的思考对不对。因为我从来没有和接近OpenAI的人，有过直接的交流。我对OpenAI，知之甚少。所以，这次来硅谷，我一个非常重要的目标，就是能约到接近OpenAI的人。最好是OpenAI的员工。最好最好是OpenAI的早期…- 0
- 0
-
Deep-Live-Cam：开启AI实时换脸技术的新时代
一、引言在数字化时代，人工智能（AI）技术正以前所未有的速度和规模渗透到我们的生活和工作中。其中，AI 换脸技术，作为一种前沿技术，已经引起了广泛的关注和讨论。Deep-Live-Cam，作为一款开源的 AI 实时换脸工具，正在引领这一技术的革新。二、Deep-Live-Cam 概览Deep-Live-Cam 是一个创新的 AI 应用，它利用深度学习算法，通过单张照片实现视频中的人脸实时替换。这项…- 0
- 0
-
狂拦69.1Kstar！本地大语言模开源伴侣
本篇文章我们要介绍的是一个开源项目GPT4All，它是由 nomic-ai 团队精心打造的开源项目，已经在 GitHub 上赢得了超过 69.1k 颗星星，人气爆棚！GPT4All 不仅仅是一个应用，通过图形化界面帮你在日常的桌面和笔记本电脑上私下运行大语言模型（LLM）。无需 API 调用或 GPU，你只需下载应用程序即可开始使用。GPT4All 提供了 Python 客户端，让你可以方便地访问…- 0
- 0
-
11K star！一站式数据提取神器，PDF、网页、电子书通通搞定！
我们每天都要和各种文档打交道，PDF文档、网页、电子书……这些格式各异的文档让我们既爱又恨。爱的是它们携带的丰富信息，恨的是处理和提取这些信息时的繁琐与不便。今天开源君来和大家聊聊一个超级给力的开源项目 - MinerU，别看它名字听起来像挖矿的，实际上，它可是文档处理和提取的“神器”！项目简介MinerU一个由opendatalab团队打造的一站式开源数据提取工具，旨在帮助研究人员和开发者更方便…- 0
- 0
-
如何简单计算LLM推理和训练所需的GPU资源
Meta不久前刚发布了Llama 3.1的一系列开源模型，在多项基准测试中，超越了GPT-4o和Claude 3.5 Sonnet等闭源的商业大模型。开源大模型性能越来越强，可以满足很多私有化部署的业务场景。不同于商业模式的服务调用模式，需要自己搭建环境，部署模型。有些时候还要自己微调模型，以更好适应特有的场景。LLM 的特点是计算要求非常高，具有数十亿个参数，并且需要对数 TB 的数据进行训练。…- 0
- 0
-
深入探索 graphrag-local-ollama：开源项目的深度剖析与应用实战
一、引言随着人工智能技术在各个领域的广泛应用，对高效、灵活且经济的模型解决方案的需求日益迫切。传统的模型使用方式往往受到诸多限制，如高昂的成本、对网络的依赖以及数据隐私等问题。在这样的背景下，开源项目 graphrag-local-ollama 应运而生。graphrag-local-ollama是微软 graphrag 的一个创新扩展，它专注于支持使用 ollama 下载的本地模型。这一特性使得…- 0
- 0
-
DB-GPT v0.6.0 版本更新，发布六大核心新特性！
亲爱的 DB-GPT 社区伙伴们，DB-GPT v0.6.0 版本发布啦，接下来我们一起看看该版本带来哪些变化吧：版本介绍DB-GPT是一个开源的AI原生数据应用开发框架(AI Native Data App Development framework with AWEL and Agents)，在V0.6.0版本中，我们进一步围绕大模型提供灵活、可拓展的AI原生数据应用管理与开发能力，…- 0
- 0
-
DsRAG：新开源的高级RAG分块技巧！
上周给大家分享过Jina AI最新的研究，late chunking， 通过将chunk分块后置到emebedding之后，来达到提升召回的效果。 今天给大家分享一个新的策略，称为DS-RAG。一个不好的分块，会带来很多的问题，比如说以下几点：代称，他/她等表示响应的主题，刚好被切分在单独的块中，影响召回单个块可能不包含完整的答案块，答案可能包含在连续的几个块中块可能仅在某种特定上下文中才有意义等…- 0
- 0
-
xLAM: 一个赋能AI agent系统的动作大模型家族
一、结论写在前面论文标题：xLAM: A Family of Large Action Models to Empower AI Agent Systems论文链接：https://arxiv.org/pdf/2409.03215Models: https://huggingface.co/collections/Salesforce/xlam-models-65f00e2a0a63bbcd1c2…- 0
- 0
-
开源！我用Qwen2VL实现了一个多模态RAG
ColPali 是一种多模态检索器，直接对图像进行处理，无需OCR。对数据建立索引后，使用 Qwen2-VL-7B 完成 RAG 的生成部分。from pdf2image import convert_from_pathimages = convert_from_path("/content/climate_youth_magazine.…- 0
- 0
-
号称最强开源模型的Llama 3.1是什么
Llama 3.1模型概述什么是Llama模型Llama模型是Meta公司（原Facebook）开发的一系列大型语言模型（LLMs），其中最新的版本是Llama 3.1。这个模型系列以其开源特性和强大的性能而闻名，旨在推动人工智能技术的创新和普及。Llama 3.1模型在多个基准测试中展现出了卓越的性能，甚至在某些领域超越了现有的顶尖闭源模型。Llama 3.1的主要特点Llama 3.1模型的主…- 0
- 0
-
BigModel大气！大模型进入免费时代
最新消息，智谱AI的BigModel开放平台，继上一波开源cogvideo x，又将GLM4-Flash模型免费对大家开放。GLM4-Flash 新的免费版本特性：对新用户限制在单个用户2个并发支持128k上下文支持函数调用，网页检索等功能生成速度达72.14token/s，约等于115字/s官方宣传的是，预训练了10T的高质量语料。具备优秀的推理，信息抽取，生成能力。调用示例： （ap…- 0
- 0
-
变天了！ Reflection 70B出世-打败 Claude 3.5/GPT4o
一个新模型横空出世，值得注意！世界顶级开源模型 Reflection 70B，在诸多指标上打败了 Claude 3.5/GPT4o.特别是推理能力超强.重模型使用 Reflection-Tuning 进行训练，使 LLM 能够修复自己的错误。这个模型的技术有可能和GPT5相似。而 405B 版本将于下周上市——它有望成为世界上最好的型号。一、背景1.1 开源大语言模型的发展历程开源大语言模型的兴起…- 0
- 0
-
玩转树莓派4B-部署LLM大模型-1
实验环境Raspberry Pi4 8GRaspiois_arm64llama.cppqwen2-0_5b-instruct-q5_k_m.ggufmodelscopeopenai前言这几年人工智能很火，事实上，以1956年达特茅斯会议为节点开始，到现在人工智能经历了三次主要的浪潮，现在正是第三次浪潮。杰弗里·埃弗里斯特·辛顿（Geoffrey Everest Hinton）在2006年发表的一篇…- 0
- 0
-
LitServe：开源！闪电般快速部署AI模型的服务引擎！灵活、简单、企业级（比FastAPI快2倍）
Aitrainee | 公众号：AI进修生 Hi，这里是Aitrainee，欢迎阅读本期新文章。 LitServe是一款易于使用且灵活的服务引擎，适用于基于 FastAPI 构建的 AI 模型。批处理、流式处理和 GPU 自动扩缩等功能让你无需为每个模型重建 FastAPI 服务器。 LitServe 特点 LitServe 针对 AI 工作负载进行了优化，具有专门的多任务处理功能，速度比 Fas…- 0
- 0
-
一个全面、先进、公平且模块化的开源RAG框架
两个关键问题限制了 RAG 的发展：新型 RAG 算法之间缺乏全面和公平的比较。像 LlamaIndex 和 LangChain 这样的开源工具使用了高级抽象，这导致了透明度的缺失，并限制了开发新算法和评估指标的能力。RAGLAB：是一个模块化的开源库。RAGLAB 复现了 6 种先进的算法，并为研究 RAG 算法提供了一个全面的生态系统。利用 RAGLAB，对 10 个基准上的 6 种 RAG …- 0
- 0
-
【干货】带你一步步安装与使用AnythingLLM
AnythingLLM 是一个开源项目，它提供一个高效、可定制、开源的企业级文档聊天机器人解决方案。它能够将任何文档、资源或内容片段转化为大语言模型（LLM）在聊天中可以利用的相关上下文。从而显著提升大模型回答问题的精准度和适用性，运用本地的知识库文档，还可以增强数据安全性，降低知识库文档泄露的风险。经过本宝宝的一番探索，终于在本地成功运行了AnythingLLM，现在分享给各位同学，一步步教你如…- 1
- 0
-
清华开源LongCite，如何提高大模型的溯源能力？
溯源/引用，工业界应用老板们最喜欢加的一个东西。总的来说，这个文章也没啥。做了一个评测基准，开源了一个用于溯源sft的45k数据集，开源了2个模型，介绍了他们的数据生成pipeline。hf-dataset:https://huggingface.co/datasets/THUDM/LongCite-45kmodel 1:https://huggingface.co/THUDM/LongCite-…- 0
- 0
-
不同开源基座大模型对比及领域落地的选型考虑 Qwen LLaMa等
“ 在当今的人工智能领域，开源基座大模型的角色日益重要 。本文会对主流开源大模型进行对比分析，并尝试探讨开源基座大模型选型的因素。给领域落地一些参考。”Key Takeaways：1、从数据、Tokenizer、模型架构对比不同qwen、deepseek、llama、yi等模型2、尝试思考存在哪些开源大模型选型因素供读者参考01—开源的时代 作为一线的开源模型追…- 1
- 0
-
我的RAG之路 – AnythingLLM 介绍篇
01AnythingLLM是什么鬼？AnythingLLM 是一个开源项目，这意味着各位同学个人是可以免费使用的，它的诞生旨在提供一个高效、可定制、开源的企业级文档聊天机器人解决方案。它能够将任何文档、资源或内容片段转化为大语言模型（LLM）在聊天中可以利用的相关上下文。AnythingLLM 支持多用户实例和权限管理，具有全新的可嵌入式聊天小部件，适用于网站，支持多种文档类型，如 PDF、TXT…- 0
- 0
-
DeepSeek-V2.5：融合通用与代码能力的全新开源模型
今天，我们完成了 DeepSeek-V2-Chat 和 DeepSeek-Coder-V2 两个模型的合并，正式发布 DeepSeek-V2.5。DeepSeek-V2.5 不仅保留了原有 Chat 模型的通用对话能力和 Coder 模型的强大代码处理能力，还更好地对齐了人类偏好。此外，DeepSeek-V2.5 在写作任务、指令跟随等多个方面也实现了大幅提升。DeepSeek-V2.5 现已在网…- 0
- 0
-
一个火爆的国产AI项目，已开源！
好家伙，国内大模型发展太猛了！ 旗舰端侧模型面壁「小刚炮」系列进化为全新 MiniCPM 3.0 基座模型，再次以小博大，以 4B 参数，带来超越 GPT-3.5 的性能，强得不像端侧模型。 并且，量化后仅 2GB 内存，手机端都能跑！这还是一款瑞士军刀般全面开挂的基座模型，一口气带来： 无限长文本，榜单性能超越 Kimi，超长文本也不崩； 性能比肩 GPT-4o 的端侧最强 Function C…- 1
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×