-
一个使用日常设备（手机、电脑、平板等）就能组建自己AI集群的开源项目，帅呆了！Star 10K!
众所周知，AI模型的训练和推理需要大量的硬件资源支持。我们以早期的Qwen（通义千问）微调和推理为例说明：模型最大上下文长度微调（Q-Lora）最小GPU用量生成2048个token的最小显存占用（Int4）Qwen-1.8B32K5.8GB2.9GBQwen-7B32K11.5GB8.2GBQwen-14B8K18.7GB13.0GBQwen-72B32K61.4GB48.9GB数据来源：htt…- 0
- 0
-
NotebookLM+AI播客到底是什么神仙组合？
最近，NotebookLM可谓是火遍国内外互联网，被大家讨论的最多的就是「AI播客」 ，因为NotebookLM的“AI播客”目前暂支持英文输出，所以也被很多国人拿来练习英语，很多人也不满足于此，大家都觉得有很大的发挥空间，似乎哥伦布又发现了新大陆，随后国内马上就有中文的“AI播客”的产品不断涌现，甚至还直接开源了，可谓是中国速度。（下面我分享用NotebookLM快速学习《马斯克传》方法，以及关…- 0
- 0
-
6款不错的本地大模型运行工具推荐
运行大型语言模型 (LLM)（如 ChatGPT 和 Claude）通常涉及将数据发送到 OpenAI 和其他 AI 模型提供商管理的服务器。虽然这些服务是安全的，但一些企业更愿意将数据完全离线，以保护更大的隐私。本文介绍了开发人员可以用来在本地运行和测试 LLM 的六大工具，确保他们的数据永远不会离开他们的设备，类似于端到端加密保护隐私的方式。0、为什么要使用本地 LLM？当用户使用 LM St…- 0
- 0
-
万字盘点2024年OpenAI所有重大更新！o1模型更强了，但我更却更期待GPT-5
持续更新的2024年「OpenAI年度大事件」Timeline来了！我们似乎总能看到质变的那一刻，而忽略了过程里影响未来的瞬间……对于OpenAI，大家普遍有着最严的要求、最高的期待……时常也有最大的失望。在之前，能在全球范围内引发大众类似情绪的公司，只有苹果。自从ChatGPT在2022年11月推出以来，产品每一次更新、Sam Altman每一次发声，都能引发创投圈、AI圈的持续讨论。模型释放出…- 0
- 0
-
一文彻底搞懂大模型 – LLaMA-Factory
LLaMA-Factory如何高效地微调和部署大型语言模型（LLM）？LLaMA-Factory作为一个开源的微调框架，应运而生，为开发者提供了一个简便、高效的工具，以便在现有的预训练模型基础上，快速适应特定任务需求，提升模型表现。LLaMA-Factory作为一个功能强大且高效的大模型微调框架，通过其用户友好的界面和丰富的功能特性，为开发者提供了极大的便利。LLaMA-Factory一、LLaM…- 1
- 0
-
YoloX 一个开源的版面识别技术
一、YOLOX 算法简介YOLOX 是基于 YOLOv3-SPP 改进的一种目标检测算法，由旷视科技于 2021 年提出。YOLOX 在原有基础上进行了多项创新，包括将 anchor-based 调整为 anchor-free 形式，集成了先进的检测技术，如解耦头 (Decoupled Head) 和 label assignment SimOTA 等，取得了 SOTA（State Of The …- 1
- 0
-
AutoGen：通过多智能体对话实现下一代LLM应用
大语言模型（LLMs）正逐渐成为开发强大智能体的关键基石，这些智能体能够利用LLMs进行推理、使用工具以及适应新的观察结果，在众多现实任务中发挥着重要作用。随着LLMs应用场景的不断拓展和任务复杂性的日益增加，一种直观的提升智能体能力的方法是使用多个智能体进行协作。基于此，AutoGen应运而生，它是一个开源框架，允许开发者通过多个可以相互对话的智能体来构建LLM应用，以完成各种任务。图1：Aut…- 0
- 0
-
OpenAI 创始人Greg Brockman：AI真正能发光的地方在于启发性
我想先谈谈OpenAI，谈谈背后的公司，但我想先从ChatGPT开始。好的，时间回到2022年11月22日，你们发布了ChatGPT。这是一款由OpenAI开发的人工智能聊天机器人，基于大型语言模型，名为GPT-3。2022年11月发布后，这款软件在两个月内积累了超过1亿用户，成为历史上增长最快的软件应用。为了提供一些背景信息，Facebook Meta花费了4.5年时间才达到1亿用户，TikTo…- 0
- 0
-
超越Perplexity的AI搜索引擎框架MindSearch原理分析
介绍 MindSearch 是InternLM团队的一个开源的 AI 搜索引擎框架，由中科大和上海人工智能实验室联合打造的，具有与 Perplexity.ai Pro 相同的性能。框架特性：? 任何想知道的问题：MindSearch 通过搜索解决你在生活中遇到的各种问题? 深度知识探索：MindSearch 通过数百网页的浏览，提供更广泛、深层次的答案? 透明的解决方案路径：MindSearch …- 0
- 0
-
PDF2Audio：PDF一键转播客！让文档开口说话！
随着 AI 技术的快速发展，文本生成音频的应用越来越广泛。那么有没有什么工具可以将PDF中的海量文本转换为音频呢？今天给大家推荐一款PDF转播客的开源工具：PDF2Audio，正好适合这种场景！项目介绍PDF2Audio 是一款出色的开源工具，旨在将 PDF 文档转换为音频内容，适合制作播客、讲座、讨论和摘要等。该项目利用最新的 OpenAI o1 模型，提供了灵活性…- 0
- 0
-
Nvidia AI发布Llama-3.1-Nemotron-51B：单GPU上处理性能提升4倍！
01。概述 在人工智能的浪潮中，英伟达再一次站在了科技的最前沿，推出了全新大型语言模型——Llama-3.1-Nemotron-51B。这一模型不仅基于Meta的Llama-3.1-70B进行了深度优化，更通过先进的神经架构搜索（NAS）技术，实现了性能与效率的双重突破，标志着在大规模AI模型优化方面的重要里程碑。本文将深入探讨Llama-3.1-Nemotron-51B的背景、特点以及…- 0
- 0
-
阶跃星辰开源GOT-OCR2.0：统一端到端模型，魔搭一站式推理微调最佳实践来啦！
01引言OCR技术在将现实世界中的文本信息转换为可编辑、可搜索的数据方面发挥着至关重要的作用，它桥接着物理世界与数字世界，是实现信息自动化处理的关键技术。作为AI-1.0时代的技术成果，OCR技术已经相对成熟，被广泛应用于文档管理、自动驾驶、智能监控等多个领域。然而，随着技术的发展和应用需求的提升，OCR 1.0技术逐渐展现出局限性。传统OCR系统在处理复杂场景、模糊图像或特殊字体时，准确率和效率…- 0
- 0
-
Screenpipe：通过记录电脑屏幕和麦克风的相关数据，让 AI 更懂你，一键安装。
在当今数字化高速发展的时代，各种创新的技术和工具不断涌现，为我们的生活和工作带来了极大的便利。今天，我给大家介绍一个具有强大功能和潜力的开源项目：screenpipe ，它致力于通过利用用户的屏幕和音频输入来构建具有完整上下文的人工智能应用程序。screenpipe 的强大功能1、24/7 屏幕和音频记录screenpipe 能够实现 24/7 不间断地记录用户的屏幕和麦克风信息。这一功能为后续的…- 0
- 0
-
体验最新 Qwen2.5 模型
我们通过 ollama 拉取 qwen2.5 和 qwen2.5-coder 到本地。qwen2.5文本生成能力首先看看 qwen2.5 的文本生成能力，让它写一首藏头诗和写一篇儿童睡前故事。语言理解新闻总结中英翻译qwen2.5-coder接下来看看代码模型的能力，让它输出执行的结果。迭代器删除元素List<String> list …- 0
- 0
-
一个端到端的 OCR 模型，炸裂开源！
GOT-OCR 2.0 是一款革命性的端到端通用 OCR 模型，它能够识别和提取文本，还能处理数学公式、分子式、图表、乐谱、几何图形等多种内容，极大地拓宽了 OCR 技术的应用范围。模型大小仅 1.43GB，下面列出来在各个场景的效果，感兴趣的往下看。? 项目特点① 多语言、多模态识别：GOT-OCR 2.0 支持多种语言和模态的文本识别，无论是印刷体还是手写体，都能准确识别。② 多样化输入输出：…- 0
- 0
-
本地AI文件管理器：AI驱动+私有LLM，免费整理你的文件库
我很兴奋与大家分享这个非常实用的项目，名为“Local-File-Organizer”。有趣的是，这个项目是开源且免费的，由一位学生开发的，目的是为了整理他或她本地系统上的文件。这个工具允许你在本地磁盘系统上组织和整理多媒体文件，如文本或图片，还有一些其他支持的格式，稍后我会告诉你。借助完全私有且本地运行的LLM（大语言模型），你可以整理PNG文件、JPG、JPEG、GIF、BMP格式的图片。对于…- 0
- 0
-
一个新开源框架，视觉RAG系统的4层境界！
今天给大家分享一个开源框架，之前分享过一个使用QwenVL来构建的RAG系统脚本。这2天刷网页，看到一个仓库囊括了以视觉出发的RAG几层境界，并且都开源了相关colab notebook可执行代码，所以再次安利给家人们~Level 1：Simple RAG (with OCR)与naive RAG系统类似，不过多了OCR环节，因此它可以应付扫描件之类的pdf场景。Level2: Vision RA…- 0
- 0
-
探索更强中文Embedding模型：Conan-Embedding
本文主要分享我们近期在Embedding模型训练上的工作「Conan-Embedding」。目前，Conan-Embedding已在最全面、最大规模的中文语义向量评测榜单C-MTEB上达到SOTA，超越了阿里、百川、OpenAI等众多Embedding模型。引言概述随着大模型时代的爆发，检索增强生成技术（RAG）在大语言模型中广泛应用。RAG是一种性价比极高的方案，在大语言模型中占据重要地位。Em…- 1
- 0
-
Meta发布Llama 3.2大模型，彻底改变边缘 AI 和视觉！
今天分享主题，Meta 发布的Llama3.2大模型与之前Llama3.1有什么亮点Llama 3.2 没有太多新功能，主要集中在模型的优化和适应性上，特别是在小型模型的高效性和性能恢复方面，同时也是为解决 Llama 3.1 大模型构建时需要大量计算资源，使得开发人员或小型企业都很难满足所需资源来使用。虽然没有显著的新功能，但在上下文长度支持和合成数据生成的质量提升方面有所增强。Llama 3.…- 0
- 0
-
不要在本地部署大模型了，Mistral为开发者推出免费API套餐，国内可直连！
MistralAI推出API免费套餐已有几天，一直犹豫不觉是否发出来的原因是Mistral已经多次忽悠开发者...8月底本来说9月不订阅计划就用不了，结果在9月17日直接将大部分模型免费开放。直接访问 https://console.mistral.ai/ ，进入计费页面开通。加入免费计划首先要通过电话验证，这里我已经认证过了。使用谷歌虚拟号码，国内手机号也支持输入，不过我没有试。找半天免费套餐有…- 0
- 0
-
Meta首款多模态Llama 3.2开源！1B羊驼宝宝，跑在手机上了
Llama 3.1超大杯405B刚过去两个月，全新升级后的Llama 3.2来了！这次，最大的亮点在于，Llama 3.2成为羊驼家族中，首个支持多模态能力的模型。Connect大会上，新出炉的Llama 3.2包含了小型（11B）和中型（90B）两种版本的主要视觉模型。正如Meta所说，这两款模型能够直接替代，相对应的文本模型，而且在图像理解任务上击败了闭源Claude 3 Haiku。甚至，9…- 1
- 0
-
突破：在4GB GPU上运行开源大型语言模型的新王者Qwen2.5
在一个令人震惊的突发发展中，最强大的开源模型的头衔易主。阿里云发布了Qwen 2.5模型，尤其是其72B版本，在人工智能领域设立了新的标杆。该模型在MMLU、MATH和MBPP等大多数评估指标上超越了Llama3 405B，甚至在某些指标上超过了GPT-4。X.com 上到处都在热议Qwen 2.5，世界各地的用户都在不停地讨论这个新的AI巨头：今天，我正在接受一个大胆的挑战：在我的4GB显存的显…- 1
- 0
-
如何在Android上运行Llama 3.2
引言随着Llama 3.2的发布，Meta在将强大的语言模型带到边缘和移动设备方面取得了重大进展。Llama 3.2包含了专为智能手机和平板电脑高效运行而设计的轻量级模型（1B和3B参数）。本教程将指导您通过MLC LLM库对Llama 3.2模型进行量化、转换和部署。您将学习到如何设置模型转换和部署的环境。如何量化和转换Llama 3.2模型，以便在移动设备上兼容。如何编译和构建Android应…- 0
- 0
-
Meta发布Llama 3.2：AI大模型再升级，从云端到掌上
我是芝士AI吃鱼，原创 NLP、LLM、超长文知识分享热爱分享前沿技术知识，寻找志同道合小伙伴公众号 ：芝士AI吃鱼 看到 Meta 的发布会，感觉智能又近了一步，从视觉语言模型的革新到轻量级模型在边缘设备上的应用，Meta正在将AI的触角延伸到我们生活的每个角落。想象一下，在不久的将来，我们的手机可能会成为一个真正智能的个人助理，能够理解我们的视觉世界，回答复杂的问题，甚至帮助我们做出更明智的决…- 0
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×