-
实战精选 | 如何在一台 Linux AI PC 上高效运行 OpenVINO™
什么是 AI PC，为什么它有一个特殊的名字？AI PC 是时下 PC 领域的一个热门话题。与普通 PC 不同，AI PC 配备了先进的硬件，例如强大的 GPU，可以超快地运行具有生成式AI或大语言模型等繁重计算要求的 AI 模型推理，更重要的是，它还具有称为神经处理单元 （NPU） 的专用 AI 芯片。NPU 针对低功耗进行了优化，同时保持了高计算性能，这使其在处理特定 AI 工作负载方面表现出…- 0
- 0
-
从儿童手表到 AI 陪伴，360 搞 AI 硬件的新思路
7 月 8 日下午，酒仙桥的 360 总部大厦，周鸿祎的又一场直播演讲，这一次聚焦儿童场景下最佳的大模型硬件。关于大模型硬件的最佳载体，以往深圳湾已经探讨过很多，周鸿祎给出了答案：聚焦儿童场景、儿童用户，儿童手表是最佳的大模型硬件。作为新品发布的预热，周鸿祎首先对于 AI 硬件的现状和问题进行了剖析，接着请出产品负责人孙浩，就 360 大模型儿童手表新品的亮点和 AI 功能做了展示和讲解。最后的互…- 0
- 0
-
Imbue-70B 的 AI Infra：从0到1搭建和运维4088 H100集群的最佳实践
一、引言最近 imbue 发布了其自研的 Imbue 70B 模型，各项能力与 LLaMA-3 70B 相当，在推理相关的任务上表现优于 zero-shot 的 GPT-4o。更难能可贵的是，Imbue 也进一步分享了他们从 0 到 1 构建一个大规模 GPU 集群的端到端指南（From bare metal to a 70B model: infrastructure set-up and sc…- 0
- 0
-
【不看后悔】一文梳理端侧模型和小模型
在AGI技术飞速发展的今天，大模型技术的突破为我们带来了无数的惊喜和可能。得益于端侧AI芯片的进步，如昨天文章中介绍的苹果M4芯片【地表最强端侧芯片：苹果M4】，端侧模型和小模型正逐渐成为备受关注的焦点。它们各自具有独特的特点和优势，为人工智能的应用和发展开辟了新的道路。端侧模型与小模型的定义与区别端侧模型：通常指的是部署在手机、电脑、或其他移动设备、嵌入式系统等资源受限设备上的模型。这些设备的计…- 0
- 0
-
【评测】699 元的 AI 眼镜，能导航、翻译还能聊天
在 4 月底的时候，李未可科技推出了旗下首款 AI 眼镜 —— Meta Lens Chat AI（以下简称 Chat AI 眼镜），售价 699 元起。眼镜主打 AI 语音交互能力，用户通过点触镜腿唤醒 AI 语音助手，为用户开启 AI 语音交互新体验。根据官方提供的信息，用户可使用语音交互让 AI 提供百科问答、学习辅助、英文翻译、语音导航、情感陪伴及音乐娱乐等功能。图源：李未可科技近日我们也…- 0
- 0
-
GPT-4智能眼镜：来自美国公司的智能眼镜Solos
欢迎您点击蓝字关注我们，了解最新AI资讯与应用最近，市场上涌现了几款搭载GPT-4的智能眼镜，智能眼镜已不再是科幻电影中的装饰品，它们将改变我们与周围世界互动的方式。其中一款引人注目的智能眼镜是Solos Smartglasses！眼镜款式Solos Smartglasses由美国公司Kopin Corporation研发，致力于将先进的显示和语音技术融入日常生活中。Kopin Corporati…- 0
- 0
-
全球首款搭载GPT-4o的AI智能眼镜来啦！Vision Pro将集成Apple Intelligence
熊嘻嘻全球首款搭载GPT-4o的AI智能眼镜来啦；据彭博社报道，苹果计划将 Apple Intelligence 引入 Vision Pro，其中包括升级版 Siri 和一系列先进的AI工具；扎克伯格采访透露Meta智能眼镜发展3条路线......Meta今年卖爆的AI眼镜Ray-Bans竞品来了配备GPT-4o和摄像头的智能眼镜这款摄像头眼镜尚未定价，但价格可能会超过 249 美元如果你想要一副…- 0
- 0
-
全球首款集成了GPT-4o的智能眼镜发布 ：支持视觉能力和实时问答
前几天，Solos 公司在香港智能眼镜峰会上发布了一个非常牛逼的新产品——Solos AirGo Vision 智能眼镜。这是全球首款集成了 ChatGPT-4o的可穿戴设备，Meta 的 Ray-Ban 不算啊，它是集成 Meta 自己的 Llama。Solos 这款眼镜能够根据用户所看到的内容和识别到的人或物体，还提供实时的回答，还支持视觉和语音提示。这不仅让我想起当年的 Google Gla…- 0
- 0
-
扫码枪+AI：一扫生成药品信息卡片，说明书可以扔了！｜AI 教程
先来看看最终的效果：故事是这样的。记得之前给家里的老人找药时，常常会发现去看药品包装上的信息，要么看药瓶没写详细的用法用量，要么说明书密密麻麻的，找找怎么着也得十来分钟。有时候还看的一头雾水，不知道该怎么去搞清楚药品的用途和用法，更别提给家里人吃了。这这非常让我困扰：能不能有一种简单的方法，只需使用电子设备，比如扫码枪或者手机，对着药瓶身或者69码一扫就能得到清晰、易懂的药品信息呢？恰好最近在看到…- 0
- 0
-
NVIDIA消费级显卡4060/4090 AI训练能效比较
NVIDIA GeForce RTX 4060NVIDIA GeForce RTX 4060 是基于Ada Lovelace架构的一款显卡，它被设计为中端市场的产品，旨在提供高性能的同时保持相对较低的功耗和价格点。技术参数：- GPU核心：采用AD107 GPU核心，具备3072个CUDA核心。- 显存：配备8GB GDDR6显存，使用128-bit的显存接口。- 频率：基础频率大约在1.83 G…- 0
- 0
-
如何花3400配置一台室内无噪音，48GB显存的深度学习服务器？
前言 22 年配置了一套 X299 主板加双 3090 显卡服务器，发现除了显卡，其它性能都远远过剩，完全没有体现出性价比，加上最近大模型比较火，就想着配置一套能跑和微调通义千问的服务器玩玩。作者：wenjtop来源：PaperWeekly仅用于学术分享，若侵权请联系删除配置目前配置一共花了 3400（双 P40 显卡），不追求完美 3000 应该也能配下来。p40 性能大约在 1080…- 0
- 0
-
「硬碰硬」：AI+硬件的神话，到底会怎么展开？
未来是一个超级智能体，还是多个有限智能体？作者 | Founder Park杨健勃是一位消费级硬件创业者，可以科技，他们开发的 AI 陪伴宠物在全球有着不错的市场表现。阳萌，安克创新的创始人，市值 380 亿美元消费电子的硬件上市公司 CEO，也是可以科技的投资人。Base 在北京的杨健勃经常飞到深圳与阳萌交流，他们常常围绕各自的业务，所在的行业，以及未来想做的事，展开非常深度的探讨。某种程度上，…- 0
- 0
-
许多硬件厂商的芯片开始支持 FP8 的计算，如英伟达最新的两种架构 Ada (4090) 和 Hopper (H100)
1. Background硬件的支持许多硬件厂商的芯片开始支持 FP8 的计算，如英伟达最新的两种架构 Ada (4090) 和 Hopper (H100)。它们的 Tensor Core 计算单元都开始支持 FP8 的计算，如图所示：在 H100 的第四代 Tensor Core 中，支持任意的 FP8 格式矩阵的乘法 （E4M3xE4M3, E5M2xE5M2, E4M3xE5M2, E5M2…- 0
- 0
-
对比A100和4090：两者的区别以及适用点
自2022年年末英伟达发布4090芯片以来，这款产品凭借着其优异的性能迅速在科技界占据了一席之地。现如今，不论是在游戏体验、内容创作能力方面还是模型精度提升方面，4090都是一个绕不过去的名字。而A100作为早些发布的产品，其优异的能力和适配性已经为它打下了良好的口碑。RTX 4090芯片和A100芯片虽然都是高性能的GPU，但它们在设计理念、目标市场和性能特点上有着明显的区别，而本篇文章将简单概…- 0
- 0
-
边缘小模型的前台实力，不是苹果的独家能力
笔者在今年3月撰写了一篇名为《“最美的整合”：从Vision Pro推演苹果LLM生态建设》的文章，结尾大致预测了苹果人工智能可能的呈现方式。在WWDC 2024开幕演讲的演示中，印证了我此前描述的大部分内容。人工智能最终以符合苹果设计的方式出现在了WWDC2024上。现在，绝大多数AI早期使用者正在脱离日常AI使用的范围，开始部署AI Agents，开发AI工作流。但在大多数情况下，普通人还完全…- 0
- 0
-
这家眼镜公司成了AI巨头追捧的对象
// Meta与雷朋的合作引起了科技圈的关注。EssilorLuxottica（依视路陆逊梯卡）在美国可能并不是一个家喻户晓的名字。然而，这家眼镜巨头不仅是Meta平台智能Ray-Ban（雷朋）眼镜的制造商，还拥有数十个其他眼镜品牌，如今突然成为科技公司争相合作的对象。34岁的意大利人罗科·巴西里科是EssilorLuxottica可穿戴设备业务的负责人，他在一…- 0
- 0
-
私有化部署大模型非常重要环节：国产显卡和英伟达显卡到底该如何选择？
随着科技的迅猛发展，显卡在人工智能、数据处理、高性能计算等领域的应用变得至关重要。本文将介绍几家主要的国产显卡厂商及其产品，并回顾英伟达GPU的架构演进，分析其在不同应用场景中的选择理由，探讨国产显卡与英伟达显卡的优劣势。一、国产显卡主要厂商及产品华为（HiSilicon）昇腾（Ascend）系列：如昇腾910和昇腾310，专为AI计算设计，适用于数据中心和边缘计算。比特大陆（Bitmain）So…- 0
- 0
-
NVIDIA 在 GDC 2024 推出全新数字人技术和 RTX SDK
在今年的游戏开发者大会（GDC 2024）上，NVIDIA 宣布了一系列激动人心的新技术，旨在彻底改变游戏开发领域。通过与领先的 AI 应用程序开发者如 Inworld AI 的合作，NVIDIA 展示了其最新的数字人技术和更新的 RTX SDK。这些创新不仅简化了高质量游戏世界的创建，还加速了生成式 AI 驱动的游戏角色的部署。NVIDIA 数字人技术：革新游戏角色NVIDIA 的数字人技术提供…- 0
- 0
-
中国人自己的操作系统！余承东掏出纯血鸿蒙，华为AI大招硬刚苹果
智东西6月21日报道，今天，中国南方的阳光明媚热烈，松山湖边环形场馆内，余承东从沸腾滚烫的掌声中走来，并宣布：今日起，纯血鸿蒙从内到外实现全栈自研。华为HarmonyOS NEXT是真正的“纯血”国产自研操作系统。这是华为鸿蒙诞生5年来又一个里程碑式的节点。正如华为终端BG董事长、智能汽车解决方案BU董事长余承东所说，鸿蒙内核是真正中国人自己做的操作系统内核，这也彻底结束了操作系统内核30多年由西…- 0
- 0
-
普通CPU笔记本也能操练大模型！One-api + Dify 本地Docker部署全流程
本文详述了One-api + Dify 本地Docker部署全流程，普通CPU笔记本电脑，win11环境实测 实操本文的必要（劝退）条件LLM大模型API key（国内的Qwen、GLM、Moonshot、deepseek都可以）;梯子: 鉴于Github和Dockerhub访问的难度与不稳定现状，搭个梯子是必要的；Docker 基本应用，至少会在Windows里安装docker des…- 0
- 0
-
浅谈英伟达 DGX SuperPod
NVIDIA DGX SuperPOD™与NVIDIA DGX™ H100系统是下一代数据中心人工智能（AI）架构。旨在提供AI模型训练、推理、高性能计算（HPC）和混合应用中的高级计算挑战所需的计算性能水平，以提高预测性能和解决方案的时间。DGX SuperPOD基于NVIDIA在内部研究中构建的基础设施，并旨在解决当今最具挑战性的计算问题。基于DGX SuperPOD架构的系统已部署在全球客户…- 0
- 0
-
AI大模型落地应用之电机驱动
AI大模型落地应用之电机驱动一，关于将将AI大模型落地的一点思考。2023年，随着ChatGPT的问世，大模型进入了告诉发展的时代。而这一年也被称为“人工智能元年”。到了2024，大模型技术已经逐渐开始成熟，并试图进入到下一个阶段“大模型落地阶段”。 但是，到底该如何落地，怎么落地，这就成了一个问题。毕竟，AI虽然可以…- 0
- 0
-
NVIDIA发布Nemotron-4 340B！用于生成高质量的合成数据
Nemotron-4 340B 是一系列为 NVIDIA NeMo 和 NVIDIA TensorRT-LLM 优化的模型，包括最先进的指令和奖励模型，以及用于生成式 AI 训练的数据集。英伟达今日宣布推出 Nemotron-4 340B，这是一系列开放模型，开发者可以使用它们生成用于训练大型语言模型（LLM）的合成数据，以应用于医疗、金融、制造、零售及其他各行各业的商业应用。高质量的训练数据在定…- 0
- 0
-
NVIDIA Nemotron-4 340B 开源技术报告 | 你想要的都在这里
上周，NVIDIA 更新了其最新的开源超大模型 Nemotron-4 340B，这次不仅放出了大模型的参数，也放出了全套预训练、对齐和奖励模型的训练代码，同时还有一份详细的技术报告！在 OpenAI 正在内部讨论要不要“CloseAI”的当下万分难得。现在，就跟着机智流一起来看下这篇诚意满满的技术报告吧。关注机智流，并在后台回复 "340B" ，即…- 0
- 0
扫码打开当前页
联系我们
-
￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×