使用LM Studio一键部署本地AI大语言模型 个人提效 企业落地 新闻资讯 4月18日 编辑 charles 取消关注 关注 私信 现在如此多的开源AI模型，像Gemma、Mistral 7B、Llama等，如果想部署到本地个人电脑上，一般需要懂点python等编程知识，而现在出现了一些软件和开源工具，已经可以一键部署AI模型到本地了，很多都是傻瓜化操作，不需要有相应的编程知识。下面介绍的这个LM Studio就是一个傻瓜化一键部署开源AI模型的桌面软件。 1.什么是LM Studio？ LM Studio 是一个桌面应用程序，支持Windows、苹果macOS和Linux操作系统，用于在电脑上运行本地大语言模型。它通过在本地主机上运行的类似 OpenAI 的 HTTP 服务器使用本地大语言模型，这样使你有更多的控制权和隐私保护。 LM Studio的主要功能： 搜索并下载各种AI大语言模型； 在具有GPU的本地计算机上运行AI模型； 与 AnythingLLM 集成以创建聊天机器人界面。 官方网站：lmstudio.ai 2.电脑最低配置要求是什么？ • 配备 macOS 13.6 或更高版本的苹果电脑(M1/M2/M3) • 具有支持 AVX2 处理器的 Windows/Linux PC • 支持 NVIDIA/AMD GPU显卡，建议16GB 以上的显存。 • 对于电脑，建议6GB+内存 一般Intel和AMD的比较新的CPU都支持AVX2指令集，如果不确定，可以用CPUZ软件查看一下自己电脑CPU支持的指令集。 3.在Windows上安装LM Studio 进入官网页面，点相应的操作系统，下载。 打开下载的安装文件，点击运行。 它会自动安装在C盘上。 3.运行LM Studio 直接打开LM Studio，可以直接在软件主页下载推荐的各种模型。 也可以在搜索页搜索Hugging Face上的模型。并在页面的右上角显示估计需要的内存和显存容量。 5. 与你的AI聊天 进入聊天页面，加载您下载的模型，并输入提示词，等它给出回答。 还可以一次加载多个模型，以对比不同AI模型的不同响应。 LM Studio可以让你轻松的部署自己的私有AI大语言模型，不用再考虑网络、费用问题，随时随地与AI交互，唯一不完美的就是全英文界面，没有汉化功能。官方后续版本还会增加文本嵌入（POST /v1/embeddings）支持，实现更多的自定义功能。
