LM Studio

LM Studio 是一款桌面应用，用图形界面解决本地运行大模型的全部步骤：在应用内搜索模型、看清楚哪个版本适合你的电脑、点一下下载、加载后直接在聊天窗口里使用。整个过程不需要打开终端，对不熟悉命令行的人很友好。

和 Ollama 相比，它的优势是「看得见」。搜索模型时会提示各个量化版本的大小和你的硬件能否跑得动；加载模型时可以直观地调节上下文长度、显卡分担比例等参数；对话界面也更完整，可以直接拖入文档提问。在苹果芯片的 Mac 上，它还支持苹果自家的 MLX 推理框架，运行效率不错。

它同样能开启本地服务，提供兼容 OpenAI 格式的接口，供其他工具调用。需要注意的是，LM Studio 免费但不开源，对开源有要求的用户会在意这点。另外它内置的模型搜索和下载依赖 Hugging Face，在大陆网络环境下往往无法直接下载，需要自行准备模型文件或另找途径。

主要功能

• 应用内找模型：直接搜索开源模型，显示各量化版本的体积和硬件适配提示。
• 聊天界面：加载模型后在图形界面里对话，支持多个会话和系统提示词设置。
• 文档对话：把本地文档拖入对话，让模型基于文档内容回答。
• 参数可视化调节：上下文长度、显卡分担、采样参数等都能在界面上调整。
• 本地 API 服务：一键开启兼容 OpenAI 格式的本地接口，供其他应用使用。
• 多种推理后端：支持常见的量化模型格式，在苹果芯片上可使用 MLX 加速。

如何使用

1. 从官网下载对应系统的安装包并安装。
2. 在应用的搜索页查找模型，优先选择标注为适合你硬件的量化版本。
3. 下载完成后在聊天页加载模型，开始对话，按需调整参数。
4. 需要给其他工具提供模型时，在开发者页面开启本地服务，复制接口地址。
5. 如果应用内无法下载，可以从国内模型社区下载模型文件，再导入到 LM Studio 的模型目录。

适用场景

• 不想碰命令行的本地模型用户：全程图形化操作，上手快。
• 挑选适合自己电脑的模型：硬件适配提示能少走很多弯路。
• 私密文档问答：在本机让模型阅读文档，数据不出电脑。
• 给其他工具提供模型后端：开启本地接口供插件和客户端调用。

优势与不足

优势

• 图形界面完整，从找模型到对话不需要任何命令行操作。
• 硬件适配提示和参数调节直观，适合新手摸索。
• 在苹果芯片 Mac 上运行效率表现好。

不足

• 软件本身不开源，对开源有要求的场景不合适。
• 内置下载依赖 Hugging Face，大陆网络下通常无法直接下载模型。
• 本地模型能力受硬件限制，和云端旗舰模型差距明显。
• 应用占用资源较多，作为常驻后台服务不如 Ollama 轻量。