BoltAI
Mac 原生 AI 助手客户端，支持多家模型与本地模型
排序
ChatWise
简洁高速的多模型 AI 聊天桌面客户端
Unsloth
开源大模型高效微调框架，显存占用更低、训练速度更快
vLLM
高吞吐、低显存占用的开源大模型推理与服务引擎
Msty
统一使用本地与在线模型的桌面 AI 客户端，注重隐私
LibreChat
开源的多模型 AI 聊天界面，支持自托管、插件与智能体
LocalAI
开源的本地 OpenAI 兼容 API 网关，可在本地运行 LLM、语音与图像模型
Windmill
开源开发者平台，用脚本与低代码构建内部工具、工作流与 AI 自动化
RAGFlow
开源 RAG 引擎，深度解析复杂文档，为 AI 智能体与知识库问答提供可靠上下文
AnythingLLM
本地私有化的 AI 助手与知识库应用，支持文档问答、智能体，无需账号与 API 密钥
Jan
开源的 ChatGPT 替代品，可在本地运行开源大模型，也能接入云端模型
LM Studio
在本地电脑下载并运行开源大模型的桌面应用，新推出 Bionic 智能体可生成文档、PPT 与代码
Open WebUI
开源自托管的 AI 对话界面，可对接 Ollama 与 OpenAI 兼容接口，支持 RAG 与多用户
Ollama
在本地电脑一键下载并运行 Llama、Qwen、DeepSeek 等开源大模型的工具