SillyTavern
热门开源 AI 角色扮演聊天前端，可接入多种大模型 API
排序
Xinference
国产开源模型推理平台，一键部署大语言、嵌入与多模态模型
ChatWise
简洁高速的多模型 AI 聊天桌面客户端
AnythingLLM
本地私有化的 AI 助手与知识库应用，支持文档问答、智能体，无需账号与 API 密钥
MarkItDown
微软开源的文件转 Markdown 工具，方便把各种文档喂给大模型
Crawl4AI
热门开源 AI 爬虫，将网页抓取为适合大模型使用的 Markdown 数据
Docling
IBM 开源的文档解析工具，可将 PDF、Office 等转换为大模型友好的结构化数据
KTransformers
清华团队开源的大模型推理优化框架，可在消费级硬件上运行 DeepSeek 等超大模型
Text Generation WebUI
经典开源本地大模型网页界面，支持多种推理后端与模型格式
FaceFusion
流行的开源 AI 换脸与人脸增强工具，支持图片与视频处理
SGLang
高性能开源大模型推理服务框架，被众多厂商用于部署 DeepSeek 等模型
llama.cpp
最流行的本地大模型推理引擎，可在 CPU/消费级显卡上运行 GGUF 模型
Open WebUI
开源自托管的 AI 对话界面，可对接 Ollama 与 OpenAI 兼容接口，支持 RAG 与多用户
Deep-Live-Cam
热门开源实时换脸工具，只需一张照片即可进行实时视频换脸