SGLang

7分钟前发布 0 0 0

高性能开源大模型推理服务框架，被众多厂商用于部署 DeepSeek 等模型

收录时间：

2026-10-23

打开网站手机查看

部署应用 # 开源 # 推理服务 # 部署

SGLang

SGLang

高性能开源大模型推理服务框架，被众多厂商用于部署 DeepSeek 等模型

数据统计

相关导航

CrewAI

开源多智能体编排框架，可定义角色协作完成复杂自动化工作流

llama.cpp

最流行的本地大模型推理引擎，可在 CPU/消费级显卡上运行 GGUF 模型

动手学深度学习

李沐等编写的开源交互式深度学习教材

Weaviate

开源 AI 原生向量数据库

Windmill

开源开发者平台，用脚本与低代码构建内部工具、工作流与 AI 自动化

Mem0

为 AI 应用与智能体提供可扩展长期记忆层的开源项目

SD WebUI Forge

Stable Diffusion WebUI 的高性能分支，显存占用低并支持 FLUX

Stability AI

开源生成式 AI 公司官网，提供 Stable Diffusion、Stable Audio 等模型与产品