首页
News
首页
•
部署应用
•
vLLM
vLLM
4分钟前发布
0
0
0
高吞吐、低显存占用的开源大模型推理与服务引擎
收录时间:
2026-10-12
打开网站
手机查看
部署应用
# 开源
# 推理引擎
# 部署
vLLM
打开网站
高吞吐、低显存占用的
开源
大模型推理与服务引擎
数据统计
相关导航
Goose
Block 开源的通用 AI 智能体(现归属 Linux 基金会),支持桌面端与 CLI,可扩展 MCP 工具
Jan
开源的 ChatGPT 替代品,可在本地运行开源大模型,也能接入云端模型
n8n
开源的 AI 工作流自动化平台,可视化连接数百种应用并搭建 AI 智能体,支持自托管
AutoGPT
经典开源自主 AI 智能体项目,可拆解目标并连续执行多步任务
OpenCode
开源、多模型兼容的终端 AI 编程智能体,可接入云端与本地模型完成代码编写与重构
CV声音克隆工具
一个带web界面的声音克隆工具,使用你的音色或任意声音来录制音频。压缩包 3.4 G,解压后 6.3 G,可以直接本地运行。
LM Studio
在本地电脑下载并运行开源大模型的桌面应用,新推出 Bionic 智能体可生成文档、PPT 与代码
ComfyUI
节点式可视化 AI 生图/生视频工作流工具,开源免费,支持各类扩散模型的精细控制
反馈
让我们一起共建文明社区!您的反馈至关重要!
已失效
重定向&变更
已屏蔽
敏感内容
其他
提交反馈
网址
网址
文章
↵
ENTER
↓
↑
NAV