AirLLM

59秒前发布 0 0 0

开源大模型推理优化库，可在 4GB 显存的单卡上运行 70B 级别大模型。

收录时间：

2026-10-30

打开网站手机查看

部署应用 # 开源 # 推理优化 # 本地部署

AirLLM

AirLLM

开源大模型推理优化库，可在 4GB 显存的单卡上运行 70B 级别大模型。

数据统计

相关导航

Skyvern

开源浏览器自动化智能体，用视觉与 LLM 操作网页完成复杂流程

Flowise

开源低代码 LLM 应用构建平台，拖拽即可搭建 RAG 问答与多智能体流程

Steel

为 AI 智能体提供云端浏览器的开源 API

Qdrant

高性能开源向量数据库

Chroma

面向 AI 应用的开源嵌入向量数据库

OpenHands

开源 AI 软件开发智能体平台，可自主编写、运行和修复代码

ChatGPT Next Web

一键免费部署你的私人 ChatGPT 网页应用。

Mastra

基于 TypeScript 的开源 AI 智能体与工作流开发框架