llama.cpp
最流行的本地大模型推理引擎，可在 CPU/消费级显卡上运行 GGUF 模型
数据统计
相关导航
动手学深度学习
李沐等编写的开源交互式深度学习教材
Langbase
无服务器 AI 智能体开发平台，快速构建和部署 AI 应用
Haystack
构建 RAG 与智能体应用的开源大模型编排框架
prompts.chat
GitHub 星标极高的 Awesome ChatGPT Prompts 提示词库网站
AI Engineering from Scratch
从零系统学习 AI 工程的免费开源课程，覆盖大模型、RAG、智能体到上线部署。
AutoGen
微软开源的多智能体对话与协作框架
Cline
开源 AI 编程智能体，以 VS Code 插件等形式运行，支持计划/执行模式与 MCP，可接入任意模型