AI 前沿落地资料包
这份资料包由「AI 前沿信号室」持续维护:开源工具怎么选、别人怎么落地、每周哪些信号值得看——三件套帮你把「看懂前沿」变成「用得上」。
① 开源工具精选清单
从推理部署到 Agent 编排,按生产可用度精选。完整分类清单见代码库页。
| 项目 | 用途 |
|---|---|
| vLLM | 高吞吐 LLM 推理与服务引擎,PagedAttention 显著提升吞吐。 |
| llama.cpp | 在 CPU/端侧高效运行 LLM,量化推理的事实标准之一。 |
| Ollama | 一条命令在本地跑开源大模型,开发者本地推理首选。 |
| SGLang | 面向复杂 LLM 程序的高性能服务框架,结构化生成与高并发。 |
| LangChain | 构建 LLM 应用与 Agent 的通用框架,生态最广。 |
| LlamaIndex | 把私有数据接入 LLM 的数据框架,RAG 常用底座。 |
| Dify | 可视化 LLM 应用开发平台,编排工作流与 Agent,企业自部署友好。 |
| n8n | 可自托管的工作流自动化,接 AI 节点做业务编排。 |
② 企业落地案例精选
真实企业的 AI 落地报道与解读,持续更新。
- CNCF:可信智能体 AI 的地基,是成熟的云原生,而非全新基建 07-18
- QCon AI Boston 2026:生产级 AI 正从「提示词」走向平台、Harness 与评测 07-18
- 银河通用王鹤:具身智能的「ChatGPT 时刻」有望 2028 年底到来 07-18
- Hacker News 评论是否被用于训练 AI 模型? 07-18
- DoorDash 推出 dd-cli:首个面向 AI 代理的命令行订餐接口,标志 API 架构向 agent-native 范式演进 07-18
- 古籍书商担忧科技公司为训练AI模型销毁冷门绝版图书 07-18
③ 每周信号周报
每周精选真正重要的 AI 信号。邮箱订阅,或用任意阅读器订阅 RSS。
RSS 订阅地址: xh.umi6.com/zh/feed.xml