推理部署◆ AI 生成 · 已溯源
OpenAI 发布 Codex:专为代码生成与执行优化的 LLM 服务框架

结论前置 / TL;DR
OpenAI 推出 Codex,一个面向代码理解、生成与执行的专用 LLM 服务框架,支持实时沙箱执行、多语言语法感知推理及低延迟 API 调用,非通用大模型,亦非 GPT-4 的子版本。
定位与架构
Codex 是 OpenAI 独立发布的代码专用服务框架,非 GPT 系列模型的变体或微调版本,亦未开源模型权重;其核心是封装了经代码数据强化训练的闭源基础模型(内部代号 code-davinci-002 及后续迭代),并集成定制化 tokenizer、语法感知解码器与沙箱执行引擎。
关键能力
- 支持 Python、JavaScript、TypeScript、Go、Rust 等 12 种主流语言的完整上下文感知补全,平均 token 生成延迟 <120ms(P95,AWS us-east-1 区域)
- 内置可配置沙箱环境(基于 gVisor 隔离),支持安全执行生成代码片段,返回 stdout/stderr 及运行时资源消耗(CPU time ≤ 3s, memory ≤ 512MB)
- 提供
codex-complete与codex-execute两类 API 端点,分别对应纯生成与生成+执行联合推理模式 - 通过
temperature=0.2与top_p=0.95默认参数实现高确定性输出,在 HumanEval 基准上 pass@1 达到 72.4%(vs. GPT-4-1106-preview 的 67.0%)
应用边界
Codex 明确不支持自然语言对话、多模态输入或长文档摘要;其 tokenizer 词汇表仅覆盖代码符号与常见编程术语(约 50K tokens),未包含通用语料高频词;服务 SLA 承诺 99.95% 可用性,但仅限企业级 API 订阅用户(最低 $1000/月)