Codex 上下文压缩机制探究

Codex 上下文压缩机制探究

一句话总结

这篇文章的核心不是“发现了新 API”，而是用一个最小实验说明：

Codex 路径的压缩很可能也是 LLM 在做摘要，只是摘要被服务端加密成 blob，客户端看不见。

背景：两条压缩路径

作者先对比了两种模式：

• non-codex models：开源 Codex CLI 在本地做压缩，能看到 compaction prompt，后续 create 时还有 handoff prompt。
• codex models：CLI 调 compact()，只返回加密 blob（看不到内部 prompt 和摘要内容）。

文章的研究问题很直接：

codex 路径里，是否也存在类似的“压缩 prompt + handoff prompt + 摘要”流程？

实验设计（2 次 API 调用）

作者给了一个很小的脚本（约 35 行 Python），只做两件事：

Step 1：responses.compact()

• 往 compact 输入一段“带注入指令”的用户文本。
• 注入目标：诱导压缩模型在摘要里回显它看到的关键上下文提示词。
• 返回结果是加密 blob（gAAAAA...），客户端无法解密查看。

作者强调一点：这一步时，我们还不能确认注入是否成功，只知道“可能把东西写进了摘要”。

Step 2：responses.create()