力度与上下文

推理力度

Claude Code 的力度级别(/effort、/model 滑块、--effort 或 CLAUDE_CODE_EFFORT_LEVEL)以 output_config.effort 请求字段发送,shunt 将其为映射的模型映射到 Responses 的 reasoning.effort:

一个 Codex slug 接受哪些推理级别,按模型列在 openai/codex 的 models.json 中(supported_reasoning_levels)。

shunt 中的优先级:配置中的 route.effort / [providers.*].effort 覆盖最先胜出;否则遵从请求的 output_config.effort;否则 thinking.enabled → high,然后是模型名后缀(-xhigh/-high/-medium/-low,其中 -spark 被当作 -low),否则 medium。

Token 计数(count_tokens)

对于一个 Anthropic 路由的模型,shunt 将 POST /v1/messages/count_tokens 透传给上游(精确计数)。对于一个 responses 路由的模型,没有等价的上游端点,因此由提供方的 count_tokens 设置决定:

• count_tokens = "tiktoken"(默认) —— shunt 用 tiktoken 的 o200k_base 编码器在本地计算计数,并返回 {"input_tokens": N}。对 GPT 系列模型上的文本近乎精确,并在进程内应答(约毫秒级) —— 这一点很重要,因为 Claude Code 的 /context 会为每个显示项发起一次 count_tokens 调用(每次调用 30–50 次)。
• count_tokens = "estimate"(主动启用) —— shunt 返回 501 not_supported,告知 Claude Code 此端点不可用并触发回退。主循环上下文栏随后在本地估算,但 /context 会通过网络对 Haiku 重新运行每个类别的计数 —— 慢,并且在没有 Anthropic 凭据可用时静默报告为 0 tokens。

无论哪种方式,请求都不会抵达 responses 适配器,因此一个计数请求绝不会被转成(并按)一次完整的推理调用(计费)。

映射模型的上下文 / 用量显示

Claude Code 从助手消息的 token usage 除以模型的上下文窗口大小,在本地计算上下文指示器。对于路由到 responses 提供方的模型:

• Token 计数(分子)是准确的。 shunt 从 Responses 的 usage 中读取 input_tokens(以及缓存 token)并在 Anthropic 的 message_delta 中转发它们,将缓存部分剥离到 cache_read_input_tokens。
• 窗口(分母)对未识别的 id 默认为固定的 200k。 一个真实窗口更大的模型(例如 372k 的 gpt-5.6-sol)会显示一个保守的、偏高的百分比 —— 这只会让自动压缩稍微提前触发。

200k 默认值可以在客户端用 CLAUDE_CODE_MAX_CONTEXT_TOKENS 覆盖(Claude Code 2.1.205+);它适用于任何不以 claude- 开头的模型 id:

# 例如 gpt-5.6-sol 的真实窗口
export CLAUDE_CODE_MAX_CONTEXT_TOKENS=372000

由于该覆盖只适用于不以 claude- 开头的 id,一个 发现别名(它必须以 claude- 开头)无法接收它 —— 其窗口保持钉在 200k 默认值上。在选择器中很方便,但当你需要准确窗口时,请用一个非 claude- id(通过 ANTHROPIC_CUSTOM_MODEL_OPTION,或通过 重映射分层别名)。当两个映射的层共享一个窗口时 —— gpt-5.6-sol 和 gpt-5.6-luna 都是 372k —— 一个全局值即可覆盖两者。

另一个客户端杠杆是 [1m] 模型 id 后缀,它强制一个 1M 窗口 —— 只有当上游确实拥有该窗口时才使用它。(shunt 在路由匹配和转发之前会剥除尾部的 [1m],因此该提示纯粹留在客户端,提供方永远看不到它。)

上下文溢出恢复

当一段对话超出上游模型的真实窗口时,提供方会用它自己的措辞拒绝请求 —— OpenAI 的 context_length_exceeded、"This model's maximum context length is N tokens…",或某个代理的 "prompt token count of N exceeds the limit of M"。Claude Code 的自动压缩并重试只在 Anthropic 的措辞上触发,因此若不重写,这些错误会让会话搁浅,直到手动 /compact(有记载的网关陷阱)。

shunt 会检测 responses 路由模型上的上下文溢出错误,并将它们重写成 Claude Code 能匹配的 Anthropic 形状:

{"type": "error", "error": {"type": "invalid_request_error", "message": "prompt is too long: 372982 tokens > 272000 maximum"}}

当上游消息同时携带两个 token 计数时,shunt 会保留它们(无论上游以何种顺序陈述) —— Claude Code 解析 N tokens > M maximum 的差距,并在一次重试中把整个超出量都压缩掉。当上游没有给出计数时(例如 Responses API 平实的 “Your input exceeds the context window of this model”),shunt 单独发出 prompt is too long,它仍会触发压缩。非溢出错误则带着原始消息透传。

归属块

Claude Code 会在系统提示前添加一行归属信息。Anthropic 在处理前会剥除它,但 shunt 原样转发,因此一个映射的提供方会把它作为 instructions 的第一行接收。对于非 Anthropic 模型,它是无害但无意义的噪声。要丢弃它:

export CLAUDE_CODE_ATTRIBUTION_HEADER=0

这是全局的,因此它也会从 Anthropic 透传流量(用于成本追踪)中移除归属 —— 当你在路由到另一个提供方时,这没问题。