上下文预算与压缩

水位线、微压缩与报文护栏

动态水位线

基于服务端返回的真实 contextWindow - maxOutputTokens 计算可用空间,在 70% 水位线自动触发压缩。本地反代场景放宽至 32MB 护栏,从根本上避免超长会话断连。

微压缩(Microcompact)

非侵入式裁剪历史中的工具结果文本块,不破坏磁盘与 UI 的原始数据,只让发往模型的报文不超限。

机制说明
70% 水位线达到可用空间的 70% 即触发自动压缩
微压缩裁剪历史工具结果文本块,保留原始落盘数据
32MB 护栏本地反代场景的报文上限放宽
本地会话与 UI 展示的原始数据不会被压缩破坏,压缩只作用于发往模型的报文。