流式输出做内容安全，最容易栽的坑是：等模型把整段话生成完再审，那前面已经流给用户的字早就看到了，拦了个寂寞。真要拦实时流，得在 token 边吐边审。这篇讲我搭客服智能体时趟出来的几个做法。

先讲清楚问题。普通非流式调用，模型一次性返回完整文本，你拿到全文做一遍安全审核，没问题再给用户，简单。但流式（SSE）是一个字一个字往外推的，用户体验好，可审核就尴尬了——你不可能等全部生成完，那就失去流式的意义了；可逐字审吧，单个字根本看不出敏感，得攒够一句才有语义。

我的方案是滑动窗口 + 缓冲延迟。

核心思路：流式 token 不直接吐给用户，先进一个缓冲区。攒到一个小窗口（我设的是大约一句话或标点处），对窗口做一次安全检测，过了才把这段真正推给前端。相当于让用户看到的内容，永远比模型实际生成的"慢半句"。这半句的延迟换来了审核窗口。

模型生成 → token缓冲区 → 凑够一个语义片段 → 安全审核
   ↓过                    ↓不过
推给前端              中断流 + 替换为兜底话术

几个实操细节：

窗口切在哪很讲究。切太碎（比如每 5 个字审一次），敏感词被拆在两个窗口里就漏了，"赌"在窗口尾、"博"在下个窗口头，分开看都干净。我现在按标点和长度双触发，凑够约 30 字或遇到句末标点就审一次，并且窗口之间留几个字的重叠，专门防词被切断。

命中之后怎么处理。最暴力是直接断流、把已输出的也撤回，但流式撤回前端体验很差，字都显出来了又消失。我退而求其次：一旦某个窗口审核不过，立即停止后续推送，把那段没过审的换成一句固定兜底"这部分内容我不太方便展开，换个问法试试？"。已经推出去的前文保留，只是后面不接着流了。不完美，但比闪烁好。

别把审核做成串行阻塞。审核这一下如果是同步等结果，每个窗口都卡一下，流式就一顿一顿的。我把审核放进流水线，模型继续往缓冲区生成，审核异步处理已凑齐的窗口，前端推送跟着审核结果走。这样吞吐不至于被审核拖垮。

说个真实缺点：这套必然引入延迟，用户能感觉到输出比纯流式"慢一点、顿一点"。我实测大概多出小几百毫秒的滞后感，客服场景能接受，但如果你做的是那种追求极致顺滑的创意写作流，用户可能会嫌卡。这是安全和体验的硬取舍，没法两全。

还有个我交过学费的点：别只审模型输出，用户输入也得审。我一开始只盯着输出，结果有人在输入里夹了诱导话术想套话，模型差点被带跑。现在入口和出口两头都过一道。

整套流式审核管线，我是在一个零代码搭智能体、还能直接发布成 API 的平台上配的——缓冲、审核节点拖出来串成流，发布出去就是个带安全护栏的流式接口，不用自己写 SSE 和审核调度。

底层模型走讯飞星辰MaaS，流式生成那条调用是它现成的接口，我没自建算力。