流式输出的体验细节

流式输出改善的是感知速度，而感知速度决定了用户是否继续等待。

首字时间

优化到一秒以内。可以先渲染骨架或状态提示，让用户知道系统在工作。

断流处理

网络中断时保留已生成内容，并提供重试入口。直接清空会让用户失去已读部分。

结构化内容

流式输出 Markdown 时，未闭合的代码块会导致渲染闪烁。按块提交或延迟渲染代码区域可以缓解。

可中止

提供停止按钮，并确保停止后服务端停止计费。前端停止了、后端还在生成，是最容易引发投诉的细节。