跳到主内容
返回 Lab
成功

流式返回能不能救回 Agent 的等待焦虑

一次关于「首字延迟」的实验:在多 Agent 编排里用事件流增量返回,观察对可感知延迟的影响。

#agent#latency

hypothesis

把单响应改为事件流增量返回,即使总耗时不变,用户可感知等待也会显著下降。

学到了什么

  • 首字延迟(TTFB)比总耗时更影响体感,优先优化「开始有反馈」的时间点
  • 事件流让工具调用过程可观测,调试多轮推理时价值超出预期
  • 前端需要一个稳定的 AgentEvent 契约,否则流式渲染极易变成一团乱麻