# Prefill

大模型为什么第一个字最慢？从 TTFT 到 TPOT 拆解推理延迟

大模型为什么第一个字最慢？从 TTFT 到 TPOT 拆解推理延迟 如果你经常用 ChatGPT、Claude、Gemini，或者自己写过一点 Agent，你一定遇到过一个很微妙的瞬间。 你按下回车。 屏幕安静了几秒。 然后第一个字终于蹦出来。 最奇怪的是，一旦第一个字出来，后面又好像顺了很多。模型…

从你按下回车到大模型吐出第一个字：TTFT 全链路拆解

从你按下回车到大模型吐出第一个字：TTFT 全链路拆解 引言 你在 ChatGPT 输入框敲下「帮我写一段代码」，按下回车。光标停了 200~800 毫秒，第一个字「好」缓缓蹦出来。这段静默期工程上有个专门的名字，叫 TTFT （Time To First Token，首字延迟，从客户端发出请求到收…