让大模型乖乖输出正确的 JSON：约束解码的底层原理
让大模型乖乖输出正确的 JSON：约束解码的底层原理 做 Agent 的同学大概都经历过这个时刻。 你的 Agent 系统上线了，跑得挺好的。模型在大部分情况下都能正确调用工具，返回格式工整的 JSON。你看着监控面板上 99.7% 的成功率，心情不错。 然后凌晨三点，告警响了。 一条线上日志显示，…
LLMvLLMConstrained-Decoding
Writing topic
# Function-Call
围绕这个关键词继续探索。