LLM 请求与流式响应

一个 Agent 项目里,LLM 客户端这一层看着只是”发请求、收回复”。但一次请求里到底发出去什么、收回来什么,是这一层所有代码的骨架——这件事没理清,后面每个函数都只能照着别人的代码抄。

所以先别急着分层,把一次往返从头走一遍。

阅读更多