先画清一次请求的边界
把用户输入、应用服务、模型接口和页面展示画在同一条链路上,标出谁创建请求、谁读取响应、谁保存最终结果。访问凭证应留在应用服务端,不放进页面代码或公开仓库。记录本次调用采用的模型标识与协议,不要因为接口地址相似就默认行为一致。
接入前用一个不含敏感数据的小任务核对普通响应,再尝试流式响应。检查请求字段、响应类型与错误结构是否符合当前文档。如果应用需要工具调用或结构化结果,应另设验收样例;文本可以显示,不代表这些能力也已经通过验证。
把“收到内容”和“正常结束”分开
流式页面至少区分等待中、接收中、已完成、已中断几个状态。只有解析到所用协议规定的结束信号后,才把结果标记为完成。不要把网络连接关闭直接当成成功,也不要把每一段网络数据都视为一个完整事件;事件可能跨段到达。
保留尚未解析完的数据,等事件边界完整后再处理。用同一组样例检查连续内容、空事件和意外断开。若服务返回用量信息,按当前协议确认它的位置和含义;没有收到时展示待核对,不自行补造一个数字。
让错误恢复符合用户动作
连接失败与已经收到部分内容应走不同的提示。中断后保留已展示文字,并明确说明结果可能不完整。给用户重新发起的入口,由应用决定新请求是否继续原有上下文;不要在后台静默重放可能产生额外费用的调用。
取消按钮应同时停止页面读取并尝试取消服务端请求。随后检查应用自己的处理链路是否仍在运行。无法确认对端是否结束时,记录这种不确定性,避免把取消按钮的界面反馈写成调用已经撤销的保证。
上线前留下可复查的证据
为正常结束、用户取消、超时与中途断开分别留一条脱敏记录,包含应用请求标识、发生时间、所选模型及应用侧最终状态。日志不保存密钥,也不默认保存完整用户输入。以这些样例检查页面提示和实际处理是否一致。
NexoToken 提供多模型 API 接入、账户额度与用量记录。接入时仍应核对当前模型目录、价格与文档,再把自己的请求记录和平台可见记录进行核对。若记录缺项,先定位边界并保留时间范围,不据此宣称服务稳定性已经得到证明。
参考资料
由 NexoToken 维护的自营资料站。平台介绍包含运营方利益关系,不构成独立第三方认证。