会话统计 1 轮 76 步
模型用时 22 分 13 秒
工具调用用时 45.3 秒
首 token 平均(TTFT) 5 秒
输出速度(TPS) 83 tok/s
官方 API 的话是 200-300 tok/s
这个感觉是不是跟 GPT 一样,把你速度降下来,让你感觉耐用,其实都一样(⊙o⊙)…
模型用时 22 分 13 秒
工具调用用时 45.3 秒
首 token 平均(TTFT) 5 秒
输出速度(TPS) 83 tok/s
官方 API 的话是 200-300 tok/s
这个感觉是不是跟 GPT 一样,把你速度降下来,让你感觉耐用,其实都一样(⊙o⊙)…