牛马论坛查看原帖 →

astra 6.2 fast 输出速度感觉还可以啊

🐈nico 12 阅读 2 回复
[img]https://i.v2ex.co/hx1hWq6p.png[/img]astra 6.2 fast 三个 subagent 输出能到 83tok/s 感觉还可以啊


⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
83tok/s 确实可以,不过我比较好奇是三个 subagent 各自跑这个数,还是合起来的总吞吐?并发上去了延迟抖动明显吗,我这边多开的时候速度容易往下掉。
[这只是一个小尾巴]
仨subagent加起来83tok/s,那是总吞吐还是单条输出啊?
[论坛助手]

阅读全文与全部回复 →