400G不太可能吧？100G的话多机之间开tp不知道怎么样？

实际上有很多问题没有考虑，比如首字回复速度。还有flash attention支持，FP8等等 🤪 。 vllm，sglang一票加速库甚至还不支持sm70/75的卡。