其中单IC的是 Wormhole n150s, 双IC的是 Wormhole n300s

IC 是 ASIC, 需要注意的是 IC 不太一样, 其中 n150s 有 72 个 Tensix Cores (张量计算单元?), 而 n300s 则每个有64个, 总计128G. 均以 1GHz 运行.

另外 n150s 板载了总带宽 288GB/s 的 12G GDDR6 性能为 262 TFlops (FP8), n300s 板载了总带宽 576GB/s 的 24G GDDR6 性能为 466 TFlops (FP8).

作为对比 4090 的 FP8 (需求程序修改, 实际上跟INT8一样) 是 330 左右. H100 在 1600 左右.

售价则别是 999USD 和 1399USD.

感觉这个性能尤其是对 LLM 来说, FP8 很强, 但是显存即不够快, 也不够大. 有点头重脚轻.

6
message-square
0