老黄刚刚把牙膏剂爆了！出了个128G内存的桌面计算机 NVIDIA DIGITS！没错，可以拿在手上的超级AI计算机。大模型可以玩到爽了！甚至是不是可以自己炼大模型了！
但是，朋友们但是来了哦，注意内存下面的小字，这是LPDDR5X，不是GDDR6，更不是HBM2，跟苹果用的内存其实是一样的。虽然高达128G，但是根据 NVIDIA Grace CPU 的 datasheet，Grace CPU的内存带宽只有 512GB/s… （见图2） 所以跟 Apple MacBook Pro M4 Max 差不多… （70b-4bit 大模型大概 13token/s 的速度）
虽然现在NVIDIA还没有放出DIGITS的具体数据，还是希望内存带宽能高一些…
8
有两个网口，好的软路由！
400G Dual Ports NAS
卵路由草
我正在用 64GB 的 AGX Orin 炼丹，内存带宽只有204.8GB/s，体验一言难尽 😇 好在功耗够低
是的，另外安静也算一大好处，不过可能咱们这里的群友人均拜科努尔，都不太介意（x
0车发射中心是吧。其实从成本角度，strix halo是不是更好（生态更烂）
400G不太可能吧？100G的话多机之间开tp不知道怎么样？
内存方面有些遗憾