omni模型在本地跑的话，似乎可以做离线的语音翻译器，回头试试看。 手机的内存带宽还是瓶颈，也许他这个iOS版本在m系列的iPad上运行更快？
Anthony-Hoo
Cake day: November 14th, 2024. Joined 9 months ago
jaykihn0说bmg G31去年就被砍了，也就是传说中那个32核心的Xe2显卡，参考Xe1的命名应该是叫B770吧。
现在就想知道之前传闻的B580 24G还有没有。
关于文心X1小球的那个，我这里测出来是这样的，最高分的代码多运行几次，有时候会出现2-3个小球 🤣
整理了下结果，已经pr了，需要把测试过程中生成的代码也附上吗
比较好奇这东西CPU能拉出来多少内存带宽，果子这边哪怕是M3Ultra，CPU部分也只有最大不到256GB/s的速度，要吃满800G得用GPU调用。
如果CPU带宽大的话也许HPC业务能从中受益
省流：这两个模型写代码效果较差，文心 4.5 略强于文心 X1。
| 测试项目 | 文心4.5 | 文心X1 |
|---|---|---|
| Ball Bouncing Inside Spinning Heptagon | 23 | 51 |
| Mandelbrot Set Meet LiBai | 52 | 0 |
| Mars Mission Animation | 26 | 39 |
| Solar System Animation | 78 | 38 |
会不会像mac pro里面的m2 ultra类似的封装，内存颗粒在顶盖下
打开ihs之后其实是这样的
OpenAI卖token卖不过别人，不过他们面向一般客户的用户体验还是有些优势的，他们的模型研发团队和产品团队协作显然更好。 比如Gemini明明是1M上下文的模型，但是官网web页面输出超过100tokens之后就卡的不行。 Anthropic 的移动app在发起请求后必须保持在前台，否则断线即会终止回复。 Qwen的国内版app更是被阿里塞了一堆不知道啥玩意的狗皮膏药进去，搞得臃肿无比。