lobogagatoc/homelab•【捡垃圾】4卡Tesla T10 LLM推理机,运行Qwen-Next-80B13 days ago😮 我以为这个4CM的扇会比较暴力,所以没试。。。 我试了这个模型(1)和这个模型(2),模型(1)我搭配了追风者T30,模型(2)用的海雀搭的风扇,全速都压不住。。。(貧弱!貧弱ぅ!) 另外还买了个首席玩家4000转,全速的时候声音已经人在机场,直接放弃了。。。 我测试的场景是vLLM跑Qwen2.5-Coder-32B,–max-model-len好像配置的是32768?另一边用Roo Code连跑一个小时生成代码,测试的时候已经是夏天,GPU满载就撞墙86度了 😇
lobogagatoc/homelab•【捡垃圾】4卡Tesla T10 LLM推理机,运行Qwen-Next-80B13 days ago请问一下,大佬您用的什么散热方案? 我25年上半年也置办了一套,上了个X99-E WS的板子,用的普通机箱,海雀带的风扇和2080Ti散热器我都试过了,在散热和噪音之间始终没办法取得很好的平衡,又没有隔音的置物间,现在已经闲置快半年了 😅
lobogagatoc/hacking•来自 esologic 老哥的新设计, 使用树莓派 pico 作为控制器搭载3个风扇驱动5 months ago每组三个小的涡轮扇,不知道散热效果怎么样 🤔 为啥不直接用一个大号的,是噪音太大还是散热效果不行。。。
lobogagatoc/dam•华硕好像马上就要出搭载AMD AI MAX+ 395的笔记本了11 months agohttps://www.bilibili.com/video/BV1xhKsenE4T/?spm_id_from=333.337.search-card.all.click&vd_source=e8108302e75a68729d82fc2d51adbc36 B站有个小主机的测评,70B的Token速度非常感人…
感谢大佬分享,我觉得我又行了,回家给机箱吹吹灰,再试一下 😘