查不到超频方法。不过不需要做集群的话用计算卡意义不大,因此比较少人研究这方面内容。
查不到超频方法。不过不需要做集群的话用计算卡意义不大,因此比较少人研究这方面内容。
的确可以考虑。用风扇要另外接电源还是会麻烦一些
由于我的笔记本电脑原装电源最近不太稳定,前段时间入了一个氮化镓电源,体积有优势但散热差。就入了两个风扇,用强力双面胶固定,供电使用usb升压线,由于风扇最大功率下噪声较大就改为两个串联了,电源也能跑满额定功率。
希望能快点出。现在Grok3 Mini Reasoning都有一定优势,等o3或者Grok3 Reasoning正式版推出又要被拉开代差了。
带宽确实低。即使插满四通道也比不上EPYC二代,有八通道就完美了。
这个规模本地部署会比较麻烦,可能还是要靠云服务运行。
可能要用支持多语言的嵌入模型,我目前还没有具体对比
感觉现在的集成npu大多是用于后台运行AI应用的,AI性能比不上GPU。
考虑方便部署,创建知识库可以用anythingllm,只是为了方便在对话中引用可用用openwebui。
补充一下,这个核心超频幅度跟大部分人区别不大。显存超频在游戏提升少,大部分人超频1000mhz左右,但在AI应用提升大一些,经过测试最终采用了更大的超频幅度。至于长期运行稳定性问题,我的应用中高负载持续不超过一个星期,不需要特别留意长期稳定性。