最近这个S8026比较火,买点pcie-sff8611 retimer卡,加个背板就能两千快钱内搞定24盘u2准系统,而且还是盘架riser全的。比如论坛里这两个帖子
于是跟风装一台全闪NAS

1. 硬件准备
1.1 硬件选型
首先明确需求
- CPU:计算能力尚可,无较高要求。不能双路。最好相对省一点电
- 硬盘IO:需要CPU直连24个PCIe x4 U2端口,不要中间商PLX赚电价
- 网络IO:需要至少一个100G口(PCIe 3.0 x4单盘速度就能打满25G口,所以至少100G起步,否则牙签IO会导致这么大容量和IO的存储系统对外体验很差)。
(顺便diss一下市面上牙签PLX + N100的奇葩,八个硬盘挤一个PCIe x4内部总线,真就硬盘比内存快)
那么综合考虑下
- 准系统:选S8026,一千多一台,价格还行
- CPU:Intel全家阵亡,单路PCIe不够用。于是选择3群顶真7D12,85W满PCIe 4.0通道。六百快
- 硬盘:硬盘不打算买太好,一个是PCIe 4.0线材要求高,另一个是就算200G口远远不够24盘PCIe 3.0使用,就算是插两个CX6接4个200G也勉强。
- 网卡:由于S8026两个riser是X24的,所以有x16 x16 x8 x8可以用。其中一个x16接了背板。所以还剩x8 x8 x16可以接网卡。直接翻出一张CX6插到X16上得了
1.2 S8026准系统改造24盘位
首先,市面上能买到的S8026都是14盘U2+8盘SATA的,那么就需要先改造成24盘U2
大致需要以下几步
- 拆掉SATA背板,换U2背板(300块左右)
- 至少购买5条SFF8611 8i转俩4i线(一条给原装的第二个背板使用,剩下四条接上面换的背板
- 至少购买两个OCP 2.0转SFF8611 8i retimer卡(以及至少一个PCIe转OCP x16扩展卡)
- 至少需要购买一个8CM风扇,带调速
首先安装背板,注意原装的两个U2背板,大4D供电没有接5V。这样会导致硬盘灯不亮,无法愉快的闪烁

然后安装OCP 2.0转SFF8611 8i retimer卡。主板上本身有一个OCP 2.0 X16接口。还需要另外从riser转接第二个OCP 2.0 X16

这样我们就能在主板上额外变出来四个SFF8611 8i (每个口8 lane),接我们改造的背板了。
什么?为什么不直接买PCIe转SFF8611卡,因为95块钱那家买了一堆,全是坏的,好的又要两三百。所以只能买85块钱的ocp卡和30块钱的ocp转接卡拼装一下
另外这个H3C的ocp转接卡没有5v,需要魔改一下

然后把线接上,风扇接上就行了。原装风扇是接背板的,满转。需要接到主板上

1.3 S8026准系统装机
原装的散热器是1U的,没有导风罩压不住。3D打印又会有奇奇怪怪的材料融化,高温释放有毒物质问题。所以换2U
有别的群友是用的大块铝栅栏散热器,我觉得散热不太行,所以找了个2U带热管的

如图,20块钱买了个联想散热块,带热管。不过这个散热挡riser了,需要锯一个riser+弯折另一个riser。因为没有电锯,只有一个小台钻,于是
先沿着好欺负的边打一排孔

然后钳子来回晃断。再沿着另外一边来回弯折,使得金属疲劳断裂

最后锉刀搞一下,别让它掉渣就行
这样就能完美装下这个2u散热了,以后换280W 64核也没问题
2. Power on!但是
2.1 泰安风扇调速方法
泰安这个风扇太智障了,完全符合我对日本IT水平的期望(
默认大概是这么个逻辑:BIOS中设置一个期望转速(例如30%)。POST完成后BIOS把转速报给BMC,BMC维持这个转速。如果CPU超过75度,BMC接管,风扇拉满
因为7D12本身虽然只有85W,但是积热。导致随随便便破75度,整机非常的吵,非常容易起飞。于是把BMC固件拉出来逆向看一下,怎么限制风扇转速

研究了一下,发现泰安的风扇调速表在这个地方,有六个风扇,多组传感器,每个风扇关联了其中几组传感器
最下面有每个风扇的设置,我直接改成40就行了,这样每个风扇最大转速锁40%(测试过7d12满载2小时能压住89度左右。风险自负!烧坏了不负责)
但是不生效,因为泰安压根不从这个地方读,而是从/conf/BMC1/ast2500evb_ami/FSC.xml读的

我也懒得再去重打包conf分区了,直接改这个libipmityan.so得了,把前几个字符/conf改成/etc/。这样路径就会变成/etc//BMC1/ast2500evb_ami/FSC.xml,从rootfs分区读取我们改过的xml
最后mkcramfs重打包,替换到rootfs所在偏移即可
2.2 解锁PCIe 4.0
因为这个机器默认全PCIe 3.0的,我决定把所有PCIe槽都解锁4.0了。找了一圈BIOS没给设置,那么只能自己爆改
随便找个源码翻翻,发现EPYC在这个DxioLib里面配置UserConfig的pcie速度

直接搜上面那个字符串PsppPolicy,发现在这个AmdNbioPciePei里面

patch掉,刷入,完事

2.3 性能测试
7D12要开NPS1,否则延迟爆炸。PVE安装!fio安装!压测!
这批盘的寿命其实还可以

fio测试命令直接抄google云的
https://cloud.google.com/compute/docs/disks/benchmarking-pd-performance-linux
经过测试,24盘拉满读取速度为320Gb/s(小B)。单盘测试都是能到25Gb的
估计是7D12的4通道内存拉了(,不过也是够网卡了。
zane20 days ago泰安的限速实际可以用impitool ,泰安的命令是raw 0x2e 0x44 0xfd 0x19 0x00 0x00(指定风扇) 0x01 0x64(转速,16进制),泰安的b8030和b8251可用
li22445783 months ago大佬牛的
chraav3 months ago大佬求问:
- 现在aspeed的ipmi的image还是用squashfs嘛,这样还是比较容易解开
- 另外amd那个agesa代码好像不开源?
- 有squashfs有cramfs,都能解开,也很容易重打包(注意一下块大小,压缩算法)
- 当然不开源,需要网上找泄漏的。比如某嘉或者某星
原来你们搞H3C的OCP转接卡是为了套泰安的OCuLink转接卡,真的是要把Retimer榨到一滴不剩
草,它支持PCIe 4.0 为啥不给开 4.0…有毒
MistyMoon3 months ago还是猪猪🐂🍺
.ima
的BMC固件怎么才能挂载成可读的文件系统?
我不改,就单纯想看看FSC.xml是怎么写的调速策略先解析fmh格式固件结构,找到cramfs对应的位置,分离,cramfsck解包。打包的话mkcramfs
牛逼,解包出来了。如果用socflash这种不验证签名的刷,是不是AST全家都可以随便改了?
技嘉新版,超微全系都是禁了socflash的
寄 😵
我现在都不嫌它正常温控调速吵了,就是发现它总是间歇性抽风地把一路风扇降速又拉满,感觉有点NT