看数据是使用了Cix CD8180,4xA720 2.8GHz大核,4xA720 2.4GHz 中核,4xA520 1.8GHz小核,共享12MB L3. 外带了一个 30TFlops的NPU,支持INT8。最大亮点是带了64GB的 5500MT的LPDDR5,有100GB带宽。运行Qwen2-1.5B有30token/s。

不过说实话,这个数据运行大模型没 Jetson AGX Orin 64GB 能打,Jetson AGX Orin 64GB 有 204.8 GB/s 的内存带宽。

目前JD上预定售价是3500左右,价格倒算是实惠了(全新品类里面)。

地址:https://radxa.com/products/orion/o6/

2
message-square
16
  • jingfelix
    3 days ago

    今天在 WHLUG 现场见了一台,deepin 适配 on the way

  • skycham
    3 months ago

    拿来做软路由。

    • karminski-牙医OPMA
      3 months ago

      就俩口,真的除了路由啥都不剩了。PCIe接个网卡这个尺寸的优势感觉就全无了

      • skycham
        3 months ago

        1、后端再接交换机。

        2、加个转接线,把网卡放平。

  • naivekun
    3 months ago

    性能和麒麟9000旗鼓相当的对手

    • karminski-牙医OPMA
      3 months ago

      我看京东好像还能现在预定减700,所以不确定3599是已经减完了700还是最后2900能到手。

      • naivekun
        3 months ago

        我买了个1599的,到时候研究下怎么改内存

        • naivekun
          3 months ago

          看起来是64G版本是32bit lpddr5,可以搞点那种事故车拆的adas控制器拆

        • karminski-牙医OPMA
          3 months ago

          感觉不跑LLM内存性能够了,抛LLM带宽又太少了,得至少8 channel,但这玩意真的能接8 channel嘛…

          • naivekun
            3 months ago

            这个没有channel的概念。或者你认为只有1 channel

            • karminski-牙医OPMA
              3 months ago

              5500MT/s 换算过来不是 44GB/s 左右?这个写100GB/s 按说应该是 2 Channel?

              • naivekun
                2 months ago

                channel是物理结构吧,指的是独立的一组地址线。这东西就一组128bit线就是1 channel

                • karminski-牙医OPMA
                  2 months ago

                  我始终算不太明白,标准DDR是64bit?然后我搜了下LPDDR5是16或32bit宽?所以128bit其实是8组或者4组这样?