看到一个比较抽象的设备 Lemony Node. 号称可以支持5个用户, 有2个预加载的 AI 模型, 并且能存储 1TB 企业文件做本地 RAG.
这么小的设备看上去即使集成了显卡或者浮点单元, 应该也不太大吧? 难道真的是只是个x86 或 arm 瘦客户机, 里面是个 向量数据库 + web 反向代理? 然后连接他们的服务器来传输大模型生成的数据?
这个概念要是成功了, 那么就多出了一个新概念了, 叫 NAG （Network Attached Generation, 网络附加生成）．．．
5
不过有一说一这个外形设计还蛮好看的，适合剽去做成X86机箱
典中典之硅谷初(zha)创(pian)项目
No cloud access required
但是
$499 per month往好了想里面可能有一块乞丐版Orin
往坏了想，搞不好是树莓派+5G网卡笑死
话说回来如果不需要联网，怎么验证包月是否到期了
它都按月付费了你还相信它不需要联网？
无非就是看是明着插网线连WiFi，还是暗地里藏物联网卡，或者用蓝牙网桥嫖手机网
反正LLM API就那么几坨文字，有网就行不在乎速度
