想在 iPhone 上运行大模型吗？来看看这个——LLMFarm

这个 app 可以运行在 苹果全家桶上，无论是 iOS 还是 MacOS。并且支持RAG。由于它其实是 llama.cpp 的魔改，所以几乎支持所有设备能装得下的模型。

地址：github.com/guinmoon/LLMFarm