看到了个 LatitudeGames 发布的文字冒险游戏微调模型 Wayfarer-Large-70B-Llama-3.3 ,这个模型已经应用到了他们的在线AI地牢游戏中。
感兴趣的同学可以看看,现在也有量化版本
地址:huggingface.co/LatitudeGames/Wayfarer-Large-70B-Llama-3.3-GGUF

2
William70049 days ago这个规模本地部署会比较麻烦,可能还是要靠云服务运行。
70B 4bit量化还可以,2张3090的规模