Ollama支持AVX512了,之前使用Ollama本地部署DeepSeek-R1各个蒸馏版本的同学可以试试最新版本,看看变快了多少 [赢牛奶]
ollama地址:github.com/ollama/ollama
安装完毕后直接命令行 ollama run deepseek-r1 就行(默认是个Qwen-7B的蒸馏版本)

5
Ollama支持AVX512了,之前使用Ollama本地部署DeepSeek-R1各个蒸馏版本的同学可以试试最新版本,看看变快了多少 [赢牛奶]
ollama地址:github.com/ollama/ollama
安装完毕后直接命令行 ollama run deepseek-r1 就行(默认是个Qwen-7B的蒸馏版本)