ollama运行deepseek-r1:671b报错

需要设置环境变量:

[Service]
Environment="OLLAMA_LOAD_TIMEOUT=90m"
Environment="GGML_CUDA_ENABLE_UNIFIED_MEMORY=1"
Environment="OLLAMA_GPU_OVERHEAD=536870912"
Environment="OLLAMA_FLASH_ATTENTION=1"
Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐