Ai部署.md 1.4 KB


notion-id: 1a1ca4d7-cb7b-8004-8562-e10d6ab2de

模型 AI服务部署 提示词模板 提示词指南 Dify+Ollama

Deepseek模型部署环境

模型 CPU 内存 硬盘 显卡 适用场景 预估费用
DeepSeek-R1-1.5B 4核 8G 256GB+(模型文件约1.5-2GB) 非必需(纯CPU推理,省钱小妙招) 本地测试,简单任务 2000-5000
DeepSeek-R1-7B/8B 8核 16G 256GB+(模型文件约 4-5GB) 推荐12GB+显存(RTX 3070/4060就可以) 本地开发与测试,中等复杂度任务 5000-10000
DeepSeek-R1-14B 12核 32G 256GB+(模型文件约 9-10GB) 推荐24GB+显存(RTX 4090或A5000,性能强劲) 企业级复杂任务,长文本理解与生成 20000-30000
DeepSeek-R1-32B 16核 64G 256GB+(模型文件约 20-21GB) 2-4张A100 80GB或更高 高精度专业领域任务,多模态任务预处理 40000-100000
DeepSeek-R1-70B 32核 128G 512GB+(模型文件约 43-45GB) 多卡并行(如2x A100 80GB或4x RTX 4090,组建显卡军团) 科研机构或大型企业,高复杂度生成任务 400000+
DeepSeek-R1-671B 64核 512G 1TB+(模型文件约 404GB) 多节点分布式训练(如8x A100/H100,大机房) 超大规模AI研究或通用AGI探索 2000000+