在本次私有部署过程中,我们使用 Ollama 下载并运行 Deepseek_7B 开源模型,进行基本的数据对话测试。由于现有电脑算力有限,暂时无法运行 671 亿 参数的大模型,因此选择 7B 版本进行实验。
Deepseek 是一个 推理模型,仅依靠现有的模型参数难以满足特定行业需求。因此,需要结合行业数据进行训练,并使用适合的提示词(Prompt)优化回答质量。
要让 AI 具备实用价值,需要做好以下几点:
明确 AI 需要具备的功能
提供相关的知识库
提供有效的提示词(Prompt)
提供行业数据
要让 Deepseek 在企业或行业中发挥作用,仅仅部署模型是不够的,还需要结合知识库、专业提示词、行业数据进行优化。只有这样,才能让 AI 生成更符合业务需求的回答,提高实际应用价值。