DeepSeek 是由深度求索(DeepSeek)推出的一系列开源大语言模型,支持多种任务场景,可在本地部署运行。本文将指导您如何在不同操作系统上安装和运行 DeepSeek 模型。
确保已安装 Python,并升级 pip:
python -m pip install --upgrade pip
pip install transformers accelerate torch
您可以从 Hugging Face 下载官方模型,例如 deepseek-ai/deepseek-coder-1.3b-base:
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/deepseek-coder-1.3b-base", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/deepseek-coder-1.3b-base", trust_remote_code=True)
加载模型后,即可进行文本生成:
inputs = tokenizer("def fibonacci(n):", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))