什么是 DeepSeek?
DeepSeek 是由深度求索(DeepSeek)开发的一系列开源大语言模型,支持代码生成、文本理解、多轮对话等任务。用户可以在自己的电脑上部署 DeepSeek 模型,实现离线使用。
安装前准备
- 操作系统:Windows 10/11 或 macOS(推荐 Apple Silicon 芯片)
- Python 3.9 或更高版本
- 至少 8GB 内存(建议 16GB 以上)
- 可选:NVIDIA GPU(用于加速推理,非必需)
安装步骤
- 安装 Python:前往 python.org 下载并安装最新版 Python。
- 创建虚拟环境(推荐):
python -m venv deepseek_env cd deepseek_env Scripts\\activate # Windows # source bin/activate # macOS/Linux
- 安装依赖:
pip install torch transformers accelerate sentencepiece
- 下载 DeepSeek 模型(以 DeepSeek-Coder 为例):
from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/deepseek-coder-1.3b-instruct", trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained("deepseek-ai/deepseek-coder-1.3b-instruct", trust_remote_code=True) - 运行示例脚本:编写简单 Python 脚本加载模型并进行推理(首次运行会自动下载模型,需联网)。
注意事项
- 模型文件较大(数 GB),请确保网络稳定和磁盘空间充足。
- 若无 GPU,推理速度可能较慢,建议使用较小版本模型(如 1.3B)。
- 部分模型需申请 Hugging Face 访问权限,请提前登录并同意使用协议。