1. 安装 Ollama
下载安装包:访问 Ollama 官网 https://ollama.com
,选择对应操作系统的版本进行下载。
安装完成:安装完成后,在终端(或命令提示符)输入以下命令验证安装是否成功:
ollama --version
若能显示版本号(如“ollama version is 0.5.7”),则说明安装成功。
2. 下载 DeepSeek 模型
选择模型版本:再次打开 Ollama 官网,点击“Models”,找到“DeepSeek R1
”。根据自身设备的显存大小选择合适的模型版本。
7B 模型(约 4.7GB,适合普通消费级 GPU):
ollama pull deepseek-r1
70B 模型(需要 24GB+ 显存):
ollama pull deepseek-r1:70b
671B 模型(需要 336GB+ 显存):
ollama pull deepseek-r1:671b
开始下载:将上述对应命令复制到终端中运行,模型将开始下载。
3. 启动模型
运行模型:下载完成后,运行以下命令启动 DeepSeek 模型:
ollama run deepseek-r1
若后续再次运行,模型将直接从本地加载。
启动 Ollama 服务器:在终端运行以下命令启动 Ollama 服务器:
ollama serve
当 http://localhost:11434
可访问时,模型就启动成功了。
4. 可选:安装可视化交互工具
为了更便捷地与模型交互,可安装 ChatBox 等可视化界面工具:
访问 https://chatboxai.app/zh
下载 ChatBox。
安装完成后,打开软件并设置本地模型,即可开启与 DeepSeek R1 的可视化交互。
一款专业音频资源和音乐家社区免费商用平台—— Looperman
一款免费开源Mac电脑录屏软件—— QuickRecorder
上面是“利用Ollama平台搭建DeepSeek的具体操作步骤”的全面内容,想了解更多关于 IT知识 内容,请继续关注web建站教程。
当前网址:https://ipkd.cn/webs_16915.html
workflows工作流
- 一支令人难忘的狙击步枪ComfyUI工作流
- 一个迷人而丰满的女巫和一只黑猫骑着飞天扫帚
- 1个黑发带着耳机项链的女孩ComfyUI工作流
- 一只穿着黑色蝴蝶结西装可爱橙色小猫
- 一只外星甲壳虫子ComfyUI工作流
- 一位穿着长袍的强大法师ComfyUI工作流
- 一只在森林里漫步的麋鹿ComfyUI工作流
- 一只巨大的古代乌龟后面建有一座城市的超现实场景
猜你喜欢
声明:本站提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请发送到邮箱:admin@ipkd.cn,我们会在看到邮件的第一时间内为您处理!