Mac 本地部署 DeepSeek 模型

2025-02-11大模型3 分钟363 次阅读
AI 摘要salmon-ai

本文详细解析了如何在 Mac 上本地部署并运行 Dee

前言

最近 DeepSeek 火起来了,今天打算在本地的 Mac 部署和运行 DeepSeek,实现 AI 对话的功能。

这里先简单介绍下 Ollama,deepseek-r1,Chatbox AI

  • Ollama:一款可以在本地运行 AI 模型的工具,支持多种预训练的语言模型。它允许用户选择不同的模型并快速部署,适用于各种任务,如对话生成、文本理解等。

  • deepseek-r1:一系列高效且性能强大的预训练语言模型,支持从轻量级到超大规模的各种应用。根据不同的硬件配置和任务需求,DeepSeek 提供了多个版本(如 1.5B、7B、14B、32B 等),满足不同场景的需求。

  • ChatBox AI:一个简单易用的聊天界面,可以与 Ollama 或其他 AI 模型进行对话。它提供了直观的图形界面,让用户可以轻松与 AI 进行互动,进行各种自然语言处理任务。

通过这几款工具的结合,我们可以快速搭建一个本地的 AI 聊天系统,进行对话生成、问答、内容创作等功能的实现。

教程

下载 Ollama

访问 Ollama 官网: https://ollama.com/,下载一个适合自己操作系统的版本

image-20250211092815693
image-20250211092901507

将下载好的安装包进行安装

image-20250211093206767

安装完成后,我们可以看到左上角有个小猪图标

image-20250211095208332

下载 deepseek-r1 模型

搜索 deepseek-r1 模型

image-20250211093514841

选择适合自己电脑配置的版本

image-20250211094319030

下面参数量不同配置的区别

DeepSeek模型版本 参数量 特点 适用场景 硬件配置
DeepSeek-R1-1.5B 1.5B 轻量级模型,参数量少,模型规模小 适用于轻量级任务,如短文本生成、基础问答等 4核处理器、8G内存,无需显卡
DeepSeek-R1-7B 7B 平衡型模型,性能较好,硬件需求适中 适合中等复杂度任务,如文案撰写、表格处理、统计分析等 8核处理器、16G内存,Ryzen7或更高,RTX 3060(12GB)或更高
DeepSeek-R1-8B 8B 性能略强于7B模型,适合更高精度需求 适合需要更高精度的轻量级任务,比如代码生成、逻辑推理等 8核处理器、16G内存,Ryzen7或更高,RTX 3060(12GB)或4060
DeepSeek-R1-14B 14B 高性能模型,擅长复杂的任务,如数学推理、代码生成 可处理复杂任务,如长文本生成、数据分析等 i9-13900K或更高、32G内存,RTX 4090(24GB)或A5000
DeepSeek-R1-32B 32B 专业级模型,性能强大,适合高精度任务 适合超大规模任务,如语言建模、大规模训练、金融预测等 Xeon 8核、128GB内存或更高,2-4张A100(80GB)或更高
DeepSeek-R1-70B 70B 顶级模型,性能最强,适合大规模计算和高复杂任务 适合高精度专业领域任务,比如多模态任务预处理 Xeon 8核、128GB内存或更高,8张A100/H100(80GB)或更高
DeepSeek-R1-671B 671B 超大规模模型,性能卓越,推理速度快,适合极高精度需求 适合国家级 / 超大规模 AI 研究,如气候建模、基因组分析等,以及通用人工智能探索 64核、512GB或更高,8张A100/H100

我这里电脑是 32gb 运行内存,可以跑 8b 版本

bash 复制代码
ollama run deepseek-r1:8b
image-20250211095606832

安装 Chatbox AI

为了方便聊天对话,我们可以下载一个 Chatbox AI。访问官网:https://chatboxai.app/zh,选择合适的版本进行下载。

image-20250211094621983

使用 deepseek-r1

在设置中选择 Ollama,选择 deepseekr1 模型:

image-20250211095934546

之后就能跟 AI 愉快的对话了:

image-20250211100103510

结语

DeepSeek 系列分别设计为轻量级到超大规模任务的多样化需求,可基于灵活的硬件资源配置策略,最大限度地优化资源利用率,从而在不同于其他平台依赖过多高端硬件资源的特点下,满足从企业级应用到尖端科研的各种需求,无论是哪种场景,都可通过合理调配硬件资源来实现高效部署和优化。

觉得有用就点个赞,不用登录也能读

评论

1 条
登录 之后才能评论
Salmon2025-02-15

有疑问的评论区私聊