MacBook Pro(M1芯片)DeepSeek R1 本地大模型环境搭建

news/2025/2/6 15:31:19 标签: macos, deepseek, ollama, docker, ai, 人工智能
aidu_pl">

MacBook Pro(M1芯片)DeepSeek R1 本地大模型环境搭建

这一阵子deepseek真的是太火了,这不,R1出来后更是掀起AI的狂欢,作为一个AI的外行人,也是忍不住想要拿过来感受一番~~

主要呢,是把最新的模型部署到我自己的Mac电脑上,这样更加方便快捷,主要需要使用的材料如下:

  • ollama
    简化LLM本地部署运行的开源框架
  • docker
    打包部署的容器引擎,可以把它当成虚拟机
  • open-webui
    一个前端服务项目,便于提供友好的交互UI

简单了解一下,下面我们进入正题。。。

1、安装Ollama

https://ollama.com

首先,进入Ollama的官网,点击下载

在这里插入图片描述

找到对应系统的版本,我这里使用的是Mac M1的版本,直接下载macOS对应的就可以了
在这里插入图片描述

下载完并安装对应版本后,在命令行中使用ollama -v检测下是否成功
在这里插入图片描述

有版本号信息输出,此时Ollama已经已经安装完毕了

在这里插入图片描述

状态栏顶部此时应该可以看到一只可爱的“草泥马”

2、下载模型到本地

回到刚刚Ollama的页面,进入“Models”

在这里插入图片描述

排在顶部的就是首屈一指的“deepseek-r1”
在这里插入图片描述

点到详情或者下方传送门

https://ollama.com/library/deepseek-r1

在这里插入图片描述

默认的刚好是 7b,这个应该是蒸馏版,适合个人日常使用,配置高的小伙伴可以酌情选8b、14b试试

ollama run deepseek-r1

执行上面这段命令会默认拉取 deepseek-r1 的 7b 模型,其他类型的也是直接复制对应剪贴板的命令即可,输入到终端后,系统开始拉取模型

在这里插入图片描述

拉取成功后,在>>>开头的交互式界面中发起对话就可以进行使用了,<think>标签里的内容代表的是模型的思考过程

3、丰富UI界面

如果觉得命令行过于单调和不好用,那么继续折腾一下

docker_61">3.1、docker环境准备

https://www.docker.com/get-started/

来到Docker官网,下载对应版本的Docker应用作为本地服务的容器
在这里插入图片描述

Docker 安装比较简单,全部选接受和推荐下一步,完成
然后,需要登录账号,可以注册或者使用github账号登录,我直接使用的github账号

登录后,来到下面的主界面,此时docker也算装好了
在这里插入图片描述

命令行也正常,没有问题
在这里插入图片描述

3.2、部署open-webui

https://github.com/open-webui/open-webui

我们来到open-webui的github项目页面,找到Quick Start with Docker章节
此时我的Ollama已经运行着了,因此直接使用下面这个命令就可以了,如果有其他情况的可以参考其他的章节内容
在这里插入图片描述

直接在终端执行,这就用到docker命令了,大概就是在docker中部署一个镜像,并将镜像容器的 8080端口映射到本机的 3000端口,也就是说通过http://localhost:3000可以访问这个服务

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

接下来就是耐心等待

在这里插入图片描述

此时打开docker可以看到镜像容器里多出一个镜像,此时处于运行状态
在这里插入图片描述

我们点击跳转或者直接输入http://localhost:3000
在这里插入图片描述

另外,确保ollama的服务在跑模型(服务别关),此时可以看到下面的页面,点击“开始使用”
在这里插入图片描述

需要创建个账户,作为管理员账号
在这里插入图片描述

此时就可以进入啦
在这里插入图片描述

这个界面是不是要好看很多
在这里插入图片描述

强力助手get!
在这里插入图片描述


http://www.niftyadmin.cn/n/5843135.html

相关文章

Java进阶14 TCP日志枚举

Java进阶14 TCP&日志&枚举 一、网络编程TCP Java对基于TCP协议得网络提供了良好的封装&#xff0c;使用Socket对象来代表两端的通信端口&#xff0c;并通过Socket产生IO流来进行网络通信。 1、TCP协议发数据 1.1 构造方法 方法 说明 Socket(InetAddress address…

微前端如何实现作用域隔离

微前端是一种架构风格,它将前端应用拆分为多个独立的子应用,使得各个子应用可以独立开发、部署和维护。在微前端架构中,作用域隔离是一个关键问题,确保不同子应用之间的样式、脚本和状态不会冲突。本文将讨论几种实现作用域隔离的方法。 1. CSS 作用域隔离 1.1 CSS Modul…

多用户同时RDP登入Win10

自备以下文件&#xff1a; winsw_frpc.xml展开如下&#xff1a; <service><!-- ID of the service. It should be unique across the Windows system--><id>winsw_frp</id><!-- Display name of the service --><name>winsw_frp</na…

uniapp小程序自定义中间凸起样式底部tabbar

我自己写的自定义的tabbar效果图 废话少说咱们直接上代码&#xff0c;一步一步来 第一步&#xff1a; 找到根目录下的 pages.json 文件&#xff0c;在 tabBar 中把 custom 设置为 true&#xff0c;默认值是 false。list 中设置自定义的相关信息&#xff0c; pagePath&#x…

Windows下从零开始基于Ollama与Open-WebUI本地部署deepseek R1详细指南(包含软件包和模型网盘下载)

0. 概述 最近国产大模型DeepSeek很火&#xff0c;但有时因为访问人数过多导致反应慢甚至宕机。 但好在DeepSeek是开源的&#xff0c;可以本地部署&#xff0c;这样就不用联网也能用了。但本地部署需要考虑硬件需求&#xff0c;比如是否有足够的GPU资源&#xff0c;存储空间&a…

http状态码:请说说 503 Service Unavailable(服务不可用)的原因以及排查问题的思路

503 Service Unavailable&#xff08;服务不可用&#xff09; 是一种HTTP状态码&#xff0c;表示服务器当前无法处理请求&#xff0c;通常是由于临时性原因导致服务中断。以下是它的常见原因和排查思路&#xff1a; 一、503错误的常见原因 1. 服务器过载 场景&#xff1a;服务…

6.【BUUCTF】[SUCTF 2019]CheckIn

打开题目页面如下 看样子是一道有关文件上传的题 上传一句话木马 显示&#xff1a;非法后缀&#xff01; 看来.php后缀被过滤了 上传一张带有木马的照片 在文件地址处输入cmd 输入以下代码执行 copy 1.jpg/b4.php/a 5.jpg 最后一行有一句话木马 上传带有木马的图片 但其实…

掌握Spring MVC异常处理的艺术

在Spring MVC中处理异常&#xff0c;就好比你在家里做饭时遇到了问题&#xff0c;比如切菜切到手了&#xff08;运行时异常&#xff09;&#xff0c;或者发现没盐了&#xff08;预期异常&#xff09;。那么&#xff0c;你该怎么应对这些情况呢&#xff1f;Spring MVC处理异常的…