2025-01-29 01:09:40 0点赞 3收藏 0评论
要说2025年震惊科技圈的事件要数DeepSeek这个国产AI的横空出世,用小说体来讲就是在一众大佬们都在吹嘘自己的AI多牛的时候,国产小弟一跃龙门横扫一切,原来AI也不是那么贵。DeepSeek让英伟达1月28日的股价暴跌17%,直接蒸发5890亿美元。终于有人整治一下资本市场了。
今天是大年初一,我们在新的一年支持一下国产,秉承白嫖的风格,把DeepSeek部署到本地机,非网络环境也能愉快的使用。当然,如果你了解过AI,这种大模型所用的算力越多,参数越多,得到的结果就会越好,所以本地化部署只是一个自娱自乐的操作,真正体现AI大模型能力还是需要更多的参数,更多的算力。
大模型并不是一个exe可执行程序,需要对大模型的运行环境进行配置,这类工具有很多开源好用的,比较出名的是Ollama,它的安装比较简单,到官网下载对应系统的程序安装即可。https://www.ollama.com/
目前支持的系统有MacOS,Linux以及Windows,我们根据自己的设备选择对应的版本即可,我这里选择的是Windows版。
安装过程没什么,一键Install就完成安装了,安装完成后,Ollama会在后台运行。
点击Install后等待程序安装完成即可。
Ollama只是一个运行AI大模型的环境,所以我们要想运行DeepSeek是需要再在Ollama环境的基础上再安装DeepSeek的。
Ollama官网提供了多种可以运行的AI大模型,目前最火的就是DeepSeek:r1,所以不用再去寻找,直接在Ollama官网进行安装DeepSeek即可。
众所周知,AI大模型是深度学习的一种应用场景,参数越多,需要的计算资源就越多,得到的结果就越好。deepSeek:r1版本提供了多种参数量的模型,我们可以根据自己运行设备的配置进行选择。
我这里选择的是默认的7b个参数版本,通过Windows的命令行工具或者PowerShell运行对应的安装命令即可。
ollama run deepseek-r1
安装其他参数量的版本就在上面的命令后面加上:以及对应的参数量即可,比如:
ollama run deepseek-r1: 671b
同样的,输入上述命令后回车,等待系统安装完即可,安装成功后会有提示,系统默认是英文的界面,后面可以通过不同的界面进行语音配置。自此基于Ollama环境的DeepSeek:R1大模型就已经成功安装了,简单过头了有没有。
后续我们就可以在PowerShell里愉快的使用DeepSeek:R1模型了。不过命令行始终还是用起来不习惯是不是,我们可以通过一些工具来提高交互效果,比如通过安装Chrome插件来进行图形化交互。
这里随便找了一个Page Assist-本地AI模型的Web UI,可以通过网页端完成对本地部署的AI大模型进行访问,不局限于本篇介绍的DeepSeek:R1。当然,谷歌插件的安装需要点特殊手段,大家各自想办法,有问题也可以评论区讨论。
安装好Page Assist后,就可以通过浏览器插件里图标点击进入网页端的图形化界面种。
初始化的界面是英文的,如果不习惯可以进行相关的配置。在界面右上角点击设置图标,在一般设置中将语音识别语言和语言都改成中文就可以愉快的使用了。
不过在这里还需要进行进一步的配置来让DeepSeek正常工作,在第二项RAG设置中,选择我们安装好的DeepSeek:R1大模型,其他几个参数用默认的就可以。
至此,本地运行DeepSeek:R1大模型的安装于配置就结束了,我们就可以愉快的使用这个大模型了。
在对话框中输入需要提问的问题,就可以得到对应的结果,至于效果什么的,本篇不过多赘述,大家可以体验了再说。目前DeepSeek主推的能力强的是R3版本,有环境的试试?
当然,也可以直接登录DeepSeek网页端进行体验。
大年初一,不想出去和亲戚们啰嗦,和DeepSeek聊聊吧,或许能有意想不到的收获。
或者把亲戚们的聊天输入到DeepSeek中,让它帮你聊也未尝不可,我可真是个小机灵鬼。
京东
华硕ROGSTRIXGeForceRTX4090D24GGAMING电竞游戏独立显卡可选配THOR二代1200WROG4090D-24G-BTF背插
¥19499
去购买
京东
华硕(ASUS)TUFGeForceRTX4080SUPERO16GGAMING电竞游戏专业独立显卡
¥9899
去购买
京东
技嘉4080S显卡雪鹰GeForceRTX4080SUPERAEROOC16GDLSS3游戏黑神话:悟空显卡【注册四年保】
¥9699
去购买
原网址: 访问
创建于: 2025-02-06 15:15:25
目录: default
标签: 无
未标明原创文章均为采集,版权归作者所有,转载无需和我联系,请注明原出处,南摩阿彌陀佛,知识,不只知道,要得到
java windows火焰图_mob64ca12ec8020的技术博客_51CTO博客 - 在windows下不可行,不知道作者是怎样搞的 监听SpringBoot 服务启动成功事件并打印信息_监听springboot启动完毕-CSDN博客 SpringBoot中就绪探针和存活探针_management.endpoint.health.probes.enabled-CSDN博客 u2u转换板 - 嘉立创EDA开源硬件平台 Spring Boot 项目的轻量级 HTTP 客户端 retrofit 框架,快来试试它!_Java精选-CSDN博客 手把手教你打造一套最牛的知识笔记管理系统! - 知乎 - 想法有重合-理论可参考 安宇雨 闲鱼 机械键盘 客制化 开贴记录 文本 linux 使用find命令查找包含某字符串的文件_beijihukk的博客-CSDN博客_find 查找字符串 ---- mac 也适用 安宇雨 打字音 记录集合 B站 bilibili 自行搭建 开坑 真正的客制化 安宇雨 黑苹果开坑 查找工具包maven pom 引用地 工具网站 Dantelis 介绍的玩轴入坑攻略 --- 关于轴的一些说法 --- 非官方 ---- 心得而已 --- 长期开坑更新 [本人问题][新开坑位]关于自动化测试的工具与平台应用 机械键盘 开团 网站记录 -- 能做一个收集的程序就好了 不过现在没时间 -- 信息大多是在群里发的 - 你要让垃圾佬 都去一个地方看难度也是很大的 精神支柱 [超级前台]sprinbboot maven superdesk-app 记录 [信息有用] [环境准备] [基本完成] [sebp/elk] 给已创建的Docker容器增加新的端口映射 - qq_30599553的博客 - CSDN博客 [正在研究] Elasticsearch, Logstash, Kibana (ELK) Docker image documentation elasticsearch centos 安装记录 及 启动手记 正式服务器 39 elasticsearch 问题合集 不断更新 6.1.1 | 6.5.1 两个版本 博客程序 - 测试 - bug记录 等等问题 laravel的启动过程解析 - lpfuture - 博客园 OAuth2 Server PHP 用 Laravel 搭建带 OAuth2 验证的 RESTful 服务 | Laravel China 社区 - 高品质的 Laravel 和 PHP 开发者社区 利用Laravel 搭建oauth2 API接口 附 Unauthenticated 解决办法 - 煮茶的博客 - SegmentFault 思否 使用 OAuth2-Server-php 搭建 OAuth2 Server - 午时的海 - 博客园 基于PHP构建OAuth 2.0 服务端 认证平台 - Endv - 博客园 Laravel 的 Artisan 命令行工具 Laravel 的文件系统和云存储功能集成 浅谈Chromium中的设计模式--终--Observer模式 浅谈Chromium中的设计模式--二--pre/post和Delegate模式 浅谈Chromium中的设计模式--一--Chromium中模块分层和进程模型 DeepMind 4 Hacking Yourself README.md update 20211011
Laravel China 简书 知乎 博客园 CSDN博客 开源中国 Go Further Ryan是菜鸟 | LNMP技术栈笔记 云栖社区-阿里云 Netflix技术博客 Techie Delight Linkedin技术博客 Dropbox技术博客 Facebook技术博客 淘宝中间件团队 美团技术博客 360技术博客 古巷博客 - 一个专注于分享的不正常博客 软件测试知识传播 - 测试窝 有赞技术团队 阮一峰 语雀 静觅丨崔庆才的个人博客 软件测试从业者综合能力提升 - isTester IBM Java 开发 使用开放 Java 生态系统开发现代应用程序 pengdai 一个强大的博主 HTML5资源教程 | 分享HTML5开发资源和开发教程 蘑菇博客 - 专注于技术分享的博客平台 个人博客-leapMie 流星007 CSDN博客 - 舍其小伙伴 稀土掘金 Go 技术论坛 | Golang / Go 语言中国知识社区
最新评论