您的当前位置:首页>科技咨询>资讯详情

使用MTT S80解锁DeepSeek R1蒸馏模型本地推理

发表于:2025-02-21 21:00:04 浏览:17次 发布者: 网易互联网

前方高能

谁说打游戏的显卡不能搞AI?

MTT S80表示:

“我!全!都!要!”

摩尔线程“全功能”图形显卡MTT S80,不仅游戏渲染性能强大,能玩《黑神话:悟空》,现在还能本地部署DeepSeek R1蒸馏模型。搭配最新发布的MUSA SDK RC3.1.1版本,开发者直接用开源框架Ollama就能开跑,学术党、AI极客的福音来了。



MTT S80本地运行DeepSeek-R1 14B模型的示例图

手把手教程:3步搞定DeepSeek模型部署

第一步:环境准备

  • 系统:Ubuntu 22.04
  • 工具:MUSA SDK RC3.1.1(文末下载)
  • 框架:Ollama(开源免费,小白友好)

第二步:模型下载

  • 打开Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B轻量版任选;
  • 在Q4_K_M量化格式下,MTT S80的16GB显存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分满足轻量化AI开发需求

第三步:一键推理

  • 终端输入代码,秒出结果!

我们已附上实战部署指南,详细解析DeepSeek R1 7B和14B蒸馏模型的配置流程与优化技巧:

https://blog.mthreads.com/blog/AI/2025-02-17-deepseek



对游戏党:买显卡送AI算力,血赚!

对开发者:不用抢云服务器,本地部署成本直降!

对学生党:论文实验、轻量级AI开发,一台机器全搞定!

猜你喜欢

算法推荐乱象凸显 中央网信办督导抖音、小红书
算法推荐乱象凸显 中央网信办督导抖音、小红书
发表于:2025-05-22 浏览:7 发布者: 网易互联网
曝iPhone SE 4首发苹果自研5G基带:明年3月登场
曝iPhone SE 4首发苹果自研5G基带:明年3月登场
发表于:2024-11-21 浏览:31 发布者: 快科技官方
天猫双11品牌爆发:373个品牌成交破亿,88VIP购
天猫双11品牌爆发:373个品牌成交破亿,88VIP购
发表于:2024-11-01 浏览:50 发布者: 网易互联网
苹果iPhone 16标准版最畅销 Pro Max排第二
苹果iPhone 16标准版最畅销 Pro Max排第二
发表于:2024-11-23 浏览:53 发布者: PChome
Meta再向欧盟监管低头:Facebook和Instagram在
Meta再向欧盟监管低头:Facebook和Instagram在
发表于:2024-11-13 浏览:44 发布者: 网易科技
小红书牵手天猫,从「种草」到「种草直达」
小红书牵手天猫,从「种草」到「种草直达」
发表于:2025-05-08 浏览:9 发布者: 网易互联网
美团“取消骑手超时扣款”进展:进行了观测实验
美团“取消骑手超时扣款”进展:进行了观测实验
发表于:2025-02-12 浏览:18 发布者: 网易互联网
2025江西跨境电子商务发展交流会召开 探索行业
2025江西跨境电子商务发展交流会召开 探索行业
发表于:2025-05-08 浏览:8 发布者: 网易互联网
重庆瞭望丨“电商专供”不是质量打折的幌子
重庆瞭望丨“电商专供”不是质量打折的幌子
发表于:2025-01-24 浏览:22 发布者: 网易互联网
抖音副总裁回应代码抄袭:重复代码占比很小,涉
抖音副总裁回应代码抄袭:重复代码占比很小,涉
发表于:2025-02-13 浏览:20 发布者: 网易互联网