前方高能
谁说打游戏的显卡不能搞AI?
MTT S80表示:
“我!全!都!要!”
摩尔线程“全功能”图形显卡MTT S80,不仅游戏渲染性能强大,能玩《黑神话:悟空》,现在还能本地部署DeepSeek R1蒸馏模型。搭配最新发布的MUSA SDK RC3.1.1版本,开发者直接用开源框架Ollama就能开跑,学术党、AI极客的福音来了。
MTT S80本地运行DeepSeek-R1 14B模型的示例图
手把手教程:3步搞定DeepSeek模型部署
第一步:环境准备
系统:Ubuntu 22.04
工具:MUSA SDK RC3.1.1(文末下载)
框架:Ollama(开源免费,小白友好)
第二步:模型下载
打开Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B轻量版任选;
在Q4_K_M量化格式下,MTT S80的16GB显存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分满足轻量化AI开发需求
第三步:一键推理
终端输入代码,秒出结果!
我们已附上实战部署指南,详细解析DeepSeek R1 7B和14B蒸馏模型的配置流程与优化技巧:
https://blog.mthreads.com/blog/AI/2025-02-17-deepseek
对游戏党:买显卡送AI算力,血赚!
对开发者:不用抢云服务器,本地部署成本直降!
对学生党:论文实验、轻量级AI开发,一台机器全搞定!