开云(中国)kaiyun网页版登录入口开云体育咫尺就不错通过LM Studio-开云·kaiyun(全站)体育官方网站/网页版 登录入口

开云(中国)kaiyun网页版登录入口开云体育咫尺就不错通过LM Studio-开云·kaiyun(全站)体育官方网站/网页版 登录入口

发布日期:2025-08-02 08:04    点击次数:202

开云(中国)kaiyun网页版登录入口开云体育咫尺就不错通过LM Studio-开云·kaiyun(全站)体育官方网站/网页版 登录入口

快科技2月12日音尘,DeepSeek抓续火爆,各人皆在体验,但因为工作器承受智力有限,泛泛会遭遇无反馈,因此腹地部署体验就成了更好的选拔,具体畛域取决于硬件设立。

AMD是最早在x86惩办器领域引入AI智力的,锐龙7040系列就最初集成了独处的NPU AI引擎,而后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列皆越发巨大。

AMD锐龙AI惩办器领有咫尺行业最强的NPU,算力高达50 TOPS(每秒50万亿次计较),当然是体验DeepSeek的上佳选拔。

要是你有一台锐龙AI札记本,咫尺就不错通过LM Studio,圣洁在腹地部署、体验DeepSeek R1精简版推理模子。

具体操作神气如下:

1、装配AMD Adrenalin 25.1.1或更新版显卡驱动。

2、大开lmstudio.ai/ryzenai,并下载LM Studio 0.3.8或更新版块。

3、装配启动LM Studio,不错奏凯跳过教授屏幕。

4、点击“发现”(discover)标签页。

5、选拔顺应我方的DeepSeek R1 Distill。具体若何选拔见后。

6、在软件页面右侧,勾选“Q4 K M”量化步地,然后点击“下载”。

7、下载完成后,复返聊天选项页,从下拉菜单中选拔DeepSeek R1 distill,并确保勾选“手动选拔参数”(manually select parameters)选项。

8、在“GPU卸载”(GPU offload)中,将滑块移到最大值。

9、点击“模子加载”(model load)。

10、好了,不错在腹地体验DeepSeek R1推理模子了!

不同参数畛域的大模子,决定了其性能和体积,因此不同的硬件建立需要选拔最顺应我方的参数目。

要是是顶级的锐龙AI MAX+ 395惩办器,搭配64GB、128GB内存,最高不错维持DeepSeek-R1-Distill-Llama-70B,郑重64GB内存的话需要将可变显存莳植为高。

搭配32GB内存,可变显存自界说为24GB,则能维持到DeepSeek-R1-Distill-Qwen-32B。

要是是锐龙AI HX 370、AI 365惩办器,搭配24GB、32GB内存,不错维持DeepSeek-R1-Distill-Qwen-14B。

要是是锐龙7040/8040系列,需要搭配32GB内存,才能维持到DeepSeek-R1-Distill-Qwen-14B。

另外,AMD推选将通盘Distill运转在Q4 K M量化步地。

要是你使用的是台式机,AMD RX 7000系列显卡也皆已维持腹地部署DeepSeek R1。

其中,RX 7900 XTX旗舰显卡最高维持DeepSeek-R1-Distill-Qwen-32B,RX 7900 XT、7900 GRE、7800 XT、7700 XT、7600 XT均不错维持到DeepSeek-R1-Distill-Qwen-14B,RX 7600以及新发布的RX 7650 GRE则顺应到DeepSeek-R1-Distill-Llama-8B。

【本文为止】如需转载请务必注明出处:快科技

牵涉剪辑:上方文Q开云(中国)kaiyun网页版登录入口开云体育

著作本体举报

]article_adlist-->   声明:新浪网独家稿件,未经授权谢却转载。 -->