AI测试:可运行235B大模型
这种产品已经不单纯是传统意义上的迷你机,更是一台迷你AI工作站,非常适合AI开发者,尤其是个人和小企业开发者。
1、AI Image Generation Benchmark--Stable Diffusion 1.5(FP16)

当Radeon 8060S使用FP16精度进行AI Image Generation Benchmark测试时,总分为674。
2、AI Text Generation Benchmark

AI Text Generation Benchmark的测试,Radeon 8060S在LLAMA 2 13B的测试中,分数是RTX 5050的三倍。
3、Deepseek R1
零刻GTR9 Pro迷你AI工作站配备了128GB LPDDR5X内存,最多可以分配96GB显存。测试时我们设置为64GB内存和64GB显存。

我们下载了各种模型组,直接使用QWEN3-235B A22B进行测试。

235B模型显存占用41GB,目前为止在消费级GPU仅有Radeon 8060S(最大可以分配96GB显存)可以流畅运行。
即便是RTX 5090,由于其显存只有32GB,强行加载235B模型只会出现爆显存的情况,算力断崖式暴跌。
我们试着让Deepseek模仿杜甫的《登高》,为黄鹤楼创作一首七言律诗,生成速度为9.62 tokens/s,总计耗时1分钟。
本站声明:
本站所有内容仅供参考,分享出来是为了可以给大家提供新的思路。 本站一切资源不代表本站立场,并不代表本站赞同其观点和对其真实性负责。 互联网转载资源会有一些其他联系方式,请大家不要盲目相信,被骗本站概不负责! 本网站部分内容只做项目揭秘,无法一对一教学指导,每篇文章内都含项目全套的教程讲解,请仔细阅读。 本站分享的所有平台项目仅供展示,本站不对平台真实性负责,站长建议大家自己根据项目关键词自己选择平台。 因为文章发布时间和您阅读文章时间存在时间差,所以有些项目红利期可能已经过了,能不能赚钱需要自己判断。 本网站仅做资源分享,不做任何收益保障,创业公司上收费几百上千的项目我免费分享出来的,希望大家可以认真学习。 本站所有资料均来自互联网公开分享,并不代表本站立场,如不慎侵犯到您的版权利益,请联系本站删除,将及时处理!
联系方式微信/QQ:MacNode/1370589666
