亲测之后发表下感受 1.本地部署的qwen3.8 27b, qwen3.8 flash 都是渣，玩了2天之后乖乖还是去用dsv4.1flash,差距太大了，鹈鹕测试表现也就比豆包好点 2.5070ti 不要买，买了直接吃灰，16g直接是个渣渣，还不如双卡v100,双卡2080ti+nvlink 3.5090 和pro6000 是当前版本唯一答案，但是现在太贵不值得买了，想玩可以去算力平台开小时卡 4.dgx spark 128g 实用广度最好，不过我玩了几个月，也厌倦了，没什么好模型 相比以下苹果ultra和amd ai 更不划算，速度也没快到哪去。 带宽限制都突破不了
本地你用的 mac? windows? linux?
买那种专为 AI 设计的电脑/硬件吧 。
DGX Spark, Strix Halo is watching u
本地没硬件。。。需要的时候采用租云算力。32g的一小时不到3块钱。。。用完就删。
@沃尔玛 #1 佬用的什么服务商？
@aichorage #2 用的mac
@Peter-Pan #4
我的macbook跑20b以上的模型都慢的一匹， 感觉还是需要专门的硬件
@aichorage #5 是的，我的16G估计要淘汰了，估计需要个大内存的
M系内存带宽才是瓶颈
亲测之后发表下感受
1.本地部署的qwen3.8 27b, qwen3.8 flash 都是渣，玩了2天之后乖乖还是去用dsv4.1flash,差距太大了，鹈鹕测试表现也就比豆包好点
2.5070ti 不要买，买了直接吃灰，16g直接是个渣渣，还不如双卡v100,双卡2080ti+nvlink
3.5090 和pro6000 是当前版本唯一答案，但是现在太贵不值得买了，想玩可以去算力平台开小时卡
4.dgx spark 128g 实用广度最好，不过我玩了几个月，也厌倦了，没什么好模型
相比以下苹果ultra和amd ai 更不划算，速度也没快到哪去。 带宽限制都突破不了