@Jordan520- #9 发布于2026/7/7 09:42:01，编辑于2026/7/7 09:42:22 @JackieWynn #2 MAC的统一内存就解决了显存不足的问题，你说的高端显卡指的应该是那些大模型公司训练AI用的N卡，但是我们做的是使用模型，只需要解决内存（能不能跑起来）和带宽（能不能跑得快）这两个问题就好了 本地部署大模型是吃你的本地机器的算力的
Mac Studio 128G 使用中，定时任务都是本地模型完成的，在线模型用于检查问题和安排任务，省很多。 你这样想，你的日常工作有没有必要用高级模型，另外说一句 ornith-1.0-35b 很香 还有一个，啥都可以做，这个你自由想象
坐等 未来垃圾模型可能比现在的主流还要厉害，GPU也越来越厉害，那个时候本地部署的春天就来了。个人感觉现在用硬件堆算力相当于当年第一代计算机几十吨的体量只能做加减是一个意思。
本地部署大模型是吃你的本地机器的算力的
@蛇皮 #11 是的
意义不大
@JackieWynn #12 算力说到底还是速度的问题
Mac Studio 128G 使用中，定时任务都是本地模型完成的，在线模型用于检查问题和安排任务，省很多。
你这样想，你的日常工作有没有必要用高级模型，另外说一句 ornith-1.0-35b 很香
还有一个，啥都可以做，这个你自由想象
@kkk #16 啥都可以做就很棒哈哈
@kkk #16
4090可以吗？我本地部署qwen3.5 总是感觉反应很慢
@xzy #18 显存不够吧，量化的倒是可以试一下，不过效果可能不太好
我是来看头像的