i9-13900K + 128G + RTX5090 + Strata + MTP 部署 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF

@172721404 #29 5090哦，你专业一点，把角色卡弄好，抽卡大大减少

@172721404 #30 没，自己找找吧，满大街都有吧

@yinyues #31 好的 我去研究下 么么哒

@172721404 #9 发布于2026/10/10 15:18:49
@pekingmine #7 我的哥 这个我 Q2_K 都跑不起来啊 没那么显存装啊

32GB能跑不错的效果，你这个配置估计更加能跑：
https://www.reddit.com/r/LocalLLM/comments/1wx7ulh/tesla_v100_32gb_rtx3090_strata_qwen38flashnext/

@172721404 #27 我是越狱的，你懂的，但是我还是怕进去没碰黄果果这种，就自己弄着完，副业+1 而已。

上下文多长呢，好久没玩了，但是我记得本地部署有个坑就是上下文长度小的可怜，显存不够

穷怕了 ，天天想着搞钱，先定一个A8小目标。