11月 本地部署开源模型

64GB 内存可以用 llama.cpp 加 Unsloth 的 GGUF 量化版跑 DeepSeek V4.1 Flash，门槛降到消费级设备。

大号 MoE 模型可以用 FreeToken 在游戏显卡上跑，专家缓存放显存，其余按带宽让 CPU 和 GPU 分摊计算。

24GB 显卡跑长文可用纯线性注意力的 Qwen3.8-27B 魔改版，4bit 约 17GB，显存几乎不随上下文增长。

Mac 上优先选 MoE 模型：Qwen3.6-35B-A3B 能跑 63 到 69 token/s，稠密的 27B 只有 11 到 12。

Mac 买内存要先定好模型：16GB 版只够约 12B 级，想跑 30B 级建议 24GB 起步，内存焊死不能后加。

拿不准模型尺寸和量化等级时，可用 llmfit 先检测显存和内存带宽，再推荐能跑的模型与 4bit 或 8bit。

单图转 3D 的开源项目 Idol 在 5060 Ti 上约 57 秒，峰值显存 7GB 出头，输出是高斯泼溅而非可编辑网格。

Mac 上本地做 3D 可选 Hunyuan3D 2.1，或有社区 Mac 版的 TRELLIS.2，后者 MIT 许可可商用。