Qwen 3.6 27B:本地开发的最佳选择
如果你对本地大语言模型还停留在"只能写写文案、改改语法"的印象,那 Qwen 3.6 27B 可能会让你大吃一惊。一位资深开发者最近在博客中分享了他的实测体验——结论很明确:这是第一个真正让人感觉具备通用智能的本地模型。
作者坦言自己之前对本地模型很失望,但测试 Qwen 3.6 之后态度彻底改观。这款模型有两个变体:MoE 版的 Qwen 3.6 35B A3B 和稠密版的 Qwen 3.6 27B。MoE 版速度更快,但稠密版的 27B 在推理质量上更胜一筹,是作者的首选。
MacBook Max M5 上跑 Qwen 3.6 27B,笔记本热得烫膝盖——但作者认为完全值得。
写作测试:中文限韵诗写量子力学
第一个测试是约束写作——让 Qwen 3.6 用中文写一首关于量子力学的限韵诗。结果令人印象深刻:它的思考过程既有薛定谔方程、波函数坍缩等专业术语,又考虑了平仄和押韵。这不是简单的模板填充,而是真正在两种约束之间寻找平衡。
作者与 Qwen 3.6 关于量子力学的对话截图。
编程测试:一次提示生成完整项目
在 OpenCode 环境中,作者让 Qwen 3.6 用 pnpm 创建一个六边形扫雷游戏。只用了一次提示就成功生成了完整的 Node.js 包,包含六边形网格生成、地雷随机分布、交互逻辑和渲染。这比许多云端的闭源模型还要可靠。
Qwen 3.6 生成的六边形扫雷游戏截图。
实际应用:蜡烛商店 landing page
最实际的测试来自一个朋友的需求:让 Qwen 3.6 做一个蜡烛商店的 landing page。几分钟内,Qwen 3.6 完成了一个可交互、默认样式优雅的页面——包含产品展示、分类导航、购物车功能,从零开始没有任何模板参考。
OpenCode 中使用 Qwen 3.6 的界面。
Qwen 3.6 生成的蜡烛商店落地页面截图。
基准测试成绩
在 Artificial Analysis 的评测中,Qwen 3.6 27B 表现优秀,超过了 Gemma 4 31B 等竞品。各模型能力对比如下图所示:
各模型能力对比的 XKCD 风格图。
运行方式:llama.cpp 一条命令搞定
要运行 Qwen 3.6 27B,推荐使用 llama.cpp 并选用 unfurt/Qwen3.6-27B-MTP-GGUF:Q8_0——这是 8-bit 量化版本,支持多 token 预测(MTP),能在保证质量的同时提高推理速度。
启动命令:
llama-server -hf unsloth/Qwen3.6-27B-MTP-GGUF:Q8_0 \
--spec-type draft-mtp -ngl 999 -fa on \
-c 65536 --port 8080
之后可在 OpenCode、Pi、Hermes 等 AI Agent 中配置使用这个本地端点。
性能表现
在 MacBook Max M5 128GB 上,Qwen 3.6 27B 达到了 30 tokens/s,GPU 利用率 95%。如果使用 RTX 5090 配合 Q6_K 量化,速度可达 50 tokens/s。35B A3B MoE 版本速度快约 3 倍,但作者更偏好 27B 版本的输出质量。
硬件要求方面,Apple Silicon 48GB 共享内存或 RTX 系列显卡均可流畅运行。
总结:本地模型的黄金时代已来
作者在结尾提出了一个值得思考的观点:Claude Fable 5 被下架事件说明,完全依赖闭源模型存在风险——你不知道它什么时候会被撤回、限制或改变行为。而 Qwen 3.6 27B 可以在你自己的笔记本上运行高质量推理,数据不出本地,模型不会突然消失。
更前沿的 GLM 5.2 等模型也支持本地部署,但需要公司级别的预算。不过趋势已经明确:本地模型的性能正在指数级提升,未来甚至能在手机上运行强大的 LLM。
对于开发者来说,Qwen 3.6 27B 已经足够在本地完成日常开发辅助、代码生成、内容创作等任务。正如作者所说——本地模型不再是将来的事,它已经来了。