Qwen 3.6–3.8 — Agentic Index 跃升与本地部署主流化
Qwen 3.6 在 DeepSeek V4 同周悄然发布,27B 版本在 Artificial Analysis Agentic Index 上与 Sonnet 4.6 持平,超越 Gemini 3.1 Pro Preview、GPT 5.2/5.3、MiniMax 2.7。Reddit 本地社区出现"BEAST"级评价。
Qwen 3.7-Plus(2026-06-02)进一步扩展为多模态交互混合 agent,统一 GUI 和 CLI 操作、视觉推理、编码和搜索增强 QA,已被 Cline 等工具快速集成。这标志亚洲开放实验室不再只发布"聊天模型",而是发布完整的 agent 级多模态系统。
核心数据
Artificial Analysis Agentic Index
| 模型 | Agentic Index | 备注 |
|---|---|---|
| Sonnet 4.6 | — | 闭源前沿 |
| Qwen 3.6 27B | ≈ Sonnet 4.6 | 与 Sonnet 持平 |
| Gemini 3.1 Pro Preview | < Qwen 3.6 27B | 被 Qwen 超越 |
| GPT 5.2 / 5.3 | < Qwen 3.6 27B | 被 Qwen 超越 |
| MiniMax 2.7 | < Qwen 3.6 27B | 被 Qwen 超越 |
Coding Index
提升较小,依赖 Terminal Bench Hard 与 SciCode 等非常规基准。Velocita84 警告可能存在 "benchmaxxing"。
模型版本
| 版本 | 总参 | 备注 |
|---|---|---|
| Qwen 3.6 27B | 27B | 主流推荐版本 |
| Qwen 3.6 35B-A3B | 35B / 3B 激活 | 速度优先 |
| Qwen 3.6 122B | 122B | 即将发布,社区高度期待 |
重要差异化能力:1M 上下文(与 V4 系列对齐,但更轻量)
与 DeepSeek V4 Flash 的对比
@DS4-Flash vs Qwen3.6 Reddit 讨论:
- DS4-Flash Max(284B)整体击败 Qwen3.6 35B-A3B 与 27B
- 尤其在 LiveCodeBench 与 HLE 上
- 但 DS4-Flash 是 284B 而 Qwen 27B —— 效率比悬殊
- 1M 上下文是 Qwen 3.6 的关键差异化能力
本地部署详情
Apple Silicon
@julien_c:在 MacBook Pro 上通过 llama.cpp 跑 Qwen3.6-27B,对许多编码任务"接近最新 Opus"。
NVIDIA 双卡
Iory1998(Reddit):Q8 量化在 RTX 3090 + RTX 5070ti(40GB 总 VRAM)上运行 170K 上下文 KV cache (FP16)。
单卡 5090 + 64GB DDR5
"Qwen 3.6 27B 是 BEAST"(Activity 1239):
- RTX 5090 (24GB VRAM) + 64GB DDR5 笔记本
- q4_k_m 量化
- pyspark / python 与数据转换调试
- sagiroth 警告:编码任务别用 q4 KV cache,q8 才能稳跑 130k 上下文
- inkberk:llama.cpp PR #22105 + z-lab 即将发布的 dflash drafter 可能将解码速度提升 2×
35B vs 27B 编码原语对比
64GB RAM MacBook Pro M5 MAX 上:
- 35B:72 TPS
- 27B:18 TPS
- 27B 慢但代码更精确(生成单文件 HTML 视差移动汽车,质量明显高于 35B)
来源 Atomic.Chat 已开源。
多卡服务建议
@QuixiAI 提醒:llama.cpp / Ollama / LM Studio 不支持 tensor parallel,多卡正经服务推荐 vLLM。
"BEAST" 反应背后的争议
社区有声音提醒不要把 Qwen3.6-27B 与 Sonnet/Opus 同等对待——过度炒作可能引发对整个 LLM 社区的反弹。Melodic_Reality_646 指出:
"测试用了 128GB RAM 的 m5max——并非普通用户配置。"
Agentic Index 的"持平 Sonnet"是基准位置,不等同于全场景体验。
战略意义
- 本地 27B 进入"接近前沿"区间:Qwen 3.6 27B 第一次让 27B 在严肃 agentic 基准上达到 Sonnet 4.6 级别——这在一年前是不可想象的
- 效率比 vs 绝对性能的取舍:相比 V4 Flash 284B,27B 的部署门槛低一个数量级
- 本地讨论从"能不能跑"转向"如何最优部署":q4 vs q8 KV cache、tensor parallel、KV cache 量化策略成为主话题
- 1M 上下文成为开放权重新基线:V4、Qwen 3.6、即将到来的 Qwen 3.6 122B 都对齐到 1M
Qwen 3.8-27B:本地模型触及前沿 Intelligence Index
来源:[[raw/newsletters/AINews/2026-08-18 [AINews] Stripe buys OpenRouter for $7B.md|AINews 2026-08-18]]
2026-08,Qwen3.8-27B reportedly 在 Artificial Analysis Intelligence Index v4.1.1 上达到 DeepSeek V4-Pro / GPT-5.6 Luna Max 区间。该指数综合 9 项评估,包括 GPQA Diamond、Humanity's Last Exam、SciCode、Terminal-Bench 等。Ollama 随后提供了本地部署路径,社区开始将其作为长上下文本地编码配置进行测试。
关键数据
| 指标 | 数值/描述 |
|---|---|
| 基准位置 | ≈ DeepSeek V4-Pro / GPT-5.6 Luna Max |
| 评估版本 | Intelligence Index v4.1.1 |
| 本地测试案例 | 3×RTX 3090 + 1×Tesla P40 + 128 GB RAM,Unsloth UD-Q8_K_XL |
| 推理档位 | low / medium / xHigh;xHigh 质量最高但延迟约为 low 的 6–7 倍 |
| 16 GB VRAM 配置 | 73k context,Q3_K_XL 权重量化,q4_1 KV cache,MTP 推测解码 |
社区观察
- Reddit 长评用单文件 HTML/Tailwind/JS 街机游戏复刻作为压力测试,发现 medium 推理能在约 3 分钟内达到 xHigh 约 90% 的质量。
- 工具式提示(如 Python 图像分析脚本)能让 Qwen3.8 近乎 1:1 提取参考精灵,接近 Claude Opus 5 的工具辅助行为。
- 争议点集中在 benchmark 污染、定性失败(如读出言外之意、自主规划)以及本地推理时 CPU offloading 的吞吐损失。
效率与命名空间信号
- Empero 将 Qwen3.8-2.4T-A95B 蒸馏为 9B/4B/2B 模型,报告 MMLU CoT 大幅提升;但社区提醒该命名与官方 Qwen3.8-9B 过于相似,可能造成混淆。
- 一份关于开放权重追赶前沿的时间线图显示,GPT-4 → Qwen2.5-32B 滞后约 18 个月,GPT-4o/Claude 3.5 → Qwen3-32B 约 12 个月;Claude/GPT-5 级到 Qwen3.6-27B、Opus 4.5 级到 Qwen3.8-27B 的滞后仍在缩短。
与 Qwen 3.6 的对比
| 维度 | Qwen 3.6 27B | Qwen 3.8 27B |
|---|---|---|
| 主要信号 | Agentic Index ≈ Sonnet 4.6 | Intelligence Index ≈ V4-Pro / GPT-5.6 Luna Max |
| 社区焦点 | 能不能跑、q4 vs q8 KV cache | 推理档位权衡、本地长上下文 Agent 编码 |
| 关键差异 | 1M 上下文基线 | 潜在推理扩展和本地前沿对齐 |
Open questions
- "持平 Sonnet 4.6 on Agentic Index"是真实质变还是 benchmaxxing?需要等独立第三方在生产场景验证
- Qwen 3.6 122B 何时发布?与 V4 Pro 对位关系如何?
- 中国开放权重在 Agent 维度的全面跃升,对 蒸馏争议 的"基准抓取 vs 架构创新"之争提供什么实证?
- 本地 Q4/Q8 KV cache 量化策略的最佳实践是否能形成社区标准?
Related
2026-08-31 evening: Qwen3.8-Flash emphasizes compound efficiency
来源:AI Briefing 2026-08-31 Evening
时间线对 Qwen3.8-Flash Tech Report 的总结认为,模型的信号不是发明单一全新组件,而是把 GDN、稀疏注意力、Gated Residual、n-gram Embedding 和 Muon 等技术放进同一个系统,再同时观察能力、训练成本、推理效率和训练稳定性。该视角与本页已有的本地部署讨论相连:模型比较不能只看参数量或单个 benchmark。
Counterpoints & Gaps
- 本条来自时间线二次解读,具体架构数字、benchmark 和训练结论应回到原始 Tech Report 核验。
- 技术组合在一个模型上的收益不能直接推断为所有规模和部署环境都有效。
2026-09-02 morning: Qwen3.8-Max-0902 moves Qwen back into frontier coding claims
来源:AI Briefing 2026-09-02 Morning
Qwen 官方时间线称 Qwen3.8-Max-0902 为 2.4T 参数、1M 上下文,并经过 Coding 与 Cowork 后训练。官方还称该模型在 CodeArena WebDev leaderboard 升至 1691,并位于 $5/MToken 的整体 Pareto frontier。
这与本页已有的 Qwen 3.6/3.8 观察形成连续信号:Qwen 系列不只在本地 27B 和 Flash 效率方向推进,也在大模型、长上下文和 agentic coding 榜单方向继续压近前沿。对本地知识库而言,该条应作为待核验的模型供给信号进入 harness-engineering/model-routing,而不是直接改写默认模型结论。
Counterpoints & Gaps
- 2.4T、1M 上下文和 CodeArena 排名来自官方推文,需要发布文档和第三方评测确认。
- $5/MToken 的 Pareto frontier 表述应明确口径后再用于成本比较。
Sources (addendum)
- AI Briefing 2026-08-31 Evening
- AI Briefing 2026-09-02 Morning
- Latent Space 2026-10-27 — Qwen3.5 9B 基准与 Scaffold Effect
Pending Jean review
- ai-ecosystem/qwen-36-agent-leap —
ai_draft; suggested action: keep draft or verify the Tech Report before retaining numerical claims.
2026-09-23:Qwen Intelligence 的移动 Agent 组合
来源:AI Briefing 2026-09-23 Evening
Alibaba_Qwen 将 Qwen Intelligence 拆成 Mobile Planner Agent、Mobile-Use Agent 和 Mobile Creative Agent,并公布移动端评测套件。该发布把页面已有的开放权重 agent 趋势延伸到移动端跨应用执行和内容生成。移动端能力需要同时观察规划、真实设备执行、GUI 兜底和安全,而不能只看厂商报告的完成率。
Counterpoints & Gaps
- 基准数字来自厂商发布,尚未在本地或独立环境复现。
- 真机权限、应用版本和网络条件可能显著改变端到端结果。
Pending Jean review
- ai-ecosystem/qwen-36-agent-leap — ai_draft; 后续补充一组独立移动端任务测试,再判断是否需要更新战略意义段落。
2026-10-27: Qwen3.5 9B 基准与 Scaffold Effect 数据
来源:Latent Space 2026-10-27 — Coding From the Himalayas With an Offline AI Agent
Qwen3.5 本地尺寸基准(来自 Qwen 模型卡):
| 模型 | LiveCodeBench v6 | BFCL-V4 |
|---|---|---|
| Qwen3.5 4B | 55.8 | 50.3 |
| Qwen3.5 9B | 65.6 | 66.1 |
| gpt-oss-20b | 74.6 | 未报告 |
9B 在代码生成和函数调用两个维度明显强于 4B。原文将其作为"最小可用本地 agent 模型"的参考线。
The Scaffold Effect 预印本:在 Terminal-Bench Pro 50 题上对比 OpenCode、Goose、OpenHands-SDK(使用两款云端模型)。OpenCode 与 OpenHands-SDK 通过率并列最高(50%,95% CI 36–64%),但 OpenCode 每个解决任务的 token 消耗约为 Goose 的 40 倍。作者提醒多数通过率差异在统计上不显著。该数据说明 scaffold 效率差异巨大,选择 scaffold 时需要在通过率与 token 成本之间做取舍。