Skip to content
Back/AI Ecosystem

Qwen 3.6–3.8 — Agentic Index 跃升与本地部署主流化

View in Graph
Updated 2026-10-30
4 min read
987 words

Qwen 3.6–3.8 — Agentic Index 跃升与本地部署主流化

Qwen 3.6 在 DeepSeek V4 同周悄然发布,27B 版本在 Artificial Analysis Agentic Index 上与 Sonnet 4.6 持平,超越 Gemini 3.1 Pro Preview、GPT 5.2/5.3、MiniMax 2.7。Reddit 本地社区出现"BEAST"级评价。

Qwen 3.7-Plus(2026-06-02)进一步扩展为多模态交互混合 agent,统一 GUI 和 CLI 操作、视觉推理、编码和搜索增强 QA,已被 Cline 等工具快速集成。这标志亚洲开放实验室不再只发布"聊天模型",而是发布完整的 agent 级多模态系统。


核心数据

Artificial Analysis Agentic Index

模型 Agentic Index 备注
Sonnet 4.6 — 闭源前沿
Qwen 3.6 27B ≈ Sonnet 4.6 与 Sonnet 持平
Gemini 3.1 Pro Preview < Qwen 3.6 27B 被 Qwen 超越
GPT 5.2 / 5.3 < Qwen 3.6 27B 被 Qwen 超越
MiniMax 2.7 < Qwen 3.6 27B 被 Qwen 超越

Coding Index

提升较小,依赖 Terminal Bench Hard 与 SciCode 等非常规基准。Velocita84 警告可能存在 "benchmaxxing"。

模型版本

版本 总参 备注
Qwen 3.6 27B 27B 主流推荐版本
Qwen 3.6 35B-A3B 35B / 3B 激活 速度优先
Qwen 3.6 122B 122B 即将发布,社区高度期待

重要差异化能力:1M 上下文(与 V4 系列对齐,但更轻量)


与 DeepSeek V4 Flash 的对比

@DS4-Flash vs Qwen3.6 Reddit 讨论:

  • DS4-Flash Max(284B)整体击败 Qwen3.6 35B-A3B 与 27B
  • 尤其在 LiveCodeBench 与 HLE 上
  • 但 DS4-Flash 是 284B 而 Qwen 27B —— 效率比悬殊
  • 1M 上下文是 Qwen 3.6 的关键差异化能力

本地部署详情

Apple Silicon

@julien_c:在 MacBook Pro 上通过 llama.cpp 跑 Qwen3.6-27B,对许多编码任务"接近最新 Opus"。

NVIDIA 双卡

Iory1998(Reddit):Q8 量化在 RTX 3090 + RTX 5070ti(40GB 总 VRAM)上运行 170K 上下文 KV cache (FP16)。

单卡 5090 + 64GB DDR5

"Qwen 3.6 27B 是 BEAST"(Activity 1239):

  • RTX 5090 (24GB VRAM) + 64GB DDR5 笔记本
  • q4_k_m 量化
  • pyspark / python 与数据转换调试
  • sagiroth 警告:编码任务别用 q4 KV cache,q8 才能稳跑 130k 上下文
  • inkberk:llama.cpp PR #22105 + z-lab 即将发布的 dflash drafter 可能将解码速度提升 2×

35B vs 27B 编码原语对比

64GB RAM MacBook Pro M5 MAX 上:

  • 35B:72 TPS
  • 27B:18 TPS
  • 27B 慢但代码更精确(生成单文件 HTML 视差移动汽车,质量明显高于 35B)

来源 Atomic.Chat 已开源。

多卡服务建议

@QuixiAI 提醒:llama.cpp / Ollama / LM Studio 不支持 tensor parallel,多卡正经服务推荐 vLLM。


"BEAST" 反应背后的争议

社区有声音提醒不要把 Qwen3.6-27B 与 Sonnet/Opus 同等对待——过度炒作可能引发对整个 LLM 社区的反弹。Melodic_Reality_646 指出:

"测试用了 128GB RAM 的 m5max——并非普通用户配置。"

Agentic Index 的"持平 Sonnet"是基准位置,不等同于全场景体验。


战略意义

  1. 本地 27B 进入"接近前沿"区间:Qwen 3.6 27B 第一次让 27B 在严肃 agentic 基准上达到 Sonnet 4.6 级别——这在一年前是不可想象的
  2. 效率比 vs 绝对性能的取舍:相比 V4 Flash 284B,27B 的部署门槛低一个数量级
  3. 本地讨论从"能不能跑"转向"如何最优部署":q4 vs q8 KV cache、tensor parallel、KV cache 量化策略成为主话题
  4. 1M 上下文成为开放权重新基线:V4、Qwen 3.6、即将到来的 Qwen 3.6 122B 都对齐到 1M

Qwen 3.8-27B:本地模型触及前沿 Intelligence Index

来源:[[raw/newsletters/AINews/2026-08-18 [AINews] Stripe buys OpenRouter for $7B.md|AINews 2026-08-18]]

2026-08,Qwen3.8-27B reportedly 在 Artificial Analysis Intelligence Index v4.1.1 上达到 DeepSeek V4-Pro / GPT-5.6 Luna Max 区间。该指数综合 9 项评估,包括 GPQA Diamond、Humanity's Last Exam、SciCode、Terminal-Bench 等。Ollama 随后提供了本地部署路径,社区开始将其作为长上下文本地编码配置进行测试。

关键数据

指标 数值/描述
基准位置 ≈ DeepSeek V4-Pro / GPT-5.6 Luna Max
评估版本 Intelligence Index v4.1.1
本地测试案例 3×RTX 3090 + 1×Tesla P40 + 128 GB RAM,Unsloth UD-Q8_K_XL
推理档位 low / medium / xHigh;xHigh 质量最高但延迟约为 low 的 6–7 倍
16 GB VRAM 配置 73k context,Q3_K_XL 权重量化,q4_1 KV cache,MTP 推测解码

社区观察

  • Reddit 长评用单文件 HTML/Tailwind/JS 街机游戏复刻作为压力测试,发现 medium 推理能在约 3 分钟内达到 xHigh 约 90% 的质量。
  • 工具式提示(如 Python 图像分析脚本)能让 Qwen3.8 近乎 1:1 提取参考精灵,接近 Claude Opus 5 的工具辅助行为。
  • 争议点集中在 benchmark 污染、定性失败(如读出言外之意、自主规划)以及本地推理时 CPU offloading 的吞吐损失。

效率与命名空间信号

  • Empero 将 Qwen3.8-2.4T-A95B 蒸馏为 9B/4B/2B 模型,报告 MMLU CoT 大幅提升;但社区提醒该命名与官方 Qwen3.8-9B 过于相似,可能造成混淆。
  • 一份关于开放权重追赶前沿的时间线图显示,GPT-4 → Qwen2.5-32B 滞后约 18 个月,GPT-4o/Claude 3.5 → Qwen3-32B 约 12 个月;Claude/GPT-5 级到 Qwen3.6-27B、Opus 4.5 级到 Qwen3.8-27B 的滞后仍在缩短。

与 Qwen 3.6 的对比

维度 Qwen 3.6 27B Qwen 3.8 27B
主要信号 Agentic Index ≈ Sonnet 4.6 Intelligence Index ≈ V4-Pro / GPT-5.6 Luna Max
社区焦点 能不能跑、q4 vs q8 KV cache 推理档位权衡、本地长上下文 Agent 编码
关键差异 1M 上下文基线 潜在推理扩展和本地前沿对齐

Open questions

  • "持平 Sonnet 4.6 on Agentic Index"是真实质变还是 benchmaxxing?需要等独立第三方在生产场景验证
  • Qwen 3.6 122B 何时发布?与 V4 Pro 对位关系如何?
  • 中国开放权重在 Agent 维度的全面跃升,对 蒸馏争议 的"基准抓取 vs 架构创新"之争提供什么实证?
  • 本地 Q4/Q8 KV cache 量化策略的最佳实践是否能形成社区标准?


2026-08-31 evening: Qwen3.8-Flash emphasizes compound efficiency

来源:AI Briefing 2026-08-31 Evening

时间线对 Qwen3.8-Flash Tech Report 的总结认为,模型的信号不是发明单一全新组件,而是把 GDN、稀疏注意力、Gated Residual、n-gram Embedding 和 Muon 等技术放进同一个系统,再同时观察能力、训练成本、推理效率和训练稳定性。该视角与本页已有的本地部署讨论相连:模型比较不能只看参数量或单个 benchmark。

Counterpoints & Gaps

  • 本条来自时间线二次解读,具体架构数字、benchmark 和训练结论应回到原始 Tech Report 核验。
  • 技术组合在一个模型上的收益不能直接推断为所有规模和部署环境都有效。

2026-09-02 morning: Qwen3.8-Max-0902 moves Qwen back into frontier coding claims

来源:AI Briefing 2026-09-02 Morning

Qwen 官方时间线称 Qwen3.8-Max-0902 为 2.4T 参数、1M 上下文,并经过 Coding 与 Cowork 后训练。官方还称该模型在 CodeArena WebDev leaderboard 升至 1691,并位于 $5/MToken 的整体 Pareto frontier。

这与本页已有的 Qwen 3.6/3.8 观察形成连续信号:Qwen 系列不只在本地 27B 和 Flash 效率方向推进,也在大模型、长上下文和 agentic coding 榜单方向继续压近前沿。对本地知识库而言,该条应作为待核验的模型供给信号进入 harness-engineering/model-routing,而不是直接改写默认模型结论。

Counterpoints & Gaps

  • 2.4T、1M 上下文和 CodeArena 排名来自官方推文,需要发布文档和第三方评测确认。
  • $5/MToken 的 Pareto frontier 表述应明确口径后再用于成本比较。

Sources (addendum)

Pending Jean review

2026-09-23:Qwen Intelligence 的移动 Agent 组合

来源:AI Briefing 2026-09-23 Evening

Alibaba_Qwen 将 Qwen Intelligence 拆成 Mobile Planner Agent、Mobile-Use Agent 和 Mobile Creative Agent,并公布移动端评测套件。该发布把页面已有的开放权重 agent 趋势延伸到移动端跨应用执行和内容生成。移动端能力需要同时观察规划、真实设备执行、GUI 兜底和安全,而不能只看厂商报告的完成率。

Counterpoints & Gaps

  • 基准数字来自厂商发布,尚未在本地或独立环境复现。
  • 真机权限、应用版本和网络条件可能显著改变端到端结果。

Pending Jean review

2026-10-27: Qwen3.5 9B 基准与 Scaffold Effect 数据

来源:Latent Space 2026-10-27 — Coding From the Himalayas With an Offline AI Agent

Qwen3.5 本地尺寸基准(来自 Qwen 模型卡):

模型 LiveCodeBench v6 BFCL-V4
Qwen3.5 4B 55.8 50.3
Qwen3.5 9B 65.6 66.1
gpt-oss-20b 74.6 未报告

9B 在代码生成和函数调用两个维度明显强于 4B。原文将其作为"最小可用本地 agent 模型"的参考线。

The Scaffold Effect 预印本:在 Terminal-Bench Pro 50 题上对比 OpenCode、Goose、OpenHands-SDK(使用两款云端模型)。OpenCode 与 OpenHands-SDK 通过率并列最高(50%,95% CI 36–64%),但 OpenCode 每个解决任务的 token 消耗约为 Goose 的 40 倍。作者提醒多数通过率差异在统计上不显著。该数据说明 scaffold 效率差异巨大,选择 scaffold 时需要在通过率与 token 成本之间做取舍。

Sources

Synthesized from 10 sources

Evolution

1 event
  1. absorbed

    Derived from source material

    This page is currently synthesized from 10 sources.

    Sources: raw/newsletters/AINews/2026-04-25 DeepSeek V4 Pro and Flash on Huawei Ascend.md · /Users/jean/Documents/Obsidian Vault/raw/briefing/AI Briefing/2026-09-02-10-47.md · /Users/jean/Documents/Obsidian Vault/raw/briefing/AI Briefing/2026-09-23-22-58.md · /Users/jean/Documents/Obsidian Vault/raw/newsletters/Latent Space/2026-10-27 Coding From the Himalayas With an Offline AI Agent.md · raw/briefing/AI Briefing/2026-06-03-00-07.md · raw/briefing/AI Briefing/2026-08-31-23-04.md · raw/briefing/AI Briefing/2026-09-02-10-47.md · raw/briefing/AI Briefing/2026-09-23-22-58.md · raw/newsletters/AINews/2026-06-02 [AINews] NVIDIA Cosmos 3, Nemotron 3 Ultra, and RTX Spark.md · raw/newsletters/Latent Space/2026-10-27 Coding From the Himalayas With an Offline AI Agent.md

Linked from