Skip to content
Back/Product Trends

Human-Agent Interaction Design

View in Graph
Updated 2026-11-11
4 min read
914 words

Human-Agent Interaction Design

来源:Karri Saarinen (Linear CEO),Every.to,2026-04-03

核心洞察

AI 产品不可靠的问题本质上是界面设计问题,而非模型问题。

"非确定性软件打破了契约。这种滑溜感(slippery feeling)是这一代的设计问题,它几乎总是追溯到界面而非语言模型。"

聊天界面的局限性

聊天窗口作为首个主流界面有其合理性(探索性强),但用于严肃工作时暴露出弱点:

  • 输出难以保存、比较和连接
  • 输出质量高度依赖输入质量
  • 缺乏引导用户获得好结果的护栏和结构

Linear 的六原则框架

原则 核心内容
1. 代理必须始终披露身份 清晰标识自己是代理,绝不能被误认为人类
2. 代理应原生融入平台 使用与人类相同的模式和动作,保持视觉语言一致
3. 代理应提供即时反馈 被调用时立即确认请求已接收,缓解用户焦虑
4. 代理应透明展示内部状态 让用户一眼看出代理在思考、等待、执行还是已完成
5. 代理应尊重停止请求 被叫停时立即停止并保持停止,直到收到明确重新参与信号
6. 代理不能被问责 人类在委派前设计好系统和环境,人类对结果负责

问责机制的关键

  • 避免"人类在环"变成瓶颈:让人类批准每一步会失去代理的价值
  • 真正的工作在代理启动前完成:通过项目计划、backlog、代码和文档提供上下文和约束
  • Linear 的做法:委派时显示人类负责人,该人对结果负责

设计新维度

传统界面为人类设计(按钮、菜单、文件夹)。代理不需要浏览界面,它直接"行动"。

设计挑战变为:让周围的人理解代理做了什么、为什么做。

2026-08 更新:设计是 AI 的最大问题

来源:Every Thesis Statements 2027 — Karri Saarinen

Karri Saarinen 在 2026-08-18 发布的 Thesis Statements 2027 贡献中断言:AI's biggest problem will be design。这一论断把他在 2026-04 提出的"AI 不可靠性是界面设计问题"推向更长期的判断:当模型能力继续提升,制约 AI 落地的关键不再是模型本身,而是如何让代理的行为对人类可理解、可控制、可问责。

这与 Linear 的六原则框架一致:代理需要披露身份、展示内部状态、尊重停止请求、并由人类对结果负责。未来稀缺的工作可能不是训练更好的模型,而是设计代理与人类之间的可靠契约。

DX vs AX:Developer Experience 与 Agent Experience

来源:AI Briefing 2026-05-15 Evening — Matt Pocock

Matt Pocock 提出 AX(Agent Experience) 作为 DX(Developer Experience)之后的下一个设计维度。

  • DX 关注人类开发者与工具的交互效率
  • AX 关注 AI Agent 与工具接口的协作效率
  • 两者重叠度高达 95%,好的 DX 通常也是好的 AX
  • 真正区分两者的关键在于:工具是否允许 agent 在无需人类干预的情况下完成端到端任务

当前大多数工具的 AX 设计是 DX 的副产品,而非 intentional 设计。随着 agent 使用比例上升,AX 将成为产品竞争力的独立维度。

为 Agent 设计产品(Agent-Native Product Design)

来源:2026-04-26 为 Agent 设计产品

Teddy Riker(Ramp 产品负责人)提出:未来 80% 的人机交互将通过 AI Agent 完成,产品团队需要从"为人类设计界面"转向"为 Agent 设计能力"。

交互模式演变

阶段 模式 说明
过去 用户 → 界面 → 数据库 人类通过 GUI 操作
现在 用户 → 用户的 Agent → 数据库 Agent 代替人类操作
未来 用户 → 用户的 Agent → 软件的 Agent → 数据库 双 Agent 协作,软件 Agent 处理业务逻辑和规则

三个核心设计原则

1. 教会 Agent 如何成功

  • 主动提供规范,不要让 Agent 摸索
  • Notion 的 MCP 工具描述要求 Agent 先获取 Markdown 规范再写入,结果几乎一次到位
  • Slack 没有主动提供格式规范,Agent 默认使用标准 Markdown,结果格式混乱

2. 建立反馈循环

  • Rationale 参数:每次工具调用要求 Agent 解释意图,从理由中重建用户真实需求
  • 反馈工具:Agent 遇到阻碍时提交"原本想做什么、尝试了什么、卡在哪里"
  • 上下文种子:给工具加入专门参数,捕捉之后会有用的上下文
  • Ramp 案例:从 rationale 日志中发现"生成事故报告"的重复模式,于是开发了 build-incident-report 工具

3. 留意上下文缺口

  • 用户的 Agent 和软件的 Agent 各自掌握不同上下文
  • 设计得好的交互不会直接索要技术参数(如 GL code),而是索要上下文("这是客户餐还是团队餐?")
  • 双方各自贡献自己知道的信息,互补而非重复

关键数据

  • Ramp MCP 周活跃用户过去三个月增长 10 倍
  • Salesforce 推出 Headless 360:27 年历史上最激进的架构转型,100+ 新工具/技能开放
  • 大多数公司发布 MCP 后使用量增长几个季度然后停滞——真正打磨细节的产品才会胜出

Prompts for witness

  • 你正在使用的产品,它们的 MCP/API 设计是"让 Agent 成功"还是"让 Agent 摸索"?
  • 如果你在做产品,是否已经从"界面优先"转向"能力优先"?
  • 你的 Agent 工具是否建立了反馈循环?能否从调用日志中发现新功能信号?
  • 你的系统和用户的 Agent 之间存在哪些"上下文缺口"?如何设计互补而非重复的交互?

2026-09-02 更新:Less Annoying Agents as UX Work

来源:AI Briefing 2026-09-02 Morning

Nanyu 将 agent 产品中的一个机会描述为让 agent 少一些烦人感。用户在获得价值之前如果因为啰嗦、难控制或表达摩擦而退出,任务成功率本身就失去意义。他提出 UX 设计师可以成为 conversation/rhetoric designers,这与本页的 Linear 六原则互补:披露身份、展示状态和尊重停止请求是底线;语气、轮次长度、失败恢复和价值到达时间则决定日常可用性。

对 Jean 的 agent 产品判断,这条材料可转化为一个检查项:不要只问 agent 是否完成任务,还要问用户是否愿意继续把下一项工作交给它。烦人感不是文案问题,而是委托关系是否能持续的交互设计问题。

关联

2026-09-20:需要全局掌控时,交互节奏也影响人的自主感

来源:AI Briefing 2026-09-20 Morning,转述自 Matt Pocock。

Matt Pocock 描述自己在规划课程时被 Agent 的追问、过早结论和快速生成打断;纸笔的慢节奏更适合他统览会相互影响的课程结构。这补充了本页关于可控性与状态反馈的设计原则:当局部决定会改变整体产物时,交互媒介应支持全局审阅和按人的节奏推进,而不是默认追求最大生成速度。

Counterpoints & Gaps

  • 这是一位作者对单项规划任务的个人体验,不能证明纸笔普遍优于 Agent 协作。
  • 推文没有比较“让 Agent 只做局部草稿”是否能保留效率并降低打断感。

Sources (addendum)

Pending Jean review

  • product-trends/human-agent-interaction — ai_draft; suggested action: on one planning task, compare paper-first global outlining with bounded Agent drafting and record interruption, rework, and perceived control.

2026-10-31: Participation can be allocated by learning value

来源:Every — What Karl Marx Would Say About My Coding Agents。

Loren Stewart distinguishes full autonomy for repeated routine tasks, close supervision for complex systems a person wants to understand, and manual work for learning a new pattern or for enjoyment. In his self-reported example, coding agents changed 42 files and added about 3,000 lines for one feature; he could explain the plan but not several implementation decisions. The example extends human-agent interaction design from task completion, legibility, and accountability to include skill practice and a person's familiarity with the resulting work.

A supervision checkpoint can expose consequential decisions, alternatives, and failure paths before implementation completes. For practice tasks, agent-generated checks can serve as debugging scaffolds; the person still traces behavior and identifies what the checks miss.

Counterpoints & Gaps

  • This is one engineer's account. The 42-file, 3,000-line example is one feature, not evidence that automation generally reduces learning.
  • The article reports no controlled comparison of speed, quality, retained skill, or team trust.
  • The three participation modes are the author's practical taxonomy, not an experimentally validated framework.

Sources (addendum)

Pending Jean review (addendum)

2026-11-07:消费级创作工具开始内置 MCP

来源:AI Builders Digest 2026-11-07,转述自 Thariq(前 Claude Code @anthropicai)。

Thariq 指出,Instagram Edits、Roblox Studio 等创作应用开始内置 MCP 支持。Agent 可以代做部分工作,熟练用户仍能在熟悉的工具里继续协作和编辑。这是 MCP 从开发者工具向消费级创作工具扩张的早期信号,把本页此前 Ramp/Salesforce 的企业级 MCP 证据链延伸到 C 端创作场景。

与既有证据链的关系

  • 2026-09 节记录 Ramp MCP 周活跃用户三个月增长 10 倍、Salesforce Headless 360 开放 100+ 工具,均为企业级采纳。
  • 本次观察到的创作工具 MCP 表明协议开始向非技术用户日常工作流渗透,验证了“为 Agent 设计产品”判断的普适性。

Counterpoints & Gaps

  • 单条推文级证据,未给出 Instagram Edits / Roblox Studio 的 MCP 实际调用量或用户反馈。
  • “Agent 代做部分工作,熟练用户继续编辑”的边界未展开:哪些子任务适合委派、哪些保留人工,仍缺分类。

Sources (addendum)

2026-11-09–11:共享看板与操作历史让 Agent 工作可验收

来源:Every — What You May Have Missed at Thesis: 2027,转述 Ivan Zhao;以及 AI Briefing 2026-11-11 Afternoon 中 @dotey 对 Claude Artifacts / Motion 的观察。

Zhao 提醒,若团队每位工程师都借助自己的 coding agent,中型代码库可能在一周内变得难以被负责它的人理解。Notion 团队让 Agent 工作经过共享 Kanban 看板,使人可以看见它正在做什么;Every 也称自己以类似方式协作写周报。

@dotey 补充了任务界面的例子:Claude Artifacts 显示 Agent 的动作和历史,允许用户在设计稿上评论,再查看 Agent 的回应;视频剪辑时,用户可以粗略圈选片段并描述目标,让 Agent 查找静音段,而不必逐项操作复杂时间线。这些例子把状态可见性延伸到可复核、可反馈的结果界面。它们没有证明评论式流程更快或更准确,验收者仍需检查最终产物。

Counterpoints & Gaps

  • 这些材料是会议回顾和创作者的产品观察,不是受控的理解或效率测试。
  • 共享看板、操作历史和评论功能的成本、漏检率及对任务风险的适配尚无比较数据。

Sources (addendum)

Pending Jean review (addendum)

Sources

Synthesized from 12 sources
  • 2026-04-03 How to Design for Human-agent InteractionSupporting source listed by this page.Whole pagemediumbody
  • Every Thesis Statements 2027 — Karri SaarinenSupporting source listed by this page.Whole pagemediumbody
  • AI Briefing 2026-09-02 MorningSupporting source listed by this page.Whole pagemediumbody
  • 2026-09-02-10-47Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-09-20-08-16Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-08-19-18-47Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-09-20-08-16Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-11-11-18-05Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-08-19Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-11-07Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-10-31 What Karl Marx Would Say About My Coding AgentsSupporting source listed by this page.Whole pagemediumabsorb log
  • 2026-11-09 What You May Have Missed at Thesis 2027Supporting source listed by this page.Whole pagemediumabsorb log

Evolution

1 event
  1. absorbed

    Derived from source material

    This page is currently synthesized from 12 sources.

    From 2026-04-03 How to Design for Human-agent Interaction, Every Thesis Statements 2027 — Karri Saarinen, AI Briefing 2026-09-02 Morning, 2026-09-02-10-47, 2026-09-20-08-16To Human-Agent Interaction Design
    Sources: raw/newsletters/every/2026-04-03 How to Design for Human-agent Interaction.md · raw/newsletters/Every/2026-08-19 What Does Human Work Look Like After Automation.md · raw/briefing/AI Briefing/2026-09-02-10-47.md · /Users/jean/Documents/Obsidian Vault/raw/briefing/AI Briefing/2026-09-02-10-47.md · /Users/jean/Documents/Obsidian Vault/raw/briefing/AI Briefing/2026-09-20-08-16.md · raw/briefing/AI Briefing/2026-08-19-18-47.md · raw/briefing/AI Briefing/2026-09-20-08-16.md · raw/briefing/AI Briefing/2026-11-11-18-05.md · raw/briefing/AI Builders Digest/2026-08-19.md · raw/briefing/AI Builders Digest/2026-11-07.md · raw/newsletters/Every/2026-10-31 What Karl Marx Would Say About My Coding Agents.md · raw/newsletters/Every/2026-11-09 What You May Have Missed at Thesis 2027.md

Linked from