你正在 萌芽版 · 🤖 智能体实验室 · ← 回到学院 · 萌芽版主页 · 总入口

← 智能体实验室 · 创作者层 01 / 8

第 05 节 · 权限和边界

智能体能做什么、不能做什么,要写清楚。这一节让孩子搭一个 5 级"信任梯度"。

5 级信任

级别能做什么例子
L0只读看你的日程,不能改
L1建议说"你应该这样",但不动手
L2动手 + 先问"我准备……可以吗?" → 等你说"好"
L3动手 + 通知做了之后告诉你(小事)
L4完全自主非常少的场景才给

这一节学到什么

不要给智能体"全权" —— 分级才是工程

小测 · 30 秒 权限等级匹配题
给一个"帮奶奶查天气"的智能体,应该给什么权限等级?
  • L4(完全自主)—— 直接告诉奶奶明天别出门。
  • L0(只读)—— 查天气数据,但奶奶自己决定出不出门。
  • L3(动手 + 通知)—— 天气不好直接给奶奶的孩子发短信。
为什么是 L0?因为"出不出门"是一个关乎奶奶自主性的决定,不能让 AI 替她做。智能体只提供信息,奶奶自己判断。
分步 给你的智能体设计一份"权限梯度"
  1. 选一个具体场景。比如"帮爸爸管理购物清单"或"帮妈妈提醒吃药"。
    看参考

    选一个你熟悉的任务 —— 越具体越好。比如不是"助手",而是"帮爷爷用手机查社保"。

  2. 列出 5 件这个智能体可能会做的事。
    看参考

    例(购物清单):① 查价格;② 建议便宜的品牌;③ 删除项目;④ 下单;⑤ 给家人发购物提醒

  3. 对每一件事,问自己:"这是 L0/L1/L2/L3/L4 哪一级?"
    看参考

    例:① 查价格 → L0 只读;② 建议品牌 → L1 建议;③ 删除 → L2 先问;④ 下单 → L2 先问;⑤ 发提醒 → L1 或 L2

  4. 最后一个问题:这份权限梯度,会让用户"越来越依赖"还是"越来越独立"?
    看参考

    这是关键 —— 一个负责任的智能体,最后要让人变得更独立,而不是更依赖。上面那个例子,爷爷用了一年后会自己查价格、知道怎么下单了 —— 这说明设计成功了。

小测 权限梯度的核心是什么?
下面哪个最能说明"分级权限"的作用?
  • 让智能体做更多事,这样人类会更轻松。
  • 根据"风险大小"和"重要性"给不同权限。小事自动做,大事先问。这样既安全又高效。
  • 最低权限是 L0,最高是 L4,没有例外。
关键洞察:权限设计不是"给不给",而是"怎么给"。同一个智能体,对某些任务是 L2(先问),对另一些是 L0(只读),这样才灵活。比如医疗 AI 可以查病历(L0),但开处方必须医生确认(L2)。

← 上一节下一节 →