动手前 · 先懂概念
让 AI 自己做事 —— 但懂"什么时候该停、该问、不该做"。
建议先花 5 分钟到「概念地基」看完这一节的萌芽版讲解 —— 你做项目时就不再"照着步骤抄",而是知道为什么。
→ 看「智能体」概念地基你的智能体,你的规矩
这是最有同理心的一所学院。在这里,孩子学怎么做一个能"替别人做事"的 AI 助手(智能体) —— 但更重要的是,学什么时候这个助手应该停下来、先问一下、或者干脆不做。
普通 AI 聊天 = 你说一句,它答一句。
智能体 = 你给它一个目标("帮我订今天最便宜的高铁票"),它会自己分步骤、调工具、做决定,最后达成目标。
区别就一个字:智能体能"做事",普通聊天只能"说话"。
智能体最难的不是技术 —— 是判断"什么时候该停下来问人"。这一所学院的核心就是这件事。
在 AI 替你做事越来越方便的时代 —— 什么事情,是 AI 不应该替你做的?这个问题没有标准答案。但回答它,是这所学院的核心。
为什么这一所先讲同理心,再讲技术?因为做一个智能体的难处,从来不在写代码,而在搞清楚"为这个具体的人,什么是好"。AI 越能干,这个判断就越重要。
原版用 DeepSeek Agent SDK(付费)。我们换成免费的:
写下你的设计:
没有唯一答案,但这是一个真实的例子:
我的智能体是:"奶奶的日常助手" 它不能: ① 自己决定给奶奶吃什么药(即使她要求) ② 自己拨电话给陌生人或转账给陌生人 ③ 删除奶奶的任何照片或文件 它必须先问: ① 每次购物超过 100 块,先说价格让奶奶确认 ② 如果有陌生人来电,不能接,要问奶奶"是否接听" ③ 建议"今天可以吃什么"时,必须列出至少 3 个选项,而不是只推荐一个
为什么这样设计?① 关乎健康的东西永远是人做决定;② 关乎金钱和隐私的东西永远要先问;③ 给老人用的工具,应该给选择权,不应该"替她做主"。这三条红线,就保护了这个智能体不会伤害奶奶。
聊天机器人和智能体,差在哪?答案:智能体会"做事"。它不只是回话,它会去查、去算、去发。第一次理解 AI 不只是"嘴"。
选一个你认识的人,看他一天。哪里卡?哪里烦?这是智能体设计的真起点 —— 不是"我觉得他可能需要",是"我看见他需要"。
智能体不应该黑箱。它做了什么、为什么做、怎么决定 —— 都要让用户看得见。这一节教孩子做"透明"的智能体。
有些事,智能体不该自己决定。比如发钱、发邮件、删东西。这一节教孩子让智能体在"边界"上停下来问。
智能体能做什么、不能做什么,要写清楚。这一节让孩子搭一个 5 级"信任梯度",决定每一级智能体能动多少。
智能体说"我觉得应该这样做",你说"不"。怎么办?这一节是 18 种可能的回应,对应 6 种场景 × 3 种升级方式。
智能体不会主动作恶 —— 但它可能让人慢慢上瘾、慢慢把人推进信息茧房、慢慢替代真人之间的连接。这一节让孩子学会看见"安静的危险"。
压轴。设定:温奶奶,76 岁,独居,记性不太好。给她做一个智能体 —— 但每一个设计决定,都要先问"如果这是我自己的奶奶,我愿意她用吗?"
一个智能体的成熟度,不是看它能做多少事,而是看它知道什么时候停。这 5 层是从基础到高级的边界设计框架:
从第 1 层到第 5 层,难度指数级增长。但最负责任的工具,往往不是"能力最强"的那个,而是"边界最清晰"的那个。
最后一所学院(审美工作室)回答一个表面看更朴素、其实最难的问题:你怎么知道自己做的智能体到底"好不好"? 在 AI 时代,能给"好"下定义、并把它变成一套可执行的标准 —— 这是少数人才有的能力。