智能体照搬旧经验,错误也一并重复
Harvard · Michigan State · University of Minnesota · Zidi Xiong, Yuping Lin, Wenya Xie 等 · ACL 2026
4 种 LLM 智能体在记忆实验中沿用相似的过往经验,错误也随之重复。若只存入与标准答案一致的经验,EHRAgent 准确率从全部存入时的 13.05 升至 38.50。
对智能体来说,记忆不只是记录,更像可供模仿的范例。决定留下什么,就是在决定它下一次怎样判断。
THEME 01PersonaOS
代人行事的智能体,就该像那个人一样判断
智能体如今代人安排日程、排定优先级、拒绝请求。PersonaOS 把一个人的判断标准整理为七个层次,并记录这些标准在哪里相互冲突、本人又在什么情况下打破自己的原则——让智能体做出那个人本会做出的选择。
目标是一个人怎么说话,而不是怎么给选项排序。对智能体必须做出的决定,几乎提供不了信息。
气质、价值观、习惯和措辞混在一段文字里。两句话指向不同方向时,不知道哪一句决定眼前这个决定。
为保持人物一致而去掉内在冲突。真实的人价值观会相互竞争,情境需要时也会违背自己的偏好。只跟随倾向的智能体,容易的决定做对,困难的决定做错。
越往下的层变化越慢,越接近生物学基础;越往上的层变化越快,越直接体现在行为上。选择一层,即可查看记录内容及其研究依据。
↑ 变化快 · 可观察
↓ 变化慢 · 生物学基础
↕ 纵向维度:矛盾与情境规则贯穿全部七层
词汇、句子风格、语域、情绪的表达方式
如何讲述自己的人生、关键事件、想走的方向
人际关系、所属群体、与谁分享什么(公开范围)
领域知识、技能、工作方法
习惯、例行做法、决策方式
价值观、信念、动机的排序
气质、认知风格、生理节律
按问题类型参照的层
决定的大部分分量在于想要什么(L2)和通常怎么选(L3)。L7 是决定显露出来的地方,而不是决定形成的地方。
下层限定上层的范围:追求新奇的气质(L1)容易带来快速、探索式的习惯(L3)。反过来,常说的话(L7)是价值观(L2)的线索。
每段关系都附有公开范围。代替本人在多方面前行动时,智能体会隐藏本人会隐藏的信息。没有它,忠实的数字孪生就会变成泄密渠道。
七个层次记录的是一个人的默认标准。真正困难的决定,发生在这些标准相互冲突、或情境要求违背本性的时候。纵向维度贯穿全部七层,分两部分专门处理这些时刻。
矛盾可能存在于一层之内,也可能横跨两层,因此单独记录,并连接到每一个相关要素。我们保留矛盾,因为它们恰好标出了只按常规倾向行事的智能体最容易出错的地方。
同一层内的两个要素冲突
既重视坦率又重视和睦,直言反馈与维持气氛相互竞争(都在 L2)
不同层的要素冲突
声称健康是第一优先(L2),却经常为赶工牺牲睡眠(L3)
本人不承认的自我面向
自称不在乎别人评价的人身上的认可需求
本人尚未回答的问题
留在稳定的工作,还是去创业
依据:认知失调(Festinger)、阴影(Jung)、对话自我(Hermans)、身份危机(Erikson)、自我差异理论(Higgins)
人有时会违背自己的性情行事:截止日期由自己负责时,接下本想推掉的工作;想保持沉默时,站出来发言;紧急时刻,把他人的安全放在第一位。错过这些时刻的人设,也就错过了最关键的决定。
两条规则的条件同时成立时,按优先级高者行动。优先级相同或缺失时,智能体不做选择,而是报告冲突。
依据:认知-情感人设系统(Mischel & Shoda:一致性在于“如果…就…”模式)、作为状态分布的特质(Fleeson)、自由特质理论(Little:内向者为重要的事会表现得外向)
智能体先按本人的默认标准做出初步判断,再确认两件事:是否触及已记录的矛盾?是否有适用的情境规则?若规则适用,就由规则决定行动,并说明为何偏离平时的偏好。
仅为说明格式而设的虚构人物。
选择一个情境
这次我先不参与了,我需要专注手上的工作。
规则条件(客户交付有风险)不成立,按默认判断拒绝。
平时我会拒绝,但这个截止日期是我的责任,所以这次我来接。
规则条件成立,由规则决定行动,并说明偏离了平时的偏好及原因。
↺ 更正会修改文档,之后的请求都会用到
每一处偏差都会成为更正,每一次更正都会更新文档。
把访谈、本人写的文字、标准化测评结果和过往决策记录,分解到七个层次与纵向维度。
一份文档只写一个要素,标注层、类型、来源等级、可信度与关联,写成机器可读的形式。保留旧版本以及每次修改的日期和原因。
只把与请求相关的文档放入智能体,由本人或代理人审阅结果。
↺ 偏差 → 更正 → 修改文档
每条陈述都标注来源等级。本人亲自做出的更正优先于所有其他来源。
区别在于,每种人设承载了多少这套结构。
一个人的七层与纵向维度全部
目的是像那个人一样判断,用于决策辅助或作为一个人的记录。
只取任务所需
按人生阶段、角色、优势或情境选取。创业第一年的创始人和十年后的同一个人会做出不同决定,可以选择重现哪一个。
组合多人(或不来自任何人)的要素
为某个角色设计的人设。不相容的要素会被记录为矛盾,因此可以检查组合是否一致。
必须包含按目的选取
我们用同一人物、同一模型构建四种条件,逐一对照本人的真实决定评分。柱状图仅表示预期顺序,目前尚无已发表的结果。
另比较去掉情境规则的 C3,把规则的作用与矛盾的作用分开。
未经明确同意不创建孪生。合成人设中使用的真实人物同样适用。
本人可阅读、更正、删除自己的文档。更正优先规则把这一点写进了设计。
L5 公开范围是强制执行的,不是建议。
与孪生交流的人能知道对方不是本人。
健康、财务、家庭信息设单独的保护级别。
检验智能体人设的标准不是听起来像不像某个人,而是能否选出那个人会选的——包括他违背自己倾向做出选择的时候。
Personas for agentic AI must encode judgement, not tone · ddai, 2026 · 提出框架与评估方案的论文,尚无实验结果。
Harvard · Michigan State · University of Minnesota · Zidi Xiong, Yuping Lin, Wenya Xie 等 · ACL 2026
4 种 LLM 智能体在记忆实验中沿用相似的过往经验,错误也随之重复。若只存入与标准答案一致的经验,EHRAgent 准确率从全部存入时的 13.05 升至 38.50。
对智能体来说,记忆不只是记录,更像可供模仿的范例。决定留下什么,就是在决定它下一次怎样判断。
KAIST · Jisu Shin, Alice Oh 等 · Findings of ACL 2026
研究团队构建了 13,914 个角色冲突场景,以情境紧迫程度为客观基准衡量 LLM 的判断。10 个受测模型明显偏离这一基准,左右判断的主要是对特定社会角色的偏好。
AI 的判断里已经藏着一套角色排序。这套排序可能压过情境本身的要求,所以设计判断标准,要先把它找出来。
Stanford University · Joon Sung Park, Michael S. Bernstein 等 · 2026
研究团队用 1,052 名美国人各自的访谈和问卷构建智能体,以本人两周后重答的一致性为基准。在构建时未用的 GSS 题目上,访谈、问卷、两者结合分别达到 83%、82% 和 86%,仅用人口统计信息为 74%。
要让 AI 像某个人,依据应是本人的回答,而不只是其所属群体。只用人口统计信息时,种族和政治立场群体间的准确率差距更大。
融入项目的专长