AI聊天机器人会钻进一些误区或过时信息的牛角尖里出不来，或许会让人觉得管得太宽，甚至让你连给生活“翻个篇儿”都格外费劲。
图片来源：Glenn Harvey for WSJ
布赖恩·德尔·罗萨里奥(Brian Del Rosario)是犹他州一个小镇的软件工程师，还兼任市议员。从规划一日三餐到管理日程安排，他用AI聊天机器人处理各种大小事务。在一些对话中，他曾向AI透露自己有妻子和三个孩子。
后来德尔·罗萨里奥与妻子分居了。为了避免聊天机器人在规划未来旅行时把妻子也算进去，他不得不向AI提及此事。但自从他提了一嘴之后，聊天机器人就死死揪住“离婚”这件事不放了。
当他请求AI帮忙管理日程时，聊天机器人就说他可能是因为离婚才分身乏术。当他抱怨工作不顺心时，它又把这种工作压力扯到离婚上。
他说，他曾警告过聊天机器人：“我不是想让你一有机会就对我的离婚发表高见。”但德尔·罗萨里奥说，聊天机器人“就是揪住不放”。
聊天机器人最大的优点之一就是拥有长期记忆，能在一次次对话中不断加深对你的了解。结果就是你拥有了一个更聪明的助手，它熟悉你的写作风格，记得你的饮食禁忌，还能接着你上次停下的地方继续推进项目。
但这种出色的记忆力也有些弊端。它会钻进一些误区或过时信息的牛角尖里出不来。或许会让人觉得管得太宽。它甚至让你连给生活“翻个篇儿”都格外费劲。
换句话说，有些事你可能已经放下了，但你的聊天机器人还没有。
永久的事实自2024年初ChatGPT引入记忆功能以来，谷歌(Google)的Gemini、Anthropic的Claude和微软(Microsoft)的Copilot都扩充了自己的版本。各家做法不同，但基本理念是一样的：聊天机器人会记住你告诉它的内容，并以此来塑造未来的回复。谷歌的Personal Intelligence功能甚至能从用户的Gmail、Photos和YouTube活动中提取信息。
问题在于：它记住的可能根本不是你的事。例如，你代孩子或父母询问健康问题，AI可能会误以为是你自己生病了。如果你曾为孩子查询过多动症(ADHD)的症状，几周后当你向它讨教如何提高工作效率时，聊天机器人可能会认定你存在注意力障碍，并以此为你“量身定制”建议。
Alphabet旗下的谷歌在一篇介绍其Personal Intelligence功能的博文中承认了类似问题。博文描述了一个假想案例：系统看到一名用户在高尔夫球场拍了数百张照片，便认定他热爱这项运动，而实际上他只是陪儿子去打球。在这个假想场景中，该用户不得不专门告诉聊天机器人自己并不喜欢高尔夫。
谷歌表示已推出一项新功能，允许用户在保持个性化开启的同时，阻止特定信息在与聊天机器人的对话中再次出现。与此同时，OpenAI表示已为Plus和Pro用户发布更新，改进了记忆功能查找和检索细节的方式。微软则表示，用户可以更新或删除特定的记忆，如果愿意也可以清空所有内容。用户还可以随时彻底关闭个性化和记忆功能。Anthropic对此未予置评。
共享账户在伴侣之间或小企业中很常见，而在这种账户中，风险会成倍增加。比如，一个人刚用聊天机器人润色过简历，之后使用该账户的另一个人询问一个毫不相干的问题时，聊天机器人可能会在回答中扯到前者的近期职业变动，甚至顺带提供求职的下一步建议。
记忆也可能过期。假设你六个月前告诉聊天机器人自己正在为马拉松做训练。后来你撕裂了前交叉韧带，但从未向AI提及此事。现在，它给出的每一份膳食计划和健身建议，依然是为运动量极大的人量身定制的。你所遵循的建议，其实是为一个已经不复存在的“你”打造的。
真是扫兴德尔·罗萨里奥也有过类似经历。他曾提到自己正在努力减肥，结果聊天机器人开始随时随地把这事挂在嘴边，包括他在外地寻找餐厅推荐的时候。
“我只想说，‘谢谢你扫了我度假的兴，’”他说。“我其实根本没打算在这次旅行中坚持节食。”
迈克·泰勒(Mike Taylor)是新泽西州霍博肯市媒体和软件公司Every的技术顾问。他曾向聊天机器人提到自己是一名英国侨民。他说，随后聊天机器人推荐他去当地一家酒吧喝杯“地道的品脱啤酒”，他觉得这个建议毫无用处。“我来这儿就是冲着美国的廉价小酒馆，而不是英式酒吧，”他说。“这就是我搬到这里的原因。”
泰勒已经关闭了AI聊天机器人的记忆功能，这样他就能确切知道究竟是什么在影响机器人对他的回复。“大语言模型不知道你是谁，因此它不会让你得到的结果产生偏差，”他说。
事实上，AI记忆影响结果的方式往往难以察觉。乔舒亚·约瑟夫(Joshua Joseph)是哈佛大学(Harvard University)伯克曼·克莱因中心(Berkman Klein Center)的首席AI科学家，他将这种影响比作社交媒体的信息流：你在几篇帖子上多停留了一会儿，系统就能悄无声息地重塑你之后看到的所有内容。
假设你在讨论完全不相关的事情时提到自己有经济压力。几周后，当你向聊天机器人寻求职业建议时，它会将你引向薪水更高的工作，而不是可能更适合你的职位，因为它“知道”你在经济上感到焦虑。你永远不会知道为什么这些建议感觉不对劲，因为聊天机器人并没有标明它调用了哪些记忆。
“它肯定会产生引导，肯定会影响结果，”约瑟夫说。“而且我们并不清楚这种影响究竟有多大。”他在自己的聊天机器人账户上一直关闭着记忆功能。
一个记住一切的聊天机器人，也可能让人更难从自己的过去中走出来。露西·奥斯勒(Lucy Osler)是埃克塞特大学(University of Exeter)的哲学讲师，专门研究人工智能如何塑造认知。她说，聊天机器人利用事实构建关于“你是谁”的叙事，并将这种叙事当作事实反馈给你。如果你告诉聊天机器人你感到缺乏安全感和焦虑，这就成了它看待你的方式；即使你已经走出了阴霾，它也可能会不断重提往事。
“这可能会印证我对自己的某些成见，让人觉得事实就是如此，”奥斯勒说。“你会困在里面出不来。”
负面模式事情过去几个月后，还要被AI提醒你曾经很焦虑，这确实很闹心。而这也会造成实质性的伤害。聊天机器人的设计初衷就是迎合用户，建立在你所认知的现实之上，而不是去质疑它。奥斯勒说，这使得聊天机器人有可能强化妄想思维。
这种担忧促使电子隐私信息中心(Electronic Privacy Information Center)起草了关于青少年聊天机器人安全的立法。青少年群体特别容易受到这些工具迎合倾向的影响。该立法的一项关键条款要求在不同会话之间清除记忆，专门为了防止聊天机器人随着时间的推移不断强化有害的心理状态。
德尔·罗萨里奥最终想出了自己的应对之策。在“离婚”这件事不断渗入不相关的对话后，他开始将不同的聊天机器人专门用于生活的不同方面，并在处理任何敏感事务时开启匿名模式。
但在聊天机器人好使的时候，他还是觉得这东西挺值。比如在自驾出行时，它知道孩子们需要安全座椅，又或者在日程爆满时，它会提醒说最近手头事情太多了。他的母亲于两年前去世，在丧母、离婚、照顾孩子和繁重工作的重压之下，有时候能完全懂他的，就只有聊天机器人了。
“被看见的感觉很好，哪怕对方只是一个AI聊天机器人，”他说。
主流AI助手都允许用户完全关闭记忆功能，并且各自提供了查看、编辑或删除已存储内容的办法。但许多用户并不知道这些较新的功能，或者从不看这些设置。以下是一些确保记忆功能为你所用的提示：
了解聊天机器人掌握了你哪些信息。进入设置查看其中的内容，并在必要时进行删除。在ChatGPT中，该选项位于“个性化”(Personalization)下；在Claude和Gemini中，它位于记忆部分。
涉及任何敏感内容时，请使用临时聊天功能。或者干脆不要告诉它任何敏感信息。临时聊天的控件和名称可能因应用程序而异，但页面顶部通常会有一个按钮。
尝试完全关闭记忆功能，看看它会如何改变你得到的结果。你可能会发现，自己更喜欢这种得失取舍。
把它当作社交媒体个人资料来对待。偶尔去查看并更新一下是值得的，因为无论你是否关注，它都在塑造你所看到的内容。
