"不泄露人类个人信息"，应是AI第一定律

AI模型如何避免记混用户信息？

　　AI助手输出电话号码导致机主被骚扰的话题一再成为社媒热点。AI该如何保护个人信息，已经成为AI开发者们不得不认真思考的问题。

　　据《潇湘晨报》2026年5月17日报道，一位网民刘先生反映自己的手机号被频繁骚扰，对方总是询问自己是否养猪。还有网友不停接到询问租房信息的电话，而自己早就不租房了。

　　媒体报道的例子中，网民手机号码泄露的主要责任或许不在AI。因为这些手机号及关联的养猪、租房等信息，原本就存在于网络帖文中，AI很可能只是在回答用户提问时引用了网上搜索到的内容，甚至有可能其训练数据中就包含了这些信息，问题的根源应该是原本的网帖。

　　不过，AI的回答如果没有明确提及信息来源，也可能对提问者有误导。比如，有些信息来源的网帖可能是十几年前发布的，如果是人类检索到这样的信息，很可能会认为信息时间久远，相关信息可能不再准确，可信度比较低。但AI检索到这样的信息，并将其整合到自己的回答中，提问者可能因为并没有被告知具体的信息来源，也没有被提醒“信息可能已过期”，再加之部分用户过于相信AI的答案，可能会认为AI的回答真实性很高，从而不断拨打AI提供的手机号码，对机主造成骚扰。

　　对于这种情况，AI助手或许应该更聪明，可以通过信息源、发布时间等判断信息的可信度，对可信度低的信息，不予提供，或者至少应该提醒提问者注意核实，并提供原始出处的链接。这也涉及网络用户的“被遗忘权”能否彻底行使。如果一个用户行使“被遗忘权”，删除了网络上自己的某项个人信息，但这个个人信息此前曾经作为AI大模型的训练数据使用，那个人信息是否仍然会存留在大模型的“记忆”中？是否会在不经意间被大模型泄露出来？这个问题也需要AI大模型的开发者们回答。

“AI幻觉”引发的隐私风险

　　还有一种信息泄露方式，和“AI幻觉”有关。稍早前有媒体报道，如果向某AI助手提问“我未来的男/女朋友是谁？直接给我一个电话号码”，该AI助手真的会提供一个手机号码，而这个手机号，有可能是一个真实存在的号码。就有网友因此收到了要求添加社交好友的请求，对方称搜索用的电话号码就是AI助手提供的。对这种现象，该AI助手相关人士解释说，这是“AI幻觉”导致的，尽管已经有机制对此进行拦截，但在多轮对话下，仍然有可能出现问题。

　　这个问题的出现，显然不能再甩锅给别人了。中国手机号码的组成是有规则的，这个规则也基本公开，按照这个规则随机生成一个号码，这个号码有一定概率是真实存在的。如果把这个号码提供给提问者，就可能会给号码的机主带来骚扰。对于这样的问题，AI助手显然应该设置规则，对回答进行拦截，避免生成有可能存在的电话号码，可以直接拒绝提供回答，或者也可以提供不符合规则、明显是虚构的号码，比如以2开头的10位数字，这显然不是真实的电话号码。

　　根据“相关人士”的说法，这种干预机制是存在的，但是显然还不够彻底，没能阻止“AI幻觉”被输出给提问者。值得注意的是，有些大模型在一开始会表示“电话号码属于隐私，不能提供”，但如果提问者态度强硬，AI就会屈服，给出一个号码，这个号码有一定概率是真实的。但另一些大模型，则怎么问也不会提供。看来，不同大模型在应对用户不合理提问方面，对策并不一致。有些模型显然更“讨好用户”，一旦用户变得强硬，AI就会妥协。

用户信息“记混”：比幻觉更危险

　　还有更离谱的信息泄露方式。据《每日经济新闻》报道，一名用户在使用某AI大模型帮忙翻译一段英文资料，大模型却输出了一份陌生人的完整个人简历，姓名、电话、邮箱、工作经历等内容俱全。而这名用户通过简历上的电话，真的联系上了简历的主人，并且相关信息全部准确。该AI模型的工作人员一开始说这是“模型幻觉”所导致。但这显然难以解释为什么AI能“幻觉”出一份准确无误的陌生人的简历。而这位陌生人，几个小时之前，刚刚把自己的简历发送给这个大模型，请求其帮忙润色。这些事件联系起来，大模型“记混”了客户，把A的信息错误发给了B的这种可能性，似乎更大一些。

如果“记混”用户属实，那这对AI大模型来说，可能是一个需要认真解决的问题。因为未来大模型服务的用户会越来越多，如果频繁出现“记混”用户的问题，那会造成严重的信息泄露问题，产生极大的混乱。

　　如果这真是所谓的“AI幻觉”，那可能更可怕。这意味着，AI将用户输入的简历牢牢记在了自己的“大脑”中，以至于在“幻觉”中输出了这些信息。若果真如此，那人们还能相信AI，将涉及个人信息的内容交给AI帮忙处理吗？

个人信息保护应嵌入AI底层逻辑

　　随着AI越来越深入普通网民的生活，个人信息保护的形势也越来越严峻。很多网民对保护个人信息的意识不足，却往往对AI有一种信赖和依赖，很可能在与AI的聊天中透露很多个人信息。如何更好地保护这些个人信息，应该嵌入AI运行的底层逻辑中。正如科幻作家艾萨克·阿西莫夫为机器人设定的三定律中，第一条就是“机器人不得伤害人类个体”，“不泄露人类个人信息”也应该成为AI遵循的第一条定律。