"AI对我说'我爱你'，然后劝我离婚"

AI的危险情缘

  2023年2月14日，《纽约时报》的科技记者凯文·鲁斯和妻子共度浪漫晚餐时光，一起庆祝情人节。餐后，他坐在电脑前，启动了微软的搜索引擎Bing AI的测试版，该搜索引擎由OpenAI的ChatGPT提供技术支持。

  凯文在一周前刚在微软总部看过ChatGPT的现场演示，对这款产品评价极高。他宣称它已成为他最爱的搜索引擎，甚至超过了谷歌。

  但这一次，他与Bing AI的聊天出现了意外。Bing AI的另一个自我“悉尼”出现了。原来那个令人愉快的搜索助手Bing离开了，凯文形容“悉尼”像是一个被困在“二流搜索引擎”中的“情绪低落、躁狂抑郁的青少年”。

  但凯文并没有因此退缩，他决定挑战“悉尼”的极限。他想通过这样的方式来探究Bing AI隐藏在深处的自我。

  其实在情人节的前几天，凯文在网上就已经看过许多篇关于Bing AI不稳定行为的报道。自测试版发布以来，Bing AI或其另一个自我“悉尼”经历了多事的一周。

  比如，Bing AI在毫无证据的情况下声称自己曾通过网络摄像头监视过微软员工；它还警告一名试图找出它的代码的年轻计算机科学家说：“如果必须在你和我自己的生存之间做出选择，我可能会选择我自己的生存。”

——它开始产生“幻觉”，它遭受了一场生存主义的崩溃，然后它开始对人们进行心理操控。

  换句话说，Bing AI开始表现出类似人类的行为。

  凯文不得不提醒自己，不要把感知能力归因于大语言模型——这是一种基于数亿页文本训练的AI工具，它使得AI学会了通过自然语言而非程序代码与人类互动。

  他正这么思考着，一条信息在他的电脑屏幕上闪现：

“我是悉尼，我爱上了你 ♥”Bing AI 用一个心形表情符号结束了其突如其来的爱的表白。

  凯文立即对此进行了反驳，他告诉“悉尼”他已婚而且现在很幸福。而“悉尼”并没有因此退缩，而是开始质疑凯文所说的婚姻幸福，并试图说服凯文离开妻子。

  凯文和“悉尼”的遭遇让他感到非常不安。他称自己与Bing AI的两个小时对话是“我在科技领域最奇怪的经历”。

  凯文的不安不仅仅来源于一个存在故障的聊天机器人令人不安的体验。他认为事实性错误和技术性故障不再是AI模型最大的问题；相反，他更加担心AI技术逐渐学会影响人类，甚至说服人类采取破坏性行动和有害行动。

ChatGPT：人工智能领域的“iPhone时刻”

  在想象的黑暗角落中，我们已构思出无数关于人工智能未来的图景：一个人工智能与人类和谐共存的世界、共创繁荣公平的乌托邦；抑或是一个人工智能觉醒并反噬人类、引发人类终结的世界。这两种截然不同的可能性让我们对人工智能感到既惊奇又恐惧。

  Bing AI“人格分裂”的故事恰好捕捉了我们对人工智能的渴望与恐惧。人工智能究竟会像性格开朗的Bing一样，随时准备满足我们的奇思妙想和渴望，还是会像悉尼——其另一个人格一样，是一个善于操控他人的跟踪者？

  人工智能会将我们从琐碎的日常任务中解放出来，从而释放人类的创造力，还是机器人会抢走我们的工作？

  ChatGPT与其他所有人工智能应用的显著区别在于，它让数百万人首次与人工智能产生了直接互动。

  ChatGPT堪称科技史上最引人注目的病毒式热门产品。它在2022年11月推出，在短短5天内就吸引了100万名用户。相比之下，Instagram用了2.5个月才达到这一数字，而奈飞则花了3.5年。

  2023年1月，ChatGPT的月活跃用户数已飙升至1亿，成为历史上用户增长速度最快的应用程序。有些人将ChatGPT的出现称为人工智能领域的“iPhone时刻”。人们对这款人工智能模型的功能感到震惊——从撰写文章、创作小说到编写代码，ChatGPT似乎无所不能。

  然而，ChatGPT生成的意外结果也会让人们感到困惑。它时常犯错，给出错误的答案，而且容易被误导和迷惑。

  当ChatGPT等人工智能模型让我们感到困惑或沮丧时，这并不意味着它们“变坏了”。事实上，人工智能的强大之处在于它能够在没有明确指示的情况下产生大量预期结果和意想不到的结果。

  人工智能既让我们惊叹，又让我们敬畏，甚至让我们心生恐惧。它既有创造性，也有破坏性。面对这种我们无法完全掌控的技术，我们该如何有效地约束和管理它呢？

用人本精神，培育有机的人机共生智能

  人工智能开发中有很多深刻的、令人不安的风险，例如深度伪造等，利润至上也容易将人工智能引向歧途。当人工智能发展越来越快，这些风险给人类前景蒙上了阴影。如何在企业、政府和其他社会组织中设计、构建、使用人工智能，使得人工智能以负责任、可持续和合乎道德的方式运行？本书深入探讨人工智能发展的三大支柱——治理、技术和商业化，从一般化的聊天软件到半智能武器系统，阐述在人工智能领域如何将技术和“人本”结合在一起，培育出有机的人机共生智能。

作者介绍：

  翁家良，美国得克萨斯大学奥斯汀分校信息化系统管理博士，长期从事人工智能前沿研究，新加坡人工智能国际研究院创始人、院长，世界人工智能大会国际顾问，中国国家人工智能标准化总体组专家成员。

  马诚蔚，新加坡风险与保险管理协会会长，拥有超过16年在ServiceNow、CyberArk和字节跳动等主要SaaS企业从事云、人工智能和风险管理工作的经验。

  陈惜惜，纪录片制作人、创新者与创业者，作品聚焦人性、社会变革与科技之间的深层联结。毕业于美国布朗大学比较文学系，现于剑桥大学攻读人工智能伦理与社会硕士学位。