它被吹捧为与流行病一样的生存风险。但在人工智能领域，至少有一位先驱没有因为这些担忧而失眠。

　　迈克尔·伍尔德里奇教授将在今年的皇家学会圣诞讲座上发表演讲，他说他更担心的是人工智能可能会成为地狱里的老板，监控员工的每一封电子邮件，不断提供反馈，甚至可能决定谁会被解雇。

　　“今天有一些这些工具的原型例子。我觉得这非常、非常令人不安。”

　　牛津大学计算机科学教授伍尔德里奇说，他想利用英国最负盛名的公共科学讲座来揭开人工智能的神秘面纱。

　　Wooldridge说:“今年，我们第一次拥有了大众市场的通用人工智能工具，我指的是ChatGPT。”“很容易让人眼花缭乱。”

　　他说:“这是我们第一次拥有像我们在电影、电脑游戏和书籍中看到的那样的人工智能。”

　　但他强调，像ChatGPT这样的工具既不神奇也不神秘。

　　“在(圣诞节)讲座中，当人们看到这项技术的实际工作原理时，他们会对那里实际发生的事情感到惊讶，”伍尔德里奇说。“这将使他们更好地进入一个世界，这是他们使用的另一种工具，所以他们不会把它与袖珍计算器或电脑有任何区别。”

　　他并不孤单:机器人、深度伪造和其他人工智能研究领域的领军人物将加入他的行列，探索这项技术。

　　在讲座的亮点中，将包括图灵测试，这是由艾伦·图灵首先提出的著名挑战。简而言之，如果一个人进入一段输入的对话，但无法判断回应的实体是否是人类，那么机器就展示了类似人类的理解能力。

　　虽然一些专家坚持认为测试尚未通过，但其他人不同意。

　　“我的一些同事认为，基本上，我们已经通过了图灵测试，”伍尔德里奇说。“在过去的几年里，在某种程度上，这项技术已经达到了可以产生与人类产生的文本无法区分的程度。”

　　然而，伍尔德里奇有不同的看法。

　　他说:“我认为这告诉我们，图灵测试虽然简单、美观，而且具有重要的历史意义，但它并不是一个很好的人工智能测试。”

　　对这位教授来说，当今技术令人兴奋的一个方面是，它有可能通过实验来测试以前属于哲学范畴的问题——包括机器是否能有意识。

　　“我们根本不明白人类意识是如何运作的，”伍尔德里奇说。但是，他补充说，许多人认为经验很重要。

　　例如，虽然人类可以体验咖啡的香气和味道，但像ChatGPT这样的大型语言模型却不能。

　　伍尔德里奇说:“他们会读到成千上万的关于喝咖啡的描述，咖啡的味道和不同品牌的咖啡，但他们从来没有喝过咖啡。”“他们什么都没经历过。”

　　更重要的是，如果对话中断，这样的系统没有时间流逝的感觉。

　　伍尔德里奇认为，虽然这些因素解释了为什么像ChatGPT这样的工具不被认为是有意识的，但具有这种能力的机器仍有可能出现。毕竟，人类只是一堆原子。

　　“单凭这个原因，我不认为有任何具体的科学论据表明机器不能有意识，”他说，并补充说，虽然它可能与人类意识不同，但它可能仍然需要与世界进行一些有意义的互动。

　　人工智能已经改变了从医疗保健到艺术等领域，这项技术的潜力似乎是巨大的。

　　但伍尔德里奇说，这也会带来风险。

　　他说:“它可以阅读你的社交媒体动态，了解你的政治倾向，然后向你提供虚假的故事，以试图让你改变你的投票。”

　　其他担忧还包括，ChatGPT等系统可能会给用户提供糟糕的医疗建议。人工智能系统最终也可能会在它们接受训练的数据中产生偏见。一些人担心使用人工智能可能会产生意想不到的后果，它可能会产生与我们自己的偏好不一致的偏好——尽管伍尔德里奇认为，以目前的技术，后者不太可能发生。

　　他认为，应对当前风险的关键是鼓励怀疑——尤其是在ChatGPT犯错误的时候——并确保透明度和问责制。

　　但他没有签署人工智能安全中心(Center for AI safety)发出的警告该技术危险的声明，也没有签署生命未来研究所(Future of Life Institute)发出的类似信函——这两份声明都是今年发表的。

　　“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球的优先事项，”前者表示。

　　伍尔德里奇说:“我没有签署这些文件的原因是，我认为它们将一些非常短期的担忧与一些非常非常投机的长期担忧混为一谈。”他指出，虽然人工智能可以做一些“非常愚蠢的事情”，而且不应该忽视对人类的风险，但没有人可信地考虑过，例如，让人工智能负责核武库。

　　他说:“如果我们不把一些致命的东西交给人工智能，那么就很难看出(它)如何真正代表一种生存风险。”

　　事实上，尽管伍尔德里奇欢迎今年秋天举行的首届全球人工智能安全峰会，以及在英国成立一个开发安全可靠的大型语言模型的特别工作组，但他仍不相信一些人将J?罗伯特?奥本海默(J Robert Oppenheimer)对核弹发展的担忧与当今人工智能研究人员所表达的担忧相比较。

　　他说:“乌克兰战争让我失眠，气候变化让我失眠，民粹主义政治的崛起让我失眠，等等。”“我不会因为人工智能而失眠。”

　　圣诞节英国皇家学会的讲座将于12月底在BBC四台和iPlayer上播出。现场拍摄的票选对国际扶轮开放成员和年轻的9月14日，星期四

　　--