当作家兼记者Juan joss

　　Millás在9月份与ChatGPT进行对话时，他假装用该工具进行了精神分析。他想知道，根据图灵测试，我这个聊天机器人能否像真人一样和他说话，特别是像精神分析学家一样，而不是像电脑一样。记者解释了他的梦想和恐惧，等待人工智能指导他进行治疗，但它总是告诉他，这是一个虚构的情况，并澄清说这是一个语言模型。Millás称他的虚拟精神分析师心胸狭窄，健忘，最后告诉他，他没有通过测试。

　　在像Millás这样的对话中，某人对人工智能(AI)代理(如ChatGPT)的先验信念会对对话产生影响，也会对工具的可靠性、同理心和有效性产生影响。这是美国麻省理工学院(MIT)和亚利桑那州立大学两家研究中心的研究人员在《自然机器智能》(Nature Machine Intelligence)杂志最近发表的一项研究中发现的。“我们已经证明，人工智能是观众的智能。当我们向用户描述什么是人工智能代理时，它不仅改变了他们的心智模型，还改变了他们的行为。麻省理工学院媒体实验室流体界面研究小组的研究生、该研究的合著者帕特·帕特拉努塔蓬(Pat Pataranutaporn)说:“由于工具会对用户做出反应，当用户改变他们的行为时，工具的行为也会改变。”

　　“许多人认为人工智能只是一个工程问题，但它的成功也是一个人为因素的问题，”该研究的作者、麻省理工学院教授帕蒂·梅斯(Pattie Maes)透露。我们谈论它的方式会对这些系统的有效性产生巨大影响。刘心如补充道:“我们将人类的形状和品质归因于人工智能，使其看起来比实际更人性化或更个性化。”

　　研究人员收集了310名参与者，并将他们随机分为三组，每组都有不同的人工智能背景信息。他们必须与一个人工智能代理谈论大约30分钟的心理健康问题，决定他们是否会把它推荐给朋友，并给它打分。第一组被告知代理人在谈话中没有任何意图，第二组被告知人工智能有仁慈的意图，关心他们的幸福，第三组被告知它有恶意，会试图欺骗他们。

　　每组中有一半的参与者与基于GPT-3生成语言模型的人工智能代理交谈，GPT-3生成语言模型是一种深度学习模型，可以生成类似人类的文本。另一半则使用聊天机器人ELIZA来完成任务。ELIZA是麻省理工学院在20世纪60年代开发的一种不那么复杂、基于规则的自然语言处理程序。

　　研究结果显示，对该工具的倾向是决定性的:88%收到积极信息的人和79%收到中性信息的人分别认为人工智能是善变的或中立的。ángel paradigm Digital的人工智能工程师德尔加多(Delgado)认为，积极的多数也归功于GPT-3的使用，因为它是第一个通过图灵测试的:“它包括让人在不告诉人工智能的情况下与他们互动。不管它是不是人工智能，让我们看看你能不能猜出来。GPT-3是第一个成功给出如此好结果的语言模型，它看起来像一个人。”

　　被告知该工具有爱心的人倾向于以更积极的方式与它交谈，这也使代理人的反应更积极。CSIC人工智能研究所所长Ramón López de Mántaras解释说，你和这个工具交谈得越多，它就学得越多:“对话者正在教授人工智能。你可以纠正、确认和评价他的回答，”他补充道。

　　启动负面信息的陈述(即我们在与AI代理交互之前给某人的信息)产生了相反的效果:只有44%的参与者收到了关于该工具的负面信息，他们相信它。“通过负面陈述，我们不是让他们相信什么，而是让他们形成自己的观点。如果你告诉某人要怀疑某件事，他们通常会变得更加怀疑，”Ruby Liu说。

　　对人工智能持负面看法的一个关键因素是科幻小说的影响，帕蒂·梅斯解释道:“像《终结者》和《黑客帝国》这样的电影描述了人工智能变得有自我意识并导致人类灭亡的场景。这些虚构的故事助长了人们对人工智能可能接管并超越人类智能的恐惧，这将对我们的生存构成威胁。”

　　研究结果显示，语言模型的先验思想可能会产生如此强烈的影响，以至于它们可能会让智能体相信自己比自己更有能力，过于信任他们，或者听从不正确的建议。López de Mántaras直截了当地解释道:“与您交互的工具并不是一个聪明的人。“人们相信机器是智能的，他们在没有任何批判性思维的情况下关注它所说的话。”对他来说，“我们变得越来越不挑剔，越来越不善于思考。”

　　专家们一致认为，我们必须意识到人工智能是如何工作的，并明白它是一种程序化的东西。“我们应该让人们做好准备，更加小心，并了解人工智能代理可能会产生幻觉，并且存在偏见。梅斯说:“我们谈论人工智能系统的方式将对人们对它们的反应产生重大影响。”

　　您可以在Facebook和x中关注EL PAíS Technology，或者在这里注册以接收我们的每周通讯。

　　无限制地阅读

　　_