一年前，OpenAI发布了ChatGPT——一个免费的生成式人工智能聊天机器人，可以根据用户提示创建文本。

　　随着它的推出，数百万人开始使用ChatGPT来完成诸如写学校论文、起草电子邮件和个人问候语以及检索信息等任务。越来越多的人和公共机构正在使用ChatGPT来提高生产力和效率，即时执行通常超出人类能力的复杂任务。

　　公开的报告显示，仅在今年，就有21个联邦部门使用ChatGPT或类似的系统为美国人服务，其中使用最多的三个部门是能源部、卫生与公众服务部和商务部。政府使用这些系统可以降低成本或改善服务，从而使公众受益。例如，美国海关和边境保护局提高了数据输入和分析的速度和可信度，退伍军人事务部开发了物理治疗支持工具。

　　ChatGPT和类似的系统可以改变许多领域的工作流程和人类互动，并由此产生道德、法律、社会和实践方面的挑战。一个挑战涉及利益和负担的不平等分配。

　　开发这些系统或将其集成到现有工作流中的公司，如硅谷巨头，将继续从中受益最多。即使用户可以更快地完成日常任务，从长远来看，他们的雇主也会从ChatGPT中受益更多。这是因为效率越高，劳动力成本越低。更重要的是，当这些技术被完全整合时，它们甚至可以用廉价可靠的机器人取代工人，这已经在亚马逊仓库等空间发生了。

　　对这些变化的典型反应是，新技术在历史上扰乱了工作，而人类一直在适应。这是一个稻草人的论点，没有直接解决当前形势的细微差别。此外，它分散了我们的注意力，使我们无法更好地理解对人们的影响，无法追究那些为这种新动态做出贡献并将从中获益最多的人的责任。

　　说到好处，ChatGPT和类似的工具通过帮助我们更清晰、更快地写作或在数字任务上提供一些帮助，为我们提供了更多的时间来完成有趣的任务，比如创意和创新。在这方面，短期影响似乎是积极的。

　　然而，这项技术的使用也带来了道德上的挑战。最终，推进这些技术的公司会获得不成比例的好处，因为它们不仅收集了有价值的用户数据——这可能会让用户在未来变得脆弱——而且，它们的系统是由免费劳动力培训的。

　　这些收益将使他们能够提供专门的次要服务，例如，为雇用员工从事办公室工作的公司提供服务。这个利润丰厚的未来应该可以解释，为什么现在拥有OpenAI的微软的股价在过去一年中上涨了52.26%——从2022年11月25日的247.49美元上涨到2023年11月20日的377.44美元——即使在OpenAI激烈的权力斗争导致其首席执行官萨姆·奥特曼于11月17日被解雇之后，股价也没有受到影响。另一个变化是，奥特曼将以首席执行官的身份回归，并将对新的董事会负责。

　　在过去一年中，国内和国际组织已采取行动，鼓励负责任地使用这些系统。例如，白宫最近发布了一项关于人工智能的行政命令，指导人工智能的使用。同样，英国经济合作与发展组织最近启动了经合组织人工智能政策观察站。该观察站通过相关资源和国家级仪表板提供有关可信赖的人工智能政策和数据驱动分析的信息。

　　然而，政府没有能力要求开发人员披露用于训练这些系统的数据，这清楚地表明，政策只能到此为止。当涉及到增强生成式人工智能工具时，透明度和公平性是关键问题，因为我们如何在不知道输入的情况下知道如何改进这些模型?

　　事实上，训练数据应该是包容的，来自有信誉和可靠的来源，算法应该是公正的，并不断审查。这些措施对这些工具的未来发展至关重要，只有在所有有关各方都更加透明的情况下才能实现。

　　此外，如果这些工具的开发者希望产生重大而有意义的社会影响，他们应该仔细考虑这些系统对当前和未来事务的影响。我们面临的一些最大的全球挑战包括气候变化、流行病、移民以及非洲、中东和欧洲的冲突，仅举几例。虽然ChatGPT可以评估现有数据或生成新的文本内容来帮助我们分析和交流这些关键问题，但它也可以被恶意使用。

　　使用ChatGPT来制造错误信息是对民主价值观的挑战。大量的错误信息已经损害了我们理解和有意义地应对全球挑战的能力，并且可能会变得更加严重。

　　例如，人工智能生成的图像和大量虚假文本导致了关于全球冲突的错误信息，这影响了公众对事件的看法，并导致了意见的两极分化。当关于气候变化、流行病、移民、健康话题等的错误信息和假新闻被制造出来时，团结和动员人们解决这些问题变得越来越困难。

　　无论我们个人是否使用ChatGPT和其他人工智能系统，我们的生活都会受到它们的影响。我们可能想知道，在这个人工智能的新时代，我们能做些什么来获得信息。我们可以从倡导信息和媒体素养开始，批判性地使用ChatGPT等技术，同时牢记这些工具以及用于训练它们的数据中存在的固有偏见和不平等。

　　生成式人工智能将继续存在，为了实现这些系统的全部承诺，我们必须安全、负责任地利用它们。

　　穆罕默德·侯赛尼，克里斯蒂·霍姆斯

　　Mohammad Hosseini和Kristi Holmes分别是西北大学范伯格医学院预防医学系的助理教授和教授。这是他们为《芝加哥论坛报》写的。——Ed。

　　(论坛有限公司ntent机构)