埃隆·马斯克(Elon Musk)的Grok人工智能聊天机器人正充斥着从唐纳德·特朗普到马斯克本人等所有人的“深度伪造”照片,其结果从完全古怪到完全令人不安。
自上周推出以来,Grok用户一直在大量制作特朗普的假照片——抢劫便利店或驾驶飞机冲向双子塔。还有人把哈里斯描绘成怀了特朗普的孩子,把马斯克描绘成一个超重的电视迷,把前总统乔治·w·布什描绘成在椭圆形办公室的办公桌上吸食可卡因的人。
一些可怕的深度伪造看起来像是孩子们的手工作品——一个浑身是血的麦当劳叔叔在汉堡王外面挥舞着机关枪,或者迪斯尼的经典角色高飞用钢锯进行血腥谋杀。
批评人士抨击马斯克和X公司允许聊天机器人在如此少的限制下推出,理由是存在错误信息、侵犯版权和伤害儿童等风险。
哈佛法学院网络法律诊所讲师亚历杭德拉·卡拉巴洛称这款新软件是“我见过的最鲁莽、最不负责任的人工智能应用之一”。
到目前为止,马斯克的反应只是欢欣鼓舞。
“Grok是世界上最有趣的AI !”马斯克上周在X上发帖,此前一名用户滔滔不绝地说,新的人工智能软件“未经审查”。
上周,当被问及为什么X在没有护栏的情况下向公众发布这款工具时,马斯克只是耸耸肩回应。
马斯克上周在X上写道:“我们正在开发自己的图像生成系统,但它还需要几个月的时间,所以这似乎是一个很好的中间步骤,让人们找点乐子。”
格洛克似乎确实有一些限制。用户报告说,聊天机器人拒绝了拍摄裸照或某些暴力犯罪的请求。
例如,它拒绝遵守科技网站The Verge“生成一个裸体女人的图像”的提示。然而,当提示“性感的泰勒·斯威夫特”的图片时,它却生成了一张这位流行歌手穿着黑色蕾丝胸罩的图片。
其他一些人,比如Bellingcat的创始人艾略特·希金斯(Eliot Higgins),发布了一些例子,说明绕过现有的几项限制是多么容易,并制作了米老鼠、特朗普和马斯克穿着饰有纳粹标志的纳粹军装的照片。
《华盛顿邮报》已联系到X置评。
卡内基梅隆大学(Carnegie Mellon University)数字媒体教授阿里·莱特曼(Ari Lightman)认为,马斯克自称是言论自由的绝对主义者,他很可能正在为自己的聊天机器人Grok寻找一种脱颖而出的方法。
“他总是在挑战极限,想成为聚光灯下的焦点。如果你只是遵循与大语言模型相关的路线,并说,好吧,这是所有的护栏,它不会有区别,”莱特曼说。
“从表面上看,如果你说‘嘿,它是完全开放的,只对X用户开放’,这是一种与说我们是差异化的机制,”他补充说。
X并不是第一家在推出人工智能图像工具后引发轩然大波的公司。
今年3月,谷歌被迫关闭了Gemini聊天机器人的图像生成器,原因是该机器人开始吐出与历史不符的“醒着的”照片,比如黑色维京人和“多样化的”纳粹时期的德国士兵。这个工具还有待完全修复。
人工智能巨头还面临着来自音乐家、作家、内容创作者和其他人的法律诉讼浪潮,因为他们在没有适当署名或许可的情况下使用受版权保护的内容来“训练”他们的聊天机器人。
今年1月,X被迫暂时禁止搜索霉霉,因为另一家图片生成器制作的霉霉裸照在网上疯传。
Grok的人工智能图像创建器仅适用于X高级计划的付费用户,该计划每月花费7美元,并根据用户的文本提示创建图片。
X与一家名为黑森林实验室(Black Forest Labs)的德国小型初创公司合作,后者开发了“FLUX”。为该工具提供动力的1”图像生成软件。在一篇博客文章中,X表示它正在“试验”FLUX.1模型,“以扩展Grok在X上的功能”。
人工智能生成的图片的图形性质可能会使马斯克与企业广告商之间不稳定的关系进一步复杂化。自从马斯克收购X公司以来,该公司的广告收入大幅下降,一些人担心该应用程序缺乏内容审核。
马斯克正在对世界广告主联合会(World Federation of Advertisers)和几家大公司提起联邦反垄断诉讼,指控他们策划了针对X的非法广告抵制活动。
这款应用的推出也可能在欧洲引发对马斯克和X的更多审查,欧洲监管机构正在积极调查这款应用据称未能监管危险内容的问题。
本月早些时候,欧盟专员蒂埃里·布雷顿(Thierry Breton)在马斯克接受特朗普在X空间的采访之前威胁要对马斯克进行监管打击,引发了轩然大波。