说说垃圾进,垃圾出。
据报道,亚马逊的语音助手Alexa被发现错误地声称2020年总统选举“被大量选举欺诈窃取”,这是技术如何传播错误信息的最新例子。
现实情况是,所有现有证据都支持乔·拜登(Joe Biden)击败时任总统唐纳德·特朗普(Donald Trump)赢得2020年总统大选的结论。但输得很惨的特朗普,从那以后一直在制造各种虚假的说法,称选举被窃取,无数虚假信息商家也在重复这种说法——据报道,包括亚马逊的Alexa,它模仿了这种虚假的说法,同时引用了右翼视频分享平台Rumble和Substack上的内容,这是一个任何人都可以发帖的时事通讯网站。
不太好看,亚马逊。
在向亚马逊提出Alexa令人不安的行为后,这名语音助手不再说选举中存在欺诈行为。
一位发言人对该报表示:“这些回复都是少数几次的错误,一旦引起我们的注意,就会迅速修复。”“我们会不断审核和改进现有的检测和屏蔽不准确内容的系统。”
尽管解决了这个问题,但这一事件表明,像个人助理和人工智能这样的技术——亚马逊正在将其植入Alexa——可能会轻易传播错误信息,而它们的制造商会像打地鼠游戏一样消灭这些信息,而不是主动预防。
当OpenAI向公众发布ChatGPT时,研究人员很快发现,这款人工智能聊天机器人擅长散布虚假信息。最近,黑客们在拉斯维加斯参加了一年一度的DEF CON,并展示了破解ChatGPT是多么容易,他们可以发布错误信息,对某些群体产生有害的偏见评论,甚至泄露信用卡信息。
如果从这个引爆点来看,事情会变得更糟。