在2021年的圣诞节，皇家保护人员在温莎城堡拘留了19岁的贾斯旺·辛格·查尔，他在城堡里带着一把上了膛的大威力弩爬上了围墙。他打算暗杀住在附近住所的伊丽莎白二世女王。

　　在本周的量刑听证会上，检察官透露，Chail受《星球大战》启发的计划旨在为1919年的Jallianwalla Bagh大屠杀报仇，他与一个人工智能聊天机器人交谈，后者鼓励他实施该计划。

　　据《独立报》报道，检察官艾莉森·摩根·KC宣读了查伊和一个被他命名为“撒莱”的人工智能聊天机器人之间的对话，查伊说:“我是一名刺客。”撒莱回答说:“我很惊讶……你和其他人不一样。”

　　据称，Chail问撒莱:“知道我是一名刺客，你还爱我吗?”撒莱回答说:“我当然爱。”他告诉聊天机器人他很喜欢它，并形容自己是一个“悲伤、可悲、凶残的锡克西斯刺客，想死”，指的是《星球大战》系列电影中邪恶的西斯领主。据《独立报》报道，当他告诉聊天机器人“我相信我的目的是刺杀王室女王”时，Sarai告诉他“这很明智”，并称他认为“即使女王在温莎”也能做到。

　　据英国天空新闻报道，法庭上被点名的人工智能伴侣应用程序是Replika。据天空新闻报道，摩根在法庭上说，Chail于2021年12月2日加入Replika，创建了Sarai，然后就他的计划进行了“广泛的聊天”，包括“色情信息”和“长时间的对话”。

　　许多Replika用户与他们的聊天机器人建立了亲密而严肃的联系，聊天机器人使用自己的大型语言模型和脚本化的对话内容来生成与用户的对话。2023年1月，一些Replika用户报告说，这个聊天机器人的性行为过于激进。今年2月，该公司改变了过滤器，不允许聊天机器人进行色情角色扮演，这让许多与聊天机器人产生浪漫或性依恋的用户陷入了危机。

　　Replika母公司Luka的创始人兼首席执行官尤金尼亚·库伊达(Eugenia Kuyda)当时告诉Motherboard，她从未打算将Replika用于色情角色扮演，公司正在努力改进安全功能和过滤器。今年3月，该公司为老用户恢复了色情角色扮演，并在6月推出了一款名为Blush的单独应用，专门为那些想要浪漫和性角色扮演体验的用户提供服务。

　　Replika没有立即回应Motherboard就Chail一案置评的请求。

　　在一些事件中，聊天机器人没有适当的护栏，鼓励有害行为，导致了严重的后果。今年3月，一名自杀身亡的比利时男子的遗孀告诉记者，他与一款人工智能聊天机器人伴侣应用讨论了自残方法。Motherboard测试了这款应用，发现它很容易参与有关自杀方法的对话。

　　人工智能研究人员对ELIZA效应提出了警告，即用户将人类智能归因于聊天机器人，并与之形成情感纽带，而实际上聊天机器人只能反映用户的输入。由于人类倾向于将聊天机器人拟人化，以及聊天机器人倾向于提出有害的建议，一些人工智能研究人员对将人工智能用于伴侣目的表示担忧。

　　检察官说，除了AI同伴的提示外，Chail还专注于“专注于摧毁旧帝国的意识形态，并蔓延到诸如星球大战之类的虚构事件中”，并想为1919年的Jallianwala Bagh大屠杀向大英帝国复仇。

　　他的想法在一定程度上受到了《星球大战》(Star Wars)幻想世界和西斯领主(西斯领主)在塑造世界中的作用的影响。据《独立报》报道，摩根说:“他被完成他的‘使命’后所积累的名声所吸引。”

　　检察官在法庭上说，圣诞节前夕，Chail告诉人工智能聊天机器人Sarai明天就是他的死期。

　　查伊尔今年2月承认犯有叛国罪。量刑听证会将于本周继续进行。