一名两岁的男孩死于一种吞噬大脑的感染。被活活烧死的医院病人被绑在病床上。一名妇女被发现死在路边。一个5岁的女孩在她父母面前死去。

　　一名30多岁的波兰新妈妈在Facebook上的社交媒体动态上不断出现与小报死亡、事故和令人担忧的健康症状有关的帖子。乔安娜最近也失去了一位亲人，正在接受抑郁症和焦虑症的治疗。为了保护她的隐私，她使用了化名。

　　“这类内容是最经典的触发因素之一，基本上会加剧我的焦虑，基本上让我很难痊愈，”她告诉POLITICO。

　　数字版权非营利组织Panoptykon基金会(Panoptykon Foundation)在两个多月的时间里进行了一项分析，结果显示，Facebook的算法推送给乔安娜的帖子中，有一半以上与她的恐惧有关。该基金会拥有一位专门研究算法审计的学者Piotr Sapie?yński。该分析与POLITICO独家分享。该组织表示，让Facebook隐藏推荐帖子似乎只会导致令人不安的帖子数量略有增加。

　　近年来，社交媒体公司的算法受到越来越多的审查。自从举报人Frances Haugen指控她的前公司未能限制其平台上的有害内容以来，meta平台一直受到特别关注——meta否认了这一指控。

　　TikTok的算法也因其如何提供令人上瘾和潜在危险的推荐而受到批评。

　　但在过去的几个月里，大西洋彼岸的监管机构已经开始打击这种行为。自去年11月以来，欧盟委员会开始执行欧盟的内容监管法律《数字服务法案》(DSA)，目标是meta、TikTok和YouTube。

　　meta已经收到了四份不同的要求，要求其澄清如何遵守DSA规定的几项义务，包括其Instagram算法如何处理有害内容的传播。罚款最高可达公司全球收入的6%。

　　在美国，10月下旬，33个州联合起来起诉meta，声称其平台的算法吸引用户进入深深的“兔子洞”，以最大限度地提高参与度。

　　Panoptykon的负责人卡塔兹娜·希米列维奇(Katarzyna Szymielewicz)说，这项针对乔安娜的新分析显示了“在不给人们休息或安全带的情况下优化参与算法的后果”。

　　2023年6月，脸书算法为乔安娜提供的帖子中，有近54%的内容涉及年轻人猝死、令人担忧的身体迹象、疾病、事故和死亡。7月份，即使在122个建议帖子中点击“隐藏帖子，少看这样的帖子”几天后，仍有大约57%的帖子出现。在这两个月里，乔安娜看到了1416条令人不安的帖子。

　　“我很沮丧，因为我觉得自己被利用了，被困住了，”她说。她还记得，即使她告诉Facebook她想少看这类内容，也有人不断向她推荐引发焦虑的内容。

　　meta的发言人本·沃尔特斯(Ben Walters)表示，波兰的研究存在缺陷。他说:“它的样本量只有一个，错误地假设人们对他们在信息流中看到的内容没有影响力，当我们为人们提供许多其他方法来控制他们看到的内容类型时，它只关注一个工具。”

　　该公司没有回答有关采取措施确保Facebook的推荐算法不会显示有毒内容的问题，也没有详细评论其如何遵守DSA。