新加坡本周发布了一系列网络安全公告，包括保护人工智能（AI）系统的指导方针、医疗设备的安全标签，以及禁止深度伪造选举广告内容的新立法。

　　它的新指南和保护人工智能系统的配套指南旨在推动一种安全的设计方法，因此组织可以减轻人工智能系统开发和部署中的潜在风险。

　　新加坡网络安全局（CSA）表示：“人工智能系统很容易受到对抗性攻击，恶意行为者会故意操纵或欺骗人工智能系统。”“人工智能的采用还可能加剧企业系统现有的网络安全风险，（这）可能导致数据泄露等风险，或导致有害的或不希望的模型结果。”

　　该政府机构表示：“因此，人工智能应该像所有软件系统一样，在设计和默认情况下都是安全的。”

　　它指出，该指导方针确定了潜在的威胁，如供应链攻击，以及对抗性机器学习等风险。它们参照既定的国际标准制定，包括帮助从业者实施安全控制和保护人工智能系统的最佳实践的原则。

　　该指南涵盖了人工智能生命周期的五个阶段，包括开发、运营和维护，以及生命周期结束，后者强调了数据和人工智能模型工件应该如何处理。

　　为了开发配套指南，CSA表示，它与人工智能和网络安全专业人士合作，提供“社区驱动的资源”，提供“实用”的措施和控制。本指南也将更新，以跟上人工智能安全市场的发展。

　　它包括案例研究，包括对图像识别监视系统的补丁攻击。

　　然而，由于控制措施主要针对人工智能系统的网络安全风险，该指南并未涉及人工智能安全或其他相关组件，如透明度和公平性。不过，CSA表示，一些建议的措施可能会重叠，并补充说，该指南并未涵盖人工智能在网络攻击中的滥用，如人工智能驱动的恶意软件或诈骗，如深度造假。

　　然而，新加坡通过了新的立法，禁止使用深度造假和其他数字生成或操纵的在线选举广告内容。

　　这些内容描述了候选人说了或做了一些他们没有说过或做过的事情，但“足够真实”，让公众“合理地相信”这些被操纵的内容是真实的。

　　数字发展和信息部长Josephine Teo表示，（在线广告选举诚信）（修正案）法案在议会二读后获得通过，该法案还涉及使用人工智能（包括生成人工智能（Gen AI））和非人工智能工具（如拼接）生成的内容。

　　张志贤说：“该法案的范围是解决选举中最有害的内容类型，即通过对候选人的言论或行为的虚假陈述误导或欺骗公众的内容，这些内容足够现实，足以让一些公众合理相信。”“现实的条件将被客观地评估。没有放之四海而皆准的标准，但可以得出一些普遍的观点。”

　　她解释说，这些内容包括“与候选人已知的特征、表情和言谈举止密切匹配”的内容。她补充说，这些内容也可能使用真实的人物、事件和地点，因此看起来更可信。

　　她指出，大多数公众可能会觉得总理在社交媒体上给出投资建议的内容是不可思议的，但有些人仍然可能成为这种人工智能骗局的牺牲品。她说：“在这方面，只要有一些公众有理由相信候选人确实说过或做过被描述的事情，法律就会适用。”

　　根据新法规，内容被禁止必须满足以下四个要素：在线选举广告是否被数字生成或操纵，并描绘了候选人的言行，并且足够真实，以至于一些公众认为是合法的。

　　Teo表示，该法案并未禁止在竞选活动中“合理”使用人工智能或其他技术，例如表情包、人工智能生成的或动画角色以及卡通。它也不适用于“良性美容改变”，包括使用美镜和调整视频中的光线。

　　部长还指出，该法案将不包括私人或家庭通信或个人之间或封闭群聊中共享的内容。

　　“话虽如此，我们知道虚假内容可以在开放的WhatsApp或Telegram频道上迅速传播，”她说。他说：“如果有报导说，许多素不相识的用户在大型群聊中交流被禁止的内容，并且公众可以自由访问，这种交流将被纳入条例草案，我们将评估是否应该采取行动。”

　　她补充说，该法律也不适用于授权新闻机构发布的新闻，也不适用于“不小心”转发消息和链接而没有意识到内容已被篡改的外行人。

　　Teo解释说，新加坡政府计划使用各种检测工具来评估内容是否被数字手段生成或操纵。她说，这些工具包括商业工具、内部工具以及与研究人员共同开发的工具，例如在线安全先进技术中心。

　　在新加坡，将向包括社交媒体服务在内的相关人员发出纠正指示，以删除或禁止访问被禁止的在线选举广告内容。

　　如果社交媒体服务提供商未能遵守纠正指示，最高可处以100万新元的罚款。对于不遵守纠正指示的所有其他各方，包括个人，可处以最高1,000新元的罚款或最高一年的监禁，或两者兼而有之。

　　Teo说：“在已经举行或计划举行选举的国家，深度造假事件明显增加。”他援引Sumsub的研究称，与一年前相比，印度的深度造假事件增加了三倍，韩国的深度造假事件增加了16倍以上。

　　她说：“人工智能产生的错误信息可能严重威胁到我们的民主基础，需要同样严肃的回应。”她补充说，新法案将确保“候选人代表的真实性”，并维护新加坡选举的公正性。

　　新加坡也在寻求帮助用户购买足够安全的医疗设备。周三，CSA推出了一项针对此类设备的网络安全标签计划，将该计划扩展到消费者物联网（IoT）产品。

　　这项新计划是由卫生部、卫生科学管理局和国家卫生技术机构Synapxe共同制定的。

　　CSA表示，该标签旨在表明医疗设备的安全级别，并使医疗保健用户能够做出明智的购买决定。该计划适用于处理个人身份信息和临床数据的设备，具有收集、存储、处理和传输数据的能力。它也适用于连接到其他系统和服务的医疗设备，可以通过有线或无线通信协议进行通信。

　　产品将根据四个等级进行评估，1级医疗设备必须满足基线网络安全要求，4级系统必须具有增强的网络安全要求，并且还必须通过独立的第三方软件二进制分析和安全评估。

　　此次发布是在为期9个月的沙盒阶段之后进行的，该阶段于2024年7月结束，在此期间，来自19家参与医疗设备制造商的47个应用程序对其产品进行了各种测试。这些工具包括体外诊断分析器、软件二进制分析、渗透测试和安全评估。

　　从沙箱阶段收集的反馈用于调整计划的操作流程和要求，包括提供更清晰的申请流程和评估方法。

　　标签计划是自愿的，但CSA呼吁有必要采取“积极措施”来防范日益增长的网络风险，特别是随着医疗设备越来越多地连接到医院和家庭网络。

　　新加坡的医疗器械目前必须在HSA注册，并符合包括网络安全在内的监管要求，然后才能进口并在该国提供。

　　CSA在另一份声明中表示，消费设备的网络安全标签计划现已在韩国得到认可。

　　韩国网络安全振兴院（KISA）和德国联邦信息安全办公室（BSI）在本周举行的“新加坡国际网络周2024”会议上签署了上述双边协议。

　　韩国协议将从明年1月1日起生效，韩国信息安全产业研究院（KISA）的“物联网网络安全认证”和新加坡的“网络安全标签”将在两国相互认可。这标志着亚太市场首次成为此类协议的一部分，新加坡还与芬兰和德国签署了此类协议。

　　韩国的认证计划包括三个级别——生活级、基本级和标准级——所有级别都需要第三方实验室测试。获得基本级别的设备将被视为已获得新加坡标签计划的第3级要求，该计划有四个评级级别。KISA也将承认新加坡的3级产品已经达到了基本水平认证。

　　这些标签将适用于消费者智能设备，包括家庭自动化、报警系统和物联网网关。