华盛顿——OpenAI的几名前任和现任员工发表了一封公开信,表达了他们对人工智能行业快速发展和缺乏保护举报人的法律的担忧。
这些员工表示:“人工智能公司有强大的财务动机来避免有效的监管,我们认为定制的公司治理结构不足以改变这一点。”
这封信的签名者包括OpenAI的前员工——Daniel Kokotajlo, Jacob Hilton, William Saunders, Carroll Wainwright和Daniel Ziegler,前谷歌DeepMind员工Ramana Kumar,现任DeepMind员工Neel Nanda,以及其他几位匿名的前员工。
据新华社报道,在这封信中,这些员工表示,他们担心“这些技术带来的严重风险”,其中大部分是外界所不知道的,因为公司“目前只有很少的义务与政府分享这些信息,而没有义务与公民社会分享”。
他们补充说:“我们认为,不能指望他们都自愿分享信息。”
其中一名员工表示:“从外部很难看出,他们对安全提升的承诺有多认真,也很难看出对社会的危害有多严重,尤其是在有如此强大的商业压力要求他们迅速采取行动的情况下。”
在谈到举报人法律时,这些员工表示,“普通的举报人保护是不够的,因为它们关注的是非法活动,而我们担心的许多风险尚未得到监管。”
公开信还强调,由于保密协议,员工无法分享有关人工智能能力的实质性信息。
其中一名员工要求:“拥有正确的文化和流程非常重要,这样员工在遇到问题时就能有针对性地表达出来。”
在对这封信的回应中,这家微软支持的公司表示,它为自己“提供最强大、最安全的人工智能系统的记录感到自豪,并相信我们解决风险的科学方法”。
OpenAI还强调,它有一个匿名诚信热线和一个安全与安全委员会来保护举报人。——BERNAMA-XINHUA