导语:该法案 SB 1047 要求人工智能公司在向公众发布系统之前对其系统进行安全测试。

OpenAI、Anthropic、谷歌员工公开支持加州人工智能法案

鞭牛士报道,9月10日消息,据外电报道,超过 100 名大型人工智能公司的现任和前任员工呼吁加州州长加文·纽瑟姆 (Gavin Newsom) 通过该州新的人工智能监管法案,该法案在科技界和政策界引起了分歧。

这封信由 OpenAI、Anthropic、谷歌的 DeepMind、Meta 和 xAI 的现任和前任员工签署,表达了对某些人工智能模型开发的担忧。

该法案 SB 1047 要求人工智能公司在向公众发布系统之前对其系统进行安全测试。它还要求公司对其模型造成的灾难性损害承担责任,并允许为技术工人提供举报人保护。

信中写道: 我们认为,最强大的人工智能模型可能很快就会带来严重风险,例如扩大生物武器的使用范围和对关键基础设施的 *** 攻击。前沿人工智能公司测试最强大的人工智能模型是否会造成严重危害,并针对此类风险实施合理的保障措施,是可行且恰当的。

Axios首先报道了该声明。

SB 1047 已在州议会和参议院获得通过。现在由纽森在 9 月 30 日之前签署该法案使其成为法律或否决它。州长尚未表明他对该法案的立场,他正面临双方的强烈游说。

该法案的支持者认为,如果没有护栏,人工智能的发展可能会带来灾难性的后果。xAI 创始人埃隆·马斯克 (Elon Musk) 公开支持对人工智能进行监管。OpenAI 的竞争对手 Anthropic 也支持该法案,该公司得到了亚马逊和 Alphabet 的支持。

人工智能先驱 Yoshua Bengio 和 Geoffrey Hinton 在之前致加州领导人的 *** 中写道: *** 现在就如何开发和部署这些强大的人工智能系统所做出的选择,可能会对加州当前和未来的几代人以及全世界产生深远的影响。