马斯克：如果不加以监管，人工智能将构成“文明风险”

马斯克是周三在美国国会大厦举行的参议院论坛上讨论人工智能 (AI) 的多位顶尖科技高管之一。据报道，在私下讨论中，马斯克回应了如果不采取行动规范新兴技术，人工智能将对人类构成威胁的警告。

怀俄明州共和党参议员辛西娅·卢米斯 (Cynthia Lummis) 在NBC 新闻的一份报告中表示，马斯克警告立法者，如果不加以监管，人工智能可能会带来“文明风险” 。卢米斯说，她在受到这句话的启发后，将其记在笔记本上，然后向两位记者展示。

出席论坛的其他科技高管包括Meta首席执行官马克·扎克伯格、微软前首席执行官比尔·盖茨、Alphabet（谷歌）首席执行官桑达尔·皮查伊、OpenAI首席执行官萨姆·奥特曼等。此次会议不向公众开放，除了受邀的高管、劳工领袖和民权组织外，还有 60 多名参议员出席。此前，马斯克与其他几位行业专业人士在今年早些时候签署了暂停开发某些人工智能系统的呼吁。奥特曼没有签署这封信，但他后来帮助撰写了一份 OpenAI 文件，呼吁加强对超级智能系统的治理。

除了特斯拉、SpaceX、Neuralink、The Boring Company 和 X 的努力外，马斯克还在今年早些时候推出了 xAI ，这是一家人工智能初创公司，表示其打算“了解宇宙的真实本质”。

会议结束后，马斯克在离开国会大厦外时接受了CNBC记者的采访，并指出与会者几乎都同意需要采取措施来监管人工智能。

“这次会议可能会载入史册，因为它对文明的未来非常重要，”马斯克说。

当被问及他是否认为这次会议会产生立法时，马斯克回答“可能”，尽管他不确定此类立法的时间表会是什么样子。此外，马斯克在采访中表示，当舒默询问谁支持对人工智能开发进行监管时，几乎所有人都举起了手，他称这是一个“好兆头”。

记者还向马斯克询问参议院可能会采取什么样的行动来回应论坛。他说“也许”可以设立一个单独的人工智能部门。

离开之前，马斯克被问到他是否认为人工智能会毁灭人类。马斯克回应道：“人工智能杀死我们所有人的可能性大于零。我认为这个比例很低。”

“但如果有机会的话，我想我们也应该考虑一下人类文明的脆弱性。”