白宫首次公布减少AI风险的举措：将拨款1.4亿美元建立研究中心

IT之家 5 月 4 日消息，人工智能（A.I.）的发展日新月异，给人类带来了巨大的便利，也引发了各种风险和挑战。为了应对这些风险，美国白宫周四宣布了一系列新的举措，包括拨款 1.4 亿美元（IT之家备注：当前约 9.67 亿元人民币）建立专门的 A.I.研究中心，制定政府机构使用 A.I.的指导原则，几家人工智能公司已经同意在 8 月的一次网络安全会议上提供他们的产品供审查。

图源 Pexels

当天下午，美国副总统哈里斯和其他政府官员还将与谷歌、微软、OpenAI、Anthropic 等 A.I.领域的知名企业的 CEO 举行会面，讨论 A.I.的发展方向和社会责任。白宫一位高级官员周三表示，政府希望向这些企业传达一个信息：他们有义务解决 A.I.带来的新问题。

A.I.是指能够模仿人类智能行为的计算机系统。近年来，随着 OpenAI 等公司推出了能够生成流畅文本和逼真图像的聊天机器人（chatbot），A.I.引起了公众的广泛关注和使用。一些大科技公司也纷纷将聊天机器人融入他们的产品，并加速了 A.I.的研究。同时，风险投资者也大量投资于 A.I.领域的创业公司。

然而，A.I.的繁荣也带来了诸多问题，比如如何改变经济、影响地缘政治、防止犯罪活动等。批评人士担心，许多 A.I.系统虽然功能强大，但却缺乏透明度，可能导致歧视性的决策、取代人类的工作、传播虚假信息，甚至自行违反法律。

美国总统拜登近日表示，A.I.是否危险“还有待观察”，他任命的一些高级官员承诺，如果以有害方式使用该技术，他们将进行干预。联邦贸易委员会主席汗在周三发表在《纽约时报》上的客座文章中说，美国正处于一个“关键的决策点”，她将 A.I.的最新发展比作谷歌和 Facebook 等科技巨头的诞生，并警告说，如果没有适当的监管，这项技术可能巩固这些公司的权力，并给骗子提供一个强有力的工具。

白宫周四宣布的举措是在之前监管 A.I.的努力基础上进行的。去年，白宫发布了一份名为“A.I.权利法案”的蓝图，其中规定自动化系统应该保护用户的数据隐私、避免歧视性结果，并明确说明采取某些行动的原因。今年 1 月，美国商务部也发布了一份旨在降低 A.I.开发风险的框架，这份框架已经筹备了多年。

聊天机器人的出现，如 OpenAI 的 ChatGPT 和谷歌的 Bard，给政府采取行动带来了巨大的压力。欧盟已经在商讨对 A.I.的监管，但面对新的技术发展，也有人要求监管范围扩大到更多的 A.I.系统，而不仅仅是那些被视为高风险的系统。在美国，包括参议院多数党领袖舒默在内的一些国会议员，已经开始起草或提出立法来规范 A.I.，但限制这项技术的具体措施更有可能首先来自华盛顿的执法机构。今年 4 月，一组政府机构承诺“监督自动化系统的开发和使用，并促进负责任的创新”，同时惩罚利用该技术违反法律的行为。