中国信通院：人工智能风险划分为5个等级

新京报贝壳财经讯（见习记者韦英姿）12月24日，在2024中国信通院ICT深度观察报告会人工智能伙伴分论坛上，中国信息通信研究院（简称中国信通院）发布2023年人工智能风险管理体系。该体系将人工智能带来的风险分为两类，即自身技术系统造成的风险和应用产生的风险，并参考我国现行网络安全等级保护要求将人工智能风险划分为5个等级。

据中国信通院人工智能研究中心安全与元宇宙部主任石霖介绍，最低层风险是指不构成有意义的灾难性风险，不会对个人、企业、组织造成权益伤害，“例如AlphaGo专门用于下棋领域，可能不会对现实社会造成风险”。他表示，最高的第5级风险是指对人类社会有一定颠覆性影响，“比如不受人控制的强人工智能，由于具有极强自主性，可能会属于极高风险类别”。

该体系还将人工智能风险管理分为三方：技术提供方、技术应用提供方和真正应用方。据石霖介绍，技术提供方是指提供数据算力和原始模型的技术研发企业和团队；技术应用提供方是指集成原始模型算法、算力，直接向用户提供服务的一方；真正应用方主要是指个人和组织。

“针对技术提供方和应用方，我们基于智能化程度和所在场景来确定相应的风险等级，再根据风险等级把相应的风险管理和治理理念，贯彻到研发或应用中。”石霖说。

编辑 陈莉

校对 卢茜