梁正副院长出席蚂蚁集团科技伦理顾问委员会2023年度会议并做主题演讲

2023年12月21日，蚂蚁集团举行了蚂蚁集团科技伦理顾问委员会2023年度会议。顾委会成员及多位特邀专家学者围绕着科技伦理治理体系建设、生成式AI治理、大模型风险管理等议题进行了深入讨论。清华大学人工智能国际治理研究院副院长梁正教授受邀出席会议，并作《全球视角下的人工智能治理：从伦理到实践》的主题演讲。研究院助理研究员何江陪同参与会议。

梁正教授在演讲中指出：人工智能治理的核心要义是平衡好创新发展和技术治理之间的关系，确保人工智能技术稳定、安全、向善发展。当前背景下，应着力推动人工智能基础性、原创性的技术创新突破，推动人工智能伦理治理从理念原则到实践落地，加强人工智能治理国际对话交流与合作，构建形成治理主体多元化、治理场景分类化、治理手段多样化、治理方式敏捷化、创新发展与规范监管协同并进的新一代人工智能治理生态体系。

蚂蚁集团资深副总裁、技术战略委员会主席倪行军在现场介绍了蚂蚁集团科技伦理建设的最新进展：与大模型能力建设和应用探索同步，蚂蚁集团持续投入人力和算力搭建风险评估、防御的机制及能力。目前大模型伦理建设人员占整体大模型技术人员的将近20%，未来将继续保持高水平和高强度的投入。此外，科技伦理委员会将联合蚂蚁技术研究院投入前沿伦理问题研究。

蚂蚁集团CTO何征宇在现场表示，“我们认为现在是一个真正人机融合智能的时代，除了在大模型领域坚决投入，研究对齐技术，同时我们也高度重视运筹优化、图智能、可信 AI 等技术能力的建设。我们希望通过与搜索，知识图谱等技术的高效结合，缓解目前大模型存在的幻觉等问题，并通过有效管治手段夯实科技伦理，让智能技术服务于人类。”

与会专家一致认为，大模型的出现正在对经济社会发展产生积极影响，但也伴随着很多挑战和风险，其科技伦理建设至关重要、任务艰巨。专家主要观点整理如下：