国投智能AI技术专家：当Sora“爆改”世界，我们如何应对？

清澈灵动的眼眸、活泼可爱的萌宠、神秘莫测的海底世界、熙熙攘攘的夏日街区、充满科技感的魔幻都市……这段场景逼真、色彩丰富、氛围浓厚的短视频，全部由人工智能系统制作生成。近日，OpenAI发布首个视频生成模型“Sora”。该模型通过接收文本指令，即可生成60秒的短视频。

AI聊天、AI绘画、AI音乐……随着一系列AIGC（利用人工智能技术生成内容）相继问世，让众人直言对现代社会生活产生颠覆性影响的“AI革命”正式来临。

AI技术带来许多新机遇的同时，也不可避免造成前所未有的挑战和隐患。其中，人工智能生成欺骗性内容干扰选举被认为是全球面临的重要挑战。

当地时间1月23日，2024年美国总统选举共和党党内初选在新罕布什尔州举行。在此之前，很多美国选民都表示，自己接到一通“来自美国总统拜登的电话”。

这通电话以拜登的口头禅“真是一派胡言”开头，建议选民不要给特朗普投票，而是把选票留到11月大选时投给民主党。随后，白宫新闻秘书皮埃尔澄清说，这是一则伪造的电话录音。

分析人士担心，在美国选民容易受到错误信息影响的当下，人工智能可能会在大选期间制造出更多混乱。

据不完全统计，2024年全球将有70多个国家或地区举行重要选举，覆盖超过全球半数人口。在刚闭幕的第60届慕尼黑安全会议上，全球多家科技企业就签署协议，承诺将在2024年打击旨在干扰选举的人工智能滥用行为。

专家预测，2035年生成式人工智能有望为全球贡献近90万亿元的经济价值，其中我国将突破30万亿元，占比超过四成。

人工智能技术快速发展，我们该如何与之“和平相处”？国投智能董事长滕达认为，与人工智能“和平相处”应做到以下三点：一是要进一步推动数据采集、治理和开放的安全合规，政府部门应尽快完善相应的安全标准、技术手段和管理能力，有效开放共享数据、开放应用场景，推进大数据及人工智能产业发展。二是要进一步加强人工智能安全治理技术体系研究，构建完善的人工智能安全治理技术体系，积极开展相关伦理研究，制定人工智能伦理和规范，确保科技向善。三是要实现行政监管与公司治理、行业自治相结合。2023年8月《生成式人工智能服务管理暂行办法》正式实施，进一步促进了生成式人工智能健康发展和规范应用。在实现有效的数据合规管理的同时，还需要良好的公司治理、以标准化和认证为核心的行业自治、有效的行政监管三者之间有机统一。

作为网络空间安全与社会治理领域国家队，国投智能大力拓展战略培育业务新网络空间安全，将人工智能安全和数据安全作为重点研究方向进行探索。

公司于2017年成立AI研发中心，深度开展人工智能技术研究，积极参与人工智能、人工智能安全、深度合成以及生成式人工智能技术合规应用的行业标准制定，参与编制国内首个生成式人工智能标准体系等，协助执法部门维护网络空间安全，规范人工智能技术的良性发展。

2019年，公司针对深度合成技术成立专项研究团队，自主研发深度伪造视频图像检测鉴定的核心引擎，推出AI-3300慧眼视频图像鉴真工作站、人工智能大模型内容检测平台等，全面支持人工智能生成视频图像、音频和文本等多媒体内容的检测。目前，市面常见的内容生成工具（如：Sora、ChatGPT、Midjourney、Stable Diffusion等）所生成的视频、文本、图像均可使用公司相关产品进行检测，平均准确率超过90%。

人工智能大模型内容检测平台检测由Sora生成的视频国家开发投资集团特级专家、国投智能AI研发中心总经理赵建强博士表示，未来国投智能将不断推出围绕整个人工智能安全全链条的更为可信可靠的人工智能产品，为打击利用人工智能展开的各类新型涉网犯罪提供技术和保障，为维护和保障人工智能的规范健康的发展作出贡献。