光子盒研究院
工业生成式人工智能公司Zapata Computing, Inc.宣布,其在量子增强生成式人工智能方面的研究成果已发表在著名的《自然·通讯》(Nature Communications)杂志上。
这篇文章展示了量子电路如何扩展和补充经典生成式人工智能的能力。
Zapata AI公司首席执行官兼联合创始人克里斯托弗·萨沃伊(Christopher Savoie)解释说:“量子技术可以为企业生成式人工智能应用带来巨大优势,这项研究表明了我们如何充分利用现有资源来实现这些优势。”
在最新中,实验团队展示了传统上用于经典算法的张量网络如何构成量子算法的关键桥梁,提供独特的协同效应。
这种整合不仅增强了两个领域的实力,还显著缓解了量子计算中贫瘠高原的挑战。相关研究促进了合作,利用经典方法和量子方法的优势,更有效地解决复杂问题。
“这不再是一个量子与经典的问题,而是如何将两者协同使用,以更快地获得更好的结果。”
Zapata AI公司量子研究科学家雅各布·米勒(Jacob Miller)说:“我们的工作结合了量子计算机和经典计算机的互补优势,取得了比任何一种硬件本身更好的结果。“
人们通常认为量子技术和经典技术是相互竞争的,但我们的研究表明,经典方法实际上可以帮助克服量子设备优化过程中的一个主要限制。我们希望我们的‘协同’方法能够开始释放当今量子技术在解决棘手计算问题方面的真正潜力。”
利用张量网络(TN)和参数化量子电路(PQC)的协同训练框架示意图
“量子电路玻恩机”(Quantum circuit Born machine, QCBM)和VQE训练的优化结果,每条曲线代表模型6次独立初始化运行中的最佳性能
在协同优化框架内,可以在QCBM中防止出现贫瘠高原的数值证据
使用KL发散损失函数和BAS数据集的QCBM梯度幅度缩放
这项工作建立在Zapata AI用于生成式人工智能的量子技术组合不断增长的基础之上。
Zapata在2017年从哈佛大学的量子计算实验室分离出来;2019年,申请了第一项量子技术用于生成式人工智能的专利。之后,在2020年,Zapata率先使用量子增强生成模型生成高质量数据,然后创新性地使用量子生成人工智能来提升优化解决方案。
这些量子技术为企业问题提供了多项优势,包括压缩计算成本高昂的大型模型、加快耗时且成本高昂的计算速度,以及为生成式人工智能提供更多样化、更高质量的输出。
在生成式人工智能中使用量子数学可以获得更高质量和更多样化的输出结果。
具体来说,量子统计可以增强生成模型的泛化能力,或推断缺失信息并生成新的、高质量信息的能力。生成真正新的、高质量的数据对于工业用例来说非常重要,尤其是当目标是生成现实的新数据或可信的场景时。
将量子数学用于生成式人工智能,可以获得更高质量和更多样化的输出结果。
考虑一个为生成新的医疗分子而训练的模型。如果泛化能力较差,模型就会简单地重复训练过的药物,而不了解这些药物的作用规则。而泛化能力强的模型则能够学习这些规则,并生成遵循这些规则的候选新药。
量子统计还可用于生成范围更广的解决方案,这一特性被称为“可表达性”(expressibility)。在工业生成式人工智能应用中,这可用于生成更多样化的合成数据集,或生成新的、以前未曾考虑过的优化问题解决方案。
例如,研究发现,量子增强生成模型生成的金融投资组合比传统优化算法生成的投资组合风险更低(收益相同)。
生成模型(generative model,GEO)生成的金融投资组合风险低于它所训练的最先进的优化器
这些量子技术也可用于“压缩”(compress)人工智能生成模型,从而大大降低其成本。
大型语言模型(LLM),如ChatGPT背后的GPT-4模型,以及其他大型模型都是能耗密集型的,需要专用图形处理器芯片(GPU)的处理能力。GPU运行成本高,能耗大,会留下大量的碳足迹。由于对生成式人工智能的需求激增,导致GPU短缺,因此也更难找到GPU。
与未压缩的模型相比,使用量子技术压缩的模型使用的参数更少,这意味着更少的能源消耗、更低的计算成本和更小的碳足迹。
使用量子技术压缩的模型也能以更低的成本进行训练。研究发现,压缩模型在训练过程中性能更稳定,这意味着与未压缩模型相比,它们能以更少的训练步骤获得更稳定的准确性
根据研究,压缩后的模型可以用少300倍的数据训练出与未压缩模型相同的性能。这对于合成数据和场景模拟应用尤为重要,因为可用来训练模型的先例有限
总之,这些量子技术将架起通向量子未来的桥梁。我们今天在经典硬件上使用的量子模型将在未来与真正的量子电路向前兼容:释放我们预期的更强大容错量子设备带来的额外优势。
参考链接:
[1]https://thequantuminsider.com/2023/12/19/zapata-ai-researchers-show-how-quantum-circuits-can-improve-classical-generative-ai/
[2]https://www.businesswire.com/news/home/20231219828222/en/Zapata-AI-Research-in-Quantum-Enhanced-Generative-AI-Published-in-Nature-Communications
[3]https://zapata.ai/how-quantum-science-enhances-generative-ai/
领取专属 10元无门槛券
私享最新 技术干货