数据处理中心
艾伦人工智能研究所(AI2)提出了一种新的方法来激励节能型的机器学习。
艾伦人工智能研究所由微软联合创始人保罗·艾伦创立,专注于研究人工智能可能给人类带来的帮助,为全球十大人工智能研究所之一。
爆炸式增长:越来越多的研究人员对深度学习成本的不断增长发出了警告。2018年,OpenAI发表的一项研究显示,每三到四个月,训练大型模型所需的计算资源就会翻一番。今年6月,另一项研究发现,尤其是开发大规模的自然语言处理模型,可能会产生令人震惊的碳排放。
OpenAI由特斯拉创始人马斯克和其他硅谷大亨联合创立,希望能够预防人工智能的灾难性影响,推动人工智能发挥积极作用。
这一趋势源于研究圈不计成本的对极致技术的追求。例如,有一些排行榜会庆祝AI性能的突破,但它们很少提及这些渐进式改进的成本。通常,性能的线性增长是通过资源的指数增长来实现的。一位专家预测,按照这个速度,到2025年,人工智能将占到世界用电量的十分之一。
马太效应:这些统计数据不仅仅是从环境的角度考虑的。它们对AI领域的多样性和进步也有影响。产生显著成果则需要绝对数量的资源,这些资源远非学术型人工智能实验室可比,并且多数属于盈利性私营公司。那么,这可能会将该人工智能领域的发展限制在更符合企业所推崇的短期项目上,而不是更有利于公众的长期进展。
解决办法:在一篇新的论文中,西雅图AI2的研究人员提出了一种新的方法来缓解这种趋势。他们建议,人工智能研究人员在公布AI结果的同时公布训练模型的财务和计算成本。作者希望,提高实现性能提升的透明度,将激励更多的资金投入到高效机器学习算法的开发中。
论文作者之一、AI2的首席执行官奥伦•埃齐奥尼(Oren Etzioni)也认为,出版物和会议的论文审稿人应该奖励那些提高效率和准确性的人。除非人们将效率指标标准化,否则很难评估这种贡献的重要性。
为什么是现在呢?
近年来,企业的研究实验室在提高深度学习计算能力方面的投入大幅提升。但是奥伦希望AI领域的人能够更多地意识到这种权衡。此外,投资于更高效的算法可以从可用资源中挤出更多的算力,并产生其他收益。这不是一个非此即彼的问题:“我们只是想在这个领域取得更好的平衡。”
领取专属 10元无门槛券
私享最新 技术干货