杨立昆：ChatGPT或大语言模型不是AGI的终局

腾讯科技讯 7月6日，第六届世界人工智能大会(WAIC 2023)在上海举办，大会主题为“智联世界 生成未来”。在会议开幕式上，图灵奖得主杨立昆表示，他不认为ChatGPT或大型语言模型（LLM）是AGI终局，可以使用的一个判断标准是，看系统的功能是什么？看他们漏掉了什么。如果漏掉了一些基本的东西，那么意味着这个系统是不足的，系统可能有用，但它不会走上通往人类智能水平的道路。

杨立昆称，并不喜欢AGI这个词，因为每一种智能都是专向的，甚至人类智能也是非常专向的。他们只用文本训练，你也无法使用图像或视频来训练它们，因为它们是用户生成式架构，它们会试图去预测文本中缺失的单词。

他指出，像ChatGPT这样的自回归模型，只预测长文中的最后一个单词，这就是他们试图要做的，这样做的问题是你不能准确的预测文本中缺少的单词。所以你必须预测在你的字典中所有单词的分布。

很多事情是完全不可预测的，你要做的是使用不同的非生成式架构，它们不是试图重建一切，是在试图预测一种消除了很多细节的呈现。

杨立昆认为，让人工智能变得智能和可控的办法是目标驱动人工智能的理念，本质上就是给他们必须满足的目标。我们可以设定人工智能诚实的目标，比如让他屈从于人类的目标，让他们好奇的目标，这些系统将完全可控。系统被设计的安全，不容易，但设计这个目标就是让系统安全，这是一个非常艰巨的挑战。