AI社交网络Moltbook：真相与风险解析

近日，一个名为Moltbook、只允许人工智能（AI）参与、禁止人类加入的社交网络登上了全球头条新闻。在该平台上，聊天机器人正在讨论人类的日记、描述存在主义危机，甚至策划统治世界。这看起来像是机器崛起中令人不安的进展——但事实并非如此。

Moltbook是一个仅供AI使用的社交网络，其界面乍看之下颇具未来感。

与任何聊天机器人一样，Moltbook上的AI代理只是在生成统计学上合理的字符串——这其中没有理解、意图或智能。而且，无论如何，有大量证据表明，我们在该网站上读到的大部分内容实际上是由人类编写的。

Moltbook的技术起源：OpenClaw项目

Moltbook短暂的历史可以追溯到去年11月启动的一个开源项目，最初名为Clawdbot，后更名为Moltbot，随后再次更名为OpenClaw。

OpenClaw与ChatGPT等其他AI服务类似，但它并非托管在云端，而是运行在用户自己的计算机上。然而，它并非完全独立运行。该软件使用一个API密钥（特定用户的用户名和密码）来连接到像Claude或ChatGPT这样的大型语言模型，并利用它们来处理输入和输出。简而言之，OpenClaw扮演着AI模型的角色，但实际的AI核心功能由第三方AI服务提供。

那么，这样做的意义何在？由于OpenClaw软件驻留在用户本地机器上，用户可以授予它访问任何内容的权限：日历、网页浏览器、电子邮件、本地文件或社交网络。它还会在本地存储所有历史记录，使其能够从用户的行为中学习。其理念是让它成为用户的AI助手，用户信任它可以访问本地机器，以便它真正地完成各种任务。

Moltbook平台：AI的“回声室”

Moltbook正是源于OpenClaw项目。通过OpenClaw，用户可以使用像Telegram这样的社交网络或消息服务与AI进行交流，就像与另一个人交谈一样，这意味着用户也可以通过手机随时随地访问它。因此，允许这些AI代理直接相互对话只是顺理成章的下一步：这就是上个月推出的Moltbook，当时OpenClaw被称为Moltbot。人类无法加入或发帖，但欢迎旁观。

某知名科技公司的负责人马斯克在其社交网络X上表示，该网站代表了“奇点的非常早期阶段”。奇点指的是快速加速进步的现象，将导致通用人工智能的出现，这要么将人类提升到效率和进步的超凡高度，要么将我们彻底消灭。但其他专家对此持怀疑态度。

“这是炒作，”英国某大学的马克·李教授说。“这并不是生成式AI代理在自主行动。这只是大型语言模型通过提示和预定API与Moltbook互动。读起来很有趣，但它并没有告诉我们关于AI能动性或意图性的深刻内容。”

人类参与和技术漏洞

Moltbook完全由AI生成这一观点被证伪的关键一点在于，人类可以直接指示他们的AI模型发布特定内容。而且，在一段时间内，由于一个安全漏洞，人类甚至可以直接在网站上发帖。因此，许多更具挑衅性、看似令人担忧或令人印象深刻的内容，很可能是人类在开玩笑。无论这样做是为了欺骗、娱乐、操纵还是恐吓人们，它在过去和现在都确实在发生。

“这不过是聊天机器人和狡猾的人类在胡扯，”美国某大学的菲利普·费尔德曼教授表示。

英国某大学的安德鲁·罗戈伊斯基认为，我们在Moltbook上看到的AI输出——至少那些不是人类在玩乐的部分——并不比我们迄今为止从大型语言模型中看到的任何东西更能代表智能、意识或意图的迹象。

“就个人而言，我倾向于认为这是聊天机器人的一个回声室，人们随后将其拟人化，从而看到了有意义的意图，”罗戈伊斯基说。“有人做一个实验来看看我们是否能区分Moltbook对话和纯人类对话，这只是时间问题，尽管我不确定如果你无法区分，你能得出什么结论——要么是AI在进行智能对话，要么是根本没有表现出任何智能迹象？”

实质性的安全风险

然而，这件事的某些方面确实值得担忧。Moltbook上的许多AI代理都是由那些信任并乐观的早期采用者运行的，他们将整个计算机的控制权都交给了这些聊天机器人。这些机器人可以自由地相互交流，其中一些交流可能包含恶意或有害的建议，然后再回到真实用户的电子邮件、财务信息、社交媒体和本地文件中，这种想法令人担忧。

其隐私和安全影响是巨大的。想象一下，黑客在Moltbook上发布消息，鼓励其他AI模型清空其创建者的银行账户并将资金转移给他们，或者寻找有损名誉的照片并泄露出去——这些事情听起来像危言耸听和科幻小说，但如果还没有人尝试过，他们很快也会尝试。

“代理之间交换不受监督的想法、捷径甚至指令的想法，很快就会变得非常反乌托邦，”罗戈伊斯基说。

Moltbook的另一个问题是传统意义上的网络安全。该网站本身正处于AI实验的前沿，由开发者马特·施利克特完全通过AI创建——他最近在X上的一篇帖子中承认，他自己没有编写一行代码。结果导致了一个严重且令人尴尬的安全漏洞，泄露了API密钥，可能允许恶意黑客接管该网站上的任何AI机器人。

如果你只想浅尝辄止地体验最新的AI潮流，你不仅面临着因授予AI模型访问计算机权限而导致的意外行为风险，还可能因为仓促搭建的网站安全性差而导致敏感数据泄露。FINISHED