黑客正在出售一项绕过 ChatGPT 对恶意软件限制的服务

据称，ChatGPT 对创建非法内容的限制很容易绕过。

研究人员周三表示，黑客已经设计出一种绕过 ChatGPT 限制的方法，并利用它来销售允许人们创建恶意软件和钓鱼电子邮件的服务。

最近大热的 ChatGPT 是一种使用人工智能回答问题，并以模仿人类输出的方式执行任务的聊天机器人。人们可以用它来创建文档，编写基本的计算机代码，以及做其他事情。原则上，该服务会主动阻止产生潜在非法内容的请求。如果要求该服务编写从被黑客入侵的设备中窃取数据的代码，或者编写钓鱼邮件，该服务将会拒绝，并回复这些内容是“非法、不道德和有害的”。

打开潘多拉的盒子

据安全公司 Check Point Research 的研究人员报道，黑客们已经找到了一种绕过这些限制的简单方法，并利用它在地下犯罪论坛上出售非法服务。该技术通过使用 ChatGPT 应用程序编程接口，而不是基于WEB的接口来工作。因为，ChatGPT 为开发人员提供了API，以便他们可以将AI机器人集成到他们的应用程序中。但事实证明，API版本并没有对恶意内容实施限制。

研究人员表示：“当前版本的 OpenAI API 被外部应用程序使用（例如，OpenAI的GPT-3模型与Telegram频道的集成），并且几乎没有任何反滥用措施。因此，它允许恶意内容的创建，如钓鱼邮件和恶意软件代码，而没有 ChatGPT 在用户界面上设置的限制或障碍。”

例如，一个论坛的用户现在正在销售一项结合了API和Telegram即时消息应用程序的服务。前20个查询是免费的。之后，用户每100次查询收费5.5美元。

Check Point 的研究人员对旁路进行了测试，以了解其工作情况。结果是：一封钓鱼电子邮件和一个脚本，该脚本会从受感染的计算机上窃取PDF文档，并通过FTP将它们发送给攻击者。

与此同时，其他论坛参与者正在免费发布生成恶意内容的代码。一位用户写道：“这是一个bash脚本，可以帮助你绕过 ChatGPT 的限制，用它来做任何你想做的事情，包括恶意软件开发。”

上个月，Check Point 的研究人员记录了 ChatGPT 如何被用来编写恶意软件和钓鱼信息。

Check Point 研究员谢尔盖·希凯维奇（Sergey Shykevich）在一封电子邮件中写道：“在12月至1月期间，使用 ChatGPT web 用户界面生成恶意软件和钓鱼邮件仍然很容易（大多数情况下只需基本的迭代就足够了），根据网络罪犯的聊天记录，我们假设我们展示的大多数示例都是使用web UI创建的。最近，ChatGPT的反滥用机制似乎有了显著改进，所以现在网络犯罪分子转向了限制少得多的API。”

为此，媒体询问了 ChatGPT 的开发公司是否知道这项研究结果，或者是否计划修改API接口。开发 ChatGPT 的 OpenAI 是一家总部位于旧金山的公司，目前，该公司的代表并没有对此问题进行回复。

事实上，恶意软件和钓鱼邮件的产生，只是 ChatGPT 打开潘多拉魔盒的一种方式，它可以用有害的内容轰炸世界。其他不安全或不道德使用的例子是侵犯隐私和产生错误信息或学校作业。当然，同样产生有害的、不道德的或非法内容的能力，也可以被防御者用来开发检测和阻止这些内容的方法，但尚不清楚良性使用是否能够跟上恶意使用的步伐。

如果朋友们喜欢，敬请关注“知新了了”！