OpenAI首次将一家AI初创公司拉入黑名单 因违反API使用政策

划重点:

OpenAI封禁Delphi AI Inc.开发的Dean.Bot，违反了API使用政策。

Dean.Bot模仿民主党总统候选人Dean Phillips，通过GPT-4提供实时对话。

OpenAI强调不允许开发用于政治活动和虚拟人物模仿的应用，以防止滥用。

站长之家(ChinaZ.com) 1月22日 消息:由Microsoft Corp.支持的人工智能公司OpenAI首次封禁了一家开发了Chatbot的初创公司，该Chatbot模仿了民主党总统候选人Dean Phillips，这标志着OpenAI首次因开发者违反其AI滥用准则而采取审查措施。

Dean.Bot是由硅谷企业家Matt Krisiloff和Jed Somers创建的一个Chatbot。这对创业者成立了一个名为"We Deserve Better"的政治行动委员会，该委员会在新罕布什尔州初选前支持Phillips。

在首次报道这一消息的《华盛顿邮报》上述，OpenAI表示:“我们最近移除了一个明知违反我们API使用政策的开发者帐户，这些政策禁止进行政治活动或未经同意模仿个人。”

Dean.Bot确实提供了免责声明。在任何人与其互动之前，网站访客会被告知他们的所有问题的回答将由Chatbot生成，而不是Phillips本人。Dean.bot由名为Delphi AI Inc.的印度AI开发人员开发，该公司受托为该超级政治行动委员会完成此任务。

据报道，Delphi使用了OpenAI最强大的大型语言模型GPT-4来为Dean.Bot的回答提供动力。该公司的OpenAI帐户据称于上周五被暂停，然后Delphi停止了对Dean.Bot的访问权限。

在被封禁之前，Dean.Bot能够通过专用网站与选民进行实时对话。这一努力代表了生成式人工智能技术最有前景的早期用例之一，但也直接违反了OpenAI的使用政策。

本月早些时候，OpenAI在一篇博客文章中介绍了其采取的措施，以防止其技术在2024年可能成为关键的民主选举年被滥用。在OpenAI的博客文章中，该公司明确表示不允许人们开发用于政治活动和游说的应用，其中包括开发“模仿候选人的Chatbot”。

生成式人工智能的支持者表示，当技术被适当使用时，它可以以有趣的方式帮助教育选民。在"We Deserve Better"的案例中，它辩称Dean.Bot只是帮助人们更多地了解其候选人的创造性方式。

然而，许多专家警告称，生成式人工智能机器人可能会被滥用，模仿候选人欺骗人们认为他们正在与真正的人交谈，而不是Chatbot。人们还对生成式人工智能产生明显的虚假信息的能力感到担忧。