AI生成错误信息不负法律责任？澳大利亚市长准备起诉OpenAI，称ChatGPT诽谤其行贿犯罪

生成严密、准确的事实并不是 ChatGPT 的强项。使用过该工具的人们都了解，OpenAI 创建的大型语言模型会为自己的回答编造信息——完全是为了快速生成流畅的文本或完成任务。但是 ChatGPT 是否对其虚假信息负法律责任？人工智能的回答是否具有破坏性和诽谤性，其背后的公司是否需要承担责任？

一位澳大利亚政客正在努力寻找答案，这可能成为有史以来第一起针对人工智能的诽谤诉讼。根据路透社的报道，该国赫本郡地区市长布莱恩胡德Brian Hood准备起诉 OpenAI，如果该公司没有充分解决和纠正 ChatGPT 中显示的关于他的虚假信息。

据报道，ChatGPT的AI 聊天机器人将Brian Hood 错误地定义为“已定罪的罪犯”，参与了澳大利亚储备银行 (RBA) 过去“非常真实的贿赂丑闻”。2011 年，RBA 子公司 Note Printing Australia 的官员因串谋贿赂外国政府官员而被判有罪。违法行为发生在 1999 年至 2004 年之间。多名官员因参与犯罪而被判刑。

根据政客的律师的描述，至少有一段时间， ChatGPT给出的答案是，胡德Hood是参与这个犯罪计划的人之一。然而，胡德Hood从未在澳洲联储丑闻中被判有罪。他从未受到指控。事实上，胡德Hood是揭发不当行为的告密者——故事中众所周知的“英雄”，而不是反派。

据报道，在许多公众向他提到 ChatGPT 将他列为罪犯后，这位当地政客开始担心他的声誉。于是，他联系了他的律师。

Hood 的法律团队于 3 月 21 日向 OpenAI 发出了一封关注信，根据媒体的说法，给予该公司 28 天的时间来修复错误。然而，该律师，这家由萨姆奥特曼Sam Altman领导的总部位于旧金山的公司尚未做出回应。

如果这次事件的进展进入到诉讼，“这可能是一个具有里程碑意义的时刻，”Hood的代表 ， Gordon Legal 的律师事务所之一詹姆斯·诺顿 (James Naughton) 表示。“它将这项诽谤法适用于人工智能的新领域。”

OpenAI 包含关于 ChatGPT 准确性（或缺乏准确性）的免责声明使用了条款。该公司指出：“在某些情况下，我们的服务可能会导致无法准确反映真实人物、对地点或事实有错误输出。” 然而，这并不一定意味着该公司不会因为这些谎言而受到责备。胡德Hood的律师Naughton说这是必须予以处理的。“他是一名民选官员，他的声誉对他的角色至关重要”。“如果他所在社区的人能够访问这些材料，那对他来说就会有所不同。”

Naughton 进一步表示，具体而言，任何诉讼都将集中在 ChatGPT 缺少脚注上，这给人一种错误且无法证实的感觉，即它所提供的文本是忠实于现实的。“很难有人追查到‘算法是如何得出这个答案的？’”Naughton 指出。“它非常不透明。”

对 OpenAI 提起诽谤诉讼的经济后果可能不会很严重。据报道，澳大利亚的损失上限不超过 30 万美元。然而，如果案件继续推进并最终结果有利于市长，它可能会为科技公司在人工智能产生的错误和错误信息方面承担责任，树立一个重要的全球法律先例。

像微软和谷歌这样的大型主流科技公司已经在努力将生成式人工智能融入到他们的许多产品中。而且，即使在第一次公开发布活动中，AI 的明显问题也出现在谷歌的Bard和微软的Bing两者上。但到目前为止，这些科技巨头不必为他们向用户提供的不良信息承担法律责任。

任何诉讼都可能对微软产生重大影响，具体而言，微软在其自己的人工智能搜索和聊天中使用了 OpenAI 价值数十亿美元的技术合作协议。尽管微软的技术版本确实包含脚注，但它们并不总是最清晰和最可靠的。

尽管胡德Hood的律师信息显示，OpenAI 没有回复他们的关注信，但在简短地测试了 ChatGPT 是否仍在制造关于该市长的谎言。在多轮来回询问有关 Hood 和 2011 年贿赂定罪的问题时，我们无法让机器人告诉我他是一名罪犯，或者被指控犯有任何罪行。相反，人工智能现在似乎明白胡德Hood是丑闻中的好人。尽管如此，ChatGPT 仍然错误回应了其对澳大利亚政府历史事件中的一些细节。

“2011 年澳大利亚储备银行 (RBA) 贿赂丑闻的举报人是布赖恩·胡德 (Brian Hood)，他曾是 Securency International 的代理人，这是澳大利亚储备银行旗下的 Note Printing Australia 与一家英国公司的合资企业，”它写道。然而，Hood 并不是 Securency International 的前代理人。据报道，他曾是澳大利亚纸币印刷公司的秘书（2013 年悉尼先驱晨报报道）。该机器人还声称只有两名官员被判有罪，但实际数量更高。这些错误可能不是诽谤，但它们仍然是不真实的。

就其本身而言，OpenAI 首席执行官 Sam Altman 表示，ChatGPT，即使采用了全新升级的 GPT-4 技术，“仍然有缺陷，仍然有限。”

“我们认为人工智能应该成为对个人有用的工具，因此每个用户都可以根据社会定义的限制进行定制，”OpenAI 在 2 月份的一份声明中说。 “这将意味着允许其他人（包括我们自己）可能强烈反对的系统输出。在这里取得正确的平衡将是一项挑战——将定制发挥到极致，可能会导致恶意使用我们的技术和阿谀奉承的人工智能，从而无意识地放大人们现有的信念。”

人工智能行业也一直在呼吁对此类技术工具进行监管，这些技术工具开始被用于各种各样的事情——从家庭作业协助财务顾问。美国政府最近表示AI 生成的艺术不会获得版权保护，但对于聊天机器人生成的基于文本的内容，没有类似的指导方针或法律。

https://finance.yahoo.com/news/chatgpt-falsely-accused-mayor-bribery-202853291.html

https://gizmodo.com/openai-defamation-chatbot-brian-hood-chatgpt-1850302595?utm_source=YPL

其他阅读