观察｜chatGPT全球风靡引发担忧 究竟为何？

以chatGPT为代表的AI（人工智能）聊天机器人在全球风靡，其优异的表现能力令人们颇为惊讶，被指是几十年来最重大的计算机技术跃进。不过，重大的科技跃进总是伴随着种种忧虑，类似于AI会否取代人类的讨论不绝于耳，甚至一些西方国家也已发出禁令。

微软创始人比尔盖茨是先进AI的拥抱者，其毫不讳言“AI时代已诞生”，预计今后5至10年间各行各业将因而重新定位，企业唯有有效运用AI者才能傲视同侪。

他表示有生以来见过两次“最印象深刻的革命技术演示”，第一次是1980年接触到图形使用者界面，即计算机由以往的文字界面和指令进化为图像界面，令用户使用计算机变得直观方便，而第二次就是去年见到OpenAI团队的ChatGPT。

然而，正如一些观点所指出的，科技的发展史似乎同时也是人类新危机的演化史，撇开大家早已熟悉的能源及其他环境问题，以及暂时还算比较遥远的智能叛变、人被人工智能征服统治的科幻可能，近来最受关注的当然是由ChatGPT引发的种种忧虑。

OpenAI发布的报告显示，ChatGPT和未来用该程序构建的软件工具，至少可以影响美国约19%的工作岗位所需执行的50%的任务。同时，80%的美国劳动力会发现，其至少10%的工作任务在某种程度上受到ChatGPT的影响。

受影响最大的职业包括口译员和笔译员、诗人、词作者、公共关系专家、作家、数学家、报税员、区块链工程师、会计师和审计师，以及记者。可以看出，这也将为未来的教育带来问题。

这些大语言模型也存在歪曲关键事实，甚至杜撰原始资料来支持其观点的问题。随着ChatGPT、微软的Bing和Google的Bard等基本不受监管的AI软件开始纳入整个网络，引起了人们对错误讯息传播的担忧。

其中一宗个案是，澳洲赫本县县长胡德（Brian Hood）因不满ChatGPT提供的资料误指他曾因贿赂罪而入狱，警告会控告ChatGPT的开发商OpenAI诽谤。若他真的提告，将是全球首宗针对自动化文本服务的诽谤诉讼。

让AI聊天机器人产生错误讯息或仇恨言论是相对容易的。“打击数码仇恨中心”近期发表的一项研究发现，研究人员诱导Bard在100次中有78次产生错误或仇恨的讯息，主题包括大屠杀和气候变化。

聊天机器人的工作方式是利用大量在线内容，对几乎任何问题都能做出回答，虽然它们生成的内容往往听起来很权威，但这些模型缺乏可靠的机制来验证。南加州大学安纳伯格分校教授克劳福德说：“由于这些系统的反应如此自信，令人相信它们无所不能，实在很难区分事实和虚假讯息。”

事实上，OpenAI和谷歌也承认聊天机器人会产生“虚构事实和错误推论的情况”，在真实世界的情境表现仍不如人类，“离完美还很遥远”。

一些机构还存在更为棘手的道德忧虑。上月底，欧洲刑警（Europol）发出警告，称犯罪分子可能会利用ChatGPT“大幅加快对未知领域的研究程序”，包括草拟欺诈犯案计划，或是查询“如何闯入民宅、犯下恐怖行动、网络犯罪与儿童性侵案”的信息。聊天机械人能模仿说话风格，对于发动网络钓鱼攻击特别能派上用场，能引诱使用者点击假的电邮链接，之后再试图窃取他们的资料。

此外，特斯拉行政总裁马斯克、苹果联合创办人沃兹尼亚克等科技界巨头，与逾千人联署发公开信，表达了忧虑AI工具对人类可构成深远影响，呼吁暂停发展比GPT-4更强大的AI工具至少半年，直至业界确信强大的AI会产生良好效果而风险可控才继续开发。

不少国家也开始担忧AI聊天机器人带来的潜在威胁。意大利私隐监管机构开西方先例，上周五（3月31日）突然宣布禁止民众使用ChatGPT，并表示已对OpenAI展开调查，批评ChatGPT不尊重用户数据，且未能验证用户年龄。

加拿大私隐专员办公室日前亦宣布，开始调查ChatGPT开发公司OpenAI，指控该公司涉未经同意收集、使用及披露用户信息。一名私隐保护专员指，AI技术及其对私隐的影响是优先关注的事项，并且需要跟上发展迅速的技术。

据路透社报道，德国也可能以数据安全问题为原因，追随意大利的脚步封杀ChatGPT。

不过科技业蓬勃的美国尚未有明确行动。美国总统拜登周二（4月4日）与总统科学与技术顾问委员会开会时称，AI是否危险有待观察，并坦言AI可助解决一些非常困难的挑战，但处理对社会、国家安全和经济的潜在影响亦很重要。

拜登指出，社交媒体已阐明强大的科技在没适当保护措施下可造成的伤害，尤其是对年轻人的心理健康、自我形象等影响。他重申呼吁国会通过私隐法案，限制科技公司搜集个人资料、禁止向儿童卖广告，以及发展产品时优先考虑健康及安全问题。

科技创新总是会引发不同的担忧，尤其是当一些颠覆性的新技术出现时更是如此。现时AI聊天儿机器人在全球风靡已经表明人们的主流态度，存在的各种担忧亦表明亟需全球各国加强预估甚至通过立法筑牢风险堤坝。相信这项新技术也会像以往一样，对整个人类社会发展大有助益。