未知的人工智能可能会毁灭人类？

科学家警告称，人工智能可能给人类带来“灾难性风险”。

已经对气候变化、核破坏等问题感到担忧的风险分析人士已经将人工智能列入了名单。

ChatGPT的使用也会进一步削弱人类批判性思考的能力。

一位澳大利亚国会议员声称，人工智能的兴起正好与教育的衰落相吻合。这是令人担忧的原因，风险分析师将人工智能（AGI）列为全球关注的重点。

据报道，朱利安·希尔在澳大利亚议会的一次演讲中表示：“如果你开始思考，很快就会意识到未经驯化的AGI带来的破坏性和灾难性风险是真实的、可信的，而且很容易想象。”。“AGI有可能以我们无法想象的方式彻底改变我们的世界，但如果AGI超越人类智能，如果其目标和动机与我们自己的不一致，可能会对人类造成重大伤害。”

随着关于人工智能能力的警告越来越多，人类对AGI缺乏控制是主要担忧，特别是如果“恶意行为者可能利用AGI进行大规模杀伤”，希尔说。

希尔表示，军方已经在寻找AGI作为作战工具。他说：“一个拥有AGI能力的对手可以征服澳大利亚，或者在不受全球共识规范约束的情况下发动社会层面的破坏。”。

为了强调他关于人工智能日益强大的观点，希尔使用ChatGPT撰写了部分演讲，讲述了随着越来越多的学生转向算法进行课堂作业，人工智能如何限制了教育中的批判性思维技能。

随着人工智能的持续快速发展，意外成为了方程式的一部分。希尔说，控制技术可能会保护人类（和人类智力）并导致变革，但技术的不受限制的扩散可能会带来各种意想不到的后果。

“我想传达的关键信息，”他谈到控制AGI时说，“我们必须从现在开始，有意识控制人工智能的发展。”