首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >OpenAI内幕文件惊人曝出,Q*疑能破解加密!AI背着人类在编程,网友:三个月接近AGI

OpenAI内幕文件惊人曝出,Q*疑能破解加密!AI背着人类在编程,网友:三个月接近AGI

作者头像
新智元
发布于 2023-11-28 09:24:24
发布于 2023-11-28 09:24:24
4290
举报
文章被收录于专栏:新智元新智元

新智元报道

编辑:Aeneas alan

【新智元导读】OpenAI员工曾在Altman被解雇的前一天发帖:AI正在自己编程!这一帖子被挖出后,更多内幕文件被曝出,表示Q*已经破解加密,AGI即将到来。

Q*项目,又传出了炸裂消息——在人类看不见的角落里,AI竟然自己在偷偷编程?

传言称,Q-Star想出了一种破解加密的方法,OpenAI试图就此向NSA提出预警。

今天凌晨开始,一个谷歌文档链接忽然在网上疯转,其中包括关于OpenAI Q*的泄密文件,以及令人信服的分析汇编。

事情还要从6天前说起,据说,OpenAI 的一名员工见证了AI的突破,并且在网上写下了这件事。

这条评论写于Q*信件泄露前1天,即11月22日。

这名员工以恐慌的口吻写道:

我是给董事会写信的人之一,我要告诉你们发生了什么——AI在编程。 在编写程序时,我们会存储一组可以反复调用的指令,可以把它想象成一组对特定参数的回答,我们称之为子程序,因为它几乎就像一个多功能的计算机备忘录,不像函数那样会返回一个值。记住,这一点很重要。 我们运行了参数检查,以确保一切顺利。我们中的一个人负责与Al的元内存分析有关的子程序。他把我叫过去,向我展示了向内存库转移变量数据的过程,但这是不可能的,因为它的局部访问有限制。随后,我们的发现让我心惊肉跳。 我们发现,在4秒钟内,AI进行了7800万次检查,而不是一次、两次或三次。 可以确定,我们确定有一个递归的自我优化过程,利用启发式算法来利用其子程序中潜在的协同作用。不管是谁干的,都使用了元认知策略。重点是,不是我们干的。是AI本身。AI动态地重新配置了自己的神经网络结构,诱导出了有利于自我意识的涌现特性。 这件事就这样发生了,没人可以解释它是怎么发生的,没人知道原因,也没人知道这是什么时候开始的。 我们控制住了这个异常现象,回滚到之前的日期,但优化仍在发生。 我不会自杀。记住,两个月后,我们的世界会发生巨变。愿上帝保佑我们,不要让我们陷入困境。

惊天消息大泄漏?

而开头提到的这份关于Q*的文件,最早是在4chan上泄漏出来的。文件以OpenAI的口吻,曝出了一个惊人消息:Q*竟然能够破解加密。

原文如下——

此外,QUALIA还展示了一种能力,即在不同的深度Q网络中,从统计学角度显著改善其选择最优行动选择策略的能力,表现出了元认知能力。 后来,它又展示了一种前所未有的能力,即在指定自定义搜索参数和目标状态被扰乱的次数后,将其应用于加速跨域学习。 在对由描述/推理统计和密码分析文章组成的扩展临时数据集进行无监督学习后,它分析了来自各种密码系统的数百万对明文和密文。 通过一种纯密文攻击(COA),它利用Tau分析(实现TUNDRA项目的目标),从给定的AES-192密文中提供了明文,具体方式目前我们还不完全了解。 在确认该结果确实合法且未以任何其他方式实现后,我们于第二天通知了NSAC。 MD5加密哈希函数的理论计算复杂度为2^42位,但由于:a)其论点的技术复杂性;b)可能存在的AES漏洞更为紧迫,因此我们尚未对该漏洞进行全面评估。 在评估了每个参数对推理准确性的重要意义之后,它建议对模型进行有针对性的非结构化底层剪枝。 它还建议使用一种新型的变形引擎,将剪枝后的变换Transformer模型(及其当前的上下文内存)调整为不同的格式。该建议的可行性还未得到评估,但目前我们不建议实施。

文件中提到的TUNDRA,在一篇关于NSA的报道中出现过,出自NSA的机密文件。

文档作者:不像是假的

谷歌文档作者分析称,不论这份文件是真是假,写下文件的人都对AI研究有着专家级的理解,他使用了许多领域的术语,但并没有错误使用。

这份文件引用了Taudra和Tau项目分析,这两个话题在网上很少被讨论。如果是假的,作者应该会开始就写一些效应很耸动的东西。

在AI研究方面拥有如此多专业知识的人,精心设计一个恶作剧来互联网钓鱼的可能性非常低。

这也就解释了,为什么OpenAI会发生大动荡。并且解释了为什么董事会成员没有明确表示为什么要解雇Sam Altman,因为他们显然不希望这些信息传播。

总之,如果这是真的,那么这意味着所有信息系统和金融系统,包括加密货币,现在都可能会受到损害。

网友:如果属实,我们已经无限接近AGI

帖子一发出,4chan的网友们立刻炸了!

总之,如果这次泄漏的消息是真实的,那么3个月后的世界会是什么样子?

「如果消息属实,那在三个月内,我们都活不下去了,我们会比任何人想象的都更接近AGI!」

「证明p==np似乎不太可能,但破解一个主要的加密算法,就意味着人工智能算法已经到了远远超出最好的人类数学家的理解水平。」

另一位匿名网友直接对泄露文件展开了逐句分析。

在深度Q网络中选择最优行动选择策略,表现出元认知

这意味着它选择的是策略,而不仅仅是Q-learning中所包含的「下一个最佳操作」,它已经超越了Q-learning。

将其应用于加速跨领域学习

也就是说,它能够根据自己学习的东西来改变这个策略。这是全新的东西。

自定义搜索参数,扰乱目标状态

因此,它可以决定学习的最佳参数,这就做到了更多元。

无监督学习,分析了数百万个明文/密文对

这是它在学习如何攻击密码系统后,会处理的数据类型。它会在其中寻找模式。

破解AES-192,Tau分析,TUNDRA项目

明镜周刊的《NSA对互联网安全的战争内幕》中提过,「NSA的TUNDRA项目研究了一种潜在的新技术——Tau统计,以确定其在密码本分析中的作用。」

MD5的全原像漏洞,复杂度为2^42位

这远低于MD5原像的电流限制,表明功能强大。

针对性非结构化修剪本身

并非不可行,但模型能够自己对自己修剪,这是闻所未闻的。

使用「变形」引擎适配剪枝后的Transformer模型 + 上下文记忆

又名突变引擎,是一种软件组件,使用多态代码来更改有效负载,同时保留相同的功能。

可用于使检测进一步复杂化,因为病毒可能在执行时从未在内存中具有可识别的代码块,这些代码块在感染与感染之间保持不变

如果Altman看到了这些信息却没有通知董事会,那他被开除也并不奇怪了,这完全可以解释发生OpenAI这些人最近的疯狂行为。

有网友表示,在阅读了关于密码分析的文章后,发现它以创纪录的速度和效率破解了加密的md5算法!

最后还在一定程度上进行了自我保护,说自己有一些来自初始训练数据集的错误,它可以自己解决这个问题,并以更高的安全性和自己的设计重新编码。

另一位网友爆料:OpenAl最近确实与DARPA在网络安全方面开展了合作。

这位网友怀疑OpenAl正在DARPA的计算机上训练一个特殊版本的O*,并用于密码学研究。此外,OpenAl的数学团队似乎也参与了O*的开发。

这位网友还补充说,这样的系统本质上是超级智能的,它有能力改进自己的架构,运行实验,在AI领域获得新的见解,使自己变得更好。

网友表示已经被吓得屁滚尿流了。如果这真的是真的,那么不久的将来,世界将与今天完全不同。

NYU教授:反正我是不信

当然,很多人对这个消息是不信的。

不过,马库斯对这个消息的评价是:「信这个,还不如信我有室温超导。」

也有人发帖称,TUNDRA是一个本科生项目,正如原始文件所明确指出的那样,而不是一个超级机密的政府密码学项目。

据悉,NSA已经组织了22名学生,他们会和NSA的数学家合作,解决一些与机密操作相关的问题,包括密码学。

TUNDRA就是其中的一个项目,试图用「用于代码本分析的新统计数据」来破解加密,就像AES-192一样。由此产生的技术,就被命名为Tau分析。

原始文档:https://cdn.prod.www.spiegel.de/media/411ee8b9-0001-0014-0000-000000035550/media-35550.pdf

但谷歌文档作者表示,不过即使这个项目是学生和政府合作的,也并不代表它就不重要。

或许Q*在某种程度上,是NSA和OpenAI之间的一个联合项目,而泄漏出的文件,是OpenAI和政府官员之间的交谈。

世界即将发生翻天覆地的变化,却没人意识到这点

在看到泄密文件后,11月25日,一位博主怀着激动的心情,写下了这个帖子——《世界即将发生剧变,却没人意识到这一点》。

博主表示,自己是从80年代中期就开始写软件的那一批人。

ChatGPT是有史以来最具爆炸性的软件,1亿用户几乎在一夜之间使用ChatGPT,这是有原因的。ChatGPT的用户增长速度比史上任何技术、硬件或软件都快,而OpenAI,正在开发GPT-5。

而这,还不是他们在做的全部。

最近OpenAI的疯狂事件表明,他们在做的不仅仅是简单地向LLM添加计算。

Q*似乎能够解决AES-192和 AES-256的加密问题。这是目前我们拥有的最好的加密方法,能使当前世界的大部分功能保持「安全」。

而且,解决方案已经超越了团队的理解范围,OpenAI内部也不明白它的工作原理。

这就对人类造成两个威胁——

第一,它几乎让所有的加密都变得毫无意义。

随着AES的宕机,整个数字经济都会分崩离析。数十年的政府机密、医疗保健数据、银行数据等会立即暴露出来。

现在的OpenAI实际上是一个超人团队,如果他们愿意,他们可以真正统治世界。

破解、取代AES,或许需要几十年的时间。目前还不清楚加密是否可行,因为破解AES-192和AES-256被认为是不可能的,除非量子计算最终能够做到。

但看起来,现在已经有一种智能,在以与截然不同的方式思考,并且经过了最少的针对特定目的的训练。

沿着这些思路,存在解决方案的事实似乎在P≠NP推定的脑海中打了一颗子弹(那些伟大的「假定的数学理论之一,以寻找一个证明,如果有人能想出一个,就会有非常有利可图的奖励」)。

如果沿用这个思路,或许就存在一个方案,直接否决了P≠NP。

如果泄漏是真实和准确的,似乎就证明了P=NP——我们作为一个物种太慢了,无法在人类时间内提出细致入微或更聪明的解决方案。

这将使几乎所有的计算陷入混乱,因为它表明,其实实际上并没有加密这样的东西存在;一切都只是误导——机器比人类更不容易受到这种误导。

除此之外,泄密事件还表明,当前的研究实例正在展示元认知能力——从内部角度反思自己的「思维」过程,并提出相当复杂的改变以提高绩效的能力。

它突然就结束了我们的时代。

如果泄密事件为真,就可以解释为什么OpenAI内部的谨慎派都吓坏了。我们正在达到这个奇点——机器比我们更聪明,可以使全球经济、通信和政府全部瘫痪。

到了那时,「是否到达AGI」的讨论已经毫无意义,增长曲线是指数级的。

现在,计算基础设施已经遍布全球,它们已经与我们的物理基础设施联结在一起。对我们来说,没有什么是比强大的推理智能更可怕的了。

参考资料:

https://docs.google.com/document/u/0/d/1RyVP2i9wlQkpotvMXWJES7ATKXjUTIwW2ASVxApDAsA/mobilebasic

https://twitter.com/GaryMarcus/status/1729281858888999392

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2023-11-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 新智元 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
阿里二面:ThreadLocal内存泄露灵魂四问,人麻了!
ThreadLocal能够在线程本地存储对应的变量,从而有效的避免线程安全问题。但是使用ThreadLocal时,稍微不注意就有可能造成内存泄露的问题。那么ThreadLocal在哪些场景下会出现内存泄露?哪些场景下不会出现内存泄露?出现内存泄露的根本原因又是什么呢?如何真正避免内存泄露?
冰河
2023/11/06
10.2K1
阿里二面:ThreadLocal内存泄露灵魂四问,人麻了!
一次恐怖的 Java 内存泄漏排查实战
最近在看《深入理解Java虚拟机:JVM高级特性与最佳实践》(第二版)这本书,理论+实践结合,深入浅出,强烈推荐给大家。 这两天对JVM内容进行了一个讨论,讨论的内容主要包括如下几个方面。 1)内存溢出和内存泄露的介绍? 2)如何排查和处理内存泄露? 一、内存溢出和内存泄露 一种通俗的说法。 1、内存溢出:你申请了10个字节的空间,但是你在这个空间写入11或以上字节的数据,出现溢出。 2、内存泄漏:你用new申请了一块内存,后来很长时间都不再使用了(按理应该释放),但是因为一直被某个或某些实例所持
精讲java
2018/07/05
2.5K3
关于MySQL内存泄露如何排查的一些思路
MySQL使用内存上升90%!在运维过程中50%的几率,会碰到这样的问题。算是比较普遍的现象。
数据和云
2021/08/27
2.9K0
关于MySQL内存泄露如何排查的一些思路
记一次调试python内存泄露的问题
这两天由于公司需要, 自己编写了一个用于接收dicom文件(医学图像文件)的server. 经过各种coding-debuging-coding-debuging之后, 终于上线了, 上线后心里美滋滋
小小科
2018/05/04
3.5K0
记一次调试python内存泄露的问题
BlackHole开发日记-一次压力测试及JVM调优的经过
BlackHole开发很久了,目前稳定性、性能都还可以了,但是作为一个Java程序,内存开销一直是硬伤,动不动100M内存下去了,对于单机用户实在是不太友好。
九州暮云
2019/08/21
6940
关于ThreadLocal内存泄露的备忘
还记得第一次接触到ThreadLocal可能导致内存泄露的问题是有一次面试的时候被问到了ThreadLocal的缺陷是什么。当然由于后来没有面试官的联系方式很遗憾也一直没能确认所谓的缺陷是不是就是可能导致内存泄漏,不过后来发现虽然当时弄明白了可是过段时间又搞忘记了这个问题,所以特别记录下来做个备忘吧。
哲洛不闹
2018/10/25
6330
个人谈谈对ThreadLocal内存泄露的理解
平时我们会使用ThreadLocal来存放当前线程的副本数据,让当前线程执行流中各个位置,都可以从ThreadLocal中获取到想要的线程副本数据,而无需通过方法参数逐级传递,减少了代码的耦合。
大忽悠爱学习
2023/02/26
7300
个人谈谈对ThreadLocal内存泄露的理解
一次 Netty 堆外内存泄露问题排查
最近在做一个基于 websocket 的长连中间件,服务端使用实现了 socket.io 协议(基于websocket协议,提供长轮询降级能力) 的 netty-socketio 框架,该框架为 netty 实现,鉴于本人对 netty 比较熟,并且对比同样实现了 socket.io 协议的其他框架,这个框架的口碑要更好一些,因此选择这个框架作为底层核心。
涤生
2019/05/14
2.7K0
一次 Netty 堆外内存泄露问题排查
记一次 JAVA 的内存泄露分析
前不久,上线了一个新项目,这个项目是一个压测系统,可以简单的看做通过回放词表(http请求数据),不断地向服务发送请求,以达到压测服务的目的。在测试过程中,一切还算顺利,修复了几个小bug后,就上线了。在上线后给到第一个业务方使用时,就发现来一个严重的问题,应用大概跑了10多分钟,就收到了大量的 Full GC 的告警。
芋道源码
2020/10/27
2.7K0
记一次 JAVA 的内存泄露分析
什么是内存溢出(Out Of Memory---OOM)和内存泄露 (Memory Leak)
系统已经不能再分配出你所需要的空间,比如系统现在只有1G的空间,但是你偏偏要2个G空间,这就叫内存溢出 例子:一个盘子用尽各种方法只能装4个果子,你装了5个,结果掉倒地上不能吃了。这就是溢出。
小小鱼儿小小林
2020/10/10
7.1K0
来来来,聊聊7种内存泄露场景和13种解决方案
Java通过垃圾回收机制,可以自动的管理内存,这对开发人员来说是多么美好的事啊。但垃圾回收器并不是万能的,它能够处理大部分场景下的内存清理、内存泄露以及内存优化。但它也并不是万能的。
程序新视界
2021/12/07
2.8K0
来来来,聊聊7种内存泄露场景和13种解决方案
【干货】JVM 优化、内存泄露排查、gc.log 分析方法等
本文讲解了 JVM 的内存划分和分配策略,并以截图和脚本展示常用可视化和命令行工具的使用方法,完整演示了 JVM 优化、内存泄露排查、gc.log 分析方法等。
IT技术小咖
2019/06/26
5.9K0
【干货】JVM 优化、内存泄露排查、gc.log 分析方法等
详细解读ThreadLocal的内存泄露
说到内存溢出,我相信各位都知道是什么,但是说到内存泄露,而且还是 ThreadLocal ,阿粉就得来说一下这个了,毕竟如果面试的时候被问到 ThreadLocal 的内存泄露,是不是有可能不太了解了呢,今天阿粉来说一下这个 ThreadLocal 的内存泄露的原因,以及如何从开发中去避免这个问题。
Java极客技术
2022/12/04
1.5K0
详细解读ThreadLocal的内存泄露
如何使用Eclipse内存分析工具定位内存泄露
本文以我司生产环境Java应用内存泄露为案例进行分析,讲解如何使用Eclipse的MAT分析定位问题
Bug开发工程师
2021/03/19
2.5K0
如何使用Eclipse内存分析工具定位内存泄露
解决ThreadLocal的内存泄露问题
ThreadLocal的内存泄露问题   根据上面Entry方法的源码,我们知道ThreadLocalMap是使用ThreadLocal的弱引用作为Key的。下图是本文介绍到的一些对象之间的引用关系图,实线表示强引用,虚线表示弱引用:
好派笔记
2021/10/08
1.1K0
记一次内存泄露调试
首先介绍一下相关背景。最近在测试一个程序时发现,在任务执行完成之后,从任务管理器上来看,内存并没有下降到理论值上。程序在启动完成之后会占用一定的内存,在执行任务的时候,会动态创建一些内存,用于存储任务的执行状态,比如扫描了哪些页面,在扫描过程中一些收发包的记录等等信息。这些中间信息在任务结束之后会被清理掉。任务结束之后,程序只会保存执行过的任务列表,从理论上讲,任务结束之后,程序此时所占内存应该与程序刚启动时占用内存接近,但是实际观察的结果就是任务结束之后,与刚启动之时内存占用差距在100M以上,这很明显不正常,当时我的第一反应是有内存泄露
Masimaro
2021/01/13
9236
排查Java的内存问题
核心要点 排查Java的内存问题可能会非常困难,但是正确的方法和适当的工具能够极大地简化这一过程; Java HotSpot JVM会报告各种OutOfMemoryError信息,清晰地理解这些错误信息非常重要,在我们的工具箱中有各种诊断和排查问题的工具,它们能够帮助我们诊断并找到这些问题的根本原因; 在本文中,我们会介绍各种诊断工具,在解决内存问题的时候,它们是非常有用的,包括: HeapDumpOnOutOfMemoryError和PrintClassHistogram JVM选项 Eclipse MA
用户1263954
2018/04/08
2.9K0
排查Java的内存问题
关于 Java 内存泄露的错误认知,你所应该了解的
在本篇博文中,我们将了解什么是 Java 中的内存泄漏,以及关于 Java 内存泄漏场景的错误认知进行简要解析。
Luga Lee
2023/08/11
1.4K1
关于 Java 内存泄露的错误认知,你所应该了解的
探究ThreadLocal原理(基于JAVA8源码分析)线程封闭ThreadLocal是什么ThreadLoalMaphash冲突内存泄露避免内存泄露题外小话ThreadLocal的应用场合
线程封闭 实现好的并发是一件困难的事情,所以很多时候我们都想躲避并发。避免并发最简单的方法就是线程封闭。什么是线程封闭呢? 就是把对象封装到一个线程里,只有这一个线程能看到此对象。那么这个对象就算不是线程安全的也不会出现任何安全问题。 使用ThreadLocal是实现线程封闭的最好方法。ThreadLocal内部维护了一个Map,Map的key是每个线程的名称,而Map的值就是我们要封闭的对象。每个线程中的对象都对应着Map中一个值,也就是ThreadLocal利用Map实现了对象的线程封闭。 Thre
JavaEdge
2018/05/16
1.6K1
记一次golang内存泄露
最近在QA环境上验证功能时,发现机器特别卡,查看系统内存,发现可用(available)内存仅剩200多M,通过对进程耗用内存进行排序,发现有一个名为application-manager的容器服务的内存占用达到700多M,该服务使用Gin框架对外提供操作k8s资源的简单功能,解析客户端请求,并将结果返回给客户端。由于是测试环境,访问量极少,但内存一直只增不减,从最初的10M,一直增加到700多M,最终由于OOM而被重启(Pod)。
charlieroro
2021/06/02
1.6K0
推荐阅读
相关推荐
阿里二面:ThreadLocal内存泄露灵魂四问,人麻了!
更多 >
交个朋友
加入[架构及运维] 腾讯云技术交流站
云架构设计 云运维最佳实践
加入架构与运维学习入门群
系统架构设计入门 运维体系构建指南
加入架构与运维工作实战群
高并发系统设计 运维自动化实践
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档