Open AI “宫斗”结束，自主意识 AI 初现，我们会被取代吗？

在上周 OpenAI 的“宫斗”闹剧中，最终还是以奥特曼王冠加身的回归作为终点结束了。

然而，一个更重要，对你我、甚至是人类未来影响深远的“Q*”项目浮出水面。

传言中，在奥特曼被解雇的前一天，有研究人员向董事会发了一封信，警告一项强大的人工智能发现可能威胁到人类，也就是网上议论纷纷的“Q*”项目，它很可能是导致董事会最终决定罢免奥特曼的最终原因。

当然，这里要插一嘴，虽然 OpenAI 在事后否认并未收到任何相关信件，表示此事完全是空穴来风，但丝毫不影响吃瓜群众们对背后这个神秘又强大的 Q*项目评头论足，毕竟对未知和强大的向往是深埋在人类基因的天性。

什么是 Q star

先简单解释一下什么是 Q star ，根据现有资料来看，它是一种具备人类、甚至超越人类级别的数学和逻辑能力，能完成一些需要中高端脑力、甚至是开放式任务的 AI。

GPT-4 虽然强大，但仍然有概率出现“幻觉”而不自知。强化版本的 Q* 则没有这种幻觉，而且很可能解决了数据集有限的问题，也就是不需要依靠高质量的数据集来喂养，依靠自身的推理能力自己产生高质量语料，实现像衔尾蛇一样的自扩充行为。

这种现象并非没有先例，在之前的阿尔法狗战胜人类冠军棋手柯洁后没多久，最新的阿尔法零仅依靠“自我对弈”的形式，从零开始用 40 天的学习就击败了大师版阿尔法狗，之前的阿尔法狗学习的所有资料均来自人类棋谱，而现在的阿尔法零在学习过程中没有借助人类的任何棋谱，其意义堪比周伯通左右手互博学会了降龙十八掌。

最新的 Q*不用再检索问题，或是局限在人类已知的问题上，而是可以像人类一样通过逻辑和推理开拓出新领域，得到新知识。这也造成了更多人的恐慌，不要说你我这样的寻常打工人了，如果 AI 能保持在正确的方向一直迭代，哪怕是世界上探索最复杂问题的科学家都有可能被这样的技术取代。

AI 有可能产生意识吗？

如果 AI 注定是一场远比人类强大的变革，身处漩涡中心的人类，如何还能置身事外？

Q*项目曝光后，对 AI 产生意识的恐惧和取代人类的恐慌开始蔓延，关于 AI 反噬人类的书籍影视作品早已是家喻户晓，大众对 AI 是否会产生意识这个问题是极度敏感的。

关于 AI 是否会产生意识，以及大模型的本质究竟是什么，在很久以前就有过一次探讨。

OpenAI 首席科学家 Ilya Sutskever，也是 Open AI 这场“宫斗”的关键人物之一，曾在一次报告中给出了答案：AI 大模型的本质是压缩。

无独有偶，很多人认为，人类这种智慧的本质也是压缩。一个人聪明或有智慧，就是指一种把海量信息压缩的能力，我们能压缩的越小越准确，就意味着人越聪明。

而人之所以有智慧，不过是因为人满足了构成这些压缩因素的硬性条件而已。AI 自然涌现出的智慧，现在没有人理解它究竟是怎么运作的，为何在巨量数据的喂养之后，就能像现在的 GPT 一样，初步理解人类的语言和知识，甚至进行各种概括、总结、推论和类比，这种独属于人才拥有的高级能力。

也就是说，当数据的压缩量达到一定程度后，类似“灵智”这样的东西真的有可能出现在一个机器身上，奥特曼在一次采访中甚至直言不讳，他说自己不知道生产出来的究竟是个工具还是个物种。

我们能做什么？

尽管现在的 AI 还不具备威胁人的能力，但这次 Open​AI 的人事风波，无疑给这次政变带来了一层恐惧的底色。

目前 AI 还是我们的生产力工具，可在这之后呢，我们可能并没有这样的能力去对抗强大到无可复加的 AI。

​Ilya Sutskever 在多次访谈中直言，AI 安全是一个不得不直面的问题，随着奥特曼的高调回归，OpenAI 董事会成员的全体换血，可以预见，这次奥特曼的回归将彻底占领主导权，以 sam 为首的“有效加速主义”与 llya 的“超级对齐主义”将陷入互相缠斗，螺旋上升的局面。

​而大部分人或许会更倾向于“有效加速主义”，不仅仅是因为其有资本的加注，更大的原因在于，人类的好奇心是不可回退的，当一项改变世界的技术奇点摆在眼前，不要说是 OpenAI ，就算是全人类也会不惜一切地想要看看技术的尽头会造出个什么东西出来。

​Ilya Sutskever 曾多次表示，要让 AI 产生一种爱的引力，一种毫无理由、毫无保留的、如佛般慈悲的爱，让 AI 理解与人类的关系，才能真正让 AI 造福于人类。

正如 OpenAI 在建立之初许下的诺言，让 AI 可以在确保安全无误的情况下惠及全人类。

目前，在这场 AI 浪潮中的我们能做什么，目前似乎没有一个切实有效的答案。

身为一个程序员，可能是这个世界上最容易理解 AI 的职业，我想我们这些人能做的，除了好好利用工具之外，在能看得到的未来，学会理解不同的编程方式，​像是不同的编程语言 Javascipt ，可视化编程（如 iVX），Lisp 等让自己成为某个领域的大师，也没有更好的选择了。

对于任何职业的普通人，唯一不变的就是变化本身，​提升自己，现在变成了一件更紧迫的事情而已。