17. 关于超人工智能来临，霍金的忧虑

写在前面：

大家好，我是强哥，一个热爱分享的技术狂。目前已有 12 年大数据与 AI 相关项目经验， 10 年推荐系统研究及实践经验。平时喜欢读书、暴走和写作。

业余时间专注于输出大数据、AI 等相关文章，目前已经输出了 40 万字的推荐系统系列精品文章，今年 6 月底会出版「构建企业级推荐系统：算法、工程实现与案例分析」一书。如果这些文章能够帮助你快速入门，实现职场升职加薪，我将不胜欢喜。

想要获得更多免费学习资料或内推信息，一定要看到文章最后喔。

内推信息

如果你正在看相关的招聘信息，请加我微信：liuq4360，我这里有很多内推资源等着你，欢迎投递简历。

免费学习资料

如果你想获得更多免费的学习资料，请关注同名公众号【数据与智能】，输入“资料”即可！

学习交流群

如果你想找到组织，和大家一起学习成长，交流经验，也可以加入我们的学习成长群。群里有老司机带你飞，另有小哥哥、小姐姐等你来勾搭！加小姐姐微信：epsila，她会带你入群。

霍金的忧虑

其实担忧超人工智能，对人类未来持悲观态度人不少，其中理论物理学家《时间简史》的作者霍金就是最具影响力的一个。很遗憾的是，在 2018 年的时候霍金先生去世了。但在谷歌 AlphaGo 在公众中掀起 AI 热潮之前，霍金就通过媒体告诉大家完全人工智能的研发，可能意味着人类的末日。

作为地球上少数有能力用数学公式精确描述和推导宇宙运行奥秘的人之一。霍金的宇宙观和科技史观无疑是值得重视的，事实上，霍金并不否认，当代蓬勃发展的人工智能技术已经在许多行业发挥着至关重要的作用。但他真正所忧虑的是机器，是人在进化速度上的不对等性。他说，人工智能可以在自身基础上进化，可以一直保持加速度趋势，不断重新设计自己，而人类，我们的生物进化速度相当有限，无法与之竞争，终将将被淘汰。

此外，霍金同时还担心人工智能普及所导致的人类失业问题。霍金说，工厂自动化已经让众多传统制造业工人失业。人工智能的兴起，很有可能会让失业潮波及中产阶级，最后只给人类留下护理、创造和监督的工作。

但是基本上，霍金的担忧还是建立在人工智能技术将以加速度的趋势不断增速发展的基础上，如果我们假设这一基础的正确性，那么，霍金的逻辑推论与我们之前谈到的奇点理论并没有本质的区别。那反之，如果人工智能在未来的发展，不一定永远遵循加速度趋势，那么霍金有关人类终将淘汰的结论就未必成立。

特斯拉与 space X 公司创始人 Elon.Musk 也与霍金有大致相似的担忧。但事实上，从行动上看，霍金和 Musk 并不是简单的悲观主义者。他们在警告世人提防人工智能威胁的同时也在积极行动，试图为人类找出应对未来的潜在危险的对策。马斯克说，也许在国家层面或者国际层面，必须有一种这方面规范的监管机制。并且除了呼吁建立监管机制之外，Musk 还与 Sam.Altman 一起创立了非营利性质的科研公司 open AI。

在谈到创立 open I 的初衷，Musk 说，为了保证一个美好的未来，我们最需要做什么，我们可以冷眼旁观，我们也可以鼓励立法监管，或者，我们还可以将那些特别关心如何用安全的，对人类有益的方式来开发 AI 的人，合理地组织起来研发 AI。

如果说这个世界上还有几家纯粹理想主义的公司的话，open AI 一定算一个。open AI 一面聚集了一批 AI 领域的顶尖高手研发最前沿的 AI 技术，甚至探索实现强人工智能的可能性。一方面反复强调自己的使命是研发安全的人工智能，通过实践来探寻将人工智能技术的潜在威胁降至最低的方法。

事实上，目前 open AI 所开展的工作和其他人工智能科研机构所做的并没有本质的不同。据说 open AI 最重要的目标就是发表有影响力的文章，或许 Musk 和 Altman 的意思是说，既然奇点来临无法避免，那不如自己投入，至少当危险来临时我们对威胁的本身的理解会更加深刻。

2017 年年初，霍金和 Musk 均表示，为了防止人工智能威胁人类，他们支持加州阿西洛马会议提供的 23 条基本原则，这 23 条基本原则，涵盖了三个范畴，科研问题、伦理和价值观、长期问题。阿西洛马 23 条基本原则，从方法，特征，伦理道德的多方面限定未来的人工智能可以做什么，不可以做什么。

所以应当说在担忧未来人工智能威胁的人中，霍金和马斯克还是一直抱有一种非常积极的态度的。他们一方面基于自己的逻辑判断相信人类未来面临机器威胁的可能性非常大，另一方面又利用自己的影响力，积极采取行动，尽可能将人工智能置于安全，友好的界限内。

因此从这个角度讲，霍金和 musk 比那些盲目的悲观主义者，或者因未来的不确定性而丧失勇气的人强很多很多倍。