十年磨一剑，超级人工智能如果出现，人类将如何应对挑战？

一、前言

创造出 ChatGPT 的 OpenAI 公司 CEO（Sam）称“十年内将出现超级人工智能”，你别不信，这极有可能。

具体来说，我们在人工智能能力方面看到了增长速度。我们现在需要做什么，好为将它们引入世界做好负责任的准备。

科学史教会我们，技术进步遵循指数曲线。我们已经能从历史中看到这一点，从农业、工业到计算革命。新技术从根本上改变世界的速度比我们想象得快。人工智能令人震撼的不仅是它的影响力，还有它的进步速度。它拓展了人类想象力的边界，并且以快速的步伐进行着。

二、AGI 安全的重要性

AGI 即通用人工智能，是指一种能够像人类一样思考、学习和执行多种任务的人工智能系统。

AGI 的出现可能会引发一系列挑战和风险。首先，如果 AGI 没有得到充分的控制和约束，它可能会导致意想不到的后果。由于其超过人类智能的能力，AGI 可能会超出人类的理解和控制范围，采取无意或恶意的行动，造成严重的损害。

其次，AGI 可能会引发经济、社会和政治方面的深刻变革。它有可能改变现有的劳动力需求和就业结构，导致大规模失业和不平等加剧。同时，AGI 的广泛应用还可能导致隐私和安全方面的风险，例如数据滥用和系统漏洞的利用。

这都是 AGI 壮大的根本性痛点。

三、一些监管建议

不管怎么说，对 AI 的监管也是势在必行的：

建立标准和国际合作

鲁莽开发和部署造成的事故成本将影响我们所有人。

• 在所有国家为 AGI 的使用制定平等统一的保护措施。

• 通过国际合作来建立对日益强大的人工智能系统安全开发的全球信任。

• 道德经提醒我们，千里之行始于足下。我们认为在这里采取最有建设性的第一步是与国际科技界合作。

• 应该促进增加透明度和知识共享的机制。发现新出现安全问题的研究人员应该为了更大的利益分享他们的见解。我们需要认真考虑如何在尊重和保护知识产权权利的同时，鼓励这种规范。

四、人类为主，工具为辅

在技术研究领域，更应该关注可扩展的监督和可解释性。这包括使用人工智能系统协助人类监督其他人工智能系统，以及深入理解模型内部运作和提高解释能力。研究人员致力于开发能够模拟人类智能和学习能力的算法和系统，以应对各种复杂的任务和问题，如图像识别、自然语言处理、智能机器人等。

随着数字化时代的到来，海量的数据被不断产生和积累。数据科学和大数据分析的研究方向旨在开发有效的技术和工具，以从大规模数据集中提取有价值的信息和洞察，并应用于决策制定、业务优化、预测和创新等领域。

人人皆为“开发者”的低代码开发模式就是如此，通过图形化用户界面来配置和创建应用软件，而不是用传统模式那样主要依靠手写代码。

体验网址：https://www.jnpfsoft.com/?infoq，不论你是选型/学习/观摩都可以作为参考！

JNPF 快速开发平台依托的是低代码开发技术原理，因此区别于传统开发交付周期长、二次开发难、技术门槛高的痛点，在 JNPF 后台提供了丰富的解决方案和功能模块，大部分的应用搭建都是通过拖拽控件实现，简单易上手，在 JNPF 搭建使用 OA 系统，工作响应速度更快。可一站式搭建生产管理系统、项目管理系统、进销存管理系统、OA 办公系统、人事财务等等。

五、小结

人工智能安全需要多层协同推进与全球共治。技术发展并不会自然而然地符合伦理要求，也不会自动满足政策需求。只有在全社会的理解与支持下，人工智能才有望成为造福人类的工具。人工智能的可解释性与可控性需要不断探索，这需要全球智慧与资源的汇聚。

《三体》中说过：“毁灭人类的，不是无知和弱小，而是傲慢。”

面对 AI，人类需要放下自诩为智慧生物的傲慢，才有可能制定出客观可行的发展方案。