为什么要理解 OpenAI 和 GPT-4?LexFridman 谈对话 Sam Altman 开场白
最近 Lex 对话了 OpenAI 创始人 Sam Altman ,此前对长达 3 小时的对话,做了核心观点提炼 :《Lex Fridman、Sam Altman 艺术性对话摘要,从高维度看 ChatGPT 是什么?》
这里,也把 Lex 对话 Sam Altman 开头的一段话,完整分享给大家。
这段话让我感受到 Lex 的博学、视角、洞察、同理心以及决心。非常敬佩。
我相信这是一个关键时刻:我们站在根本性社会转型的悬崖边上,包括我在内的许多人相信在我们有生之年,与我们大规模构建和部署的人工智能相比,人类的集体智慧将落后许多数量级。
这既令人兴奋又令人恐惧:令人兴奋,因为我们知道和还不知道的无数人工智能应用将赋予人类创造、繁荣以及摆脱当今世界普遍存在的贫困和苦难的能力,并实现古老的 All Too Human 书中对成功的追寻。令人恐惧,是因为超级智能的通用人工智能(AGI)拥有:
1.有意或无意毁灭人类文明的力量;2.以乔治·奥威尔 1984 里的极权主义方式窒息人类精神的力量或者像赫胥黎的 Brave New World 中提到的由享乐激发全民歇斯底里的力量;在赫胥黎看来,人们开始热爱他们的压迫,崇拜那些破坏他们思考能力的技术。
这就是为什么现在与乐观的和愤世嫉俗的领导人、工程师和哲学家进行这些对话很重要。这些不仅仅是关于人工智能的技术对话,这些对话是:
关于权力;
关于部署制衡这种权力的公司、机构和政治系统;
关于建设分布式经济系统以激励这种安全,确保人工智能的开发和部署与人类的价值和目标保持一致;
关于工程师和部署 AGI 的领导者的的心理状态;
以及关于人性的历史,人类在集体规模上所具备的行为善恶倾向。
版权声明: 本文为 InfoQ 作者【B Impact】的原创文章。
原文链接:【http://xie.infoq.cn/article/431cfd8d4d0165784dc3271e0】。文章转载请联系作者。
评论