写点什么

为什么要理解 OpenAI 和 GPT-4?LexFridman 谈对话 Sam Altman 开场白

作者:B Impact
  • 2023-04-22
    上海
  • 本文字数:639 字

    阅读完需:约 2 分钟

为什么要理解OpenAI和GPT-4?LexFridman谈对话Sam Altman开场白

最近 Lex 对话了 OpenAI 创始人 Sam Altman ,此前对长达 3 小时的对话,做了核心观点提炼 :《Lex Fridman、Sam Altman 艺术性对话摘要,从高维度看 ChatGPT 是什么?》

这里,也把 Lex 对话 Sam Altman 开头的一段话,完整分享给大家。

这段话让我感受到 Lex 的博学、视角、洞察、同理心以及决心。非常敬佩。

我相信这是一个关键时刻:我们站在根本性社会转型的悬崖边上,包括我在内的许多人相信在我们有生之年,与我们大规模构建和部署的人工智能相比,人类的集体智慧将落后许多数量级。 

这既令人兴奋又令人恐惧:令人兴奋,因为我们知道和还不知道的无数人工智能应用将赋予人类创造、繁荣以及摆脱当今世界普遍存在的贫困和苦难的能力,并实现古老的 All Too Human 书中对成功的追寻。令人恐惧,是因为超级智能的通用人工智能(AGI)拥有:

1.有意或无意毁灭人类文明的力量;2.以乔治·奥威尔 1984 里的极权主义方式窒息人类精神的力量或者像赫胥黎的 Brave New World 中提到的由享乐激发全民歇斯底里的力量;在赫胥黎看来,人们开始热爱他们的压迫,崇拜那些破坏他们思考能力的技术。

这就是为什么现在与乐观的和愤世嫉俗的领导人、工程师和哲学家进行这些对话很重要。这些不仅仅是关于人工智能的技术对话,这些对话是:

关于权力;

关于部署制衡这种权力的公司、机构和政治系统;

关于建设分布式经济系统以激励这种安全,确保人工智能的开发和部署与人类的价值和目标保持一致;

关于工程师和部署 AGI 的领导者的的心理状态;

以及关于人性的历史,人类在集体规模上所具备的行为善恶倾向。

发布于: 刚刚阅读数: 4
用户头像

B Impact

关注

还未添加个人签名 2022-06-30 加入

还未添加个人简介

评论

发布
暂无评论
为什么要理解OpenAI和GPT-4?LexFridman谈对话Sam Altman开场白_B Impact_InfoQ写作社区