当 AI 成为“逆子”；强化学习之父联手传奇程序员丨 RTE 开发者日报 Vol.62

开发者朋友们大家好：

这里是　「RTE 开发者日报」　，每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE （Real Time Engagement） 领域内「有话题的　新闻　」、「有态度的　观点　」、「有意思的　数据　」、「有思考的　文章　」、「有看点的　会议　」，但内容仅代表编辑的个人观点，欢迎大家留言、跟帖、讨论。

本期编辑：@Asui，@CY

01 有话题的新闻

1、强化学习之父萨顿联手传奇程序员卡马克入局 AGI 创业，放话不依赖大模型

据报道，传奇程序员卡马克和强化学习之父萨顿联手创办了 AI 创业公司 Keen Technologies，他们的目标是在 2030 年向公众展示通用人工智能的可行性。与主流方法不同，他们不依赖大模型，而是追求实时的在线学习。他们相信，最终的 AGI 源代码可以由一个人编写，只需几万行。两人在萨顿任教的阿尔伯塔大学机器智能研究所（Amii）特别活动上宣布了这一消息。萨顿会加入卡马克的 AI 创业公司 Keen Technologies，同时保持在阿尔伯塔的教职。两人在活动中都承认，与拥有成百上千员工的大公司相比，Keen Technologies 的团队规模很小。目前还在刚起步阶段，公司整个技术团队都到了现场——只有站着的这 4 个人。（@量子位）

2、英特尔暗示微软明年将推出 Win12 系统，刺激 PC 换代需求

10 月 8 日，据英特尔透露，2024 年将有「Windows 更新」刺激 PC 换代需求，希望能提升其收入。

在上个月的花旗分析师会议上，英特尔首席财务官 David Zinsner 谈到了明年的 Windows 更新，暗示消费者可能会因为 Windows 的新版本而升级他们的电脑，而他所说的「Windows 更新」很可能就是 Windows 12。值得一提的是，几个月前英特尔内部文件中有关 Windows 12 的内容被泄露。据报道，英特尔正在为下一代 Windows（可能被称为 Windows 12）准备其 Meteor Lake 桌面平台。

英特尔目前只公开了 Meteor Lake 移动芯片，将于 12 月发布，并内置了专用的 AI 协处理器。Meteor Lake 是英特尔首款每个组件都具有不同小芯片的 CPU，也是第一款采用 Intel 4 工艺节点的 CPU。鉴于微软正在推动 Windows 的内置 AI 功能，AI 协处理器的加入会很重要。

微软尚未宣布任何关于 Windows 12 的计划，但有迹象表明该公司正在寻求通过未来版本的 Windows 来集成 AI 驱动的功能。（@IT 之家）

3、科技部等 10 部门印发《科技伦理审查办法（试行）》

据科技部官网 10 月 8 日公布，科技部等 10 部门日前印发《科技伦理审查办法（试行）》。其中提到，高等学校、科研机构、医疗卫生机构、企业等是本单位科技伦理审查管理的责任主体。从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。其他有科技伦理审查需求的单位可根据实际情况设立科技伦理（审查）委员会。

《办法》还提到需要开展伦理审查复核的科技活动清单，其中包括对人类生命健康、价值理念、生态环境等具有重大影响的新物种合成研究，改变人类生殖细胞、受精卵和着床前胚胎细胞核遗传物质或遗传规律的基础研究，对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发，具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发等。（@界面新闻）

4、Nature 重磅调查：1600 余名科学家，仅 4%认为 AI 是“必需品”

日前，全球 1600 多名科研人员接受《自然》期刊的调查显示，AI 在科研中的应用呈上升趋势，其优势在于提供更快的数据处理方式。超过 1/4 的人认为 AI 工具将在未来十年内变得必不可少，而认为 AI 工具现在是“必需品”的人只占 4%。（@学术头条）

5、开放模型权重被指将导致 AI 失控，Meta 遭举牌抗议

近日，在 Meta 的旧金山办公室外，一群手举标语的抗议者聚集在一起，抗议 Meta 公开发布 AI 模型的策略，并声称这些发布的模型造成了潜在不安全技术的“不可逆转的扩散”。甚至有抗议者将 Meta 发布的大模型比作“大规模杀伤性武器”。（@机器之心）

02 有思考的文章

1、《当 AI 成为“逆子”：人类该抽丫俩逼兜，还是给它一个拥抱？》（@浅黑科技）

科学家把 AI 称为“人类之子”。在作者看来，这个比喻意味深长，因为它背后有一串追问：

既然 AI 还是个“未成年人”，那该不该让它工作养家？孩子长大成人显然需要管教，那么管教 AI 应该用啥方法？当 AI 真的成年后，我们还应该像约束孩子一样约束它吗？每一代人都有追求自己幸福的权利，AI 作为人类的另一种后代，是否也有权追求自己的幸福？如此，怎样避免“人类之子的幸福”和“人类老子的幸福”发生冲突？既然我们不能保证 AI 这个人类之子生活幸福，也不肯定它的存在能让我们更幸福，那我们为什么不能做“丁克”，偏要抚养一个 AI 做孩子呢？

这些问题，在几年前看来根本是杞人忧天的笑话；但在 AI 大模型出世之后，突然成了不得不面对的紧迫问题。。。不久前本文的作者和技术大神韦韬聊天，他居然把这些问题巧妙拼插，编织成了一张细密的思考之网，让其大受震撼。本文中，将把他们聊天的内容用七个章节层层递进地展开给大家看。

2、《红杉美国｜生成式 AI 进入第二阶段了》（@深思圈）

“我们现在认为市场正在进入“第二幕”——这将是从客户开始的。第二幕将端到端地解决人类问题。这些应用与首批推出的应用在本质上有所不同。它们往往将基础模型作为更全面解决方案的一部分，而不是整个解决方案。它们引入了新的编辑界面，使工作流程更加粘性，输出效果更好。它们往往是多模态的。”

去年的今日，红杉美国官网发表了一篇题为《Generative AI: A Creative New World》的文章，作者认为当时的那篇文章代表着新一轮 Paradigm shift（范式转移）的开始，拉开了 AIGC 时代的序幕。

时间过得很快，转眼间一年时间就过去了。红杉美国的两位投资人作者又带来最新的一周年新文章——《Generative AI’s Act Two》，让我们一同来回顾一下过去一年里 AIGC 发生了哪些巨大变化，以及接下来的第二阶段，又会有哪些新的东西出现呢？

写在最后：

我们欢迎更多的小伙伴参与　「RTE 开发者日报」　内容的共创，感兴趣的朋友请通过开发者社区或公众号留言联系，记得报暗号「共创」。

对于任何反馈（包括但不限于内容上、形式上）我们不胜感激、并有小惊喜回馈，例如你希望从日报中看到哪些内容；自己推荐的信源、话题、活动等；或者列举几个你喜欢看、平时常看的内容渠道；内容排版或呈现形式上有哪些可以改进的地方等。

素材来源官方媒体/网络新闻