AI 日报|硅谷 “鲁迅” 怒怼马斯克,炮轰 AI 界;前 OpenAI 安全主管入职友商 Anthropic
文章推荐
AI日报|“蚂蚁技术日”首次对外开放 ,AI创新应用齐亮相;家教费拜拜,小度推“AI老师”学习机
AI日报|苹果将在iOS 18中引入ChatGPT,联想或成AI PC最大受益者
AI 内容相关视频
我们即将制作 AI 内容相关视频,因此想提前通过五个问题,调研各位小伙伴对内容有哪些期待~感谢您的宝贵意见,期待制作精彩有趣的 AI 内容视频呈现给大家
⭐️问卷调查地址:https://w.wjx.com/vm/OtQXUxV.aspx#
OpenAI 成立安全委员会,并着手训练新模型
新成立的安全委员会全部由内部成员组成,包括了四位董事:Sam Altman、Bret Taylor、Adam D'Angelo(Quora 首席执行官)、Nicole Seligman(前索尼总法律顾问),还有包括 Lilian Weng(安全系统负责人)在内的 5 位技术与政策专家。
![](https://static001.geekbang.org/infoq/56/5634458bba1f14d788c555a8cb1cca78.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
OpenAI 表示,这个委员会将为公司的项目和运营提供至关重要的安全决策咨询。
委员会首要任务是评估并进一步完善 OpenAI 的流程和保障措施,并将在 90 天内向董事会提出建议。公司会公开发布其采用的建议,并确保这些内容符合安全和保密标准。
https://openai.com/index/openai-board-forms-safety-and-security-committee/
机器学习之父炮轰 AI 界:狂怼马斯克、OpenAI
xAI60 亿美元的 B 轮融资一搞定,马斯克就发推炫耀。没想到融资和招聘的消息都没爆,和 LeCun 的在线“嘴仗”引起了广大网友的围观。(Yann LeCun 是 Meta 的首席人工智能科学家、机器学习之父、图灵奖得主)
![](https://static001.geekbang.org/infoq/2d/2dc79478c593a98fa132cb48a1d81a6e.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
有网友质疑 LeCun 为什么不创办自己的 AI 公司,而是留在 Meta 还喷别人。LeCun 则回应称自己是科学家,不是商业或产品领域的人士。
马斯克随即回怼:“那过去五年你在‘科学领域’都做了啥?”LeCun 则晒出自己过去五年发表的 80 篇论文,回击马斯克的质疑。
![](https://static001.geekbang.org/infoq/03/03162a70abceb60702c1d536579d192b.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
LeCun 还在 X 平台上批评 OpenAI 的安全文化,认为当前对 AI 安全的担忧被过度夸大。他指出,AI 的智能还不如猫,应该专注于设计更聪明的系统,而不是过度担忧未来可能的风险。
![](https://static001.geekbang.org/infoq/bf/bf3286c0fec5534451910ceb6228a0aa.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
有网友评论 LeCun 的言论就像硅谷界的“鲁迅”,虽然言辞激烈,但立场坚定,也为这个充满争议的领域带来了一些清晰的见解和理性的声音。
https://www.chinaz.com/2024/0529/1619874.shtml
Anthropic 聘请前 OpenAI 安全主管,领导新团队
Jan Leike 在本月初离开 OpenAI 后,转投了 OpenAI 的竞争对手 Anthropic,负责领导一个全新的“superalignment”团队。
![](https://static001.geekbang.org/infoq/88/88356365f3bdb86a0e4fb9a85bfcf276.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
据悉,Leike 的团队将专注于 AI 安全的多个方面,具体包括“可扩展的监督”、“从弱到强的泛化”以及自动化对齐研究。
Anthropic 的首席执行官 Dario Amodei 此前是 OpenAI 的研究副总裁,因不同意 OpenAI 在过于激进的商业动作离开,并带领一些前 OpenAI 雇员创立了 Anthropic。
https://techcrunch.com/2024/05/28/anthropic-hires-former-openai-safety-lead-to-head-up-new-team/
OpenAI 罢免闹剧水落石出:奥特曼被驱逐原因公布
去年 11 月,OpenAI 的戏剧性一幕——CEO 奥特曼意外遭罢免,其背后动机一直是业界猜测的焦点。近期,前董事海伦·托纳在《The TED AI Show》播客中提供了迄今为止最为详尽的解释。
![](https://static001.geekbang.org/infoq/f7/f73792e8ed7460dddc6a607907cf96c0.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
托纳透露,2022 年 ChatGPT 的发布并未知会董事会,董事会也是通过社交媒体才得知这一重大发布,而非内部通告。
她强调,这一举动暴露了奥特曼与 OpenAI 创业基金之间的利益关联,该基金一度为奥特曼私人所有,直至今年 4 月调整管理架构。
此外,奥特曼在公司安全事务上的领导缺失也成为争议点。托纳指责他多次提供了关于安全流程的不实信息,导致董事会难以掌握实际情况,更无从谈起必要的改进措施。
长此以往,信任危机悄然累积,最终四位董事一致认为奥特曼的诚信不再可靠,在去年 11 月采取了解雇行动,理由直指其与董事会沟通时的不诚实态度。
https://x.com/hlntnr/status/1795535927718420703
智谱 AI 刘江:5-10 年内 AGI 会达到普通人水平,公司已启动“超级对齐”
在 2024 亚马逊云科技中国峰会上,智谱 AI 首席生态官刘江表示,他预计在 5~10 年内,人工通用智能(AGI)将达到普通人水平,“大模型可能是我们这一代人遇到的最大的技术突破”。
刘江还透露,智谱 AI 已经启动“超级对齐”计划,以确保在各个领域都超越人类智能水平的超级人工智能系统,按照人类的价值观和目标进行行动。
Meta 正接洽新闻机构,以获取高质量内容训练大模型
马克·扎克伯格此前声称,Meta 的 Llama AI 模型使用的数据量超过了常见的 Common Crawl 数据集。然而 Meta 内部对这些内容的质量持有顾虑,已经在考虑与出版商合作。
高质量的内容语料,如书籍或新闻文章,对于大模型的训练是非常重要的,因为社交媒体帖子和评论可能没有同等级别的训练价值。
最近,OpenAI 也签订了一项价值 2.5 亿美元、为期五年的协议,以获取《华尔街日报》和 MarketWatch 等知名媒体的内容。
Chromebook 将原生支持谷歌 Gemini,AI 助力写作和图片处理
谷歌宣布将在 Chromebook Plus 笔记本电脑中原生集成 Gemini,将支持谷歌的“帮我写作”,谷歌相册的魔法编辑器(Magic Editor),以及使用生成式 AI 创建自定义壁纸的功能。
这些设备包括华硕、惠普已经在售的机型,以及宏碁即将推出的新品,这 6 款全新的 Chromebook,包括了 4 款 Chromebook Plus 与 2 款经济型,覆盖 299 至 699 美元区间。
![](https://static001.geekbang.org/infoq/1d/1dd087b9aabb9c375ef206d672df06bf.webp?x-oss-process=image%2Fresize%2Cp_80%2Fformat%2Cpng)
据悉,购买新 Chromebook Plus 的用户还将获赠 12 个月的 Google One AI Premium 套餐,包含 Gemini 高级功能、2TB 存储及在文档、表格、幻灯片和 Gmail 中的 Gemini 集成。
https://techcrunch.com/2024/05/28/google-adds-ai-powered-features-to-chromebook/?
Transcend 完成 4000 万美元 B 轮融资,旨在解决企业隐私问题
数据隐私和人工智能治理平台 Transcend 宣布,完成由 StepStone Group 领投的 4000 万美元 B 轮融资,公司迄今筹资总额接近 9000 万美元。
自上次融资以来,Transcend 的业务已经扩展成为一个综合了数据隐私和人工智能治理的平台,包含 12 种产品,帮助企业理解和管理用户数据、自动化数据隐私任务、评估风险并监督 AI 系统。
Transcend 已经为全球超过 12 亿人提供了可操作的数据权利,LG Electronics、Plaid、Brex、Hims & Hers 和 Rippling 等企业都是其用户。
评论