AI 日报｜硅谷 “鲁迅” 怒怼马斯克，炮轰 AI 界；前 OpenAI 安全主管入职友商 Anthropic
文章推荐
AI日报｜“蚂蚁技术日”首次对外开放 ，AI创新应用齐亮相；家教费拜拜，小度推“AI老师”学习机
AI日报｜苹果将在iOS 18中引入ChatGPT，联想或成AI PC最大受益者
AI 内容相关视频
我们即将制作 AI 内容相关视频，因此想提前通过五个问题，调研各位小伙伴对内容有哪些期待～感谢您的宝贵意见，期待制作精彩有趣的 AI 内容视频呈现给大家
⭐️问卷调查地址：https://w.wjx.com/vm/OtQXUxV.aspx#
OpenAI 成立安全委员会，并着手训练新模型
新成立的安全委员会全部由内部成员组成，包括了四位董事：Sam Altman、Bret Taylor、Adam D'Angelo（Quora 首席执行官）、Nicole Seligman（前索尼总法律顾问），还有包括 Lilian Weng（安全系统负责人）在内的 5 位技术与政策专家。
OpenAI 表示，这个委员会将为公司的项目和运营提供至关重要的安全决策咨询。
委员会首要任务是评估并进一步完善 OpenAI 的流程和保障措施，并将在 90 天内向董事会提出建议。公司会公开发布其采用的建议，并确保这些内容符合安全和保密标准。
https://openai.com/index/openai-board-forms-safety-and-security-committee/
机器学习之父炮轰 AI 界：狂怼马斯克、OpenAI
xAI60 亿美元的 B 轮融资一搞定，马斯克就发推炫耀。没想到融资和招聘的消息都没爆，和 LeCun 的在线“嘴仗”引起了广大网友的围观。（Yann LeCun 是 Meta 的首席人工智能科学家、机器学习之父、图灵奖得主）
有网友质疑 LeCun 为什么不创办自己的 AI 公司，而是留在 Meta 还喷别人。LeCun 则回应称自己是科学家，不是商业或产品领域的人士。
马斯克随即回怼:“那过去五年你在‘科学领域’都做了啥?”LeCun 则晒出自己过去五年发表的 80 篇论文，回击马斯克的质疑。
LeCun 还在 X 平台上批评 OpenAI 的安全文化，认为当前对 AI 安全的担忧被过度夸大。他指出，AI 的智能还不如猫，应该专注于设计更聪明的系统，而不是过度担忧未来可能的风险。
有网友评论 LeCun 的言论就像硅谷界的“鲁迅”，虽然言辞激烈，但立场坚定，也为这个充满争议的领域带来了一些清晰的见解和理性的声音。
https://www.chinaz.com/2024/0529/1619874.shtml
Anthropic 聘请前 OpenAI 安全主管，领导新团队
Jan Leike 在本月初离开 OpenAI 后，转投了 OpenAI 的竞争对手 Anthropic，负责领导一个全新的“superalignment”团队。
据悉，Leike 的团队将专注于 AI 安全的多个方面，具体包括“可扩展的监督”、“从弱到强的泛化”以及自动化对齐研究。
Anthropic 的首席执行官 Dario Amodei 此前是 OpenAI 的研究副总裁，因不同意 OpenAI 在过于激进的商业动作离开，并带领一些前 OpenAI 雇员创立了 Anthropic。
https://techcrunch.com/2024/05/28/anthropic-hires-former-openai-safety-lead-to-head-up-new-team/
OpenAI 罢免闹剧水落石出：奥特曼被驱逐原因公布
去年 11 月，OpenAI 的戏剧性一幕——CEO 奥特曼意外遭罢免，其背后动机一直是业界猜测的焦点。近期，前董事海伦·托纳在《The TED AI Show》播客中提供了迄今为止最为详尽的解释。
托纳透露，2022 年 ChatGPT 的发布并未知会董事会，董事会也是通过社交媒体才得知这一重大发布，而非内部通告。
她强调，这一举动暴露了奥特曼与 OpenAI 创业基金之间的利益关联，该基金一度为奥特曼私人所有，直至今年 4 月调整管理架构。
此外，奥特曼在公司安全事务上的领导缺失也成为争议点。托纳指责他多次提供了关于安全流程的不实信息，导致董事会难以掌握实际情况，更无从谈起必要的改进措施。
长此以往，信任危机悄然累积，最终四位董事一致认为奥特曼的诚信不再可靠，在去年 11 月采取了解雇行动，理由直指其与董事会沟通时的不诚实态度。
https://x.com/hlntnr/status/1795535927718420703
智谱 AI 刘江：5-10 年内 AGI 会达到普通人水平，公司已启动“超级对齐”
在 2024 亚马逊云科技中国峰会上，智谱 AI 首席生态官刘江表示，他预计在 5~10 年内，人工通用智能（AGI）将达到普通人水平，“大模型可能是我们这一代人遇到的最大的技术突破”。
刘江还透露，智谱 AI 已经启动“超级对齐”计划，以确保在各个领域都超越人类智能水平的超级人工智能系统，按照人类的价值观和目标进行行动。
Meta 正接洽新闻机构，以获取高质量内容训练大模型
马克·扎克伯格此前声称，Meta 的 Llama AI 模型使用的数据量超过了常见的 Common Crawl 数据集。然而 Meta 内部对这些内容的质量持有顾虑，已经在考虑与出版商合作。
高质量的内容语料，如书籍或新闻文章，对于大模型的训练是非常重要的，因为社交媒体帖子和评论可能没有同等级别的训练价值。
最近，OpenAI 也签订了一项价值 2.5 亿美元、为期五年的协议，以获取《华尔街日报》和 MarketWatch 等知名媒体的内容。
Chromebook 将原生支持谷歌 Gemini，AI 助力写作和图片处理
谷歌宣布将在 Chromebook Plus 笔记本电脑中原生集成 Gemini，将支持谷歌的“帮我写作”，谷歌相册的魔法编辑器（Magic Editor），以及使用生成式 AI 创建自定义壁纸的功能。
这些设备包括华硕、惠普已经在售的机型，以及宏碁即将推出的新品，这 6 款全新的 Chromebook，包括了 4 款 Chromebook Plus 与 2 款经济型，覆盖 299 至 699 美元区间。
据悉，购买新 Chromebook Plus 的用户还将获赠 12 个月的 Google One AI Premium 套餐，包含 Gemini 高级功能、2TB 存储及在文档、表格、幻灯片和 Gmail 中的 Gemini 集成。
https://techcrunch.com/2024/05/28/google-adds-ai-powered-features-to-chromebook/?
Transcend 完成 4000 万美元 B 轮融资，旨在解决企业隐私问题
数据隐私和人工智能治理平台 Transcend 宣布，完成由 StepStone Group 领投的 4000 万美元 B 轮融资，公司迄今筹资总额接近 9000 万美元。
自上次融资以来，Transcend 的业务已经扩展成为一个综合了数据隐私和人工智能治理的平台，包含 12 种产品，帮助企业理解和管理用户数据、自动化数据隐私任务、评估风险并监督 AI 系统。
Transcend 已经为全球超过 12 亿人提供了可操作的数据权利，LG Electronics、Plaid、Brex、Hims & Hers 和 Rippling 等企业都是其用户。
分享SPG，AGL，ACE和LLM在金融领域的进展。 2023-12-25 加入
还未添加个人简介
评论