阿里云 ODPS 升级为一体化大数据平台 满足用户多元化数据计算需求
11 月 3 日,2022 云栖大会上,阿里巴巴集团副总裁、阿里云计算平台事业部负责人贾扬清表示,为满足用户多元化数据计算需求,阿里云 ODPS 升级为一体化大数据平台。
升级后的 ODPS 支持大规模批量计算、实时分析等服务,提供实时流式计算、机器学习等多种计算能力,可同时调度超 10 万台以上服务器规模进行并行计算。ODPS 也是目前中国唯一自研、应用最为广泛的一体化大数据平台。
ODPS 升级:存储、调度、元数据一体化融合
随着数据技术和数据应用的发展,催生了多元计算需求。贾扬清介绍,例如交通领域,需要实时数据计算,来做城市大脑里面人流车流的优化;科研方面,需要 AI 算法辅助传统物理化学生物研究创新;保险领域,需要大量数据聚合来进行更准确的风险精算。 ODPS 实现了存储、调度、元数据管理上的一体化架构融合,支撑上述各类数据的高效处理。
自 2009 年诞生以来,ODPS 从突破单集群规模到通过多租户隔离打造金融级云上安全,为突破业界难攻的技术难点而不断升级架构。2017 年,ODPS 将大规模批处理引擎 MaxCompute 以独立产品形式对外提供服务。2019 年,应对数据实时交互分析的需求,交互式计算引擎 Hologres 正式上线。
在刚刚公布的 TPC-H 30000GB 基准测试中,ODPS-Hologres 刷新世界纪录,分数超过 2786 万分,领先第二名 23%。ODPS-MaxCompute 则在 TPCx-BB 100TB 标准测试中,连续 6 年保持性能和性价比第一。
大数据和 AI 走向融合 小鹏汽车 AI 训练提速 170 倍
“大数据平台和 AI 平台正在走向融合”,贾扬清表示,不论是大模型生产应用、AI for Science、还是传统的搜推广服务,典型的 AI 应用场景背后,都离不开数据的高效流转和分析。
例如小鹏汽车与阿里云合作,建设了大数据 AI 一体化平台,实现从海量路采数据的传输存储分析、到 AI 模型训练推理的全流程提效。此外,基于软硬件协同优化技术,小鹏汽车自动驾驶核心模型训练提速近 170 倍,训练性能较开源方案提升 30%。 自发布大数据+AI 一体化产品体系“阿里灵杰”以来,阿里云不断推动数据智能在产业中广泛应用。机器学习平台 PAI 持续夯实 AI 工程能力,实现深度学习框架和计算硬件的多样化兼容,以弹性且稳定的云原生 AI 平台服务,支撑自动驾驶、生命科学、金融等领域创新。此外,达摩院基于阿里灵杰,推出模型开放生态 ModelScope 和 AI 开放服务平台 OpenMind,进一步推动 AI 普惠。
评论