Sophon 3.0 全面升级，你准备好拥抱进阶版本的 ML 建模平台了吗？

2022 年 4 月 03 日
本文字数：1600 字
阅读完需：约 5 分钟

DevOps 是为顺应现代软件系统敏捷开发所孕育而生的新模式，将软件开发部门和运维部门的隔阂打破，敏捷协作，将产品新功能快速稳定地交付给用户。越来越多的企业和团队已经使用 DevOps 实现了代码发布定期化、部署自动化和交付/集成持续化。

DevOps 架构图

Sophon 3.0 借鉴 DevOps 精益生产+敏捷开发的管理思想，重塑了全新的 MLDev+MLOps 架构，为机器学习模型的开发和部署管理插上敏捷的翅膀，帮助企业实现 ML 模型规模化增长、提升开发运维效率的同时，持续训练以保障模型的质量。

左手 MLDev 右手 MLOps，Sophon Base 3.0 解锁全新架构

Sophon Base 升级到 3.0 版本，将核心组件进行拆分解耦，形成了 MLDev+MLOps 的左右架构：MLDev 负责机器学习模型的构建，含 Data 数据管理及 Vlab 可视化建模、Discover 编程式建模两种模型训练方式，以满足不同用户的建模需求；而全新打造的 MLOps 是基于云原生架构的企业级 AI 能力运营平台，支持用户将通过 Sophon MLDev 构建或其他途径得到的 ML 模型文件或模型镜像进行统一管理及运营，MLOps 具备灵活多样的模型部署能力，完善的模型服务监控预警能力，用户可以借助 MLOps 对在线模型的持续监控和评估，通过机器学习任务管理构建模型持续训练迭代的 pipeline，保障并持续提升模型效果。

Sophon Base 3.0 全新架构

全新的产品架构将业务人员与数据科学家紧密联合，并为模型在业务生产后续的可持续发展提供了实时监控和调优迭代的运营平台，支持不同角色/租户间的项目协作、模型共享，切实保障了企业的 AI 模型资产得到有效存储、管理及后续运营，使模型价值得以持续释放。

DevOps 加持，Sophon 覆盖机器学习模型的全生命周期管理

Sophon 3.0 有了 DevOps 的加持，能够支持机器学习模型从数据导入->数据探索->数据预处理->特征工程->模型训练->性能验证->模型部署->模型管理->模型服务->性能评估->模型调优迭代的全生命周期管理。Sophon 从 2.7LST 版本到 3.0 的跃升，完善了 AI 模型除生产外的纳管、应用、监控和评估版图，让客户规模化管理日益增长的机器学习模型成为可能，并有效提升模型使用效率，降低模型集成管理成本，控制模型生产环境的风险。

Sophon Base 3.0 对支持不同算法的硬件做了融合计算和针对性优化，大大提升了计算性能，实现企业建模灵活调度；同时提供了任务流调度服务和业务场景模板服务，能够对企业客户不同业务场景中多个实验触发逻辑和调度依赖进行管理和优化。

Sophon Base 覆盖 ML 模型全生命周期管理

不会编程？Sophon 3.0 带你可视化建模和管理

连接数据集

↓

VLab 可视化建模

↓

模型部署及评估

Sophon Base 3.0，企业 AI 模型部署统管的加速器

在金融科技行业，随着监管政策的不断收紧，银保监会于 2020 年 7 月正式出台了《商业银行互联网贷款管理行办法》，要求商业银行落实模型从开发测试、评审、监测到退出的全生命周期的风险管理。一方面为满足监管合规要求，另一方面提升行内风险模型的管理效率，银行要求对模型全生命周期进行统一管理。此外，随着行内业务的持续发展，大量异构 AI 模型资产散落在各部门，一旦需要使用，调参和部门间协调均使得模型部署周期拉长。

Sophon Base 3.0 使用 MLOps 搭建了全行统一的 AI 模型管理平台，快速接入行内积累的不同框架或平台训练生成的大量模型文件，按版本集成管理模型资产；并建立标准化流程，统一构建模型推理逻辑的方式，支持零代码一键部署模型应用。基于云原生基础架构，打通模型全生命周期流程，实现了银行对模型应用的统一运维和监控。

平台上线后，Sophon Base 集成了全行多种算法框架生成的数百个机器学习模型。部署模型应用的平均时间由 1.5 天降至 0.5 小时，配置成本降低近 80%，使模型的平均迭代周期由 1 月降至 1 周。模型效率方面，支持上百个模型预测服务同时在线，单条数据实现毫秒级响应。