活动预告｜Triton Meetup 2023

“Triton Meetup 2023”活动是 Triton 社区首次正式举办的线下技术交流活动，对模型推理领域具有里程碑意义。

活动将专注于 AI Infra、推理引擎相关的主题分享，打造 Triton 社区开放共享的技术生态，共同推进 Triton 在国内的推广和应用落地！

来到现场的小伙伴们还能一起加入到“AI 推理服务的当下与未来”圆桌主题讨论哦！

活动地点：

北京 BCos 共享办公--多功能厅 （北京 WFC 环球金融中心办公店）

活动时间：

2023 年 2 月 25 日

14:00 - 18:00

活动报名：

长按扫描下方👇二维码

或点击文末“阅读原文”

即可预约报名！

嘉宾阵容

议题一：NVIDIA Triton Inference Server 的现在和未来

申意

NVIDIA 解决方案架构师

负责为消费互联网行业提供 GPU 计算解决方案。包括编解码，数据前后处理，模型推理及服务化等。

议题简介:

• Triton 简介；

• Triton 重要 Feature 简介和 Roadmap 更新；

• Triton 的成功案例。

议题二：Triton 在蚂蚁全场景落地的优化

饶星

蚂蚁集团高级技术专家

蚂蚁集团推理团队技术负责人，负责蚂蚁集团全部业务场景的推理服务，长期专注在推理相关的架构和性能优化。

议题简介:

• Triton 在搜索、推荐、广告业务场景的解决方案；

• Triton 在认知业务的解决方案；

• 结合业务场景，蚂蚁进一步的优化方案。

议题三：Triton 在美团数据中心的应用

王新

美团机器学习平台预测引擎团队技术负责人

美团机器学习平台预测引擎团队技术负责人，长期专注于机器学习预测引擎相关的开发工作。

议题简介:

• 机器学习模型在美团落地的痛点；

• Triton 落地的具体方案；

• 使用 Triton 的业务收益与效果。

议题四：Triton 在京东零售的应用与实践

杨培军

京东零售算法中台技术架构师

长期从事机器学习平台/深度学习推理加速和框架的研发，曾负责阿里妈妈搜索广告预估平台、Bigo 机器学习平台的建设。

议题简介:

• 京东零售的多元化算法需求给模型推理带来的挑战；

• 介绍京东算法中台在面向 CV/NLP 场景基于 Triton 二次开发的高性能推理框架；

• 阐述推理框架的架构演进和性能优化工作。

圆桌讨论：AI 推理服务的当下与未来

特邀嘉宾：郭城

蔚来自动驾驶研发平台 (NADP)资深工程师

负责搭建 NADP 云上推理系统，模型 CICD。

交通指引 & 防疫政策：

1. 自驾到场：

开车行进至“环球金融中心”，在大楼南侧地下停车场进入。

2. 地铁前往：

地铁 10 号线至“金台夕照”站，从 A 口出，步行 3-5 分钟，从环球金融中心南门进入。