联发科发布天玑 AI 开发套件,为开发者提供“快、全、强、易”专业开发体验
近日,备受瞩目的联发科天玑开发者大会 2024(MDDC)在深圳隆重揭幕,其主题为“AI 予万物”。这场盛会汇聚了移动生态领域的众多领军企业和开发者,共同聚焦端侧生成式 AI 技术的前沿趋势以及生成式 AI 手机的发展方向。联发科携手行业生态伙伴共同发布了《生成式 AI 手机产业白皮书》,阐明了生成式 AI 手机的定义,并向全球开发者推出了“天玑 AI 先锋计划”。为促进产业共创实现生态共赢,联发科还分享了天玑 AI 生态战略和终端生成式 AI 应用开发一站式解决方案“天玑 AI 开发套件”。这一系列措施为基于生成式 AI 的移动生态创新潮流注入了新的动能与活力,也激发了未来开发者的创意潜能。另外,整合了产业各方资源,为全球开发者提供了优质的资源与平台,促进了生成式 AI 体验的创新,赋能全场景生成式 AI 应用的未来成长与革新。
![](https://static001.geekbang.org/infoq/3a/3a0e1e035fc897459f7922c4e55384d8.png)
天玑 9300+全大核旗舰亮相,AI 芯更强
本届 MDDC2024 上,联发科重磅发布了旗舰 5G 生成式 AI 移动平台天玑 9300+,以先进架构和强劲算力为生成式 AI 手机提供硬件支持。天玑 9300+率先支持 AI 推测解码加速技术,同时支持天玑 AI LoRA Fusion 2.0 技术,为用户带来高速和个性化的生成式 AI 体验。天玑 9300+还支持 AI 框架 ExecuTorch,可加速端侧生成式 AI 应用的开发进程。此外,这款旗舰芯支持多种前沿主流 AI 大模型,包括阿里云通义千问大模型、百川大模型、文心大模型、谷歌 Gemini Nano、零一万物终端大模型、Meta Llama 2 & Llama 3 等。用一句话概括天玑 9300+就是,不仅拥有卓越的全大核性能和低功耗设计,还具备多项业界领先的生成式 AI 技术,以及联发科与生态伙伴共创的优质游戏体验,无疑是当下生成式 AI 手机的最优选择。
![](https://static001.geekbang.org/infoq/dc/dc25b2a8ed0f46bbaba1d5c8036faf83.png)
天玑 AI 开发套件,为广大开发者提供“快、全、强、易”的专业开发体验
很多开发者还面临着终端生成式 AI 应用开发起步期的多元挑战,联发科不仅研发出领先的天玑芯片,更重要的是,帮助开发者在搭载天玑芯片的终端上打造出更具创新性的生成式 AI 用户体验,从而推动整个 AI 新生态的繁荣与发展。会上,联发科隆重推出了“天玑 AI 开发套件”,为广大开发者提供终端生成式 AI 应用开发的一站式解决方案。天玑 AI 开发套件包含四大模块,包括快速高效的 GenAI 最佳实践、覆盖全球主流大模型的 GenAI Model Hub、高效提升性能的 GenAI 优化技术和 Neuron Studio 一站式视觉化开发环境等四大模块,为广大开发者提供“快、全、强、易”的专业开发体验,赋能终端生成式 AI 应用开发全流程。
![](https://static001.geekbang.org/infoq/85/8590ffb603dba3d5dbe6005ddf67cbda.png)
其中,GenAI 最佳实践,它可以提升大模型的终端部署速度,从原先的数周加速到一天即可完成部署。在模型的量化、编译、推理方面,为开发者提供先进的 INT4 量化技术、内存压缩技术、Token 加速技术、最优缓存配置,还可以开放端侧部署源码。让开发者在与时间赛跑的创新竞赛中,抢得先机,更好地把握创新机遇。
![](https://static001.geekbang.org/infoq/bb/bbe0f90825e0d852676365c8fe682ad4.png)
全面的 GenAI Model Hub ,是联发科为开发者打造的模型库,目前已适配包括:Meta Llama、百川大模型、阿里云通义千问在内的全球主流大模型。开发者可以轻松获取并使用这些不断新增的大模型,进而大幅降低模型部署的难度和复杂性。
![](https://static001.geekbang.org/infoq/b5/b5e4ac8d90ccb04425c20adb70ef3032.png)
强大的 GenAI 优化技术,是生成式 AI 应用体验的关键。目前已导入了多项业界最新、最快的软件优化技术,包括“推测解码加速”和“LoRA Fusion”等等,可显著提升 AI 应用的生成速度,功能包所占用的存储空间也可以大幅减少。
![](https://static001.geekbang.org/infoq/aa/aa9a59af0e2972ca7d6ac4d7a84e9656.png)
易用的 Neuron Studio 集成开发环境,跳出传统的代码开发环境,可为开发者提供高度集成的,一站式、可视化开发环境 ,带来“所见即所得”般更易用的开发体验,让开发过程变得更加直观、易用。
![](https://static001.geekbang.org/infoq/e9/e9bbe66f79a116cbe3c64fd54639c508.png)
目前天玑 AI 开发套件,已覆盖包括智能手机、智能汽车、物联网、个人电脑等智能终端设备,推动这些领域的 AI 应用快速创新和落地。
从应用落地成果来看,联发科凭借其优秀的 AI 平台能力,已携手阿里云通义千问、Cocos、Honor of Kings、虎牙直播、酷狗音乐、美图、全民 K 歌、RWKV、Soul、腾讯 AI Lab、小红书等数十家生态伙伴共创体验更精彩的生成式 AI 应用。
![](https://static001.geekbang.org/infoq/a2/a218bfea13ed2b07417c26cd49ef2533.png)
当前生成式 AI 应用的体验升级已成为行业和用户的共同期待,智能终端是生成式 AI 普及的关键载体。智能手机凭借移动便携性、个人专属化、多模态感知以及强劲的 AI 算力和通信功能,毫无疑问将成为端侧生成式 AI 应用落地的最佳选择。伴随生成式 AI 与智能手机融合加速,智能手机迎来了继触控屏幕之后的又一个革新机遇,在联发科等行业先行者的推动下,属于“生成式 AI 手机”的时代已经到来。
联合产业伙伴发布《生成式 AI 手机产业白皮书》,共同定义“生成式 AI 手机”
在天玑开发者大会上,联发科联合 Counterpoint 并携手阿里云通义千问、百川大模型、虎牙、酷狗音乐、零一万物、OPPO、Soul、腾讯 AI Lab、腾讯混元、vivo 行业头部伙伴联合发布《生成式 AI 手机产业白皮书》,共同定义了“生成式 AI 手机”的概念和典型特征。《白皮书》提到:生成式 AI 手机是利用大规模、预训练的生成式 AI 模型,实现多模态内容生成、情境感知,并具备不断增强的类人能力。生成式 AI 手机开启了智能手机发展的新周期,长远看,智能手机将会发展为移动智能体。
![](https://static001.geekbang.org/infoq/bd/bd3171948960f7ef69d87244014b5305.png)
![](https://static001.geekbang.org/infoq/ab/abb8ffa82778c35dafb5f2e19f5dd1d1.png)
同时,《白皮书》这样定义了生成式 AI 手机的典型特征:在未来,生成式 AI 手机将具备强大的 AI 算力,支持大模型的本地部署,或是通过云端协同的方式执行复杂的生成式 AI 任务,无需完全依赖云端服务器。同时将具备多模态能力,处理文本、图像、语音等多种形式的内容输入,以生成各种形式的输出,确保流畅、无缝的用户体验,设备能够以自然而直观的交互方式,快速响应用户的请求。而为了实现这一目标,生成式 AI 手机将需要强大的硬件支持,包括但不限于基于领先工艺和先进架构设计的移动计算平台,集成或者独立的神经网络运算单元(如 APU/NPU/TPU),大容量和高带宽的内存,以及稳定和高速的连接,硬件级和系统级的安全防御。
![](https://static001.geekbang.org/infoq/9e/9e7f650cdf183f94adc4a8a8ca00bd3b.png)
从《白皮书》中可以预见,未来的手机将成为一个能够理解并预测用户需求、提供创造性解决方案的智能伙伴,搭载多个 AI 智能体的生成式 AI 手机将成为用户访问数字生态的超级入口,端侧的 AI 应用将进入人们日常生活的购物、旅游、游戏等场景,扮演购物达人、私人顾问、互动 NPC 等专属角色,实现用户体验的优化与飞跃。
天玑 AI 先锋计划启动,助力开发者打造创新用户体验
然而目前,由于生成式 AI 模型积累不足、硬件多样移植难度大、开发界面不统一等问题,生成式 AI 普及仍面临由点向面发展的巨大挑战。为促进产业共创实现生态共赢,联发科在天玑开发者大会上联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米面向全球开发者启动“天玑 AI 先锋计划”,提供基于模型化、算力化和软硬件等方面的开发资源和支持,并提供广泛的商业机遇。通过天玑 AI 先锋计划,开发者可以充分发挥天玑移动平台的优势,加速端侧生成式 AI 应用的开发与落地,为用户打造独具创新的 AI 体验。
![](https://static001.geekbang.org/infoq/10/10b069079ff0896428132dd81ecbae0c.png)
为实现这一长期计划和全场景生成式 AI 愿景,联发科在大会上提出了天玑生态战略,从芯片、模型、应用三个层面,联合产业伙伴和开发者共同探索端侧 AI 技术路线,推进颠覆性的端侧 AI 应用和服务创新。
可以明显观察到,联发科的天玑生态策略展示了其高度的远见、技术主导性和产品竞争优势。经过此次天玑开发者大会,联发科已从生成式 AI 产业的倡导者和参与者,成功演变为了该产业发展的引领者,全面推动了生成式 AI 在端侧的普及和发展,与产业合作伙伴共同开创了生成式 AI 的新局面。
评论