AI 视频创作一条龙!达摩院“寻光”平台炸场 WAIC,突破可控编辑难题
![AI视频创作一条龙!达摩院“寻光”平台炸场WAIC,突破可控编辑难题](https://static001.geekbang.org/infoq/66/6687e16d42e42e5e9008d18c906e751a.webp)
卡奥斯智能交互引擎是卡奥斯基于海尔近 40 年工业生产经验积累和卡奥斯 7 年工业互联网平台建设的最佳实践,基于大语言模型和 RAG 技术,集合海量工业领域生态资源方优质产品和知识服务,旨在通过智能搜索、连续交互,实时生成个性化的内容和智能化产品推荐,为用户提供快速、可靠的交互式搜索服务,首创了聚焦工业领域的智能交互引擎。
详情戳:https://datayi.cn/w/nP21p1VR
AIGC 时代,视频创作这事儿真的不一样了。
就像这样,轻轻一圈,选定目标立刻变身单独图层,再丝滑嵌入不同的背景视频,场景变换 so easy~
![](https://static001.geekbang.org/infoq/fb/fb310b51bf3a0ca646e986f6bd3872ee.gif)
![](https://static001.geekbang.org/infoq/60/60f1f46a071c427523c4f6918b15ffc6.gif)
想要调整一下镜头角度,交给 AI,同样能一键完成:
![](https://static001.geekbang.org/infoq/fb/fbd304f9ae22241e884c0a1aba4b2b1b.gif)
还能一键消除、修改目标:
![](https://static001.infoq.cn/static/write/img/img-copy-disabled.4f2g7h.png)
后期再也不用加班加到手抽筋(doge)。
划!重!点!这还不是实验室里的单一技术 demo,而是马上就要开放内测,让创作者们直接可以用起来的一站式 AI 视频创作平台——“寻光”。
就是说,传统上分散在不同制作流程中的剧本创作、分镜图设计、视频素材编辑等步骤,现在都可以在 AI 加持下,在同一个平台上流畅完成。
这就是阿里达摩院在上海世界人工智能大会上带来的最新惊喜。
演示一出,现场的观众都坐不住了。
![](https://static001.geekbang.org/infoq/20/20917d4bdc8c7ccb5c378aabcfa63de3.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
而达摩院官方,也透露出了 AI 视频领域新成果背后更大的“野心”:
不对标 Sora,而是走自己的路,希望更快让 AI 生产力匹配人类想象力。
“寻梦光影间”
所谓寻光,意指“寻梦光影间”:
即通过人工智能技术,提供全新的视频创作模式。
![](https://static001.geekbang.org/infoq/b5/b5845eace50404e58cc98a3b3ba5ecf3.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
与 Sora 等今年备受关注的 AI 视频生成模型不同,寻光关注到的,是“Sora 之后,视频工作流的变革”。
达摩院认为,Sora 等 AI 视频生成模型给足了人们对视频生产方式彻底变革的想象力,但一方面,AI 视频内容的可控编辑,包括对复杂剧情的理解、生成对象的一致性等,仍然是当前算法所面临的一大挑战。
另一方面,业界尚没有统一的 AI 视频编辑平台,能让创作者们一站式体验到 AI 加持的视频创作全流程。
举个例子,OpenAI 创始成员 Andrej Karpathy 最近也玩上了 AI 视频,整出了个 AI 版《傲慢与偏见》。
![](https://static001.geekbang.org/infoq/7c/7c337a0ae21cdca953a349086121d2b5.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
在这个短片的制作过程中,他用到的工具包括 Claude、Ideogram、Luma、ElevenLabs、VEED……而他本人也抱怨说:
老实说这个工作流非常混乱,工具与工具之间存在大量的复制粘贴,3 个片段的简单小视频就花了我大约 1 个小时的时间。这里面存在一个巨大的机会。谁正在打造 100%的 AI 原生视频制作平台?
达摩院打造寻光,定位为 PUGC 一站式 AI 视频创作平台,目标正是针对以上问题,用 AI 能力重塑传统视频制作的全流程。
具体来说,寻光可以辅助用户创作剧本、分镜图等,支持对生成及上传素材进行丰富的 AI 编辑,包括人物控制、场景控制、运镜控制、目标新增/消除/修改等 10 多种功能。
![](https://static001.geekbang.org/infoq/9f/9f0b472c757a0766b1ee4ade000cd896.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
并且在交互方面,主打“让视频编辑像操作 PPT 一样简单”。
以分镜设计环节为例,上传到寻光的原始视频素材,会由算法切分成多个分镜头。
在创作空间里,用户可以方便地查看到每一个分镜头,并用简单的拖拽操作对其进行调整。
在新建的空白分镜中,除了添加已有素材,寻光平台还支持用户调用多种多模态生成模型,生产新的内容。
![](https://static001.geekbang.org/infoq/b5/b55fde4fdc531d47580e795be30fa9d3.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
而在编辑功能方面,寻光强调的是精细化的编辑和控制:在 AI 加持下,依据用户意图,在语义层面而不是像素层面实现编辑;同时,视频里的人体、人脸、前景、背景等任意局部目标,都可以进行精细化的编辑和修改。
在现场,达摩院视觉技术实验室高级算法专家陈威华着重提到了基于视频图层的编辑能力。
以前景图层功能为例,用户通过文本输入,即可生成符合描述的、具有透明背景的视频,并且一键就能将其融合到其他背景视频当中。
![](https://static001.geekbang.org/infoq/6e/6e0ccae3c526fc7ded54c4f2f2f3dc32.gif)
寻光也支持图层拆解功能,用户在视频第一帧选择想要提取的物体,算法就会自动跟踪,把整段视频中对应的目标拆解出来,形成独立的带透明背景的视频图层。
飘动的头发也扣得很精细的那种:
![](https://static001.geekbang.org/infoq/da/dafb15a77a502a1eace471605f37563f.gif)
另外,在对视频全局元素的编辑方面,风格迁移上,寻光平台提供了 20+不同风格。
![](https://static001.infoq.cn/static/write/img/img-copy-disabled.4f2g7h.png)
运镜控制上,左右平移、上下平移、推进拉远、左右环绕等都能支持。
![](https://static001.geekbang.org/infoq/2f/2f539752642f3341be0b7df23473dfaf.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
在对视频局部元素的编辑方面,除了目标消除,寻光平台还能实现人脸的精准控制:
![](https://static001.infoq.cn/static/write/img/img-copy-disabled.4f2g7h.png)
△视频取自国风武侠动漫《少年白马醉春风》第三集
轻轻一拉实现运动控制:
![](https://static001.geekbang.org/infoq/c0/c04b7952456d6541cc109197c6485bd4.gif)
如此看来,寻光可以说集成了市面上最完备的 AI 编辑功能,把一整个视频制作工作流都给 AI 化了。相比于在各种工具间跳来跳去,在传统工作流中零散地插入 AI 能力,属实更加方便、高效了。
重塑视频创作工作流
探索更理解物理世界规律、生成时长更长、生成效果更惊艳的多模态的模型,是当今工业界和学术界都密切关注的方向。
但当更强大的 AI 面世后,人们能否更快掌握这种新型生产力,同样是值得关注的话题。
在 Karpathy 挑起话题之后,就有不少网友表示确实戳中痛点:
从一个工具转移到另一个工具会破坏工作状态,说实话,这限制了这些工具对效率的提升。AI 视频创作需要统一的 UI。
![](https://static001.geekbang.org/infoq/d8/d8ba7099b8abaf362402847111308523.jpeg?x-oss-process=image%2Fresize%2Cp_80%2Fauto-orient%2C1)
陈威华也在 WAIC 现场谈到:
今天我们正处在 AI 视频生成这场巨大变革之中,“工欲善其事,必先利其器”,我们希望寻光视频创作平台就是每一个人手中的利器,是每一个人的专属视频工作室,在这个平台上,AI 与创作者之间能够更紧密高效地协作。
为此,寻光平台背后的达摩院视觉技术实验室已做了大量技术储备。
该实验室致力于多模态视觉信号的理解与生成技术研究,当前的重点研究方向包括更加精准的图像/视频/3D 内容生成,更加可控的图像/视频/3D 内容编辑,更加高效的生成框架,多模态的理解-生成框架等。
AIGC 在全世界范围内引爆热潮,核心在于带来了生产力彻底变革的想象空间。
现在,解放生产力的第一步,已经开始落地实践,你期待吗?
评论