10 秒钟收获影视级短片，花式运镜主体依然清晰，这个全新国产视频模型稳稳拿捏
文生视频的赛道越来越热闹了，两周一更新，一月一迭代，马斯克当模特都快要忙不过来了。真的好能卷。豆包的视频生成模型带来了全新设计的扩散模型，针对高动态的复杂场景，展现出了影视级写实度和逼真细节。用一句话来描述效果：很强，很炸裂，不敢相信自己的眼睛。
9 月 24 日，2024 火山引擎 AI 创新巡展来到深圳，重磅发布了全新视频生成模型，一次性为整个 AI 视频赛道丢下了两颗炸弹：豆包视频生成-PixelDance、豆包视频生成-Seaweed 两款大模型。
作为国内首批通过算法备案的基座大模型厂商，闯入文生视频的赛道并不意外。甚至也不由得让人期待：还能怎么卷？在参与实际测试这个强大的国产模型之后，我们发现它的厉害之处，绝对不止在生成影像上，而是有一个更大的生态和愿景。
语义理解、一致性重要突破，充分掌握镜头语言
生成式视频的「魔法」，来自于「魔咒」。
换句话说，模型的语义理解能力是基础。只有在精准领悟 prompt 文字内容的情况下，才能恰当地呈现出预期中的画面——得先把「阅读理解」做明白。
这次 APPSO 参与了内部测试，得到称得上是了不起的效果——还是那句话，很强，很炸裂。
▲ prompt：一只小猫穿着围裙，戴着手套，在布满泡沫的水桶里洗碗，上方是正在出水的水龙头
每一个用 prompt 指示的元素，都得到了体现，没有「读漏题」唯一的问题是：太漂亮了——我家的土猫，没有这样的高级气质。
算了，小猫咪能有什么错。从成像来看，泡沫和水流的细节都非常惊人，以及猫猫的傲娇表情也很生动。
一个小细节：水流落在小猫的头顶，然后从背后和下巴处落下，这个细节符合物理规律，足以得见模型理解能力的强大。类似的表现，在官方演示中也能看到。
▲ 官方演示
头发在风中凌乱的还原，除了体现飘动的发丝，方向跟人物的运动节奏也是一致的，符合物理逻辑。
这种高保真的能力，背后来自抖音、剪映对视频创作的理解和技术积累，通过自研的高压缩比、高还原性视频隐状态编码和解码模型，强力保证了扩散模型的高效编码与运转。
▲ prompt：树木密布的森林里，仰望天空，天空被茂密的树叶遮住，阳光透过树叶间的缝隙洒落出来。仰拍视角，明暗对比强烈
绿色调是非常棘手的色调，调好了是复古清新，调不好就是色调跑偏。这里却精准还原光线经过了绿叶和树枝的折射，所形成的光圈效果，直逼镜头。
不得不说，在经过剪映、即梦 AI 等业务场景，反复打磨和持续迭代之后，让豆包·视频生成模型真正具备了专业级光影布局和色彩调节能力，支持 3D 动画、2D 动画、国画、黑白、厚涂等多种风格，以及更重要的——掌握镜头语言。
炫酷运镜，无论动作怎么变，主角都是稳稳的
镜头语言的重要性，强调多少次都不为过。没有人想自己倒腾半天，只做出一个动态 PPT。
然而对于普通用户来说，专门去上个「镜头语言」培训班也没有必要：豆包·视频生成模型已经准备好一系列运镜方案，从变焦、环绕、平摇，到缩放、目标跟随等超多镜头语言，都可以用 prompt 完成，实现灵活控制视角。
看上去轻松，实现起来并不简单：一致性是个不小的挑战。
模型从理解指令，生成主体，再根据镜头要求，设计主体的变化和行动轨迹，这一系列步骤中，不仅需要主体面目「不变」，还需要主体根据动作和角度，适当「可变」。
▲prompt：一只边牧穿着太空服在月球表面奔跑，跳起来追逐在浮在空中的飞盘。月光斜角度照射，打亮它的皮毛，低角度，4k 画质，慢动作
在小狗跃起时，头部、四肢都没有大变形，稳稳的，很安心。
▲ prompt：马斯克站在水稻田里，弯腰插秧，头顶戴着一个草笠，抬起头后，举手向镜头打招呼
在面对镜头讲话的十秒钟里，马斯克的表情、手臂、身体姿态都随着动作变化，但整体没有崩掉，一系列动作都非常流畅。
在处理这种「变」与「不变」的挑战中，几乎完美地保证了主体一致性，表现实在是太强大了。
当镜头有所变化的时候，道理也是一样的。在官方的演示 demo 里，有一个水下片段令人印象深刻。
▲ 官方演示
镜头一个简单的变焦，对于模型来说要完成的是：前面要有精致的细节，然后主体移动，显出新主体，最后落定在新主体上，整个一气呵成的大动作。
除了出众的一致性表现，惊人的运镜能力，自然也支持多种风格，3D、2D 动画、厚涂、漫画等，还有多种比例选择，都给了用户无比自由的选择。
▲ 官方演示
▲ prompt：Beautiful, snowy Tokyo city is bustling. The camera moves through a bustling city street, following several people enjoying the beautiful snowy weather and shopping at nearby stalls. Gorgeous sakura petals are flying through the wind along with snowflakes
▲ prompt: 香港夜晚的十字路口，汽车和巴士快速驶过，形成流动的线条。有行人在等红绿灯。背景中建筑物虚化，形成光斑，低角度，4k 画质
从「高大上」到「好落地」
尽管豆包·视频生成模型才刚走到用户面前，但背后的技术已经打磨了很久。根据去年 11 月 ByteDance Research 发布的技术报告，字节团队把第一帧和最后一帧的图像指令与文本指令结合起来，最后一帧指令被证明是创建复杂场景或动作的关键构成要件。
另外，在当时字节选择了自回归路线，而非分层方法，以此来实现高稳定性的画面表现能力。这背后的考量是，模型要能确保生成的内容和用户期望一致，只有这样，用户才会积极参与生成的过程，扮演「导演」的角色，从而让强大的模型能力，尽快落实在实际应用中。
对比同类产品（不包括期货），豆包的视频生成模型完全是第一梯队的水准表现。相比较于国外产品，比如 Luma，比如 Runway，它更懂中文和中文用户，更适配中文互联网中的创作工作流。
▲ 官方演示
如此优秀的性能，脱颖而出是必然的。这还不单指视频生成模型，而是整个豆包大模型家族：作为国内首批通过算法备案的大模型之一，豆包大模型通过火山引擎和火山方舟，面向企业提供服务。
截至 9 月，豆包语言模型的日均 tokens 使用量超过 1.3 万亿，相比 5 月首次发布时猛增十倍。
为了提供最强的性能，豆包通用模型 Pro 默认支持 800K 的初始 tpm，可以看到这个数字远超行业最好水平，并且可根据实际需求进一步扩容，帮助大企业能安心的在生产环境里大规模使用。
而在技术力如此强大的同时，在各家大模型最强版本价格对比中，豆包大模型比行业价格低 98% 以上——用 AI 的门槛已经前所未有的低了。
越是高大上的技术，越需要落地实现，走进日常生活中。
在实际的业务场景里，需要的是效果好、速度快、易上手。以电商为例，既要考虑营销节点，又要顾及不同平台的展示效果，需要的是灵活快速的制作方法。
无论是广告拍摄、还是短视频、直播电商等领域，都需要简单易上手的工具，嵌入现有的制作流程里。
在 24 号的发布会上，火山引擎总裁谭待还展示了一系列大模型的应用，尤其是真真正正落地到商业使用场景中的案例。
火山引擎通过全栈大模型服务，把豆包大模型的实力，真正接入到实际的业务场景中。今年以来，火山引擎建立了零售大模型生态联盟、汽车大模型生态联盟和智能终端大模型联盟，覆盖的业务和场景种类十分丰富多样。
更强模型，更低价格，更易落地，这无疑是豆包大模型的重要优势。
「更强模型」不用多说，豆包大模型能够支撑起每天超万亿 tokens 用量，通过字节跳动内部 50+ 业务实践、30+ 行业客户的应用，不断增加的调用量，覆盖越来越多场景。在收获更多的企业反馈的同时，也帮助⾖包⼤模型越来越好，越来越全⾯。
在发布会上，谭待表示，「大模型的应用成本已经得到很好解决。大模型要从卷价格走向卷性能，卷更好的模型能力和服务」。
「商业场景的应用，是豆包·视频生成模型在一开始就在考虑的事情，需要在商业价值取得突破才能得到更好的应用。」谭待表示，「我们在各种场景里面都做了充分适配，这样可以让大家在商业环境中真实通过豆包·视频生成模型实现业务的创新和加速。」
爱好者能够借由低门槛的 C 端产品，开启对 AI 世界的探索。而开发者能够利用火山引擎，以更低价、更多样、更灵活的方式实现 AI 的工作，为更广泛的用户群，提供进一步探索的新产品、新内容。
随后的记者问答会上，他还分享到，在技术不断迭代、进步的情况下，当 AI 能够完整地解决一个问题时，toB 和 toC 之间的区别未必有这么大。
或许这将是 AI 时代最壮观的景象：原本高不可及的壁垒，正在被推翻。无论有没有经验，无论是为了业务赋能还是为自娱自乐，只要上手起来，就是在创造奇迹。
页:
[1]