MotionClone:一键克隆视频运动，让创意无界限！

主要观点总结

文章介绍了MotionClone的新框架，它可以在无需训练或微调的情况下，从参考视频中克隆运动并应用到新视频中，实现文本生成视频。该框架具有出色的快速跟随能力，无需特定动作的微调。文章还介绍了其方法、实验结论等。

关键观点总结

关键观点1: MotionClone的特点

无需训练或微调，能够提取参考视频的运动信息；运动信息可与文本提示结合，指导新视频的生成；具有出色的快速跟随能力，无需特定动作的微调。

关键观点2: MotionClone的工作机制

使用时间注意力表示参考视频中的运动，主要时间注意力引导来指导视频生成；位置感知语义引导机制帮助生成模型合成合理的空间关系，增强提示跟随能力。

关键观点3: MotionClone的优势

在全局相机运动和局部物体运动方面都表现出色；在运动保真度、文本对齐和时间一致性方面具有显著优势。

文章预览

无需训练或微调，在提示词指定的新场景中克隆参考视频的运动，无论是全局的相机运动还是局部的肢体运动都可以一键搞定。 MotionClone 的新框架，给定任意的参考视频，能够在不进行模型训练或微调的情况下提取对应的运动信息；这种运动信息可以直接和文本提示一起指导新视频的生成，实现具有定制化运动的文本生成视频 (text2video)。 给定一个参考视频，MotionClone可以将包含的动作克隆到新的场景中，具有出色的快速跟随能力，没有特定动作的微调。 相关链接 论文：https://arxiv.org/abs/2406.05338 主页：https://bujiazi.github.io/motionclone.github.io/ 代码：https://github.com/Bujiazi/MotionClone 论文阅读 MotionClone:无训练运动克隆可控视频生成 摘要 基于运动的可控文本到视频生成涉及控制视频生成的运动。以前的方法通常需要训练模型来编码运动线索或微调视频扩散 ………………………………