分享

更进一步,这个AI能让照片或图片中人像做各种表情和动作

 天童老僧 2023-05-10 发布于上海
要说让照片活过来,用视频驱动图片中的人物,可能大家不会觉得有什么惊讶的。毕竟前两年复活老照片或者娱乐短视频已经火了不是一次两次了。往期的文章里机智客搞过介绍过相关的AI技术应用,不管是媒体报道的AI“复活”故人感动回忆、名人唱歌还是蚂蚁呀嘿娱乐短视频,大家想必都见得多了。而这次这个新开源的AI,显然更近一步。它居然还能让图片中的人像做动作。
这个新算法或者论文就是Thin-Plate Spline Motion Model for Image Animation技术。清华大学大佬团队搞的,它是针对现有的技术方法进行了改进。毕竟我们以前也了解过Image Animation,虽然能驱动人脸做表情,不过常见的问题就是背景缺失,缺乏修复,而这个新算法则在这方面进行了改进,使得效果更逼真了一些。

图片

更重要的是,它不仅可以驱动人像表情,还可以用来驱动身体做动作,这个新玩意儿想必很可能引起大家的眼球。你想啊,驱动人脸,我们可以做各种脸部效果和表情,而驱动身体,则更进一步,我们可以发挥最大想象力来让图片中的人来做各种可能的动作,活脱脱整活了。传统的表情驱动已经满足不了人类了,现在我们来驱动人物动作。
虽然目前搭建环境也需要一定时间,用demo算法也还是很考验显卡算力,不过看前景,这一技术很显然很适合融合和应用在未来的视频直播、视频特效、娱乐内容方向。当然我们说搭建环境需要时间,其实如果熟练的话,这就不叫事。用Conda构建虚拟环境然后安装相关依赖就行了。主要是还要有独立显卡(N卡越好的显卡运行效果越快)。
在conda中,虚拟环境搭建好,按照requirements.txt文件安装好所有的依赖和库,然后可以使用下载好的预训练模型文件来做demo了。其实现在的库,已经丰富到让人头晕目眩的地步了,各种库依赖和版本问题琳琅满目,系统不同,环境不同,所以你即便按照README.md安装,依然可能会出现各种小问题。机智客就碰到了一个关于loader(f)的问题,这个是因为版本兼容问题,修改相应的代码就行了。而且基本每次测试新的AI项目或者搭建环境跑代码都会出现一些新问题,这个习惯就好。在demo中,可以用自己的素材来测试。
从运行的效果看,这个的确让人眼前一亮。你用半身或全身素材的图像来测试,驱动视频的确可以驱动图片中人体运动,当然也有一定限制,视频素材运动不能激烈,幅度不能过大,视频运动中有运动模糊、残影等特点,颜色色调也会扭曲改变。另外生成的result视频中的人体会出现一定的扭曲或截断或撕裂,这个需要在视频后期合成软件里进一步调整,比较繁琐。当然这里由于时间和算力关系,还没有测试更多的素材。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多