站長(zhǎng)之家(ChinaZ.com)6月7日 消息:騰訊公司開(kāi)源了一款創(chuàng)新的模型V-Express,它能夠使用人像照片生成視頻。這一技術(shù)通過(guò)一系列逐步丟棄的操作來(lái)平衡不同控制信號(hào),使得音頻等較弱的信號(hào)得以有效利用,實(shí)現(xiàn)對(duì)姿態(tài)、輸入圖像和音頻的綜合控制。
作者團(tuán)隊(duì)表示,在會(huì)說(shuō)話的人臉生成任務(wù)中,當(dāng)目標(biāo)視頻與參考角色不是同一個(gè)人時(shí),選擇與參考人臉姿勢(shì)更相似的目標(biāo)視頻將能獲得更好的效果。目前,該模型在英語(yǔ)上的表現(xiàn)較為出色,但對(duì)其他語(yǔ)言的適應(yīng)性和表現(xiàn)尚未經(jīng)過(guò)詳細(xì)測(cè)試。
V-Express模型的開(kāi)源,為肖像視頻生成領(lǐng)域帶來(lái)了新的發(fā)展機(jī)遇。在這一領(lǐng)域,使用單個(gè)圖像生成視頻的方法正變得日益流行。這通常涉及到使用生成模型增強(qiáng)適配器來(lái)實(shí)現(xiàn)受控生成,其中控制信號(hào)可能包括文本、音頻、圖像參考、姿勢(shì)、深度圖等。V-Express通過(guò)漸進(jìn)式的丟棄操作,解決了弱信號(hào)在強(qiáng)信號(hào)干擾下難以發(fā)揮作用的問(wèn)題,尤其是在音頻信號(hào)常常被姿勢(shì)和原始圖像等強(qiáng)信號(hào)掩蓋的情況下。
實(shí)驗(yàn)結(jié)果顯示,V-Express能夠有效生成受音頻控制的肖像視頻,這在以往的研究中是一個(gè)難以實(shí)現(xiàn)的突破。V-Express方法的逐步丟棄操作,不僅有效實(shí)現(xiàn)了對(duì)弱條件的控制,而且為多條件生成提供了新的可能性和思路。
V-Express模型為肖像視頻生成領(lǐng)域帶來(lái)了創(chuàng)新的思路和方法,通過(guò)平衡不同強(qiáng)度的控制信號(hào),成功實(shí)現(xiàn)了受音頻控制的視頻生成。這一成果不僅具有重要的理論和實(shí)踐意義,而且為未來(lái)的多條件生成提供了新的路徑。騰訊表示,將繼續(xù)深入研究V-Express方法,并探索其在更廣泛領(lǐng)域的應(yīng)用,以促進(jìn)肖像視頻生成領(lǐng)域的進(jìn)一步發(fā)展。
項(xiàng)目地址:https://top.aibase.com/tool/v-express
(舉報(bào))