近日，荷蘭議會外交事務委員會在視頻會議軟件Zoom上被AI換臉技術(shù)所騙，對方利用Deepfake（深度偽造技術(shù)）冒名頂替俄羅斯反對派領(lǐng)導人阿列克謝·納瓦爾尼的參謀長列昂尼德·沃爾科夫（Leonid Volkov）。

▲列昂尼德·沃爾科夫

這樣的事情并非第一次發(fā)生。此前，沃爾科夫的冒名頂替者還與拉脫維亞和烏克蘭政治家進行了交談，與英國、愛沙尼亞和立陶宛的政治人物進行了接觸。

荷蘭國眾議院在一份聲明中說到，眾議院對此次Deepfake換臉事件感到憤慨，并正在研究如何防止此類事件再次發(fā)生。

一、單張照片即可換臉，Deepfake成政治武器

Deepfake由深度機器學習和假照片組合而成，本質(zhì)是一種AI深度學習模型在圖像合成、替換領(lǐng)域的技術(shù)框架，屬于深度圖像生成模型的一次成功應用。

Deepfake技術(shù)出現(xiàn)于2017年，給影視制作等方面帶去高效、低成本制作等好處，但隨之而來也存在造假、造謠、欺詐等倫理問題，真假混淆使得人們愈發(fā)缺乏安全感。

去年，俄羅斯的兩位研究員推出了一款名為Avatarify的軟件，可以與Zoom或Skype等視頻會議軟件配合使用，將視頻會議中用戶的面容變成任意指定名人的樣子。通過Avatarify的使用，用戶只需要一張制定照片就可以完成臉部替換。

▲使用Avatarify軟件換臉（右下）

AI換臉技術(shù)運用于視頻通話存在潛在風險，惡作劇者可能會欺騙政府做出糟糕的政策決定，還會成為政客間相互攻擊的武器。

在2020年美國大選期間，特朗普4月在推特上轉(zhuǎn)發(fā)了一個偽造拜登吐舌頭的視頻，當晚視頻播放量超過1000萬次。隨后特朗普在5月又轉(zhuǎn)發(fā)了用自己臉替換科幻電影《獨立日》中總統(tǒng)托馬斯·懷特摩爾、發(fā)表“我們要為我們的生存而戰(zhàn)”演講的視頻。

▲特朗普推特轉(zhuǎn)發(fā)拜登換臉惡搞視頻

二、商學政界積極應對Deepfake風險

目前，針對Deepfake，谷歌、微軟、Facebook等眾多科技巨頭都在開發(fā)各種檢測技術(shù)。但目前比較進階的Deepfake仍然可以騙過大多數(shù)AI檢測模型。

2019年6月13日，美國眾議院情報委員會召開關(guān)于人工智能深度偽造的聽證會，公開談論了深度偽造技術(shù)對國家、社會和個人的風險及防范和應對措施。這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術(shù)的聽證會。

會議邀請了四位來自不同領(lǐng)域的專家，分別是美國外交政策研究所研究員克林特·瓦茨（Clint Watts）、馬里蘭大學法學教授丹尼爾 · 希特倫（Danielle Citron）、布法羅大學人工智能研究所所長大衛(wèi)·多爾曼（David Doermann）和Open AI政策總監(jiān)杰克·克拉克（Jack Clark），以系統(tǒng)介紹深度偽造技術(shù)及解答議員的疑惑，共同探討“深度偽造”的風險及應對之策。

在我國，相關(guān)監(jiān)管政策也在不斷完善。我國《民法典》第1019條明確指出，任何組織或個人不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

結(jié)語：警惕視頻通話中的AI換臉技術(shù)

荷蘭視頻會議遭AI換臉，表明當前AI換臉技術(shù)風險已滲透到安全性較高的政界，各界應當加大AI換臉技術(shù)的監(jiān)管。

未來，可能需要嚴格的篩查流程來識別AI換臉技術(shù)，以此確保視頻通話中每個參與者都是真實的。

來源：Engadget