深度假造一詞譯自英文“Deepfake”,是深度學習(deep learning)和假造(fake)的組合,該詞匯的出現可追溯至2017年,深度假造也稱組成媒體(Synthetic Media)。最常見方法是人工智能換臉技能,也包含語音模仿、人臉組成、視頻生成等。它的出現使得篡改或生成高度逼真且難以甄別的音視頻內容成為可能,觀察者終究很難經過肉眼明辨真?zhèn)巍?br />
社會對深度假造帶來潛在隱患的顧慮并非什么新鮮熱門,但隨著近段時刻美國達人秀中,初創(chuàng)企業(yè)metaphysic展現了怎么現場經過人工智能技能實時生成深度假造體現——三位體現者在臺上演唱歌劇《今夜無人入眠》,大屏幕卻實時“換臉”,顯現達人秀評委和主持人繪聲繪色的演唱畫面,深度假造再次引起了歐美會議業(yè)界的關注。
當下,疫情改變了人們的日常生活與作業(yè),其間長途作業(yè)成為人們作業(yè)的新常態(tài),也因此造就了在線會議渠道應用Zoom以及微軟Teams在海外的騰飛。鑒于這些應用在日常作業(yè)中的深度遍及,使得不少歐美線上會議供應商的視頻底層技能根本離不開他們。此外,海外還有“老大哥”思科的Webex,構成“三分全國”局勢。跟海外相對“三分全國”局勢不一樣的是,國內在線會議渠道相對呈現群雄割據的態(tài)勢,阿里釘釘、騰訊會議、字節(jié)飛書、華為Welink、百度如流先后參加資源爭奪。
隨著線上會議在疫情前期的大規(guī)模遍及,Zoom在全球規(guī)模內的運用量急劇增加,受眾集體也敏捷從作業(yè)室遍及到校園和社會團體。鑒于海外部分學生前期不習慣煩悶而長時刻的視頻課程,他們曾“活潑地”約請陌生人到他們的虛擬教室里進行“Zoom突擊(Zoombombing)”的惡作劇,為他們無聊的課程增添一些“趣味”。“Zoom突擊”指的是個人由于渠道安全縫隙,無意間侵入其他視頻會議的現象。“Zoom突擊”一時成了“風潮”,但也敏捷從本來單純沖入直播間的惡搞,演化成在會議期間高喊不妥言辭,或上傳不良圖片。
線上會議軟件安全縫隙的隱憂引起歐美會議業(yè)界廣泛關注,主要來源于一次歐盟防長保密會議的“意外”。據英國廣播公司2020年11月報道,一名來自荷蘭媒體“RTL Nieuws”的記者因留意到荷蘭國防大臣安克·拜勒費爾德的一條推特相片上,意外泄露了線上峰會登錄地址與6位數字密碼中的5位,經屢次嘗試,該記者成功猜對了歐盟成員國防長間的保密視頻會議的密碼,并在會議期間闖進了視頻峰會。這個讓人哭笑不得的局面敏捷在普羅大眾引起軒然大波,由于線上峰會原計劃討論一份有關歐盟所面對要挾的秘要文件,該文件將成為歐盟下一個防御戰(zhàn)略的基礎。人們對歐盟秘要會議安全性提出了廣泛的質疑,也天然引申到在線會議渠道自身安全上。
當然,軟件安全縫隙可以經過打補丁來解決。但隨著歐美會議業(yè)界對線上會議軟件縫隙的討論,人們開端敏捷意識到別的一個潛在的更為嚴重的問題——深度假造。盡管荷蘭記者其時闖入了峰會并打擾了議程,但該記者以實在相貌和實在聲音示眾,并誠實地公開了身份。假使闖入者借助軟件縫隙、視頻會議用戶人為過錯或經過不正當方法闖入了會議,經過深度假造的技能示眾,心懷叵測地分布虛偽內容,如此一來,不光容易給個人或企業(yè)帶來損害,引起社會憂慮或信任危機,程度嚴重者或會影響到公共安全。美國電視廣播網哥倫比亞廣播公司(CBS)在上一年曾經過其王牌節(jié)目《60分鐘》采訪介紹了深度假造的危害,且根本難以根治。
深度假造技能的日益廣泛遍及無疑給線上會議渠道的安全性和運用功用提出了更高要求。怎么在登錄時和與會期間有效地辨認長途與會者的實在身份、怎么驗證播放視頻內容的真?zhèn)?,以及怎么使得經過深度假造隱藏在與會者中的不速之客,給會議項目、受眾集體和社會可能造成的潛在傷害最小化等,這些都給線上會議渠道供應商提出了一系列考題,需嚴肅對待。