西北大學 | 深度造假挑戰(zhàn)“只會增加”
指南者留學
2023-01-21 16:43:17
閱讀量:1157
<p>西北大學(Northwestern University)和布魯金斯學會(Brookings Institution)的人工智能(AI)和外交政策專家的一份新報告顯示,盡管公眾對深度造假的關(guān)注大多集中在大規(guī)模的宣傳活動上,但這種有問題的新技術(shù)要陰險得多。</p>
<p> </p>
<p>在這份新報告中,作者討論了深度偽造視頻、圖像和音頻,以及相關(guān)的安全挑戰(zhàn)。研究人員預測,這項技術(shù)即將得到更廣泛的應用,包括在有針對性的軍事和情報行動中。</p>
<p> </p>
<p>最終,專家們會就如何應對這種令人不安的新技術(shù)向安全官員和政策制定者提出建議。在他們的建議中,作者強調(diào),美國及其盟友需要為政府使用深度造假制定一套行為準則。</p>
<p> </p>
<p>布魯金斯學會本月發(fā)表了這份名為《深度造假與國際沖突》(Deepfakes and international conflict)的研究報告。</p>
<p> </p>
<p>作者寫道:“針對特定個人和目標開發(fā)深度偽造品的便便性,以及它們的快速移動——最近是通過一種被稱為穩(wěn)定擴散的人工智能形式——指向一個所有國家和非國家行為體都將有能力在其安全和情報行動中部署深度偽造品的世界。”“安全官員和政策制定者需要做好相應準備。”</p>
<p> </p>
<p>西北大學的合著者包括世界著名的人工智能和安全專家V.S. Subrahmanian,西北大學麥考密克工程學院計算機科學沃爾特·p·墨菲教授,巴菲特全球事務研究所巴菲特學院研究員,以及Subrahmanian實驗室的博士生高重陽。布魯金斯研究所的共同作者包括丹尼爾·l·拜納姆和克里斯·梅瑟羅。</p>
<p> </p>
<p><strong><span class="h1">深度造假“難度不大”</span></strong></p>
<p> </p>
<p>西北大學安全和人工智能實驗室的負責人蘇布拉曼尼安和他的學生高之前開發(fā)了TREAD(人工智能深度偽造減少恐怖主義),這是一種新的算法,研究人員可以用來生成他們自己的深度偽造視頻。通過創(chuàng)造令人信服的深度造假,研究人員可以在安全背景下更好地理解這項技術(shù)。</p>
<p> </p>
<p>深度偽造是指經(jīng)過令人信服的修改,以歪曲某人所說或所做的事情,而他們并沒有做或說。人工智能驅(qū)動的技術(shù)通常用于惡意的虛假信息活動。</p>
<p> </p>
<p>蘇布拉曼尼安和他的團隊使用TREAD技術(shù)制作了已故伊斯蘭國恐怖分子阿布·穆罕默德·阿德納尼的深度偽造視頻樣本。雖然制作出來的視頻看起來和聽起來都很像阿德納尼——面部表情和音頻都非常逼真——但他實際上說的是敘利亞總統(tǒng)巴沙爾·阿薩德的話。</p>
<p> </p>
<p>研究人員在數(shù)小時內(nèi)制作出了栩栩如生的視頻。這個過程非常簡單,蘇布拉曼尼安和他的合著者表示,軍方和安全機構(gòu)應該假設(shè)對手能夠在幾分鐘內(nèi)制作出任何官員或領(lǐng)導人的深度偽造視頻。</p>
<p> </p>
<p>作者寫道:“任何在機器學習方面有一定背景的人,只要有一些系統(tǒng)的工作和合適的硬件,就可以通過構(gòu)建類似TREAD的模型,大規(guī)模生成深度偽造視頻。”“幾乎任何國家的情報機構(gòu),當然包括美國的對手,都能毫不費力地做到這一點。”</p>
<p> </p>
<p><strong><span class="h1">避免“貓捉老鼠”游戲</span></strong></p>
<p> </p>
<p><span style="letter-spacing: 0.7px;">作者</span>認為,國家和非國家行為體將利用深度造假來加強正在進行的虛假信息工作。深度造假可能通過使戰(zhàn)爭合法化、制造混亂、破壞民眾支持、使社會兩極分化、讓領(lǐng)導人失去信譽等方式,助長沖突。在短期內(nèi),安全和情報專家可以通過設(shè)計和訓練算法來識別潛在的虛假視頻、圖像和音頻,從而對抗深度造假。然而,這種方法不太可能長期有效。</p>
<p> </p>
<p>“任何在機器學習方面有一定背景的人都可以大規(guī)模生成深度偽造視頻。幾乎任何國家的情報機構(gòu)都能毫不費力地做到這一點。”</p>
<p> </p>
<p>作者說:“結(jié)果將是一場貓捉老鼠的游戲,類似于惡意軟件:當網(wǎng)絡(luò)安全公司發(fā)現(xiàn)一種新的惡意軟件并開發(fā)簽名來檢測它時,惡意軟件開發(fā)人員會進行‘微調(diào)’以逃避探測器。”“探測-逃避-探測-逃避的循環(huán)會隨著時間的推移而發(fā)生……最終,我們可能會達到一個端點,在那里探測變得不可行的或計算量太大,無法快速和大規(guī)模地進行。”</p>
<p> </p>
<p>對于長期戰(zhàn)略,該報告的作者提出了以下幾點建議:</p>
<p> </p>
<p>教育公眾提高數(shù)字素養(yǎng)和批判性推理能力</p>
<p><br />通過記錄處理數(shù)字資產(chǎn)的每個人或組織,開發(fā)能夠跟蹤數(shù)字資產(chǎn)移動的系統(tǒng)</p>
<p><br />鼓勵記者和情報分析人員在發(fā)表文章之前放慢速度,核實信息。”同樣,記者可能會模仿情報產(chǎn)品,討論有關(guān)判斷的‘置信度’。”</p>
<p><br /><strong><span class="h1">使用來自不同來源的信息(如驗證碼)來確認數(shù)字資產(chǎn)的合法性</span></strong></p>
<p><br />最重要的是,作者認為,政府應該制定政策,提供強有力的監(jiān)督和問責機制,以管理深度造假內(nèi)容的生成和傳播。如果美國或其盟友想通過制造自己的深度造假來“以毒攻毒”,那么首先需要就政策達成一致并落實到位。作者表示,這可能包括建立一個“Deepfakes Equities Process”,以類似的網(wǎng)絡(luò)安全流程為模型。</p>
<p> </p>
<p>作者寫道:“生成和使用深度造假作品的決定不應輕易做出,也不應不仔細考慮權(quán)衡利弊。”“深度偽造技術(shù)的使用,特別是用于攻擊沖突環(huán)境中的高價值目標,將影響廣泛的政府辦公室和機構(gòu)。每個利益相關(guān)者都應該有機會在需要和適當?shù)臅r候提供投入。建立這樣一個基礎(chǔ)廣泛的審議過程是確保民主政府負責任地使用深度造假產(chǎn)品的最佳途徑。”</p>
<p> </p>
<blockquote>
<p>注:本文由院校官方新聞直譯,僅供參考,不代表指南者留學態(tài)度觀點。</p>
</blockquote>