谷歌對Deepfake亮劍：打造鑒假新工具，幫助媒體識別AI造假

• 2020 年 2 月 21 日
• 筆記

魚羊 發自 凹非寺 量子位 報道 | 公眾號 QbitAI

谷歌也開始針對Deepfake了。

AI造假技術一代更比一代強，假圖片、假信息、假新聞甚至能影響真實社會事件的走向。

且不說對於普通人，對於新聞工作者而言，判斷一張圖片是否真實，也並非易事。

而這，就有可能造成虛假信息的進一步傳播。

於是，谷歌母公司Alphabet旗下的Jigsaw決定出手，以AI治AI。

他們聯手Google Research、馬里蘭大學、伯克利等多家研究機構，開發了一個名為Assembler的實驗平台，旨在幫助記者們通過簡單的操作，快速識別Deepfake。

Assembler

Assembler是如何道高一丈的？

實際上，它是把多個圖像檢測器集成為一個工具，每個檢測器都針對特定類型的圖像處理。

比如，有的檢測器能判斷圖像是否經歷了複製粘貼，有的檢測器能識別出圖像亮度是否被修改過。

這些圖像檢測器包括：

顏色和噪點模式

來自馬里蘭大學。該機器學習模型結合了兩種不同的方法，既能利用圖像的顏色值來查找異常，也能檢查圖像的噪點模式是否存在不一致。

Dense-Field Copy-Move

來自那不勒斯費德里克第二大學。該算法在圖像中查找外觀相似的區塊，以判斷其中一個是否被複制粘貼到了另一個區域上，覆蓋了先前存在的內容。

JPEG DIMPLES

來自UC伯克利。該算法能查找被編輯過的JPEG壓縮圖像區域。

自洽性拼接

同樣來自UC伯克利。該模型通過查看圖像的像素屬性，來確定其是否在生成過程中使用了不同的EXIF預設。

SPLICEBUSTER

來自那不勒斯費德里克第二大學。該算法可以識別出噪點模式不一致的地方。

StyleGAN檢測器

Jigsaw自研。該模型可以將人的真實照片和英偉達的StyleGAN生成的人像區分開來。

△StyleGAN

這些檢測器組合在一起，就使得Assembler能夠對圖片是否被「加了料」進行全面的評估。

除此之外，在測試過程中，Jigsaw發現新聞工作者經常要處理的是低分辨率小圖像，而這就給檢測技術帶來了新的挑戰。

於是，他們在反向圖片搜索提供商TinEye的技術支持下，在Assembler中加入了圖像自動升級程序。

如此，在鑒別過程中，Assembler會自動根據輸入圖像，查找尺寸更大、質量更好的版本，以確保得到最佳分析結果。

目前，法新社在內的多家新聞媒體已經開始使用Assembler。

Jigsaw首席執行官Jared Cohen表示，Jigsaw將評估該工具在實際使用中的表現，並繼續開發補充工具Disinformation Data Visualizer，用以顯示全球範圍內的虛假信息宣傳活動，以及其所採用的技術策略和受影響的國家。

One More Thing

Jigsaw創立於2010年，是谷歌創建的技術孵化器，現作為谷歌母公司Alphabet的子公司運營。

其致力於解決虛假信息、網絡攻擊等全球性挑戰，並應用技術解決方案保護信息獲取。

2019年3月份，Jigsaw曾發佈過一個具有評論過濾功能的Chrome插件Perspective，能過濾辱罵性評論，凈化信息瀏覽體驗。

正在進行的項目還包括開源工具Outline，其旨在為記者提供更安全互聯網訪問方式。