細思極恐!央視曝光:你的臉僅僅只賣0.002元
沈騰版斯內普,宋小寶版慶余年,趙四兒版美國隊長,PDD 版橋本環奈······
相信各位在網上衝浪的同學對這些惡搞視頻並不陌生,並且出於好奇,自己也下載了某些換臉軟件去嘗試換臉的樂趣。
當然,這些惡搞視頻也並非視頻博主的業餘樂趣,甚至某些網劇為了造成不必要的損失,將不能出鏡的某位演員用 AI 換上其他演員的臉,也是常有的事。
比如,2019 年播出的《封神演義》《光榮時代》《長安十二時辰》以及《時光與你都很甜》中,都使用了該技術,但效果卻不盡如人意。
「五分錢換臉」「畫面有點詭異」「一個人毀了整部劇」等評論充斥在彈幕和微博評論中。
所以,從使用層面來看,AI 換臉技術放諸於娛樂場景中可能無可厚非,但當它被黑灰產盯上時,AI 換臉技術就變成了「眾矢之的」。
你品,你細品。
央視曝光 AI 換臉黑產鏈條
昨天傍晚,2元錢能買上千張人臉衝上熱搜,引發了網友關注。
據央視報道,經調查在某些網絡交易平台上,花 2 元錢就能買到上千張人臉照片。這些照片若落入不法分子手中,照片主人除了有可能遭遇精準詐騙,還有可能因人臉信息被用於洗錢、涉黑等而捲入刑事訴訟。
網友直呼:「這太可怕了」!「現在哪裡還有隱私可言」?
但販賣人臉這操作我們已經聽了無數次,令人可怕的是,從販賣人臉到製作人臉視頻已經形成了一項完整的產業鏈——上游提供軟件及技術、中游提供視頻、照片定製、下游售賣成品視頻。
簡直可怕。
而騙過 AI 的關鍵一步,居然也有商家在公然販賣。
據雷鋒網此前報道,在某線上交易平台,通過搜索特定關鍵詞,還能找到販賣「照片活化」工具的店鋪。
什麼是「照片活化」?
比如說,你在購買某種金融產品時,手機會提示進行「人臉識別」認證操作,這個操作大致分為兩步:
1、需要你用手機攝像頭對準自己,拍下正面靜態照片,進行系統審核。
2、系統要求將攝像頭再次對準自己,按照指令作出眨眼、搖頭、張嘴等動作,完成認定。
這兩步的作用用大白話解釋就是:機器在判斷你就是你。
有趣的是,假如買家不知道如何操作這個「照片活化」工具,賣家還支持 35 元將軟件加教程統統給到的教學服務,付款後就得到一個教學鏈接,包學包會。
而在央視的報道中提到,在警方今年破獲的兩起盜用公民個人信息案中,值得注意的是,犯罪嫌疑人都是利用「 AI 換臉技術」非法獲取公民照片進行一定預處理,而後再通過「照片活化」軟件生成動態視頻,騙過了人臉核驗機制,得以實施犯罪。
也就是說,偷你臉的犯罪分子不僅會利用販賣人臉照片牟利,他們可能還會利用你的人臉實施犯罪。
這保不齊哪天我就變成了在逃人犯,可怕可怕。
並且,犯罪分子要實現這個也並不是一件難事。
AI 換臉不難,你上你也行
AI 換臉技術最早要追溯到 2017 年。國外一個名為「DeepFakes」的用戶在 Reddit 上發佈了一個「假視頻」,利用深度學習和 AI 新技術,將蓋爾·加朵的臉換到了成人電影上。
他在網上炮製了無數明星換臉的小視頻。並且都免費發佈了自己的成果和換臉視頻教程。
後來他的名字就被命名為 AI 換臉技術,稱之為「DeepFakes」。
具體操作步驟實際上只分為三步。
第一步給 AI 準備學習材料,系統會提取成圖像文件,並從中識別、抽出人臉信息,生成只含有臉部的圖片,作為機器的學習素材。
第二步,訓練 AI ,讓 AI 認為這張被替換的臉就是原來的臉;
第三步,PUA AI ,將原臉丟給 AI 讓其修復,這個時候,其實 AI 自己也分不清誰真誰假了,但經過第二步的訓練後,AI 已經認定原臉是假的,所以,自然也就將替換的人臉當做真臉了。
看來,機器再聰明也是受不了「蠱惑」的。
而真正令人難過的是,這項技術的成功率對於普通人來說也不是很困難。
因為,即使只是一個新人也能在幾個小時內做出一部換臉視頻,並且越多人使用教程,人工智能換臉的精準度就越高。
這也是不法分子想要作惡的原因之一。
泄露源頭在哪裡?
那麼,你的人臉照片是在哪裡被泄露的?
據央視網報道,經調查發現,在商家的素材庫里,全都是真人生活照、自拍照等充滿個人隱私內容的照片。
當記者詢問客服,這些圖片是否涉及版權時,客服矢口否認,但卻提供不了任何可以證明照片版權的材料。
嗯??商家你有點問題。
至於,這些照片在哪裡泄露的,專家表示很可能是因為數據的存儲環節出了問題。由於人臉識別應用五花八門,也沒有統一的行業標準,大量的人臉數據都被存儲在各應用運營方,或是技術提供方的中心化數據庫中。
數據是否脫敏、安全是否到位、哪些用於算法訓練、哪些會被合作方分享,外界一概不知。而且,一旦服務器被入侵,高度敏感的人臉數據就會面臨泄露風險。
有什麼解決辦法?
人臉信息泄露是一個長期性的安全問題,大家更關注的是如何解決。
首先,從技術層面,專家表示可以利用專門針對生物特徵的活體檢測技術,可有效識別掃描對象的生命體征,大大降低識別系統把照片或面具當人臉的風險。
其次,從立法的角度,專家認為人臉數據存儲應該建立更嚴格的標準和規範,技術開發方、App 運營方應該在更趨嚴格的監管、法律以及行業規範下採集、使用、存儲數據。
但事實上,去年 4 月,在全國人大常委會審議的《民法典人格權編(草案)》里就正式加了一條:任何組織和個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。
這其中就包括 AI 換臉技術。
也就是說除了法律另有規定的情況,如果被換臉的人沒有同意,而你用了拍攝、繪畫、P 圖、DeepFakes、鬼畜等各種方式處理他人的臉,你就違法了,就算不以營利為目的也一樣。
所以,從公民個人來看,遇到「丟臉」的情況先不要慌,我們可以拿起法律武器為自己維權。畢竟,在這個時代,想要不泄露隱私是不可能的。
此外,尚未出台的個人信息保護法草案也對人臉識別提出了要求:
在公共場所安裝圖像採集、個人身份識別設備,應當為維護公共安全所必需,遵守國家有關規定,並設置顯著的提示標識。
所收集的個人圖像、個人身份特徵信息只能用於維護公共安全的目的,不得公開或者向他人提供;取得個人單獨同意或者法律、行政法規另有規定的除外。
可以看到,在法律層面,人臉識別問題已經引起了足夠的重視。
當然,我們也要盡量減少在社交平台曬自己的美照。
而一個殘酷的事實是:技術在進步,制度在完善,但是灰色、黑色的產業鏈卻總也沒法一網打盡,本該用來向善的科技也在那些陰暗的角落裡滋生更多的病毒,甚至成為某些權錢交易的「橋樑」。
沒錯,技術向善在於人,但人心若向惡又當如何?
參考資料:
【1】//weibo.com/2656274875/Jr0OY4QzN?refer_flag=1001030103_?c&type=comment
【2】//www.huxiu.com/article/373642.html
【3】//www.bilibili.com/video/av837602185/
【4】//www.leiphone.com/news/202007/PHXQ0bUENfTRmnKE.html
【5】//news.cctv.com/2020/10/22/ARTIpIsVdsN8JRQJb5ZH3XB2201022.shtml