Deepfake假頭像又又又來了。

這一次扎堆“轟炸”的平臺，換成了領英。

下面這個小姐姐，是不是乍看之下感覺普普通通，還很有親和力。

但仔細端詳一番，就會不斷發(fā)現(xiàn)破綻。

比如，怎么只帶了一個耳釘？背景畫面為什么高糊？有的頭發(fā)還融入了背景？

而這樣的頭像不只是個例，是一堆！上千個的那種，全都是由AI合成。

從男到女、從老到少、不同膚色、發(fā)色……基本上能涵蓋的都涵蓋了。

他們成群出沒的目的只有一個，為其背后的公司撒網(wǎng)式拉銷售業(yè)務，一旦找到有意向客戶，就轉(zhuǎn)接到真人銷售。

沒想到，繼充當水軍、冒充員工發(fā)送惡意軟件后……AI換臉再次被拐上了違法犯罪的道路。

目前，領英已經(jīng)將這些賬戶關閉。

斯坦福研究人員偶然發(fā)現(xiàn)

起底這次造假事件的，是兩位斯坦福大學的互聯(lián)網(wǎng)研究人員。

在偶然間收到一條推銷信息后，Renée DiResta發(fā)現(xiàn)這個“銷售”有點不一般。

除了耳環(huán)只戴了一邊、頭發(fā)邊界模糊等問題，它還有著GAN生成人臉的最大特征：

眼球剛好位于圖片的中央。

這個特征幾乎可以驗證出所有用GAN生成的人臉。

比如有人做過實驗，將20張假臉調(diào)成50%的透明度后疊加在一起，他們的眼球可以完全重合。

然后，DiResta就和同事Josh Goldstein一起，對整個領英平臺進行了一番調(diào)查。

結果發(fā)現(xiàn)，超過1000個領英賬戶都在用AI生成的人臉做頭像。

這些假賬戶來自70多個公司，干的事情都差不多——

假裝公司的銷售給潛在客戶發(fā)送消息，然后再讓有購買意向的客戶與真人銷售建立聯(lián)系。

由此一來，公司就不用花費大量資金在人力上，同時還能擴大自己的業(yè)務范圍。

而且，這套機制甚至已經(jīng)形成了一套產(chǎn)業(yè)鏈。

也就是說，專門有公司來提供假人臉頭像、假資料信息、并發(fā)送推銷消息。

比如這家總部位于印度的公司LIA。

在他們的訂閱服務中明確寫道：

只要用戶每月支付300美元，就能擁有一個AI生成的人臉形象。

它會有著與真人高相似度的長相，每天可以向20個人發(fā)送銷售信息等功能。

不過，目前這個網(wǎng)站已經(jīng)“查無此站”，除了logo以外搜索不到任何信息。

Deepfake人臉，真的很難區(qū)分

其實這也不是AI換臉第一次被拐上違法犯罪的道路了……

就在不久前，谷歌報告了一起黑客發(fā)送惡意攻擊軟件的事件。通過盜取員工真實信息數(shù)據(jù)、再用AI生成假臉，黑客們用偽造的領英賬戶發(fā)出了大量釣魚郵件。

此前，亞馬遜被曝光出騷操作，用Deepfake在推特上給自己造了一批水軍，試圖扭轉(zhuǎn)輿論風向。

國內(nèi)我們最熟知的“換臉靳東詐騙”事件，用到的也是類似技術。

顯然，真假難辨的Deepfake還充斥在我們的生活中。

而另一邊，今年發(fā)表在PNAS上的一項研究表示：AI生成的人臉和真實人臉沒有區(qū)別，甚至更值得信賴。

人們只有50%的概率分辨出一個人像是否由AI生成。

這個概率，和二選一亂蒙幾乎沒有區(qū)別……

在此，研究人員也匯總了一些Deepfake人臉的特征來供大家區(qū)分。

背景通常非常模糊；

領口銜接不自然，衣服線條看起來不規(guī)整；

牙齒和嘴唇的邊界模糊；

頭發(fā)絲會融入背景；

圖像光線不自然；

雙眼在圖像中完全居中。

參考鏈接：

[1]https://www.theregister.com/2022/03/28/ai_fake_linkedin_faces/

[2]https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles

[3]https://twitter.com/shannonpareil/status/1508110373261434882

本文來自微信公眾號“量子位”（ID:QbitAI），作者：明敏，36氪經(jīng)授權發(fā)布。