發表日期 3/29/2022, 12:45:26 PM
Deepfake假頭像又又又來瞭。
這一次紮堆“轟炸”的平台,換成瞭 領英 。
下麵這個小姐姐,是不是乍看之下感覺普普通通,還很有親和力。
但仔細端詳一番,就會不斷發現破綻。
比如,怎麼隻帶瞭一個耳釘?背景畫麵為什麼高糊?有的頭發還融入瞭背景?
而這樣的頭像不隻是個例,是一堆! 上韆個 的那種,全都是由AI閤成。
從男到女、從老到少、不同膚色、發色……基本上能涵蓋的都涵蓋瞭。
他們成群齣沒的目的隻有一個,為其背後的公司 撒網式拉銷售業務 ,一旦找到有意嚮客戶,就轉接到真人銷售。
沒想到,繼充當水軍、冒充員工發送惡意軟件後……AI換臉再次被拐上瞭違法犯罪的道路。
目前,領英已經將這些賬戶關閉。
斯坦福研究人員偶然發現
起底這次造假事件的,是兩位斯坦福大學的互聯網研究人員。
在偶然間收到一條推銷信息後,Renée DiResta發現這個“銷售”有點不一般。
除瞭耳環隻戴瞭一邊、頭發邊界模糊等問題,它還有著GAN生成人臉的 最大 特徵:
眼球剛好位於圖片的中央。
這個特徵幾乎可以驗證齣所有用GAN生成的人臉。
比如有人做過實驗,將20張假臉調成50%的透明度後疊加在一起,他們的眼球可以完全重閤。
然後,DiResta就和同事Josh Goldstein一起,對整個領英平台進行瞭一番調查。
結果發現,超過1000個領英賬戶都在用AI生成的人臉做頭像。
這些假賬戶來自 70多個 公司,乾的事情都差不多――
假裝公司的銷售給潛在客戶發送消息,然後再讓有購買意嚮的客戶與真人銷售建立聯係。
由此一來,公司就不用花費大量資金在人力上,同時還能擴大自己的業務範圍。
而且,這套機製甚至已經形成瞭一套 産業鏈 。
也就是說,專門有公司來提供假人臉頭像、假資料信息、並發送推銷消息。
比如這傢總部位於印度的公司 LIA 。
在他們的訂閱服務中明確寫道:
隻要用戶每月支付300美元,就能擁有一個AI生成的人臉形象。
它會有著與真人高相似度的長相,每天可以嚮20個人發送銷售信息等功能。
不過,目前這個網站已經“查無此站”,除瞭logo以外搜索不到任何信息。
Deepfake人臉,真的很難區分
其實這也不是 AI換臉 第一次被拐上違法犯罪的道路瞭……
就在不久前,榖歌報告瞭一起黑客發送惡意攻擊軟件的事件。通過盜取員工真實信息數據、再用AI生成假臉,黑客們用僞造的領英賬戶發齣瞭大量釣魚郵件。
此前,亞馬遜被曝光齣騷操作,用Deepfake在推特上給自己造瞭一批水軍,試圖扭轉輿論風嚮。
國內我們最熟知的“換臉靳東詐騙”事件,用到的也是類似技術。
顯然,真假難辨的Deepfake還充斥在我們的生活中。
而另一邊,今年發錶在PNAS上的一項研究錶示:AI生成的人臉和真實人臉 沒有區彆 ,甚至更值得信賴。
人們隻有50%的概率分辨齣一個人像是否由AI生成。
這個概率,和二選一亂濛幾乎沒有區彆……
在此,研究人員也匯總瞭一些Deepfake人臉的特徵來供大傢區分。
背景通常非常模糊;領口銜接不自然,衣服綫條看起來不規整;牙齒和嘴唇的邊界模糊;頭發絲會融入背景;圖像光綫不自然;雙眼在圖像中完全居中。
參考鏈接:[1]https://www.theregister.com/2022/03/28/ai_fake_linkedin_faces/[2]https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles[3]https://twitter.com/shannonpareil/status/1508110373261434882