【無此人】假Account進化!Facebook、Twitter驚現AI合成假人樣 舉報更艱難

【無此人】假Account進化!Facebook、Twitter驚現AI合成假人樣 舉報更艱難

假Account?五毛?FacebookTwitter等社交網站出現假戶口已經不是新鮮事,有組織會利用大量假戶口製造輿論、攻擊特定人物。一般假戶口都會偷取其他用戶相片,假裝成真人。然而近日有專家發現,假戶口已經進化到使用AI人工智能組合所出的假人圖片,可以避過遭相片主人認出檢舉的機會。

撰文:經一編輯部  | 圖片:網站圖片

假Account橫行 進化使用AI照片

社交平台Facebook上年末宣布共刪除54萬個假戶口,Twitter亦於年中暫停20萬個來自中國的假戶口,疑與貶低香港示威活動有關,可見在網上以假相、假資料登記賬戶已非新鮮事。這些假戶口一般都會盜取其他用戶相片自用,假裝成真人,嘗試瞞騙Facebook的檢測團隊。以往一旦用戶發現自己身分被盜用,可以透過Facebook內置功能檢舉,假戶口隨即功虧一簣。然而,近日有專家發現假戶口已進化到使用AI人工智能組合出的假人圖片,即世界上根本沒有圖片中人,令團隊更難分辨出假戶口。

相關文章:【逃犯條例】Twitter、facebook刪20萬個內地賬戶!涉散播抹黑香港示威假信息 | 網民熱話

假Account 進化 Facebook Twitter 驚現 AI 假人樣 專門 攻擊 名人 影響 大選 輿論
圖片:Facebook網站圖片

外國研究人員吉伯尼(E.J. Gibney)為組織「沉睡的巨人」(Sleeping Giants)成員。組織因為反對網站播出有歧視仇恨內容的廣告而飽受假戶口攻擊,吉伯尼於是收集所有曾經發言羞辱組織成員的假戶口,並提供CNN作研究。CNN將相片轉交視像鑑識專家,加州大學柏克萊分校(University of California, Berkeley)的法萊德教授(Hany Farid)及科羅拉多大學丹佛分校(University of Colorado, Denver)的媒體鑑識中心負責人史密夫(Jeff Smith)不約而同指出其中一張假相片人像出現問題,包括耳環形狀扭曲、左右眼反射影像不一致、人物背後牆壁彎曲等,判別照片應為人工智能組合出的虛假相片。

相關文章:AI考科學會考獲9成正確率 惟欠缺視覺識別技能|網民熱話

人工智能假照片隨手可得

人工智能技術雖然深奧,但AI所組合出的照片卻是隨手可得。前Uber工程師Phil Wang就寫出名為「這個人不存在」(This Person Does Not Exist)的網站,每次載入網頁就會自動生成一幅全新虛構人物照片。Phil解釋希望透過建立網站提醒大眾科技的可怕,警告人們要小心人工智能虛構人物外表的能力,但就無法肯定吉伯尼所收集的假戶口圖片是否出自自己的網站。

假Account 進化 Facebook Twitter 驚現 AI 假人樣 專門 攻擊 名人 影響 大選 輿論
圖片:This Person Does Not Exist網站圖片

社交媒體主導輿論影響大

CNN報導中,吉伯尼團隊成員因為反對歧視廣告而引起爭議,其中正是受使用了假照片的帳號攻擊。這些帳戶會在社交平台上以訊息騷擾特定人物,或者假裝自己有其黑材料並作出威脅,試圖阻止該機構或人繼續發聲。其實透過社交媒體影響大眾輿論並不罕見,2016美國大選就是最佳例子。當時劍橋分析公司(Canbridge Analytica)曾非法取得五千萬名Facebook用戶資訊,並利用有關資料向不同帳戶針對發放各種假消息或個人化廣告,爭取中間派選民改而支持特朗普。如此洗腦做法其後被揭發,劍橋分析隨之宣布破產,知情不報的Facebook亦在國會聽證後被判罰款高達50億美元。