logo

《科技》資安發展關鍵,辨識AI深度造假

瀏覽數

99+

雖然說有圖有真相,不過AI深度造假(Deep Fake)已經能夠造假影片,連說話時的嘴型都不放過,臉書創辦人祖克伯就是知名度最高的受害者,資策會MIC認為,新形態的人工智慧犯罪,恐將對國家或企業帶來新的資安隱憂,如何辨識與解讀正確訊息,將成為提升競爭力的關鍵因素。

 今年6月,IG上出現一小段祖克柏發表關於Spectre漏洞談話的影片,被證實是以AI偽造而成,在祖克柏之前,也有網站提供Deep Fake技術來創作A片,弄的人人自危,該網站不久就被下架。

 MIC表示,人工智慧的技術演進,逐漸朝向「高模仿力」發展,有心人士可以藉由大量資料來創造以假亂真的影視音內容,AI的深度造假(Deep Fakes)能力,將成為資訊安全的勁敵而高模仿能力則源自深度學習的生成對抗式網路(Generative Adversarial Network,GAN),衍生讓AI擁有「換臉」與「模仿聲線」的能力,難以辨識的深度造假。

 為了更有效對抗GAN技術對資訊安全的威脅,臉書、微軟都提供高額獎金,懸賞能夠研發出「辨識假影像」技術的團隊,Google則提供「合成語音資料庫」、「Deep Fake影片檢測資料庫」,包括28個場景、3,000多段的真實演員現場拍攝影片,期許能透過揭露大量真實資料來鼓勵更多的開發者,積極投入開發新的「影視音造假資訊」檢測工具。

 MIC表示,隨著AI技術愈來愈親近使用者的終端載具,未來勢將出現更多難以辨認來源出處與真實性的假影音、假新聞,除了考驗大眾的媒體識讀能力,同時也考驗國家與企業,是否具備假影音辨識技術與能力,才能防範更多的詐騙與資安危機。(新聞來源:工商時報─吳筱雯/台北報導)