商周三月專欄訪談唐鳳部長逐字稿
-
-
唐鳳我們剛剛講的是投資詐騙,以及主動去掃描內容。這個部分也是我們資安院在做,但不是資安院裡 AI 評測中心的那群人做,反而是智慧防詐的同仁。其實這些主動掃描的工具,確實我們有開發、也有在用,但它沒有用在 AI 評測中心裡,因為 AI 評測中心主要在處理的是生成式 AI,就是像 GPT 這種東西。但是我們這種掃描名人詐騙的AI,是 discriminatory AI,就是類似「監督式學習 AI」,它並不是 AI 評測中心的範圍。
-
唐鳳我們如果真的要談詐騙的話,就不能以 AI 評測這塊去談。這個概念很簡單,因為詐騙犯不會把他們的模型交給我們評測,只有合法的行業才會送模型來評測。總不會有人說我想要取得數位部發的合法詐騙執照,沒有這種東西。跟一般說我們要用來做醫療診斷,或者要用來做法律服務,需要獲得我們的一個評測報告,才能說服他的客戶,但是一個詐騙集團不需要看我們的評測報告,那個情況完全不一樣。
-
-
唐鳳我覺得還好,因為我們評測的這個報告,其實重點是在幫助受評的單位怎麼樣變得更好,它目前還不是一個像食藥署的那種認證單位,你剛講的比較是要發售之前,要先取得一個證號,所以在網路上登一個藥品廣告時,你要先取得食藥署的證號,所以仿冒食藥署的證號,就會有市場。但是我們現在 AI 模型並不是一個特許事業,我們的評測只是讓它可以變成更好的一個報告,但是並沒有說你沒拿到這個認證就不能上市了,目前沒有這樣子,可能到明年也不會這樣,因此我們這個月可能不容易寫這個部分。
-
-
唐鳳我想目前就是投資理財相關的詐騙,尤其是透過線上的廣告平台。這個目前非常猖獗,不管是 YouTube 或者 Facebook ,大家可能都會看過某某名人帶你來存股、帶你去了解投資等廣告,現在在 YouTube,你可以看到已經有揭露刊登者的名字,但他的名字就會跟名人的名字剛好差一個字,但是音一樣。
-
唐鳳現在在 YouTube 上一定要揭露他的名字,但目前的審核看起來並不是非常嚴謹,以至於一直會有跟名人差一個字的狀況,然後檢舉下架後又重新上架。目前已經通過《投信投顧法》修正案說,如果有被害人——而且這個被害人是看了平台上面的廣告受騙——這個平台廣告即便已經被我們通知,但 24 小時之後都沒有下架,在這些條件都完成的情況下,他被騙多少、這個平台就要賠多少,等於是一個連帶的責任,目前是已經有這樣一個連帶責任的法案在作用中。
-
問比較多這樣的情況,只是民眾實際上有沒有碰到。現在使用者就是消費者,也就是一般大眾,發生這件事情後,他可能去通報 165。整個流程是什麼?也就是比如民眾發現他自己被詐騙了,然後可能去通報 165,再接下來是的整串流程會是怎麼樣?
-
唐鳳我覺得這樣分成兩個不同的方向來談,你在講的比較是已經有犯罪者的情況,他當然是去 165 報案,這部分完全是由警察處理,但因為我們並不是警察、也不是檢察官,我們並沒有調查犯罪的權限。但是,我剛剛在講的是還沒有被害人的,就是他還沒有被騙,他只是看到有一個廣告掛在網路平台上,他進行檢舉後,檢舉平台會不會理他呢?這部分就是我們可以幫忙的,也就是還沒有被害人,但他發現有人被冒用了、或者他就是個名人、或他認識這個名人等等,這個情況就比較像是檢舉的情況,而不是報案的情況。
-
-
-
問我剛才突然想到一個情況,比如像在 YouTube 上面,我可能常常會看到比如哪個名人,然後他可能他的聲音⋯⋯畫面可能就是這個人,畫面下面可能會有一些字幕,字幕可能就是一些詐騙的文字,要大家去跟這個平台聯繫,這是不是目前比較常見詐騙集團利用的手法?
-
唐鳳對,確實因為 YouTube底下可以放廣告的版位,所以事實上是結合這個廣告的推播。你看的是一個正常的影片,但底下可能就推播一個橫式的廣告,你如果把它往上滑的話,可能就會引導你去加入一個 LINE 群組,然後開始跟你互動,確實這現在是很常見的一個樣態。
-
-
唐鳳我們現在有「防詐雷達」,大概從去年 9 月就已經開始開發。我們從一開始的時候就去看廣告商品,是不是直接抄別的商品?這個情況很容易知道是否是詐騙,因為正牌的已有一個知名品牌、賣什麼東西,但如果在一個別的電商平台,或甚至同一個名不見經傳的某個小商家,但是他 PO 出來的那個商品照片完全跟這個有名的一模一樣,而這個有名的賣家已經賣很久了,這個完全是新的,這就不太可能是副品牌,感覺上就是假的。所以這種情況我們會主動找出來,然後也會整理成風險清單,給電商平台去做預防性下架。我們去年 9 月就大概已經掃了 42 萬次,然後有 1.7 萬筆高風險的這個商品,這是電商的部分。
-
唐鳳接下來,我們就把這個技術放到廣告,也就是偽冒名人的這個風險。這大概是今年 1 月才開始的,不到兩個月的時間,也已經掃了 3 萬筆的可疑廣告,我們就透過跨機關的聯防,提供給像 YouTube 或者是 Facebook 這些平台,並且說我們有蒐集到。但可能會可能有個疑問點,就是感覺詐騙的案件一直在往上攀升,特別投資詐騙⋯⋯
-
-
唐鳳我覺得不能這樣講,像我們自己主管的部分就是偽冒電商的解除分期付款詐騙,這部分已經大幅下降,而點數詐騙也大幅下降。這些部分之所以大幅下降,並不是因為詐騙集團的母體變少,而是每一次要犯案的單位成本增加了。一年半以前好比像我們剛成立的時候,其實整天⋯⋯就不講特定哪個電商了,也就是在這些大的電商買書、買東西,幾乎一買你就會接到一堆簡訊,說需要解除分期付款之類,表示他們的物流或者下游的業者,有洩漏個資的情況。
-
唐鳳這部分我們把它整個肅清,也就是變成你的手機號碼根本不提供給物流,這之後基本上到現在這種解除分期付款詐騙,已經消失了,最近五個月都沒有到高風險賣場。所以,我覺得大概不能講母體的大小,而是在講再犯的成本有多高。
-
唐鳳我剛剛講到的投資詐騙就是這樣,我們現在做的這些「智慧防詐雷達」,確實都是在比較後面的,並沒有墊高他的成本,最多就是下架而已。但是我們透過數位簽章,真的可以墊高他的成本,他等於一個被下架之後,要再找另外一個自然人,且願意負法律責任的人頭,他才能夠再上架一次。但他不可能找到那麼多自然人去幫他頂罪,所以這個情況下,他只要被下架一次,再上架就變得非常困難。我們希望這個會期立法院就可以三讀通過,這樣我們就可以來做這方面的防範,尤其針對投資廣告上架前,必須要用數位簽章的這個做法。
-
-
-
唐鳳但是,現在如果有數位簽章,這個人頭還真的得去戶政事務所辦自然人憑證,就算他辦了,他只要被發現一次,我們可以一起下架所有平台,而且下架之後這個人至少有一陣子就不能再用了。所以這個時候等於一次用完之後就沒有了,不像之前那樣子,換個 Gmail 帳號,再發一個電話號碼給他,因為以前都是查電話號碼,一個人可以申請好多支門號,所以至少那幾支門號可以輪流用,但現在因為數位簽章是綁到特定人,所以這個情況下,該帳號就沒有辦法再繼續使用。
-
-
唐鳳本部一成立,我就指示他們來做《電子簽章法》修法,我們也才成立一年半,一般法規的作業期程都是這樣的,因為這裡面還有各部會都要配合的部分。所以我們也有協調,像行動自然人憑證,一般商家本來是不能夠使用的,只有一些特許的像電信、醫療也可以用,這我們也去協調內政部,他們現在也都開放。所以像 Facebook 或 Google 或什麼,如果要接的話,也可以接得起來。
-
唐鳳回答你的問題,一方面法制作業要各部會都同意,甚至司法院也要經過討論,所以本來就是要大概一年左右的時間,這是第一個。第二個,因為有一些技術的配套也要跟上,這個部分我們是完全沒有 delay,都有跟上。所以,我才跟立委說只要三讀通過,剩下的事情我們大概都可以 ready。
-
-
-
唐鳳所以簡單來講就是說,首先內政部就是發自然人憑證或行動自然人憑證的這個單位,他必須要提供程式的 API,就像是程式的插座一樣,給 Facebook 或者是 YouTube 或者是 LINE。當然也不一定只是給這些廣告平台,我們剛講到的電商,有些電商他是叫做 C to C 的電商,就是他的賣家也不是公司或者是行號,賣家也是個人身分,這時也同樣存在一個個人,可以冒充成好幾個賣家的這個問題。
-
唐鳳所以,我們也同時會請內政部看能不能提供給這些 C to C 的賣場,像新的賣家上線的時候,也可以用數位簽章來確定他的身份。所以,內政部提供這個 API、驗證數位簽章的方法,我們剛講到的廣告跟電商平台都可以使用,這是第一件事。
-
唐鳳第二件事情,內政部警政署現在有《投信投顧法》70 條之一的報案辦法,這個辦法的重點是,如果 24 小時不下架就要負連帶責任。我們現在想要跟他們討論說,只要你不做數位簽章,你連 24 小時下架都沒有這個餘裕,要很短、很短的時間內就要下架,不然就要負連帶責任。有數位簽章的,才給你 24 小時的時間去進行這方面下架的工作。在法規命令上,變成給這些平台一個誘因說,你一定要用數位簽章,不然負連帶責任的機率就變得非常高,這是第二件事。
-
-
-
-
唐鳳我覺得應該這樣講,就是說 AI 讓這一類冒充成別人的犯罪成本下降到幾乎於零的程度。以前你需要很擅長騙人的人,才能夠一次冒充成好幾個人,需要這種特殊的才能,但是現在有了 AI 之後,這些都不需要了。
-
唐鳳只要特別是公眾人物,下載他講話的方法及一些公開的發言,任何人都可以瞬間偽冒,因為中間已經不需要特別訓練誰了,所以只要成本下降到這個程度,就很難只靠檢警調調查、再去起訴等等,因為他成本低到這個程度,只要有錢賺,只要有個車手或者是人頭,就可以偽冒成一百個人。
-
-
-
唐鳳我自己也有拍過相關影片,我把自己 deepfake 起來的影片。當時在行政科技會報辦公室,我們那時看到有 deepfake 這件事情,而且知道之後很快就會普及了,所以我請人deepfake 我。在這個情況下,我們可以看到一個結果:真的看過這部片的人,他就比較不會變成那麼容易被騙了。
-
-
唐鳳這個影片網址在這邊,你如果點開的話,會看到一個看起來就不太像我的人,但是也有一點點像,用我的語調來跟大家解釋 deepfake 是怎麼一回事。最後,真的我冒出來,說這個是 deepfake 做的。然而,現在任何人用筆電、花 12 小時,就可以很容易合成這樣的影片。
-
唐鳳這是 2022 年 1 月的影片,從那時到現在,當然 deepfake 更加難以被偵測出來。我的意思是說,與其是我被騙,不如是我讓大家先經驗一次,什麼是 deepfake 的情況,這樣大家在腦裡就會知道眼見不再為憑這樣。
-
-
唐鳳我們當然跟任何人一樣,我有時候看 YouTube 或者我看 Facebook ,有時還是多少會看到一些冒充名人的廣告。但自從我們這兩個月開始做主動式的掃描、智慧防詐之後,我自己碰到機率是越來越少,但是當然有時我同事都會給我看賣藥的廣告又來了,或是存股的廣告又來了等等,當然就是大家日常生活中會碰到。
-
-
唐鳳裡面有一個特別高風險的,就像我們剛剛講的,一個付費廣告最後不是要你去看什麼頻道,也不是要立刻買什麼東西,而是跑到一個 LINE 個人帳號,準備開始跟你一對一聊天,這就是高風險,因為很少想像商家會做這種事情,而且大部分商家都是把你導到電商平台,導到接下來要賣的東西上。因此,若一定要跟你一對一私聊——而且是用一種名人的身份跟你一對一私聊——這就非常可疑,因為大部分並沒有那麼大的空間與時間跟成千上萬個看到廣告的人一對一私聊,這幾乎就可以斷定大概是與 AI 機器人對話。
-
-
唐鳳這些技術都不是什麼特別稀有的技術。我們剛剛講到那個對話機器人,或者是 deepfake 的那支影片,這些都是用公開可得的技術,在一台筆電就跑得起來了。又或者像說我整天在這邊訓練幫我回 email 的模型,差別只是我看過再送出去,那些要偽冒我的,大概都就直接使用了。
-
唐鳳所以我的意思是說成本上,現在只需要一台比較高檔的筆電或是雲端跑即可,而程式碼基本上都是可以免費取得的。資料方面,如果你要偽冒公眾人物,資料事實上是非常、非常容易取得,你只要看我的訪問或者我的相關新聞,就可以產出了。所以這些都不是門檻,也很難說他的技術從哪邊提供的,因為這是任何一般小孩子現在都可以用的。
-
問以往如果回到比較不那麼高科技的方式,好比用 AI 犯罪,可能要取得一般大眾的電話,才可以做這樣的事情。現在是不是就是進入到下一個階段,他只是取得這個畫面,就可以騙到這些對象,所以他要怎麼去找?
-
-
-
唐鳳因為現在詐騙綁在廣告平台上,等於平台是一個擴大器,只要花錢,就可以精準投放,甚至可以專門挑某些特定年齡層或某些特定興趣,如此比較容易被騙那些人去做精準投放,這樣的效率就比隨機的打電話要高很多。所以,可以說精準投放廣告的這些技術,也是幫助那些想要鎖定特定會容易被騙的人群做詐騙,反正更容易達到他們的這個目的。
-
-
唐鳳已經到有被害人的,你就要去問警政署。還沒被害人的,我們這邊會直接跟那個民眾接觸嗎?我們比較會做的是分析部分,比較像是哪些名人正在被偽冒,這個我們就很清楚,或者這個投資類型是可疑的一頁式網站,最後會被導引到那些網頁,特別是跨境一頁式的詐騙,我們成立之前大概一年下架3,000件,成立之後去年整年就3萬多件,等於每天都100件上下。
-
唐鳳以前的詐騙網址後面不是「.tw」的,所以這是以前沒有辦法管的原因,但從去年開始,我們整年下來,你只要點下去那個網址,就會看到 165 的警示訊息,等於我們現在已經可以把這種一頁式連到外面的網站,差不多都會封鎖住,這就是為什麼現在大概都是跑去 LINE詐騙,因為以前這種一頁式網站詐騙的這條路,已經走不太通了。
-
-
唐鳳如果廣告連到 LINE,在有人看到以前,我們每天會掃描1萬筆,因此大概都已經先被掃瞄到。掃描到之後,我們就會提供這個高風險的情資,因此當然詐騙的廣告可以減少。但現在是我們通知之後才下架,未來就可以:如果沒有數位簽章的,我們一通知,平台就要馬上做出判斷,等於有數位簽章的,才等平台 24 小時時間。
-
-
-
-
唐鳳先搶先贏的問題就是:只要手上有那麼多人的個資,就可以一次用一百多人的個資搶,而且只要寫個程式,怎麼樣都搶不過這個人,但如果現在用數位簽章,而不是只是需要個資,還要有自然人憑證,因此除非那一百多個人都把自然人憑證交給你,但這是比較難做到的事情。
-
-
-
-
-
-
-
-
-
-
唐鳳所以我覺得最主要的 quick win,只要數位簽章取得法律效力、只要《電簽法》三讀通過,我們就可以說只要被我們掃描到的,他的再犯率一定就會降到非常低,不那麼容易再犯了,這是很明確、一定可以講的部分。
-
-
唐鳳應該這樣講:如果有人願意承受全部的後果來詐騙,那他也不需要用什麼科技工具,他當面都可以詐騙了,對不對?這個當然還是有。但是,我們要確保像 AI 這樣的技術,不要放大他一個人能夠詐騙的人數,這才是重點。
-
-
-
-
-
-
-
唐鳳如果用來回應民眾檢舉等等,準確性只要低於 90 幾 %,立刻你就造成新的民怨;但是如果詐騙的這個人用生成式 AI 冒充唐鳳,他講了幾句平常不會講的話,那又如何呢?就是對詐騙者完全沒有後果。所以,生成式 AI目前還沒有解決準確性問題,也就是生成式 AI還不是一個百分之百準確的技術,所以生成式 AI目前對攻擊方比較好用,對防守方比較難用。
-
-
唐鳳當然我們如果要提到評測中心,我們可以說希望在評測中心的鼓勵之下,很快就會到達一個準確性完美無瑕的這個狀況,或至少 90 幾 % 的狀況,如此我們用它來流線化辦案,讓它自動分析,這就變得越來越好等等。
-
問其實我最後想要問的問題是,因為我在想的是這個故事,不能說這個是故事,但這就是民眾心中的問題,我們要用最簡單、易懂,且最有張力的方式來形容,也就是AI 能載舟也能覆舟的感覺,所以我剛才會講它是不是跟原力一樣,也就是我在想用什麼方式來形容它。
-
-
唐鳳我自己常常用的比喻,比較像 AI shapeshifter,讓它變成變形人、變身人,就是讓一個人變形、變身得非常容易,它可以很容易地去冒充另外一個人等等。這種技術當然有好的用法,好比像用在拍電影上,就比較不需要找替身了,或用在畫插畫上,或用在讓已過世的歌手又可以出來發唱片等等,生成式 AI有一些好的用法,但是它大部分的用法真的是對壞人比較有利的。
-
唐鳳所以我倒不會把它講成水能載舟、亦能覆舟,或者是端看你怎麼使用。我們在講的是這套方式,詐騙者就是利用我們在社會信任上面的一些漏洞進行詐騙,因為我們通常看到人,是眼見為憑,所以我們會覺得隔著網路,只要聽到聲音或者看到視訊,就會相信對方是一個人,除非對方開始露出破綻、露出馬腳,比如像臉轉過去突然出現縫線之類的畫面;但現在 AI 已經發展到轉過去不會出現縫線了。
-
唐鳳很多這種我們覺得眼見為憑,我們相信對方是一個人的這些判斷,其實已經失準了。所以,我們現在才要退到用數位簽章來判斷,因為看它寫的內容、看它講話的語氣,這些都已經不再能判斷了;所以確實是有一種好像是某個險要守不住,所以我們就撤退到這個後面的一線碉堡上的感覺。
-
唐鳳所以不是水能載舟、亦能覆舟,我們本來還在戰場上在那邊運用 AI,因為那樣子比較像:我們是不是發明 AI 來偵測看起來像偽造的 AI,也就是「用 AI 來偵測 AI」,但是事實上目前的研究都顯示,尤其在對話這種文字的形式裡,就是非常容易偽造,而幾乎不可能偵測,所以我盡量不這樣描述。
-
問了解,不好意思,我再問最後一題。剛才有提到我們現在只能整理出哪一些人很容易被偽造,可以幫我們舉幾個特徵或例子嗎?就是什麼樣的人,比方說可能是在社會上特別具有公信力等等,可以整理出這樣的特點,讓我們知道誰較容易被偽冒嗎?
-
-
-
發布單位:數位發展部
建立日期:2024-03-11
更新日期:2024-03-25