【大人物時代】耳聽三分虛，眼見未為真

史書華，你的玩笑一點都不好笑！

AI換臉技術引危機

台灣拳后林郁婷出戰2024巴黎奧運，因哈利波特作者J.K羅琳（J.K. Rowling）質疑性別，掀起性別認定爭議，網紅盾牌牙醫史書華日前在臉書上發出將林郁婷的臉，更換成自己的臉的照片，在貼文中寫道:”這個才是男的，JK羅琳可能看錯了”，結果這張圖反而被廣傳，變成拿來誤導攻擊林郁婷性別的工具，引發網友不滿，史書華事後刪文並向林郁婷致歉。

這已經不是史書華第一次因為變臉引起爭議，之前他就因為開團銷售名錶，在宣傳圖盜用「壯闊台灣聯盟」理事長吳怡農的形象照而公開道歉，這一次，他認為的一個玩笑，反而讓林郁婷爭議越燒越大。從這幾個事件，也讓我們更需要來檢視，AI技術發展與控管機制，是一個重要議題。

AI換臉技術的發展，最早主要依賴傳統的電腦視覺和圖像處理技術，效果有限且不自然。直到2017年DeepFakes深偽技術的出現，基於深度學習算法，能夠生成更逼真的換臉影片，成為AI換臉技術的一個重要里程碑。而後各種更先進的AI換臉算法和應用相繼問世，如FaceSwap、DeepFaceLab等，換臉效果越來越自然，操作也更加簡單。許多公司也開發出面向一般用戶的AI換臉APP，如Reface、Wombo等，並應用於電影製作、廣告等商業領域。

隨著AI換臉技術演進，也出現技術濫用問題，主要表現為三種形式：色情犯罪、誹謗和謠言以及電信和金融詐騙。人工智慧換臉技術最早也是最普遍的應用是在色情行業，透過知名人物引起大眾好奇心，產生了大量的流量。今年初，一系列美國知名歌手Taylor Swift(泰勒絲) 的露骨色情圖片開始在多個社群媒體平台上瘋傳。大多數主要平台都禁止分享造成傷害、混亂或欺騙的合成和數位操縱媒體，包括深度偽造色情內容。這包括透過照片編輯軟體創建的圖像。儘管如此，一張描繪泰勒絲的 Deepfake在從X中刪除之前的17小時內還是被瀏覽了4700萬次。

除了色情產業，在選戰上的操作也是另一個濫用點。今年是美國大選年，美國新聞週刊（Newsweek）曾做了一份有趣的民調，詢問泰勒絲的意見是否能左右2024總統大選，結果有近兩成（18%）的受訪者同意，他們非常有可能會投給泰勒絲支持的候選人，如果用Taylor Swift加Trump在社群媒體上搜尋，可以發現許多難分真偽的泰勒絲挺川普影片，特定人士試圖透過泰勒絲的影響力，來影響大選結果。

尤其是在經過川普槍擊事件，美國總統大選可能會更加激烈，原本人們就擔心人工智慧深度造假可能會被用來誤導選民、加劇分裂和煽動不和。美國聯邦通訊委員會主席傑西卡·羅森沃塞爾 (Jessica Rosenworcel)提出了一項新規則，要求政治電視、視訊和廣播廣告披露是否使用人工智慧產生的內容。

已公開表示支持川普的X執行長馬斯克，在他的X帳戶上轉發了一段網路影片，爭議的是，該影片已使用人工智能進行了修改，用美國民主黨總統提名人Kamala Harris(哈里斯)自己的聲音做出仿她的言論。這段深度造假影片暗示哈里斯對美國總統拜登和她自己的資歷，發表了貶低性言論，仿哈里斯的演說將拜登描述為衰老的人，並宣稱她自己不知道管理國家的首要任務，只是因為性別及膚色成為政治上的終極選擇，該影片最初由與保守派播客克里斯·科爾斯 (Chris Kohls) 相關的 X 帳戶發布，並被貼上「模仿」標籤。但馬斯克的轉發並沒有做出這樣的披露，只是說：”這太棒了”，並附上了一個大笑的表情符號。馬斯克的轉發獲得了超過 1.3 億次瀏覽，而網路上也出現了許多因為看了這些造假影片而挺川普的言論。直到目前，這個貼文依然留在馬斯克的個人頁面上。

靠完善相關法律法規，加強公眾教育來抵擋某些人的惡意！

其實台灣選民對此也不陌生，在今年總統大選前，Youtube也曾出現「賴清德回應藍白合」影片，內容出現賴清德說不管藍或白都是台灣的民意主流。自從生成式人工智慧工具的流行以來，媒體格局已經發生了重大轉變，這樣的內容已經夠先進，普通觀眾很難區分許多假影片和現實，而且它已經激增到幾乎任何擁有智慧型手機的人都有能力產出。儘管有自我監管，但由於每天發布的內容數量龐大，人工智慧操縱的內容未帶標籤的出現在各平台上，不管是人工智慧產生的垃圾郵件還是大量人工智慧圖像，都很難找到所有內容。

如果放任不管，深度造假很容易被用來謀取個人、職業或政治利益。在政治上，可以被用來作為政治運動的一部分來抹黑對手，更可能被用來瓦解大眾對主政者的信任感，作為外國干涉和顛覆的工具。

曾經，我們防範的是假新聞、闢謠，但現在，所看到的影片或號稱某人說的話都不一定可信，為了應對這些風險，我們需要在技術發展、法律規範、道德倫理等多個層面採取措施，靠完善相關法律法規、開發AI換臉檢測技術、加強公眾教育來抵擋某些人的惡意。

（圖片來源：threads、三立新聞截圖；示意圖製作：放言視覺設計部  林巧雯）