39歲的李娟枝（Lee yeonjee）是韓國一家公益組織的發起人和CEO。她正在和蔓延全國的“深度偽造性犯罪”戰斗。

有分析指出，把女性面部合成到不雅視頻中并大肆傳播的“深度偽造性犯罪”，已讓韓國女性“陷入恐慌”，類似事件會讓女性失去日常生活的安全感。

今年5月，首爾大學畢業生涉嫌利用深度偽造技術換臉合成色情照片和視頻，在社交媒體“電報”上建立了近200個網絡聊天室，共參與制作、傳播約1700份非法照片和視頻。

3個月后，韓國仁荷大學再次發生深度偽造性犯罪的案例。超過1200名參與者在“電報”上合成深度偽造色情圖像，并利用這些內容對女性進行敲詐和羞辱。8月下旬，韓國媒體報道稱，“電報”上出現大量與全國多地學校相關的聊天群組，用戶上傳他們認識女性的照片，其他用戶會將這些照片轉換成深度偽造色情內容，還有針對特定受害者的“羞辱房”。

初步調查顯示，受害者80%為女性，犯罪活動已經在初高中生等未成年人、大學生、教師和護士等群體中蔓延，甚至連女性軍人都是受害人。

這樣的新聞極大地沖擊了李娟枝，她看到有人在社交媒體平臺X上發布消息調查“羞辱房”，找人幫忙揭露內部情況。李娟枝假裝自己是男性用戶，潛入其中，收集信息。她發現即便是在免費的房間里，非法深度偽造色情內容的傳播也已經非常嚴重。

李娟枝將收集到的視頻和截圖集中匯集給一起工作的同伴，由她統一轉交給調查人員。略顯安慰的是，李娟枝聽說，她們提交的材料幫助在部分案件中確認了涉案人員的身份。

“羞辱房”里的內容讓李娟枝十分不適，甚至一度惡心到無法入睡，但她仍在繼續行動。一方面，在線上開展請愿活動，要求強化懲戒標準；另一方面，在街頭舉行抗議活動。“政府必須采取堅定的立場來打擊犯罪，執行‘零容忍’的懲治法律。”李娟枝說。

線上線下的抗議

9月6日晚上7點，首爾夜幕降臨，淅淅瀝瀝下著小雨，李娟枝按照約定的時間來到了鐘路區普信閣附近。過了一會兒，抗議活動正式開始，團體代表和個人率先上臺宣讀了各自的聲明，隨后，她們一行五六百人舉著黑底白字的標語，走上街頭。

當晚參與抗議的人包括現任教師、性教育組織、婦女團體和在校學生，她們高喊著“讓我們過上沒有恐懼和焦慮的生活”“監管推廣深度偽造性犯罪的平臺”“我們將推翻歧視女性的深度偽造”等口號。

抗議持續了約兩個小時。李娟枝說，她和同伴們還計劃9月21日在惠化地鐵站舉行第二場抗議，各地已經開始聯系租借大巴車，屆時會統一運送各地的抗議者到首爾來。

線下的街頭抗議與韓國女性在線上社交媒體的發聲遙相呼應。自深度造假性犯罪的新聞報道引發韓國輿論重視以來，由于擔心此次事件會被輕輕揭過，許多韓國女性在社交媒體上積極發聲，使用“學校數字性犯罪”“公開深度偽造性犯罪者”“保護女性”等話題標簽，推動“深度偽造性犯罪”的新聞得到全球關注，還有多名韓國女性通過中國互聯網發出求助信息。

“目前來看，這次‘標簽抗議’活動取得了不錯的成效。9月1日，包括‘公開深度偽造性犯罪者’在內的標簽在社交媒體平臺X上實現了爆發，一共發布了60多萬條帖子，全球實時趨勢排名第二，也占據了韓國實時趨勢的前兩位。”李娟枝說。

線上線下聯動造勢外，李娟枝還開始調查研究涉及深度偽造性犯罪的處罰法案。其中，“以傳播為目的”幾個字尤其引起她的注意。有一篇分析文章認為，難以懲罰這些深度偽造性犯罪者的原因之一，在于很難證明他們有傳播意圖。

聯想到此前韓國發生的“N號房”事件，除了少數關鍵罪犯，大部分人都沒有受到懲罰。李娟枝意識到，正是現存法律體系存在漏洞，才讓大規模深度偽造性犯罪成為可能。

在李娟枝潛入所謂的“羞辱房”期間，她發現盡管每個群組房間略有不同，但參與者通常需要提供一名女性的10張照片才能進入群組或合成一張照片，這為深度偽造提供了新的受害目標。部分群組房間會免費合成一次，接下來需要參與者提供“加密貨幣”或邀請新的男性進入房間，以繼續使用該服務。還有群組房間會張貼出“需提供300張女教師的照片”“高中生優惠”等告示。

“羞辱房”也會想辦法確認其參與者的性別。有的群組房間會要求想入群的人將1韓元存入某個銀行賬號，通過銀行賬戶存款名確認新入群人士是否為男性。

一些參與者會被收取費用以合成深度偽造圖像或視頻，還有人通過銷售深度偽造內容獲利，“電報”本身也會在用戶較多的房間里產生廣告收益。“他們就像犯罪組織一樣分享利潤。”李娟枝說，他們是由利益驅動的組織，不存在“被動觀眾”的概念。

由此，她產生了向國會請愿的想法。李娟枝要求將這些群組房間中的所有參與者都視為犯罪組織成員，并受到懲罰。因為韓國的法律只允許臥底調查涉及兒童及青少年的案件，她同樣希望請愿制度能夠改進，允許臥底調查涉及成年人的性犯罪案件。

韓國女性自發將“深度偽造性犯罪”相關內容翻譯成不同語言在全球傳播。新京報動新聞視頻截圖

人工智能加持下“輕松的深度偽造”

位于深度偽造性犯罪丑聞中心的是即時通訊應用軟件“電報”。

這是一款加密的消息應用程序，用戶通常是匿名的，房間可以設置為“保密”模式，內容會被迅速刪除，不留任何痕跡。原本“電報”這一設計是想要保護用戶的言論隱私，結果卻成了犯罪行為猖獗的主要場所。

用于制作深度造假內容的技術也不難獲得。美國紐約州立大學布法羅分校計算機科學與工程系教授呂思偉（Siwei Lyu）對新京報記者解釋稱，“deepfake”一詞本身就是深度學習（deep learning）和虛假媒體（fake media）的混合詞，指的是使用依賴于深度神經網絡模型的生成式人工智能模型創建的多媒體文本，其中包括文本、音頻、圖像與視頻。生成式人工智能系統可以在大量無標記數據上進行訓練，這些模型已足以生成令人信服的內容。因此，技術門檻被極大降低。

“有了人工智能技術，可以輕松、快速且廉價地生產深度偽造的視聽材料，它本可以用于更有益的方面，例如電影、零售行業等。”荷蘭蒂爾堡大學法律、技術與社會研究所副教授巴特·范德·斯魯特（Bart van der Sloot）說，不幸的是，深度偽造技術最常見的應用是色情內容，“尤其當年輕女孩成為受害者，這可能導致災難性的結果。”

2019年一份調查深度偽造用途的報告發現，96%的線上深度偽造內容與色情有關，這一數字仍有增加的趨勢。

以目前來看，打擊深度偽造也存在不少障礙。斯魯特發現，生成深度偽造色情內容時，受害者本人往往并不知情，而且內容也只有通過網絡得到傳播后，才會被外界發現并采取行動。網絡上有如此多的深度偽造色情內容，執法部門也很難評估這些內容是否得到了當事人的同意，其中究竟是真人還是人工智能生成的人。即便找到犯罪者，確認受害者并刪除材料，這時傷害往往已經造成，一切都太晚了。

李娟枝認為，事后追蹤只是“亡羊補牢”，應該從源頭加強平臺層面監管，“如果犯罪分子隱藏在一個匿名平臺之中，那么這個平臺就將成為犯罪的溫床。”

針對具體措施，呂思偉認為，短期而言，應出臺系列政策和法規，禁止或限制旨在產生有害影響的深度偽造內容。長期解決方案還是應回歸技術本身，需要進一步開發用于自動檢測、刪除或跟蹤深度偽造內容的技術。

深度偽造性犯罪引發韓國社會討論后，當地時間9月2日，韓國警察廳國家搜查本部本部長禹鐘壽在例行記者會上表示，警方以涉嫌“幫助深度偽造性犯罪”著手對社交媒體平臺“電報”實施立案前調查。“電報”自己也發聲承諾將積極打擊平臺上的有害內容。

始終未解決的“厭女癥”

事件之外，外界開始追問為何韓國成為深度偽造的重災區。

專注于身份盜竊保護的美國初創公司“Security Hero”在2023年發布的一份全球深度偽造報告顯示，韓國是深度偽造色情內容的最主要目標，韓國歌手和女演員占此類深度偽造作品中人物的53%。

韓國的深度偽造性犯罪也日益猖獗，2021年156起，2022年160起，去年增至180起。而今年1月至7月，涉深度偽造的性犯罪案件已達297起。

觀察人士認為，看似突然爆發的深度偽造丑聞，可能一直潛伏于表面之下，反映了長期存在的性別歧視問題。

在經合組織（OECD）國家中，韓國女性受教育程度最高，但勞動參與率卻最低。韓國的性別工資差距在35個經合組織成員國中位列第一，差距為31.2%。

出于“只是覺得有趣”“用熟人的照片更真實”等原因，深度偽造變得像娛樂游戲一樣蔓延。有分析稱，無論是深度偽造性犯罪，還是韓國女性會在衛生間或更衣室遭遇微型隱藏攝像機偷拍，這些都是伴隨技術發展而出現的最新形式的“厭女癥”。

這與李娟枝的觀察也不謀而合。

她最初關注的女性議題并不是深度偽造性犯罪，而是駕駛領域中的性別平等話題。

李娟枝發現，韓國女性在學習開車期間常會遭遇歧視問題。例如，當女性想要拿到一類駕照時（注：一種可以開大車的高級駕照），她們會被勸說改換二類駕照。即便順利拿到駕照，女性也不容易獲得處理交通事故、汽車保險、汽車修理等方面的信息。女性司機往往會因信息不足而對駕駛感到害怕，駕駛技術欠佳的女性也會被蔑稱為“金女士”。

在韓國性別平等與家庭事務部的幫助下，2020年，李娟枝創建了名為“unniecar”的女性駕駛項目，提供講座和書籍，旨在幫助初學駕駛的女性在沒有“男性說教”的情況下，獲得安全準確的信息。這幾年來，李娟枝關注的女性社會議題外延也在不斷擴大，強調保護女性權利。

李娟枝認為，從駕駛歧視，到深度偽造性犯罪。韓國社會中存在的“厭女癥”一直沒有得到有效解決。不僅如此，“厭女癥”還被政治利用，進一步引發了男性群體的怨恨，成為政客招攬選票的一種方式，“如今，有大量十幾歲和二十幾歲的年輕男性在物化和疏遠女性，而非建立平等自然的兩性關系。正是這樣的環境讓‘N號房’和深度偽造性犯罪事件得以出現。”

深度偽造丑聞曝光后，84個韓國女性權利組織簽署了一份聲明，直指歧視才是癥結所在，“造成這種現象的根本原因是結構性的性別歧視，解決辦法是實現性別平等。”

面對層出不窮的案件和社會團體的呼吁，韓國總統尹錫悅出面回應稱，依靠匿名惡意利用深度偽造技術是犯罪行為，希望有關部門展開徹底調查，徹底根除這種數字技術犯罪。

韓國政府也有計劃加強對深度偽造性犯罪行為的處罰。韓國執政黨國民力量黨政策委員會主席金相勛表示，國民力量黨和韓國政府計劃推進立法，將散布虛假視頻等犯罪行為的最高刑罰從5年提高至7年。

不過，李娟枝對韓國政府的承諾仍有疑慮，擔心行動會否落到實處。

這份疑慮也并非毫無依據。2022年競選總統期間，尹錫悅一直否認韓國存在結構性性別歧視，將低生育率現象歸咎于女權主義，聲稱要對虛假的性侵報告給予更嚴厲的懲罰。尹錫悅上臺后，韓國政府還推動將“性別平等”一詞從學校教科書上刪除，取消了反對日常性別歧視項目的經費。

“長期以來，我沒有看到政府出臺解決性別歧視的政策，反而他們是在破壞性別平等行動取得的進展。”李娟枝表示，韓國出生率已經降到世界最低水平之一，如果不認真解決“厭女癥”，性犯罪還將繼續上升，如果性犯罪不受到嚴厲懲罰，未來罪犯利用新技術犯下更復雜的罪行，那時韓國社會根本無法準備好。

斯魯特表示，從根本上應對深度偽造性犯罪，各環節聯動或缺一不可。政府需要將應對工作作為優先級，有明確的懲罰標準，設立標桿案件，若有必要可以專門建立一支應對深度偽造性犯罪的小隊。學校和工作場所也需要展開有關“非同意網絡色情”的教育。網絡提供服務者需要監控平臺，阻止傳播任何深度偽造色情內容，警告用戶一旦通過他們的服務平臺傳播深度偽造色情內容，他們將被永久移除。

9月7日，李娟枝告訴新京報記者，她向國會提出的請愿已獲得所需的5萬人同意，韓國政府有關部門有義務對請愿做出回應。

球已被踢到韓國政府一側，“我很期待他們接下來的行動。”李娟枝說。