被捕一個(gè)月后杜羅夫向監(jiān)管讓步，英網(wǎng)絡(luò)法專家回應(yīng)

僅僅一個(gè)月里，社交平臺(tái)“電報(bào)”創(chuàng)始人杜羅夫態(tài)度“大轉(zhuǎn)彎”。

今年8月24日，杜羅夫在法國(guó)巴黎被捕。法國(guó)政府相關(guān)部門(mén)稱，正調(diào)查“電報(bào)”上涉及詐騙、販毒、有組織犯罪等不法行為，他未能采取措施阻止這些罪行。

9月23日，多年來(lái)一直強(qiáng)調(diào)“言論自由”、拒絕監(jiān)管的杜羅夫做出了讓步。

據(jù)環(huán)球網(wǎng)9月23日?qǐng)?bào)道，杜羅夫表示，“電報(bào)”正做出改變，努力減少平臺(tái)上的犯罪活動(dòng)。其中最主要的是，該平臺(tái)更新其服務(wù)條款和隱私政策，會(huì)根據(jù)有效的法律要求向執(zhí)法部門(mén)移交違規(guī)用戶的IP地址和電話號(hào)碼。

杜羅夫態(tài)度轉(zhuǎn)變的背后，是一個(gè)無(wú)解卻緊迫的難題：社交平臺(tái)監(jiān)管。在法國(guó)的另一邊，今年7月29日，英國(guó)紹斯波特鎮(zhèn)的持刀襲擊案后，網(wǎng)絡(luò)上有關(guān)“兇手是穆斯林”的虛假信息，一度在英國(guó)多地引發(fā)了反移民、反穆斯林的全國(guó)性騷亂。

當(dāng)時(shí)，英國(guó)國(guó)內(nèi)有聲音呼吁應(yīng)盡快施行2023年已獲批成為法律的《在線安全法案》（Online Safety Act，下文簡(jiǎn)稱《法案》），以打擊網(wǎng)絡(luò)非法內(nèi)容。根據(jù)英國(guó)政府計(jì)劃，《法案》將于2025年全面生效。

作為推動(dòng)《法案》落地的專業(yè)人士之一，英國(guó)埃塞克斯大學(xué)網(wǎng)絡(luò)法教授伍茲（Lorna Woods）在媒體政策、通信監(jiān)管領(lǐng)域有著豐富的經(jīng)驗(yàn)，并于2020年獲得大英帝國(guó)官佐勛章（OBE）。

在伍茲看來(lái)，杜羅夫被捕與歐盟成員國(guó)本國(guó)法律有關(guān)，目前歐洲整體的監(jiān)管政策并不過(guò)于嚴(yán)格。

伍茲近期接受澎湃新聞采訪時(shí)表示，總體上，網(wǎng)絡(luò)安全管理機(jī)制在于改善網(wǎng)絡(luò)環(huán)境。至于如何應(yīng)對(duì)危機(jī)，仍值得思考。

杜羅夫案后，科技巨頭還敢去歐洲嗎？

澎湃新聞：杜羅夫此前在法國(guó)巴黎被捕。您如何看待科技公司高管，和對(duì)平臺(tái)內(nèi)容責(zé)任之間的關(guān)系？

伍茲：(對(duì)杜羅夫被捕)有點(diǎn)難評(píng)論，因?yàn)槲也恢乐缚氐募?xì)節(jié)，而且我不是法國(guó)律師。

從更廣泛的角度看，我考慮的是平臺(tái)豁免權(quán)的問(wèn)題。自2000年以來(lái)的通常情況是，信息傳遞時(shí)作為中間機(jī)構(gòu)之一的社交平臺(tái)通常不應(yīng)對(duì)其用戶的行為負(fù)責(zé)。

但在歐盟，這種豁免權(quán)是有條件的，特別是互聯(lián)網(wǎng)的托管服務(wù)。托管服務(wù)必須保持中立，且不了解托管的內(nèi)容。（注：根據(jù)互聯(lián)網(wǎng)托管服務(wù)，組織或個(gè)人可以向互聯(lián)網(wǎng)提供內(nèi)容。）

因此目前的爭(zhēng)論點(diǎn)是，當(dāng)托管服務(wù)是犯罪的一部分時(shí)，那么服務(wù)就不是中立的。這就帶來(lái)了一個(gè)問(wèn)題，即在這種情況下，我們?cè)趺纯创?ldquo;不中立”。

通常情況下，由于我們有言論自由的權(quán)利，將引用別人發(fā)的帖子視為犯罪行為是在沒(méi)有其他辦法時(shí)才會(huì)采取的做法。當(dāng)然，言論自由并不是無(wú)限的，這種措施有一定道理，但實(shí)施時(shí)更需要看重公共利益，比如涉及到恐怖主義、虐待兒童等因素時(shí)。

另一個(gè)問(wèn)題，根據(jù)我的理解，一些針對(duì)科技公司的指控可能與他們不遵守監(jiān)管調(diào)查有關(guān)。這與他人言論無(wú)關(guān)，而是這些公司自行采取的行動(dòng)。這種行為作為違法的例子并不少見(jiàn)。

在《法案》中，有針對(duì)不配合英國(guó)通信管理局（Ofcom）調(diào)查行為進(jìn)行處罰的規(guī)定，這些規(guī)定是針對(duì)科技公司的董事和高級(jí)官員的。在最糟糕的情況下，一個(gè)人可能會(huì)被監(jiān)禁，但通常不會(huì)超過(guò)2年；一般而言，更可能的處罰是罰款。

《法案》還規(guī)定，如果有公司被要求遵守與兒童保護(hù)相關(guān)的義務(wù)，但在無(wú)合理解釋的情況下沒(méi)有這么做，可能構(gòu)成犯罪。比如科技公司需向英國(guó)國(guó)家犯罪局（NCA）報(bào)告，關(guān)于兒童性虐待內(nèi)容的材料。

澎湃新聞：總體上看，您怎么看待歐盟對(duì)科技公司的監(jiān)管？您如何比較歐盟人工智能/技術(shù)相關(guān)的法案與美國(guó)《通信規(guī)范法》第 230 條（旨在保護(hù)互聯(lián)網(wǎng)公司免于對(duì)第三方在其平臺(tái)上發(fā)布的內(nèi)容承擔(dān)責(zé)任）？以歐洲為例，如何評(píng)估當(dāng)前的法規(guī)是否過(guò)于嚴(yán)格？

伍茲：與美國(guó)《通信規(guī)范法》第230條有最明顯比較的是，歐盟的《電子商務(wù)指令》（注：本指令試圖通過(guò)確保成員國(guó)之間信息社會(huì)服務(wù)的自由流動(dòng)，來(lái)促成內(nèi)部市場(chǎng)的正常運(yùn)行）和《數(shù)字服務(wù)法》。

《數(shù)字服務(wù)法》沿用了《電子商務(wù)指令》中的中介豁免條款。和美國(guó)不同，根據(jù)歐盟的這些法案，雖然平臺(tái)上第三方內(nèi)容被授予了豁免權(quán)，但豁免權(quán)是有條件的。

比如，平臺(tái)收到了有關(guān)（平臺(tái)）內(nèi)容的通知，但沒(méi)有采取任何行動(dòng)，那么平臺(tái)所在的公司，將失去與上述內(nèi)容相關(guān)的豁免權(quán)?；砻鈾?quán)只授予所謂的“中立中介”。

《數(shù)字服務(wù)法》延續(xù)了這一點(diǎn)，并禁止要求服務(wù)提供商對(duì)內(nèi)容進(jìn)行普遍監(jiān)測(cè)。該法案中還參照了美國(guó)法律中“好心人”的概念（注：“好心人”為good Samaritan，指的是在緊急狀態(tài)下，施救者因其無(wú)償?shù)木戎袨椋o被救助者造成某種損害時(shí)免除責(zé)任的法律條文）。

我不認(rèn)為歐盟在這方面非常嚴(yán)格，引入“好心人”條款或許是件好事。否則，這些服務(wù)提供商或許會(huì)擔(dān)心，他們不了解內(nèi)容卻貿(mào)然施措，會(huì)失去作為“中立中介”擁有的豁免權(quán)。

澎湃新聞：監(jiān)管機(jī)構(gòu)是否會(huì)特別關(guān)注像扎克伯格、馬斯克這樣的科技巨頭？在歐洲監(jiān)管較為嚴(yán)格的背景下，他們還敢去歐洲嗎？

伍茲：《數(shù)字服務(wù)法》特別關(guān)注非常大的在線平臺(tái)（例如Facebook、Instagram、X）和非常大的搜索引擎（例如谷歌搜索），給這些平臺(tái)所屬的公司帶來(lái)了額外的義務(wù)。

就這些公司的所有者或者首席執(zhí)行官的責(zé)任而言，《數(shù)字服務(wù)法》沒(méi)有對(duì)他們施加刑事義務(wù)。

然而，正如我們?cè)诙帕_夫被捕的案例中所看到的那樣，每個(gè)歐盟成員國(guó)的本國(guó)法律可能有所不同。我不知道不同法律會(huì)讓事態(tài)如何發(fā)展，或許需要對(duì)這些不同的法律有更詳細(xì)的了解。

如何適度打擊在線不法行為？

澎湃新聞：《法案》中，并沒(méi)有針對(duì)打擊虛假信息或不實(shí)信息的相關(guān)立法，僅關(guān)注了“仇恨犯罪”。今年7月英國(guó)紹斯波特鎮(zhèn)持刀襲擊案發(fā)生后，有關(guān)“兇手是穆斯林”的假消息進(jìn)一步發(fā)酵為英國(guó)全國(guó)性騷亂，虛假信息成為英國(guó)社會(huì)面臨的一大重要問(wèn)題。

在《法案》全面實(shí)施前，是否更應(yīng)關(guān)注《法案》會(huì)如何運(yùn)作，而不是對(duì)其可能帶來(lái)的潛在影響有過(guò)高期待？

伍茲：盡管《法案》確實(shí)設(shè)想成立一個(gè)委員會(huì)，就打擊虛假信息和錯(cuò)誤信息向（獨(dú)立監(jiān)管機(jī)構(gòu)）英國(guó)通信管理局提供建議，但《法案》中沒(méi)有明確規(guī)定如何處理這些信息。

如果虛假信息符合《法案》中“對(duì)兒童有害的內(nèi)容”（比如通過(guò)喝漂白劑的方式治療新冠）或“非法內(nèi)容”（比如境外干涉或欺詐罪）的定義，那么當(dāng)局仍可對(duì)其進(jìn)行打擊。

簡(jiǎn)單來(lái)說(shuō)，《法案》要求建立一個(gè)有效的服務(wù)機(jī)制，這個(gè)機(jī)制包括一個(gè)申訴流程。這意味著一旦社交平臺(tái)收到通知，說(shuō)有不當(dāng)信息出現(xiàn)，它們必須能夠快速地刪除這些內(nèi)容。我認(rèn)為這樣的改變很有必要，因?yàn)楹芏鄬?duì)社交平臺(tái)服務(wù)的不滿都來(lái)自于這些公司處理投訴的速度慢、效果差，而且處理過(guò)程不公平。

這些公司必須努力確保用戶不會(huì)遇到與被列為“重點(diǎn)犯罪”的罪行（如境外干涉罪或仇恨言論罪）有關(guān)的內(nèi)容。比如，不能在算法上推廣此類內(nèi)容。

但比較明顯的缺陷是，這不適用于所有平臺(tái)，且對(duì)平臺(tái)的服務(wù)條款沒(méi)有最低要求。目前，對(duì)于“A類”平臺(tái)（注：即風(fēng)險(xiǎn)高、用戶對(duì)用戶覆蓋率最高的網(wǎng)站，如社交平臺(tái)），一旦出現(xiàn)錯(cuò)誤或虛假信息，平臺(tái)將就此執(zhí)行相關(guān)服務(wù)條款，對(duì)有關(guān)內(nèi)容采取行動(dòng)。

《法案》生效后可能會(huì)有所不同，但我不認(rèn)為這能夠全面回應(yīng)所有問(wèn)題，特別是那些“合法但有害”的內(nèi)容。

這其中可能還存在如何定義非法內(nèi)容的問(wèn)題。目前英國(guó)有一條法律，即某人在已知的前提下分享虛假信息，意圖造成重大傷害，屬于刑事犯罪。我們尚不確切了解怎么解釋該罪名的構(gòu)成要素。紹斯波特鎮(zhèn)騷亂發(fā)生后，已經(jīng)有兩人因此罪名被捕。

另一點(diǎn)需要注意的是，網(wǎng)絡(luò)安全的管理制度是為了改善網(wǎng)絡(luò)環(huán)境，而不是作為一種危機(jī)應(yīng)對(duì)機(jī)制。也許這個(gè)問(wèn)題值得更多思考。

澎湃新聞：根據(jù)《法案》，獨(dú)立監(jiān)管機(jī)構(gòu)Ofcom將有權(quán)對(duì)不遵守新規(guī)的科技公司采取行動(dòng)。在此背景下，是否會(huì)出現(xiàn)Ofcom監(jiān)管時(shí)濫用權(quán)力的情況？

伍茲：Ofcom此前在監(jiān)管廣播、視頻點(diǎn)播、電信和郵政等方面有良好記錄。該機(jī)構(gòu)經(jīng)驗(yàn)豐富，基于決策和咨詢，有完善的制定和實(shí)施政策的程序，同時(shí)還有問(wèn)責(zé)機(jī)制。

《法案》中包括（科技公司）質(zhì)疑Ofcom決定的條款：首先，可以在競(jìng)爭(zhēng)上訴法庭（Competition Appeals Tribunal）提出相關(guān)訴求。該法庭的職能是審理和裁決涉及競(jìng)爭(zhēng)或經(jīng)濟(jì)監(jiān)管問(wèn)題的案件，能夠處理通信領(lǐng)域的相關(guān)問(wèn)題。

其次，還可能出現(xiàn)超級(jí)投訴。這指的是，當(dāng)有社會(huì)公民團(tuán)體認(rèn)為，Ofcom忽視了一個(gè)市場(chǎng)層面的問(wèn)題時(shí)，代表社會(huì)某個(gè)部門(mén)的這個(gè)公民團(tuán)體可以向Ofcom發(fā)起挑戰(zhàn)（因此這與個(gè)案無(wú)關(guān)，且不等同于集體訴訟）。

此外，可以通過(guò)英國(guó)的司法審查機(jī)制質(zhì)疑Ofcom的決定，且Ofcom必須就此向英國(guó)議會(huì)報(bào)告。

澎湃新聞：由于各方對(duì)于“傷害”的定義可能有所差距，尤其是《法案》中提及的、較為抽象的心理傷害，根據(jù)您的判斷，今后OpenAI、谷歌等科技公司和Ofcom之間的訴訟會(huì)否越來(lái)越多？從您的角度看，在《法案》中，怎么定義心理傷害、非法言論是最確切的？

伍茲：未來(lái)很可能會(huì)有此類訴訟。從目前科技公司應(yīng)對(duì)其他監(jiān)管措施（比如歐盟的《數(shù)字服務(wù)法》）的方法來(lái)看，這有可能。

許多人提及了對(duì)“危害”的定義可能會(huì)是一個(gè)難點(diǎn)，但這不是新的概念。Ofcom必須確定通信領(lǐng)域所謂的有害內(nèi)容指的是什么。

Ofcom已經(jīng)委托其他機(jī)構(gòu)對(duì)這個(gè)問(wèn)題進(jìn)行研究，并在制定其指導(dǎo)方針時(shí)遵循了研究結(jié)果。目前，質(zhì)疑Ofcom對(duì)有害內(nèi)容定義的挑戰(zhàn)，都沒(méi)有成功。不過(guò)，如果未來(lái)出現(xiàn)進(jìn)一步（針對(duì)Ofcom的）訴訟，可能會(huì)推遲《法案》的全面實(shí)施。

澎湃新聞：根據(jù)《法案》，平臺(tái)需要更明確地表明，其允許哪些類型的潛在有害內(nèi)容（即合法但有害的內(nèi)容）。同時(shí)平臺(tái)要讓用戶對(duì)他們想看的內(nèi)容類型有更多控制權(quán)。因此，平臺(tái)需要通過(guò)算法分析其用戶（成年人）對(duì)于內(nèi)容的偏好。

在這種情況下，是否存在平臺(tái)侵犯用戶隱私的可能？《法案》全面實(shí)施后，隱私會(huì)否成為一個(gè)討論度較高的議題？

伍茲：作為一個(gè)公共機(jī)構(gòu)，Ofcom必須遵守英國(guó)的《人權(quán)法案》，《人權(quán)法案》中包括了《歐洲人權(quán)公約》第8條關(guān)于隱私保護(hù)的相關(guān)內(nèi)容。

《法案》承認(rèn)可能存在數(shù)據(jù)保護(hù)的問(wèn)題，服務(wù)供應(yīng)商也需遵守《數(shù)據(jù)保護(hù)法》規(guī)定的義務(wù)?？紤]到隱私權(quán)的重要性，供應(yīng)商在根據(jù)《法案》采取措施時(shí)，有其具體的義務(wù)。

為了確保隱私得到應(yīng)有的尊重，一些具體規(guī)則限制了《法案》中可以使用的技術(shù)種類。《法案》在議會(huì)通過(guò)期間引起特別關(guān)注的是涉及加密、上傳過(guò)濾器影響的內(nèi)容。

科技、社會(huì)群體，監(jiān)管從何入手？

澎湃新聞：除了打擊網(wǎng)絡(luò)暴力，您是否認(rèn)為《法案》應(yīng)該同樣注重于應(yīng)對(duì)人工智能（AI）帶來(lái)的挑戰(zhàn)（比如AI生成的圖像、視頻和信息）？今后是否會(huì)有更多補(bǔ)充措施，應(yīng)對(duì)AI帶來(lái)的問(wèn)題？

伍茲：原則上《法案》已經(jīng)涵蓋了與AI有關(guān)的條款，因?yàn)閮?nèi)容一旦被認(rèn)為有害或非法，那么與內(nèi)容的創(chuàng)作方式無(wú)關(guān)。到目前為止，Ofcom給出的指導(dǎo)草案并沒(méi)有明確處理與AI相關(guān)的問(wèn)題，因此Ofcom可能會(huì)在這方面花更多精力。

澎湃新聞：《法案》中提到，會(huì)打擊威脅性、色情性的信息，而現(xiàn)在AI能夠生成這類內(nèi)容，且其真實(shí)性難辨。為了更好應(yīng)對(duì)AI的快速發(fā)展，《法案》會(huì)否被進(jìn)一步優(yōu)化？

伍茲：目前，Ofcom注意到了AI在內(nèi)容審核中的作用。在關(guān)注AI內(nèi)容生成方面，Ofcom已委托研究機(jī)構(gòu)進(jìn)行研究，特別是關(guān)注深度偽造。

具體來(lái)說(shuō)，在有關(guān)婦女、女孩受到暴力行為的指導(dǎo)方針中，Ofcom解決了一些關(guān)于深度造假的問(wèn)題。

澎湃新聞：由于法案旨在保護(hù)兒童的身心健康、避免婦女遭受網(wǎng)絡(luò)暴力，如果把《法案》的出發(fā)點(diǎn)描述為“優(yōu)先保護(hù)婦女和兒童”，是否準(zhǔn)確？《法案》是否會(huì)進(jìn)一步擴(kuò)大至所有群體的利益？

伍茲：《法案》案明確旨在提高對(duì)兒童的保護(hù)水平，這也是為什么會(huì)有關(guān)于保護(hù)兒童免受“有害內(nèi)容”的責(zé)任條款，尤其是女童。

《法案》承認(rèn)女性在網(wǎng)上經(jīng)常受到不公平的對(duì)待，所以它特別強(qiáng)調(diào)在執(zhí)行過(guò)程中要保護(hù)女性，確保她們不會(huì)受到任何不應(yīng)有的額外負(fù)擔(dān)。大體上說(shuō)，對(duì)風(fēng)險(xiǎn)的評(píng)估，應(yīng)考慮到所有少數(shù)群體的處境。

澎湃新聞：當(dāng)《法案》2025年全面實(shí)施后，英國(guó)政府是否會(huì)根據(jù)《法案》對(duì)涉案人員進(jìn)行刑事懲罰？在《法案》尚未全面實(shí)施前，監(jiān)管機(jī)構(gòu)會(huì)如何應(yīng)對(duì)類似案件（比如在網(wǎng)絡(luò)上煽動(dòng)暴力）？

伍茲：《法案》設(shè)想的主要懲罰措施是罰款，而不是刑事處罰。（注：Ofcom可以對(duì)不遵守條款的科技企業(yè)處以最高1800萬(wàn)英鎊，約合人民幣1.7億元，或企業(yè)全球年收入10%的罰款，以較大金額為準(zhǔn)。）

話雖如此，不配合Ofcom調(diào)查的科技公司高層可能會(huì)受到刑事處罰。舉個(gè)例子，如果平臺(tái)上出現(xiàn)有關(guān)兒童性虐待的犯罪材料，那么根據(jù)要求，平臺(tái)所屬的科技公司將向英國(guó)國(guó)家犯罪局（NCA）報(bào)告。如果不這么做，就會(huì)構(gòu)成刑事犯罪。

澎湃新聞：在《法案》尚未全面實(shí)施的監(jiān)管真空期，監(jiān)管方是否仍然延續(xù)7月英國(guó)騷亂期間的做法，即逮捕在網(wǎng)上發(fā)布威脅性言論的人？

伍茲：在《法案》全面生效前，Ofcom能做的是有限的。

值得注意的是，TikTok等視頻分享平臺(tái)有相關(guān)（監(jiān)管）規(guī)定，且可以強(qiáng)制執(zhí)行。我還沒(méi)全面了解騷亂期間的問(wèn)題內(nèi)容出現(xiàn)在什么平臺(tái)，但我的印象是，TikTok的反應(yīng)相當(dāng)靈敏。通常情況下，TikTok上的內(nèi)容沒(méi)有那么多問(wèn)題。

騷亂表明，英國(guó)政府在用刑法懲罰發(fā)帖者，這與《法案》無(wú)關(guān)。