美國公共政策專家：人類和公民利益才是“科技監管”大討論的核心

美國西弗吉尼亞大學公共管理與公共政策教授法拉赫（Paolo Farah）。澎湃新聞記者 趙昀 圖

“這是利用（社交平臺的）匿名性，對技術的濫用。這是完全的刑事犯罪行為。”

韓國總統尹錫悅對近期爆發的韓國數字性犯罪做出了上述表態。

根據韓國警方的數據，韓國在線深偽性犯罪數量激增。今年前7個月，韓國共報告了297起類似案件，在2021年案件總數的基礎上約翻了一番。2023年韓國共有180起此類案件。

科技快速發展，利弊共存，其中一個全球性難題就是監管，韓國近期的數字性犯罪案件，就是其中一個例子。

但監管如何在科技發展和社會之間保持平衡，同樣是一個難題。歷經三年的多輪審議后，今年8月1日，歐盟《人工智能法案》正式生效。該法案是全球首部全面監管人工智能的法規，標志著歐盟在規范人工智能應用方面邁出重要一步。但亞馬遜、Meta等公司卻認為該法案不利于科技創新。

作為公共政策和法律方面的專家，美國西弗吉尼亞大學公共管理與公共政策教授法拉赫（Paolo Farah）在近期參與“中國式現代化與世界未來”明德戰略對話活動期間，就科技監管的話題接受了澎湃新聞（www.thepaper.cn）專訪。

法拉赫表示，或許監管難以在科技和社會中保持平衡，但不能什么都不做。至少，各方能夠基于現有的經驗，制定本國的科技監管政策。

科技發展，要監管還是要創新？

澎湃新聞：您近期正在做公共政策、技術和法律方面的研究。在科技快速發展的背景下，從公共政策的角度，怎么看待保持市場活力、科技公司創新的問題？

法拉赫：我在這方面所做的工作，特別關注技術的概念化、技術是否對各國社會總體有益等情況。

重要的是評估這些公司是否以一種透明的方式推廣技術。我不是在談論開放獲取或提供技術，而是（科技發展）對社會和技術帶來積極的影響，這是社會發展的基礎。比如，我能夠到上海來，這就是技術發展和交流的結果。

自從互聯網時代開始以來，人們有了很多便于交流的機會。但現在，有一種看法和更多的理解是，技術確實對社會產生了良好的影響，但也可能對社會帶來挑戰和風險。想一想對人工智能（AI）的批評，AI可以是非常積極的，也可以是對所有人都有問題的。

當我們發現自己面臨著開放市場的挑戰，讓科技公司保持創新，繼續投資于創新，這可以為人類帶來很多機會和改善。

但另一方面是，當某些科技發展完成時，可能會給人類帶來問題。這個時候人類會變得高度脆弱，在這種情況下該怎么應對？難道我們不應該在技術先進、科技公司已經富有之前進行干預和監管？所以有一種觀點認為，監管和政策每次都是在技術發展后才得以出臺，會出現法律和政策試圖趕上已經實施的技術的情況。

那么我們在技術發展前是不是應該做一些什么？（歐盟的）《人工智能法案》就是朝這個方向發展的，試圖在科技公司發展前預測可能會出現的問題。我們這樣做，是因為我們實際上在保護我們想要控制的社會中的人權和價值觀。在我們被私營部門公司和市場、自由貿易、自由投資和自由技術的市場目標支配之前，思考我們想要擁有什么樣的社會。

所以這是一個非常復雜的話題和討論，因為一旦朝不同方向發展，可能會對投資、信任、技術等產生重要影響。

比如Meta和亞馬遜這類美國科技公司認為監管有害創新。但從監管的角度，不太可能考慮科技公司的這一層想法或者這些想法能不能實現。

當我們看其他地方的法規，考慮一下保密性和透明度的監管、數據和信息的傳輸。比如在新的AI法規上，（歐盟的）《通用數據保護條例》和AI監管之間的交叉點是什么？我在問我自己，這些（法規）對行業和技術是積極的還是消極的，但至少對社會是積極的，因為（法規）控制著（技術）。我試圖在這些領域研究技術對社會的影響，人類和公民是這場討論的中心。

澎湃新聞：您剛才提到了風險，也提到有時監管晚于創新。但另一方面，您是否認為，監管會影響科技創新？

法拉赫：我確實這么認為，這種影響可以是積極的，也可以是消極的。正如我所說，監管是否過于嚴格、會否就此限制技術創新的可能性，這才是我們要問的核心問題。所以，（監管）規則是要盡可能平衡的，但有時這會很復雜。

在（科技）行業中，這些公司實際上更喜歡沒有監管。這些公司試圖盡可能快地發展，避免法律法規在公司發展完善之前出現。因此，我認為監管會對發展、技術和創新產業帶來負面影響。

但什么都不做也不是好的。現在，這種類型的技術已經發展到了一定程度，可以影響社會，并將把社會帶向一個方向，我覺得我們對此需要加以小心控制。

在某種程度上，科技為公司提供了投資和創新的可能性，但同時，（公司）要負責任、透明，預估潛在的負面風險。比如，因為歐盟的《人工智能法案》和《通用數據保護條例》，一些科技公司遭到了批評。

我們需要觀察和了解，是否會出現所謂的（讓歐洲在全球科技競爭中保持影響力的）布魯塞爾效應。因為歐洲市場太有趣、太重要，不能完全把它排除在外，行業也可以對此感興趣。

但我意識到，（行業里）必須做些什么，保持對美國市場的興趣。但做什么呢？在這種情況下，來自行業和其他國家的阻力可能會迫使你改變和重新審視，我對此不太確定。這是會發生的，但我們必須觀察。

總的來說，歐盟出臺的法規，已經做出了一定的改變和決定，這肯定會影響行業進行投資或決定在某些行業進行投資的方式。

對我來說，最重要的是，技術發展的方式，是否考慮到我們仍是一個由人類、公民組成的社會。因此，如果這項技術會對人們產生負面影響，那么我認為監管應該介入，甚至在技術被創造出來之前就需要進行監管，并努力與行業保持開放的溝通渠道。但這并不意味著允許（行業）游說并試圖（把發展）引入另一個方向。

不過，試著收集信息，一些小的變化可以為行業繼續發展和創新帶來重要的、巨大的變化。這是一個非常復雜的平衡。

美國西弗吉尼亞大學公共管理與公共政策教授法拉赫（Paolo Farah）在上海，接受澎湃新聞記者的專訪。澎湃新聞記者 趙昀 圖

互相借鑒經驗，制定更完善的政策

澎湃新聞：在類似的政策制定方面，比如歐盟還有《數字服務法案》，而其他國家也在解決類似技術帶來的問題。您認為不同國家在制定本國政策時，能否參考其他國家/組織已有的政策？

法拉赫：我相信是這樣的。例如，（不僅限于科技監管），總的來說，中國在了解美國、歐盟經驗的情況下，根據中國的背景，獨立制定了一些法規和政策。這可能基于競爭，或者與歐盟、美國的同行進行了多年合作交流，但這不意味著中國完全復制了他們所做的。

所以我認為，科技方面歐盟的監管可以是一個例子，其他國家可以參照（現有法規）。這是在全球法律和政策層面開展工作的一個很好方式，比如歐盟在一個領域做得比較好，可以把它作為一個榜樣。這意味著（其他國家）可以從這個經驗中了解，為什么（歐盟）做了某些決定，以一種特定的方式制定政策。

這樣的“交換”對歐盟來說是非常積極的，因為在科技監管層面，同時還會有中國、美國等國家。基于類似的監管政策，比如能有利于美國公司在其他國家進行交易、貿易等。

對我來說，我認為政策和法規是一體的。從某種意義上說，有時政策是第一位的，法規是第二位的，但有時，法規先出臺，政策解釋并證明其所做的。當我們談論法律和政策時，國家之間需要有很多對話和交流，理解差異，同時在特定方面密切合作。

根據特定的法規工作，并嘗試基于對全球大環境的考量，以為國家做出最佳選擇的方式，制定新的法規和政策。這就是中國多年來一直在做的事情。在此之前，中國在某些領域一直走在前列。

聊天機器人“并不完美”

澎湃新聞：接下去的問題與社交平臺有關。您是否注意到，美國兩黨都通過社交平臺，正在試圖爭取選票的情況？

法拉赫：我認為在奧巴馬當選美國總統時，其競選活動就已經廣泛使用了廣播和社交平臺，之后是特朗普的當選。最近幾年，不僅競選活動中會用到社交平臺，競選活動外有組織和團體也在使用這些平臺，試圖支持某一派。

我相信這在過去也發生過，但我不認為會像現在這樣產生如此大的影響。以劍橋分析公司為例，8700萬臉書用戶數據被不當泄露給這個政治咨詢公司，以方便其制定策略在2016年總統大選時使特朗普獲勝。（臉書的首席執行官）扎克伯格還前往國會山就此聽證。

所以我認為，在美國的政治環境中，這些問題必須得到討論和明確解決，因為它可以使選舉結果發生重要變化，即競選活動之外的參與類型。

澎湃新聞：近期（社交平臺）“X”的聊天機器人Grok，在美國總統拜登退選后發布了關于多個州投票截止日期的虛假信息。多個州已經要求“X”整改，從公共政策的角度，您怎么看待？

法拉赫：這至少表明，聊天機器人或者AI在這一點上并不完美。很多其他的例子也證明了這一點：這是以一種試圖讓用戶高興的方式回復，更傾向于用戶想要的信息，但這可能是不正確的信息。如果想要傳播一些（正確的）信息，就需要進行再次確認。

比如，我們需要更多方面的信息，以確信某一個問題，排除其不可能發展的方向。就像我們參加本次會議，我們互相之間需要聽到各種聲音，才能不漏重點地進行研究、取得平衡。總的來說，基于這些理念，聊天機器人、AI可以是額外的幫助。

正如我現在所看到的，科技還在繼續發展，但我們可以選擇結束它。

比如在未來，書籍可能不再存在。網上的一切就是信息，現在的聊天機器人，也是對書本的“攻擊”，這種“攻擊”無法被控制，因為書本可能被認為代表過去。

我擔心的是，這可能是一種趨勢，比如人們再也無法接觸到過去出版的書籍，并說這些書籍現在可以在網上找到。的確是這樣，但是你確定在線版本會和原始版本完全一樣嗎？會不會有幾頁的部分被省略了？

我只是說，如果我們最終完全信任聊天機器人等，我們可能會出現（類似書本）這樣的情況。我認為的風險是，一些強大的公司或者行業等，可能可以決定某些歷史事件或者情況。