不少人都有此困擾：網(wǎng)絡(luò)信息浩如煙海，但究竟有多少AI內(nèi)容混跡其中？又該如何分辨？

9月1日，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，給出了簡潔而有力的答案——所有AI生成合成的圖像、視頻、音頻和文本內(nèi)容等都必須添加清晰標(biāo)識，“亮明身份”。

推進人工智能安全治理，構(gòu)建安全可信發(fā)展生態(tài)，這一步至關(guān)重要。也只有從源頭規(guī)范內(nèi)容標(biāo)識，防范誤解與濫用風(fēng)險，才能推動AI技術(shù)向上向善、可知可控，始終在健康有序的軌道上發(fā)展，更好地服務(wù)于社會和公眾。

（一）

科技時代日新月異，智能生活觸手可及。隨著生成式人工智能加速躍遷，深度合成技術(shù)迭代發(fā)展，生產(chǎn)生活效率一鍵“提速”的同時，也催生信息泛濫的安全風(fēng)險。

一是捏造虛假信息。有網(wǎng)友評論：“以前造謠需要高超的PS技術(shù)，現(xiàn)在只需要一句話就能生成?！睆摹氨┯暌l(fā)山體滑坡”的偽造視頻，到“核電站泄漏”的AI新聞，再到“西藏定日縣地震一小孩被壓廢墟”的虛假圖片，AI謠言形形色色，日益呈現(xiàn)工業(yè)化、專業(yè)化趨勢。

二是生成不實信息?！癆I幻覺”之下，人工智能變身“自信的謊言家”，屢屢得手。有用戶刻意捏造，將無關(guān)圖文、視頻拼湊剪輯，生成虛實混雜、半真半假的信息。還有的聚焦財經(jīng)、教育、司法、醫(yī)療衛(wèi)生等專業(yè)領(lǐng)域，“AI醫(yī)生”“薦股大師”“算命先生”等令人防不勝防。

三是冒充身份信息。“假靳東”迷倒中老年女性，“假雷軍”辣評假期堵車話題，張伯禮院士“被代言”推薦某化妝品，知名運動員遭受“造黃謠”之害……在“AI換臉”“AI換聲”等技術(shù)加持下，假冒行為明目張膽，有的甚至利用AI冒充親友，從事網(wǎng)絡(luò)詐騙等違法活動。

當(dāng)真實與虛構(gòu)的邊界日益模糊，公眾對網(wǎng)絡(luò)傳播內(nèi)容的信任根基也會不斷削弱。

雖然網(wǎng)上有不少“技術(shù)帖”“經(jīng)驗帖”，旨在教網(wǎng)友如何一眼識破AI，然而網(wǎng)絡(luò)信息龐雜，技術(shù)不斷進步，要求網(wǎng)友自帶“火眼金睛”，既不可能也不現(xiàn)實，只有從源頭進行治理，才是根本解決之道。

（二）

公眾之所以看走眼，關(guān)鍵在AI內(nèi)容迷人眼。

《辦法》聚焦“生成合成內(nèi)容標(biāo)識”，無疑是找準(zhǔn)了互聯(lián)網(wǎng)信息魚龍混雜、泥沙俱下的關(guān)鍵病灶，將產(chǎn)生“一石三鳥”的效果。

在用戶端，有利于保障用戶知情權(quán)選擇權(quán)。心理學(xué)研究發(fā)現(xiàn)，人類的大腦特別擅長“類別化”——根據(jù)經(jīng)驗快速分類，把人或事物放入一個個標(biāo)簽化的框架里。進行內(nèi)容標(biāo)識，是保護用戶正當(dāng)權(quán)益的必然要求，有助于打破思維定式，在接收信息時多一份警惕和思考。

在監(jiān)管端，可以有效提高社會安全性。標(biāo)記文件是誰生成的、編號是多少、用的是什么AI服務(wù)等，可以讓監(jiān)管部門更容易追溯問題內(nèi)容的來源，明確責(zé)任歸屬，快速鎖定相關(guān)責(zé)任人。同時，也有助于釋放震懾效應(yīng)，防止AI技術(shù)被濫用于欺詐、造謠等不當(dāng)用途。

在服務(wù)端，內(nèi)容標(biāo)識既是責(zé)任更是機遇。因為真假難辨的信息進入公開領(lǐng)域，將讓“數(shù)據(jù)污染”變本加厲，最終導(dǎo)致技術(shù)可信度降低。內(nèi)容標(biāo)識從源頭給企業(yè)樹立了價值取向，傳播了科技向善的文化理念，有利于實現(xiàn)科技創(chuàng)新高質(zhì)量發(fā)展與高水平安全的良性互動。

（三）

這也是治理模式的一次全新升級。

此前的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等對深度合成服務(wù)提供者規(guī)定了標(biāo)識義務(wù)。而本次《辦法》的一大亮點，是緊扣“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播的全鏈條治理。

——生產(chǎn)環(huán)節(jié)上，服務(wù)提供者應(yīng)添加標(biāo)識。服務(wù)提供者應(yīng)對文本、圖片、音頻、視頻等生成合成內(nèi)容添加顯式標(biāo)識，并在文件元數(shù)據(jù)中添加隱式標(biāo)識。雙管齊下，擰緊了“安全閥”。當(dāng)然也要提高警惕，拒絕模糊化處理，防止不法分子惡意刪除、篡改、偽造標(biāo)識。

——傳播環(huán)節(jié)上，不同主體應(yīng)對標(biāo)識的合規(guī)性進行確認(rèn)。應(yīng)用程序上架時，分發(fā)平臺就應(yīng)做好第一道把關(guān)。在進行內(nèi)容傳播時，社交平臺更應(yīng)加強甄別。就在新規(guī)落地之際，多家互聯(lián)網(wǎng)平臺紛紛響應(yīng)，相關(guān)用戶協(xié)議已修改升級，將嚴(yán)打?qū)I生成技術(shù)的濫用行為。

——使用環(huán)節(jié)上，用戶同樣應(yīng)履行標(biāo)識義務(wù)?！掇k法》要求用戶應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進行標(biāo)識。也許部分創(chuàng)作者存在抵觸心理，覺得“AI標(biāo)簽”影響美觀度，這就要求平臺和監(jiān)管部門加大宣傳和引導(dǎo)力度，進行適當(dāng)?shù)亩酱贆z查整改。

《辦法》的實施拉開了AI內(nèi)容規(guī)范治理的序幕，落地工作還需要各方協(xié)同配合。

但無論如何，內(nèi)容標(biāo)識制度的建立，傳遞出清晰導(dǎo)向：AI內(nèi)容具備獨特價值與創(chuàng)新潛力，但絕不能淪為虛假信息的溫床；AI內(nèi)容可以廣泛傳播，但必須撕掉“偽裝面具”，讓公眾在充分知情的前提下自主選擇、理性判斷。