應對AI論文造假 不妨“以AI檢測AI”

■ 視點

論文代寫，一直是學術作弊黑灰產中的隱疾。而隨著人工智能時代到來，AI又成了其中得力的生產工具。近日，據新京報臥底調查，在論文代寫產業鏈中，黑灰產團隊已經開始通過AI工具來批量編造論文，并在各大平臺接單生產售賣。

報道中值得注意的細節是，有代寫團隊成員向暗訪記者表示，因為AI代寫工具的出現，使得論文代寫的門檻降低，甚至出現了“職高生用AI工具幫博士生代寫論文”的現象。

在AIGC（人工智能生成內容）工具出現之初，行業普遍認為人工智能將能夠提升內容生產效率，但或許令人意想不到的是，AI工具暫時還沒有來得及在嚴肅的學術研究生產中得到廣泛應用，卻率先成為了黑灰產業提高產量的工具。

而要對抗“AI代寫”的黑灰產，需要監管者更快升級技術工具，同時，建立更加嚴格的行業性規范。一方面，用“AI來檢測AI”；另一方面，要對“AI工具如何使用”建立明確的標準。

當前，國內外已經開始研發專門針對“AIGC內容”的檢測工具。在部分內容平臺上，已經開始對疑似“AI生成內容”進行了異常標注。從數據檢測識別的邏輯看，這類AI造假內容的特征相對更加明顯，通過對文本結構、用詞與語言模型等進行檢測，應當可以識別察覺出AI的創作痕跡。

因此，在傳統的抄襲查重系統之外，至少目前，可以盡早將針對“AI內容”的檢測工具也應用到學術論文的檢測流程之中，并對疑似AI造假的內容進行標注，輔助審核人員進行判斷。

在技術性防范手段之外，針對AI論文造假，學術界也可以迅速行動起來，為AI工具的應用設定清晰的邊界。例如，可以使用AI輔助制作插圖，但不得進行任何文本、數據生成。

當然，隨著AI被應用于檢測預警，以及行業共同規范的建立與調整，AI造假的漏洞終將被迅速填平。從長期來看，人工智能仍然會是創新的朋友，而不是造假的同伙。