“只需要52.1元,就能還原逝去親人的容貌并和ta聊天。”生成式AI技術的發展浪潮之下,與逝去的親人“再見一面”似乎日漸成為可能。記者近日調查發現,用AI“復活”逝去的人,已經發展成了一門生意。在一些電商平臺上,有不少做AI“復活”生意的商家。(3月10日《法治日報》)
我們身處AI時代,僅生成式AI市場就快速成長,2023年我國生成式AI市場規模14.4萬億元。作為生成式AI細分行業之一的AI“復活”逝者,是利用人工智能技術,將逝者的文字描述、圖片、視頻和聲音資料輸入AI算法模型,模擬生成一個數字形象,具備逝者的性格、記憶、圖像、視頻和聲音。
在今年清明節即將到來之際,關注AI“復活”逝者有特殊意義。因為這種新技術,為我們提供了緬懷已逝親人新的方式。在某電商平臺,AI“復活”的商品標價從幾元、幾十元到上百元乃至數千元。當花點錢就能重新“見到”已逝親人,這對需求者是一件很有價值的事情,對商家而言提供了盈利機會。
對于AI“復活”逝者,有人贊成,但有反對意見認為,這樣的做法沒有意義,人沒了就是沒了,這只會讓自己更難走出失去親人的痛苦。在觀念多元化的今天,有不同意見這很正常。而AI“復活”逝者,就是為那些認可的、有需求的人群提供的,隨著這項技術的不斷進步,相信市場需求將會越來越大。
不過AI“復活”逝者,目前既面臨不少技術限制,也可能出現某些侵權亂象。比如技術方面,目前算法主要支持普通話,對方言和口音的支持較為有限;逝者生前留下的聲音文件偏少,限制產品的擴展和適用范圍等。隨著技術不斷發展和錄音等電子產品普及,未來影響AI“復活”的技術限制有望突破。
在規范方面,我國已經出臺了《生成式人工智能服務管理暫行辦法》,自2023年8月15日起施行。該辦法圍繞“技術發展與治理”“服務規范”“監督檢查和法律責任”等方面,已做出相應規定。例如關于數據標注的規定,對AI“復活”服務提供者可起到規范作用,避免“復活”產品被非法利用。
從現實情況推測,AI“復活”技術大量應用后,很有可能出現各種侵權問題。此前,人臉識別、深度合成等技術在造福我們的同時,不法分子也利用這類新技術實施詐騙,讓人防不勝防。假如有不法分子利用AI“復活”技術,通過“數字人”套取財產等信息,就有可能成為新型詐騙,帶來財產等損失。
目前,AI“復活”逝者至少存在三大問題:只有上述暫行辦法予以簡單規范,尚無專門法律法規予以規制;部分AI“復活”產品缺少有關標注以證明產品由AI制作;上述暫行辦法的有關規定,很多消費者仍不了解。這意味著AI“復活”逝者眼下正處于野蠻生長狀態,存在各種不確定性風險,亟待規范。
只有健全法律法規進行規范,既約束AI“復活”服務提供者,也保障消費者合法權益,這種新技術新服務才能“長壽”并造福人類。對逝者,越來越多人的緬懷方式在“刷新”,而AI“復活”技術提供了更多選擇。但任何涉及消費者權益的技術和服務,只有在法治軌道內運行才能避免出格“傷人”。
雖然立法總是滯后于新技術的發展速度,但可以探索采取更靈活更高效的規制新技術新服務的方式。
官方微信
官方微博
今日頭條
川公網安備51019002004313號