人工智能的未來在哪？張亞勤：打造善良的AI

3月26日至29日，博鰲亞洲論壇2024年年會在海南博鰲舉行。在一場有關人工智能的分論壇上，中國工程院院士、清華大學智能產業研究院院長張亞勤，表達了他對未來人工智能的看法。

記者：你今天上午參加的論壇，你的觀點是什么？

清華大學智能產業研究院院長 張亞勤：這個論壇談到生成式人工智能本身的一些機會，也談到它的一些風險和治理，我覺得人類有兩種智慧，一個是創造新技術的智慧，另外一個是控制技術方向，引導技術方向的智慧。

無論在學術界、工業界，還是在人工智能前沿研究與產業應用領域，張亞勤都有著輝煌的履歷，他曾在微軟公司工作16年，歷任微軟亞洲研究院院長兼首席科學家、微軟中國董事長；之后五年，擔任百度公司總裁。2019年底，張亞勤正式受聘于清華大學，牽頭組建清華大學智能產業研究院并擔任院長。在AI大模型出現后，他不斷透過媒體分享AI的應用前景。

記者：對于普通人來說，對于我們的改變就是生活中出現了兩個新的名詞ChatGPT和Sora。但是對你們專業人士來說，就這兩個東西的出現意味著什么？

張亞勤：意味著機器將會達到和人一樣聰明的程度，就是它的能力會和人一樣甚至更強。

記者：是跟我們一樣聰明還是比我們還聰明？

張亞勤：它比我們更強大。

AI是人工智能的英文縮寫，是一種由人制造出來的機器，這種機器可以模擬人的思想和行為，從而體現出一種智能反應。從小愛同學到小度，再到擊敗人類職業棋手的人工智能機器人阿爾法狗，AI早已走進人類的生活。但近期出現的以ChatGPT和Sora為代表的生成式AI，卻帶給人們前所未有的震撼。撰寫文案、編寫代碼、根據文字生成視頻，震撼之余，也不斷有人發出警告。

張亞勤：比如說你在做內容產業，可能現在已經在影響你了。你做文字的、做圖片的、做視頻的、做廣告業的現在已經開始在對你產生影響，這個影響可能是正面可能負面。但是對物理世界的影響，就大模型用到的，比如說機器人、無人駕駛，我們所有的設備上，還需要一點時間。然后生物世界，比如說人腦接口，新的生命體、新的生物體這個需要可能更長的時間。

記者：多久，幾年？還是十幾年？

張亞勤：我有一個大致的判斷，我用圖靈測試，圖靈測試是做計算機和人工智能鼻祖艾倫·麥席森·圖靈當時在50年代提出一個測試，就是說，我和你對話，一個是人一個是機器，我在很多輪對話之后，我搞不清這個是人還是機器的時候，就通過了我這個測試，人和機器基本上分不出來了。我覺得現在我們已經通過了在文字方面的圖靈測試，在圖像和視頻方面很近了，可能兩年到五年時間，這個時候我產生的圖片和視頻，你就看不出是AI產生的還是人產生的。再過五年，我們在機器人，特別是人型機器人，和無人車方面已經通過圖靈測試，可能開得比人都好了，開車。

記者：最后生物世界呢？

張亞勤：生物世界需要更長的時間。生物世界已經是個必然的趨勢了，我們的機器，人工智能的大模型，和我們生物世界、生命世界會連在一塊。通過比如說像腦機接口，可以是侵入式也可以是非侵入式的，這種生物芯片，或者是傳感器。也可以幫助我們去制藥，可以做醫療，這個已經在發生了。但真正大規模聯動的話可能至少需要10年的時間。我講這個就是說，我們可能在20年左右，會看到人工智能在幾乎所有的領域都會比我們人類的能力要強，這是件好事，由于給了我們特別強大的工具。

在ChatGPT出現之前，曾有不同機構對人工智能如何影響未來人們的就業情況進行預測，有一家著名管理咨詢公司2016年的報告，預測未來將有眾多的工作被人工智能取代。而ChatGPT的出現，似乎在加速這一進程。

記者：在面對AI帶來的種種新的條件的時候，我們要做什么？

張亞勤：我覺得整體來講有三種人。任何一個技術來臨的時候，有三種人。一種人是和我無關，我該做什么就做什么。另外一種是焦慮，我被淘汰了怎么辦。還有第三種人，他會積極學習技術、了解技術，會擁抱它、會使用它。我們大部分人肯定不會知道大模型里面算法是什么樣的，我們也不需要知道，但是我們要會使用這個工具。比如像ChatGPT，它里面怎么工作你也不需要知道，但是它能幫你什么你要知道，像Sora這樣的圖像視頻的制作工具，你也不需要知道它里面的原理，但你要知道怎么用它，對你的業務、你的工作會有什么樣的影響。我覺得可能正面是大部分的，但是會有一些行業，有一些工作也會消失的。但是整體來講的話，社會的生產力會大幅度提高，所以現在講到新質生產力其實很有道理的。“人工智能+”包括作為智能社會的基礎設施的底座，它會大幅度改變改善我們生產力。

為人工智能歡呼的同時，張亞勤也同時在不斷提示人工智能的風險。事實上，在很多人尚未熟悉人工智能時，風險已經降臨。

張亞勤：這些風險一個是信息世界的風險，它給你生成虛假的信息，包括人為作假、深度偽造這些會給我們帶來風險，比如說現在金融領域，在香港有一個財務人員他和公司開會，這里面有首席財務官還有別的財務人員。讓他轉賬兩個億他就轉了，最后發現他是唯一一個真的財務人員，別的人都是偽裝的。

張亞勤所說的案例發生于香港，當地一家跨國公司的員工，在多位高管參加的視頻會議中，接受指令將2億港幣轉到不知名賬戶，5天之后才發現被騙了。香港警方在通報中稱，以往的AI換臉詐騙，一般都是一對一的。這次騙子用視頻電話會議的形式，偽造了一個高管團隊，讓可信度大幅上升。參與視頻會議的都是真人，然后通過人工智能換臉，把騙子的臉和聲音都換成了對應的高管的臉和嗓音，下達了轉賬的指令。

記者：他不認識嗎？

張亞勤：他每個人都是生成的，生成的樣子就是那個人，講話也是。過去早期要做這個東西很困難，現在就是普通人都可以使用工具生成數字人或者換臉，讓你區分不出來到底是真人還是虛擬人。所以我在講我們生成數字人需要有標識，在法律政策層面知道這個數字人不是真人。比如說董倩，我現在技術可以生成很多很多虛擬的“數字董倩”，我根本看不出來到底是真人還是數字人，這個時候首先數字人在復制時候需要經過本人的同意。

記者：壞人不會經過我同意的。

張亞勤：對。第二點就要有標識，但是壞人他不會有標識的，也不會經過同意。這個時候他要接受法律的制裁，但目前就沒有這樣的，或者至少法律沒有實施。我們首先就是在技術層面要知道這個是數字人，第二點在政策層面、法律層面使用數字人的時候，什么樣的限制、什么樣的條件，需要一個規范。第三點就是他犯法了你怎么辦？

人工智能技術在給人類帶來憧憬的同時，也帶來了抹不去的隱憂。如果有一天機器人變得和人一樣聰明甚至比人還要聰明，那么，人類會不會受到人工智能的威脅？著名物理學家霍金就曾與多位科技界名人發表聯署公開信，表示人工智能對人類的威脅更甚于核武器。特斯拉首席執行官馬斯克也發文稱，人工智能是人類最大的威脅之一，需要引導控制。

記者：因為我們知道在奧本海默他們研究原子彈的時候，當他們發明出來這樣的一個武器，他們作為科學家意識到了，后來是什么，但是他們也僅僅是意識到了為止。對你們來說，意識到不做，可不可以？

張亞勤：不可以。技術也好，工具也好，最終要為人類服務。我們是唯一一個物種可以發明出、創造出比我們更強大、更聰明的工具，同時我們也是唯一的物種，可以發明摧毀我們自己的工具。我們希望不要再做出原子彈來了，我一直想說，我們要打造一個善良的AI，教育它讓它做善事，為我們服務，而不是失去控制，而不是去對抗人類，或者控制人類。

記者：它也會長大成人嗎？

張亞勤：會，AI不斷去有更多的數據、有更多的算力、有更好的算法，它肯定會越來越強大，強大要善良的強大。

3月10日至11日，“北京AI安全國際對話”在北京舉行，張亞勤和相關領域的三十多位專家圍繞國際AI安全技術前沿研究、產業應用實踐等話題展開深入探討，共同擬定并簽署了《北京AI安全國際共識》，提出人工智能風險紅線及安全治理路線，呼吁“在人工智能安全研究與治理上的全球協同行動，是避免不受控制的前沿人工智能發展為全人類帶來生存風險的關鍵。”

記者：你們防誰呢？

張亞勤：我們防壞人。人99.9%是善良的，但是當0.1%的人是邪惡的，我們必須讓善良戰勝邪惡。所以我是樂觀的，但是樂觀不等于什么都不做。

記者：要做什么呢？

張亞勤：我們必須要從技術上、從政策法規上來規范人工智能。

記者：完全靠科學家自己嗎？

張亞勤：科學家要有自律，同時是需要政策法規監管的力量。

記者：但問題監管的人根本就不懂你們在做什么，怎么監管？

張亞勤：你講得太好了，所以說我們要在一起。我們現在最近有幾個機構，就是把技術的人和監管的人一開始就在對話，大家建設性對話，這樣才能把風險在沒有發生時候就控制住。我一直講邊界很重要，另外就是全世界要一起合作。

記者：沒錯，這正是我想問你的。這是不是每一個從事人工智能，在初期起步研究時候的科學家題中應有之意？

張亞勤：是，所以最近我們中國的科學家和英國的、美國的、歐盟的科學家一起開了好幾次會，找出這個問題，然后來面對風險，然后來去化解它。所以我覺得這個對話的機制，特別是跨領域，包括跨國的，全球性的合作對話、合作機制特別重要。

在呼吁全球合作、建立人工智能風險對話機制的同時，中國還需在競爭中發展自己的AI技術，對此，張亞勤也多次公開表達自己的樂觀情緒。2019年底，他接受清華大學邀請，組建人工智能產業研究院。在開啟輝煌的職業生涯之前，張亞勤是公認的神童，1978年考入中國科技大學少年班的時候，他只有12歲。而53歲進入清華，則讓他有了貫通教育、科研和產業的新機會。

記者：面對一個新的產業，這么蓬勃發展的產業的時候，你不想投身進去嗎？

張亞勤：我認為投身進去，培養人才也是投身，做科研也是投身。我博士之后正好工作了30年，在美國也好，后來到了微軟、到了百度，對我來講，我是希望能到第二線來培養人才，領導科研，為長期做更多的工作。

記者：在學校可以做什么？

張亞勤：學校可以培養人才，學校可以做一些基礎的科研，學校可以想得更遠一些。

因為要面向產業，迎接正在到來的第四次產業革命，張亞勤主張“做有用的研究”，培養面向產業的人才。

記者：怎么個培養法？

張亞勤：你這個問題特別好，我覺得傳統的院系里面只上課，教授也沒有產業背景，是很難培養出未來的首席技術官和產業的領導者。所以我們在清華智能產業院里面，首先我們的老師要有產業背景，同時也有學術背景。第二點，我們要和企業合作起來做研究，我們大部分的項目是和像百度、滴滴、聯想、小米，包括Intel、奔馳、BMW這樣的公司一起合作研究。合作研究一方面是幫助企業解決長期的科研和技術問題。最重要的一點做項目的同時，我們的博士后、研究生也做這樣的項目，做這個項目本身就對他們做工程創新是一種鍛煉。這樣如果他畢業之后，他就很容易去參與到企業的創新、大的工程項目里面。如果在學校里學的都是書本知識，光寫一些論文，這個到公司還是有差距的。因為我原來30年都在公司里面，我是在另外一邊，我看到我們培養人才和需求之間的距離。

作為清華智能產業研究院的掌門人，張亞勤認為，作為一項產業的研究者，一定要著眼未來，而不是只盯眼前。

張亞勤：學校和企業合作的時候，首先要很清楚，學校不管是老師、研究生，我們的研究人員不是工程人員，不做今天的產品。

記者：為什么不做今天的？

張亞勤：這個不是學校的優勢。學校的優勢是在于產生新的思想、新的技術。在公司里面，往往大部分的資源放到今天的產品，但我覺得這個的話，一個大的企業要長遠發展，必須要有這樣的一種遠見和一些投入，十年之前，我覺得這種企業基本不存在。

記者：你說的是中國企業，還是國外企業？

張亞勤：我說中國。但是現在越來越多了，現在和我們合作的，我剛才講的那些企業，都是在問我們，我們未來需要這樣的產品，這里面有哪些核心的技術問題。或者他會問，你們在做什么樣最前沿的研究，這些研究會帶來什么樣的能力，來規劃他未來的產品戰略和路徑。研究院有的時候是在試錯，比如說有一個技術，是否在五年中能落地？這個研究本身，這個想法是不是現實？這個其實是研究人員可以去試錯。

記者：為什么不讓企業自己去試呢？

張亞勤：因為企業試錯代價太大，如果方向錯了，5個人試和500人、5000人試是不一樣的。

早在10余年前，張亞勤就在達沃斯經濟論壇指出：人工智能將是這個時代最重要的技術變革力量。張亞勤認為，前三次工業革命的基石分別是蒸汽、機電和信息技術，而在今天已經開始的第四次工業革命，其基石就是人工智能，人工智能未來會成為一切事物的必需品。

張亞勤：人類很有意思，我們十幾萬、二十萬年的歷史，都是自然進化。過去的三百年開始我們已經是加速進化了，不是自然進化了。第一個就是蒸汽機的發明，擺脫了對肌肉的限制，這個時候是體力方面的解放。后來有了電力、有了互聯網、有了計算機、有了手機，現在有了人工智能，對我們的智能是一個新的解放，所以我們進化的速度是加速度的。我們現在看三萬年前的山頂洞人，那時候北京猿人，那個時候石器時代，他就拿石頭作為一個工具，這也很了不起了，已經知道怎么使用工具了。到了今天的人類，我們有手機、有互聯網、開始有人工智能了。再過五十年，五十年看我們今天的人類，和我們現在看三萬年前人類可能是一樣的，我拿個手機，就像石頭一樣的。那個時候人的本性并沒有改變，只是我們的工具變得如此之強大，所以未來，我們人是一個機器智能和人類智能的融合，這個融合比現在人類更加強大，但是它還是人類的工具，是我們的一個延伸，并不會替代人類。

記者：這不僅僅是對我生存環境的改變，這對企業來說也是商機，對吧？

張亞勤：是的。你的生產力會大幅度提高，用更少人可以做更多的事，或者同樣的人可以做更多的事。我是個理想主義者，我覺得也許十年、二十年之后，我們不需要每周工作五天，可能工作兩天，然后別的時間就完全去做自己喜歡的事。如果看一下在工業革命早期，我們每周工作七天，后來變成六天，后來變成五天，現在歐洲有一些國家工作四天了。

記者：張先生，你剛才所預想到的一切，僅僅是可能，還是說一定會到來？

張亞勤：我覺得從我們進化，特別從人類的智慧，我認為未來是很樂觀的，我相信如此，我也希望如此。