OpenAI解散安全團隊備受質疑！馬斯克發聲……

美國人工智能研究公司OpenAI內部動蕩持續。據美國CNBC網站17日報道，消息人士透露，OpenAI在宣布成立人工智能長期風險團隊——“超級對齊”僅一年后，就解散該團隊，一些團隊成員被分配到公司其他團隊。去年7月，OpenAI宣布成立這個團隊，專注于“科學和技術突破，以引導和控制比我們聰明得多的人工智能系統”。當時，OpenAI表示將在4年內將其20%的算力投入到該團隊中。特斯拉首席執行官馬斯克針對“超級對齊”團隊解散這一消息評論稱：“這顯示安全并不是OpenAI的首要任務。”

就在這一消息公布的幾天前，OpenAI的兩名高管——聯合創始人兼首席科學家伊利亞·蘇茨克韋爾和簡·雷克宣布離開這家公司，他們是“超級對齊”團隊的共同領導人。雷克17日在社交媒體發文稱，“加入OpenAI是因為我認為這家公司是進行這項研究的最佳場所。然而，我一直不同意OpenAI領導層對公司核心優先事項的看法，直到我們達到了臨界點。”雷克寫道，“在過去的幾個月里，我的團隊一直在逆風航行。有時我們會為算力資源苦苦掙扎，完成這項關鍵的研究變得越來越困難。”雷克提醒說，OpenAI必須成為一家“安全第一的人工智能公司”，“制造比人類更聰明的機器本身就是一種危險的嘗試。OpenAI肩負巨大的責任。但在過去幾年時間里，安全文化和流程已經讓位于‘閃亮的產品’。”

“為何OpenAI負責人類安全的團隊被解散？”美國沃克斯網站17日稱，去年11月，OpenAI董事會試圖解雇首席執行官奧特曼，結果奧特曼很快奪回權力。此后，至少有5名公司最具安全意識的員工辭職或被解雇。美國《華爾街日報》稱，蘇茨克韋爾將注意力集中在確保人工智能不會傷害人類上，而包括奧特曼在內的其他人更渴望推動新技術的發展。美國《連線》雜志稱，蘇茨克韋爾是去年11月解雇奧特曼的4名董事會成員之一。

該公司的消息人士向沃克斯網站透露，有安全意識的員工已經對奧特曼失去了信心，“這是一個信任一點點崩塌的過程，就像多米諾骨牌一塊塊倒下一樣”。他們認為，奧特曼聲稱將安全放在首位，但在行為上卻自相矛盾。

美國TechCrunch科技博客網站18日稱，OpenAI放棄安全研究，轉而推出像GPT-4o這樣的新產品，最終導致“超級對齊”團隊的兩位負責人辭職。目前尚不清楚科技行業何時或是否會實現必要的突破，以創造出能夠完成人類所能完成的任何任務的人工智能。但“超級對齊”團隊的解散似乎證實了一件事：OpenAI的領導層——尤其是奧特曼——選擇優先考慮產品而不是安全措施。在過去一年時間里，OpenAI讓其聊天機器人商店充斥著垃圾郵件，并違反平臺的服務條款從YouTube抓取數據……安全似乎在該公司處于次要地位——越來越多的安全研究人員得出這種結論，選擇另謀高就。

雷克17日還提到，“我們應該把更多的資源用于為下一代模型做準備，包括安全性、監控、一致性、保密性、社會影響等。這些問題很難解決，我擔心我們沒有走在解決問題的正確軌道上。”沃克斯網站稱，當一名世界領先的人工智能安全專家說，世界領先的人工智能公司沒有走在正確的軌道上時，我們都有理由感到擔憂。

據加拿大全球新聞網18日報道，17日發布的一份關于人工智能安全的國際報告稱，專家們對這項技術帶來的風險意見不一。這份由加拿大魁北克人工智能研究所科學主任本吉奧主持的報告得出結論，通用人工智能的未來軌跡非常不確定。報告稱，在不久的將來人工智能可能呈現各種各樣的發展軌跡，包括非常積極和非常消極的結果。該報告概述了一些風險，包括人工智能可能通過虛假信息、欺詐以及網絡攻擊造成傷害。報告提到人工智能中的偏見可能導致風險，特別是在“醫療保健、招聘和金融貸款等高風險領域”。還有一種情況是，人類可能失去對人工智能的控制。