OpenAI解散安全團隊備受質疑!馬斯克發聲……

2024-05-20 09:43:22來源:環球時報作者:任重
原標題:OpenAI解散安全團隊備受質疑!馬斯克:顯示安全并不是他們的首要任務

美國人工智能研究公司OpenAI內部動蕩持續。據美國CNBC網站17日報道,消息人士透露,OpenAI在宣布成立人工智能長期風險團隊——“超級對齊”僅一年后,就解散該團隊,一些團隊成員被分配到公司其他團隊。去年7月,OpenAI宣布成立這個團隊,專注于“科學和技術突破,以引導和控制比我們聰明得多的人工智能系統”。當時,OpenAI表示將在4年內將其20%的算力投入到該團隊中。特斯拉首席執行官馬斯克針對“超級對齊”團隊解散這一消息評論稱:“這顯示安全并不是OpenAI的首要任務。”

就在這一消息公布的幾天前,OpenAI的兩名高管——聯合創始人兼首席科學家伊利亞·蘇茨克韋爾和簡·雷克宣布離開這家公司,他們是“超級對齊”團隊的共同領導人。雷克17日在社交媒體發文稱,“加入OpenAI是因為我認為這家公司是進行這項研究的最佳場所。然而,我一直不同意OpenAI領導層對公司核心優先事項的看法,直到我們達到了臨界點。”雷克寫道,“在過去的幾個月里,我的團隊一直在逆風航行。有時我們會為算力資源苦苦掙扎,完成這項關鍵的研究變得越來越困難。”雷克提醒說,OpenAI必須成為一家“安全第一的人工智能公司”,“制造比人類更聰明的機器本身就是一種危險的嘗試。OpenAI肩負巨大的責任。但在過去幾年時間里,安全文化和流程已經讓位于‘閃亮的產品’。”

“為何OpenAI負責人類安全的團隊被解散?”美國沃克斯網站17日稱,去年11月,OpenAI董事會試圖解雇首席執行官奧特曼,結果奧特曼很快奪回權力。此后,至少有5名公司最具安全意識的員工辭職或被解雇。美國《華爾街日報》稱,蘇茨克韋爾將注意力集中在確保人工智能不會傷害人類上,而包括奧特曼在內的其他人更渴望推動新技術的發展。美國《連線》雜志稱,蘇茨克韋爾是去年11月解雇奧特曼的4名董事會成員之一。

該公司的消息人士向沃克斯網站透露,有安全意識的員工已經對奧特曼失去了信心,“這是一個信任一點點崩塌的過程,就像多米諾骨牌一塊塊倒下一樣”。他們認為,奧特曼聲稱將安全放在首位,但在行為上卻自相矛盾。

美國TechCrunch科技博客網站18日稱,OpenAI放棄安全研究,轉而推出像GPT-4o這樣的新產品,最終導致“超級對齊”團隊的兩位負責人辭職。目前尚不清楚科技行業何時或是否會實現必要的突破,以創造出能夠完成人類所能完成的任何任務的人工智能。但“超級對齊”團隊的解散似乎證實了一件事:OpenAI的領導層——尤其是奧特曼——選擇優先考慮產品而不是安全措施。在過去一年時間里,OpenAI讓其聊天機器人商店充斥著垃圾郵件,并違反平臺的服務條款從YouTube抓取數據……安全似乎在該公司處于次要地位——越來越多的安全研究人員得出這種結論,選擇另謀高就。

雷克17日還提到,“我們應該把更多的資源用于為下一代模型做準備,包括安全性、監控、一致性、保密性、社會影響等。這些問題很難解決,我擔心我們沒有走在解決問題的正確軌道上。”沃克斯網站稱,當一名世界領先的人工智能安全專家說,世界領先的人工智能公司沒有走在正確的軌道上時,我們都有理由感到擔憂。

據加拿大全球新聞網18日報道,17日發布的一份關于人工智能安全的國際報告稱,專家們對這項技術帶來的風險意見不一。這份由加拿大魁北克人工智能研究所科學主任本吉奧主持的報告得出結論,通用人工智能的未來軌跡非常不確定。報告稱,在不久的將來人工智能可能呈現各種各樣的發展軌跡,包括非常積極和非常消極的結果。該報告概述了一些風險,包括人工智能可能通過虛假信息、欺詐以及網絡攻擊造成傷害。報告提到人工智能中的偏見可能導致風險,特別是在“醫療保健、招聘和金融貸款等高風險領域”。還有一種情況是,人類可能失去對人工智能的控制。

責任編輯:高瑋怡
列表
文章排行

舉報郵箱:jubao@people.cn

違法和不良信息舉報電話:010-65363263

由《環球人物》雜志社有限公司主管、主辦

Copyright ? 2015-2024 globalpeople.com.cn.

版權所有:環球人物網

關閉
主站蜘蛛池模板: 国产91精品不卡在线| 国产成人AV区一区二区三| 91欧美精品激情在线观看最新| 国内揄拍国内精品| 看黄色免费网站| 国产亚洲成AV人片在线观看| 精品福利视频网| 在私人影院里嗯啊h| 一级毛片大全免费播放下载| 在线播放国产不卡免费视频| 高清国产美女**毛片在线| 公交车被CAO得合不拢腿视频| 男女深夜爽爽无遮无挡我怕| 亚洲人成亚洲人成在线观看| 无码人妻精品一区二区在线视频 | 中文字幕乱码中文乱码51精品 | 女人扒开腿让男生桶爽动漫| 中文字幕乱视频| 娇小老少配xxxxx丶| 亚洲精品456人成在线| 国产69久久精品成人看小说| 污到下面流水的视频| 久久免费观看国产精品| 天天干天天插天天| 91网站免费观看| 亚洲香蕉免费有线视频| 男女一进一出无遮挡黄| 亚洲AV无码国产一区二区三区 | 中文字幕5566| 国产成人永久免费视频| 波多野结衣变态夫妻| 久久久久久久999| 国产男女爽爽爽免费视频| 草莓视频黄色在线观看| 亚洲国产婷婷六月丁香| 好硬好湿好大再深一点动态图| 青娱乐精品视频在线观看| 亚洲无人区视频大全| 日韩精品久久一区二区三区| 8090韩国理伦片在线天堂| 国产乱子伦农村叉叉叉|