雷遞網(wǎng) 樂天 4月15日

人工智能企業(yè)OpenAI CEO Sam Altman日前就呼吁暫停AI開發(fā)的公開信做出回應(yīng)，稱安全對OpenAI很重要，而這封信缺乏技術(shù)上的細微差別，說明哪些OpenAI需要暫停的地方（lacked technical nuance about where we need the pause）。

此前，外界一直傳聞OpenAI正在GPT-5。

(資料圖片僅供參考)

生命未來研究所（Future of Life Institute）還公布一封公開信，呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月，稱這種暫停應(yīng)該是公開的和可驗證的，并且包括所有關(guān)鍵參與者。

公開信稱，如果不能迅速實施這種暫停，政府應(yīng)介入并實行暫停。人工智能實驗室和獨立專家應(yīng)該利用這次暫停，共同開發(fā)和實施一套用于高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進行嚴(yán)格審計和監(jiān)督。

“這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)安全，且無可置疑。這不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預(yù)測的大型黑盒模型的危險競賽中收回腳步?！?/p>

這封信最后寫道，“人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強大的AI系統(tǒng)后，我們現(xiàn)在可以享受‘AI之夏’，收獲回報，設(shè)計這些系統(tǒng)以造福所有人，并為社會提供適應(yīng)的機會。社會已經(jīng)暫停其他可能對社會造成災(zāi)難性影響的技術(shù)。我們可以在這個領(lǐng)域也這樣做。讓我們享受一個漫長的AI之夏，而不是毫無準(zhǔn)備地陷入秋天?！?/p>

圖靈獎得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領(lǐng)袖人物均簽名，馬斯克也是簽名的名人之一。

Sam Altman說，“我非常同意其中的部分內(nèi)容。在我們完成對GPT-4訓(xùn)練后，我們花了六個多月的時間，真正研究模型的安全性......真正嘗試了解正在發(fā)生的事情并盡可能地減輕影響是很重要的?！?/p>

Sam Altman還澄清說，這封信的早期版本聲稱OpenAI正在訓(xùn)練 GPT-5，“我們不會，一段時間內(nèi)不會，所以從這個意義上說，這有點愚蠢。（we are not, won"t for some time, so in that sense it was sort of silly）”

OpenAI正在開發(fā)GPT-4的附加功能，這些功能存在安全問題，需要解決。一般來說，“隨著能力變得越來越重要，安全標(biāo)準(zhǔn)必須提高。

”我們將繼續(xù)盡可能誠實地對待AI的發(fā)展。相信它們會影響每個人，因此應(yīng)該讓盡可能多的人參與測試和了解它們。了解優(yōu)點和缺點，這是值得的，即使我們確實傾向于在公共場合讓自己難堪，并且不得不經(jīng)常根據(jù)新數(shù)據(jù)改變主意，也要權(quán)衡取舍?！?/p>

此前，那封公開信被部分人視為是馬斯克及一眾被OpenAI 生態(tài)伙伴們甩在身后的科技巨頭們的緩兵之計。

有觀點認為，馬斯克參與簽名，主要是OpenAI的迭代速度太快了。Google的搜索比對手好 20%就占據(jù)了 90%的搜索市場份額。OpenAI 的影響會更廣泛，所有的上層應(yīng)用都希望使用優(yōu)更強大 AI 賦能的云服務(wù)。只能寄希望于 OpenAI 會像自動駕駛那樣發(fā)展到某個階段會遇到難以克服的瓶頸。

LinkedIn聯(lián)合創(chuàng)始人里德霍夫曼就聲稱，馬斯克在這封信上的簽名只是出于嫉妒?；舴蚵硎荆R斯克和其他人希望暫停，以便他們能夠趕上并提供自己的AI產(chǎn)品。

馬斯克的確看起來就像一個"心機Boy"，轉(zhuǎn)頭就投入AI浪潮，根據(jù)內(nèi)華達州的一份文件，馬斯克已經(jīng)成立一家名為X.AI Corp的新人工智能公司，還被曝出購買了大約1萬個GPU，并從DeepMind處招募到AI人才，打算開發(fā)自己的大語言模型（LLM）項目。

目前，馬斯克旗下的Twitter已從Alphabet子公司 DeepMind 處招募工程師 Igor Babuschkin和Manuel Kroiss?？梢钥闯?，馬斯克一直在積極物色 AI 領(lǐng)域的人才，希望與OpenAI展開競爭。

———————————————

雷遞由媒體人雷建平創(chuàng)辦，若轉(zhuǎn)載請寫明來源。

關(guān)鍵詞：