出品 | 搜狐科技

編輯 | 梁昌均

(相關(guān)資料圖)

“我很好奇接下來會發(fā)生什么，我們可能會嘗試按順序推出GPT-5模型，但不會很快?！痹?023智源大會關(guān)于AI安全與對齊的論壇上，當被問到下一步的研發(fā)方向時，OpenAI聯(lián)合創(chuàng)始人、CEO山姆·奧特曼（Sam Altman）表示。

目前，山姆正在進行他的全球之旅，這已經(jīng)是第四周，期間他已經(jīng)去到五個大洲的近20個國家，與學生、開發(fā)人員和國家元首會面。今天上午，他以視頻連線的方式現(xiàn)身智源大會論壇，就推動AI安全的話題發(fā)表演講，并接受了智源研究院理事長張宏江的訪談。

山姆表示，已經(jīng)看到世界各地的人們使用人工智能技術(shù)，帶來令人難以置信的生活方式的改變。因此這也使得討論需要建立的監(jiān)管護欄，以確保日益強大的人工智能系統(tǒng)得到安全可靠的部署，變得越發(fā)重要。

他認為，技術(shù)進步遵循指數(shù)曲線，而當前AI正以極大的影響和極快的速度發(fā)展，并擴展人類想象的畫布。在下一個十年里，通用人工智能系統(tǒng)（AGI）將幾乎在所有領(lǐng)域超越人類的專業(yè)知識，這些系統(tǒng)最終可能會超過最大公司的生產(chǎn)力。

“人工智能革命將創(chuàng)造共享財富，并使得大幅提高每個人的生活水平成為可能。為了實現(xiàn)這一目標，我們必須共同管理風險?！鄙侥繁硎荆S著日益強大的AI系統(tǒng)的出現(xiàn)，以及對醫(yī)療、糧食生產(chǎn)和環(huán)境平衡等帶來的潛在問題，推進AGI安全將是全球合作最重要的領(lǐng)域之一。

山姆表示，這需要從兩個方面開始。第一是AGI治理，并應(yīng)該在促進和引導AI對齊和安全研究方向進行投資?！癆GI將從根本上改變我們的文明，這是一項具有全球影響的全球技術(shù)，不計后果的開發(fā)和部署所造成的事故成本將影響到所有人。”

同時，他還特別強調(diào)了國際合作和協(xié)調(diào)的必要性。首先需要建立國際規(guī)范和標準，并注意過程中注重包容性。在任何國家使用AGI系統(tǒng)，都應(yīng)平等而一致地遵循這樣的國際標準和規(guī)范。在這些安全護欄內(nèi)，讓人們有足夠的機會做出自己的選擇。

當然，山姆也認識到這并非易事，大國之間經(jīng)常存在分歧，但在重要的大事上，還是需要協(xié)調(diào)與合作，尋找共同利益點。

“千里之行，始于足下?！彼美献印兜赖陆?jīng)》中的這句話，認為最具建設(shè)性的第一步是與國際科學和技術(shù)界合作，特別是應(yīng)該在技術(shù)進步方面增加透明度和知識共享的機制，同時尊重和保護知識產(chǎn)權(quán)，這些將為深化合作打開新的大門。

“隨著我們?nèi)找娼咏麬GI的時代，沒有對齊的AI系統(tǒng)的潛在影響力和影響規(guī)模將成倍增長。現(xiàn)在積極主動地解決這些挑戰(zhàn)，能將未來出現(xiàn)災(zāi)難性結(jié)果的風險降到最低?！鄙侥吩谘葜v中強調(diào)稱。

張宏江向山姆·奧特曼提問

不過，在與張宏江的對話中，山姆表示，很難預測我們離安全的AGI還有多遠，但能夠確信的是很有可能在未來10年內(nèi)能夠擁有非常強大的AI系統(tǒng)?！拔艺J為把AGI安全做好是重要而緊迫的，這是我為什么呼吁國際社會共同努力的原因?！?/p>

山姆提到，OpenAI在如何讓AI系統(tǒng)成為更安全有用的系統(tǒng)上，進行了AI對齊研究。這主要是利用人類反饋進行強化學習來訓練模型，使其成為一個有幫助的安全助手。

“從GPT4完成預培訓到我們部署它，我們專門花了8個月的時間來進行對齊方面的工作。GPT4 比我們以前的任何模型都更加與人類對齊?！钡侥芬脖硎?，對于更先進的系統(tǒng)，對齊仍然是一個未解決的問題，這需要新的技術(shù)方法，同時增強治理和監(jiān)督。

他認為，未來的AGI系統(tǒng)或許具有10萬行二進制代碼，人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。因此，OpenAI正在致力于研究一些新的和互補的研究方向，希望能實現(xiàn)突破。

其中一個是可擴展監(jiān)督，即嘗試使用 AI 系統(tǒng)來協(xié)助人類監(jiān)督其他AI系統(tǒng)輸出中的缺陷。第二個是可解釋性，嘗試更好地了解這些模型內(nèi)部發(fā)生了什么。“我們還有很長的路要走，但先進的機器學習技術(shù)可以進一步提高我們解釋的能力。”

山姆認為，實現(xiàn)AGI安全是一個非常復雜的問題，集中精力確保解決安全方面的技術(shù)問題非常重要，同時不僅要考慮模型本身的安全性，還要確保整個系統(tǒng)的安全性。

“我也認為很難提前預測任何技術(shù)會出現(xiàn)的所有問題，因此，從現(xiàn)實世界的使用中學習并部署，看看當真正創(chuàng)造現(xiàn)實并改進它時會發(fā)生什么，并思考這些模型將如何以好的和壞的方式與人進行互動，這也很重要?！鄙侥氛f。

此外，山姆還在對話中回應(yīng)稱，隨著時間的推移，OpenAI將會在未來繼續(xù)開源更多和更大的模型，但目前沒有具體的模型或時間表。他認為，開源確實在模型發(fā)展中扮演了重要的角色，但開源可能不是最佳路徑，需要把握平衡。

山姆表示，最終的目標是訓練AI系統(tǒng)來幫助進行對齊研究。這種方法的好處在于，它可以隨著AI的發(fā)展速度而擴展?！矮@得AGI帶來的非凡好處，同時降低風險，是這個時代的開創(chuàng)性挑戰(zhàn)之一?！?/p>

他在最后呼吁，世界各地的研究人員都有很大的潛力實現(xiàn)共同的目標，并致力于努力解決AGI對齊帶來的突出技術(shù)挑戰(zhàn)?！叭绻覀冞@樣做，我相信我們將能夠利用AGI來解決世界上最重要的問題，并極大地改善人類的生活質(zhì)量?！?/p>

關(guān)鍵詞：