6月27日-29日，2023年夏季達(dá)沃斯世界經(jīng)濟(jì)論壇在中國天津召開，主題為“企業(yè)家精神：世界經(jīng)濟(jì)驅(qū)動力”。此次會議匯聚全球近100個國家和地區(qū)的1500多名政商學(xué)界精英領(lǐng)袖們，也是自2019年以來夏季達(dá)沃斯首次回到線下舉行。

(資料圖)

面對當(dāng)前世界低增長、生活成本高漲、地緣政治分化加劇、不平等擴(kuò)大以及氣候和自然危機(jī)日益嚴(yán)重的影響，等相互交織的危機(jī)，達(dá)沃斯世界經(jīng)濟(jì)論壇旨在通過搭建對話、呼吁創(chuàng)新與恢復(fù)合作的方式，應(yīng)對共同挑戰(zhàn)，重振全球經(jīng)濟(jì)增長。

澎湃研究所研究員在達(dá)沃斯現(xiàn)場發(fā)現(xiàn)，新興科技的發(fā)展以及它所帶來的政治經(jīng)濟(jì)影響，是本屆達(dá)沃斯眾多論壇中的一大焦點。在為期3天的達(dá)沃斯時間中，彌漫著對新興技術(shù)的喜與憂。

2023年6月27日，天津，第十四屆夏季達(dá)沃斯論壇舉辦。視覺中國 圖

你也信過AI說的慌嗎？

2022年末ChatGPT的橫空出世，令生成式人工智能走進(jìn)全球的聚光燈下。除了對話類生成式人工智能，其代表技術(shù)還包括在文化創(chuàng)作中的自動創(chuàng)作，在圖像應(yīng)用上的深度偽造等。

生成式人工智能的時代已經(jīng)到來，隨著時間推移，它進(jìn)一步改變甚至顛覆各行各業(yè)，好的一方面是，它將提高生產(chǎn)力，開啟一個創(chuàng)新新時代；但另一方面，許多工作將受到?jīng)_擊與重新定位，技術(shù)的不透明也會引發(fā)信任危機(jī)等。

在“生成式人工智能：是敵是友？”的圓桌論壇上，AI教育公司Learnable董事長王冠表示，AI可以幫助人類，以其所在的教育領(lǐng)域為例，雖然教師與學(xué)生的互動和情感無法被替代，但在批改試卷和輔助教學(xué)上AI可以幫助教師。AI比人類成本更低、效率更高，可以更大規(guī)模地進(jìn)行部署?！吧踔料乱徊娇梢詰?yīng)用于中國的高考批改中?！蓖瑫r，他相信，隨著AI產(chǎn)品更加成熟，產(chǎn)品價格會變得更加便宜，也許一塊平板電腦就能彌合中國城鄉(xiāng)間的教育資源差距。

但王冠也指出，垂直行業(yè)的AI與目前OpenAI（ChatGPT制造商）的不同之處在于，現(xiàn)在用戶能夠容忍OpenAI的并非百分百準(zhǔn)確，“但在教育領(lǐng)域不能冒險”。同樣不能出差錯的還包括醫(yī)療、自動駕駛等多個垂直領(lǐng)域。

“幾年前大家一直把第四次工業(yè)革命掛在嘴邊，”從事自然語言處理30多年的香港科技大學(xué)電子和計算機(jī)工程系主任教授馮雁說，“如今生成式AI的出現(xiàn)，我覺得超過工業(yè)范疇，它所帶來的沖擊是屬于人類文明的下一個革命?！倍鳤I與人的區(qū)別在于，它們沒有豐富的內(nèi)心世界。雖然AI在認(rèn)知層面做任務(wù)，完全可以與人類大腦并論，但是機(jī)器不給提示，它什么都不會做。

同時，馮雁指出目前的語言模型所存在的問題。首先是不透明，對用戶的不透明導(dǎo)致人們對智能技術(shù)的信任危機(jī)；對研究者、學(xué)者也不透明，這意味著無法預(yù)期AI生成的答案。通過對標(biāo)研究，馮雁團(tuán)隊發(fā)現(xiàn)，選擇的提示詞不同，會導(dǎo)致不同的答案，這被他們稱為AI出現(xiàn)“幻覺”的現(xiàn)象。生成式AI會按照指令生成指令者任何想要的內(nèi)容，有些是基于客觀事實存在的，但有些是編造的。

“我也曾相信過ChatGPT說的謊?！瘪T雁表示，減少AI的幻覺，成為研究者們的一大努力方向。

第二，ChatGPT的回答中帶有偏見與惡意。某種程度上，ChatGPT的答案反映的是社會現(xiàn)狀，所以也包含著當(dāng)下存在的社會偏見。例如，清華大學(xué)交叉信息研究院助理教授于洋曾對澎湃新聞 表示，AI的性別歧視主要源于：1）供AI學(xué)習(xí)訓(xùn)練的數(shù)據(jù)本身具有性別偏見，也成為社會現(xiàn)實的一個反射；2）設(shè)計開發(fā)者主要為白人中青年男性，對第三世界、邊緣群體的關(guān)注不到位；3）算法本身的不足，也加劇歧視。

馮雁還指出，大型語言模型大多數(shù)基于英文數(shù)據(jù)，除了中文與西語作為另外兩大被廣泛運(yùn)用的語言外，小眾語言在網(wǎng)絡(luò)上的數(shù)據(jù)相對有限，也局限了其自然語言處理上的發(fā)展。馮雁建議，政府應(yīng)助力加強(qiáng)其他語言的資源，讓更多的語言有更多更好的模型。“我們現(xiàn)在不想看到經(jīng)濟(jì)上的貧富差距，復(fù)制到模型上的差距?！?。

除了嘉賓們提及的生成式AI會“產(chǎn)生幻覺”、“說謊”、帶有社會偏見之外，更令人擔(dān)憂的也許不是技術(shù)本身，而是技術(shù)被人另作他用的風(fēng)險。例如IBM大中華區(qū)董事長兼總經(jīng)理陳旭東稱，IBM很早開始研究AI背后的風(fēng)險以及AI倫理。對此，IBM放棄了對人臉識別的研究，因為這項技術(shù)可能會被非法利用。

可見，技術(shù)狂奔之下，技術(shù)治理應(yīng)該跟上步伐。如何保護(hù)科技倫理、數(shù)據(jù)隱私和知識產(chǎn)權(quán)等諸多問題，正成為政商學(xué)各界共同關(guān)注的焦點。

在另一場“擁抱人工智能革命，提高人工智能水平”的圓桌討論上，話題聚焦在哪些框架和做法能幫助快速提高國家的人工智能的治理水平？——誰來監(jiān)管？如何監(jiān)管？如何兼顧創(chuàng)新與安全？——這些追問成為話題的風(fēng)暴中心。

擁抱AI革命，各國監(jiān)管方式不一

互聯(lián)網(wǎng)世界是否值得信任？

在世界經(jīng)濟(jì)論壇的《互聯(lián)世界狀況（2023 年版）》調(diào)查報告中，超過八成的受訪者表示，對負(fù)責(zé)任地使用互聯(lián)設(shè)備生成的數(shù)據(jù)缺乏信心。而如果消費(fèi)者不信任這些設(shè)備，那么就難以大規(guī)模擴(kuò)展這些設(shè)備帶來的益處。

巴斯大學(xué)計算機(jī)科學(xué)系副教授Joanna Bryson表示，數(shù)字行業(yè)長期來沒有足夠的規(guī)范，人們使用的很多平臺，如郵箱、社交平臺，運(yùn)營并不透明。她指出大眾不信任AI是因為獲取的信息還不夠透明，建議推出一種“透明度文化”。同時，她也呼吁政府出臺對技術(shù)的監(jiān)管，以確保新的AI公司以合規(guī)的方式使用新技術(shù)。

盧旺達(dá)信息通信技術(shù)與創(chuàng)新部部長Paula Ingabire表示，數(shù)據(jù)是AI的核心，如何讓數(shù)據(jù)被業(yè)界合理使用至關(guān)重要。盧旺達(dá)政府推出數(shù)據(jù)管理平臺，平衡技術(shù)創(chuàng)新和個人數(shù)據(jù)保護(hù)，例如通過統(tǒng)一全國醫(yī)療機(jī)構(gòu)的病歷，建立病歷信息交換平臺，通過數(shù)據(jù)隱私保護(hù)法律，最終讓數(shù)據(jù)所有權(quán)屬于病患本人。

Paula Ingabire也提出，AI監(jiān)管應(yīng)由政府牽頭，制定合理的方案?！捌鋵嵳矡o法單打獨(dú)斗，必須要和企業(yè)合作，私營部門的力量也要進(jìn)來。”

澎湃研究所研究員梳理發(fā)現(xiàn)，不同國家對AI的監(jiān)管治理方式不一。歐盟已通過人工智能法案，多國加速研究監(jiān)管框架，也有國家并不急于監(jiān)管。

歐盟于今年6月通過《人工智能法案》（AI Act），對AI及其相關(guān)應(yīng)用進(jìn)行分級風(fēng)險管理，基于風(fēng)險劃分的四種等級分別為被禁止、高風(fēng)險、有限風(fēng)險、低風(fēng)險。其中，實時遠(yuǎn)程生物識別技術(shù)（即公開場合人臉識別）被設(shè)為“被禁止”級別，對生成式AI（例如ChatGPT）提出必須對生成的內(nèi)容進(jìn)行標(biāo)注，以區(qū)別“深度偽造信息”，并要求公司披露生成式AI訓(xùn)練數(shù)據(jù)的版權(quán)。

英國組建“人工智能基礎(chǔ)模型工作組”（AI Foundation Model Taskforce），研究人工智能帶來的安全風(fēng)險，研究安全開發(fā)人工智能的方法，并為制定國際安全準(zhǔn)則提供信息。

美國也在加速準(zhǔn)備關(guān)于人工智能的監(jiān)管立法框架。2022年10月，美國推出《人工智能權(quán)利法案藍(lán)圖》，關(guān)注技術(shù)下的隱私保護(hù)和公平性原則。而在今年6月歐盟通過《人工智能法案》之后，美國加速了推進(jìn)AI監(jiān)管的步伐，預(yù)計將于今夏推出一些政策行動。

今年4月，中國也就《生成式人工智能服務(wù)管理辦法（征求意見稿）》向社會公開征求意見，征求意見稿中提到包括：生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，防止生成虛假信息；用于訓(xùn)練生成式人工智能的數(shù)據(jù)，應(yīng)當(dāng)保證數(shù)據(jù)的真實性、準(zhǔn)確性等內(nèi)容。

但也有政府并不急于制定AI法規(guī)。例如新加坡政府在近日就表示，目前沒有制定AI法規(guī)的想法。但同時，新加坡政府在努力促進(jìn)“負(fù)責(zé)任地”使用人工智能，并與企業(yè)合作開發(fā)了全球首個AI測試工具包，讓用戶可以對AI模型進(jìn)行技術(shù)測試并記錄過程檢查。

對AI監(jiān)管的呼吁外，也有觀點提出擔(dān)憂，法規(guī)與監(jiān)管是否會限制AI創(chuàng)新發(fā)展？

例如圓桌論壇上，英國人工智能公司CausaLens的CEO Darko Matovski表示，一個很好的監(jiān)管技術(shù)如果用不正確的方式落實，可能會對新技術(shù)帶來影響?！耙?guī)則的落實會決定AI的未來。必須要用正確的、實際的方式進(jìn)行監(jiān)管，否則就會磨滅創(chuàng)新?！?

東軟集團(tuán)董事長劉積仁也從技術(shù)開發(fā)的角度建議：“技術(shù)的發(fā)展需要給技術(shù)開發(fā)者一定空間，讓他們先走一步，探索未知的領(lǐng)域。”

關(guān)鍵詞：