近年來，人工智能場(chǎng)景化落地，高潮不斷，成果顯著。隨之而來的是如何發(fā)展“可信AI”，實(shí)現(xiàn)可信、可靠、可控、可解釋的人工智能也成為業(yè)界討論焦點(diǎn)。

(資料圖片)

今天舉行的2023世界人工智能大會(huì)“2023聚焦?大模型時(shí)代AIGC新浪潮”論壇，也將目光投向這一話題。論壇匯集人工智能領(lǐng)域政產(chǎn)學(xué)研的頂級(jí)專家、學(xué)者，圍繞人工智能技術(shù)在魯棒性、可解釋性、安全性、公平性等前沿理論，從技術(shù)演進(jìn)、應(yīng)用場(chǎng)景、未來趨勢(shì)、標(biāo)準(zhǔn)治理四大維度層層遞進(jìn)展開探討，關(guān)注多模態(tài)基礎(chǔ)大模型的可信體系,探討AI新治理的局面,求解如何在保障技術(shù)創(chuàng)新和應(yīng)用的同時(shí),充分考慮社會(huì)倫理、法律和人權(quán)等方面的問題。

論壇指出，AIGC安全成為當(dāng)前人工智能研究發(fā)展的重要議題。中國科學(xué)院院士何積豐表示：“不能再將人工智能視為簡單的技術(shù)工作，而是成為整個(gè)組織的變革引擎。可信人工智能要致力于保障數(shù)據(jù)安全可信、系統(tǒng)行為可追責(zé)、算法模型可解釋、網(wǎng)絡(luò)環(huán)境可信等問題?！?/p>

論壇上，合合信息AI圖像內(nèi)容安全技術(shù)方案獲得廣泛關(guān)注。該方案可精準(zhǔn)定位截圖篡改痕跡，對(duì)生成式圖片進(jìn)行智能判別，防止不法分子利用技術(shù)手段非法爬取圖片上的信息。

據(jù)悉，去年的人工智能大會(huì)上，合合信息首次展示了“PS篡改檢測(cè)”技術(shù)。今年，AI圖像篡改檢測(cè)“黑科技”持續(xù)優(yōu)化升級(jí)，應(yīng)用面也拓展至“截圖篡改檢測(cè)”。

同時(shí)，合合信息還發(fā)布了關(guān)于AI生成圖片鑒別技術(shù)，用于判斷圖片是否由AI生成，以及對(duì)OCR對(duì)抗攻擊技術(shù)的創(chuàng)新性的研究。

論壇現(xiàn)場(chǎng)發(fā)布了由中國信通院、清華大學(xué)等聯(lián)合編纂的《可信AI技術(shù)和應(yīng)用進(jìn)展白皮書（2023）》。該報(bào)告基于統(tǒng)一的可信AI認(rèn)知維度，梳理總結(jié)可信AI發(fā)展現(xiàn)狀，提練了面向新階段大模型和AIGC引發(fā)的新需求，形成以技術(shù)為保障的可信AI評(píng)估體系和工具，探索新一代可信人工智能發(fā)展。同時(shí)，中國信通院、上海人工智能實(shí)驗(yàn)室、武漢大學(xué)等多家單位共同發(fā)起的《AIGC可信倡議》，圍繞人工智能可能引發(fā)的經(jīng)濟(jì)、安全、隱私和數(shù)據(jù)治理等問題，提出構(gòu)建AIGC可信發(fā)展的全球治理合作框架。

作者：商慧

編輯：唐瑋婕

責(zé)任編輯：戎兵

*文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。

關(guān)鍵詞：