8月12日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了關(guān)于互聯(lián)網(wǎng)信息服務(wù)算法備案信息的公告。南都記者注意到，現(xiàn)在已經(jīng)可以通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)(下稱“系統(tǒng)”)查詢到包括百度、騰訊、字節(jié)跳動、快手等多家境內(nèi)互聯(lián)網(wǎng)公司的信息服務(wù)算法名稱及備案編號等相關(guān)信息。

算法備案的要求出自3月起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。此次共公開了30條網(wǎng)站和App的備案信息，涉及算法名稱、算法類別、主體名稱、應(yīng)用產(chǎn)品、主要用途、備案編號等。

有專家表示，此舉為監(jiān)管部門設(shè)置了事前問責(zé)點，另一方面也減少了企業(yè)承擔(dān)的風(fēng)險。還有專家指出，這體現(xiàn)出國家對互聯(lián)網(wǎng)信息服務(wù)，尤其是其中具有輿論屬性、社會動力、或社會動員能力的算法推薦服務(wù)提供者的一種剛性的、問責(zé)式的、追責(zé)式的監(jiān)管。

···

3月1日，國家網(wǎng)信辦、工信部、公安部、市場監(jiān)管總局等四部門施行《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱《規(guī)定》)。同日，互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)上線。

《規(guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。

生成合成類算法;指自動或輔助生成、編輯文本、圖像、語音、視頻等網(wǎng)絡(luò)信息內(nèi)容的算法，如利用大數(shù)據(jù)、人工智能等技術(shù)自動合成新聞、博文、帖子、評論等信息。

個性化推送類算法;專門針對特定用戶進(jìn)行特定推薦、個性化分發(fā)的一種算法。

排序精選類算法;指設(shè)置、調(diào)整網(wǎng)絡(luò)信息內(nèi)容排列順序的算法，常用于生成熱搜、榜單。

檢索過濾類算法;指基于用戶需求或法律要求，從可行的決策(推薦)方案中檢索或過濾出合適的推薦結(jié)果，可用于自動識別敏感字詞。

調(diào)度決策類算法;指自動或輔助生成供需匹配、供需調(diào)節(jié)、路徑規(guī)劃等調(diào)度決策結(jié)果，或提供調(diào)度決策依據(jù)的算法，常用于快遞平臺、出行平臺。

根據(jù)《規(guī)定》，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。

完成備案的算法推薦服務(wù)提供者應(yīng)當(dāng)在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號并提供公示信息鏈接。值得注意的是，此次算法備案并未公開具體算法機制。

在國家網(wǎng)信辦此次公開的境內(nèi)互聯(lián)網(wǎng)信息服務(wù)算法備案清單中，已有首批24家企業(yè)的30項算法在系統(tǒng)中進(jìn)行了備案，包括新浪微博、快手、美團(tuán)、百度等頭部企業(yè)，對應(yīng)的產(chǎn)品(如App、網(wǎng)站)所屬行業(yè)則囊括了出行、電商、社交媒體和短視頻類等等。

圖源：境內(nèi)互聯(lián)網(wǎng)信息服務(wù)算法備案清單(2022年8月)

北京科技大學(xué)文法學(xué)院副教授張凌寒指出，本次備案采取了頭部企業(yè)先行的計劃?；ヂ?lián)網(wǎng)行業(yè)體量較大、用戶較多的一些頭部企業(yè)首先根據(jù)自身情況進(jìn)行了算法推薦服務(wù)情況的摸底，對具有輿論屬性或社會動員功能的算法進(jìn)行了備案。

張凌寒進(jìn)一步指出，算法備案制度本質(zhì)是監(jiān)管部門事前設(shè)置算法問責(zé)的問責(zé)點，用以確認(rèn)算法推薦服務(wù)提供者是否履行了法律規(guī)定的各項義務(wù)，是否在算法的設(shè)計、運行和結(jié)果輸出層面有主觀過錯。

“算法不單純是一個計算程序，它更多地是跟個人信息、大數(shù)據(jù)是聯(lián)系起來的。那么在這個基礎(chǔ)之上，算法就是一個運作模式。而對算法監(jiān)管來講，它其中一個重要的基礎(chǔ)就是要對算法進(jìn)行備案，要對算法的原理、模型模式進(jìn)行說明。” 中國政法大學(xué)傳播法研究中心副主任朱巍說，“我一直在說一個觀點，就是算法為王，數(shù)據(jù)次之——這個時代雖然是大數(shù)據(jù)時代，但是監(jiān)管的抓手應(yīng)該是在算法……算法備案是監(jiān)管的基礎(chǔ)。”

···

南都記者注意到，一家企業(yè)旗下的不同產(chǎn)品可能對應(yīng)多個算法類別，即使是同一算法類別之中，也可能存在多個算法。

比如百度備案了檢索過濾類和排序精選類兩種算法類別，而檢索過濾類又細(xì)分為百度內(nèi)容安全算法和百度信息檢索算法，前者用于防范和抵制違法信息及不良信息的發(fā)布及傳播，后者旨在優(yōu)化并提升信息檢索結(jié)果及效果對用戶檢索需求的滿足程度。

朱巍指出，算法備案除了給監(jiān)管部門帶來便利外，也減少了企業(yè)的風(fēng)險。“因為按照這套邏輯，一旦出了問題，事先報備過了，對平臺來講的話，它是把風(fēng)險降到最低點。”

不過，在中國社科院科技和社會研究中心主任段偉文看來，這次備案其實并沒有特別強調(diào)算法的透明公開，更重要的目的是規(guī)范信息服務(wù)，強調(diào)消費者的權(quán)益和個人的基本權(quán)利，因此，算法備案并不能徹底解決公眾關(guān)注的信息繭房問題。“它(算法備案)的目的是強調(diào)信息服務(wù)要符合主流價值觀，而不是要緩解信息繭房。如果要避免數(shù)字時代的偏見，那就要加強對數(shù)字時代的認(rèn)識，提升數(shù)字素養(yǎng)。”

朱巍也認(rèn)為，目前的算法公開尚未明確具體的原理和相關(guān)指標(biāo)。“《規(guī)定》里有一個條款明確，算法推薦服務(wù)提供者應(yīng)用算法對用戶權(quán)益造成重大影響的，應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任。在這個清單里面，我表面上是看不到(相關(guān)說明)，特別是評估的部分，比如涉及到輿論屬性、新聞屬性和社會動員相關(guān)的東西的評估權(quán)重和指標(biāo)，目前清單里都沒有。”

但他對于未來算法備案制度的不斷優(yōu)化持樂觀態(tài)度，“現(xiàn)在至少是有一個清單出來了，這是履行平臺主體責(zé)任和網(wǎng)絡(luò)監(jiān)管責(zé)任的一個重要方面。指標(biāo)、權(quán)重方面的規(guī)則可能后續(xù)還會持續(xù)增加。”

···

除了監(jiān)管方和企業(yè)之外，有專家認(rèn)為，這次算法備案對于個體，如算法服務(wù)的普通用戶，以及互聯(lián)網(wǎng)從業(yè)人員也有著不小的影響。

段偉文表示，對用戶來說最直接的一點就是，當(dāng)用戶覺得自己的權(quán)益因某個算法受到了侵害，那么就可以依據(jù)算法備案去舉報，算法備案的出現(xiàn)為法律訴訟提供了更多事實依據(jù)，使得用戶能夠更加方便地維護(hù)自己的權(quán)益。

談及對算法開發(fā)人員的影響，段偉文表示，以往他們可能只要考慮到算法開發(fā)本身的工作，但隨著算法備案系統(tǒng)的上線，對于信息服務(wù)的規(guī)范化的監(jiān)管、配合等多項工作，都會逐漸進(jìn)入到算法開發(fā)的生命周期之中，成為一個常態(tài)化的工作內(nèi)容。

“首先，在將算法備案之后，他們在工作過程當(dāng)中就會有一個自我提示，去審視是否存在問題;其次，因為已經(jīng)備案，所以在出現(xiàn)特定的情況時，這些從業(yè)者也可以據(jù)此快速給出合理的解釋，甚至在必要的時候及時報告監(jiān)管部門。所以總的來說，這在一定程度上可以緩解監(jiān)管的剛性，為行業(yè)帶來積極影響。”他說。

此外，段偉文多次強調(diào)，算法備案是“行政備案，而非行政許可”，即行政備案并不代表對算法本身的許可，如果算法存在瑕疵，就還會需要新一輪的監(jiān)管或評估。

因此他認(rèn)為，算法提供者不應(yīng)該僅僅被動地服從這些監(jiān)管措施，而是要將剛性監(jiān)管所帶來壓力和焦慮化作加強自律，提升行業(yè)標(biāo)準(zhǔn)。只有監(jiān)管方和行業(yè)都找到一個平衡點，才能讓互聯(lián)網(wǎng)信息服務(wù)走向多主體協(xié)同共治的方向，使得雙方都真正得到發(fā)展。

關(guān)鍵詞： 互聯(lián)網(wǎng)企業(yè)備案算法機制 算法開發(fā)者 企業(yè)算法合規(guī)性 四部門發(fā)行新規(guī) 四部門聯(lián)合發(fā)布算法推薦新規(guī)