算法治理第一關(guān)：算法備案監(jiān)管現(xiàn)狀與實(shí)務(wù)解讀（上）

算法治理第一關(guān)：算法備案監(jiān)管現(xiàn)狀與實(shí)務(wù)解讀（上）

6月20日，國(guó)家互聯(lián)網(wǎng)信息辦公室（以下簡(jiǎn)稱“網(wǎng)信辦”）發(fā)布了關(guān)于深度合成服務(wù)算法備案信息的公告，并公布了第一批深度合成服務(wù)算法的備案清單，其中百度、騰訊、訊飛等一眾大廠均在清單之列。隨著算法備案逐步進(jìn)入合規(guī)視野，算法備案的監(jiān)管現(xiàn)狀、算法備案規(guī)范適用主體以及備案的具體流程等問(wèn)題亟待梳理。本文擬分上下兩篇，上篇主要解讀算法備案的整體監(jiān)管狀況、實(shí)務(wù)流程，下篇?jiǎng)t針對(duì)“具有輿論屬性或者社會(huì)動(dòng)員能力”的內(nèi)涵展開分析與探討。

01 算法備案的監(jiān)管現(xiàn)狀

2020年12月，中共中央印發(fā)了《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》，提出依法治理網(wǎng)絡(luò)空間，完善法律制度，制定完善對(duì)算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。2021年9月，網(wǎng)信辦聯(lián)合科學(xué)技術(shù)部等九個(gè)部門發(fā)布了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，明確加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法安全治理的總體目標(biāo)為：利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。其中監(jiān)管體系完善意指要?jiǎng)?chuàng)新性地構(gòu)建形成算法安全風(fēng)險(xiǎn)監(jiān)測(cè)、算法安全評(píng)估、科技倫理審查、算法備案管理和涉算法違法違規(guī)行為處置等多維一體的監(jiān)管體系。算法備案管理作為算法監(jiān)管體系中的重要一環(huán)被首次提出。

此后，網(wǎng)信辦聯(lián)合工信部等部門先后就算法推薦類服務(wù)和深度合成類服務(wù)分別出臺(tái)管理規(guī)定，即《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《算法推薦規(guī)定》）與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《深度合成規(guī)定》），要求具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者、深度合成服務(wù)提供者和技術(shù)支持者履行算法備案義務(wù)。2023年7月13日出臺(tái)的《生成式人工智能服務(wù)管理暫行辦法》將于8月15日正式施行，其中再次強(qiáng)調(diào)提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的主體應(yīng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。在實(shí)踐方面，自去年2月全國(guó)統(tǒng)一的“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”（https://beian.cac.gov.cn/#/index）面世以來(lái)，陸續(xù)有5批算法提供者、技術(shù)支持者完成了算法備案。

根據(jù)《算法推薦規(guī)定》，若違反規(guī)定中相關(guān)條款，未履行算法備案等義務(wù)的，可能需要承擔(dān)的法律責(zé)任如下：

警告、通報(bào)批評(píng)，責(zé)令限期改正；

拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處一萬(wàn)元以上十萬(wàn)元以下罰款

治安管理處罰

相關(guān)刑事責(zé)任

02 算法備案的主體及義務(wù)

根據(jù)《算法推薦規(guī)定》《深度合成規(guī)定》以及《生成式人工智能服務(wù)暫行管理辦法》的相關(guān)規(guī)定，下述主體需要按照相應(yīng)規(guī)定的要求履行算法備案義務(wù)。

由上表可見，相關(guān)規(guī)定對(duì)于備案主體的界定均為“具有輿論屬性或者社會(huì)動(dòng)員能力”，但并未明確其概念內(nèi)涵。根據(jù)2018年11月30日施行的《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》（以下簡(jiǎn)稱《安全評(píng)估規(guī)定》）第二條規(guī)定，“具有輿論屬性或社會(huì)動(dòng)員能力”的互聯(lián)網(wǎng)信息服務(wù)包括以下情形：

（一）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號(hào)、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能；

（二）開辦提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。

盡管《安全評(píng)估規(guī)定》對(duì)“具有輿論屬性或者社會(huì)動(dòng)員能力”的概念予以解釋，但在實(shí)踐中，仍然存在著諸多情形無(wú)法明確判斷為是否“具有輿論屬性或者社會(huì)動(dòng)員能力”，我們會(huì)在下篇結(jié)合已經(jīng)完成備案的算法具體展開分析。

為保障算法的有效治理以保護(hù)用戶權(quán)益、凈化網(wǎng)絡(luò)環(huán)境，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，前述算法備案主體需履行一系列的合規(guī)義務(wù)，以滿足符合監(jiān)管規(guī)范、防范化解安全風(fēng)險(xiǎn)的需要，部分列舉如下：

建立健全算法機(jī)制機(jī)理審核制度

定期審核評(píng)估算法模型

建立健全信息發(fā)布審核制度

進(jìn)行科技倫理審查

建立數(shù)據(jù)安全保護(hù)制度

03 算法備案的內(nèi)容

目前備案系統(tǒng)對(duì)于算法備案的內(nèi)容填寫主要包含主體信息、算法信息和產(chǎn)品及功能信息三個(gè)板塊。

（一）主體信息填報(bào)

企業(yè)主要填寫的內(nèi)容包括主體基本信息、證件信息、法定代表人信息、算法安全責(zé)任人信息，并填寫《算法備案承諾書》與《落實(shí)算法安全主體責(zé)任基本情況》。其中，《落實(shí)算法安全主體責(zé)任基本情況》要求主體就自身的算法安全專職機(jī)構(gòu)設(shè)置和算法安全管理制度兩方面進(jìn)行具體闡述。算法服務(wù)提供者應(yīng)設(shè)置算法安全專職機(jī)構(gòu)并明確其職責(zé)分工、責(zé)任范圍等事項(xiàng)以確保其切實(shí)落地。算法安全管理制度建設(shè)則至少應(yīng)當(dāng)包括算法安全自評(píng)估制度、算法安全監(jiān)測(cè)制度、算法違法違規(guī)處置制度、算法安全事件應(yīng)急處置制度、科技倫理審查制度等。

（二）算法信息填報(bào)

算法信息填報(bào)包括兩個(gè)步驟：一是填寫算法基礎(chǔ)屬性信息；二是填寫算法詳細(xì)屬性信息。

算法基礎(chǔ)屬性信息部分，填報(bào)人員應(yīng)根據(jù)實(shí)際情況填寫算法的類型、名稱等基本信息，若算法為“生成合成（深度合成）”類，則還需選擇“服務(wù)提供者”或“服務(wù)技術(shù)支持者”填報(bào)角色。同時(shí)，填報(bào)人員需按照模板內(nèi)容填寫并上傳《算法安全自評(píng)估報(bào)告》《擬公示內(nèi)容》等附件。

算法詳細(xì)屬性信息部分，填報(bào)人員則需要根據(jù)實(shí)際情況填寫算法數(shù)據(jù)、算法模型、算法策略和算法風(fēng)險(xiǎn)與防范機(jī)制等信息。

（三）產(chǎn)品及功能信息（或技術(shù)服務(wù)信息）填報(bào)

在產(chǎn)品及功能信息或填報(bào)技術(shù)服務(wù)方式時(shí)，“服務(wù)提供者”角色的填報(bào)人員需填報(bào)產(chǎn)品及功能信息，“服務(wù)技術(shù)支持者”角色的填報(bào)人員需填報(bào)技術(shù)服務(wù)方式。

“服務(wù)提供者”需要填寫產(chǎn)品信息、產(chǎn)品的功能訪問(wèn)路徑以及路徑下的特定功能信息等內(nèi)容。

“服務(wù)技術(shù)支持者”角色的填報(bào)人員需根據(jù)實(shí)際情況填寫當(dāng)前備案算法的技術(shù)服務(wù)方式信息，包括技術(shù)服務(wù)名稱、技術(shù)訪問(wèn)方式、技術(shù)服務(wù)對(duì)象、技術(shù)服務(wù)頻度等。

04 算法備案的具體流程

《算法推薦規(guī)定》第二十四、二十五條對(duì)于備案流程做出了較為詳細(xì)的規(guī)定，具體流程如下圖所示。

深度合成類算法的備案流程則以《算法推薦規(guī)定》為參考，在具體細(xì)節(jié)方面并沒(méi)有進(jìn)行過(guò)多贅述，僅就步驟層面作出簡(jiǎn)要示例，如下圖所示。

在明確算法備案的整體監(jiān)管狀況和實(shí)務(wù)流程之后，企業(yè)可能對(duì)于自身是否屬于“具有輿論屬性或者社會(huì)動(dòng)員能力”的相關(guān)算法服務(wù)提供者感到疑惑，下篇我們將基于當(dāng)前已經(jīng)完成備案的主體情況分析，為企業(yè)備案提供參考。

作者：王渝偉、周丹、陸釔潼