數(shù)·說（DJ TALK）
“算法推薦的規(guī)制方式與路徑”

? ? ? 專題研討會回顧

? ? ? 為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動，弘揚社會主義核心價值觀，維護(hù)國家安全和社會公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康有序發(fā)展，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，該規(guī)定自2022年3月1日起施行。這是我國第一部以算法作為專門規(guī)制對象的部門規(guī)章，意味著算法推薦技術(shù)的治理進(jìn)入新的階段。

? ? ?2022年1月9日，由北京航空航天大學(xué)法學(xué)院數(shù)字正義研究中心主辦的“算法推薦的規(guī)制方式與路徑——評《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》”專題研討會于線上成功舉行，來自中國信通院、對外經(jīng)濟(jì)貿(mào)易大學(xué)、北京科技大學(xué)、中國人民公安大學(xué)、北京周泰律師事務(wù)所等六余位專家圍繞新出臺的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》進(jìn)行了充分的交流與探討。

? ? ? 本次研討會共分為兩個環(huán)節(jié)，第一環(huán)節(jié)是由六位專家評述新出臺的《算法推薦管理規(guī)定》，第二環(huán)節(jié)是訪談對話。

? ? ? 第一環(huán)節(jié)

? ? ? 北京科技大學(xué)的張凌寒副教授談到當(dāng)今世界范圍內(nèi)，以算法作為調(diào)整對象的法律性文件相對較少，我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》可以說是世界上首次全面性、系統(tǒng)性、整體性地對算法進(jìn)行了規(guī)制，在世界范圍內(nèi)具有重大意義。隨后，張凌寒副教授聚焦該《規(guī)定》的三大亮點指出，第一，該《規(guī)定》的性質(zhì)是由四部委聯(lián)發(fā)的部門規(guī)章，與此前發(fā)布的《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護(hù)法》等法律的價值取向是一脈相承的，該《規(guī)定》是對前述法律在具體制度上的細(xì)化和落地。第二，該《規(guī)定》涉及的算法種類囊括了現(xiàn)行平臺治理中所使用的各種算法類型，規(guī)制對象基本覆蓋了現(xiàn)有的互聯(lián)網(wǎng)業(yè)態(tài)。第三，該《規(guī)定》確立了一系列具有中國本土特色的算法規(guī)制手段，如針對“標(biāo)簽”“算法的機制機理”“模型”的技術(shù)治理，算法備案制度等等。

? ? ? 中國人民公安大學(xué)的蘇宇副教授聚焦該《規(guī)定》第12條，即“算法可解釋性和透明度”問題，并分享了自己的看法。蘇宇副教授指出原該《規(guī)定（征求意見稿）》中這一條的表述是“應(yīng)當(dāng)”，對于算法推薦服務(wù)提供者是硬性的義務(wù)條款，而正式出臺的版本則修改為鼓勵性條款，給予各企業(yè)去探索適合的優(yōu)化策略空間；同時，應(yīng)當(dāng)注意該第12條中“運用內(nèi)容去重、打散干預(yù)等策略”和優(yōu)化透明度和可解釋性分屬兩個不同的要求；優(yōu)化算法可解釋性與透明度又是兩個不同的要求。此外，原該《規(guī)定（征求意見稿）》第15條與第12條有密切聯(lián)系，原征求意見稿第15條提出了用戶的算法解釋請求權(quán)，而正式版本的第17條第三款中關(guān)于算法解釋請求權(quán)問題已經(jīng)改頭換面，從用戶有權(quán)要求解釋變?yōu)椴恢苯痈脩舻乃惴ń忉屨埱髾?quán)相對應(yīng)。最后，蘇宇副教授談到《規(guī)定》第23條的算法分級分類安全管理制度，是未來中國算法治理建設(shè)的重要切入點，應(yīng)當(dāng)首先關(guān)注算法推薦服務(wù)的輿論屬性或者社會動員能力，其次是數(shù)據(jù)的重要程度以及對用戶行為的干預(yù)程度，最后是內(nèi)容類別、用戶規(guī)模等因素實施分級分類管理。

? ? ? 對外經(jīng)濟(jì)貿(mào)易大學(xué)的張欣副教授同樣聚焦該《規(guī)定》中值得關(guān)注的亮點。張欣副教授指出，我國對于算法的規(guī)制具有本土化特色。第一，該《規(guī)定》的規(guī)制主體并非所有的算法類型，而是算法深入社會結(jié)構(gòu)各層面中引發(fā)社會廣泛關(guān)注的推薦算法，此前九部委發(fā)布的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》中就曾提出國家算法治理的主要目標(biāo)是利用三年左右時間建立算法安全綜合治理格局，這也是該《規(guī)定》出臺的背景之一。同樣，算法類型的全面覆蓋也彰顯了該《規(guī)定》的系統(tǒng)性。第二，我國與其他國家關(guān)于算法規(guī)制路徑的不同點在于，我國的算法問責(zé)機制建立在數(shù)據(jù)治理和平臺治理基礎(chǔ)之上，故該《規(guī)定》延續(xù)此前關(guān)于平臺主體責(zé)任的邏輯框架，提出“算法安全主體”概念。接下來我們還需要探索算法安全主體的責(zé)任邊界在哪？算法安全主體的正當(dāng)性、合理性以及對算法安全主體認(rèn)定的標(biāo)準(zhǔn)在哪？第三，我國除去像其他國家出臺算法和人工智能相關(guān)的技術(shù)標(biāo)準(zhǔn)和倫理規(guī)范外，還在該《規(guī)定》中倡導(dǎo)算法的主流價值取向，堅持促進(jìn)算法應(yīng)用的向上向善，以此糾偏所謂算法過程中因“技術(shù)中立”引致的責(zé)任規(guī)避問題。第四，該《規(guī)定》對用戶賦予了非常健全的權(quán)利，從事前事中事后的視角賦予用戶自主選擇權(quán)、知情權(quán)、拒絕權(quán)、獲得說明和救濟(jì)的權(quán)利，此外還規(guī)定了算法備案制度，包括機制機理審核，這更加符合算法運作的底層邏輯。

? ? ? 中國信通院的程瑩研究員立足宏觀角度，并結(jié)合自身工作經(jīng)驗，從三個視角對該《規(guī)定》進(jìn)行解讀分析。從橫向來看，關(guān)注該《規(guī)定》和美歐算法治理的差異性，一是該《規(guī)定》具有一定的超前性和開創(chuàng)性；二是該《規(guī)定》體現(xiàn)了各國關(guān)注點的差異性，而我國的核心關(guān)注點在信息內(nèi)容安全和網(wǎng)絡(luò)平臺在商業(yè)領(lǐng)域的應(yīng)用方面；三是算法治理落地方式的不同，我國更加依賴政府監(jiān)管和社會監(jiān)督。從縱向來看，關(guān)注該《規(guī)定》在我國互聯(lián)網(wǎng)法治當(dāng)中的角色，主要從該《規(guī)定》與其他信息內(nèi)容立法之間的關(guān)系、在我國現(xiàn)有互聯(lián)網(wǎng)立法體系當(dāng)中的位置和作用、與當(dāng)前數(shù)字經(jīng)濟(jì)立法和政策的協(xié)調(diào)等三方面展開。從未來實施的角度來看，不僅要加快理論層面的研究支撐，還要在行業(yè)分散監(jiān)管的同時注重整體統(tǒng)籌協(xié)調(diào)，以及探索創(chuàng)新監(jiān)管舉措、提升技術(shù)監(jiān)管能力。

? ? ? 北京周泰律師事務(wù)所的儲江律師從實務(wù)角度出發(fā)談到該《規(guī)定》將過去企業(yè)的算法安全部分和個人隱私數(shù)據(jù)合規(guī)部分做了有效銜接，這為實務(wù)工作者提供了非常明確的指導(dǎo)參考標(biāo)準(zhǔn)。基于此，儲江律師進(jìn)一步分享到，第一，該《規(guī)定》第7、8條提供了正反兩方面的合規(guī)指引；第二，該《規(guī)定》不僅細(xì)化落實網(wǎng)絡(luò)空間治理法律體系中的個人權(quán)利保護(hù)要求，還重點針對特定群體的特殊場景進(jìn)行回應(yīng)，這為應(yīng)對算法歧視提供更加細(xì)致的指引；第三，該《規(guī)定》將算法監(jiān)管納入到合規(guī)監(jiān)管體系當(dāng)中；第四，該《規(guī)定》從反壟斷和反不正當(dāng)競爭的視角對算法推薦服務(wù)進(jìn)行了規(guī)制。

? ? ? 對外經(jīng)濟(jì)貿(mào)易大學(xué)的許可副教授主要談及了理解該《規(guī)定》的兩個維度。第一個維度是社會和經(jīng)濟(jì)的維度，算法推薦作為常見的經(jīng)營業(yè)態(tài)具備兩方面價值，一是推薦性算法是社會建構(gòu)的重要工具；二是算法是數(shù)字時代的重要生產(chǎn)性工具，也即算法推薦同時兼有社會層面和經(jīng)濟(jì)層面的雙重價值，應(yīng)當(dāng)采取分而治之的思路。第二個維度是技術(shù)、法律和社會規(guī)范的維度，算法治理是技術(shù)、法律與社會規(guī)范的協(xié)作過程，該《規(guī)定》中也提出一系列行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則、行業(yè)自律以及算法價值引導(dǎo)等要求，從多方面對算法和法律的關(guān)系作出補充。

? ? ? 第二環(huán)節(jié)

? ? ? 第二個環(huán)節(jié)由北京航空航天大學(xué)法學(xué)院數(shù)字正義研究中心副主任趙精武助理教授主持。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》作為一部專門性規(guī)章，聚焦算法推薦服務(wù)亂象問題，為算法綜合治理中的算法推薦領(lǐng)域提出了新要求和新挑戰(zhàn)，基于此，該環(huán)節(jié)共設(shè)置十個問題，六位專家分別從不同的維度對話解讀新出臺的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。

? ? ? （訪談對話環(huán)節(jié)）

? ? ? 【問題一】《規(guī)定》出臺的背景是什么？最終版本與之前的草案有何重要區(qū)別？

? ? ? 許可副教授談到算法大數(shù)據(jù)殺熟以及算法的差別化定價等社會問題構(gòu)成了算法推薦監(jiān)管的宏觀背景。對于算法監(jiān)管，可以從國際視角和中國自身視角來看待，一方面人們對脫離或至少部分脫離人控制的算法的擔(dān)憂引發(fā)政治及法律層面對算法規(guī)制的回應(yīng)，這是全球的宏觀視野；另一方面我國關(guān)于算法監(jiān)管特別是推薦性算法的監(jiān)管是原有平臺治理思路與信息內(nèi)容管理思路的進(jìn)一步延伸。

張欣副教授談到從我國關(guān)于算法監(jiān)管的發(fā)展脈絡(luò)來看，算法治理已從原有的分散治理走向統(tǒng)籌一體化、整合化和系統(tǒng)化的治理。此外，社會的焦點性事件所引發(fā)的算法不良影響和算法焦慮也是直接推動該《規(guī)定》出臺的重要原因。與征求意見稿相比，生效版本就監(jiān)管工作職能分配、互聯(lián)網(wǎng)新聞信息服務(wù)的算法利用規(guī)制、禁止利用算法實施壟斷和不正當(dāng)競爭行為、老年人合法權(quán)益保障、組織和個人的投訴舉報渠道的建立等五個方面新增了規(guī)定。

? ? ? 【問題二】什么是算法推薦？為什么算法推薦需要被規(guī)制？不受規(guī)制的算法推薦可能產(chǎn)生哪些問題？

? ? ? 程瑩研究員回應(yīng)到關(guān)于算法推薦，它的范圍實際上是比較廣泛的，該《規(guī)定》不僅在第2條列舉了五種典型算法類型，還將征求意見稿中的“提供信息內(nèi)容”表述修改為“提供信息”，進(jìn)一步明確了算法推薦的涵蓋范圍。而關(guān)于規(guī)制算法推薦的原因，該《規(guī)定》第1條有所提及，但更應(yīng)當(dāng)在算法制度設(shè)定當(dāng)中關(guān)注數(shù)字經(jīng)濟(jì)發(fā)展和九部門《算法綜合治理指導(dǎo)意見》中提到的傳播秩序、市場秩序和社會秩序這三種秩序安全和數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展之間的有效平衡問題。

儲江律師立足純技術(shù)的角度，指出算法推薦的理念和邏輯自上世紀(jì)即被提出，而經(jīng)過30多年的發(fā)展，現(xiàn)階段仍需對算法推薦進(jìn)行規(guī)制的原因主要有兩個，一是近年來人工智能、機器學(xué)習(xí)和大數(shù)據(jù)技術(shù)的應(yīng)用加大算法推薦能力的同時，對個人隱私帶來比較強烈和直接的沖擊。二是從互聯(lián)網(wǎng)產(chǎn)品傳播的角度看，互聯(lián)網(wǎng)經(jīng)濟(jì)更多是一種流量經(jīng)濟(jì)，搶奪用戶交易機會是較為重要的環(huán)節(jié)和內(nèi)容，以自動化推薦為代表的算法目前能夠做到影響消費者的決策能力，若不加以限制，容易對消費者形成信息繭房或信息孤島，影響消費者對主流事物的理解，影響社會穩(wěn)定、國家安全的傳播效果。

? ? ? 【問題三】什么是“算法推薦服務(wù)提供者”？《規(guī)定》的出臺會對產(chǎn)業(yè)產(chǎn)生哪些影響？

? ? ? 程瑩研究員指出，算法推薦服務(wù)指在中華人民共和國境內(nèi)應(yīng)用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)。從這一角度來看，算法推薦服務(wù)提供者可以理解為應(yīng)用算法推薦技術(shù)的互聯(lián)網(wǎng)信息服務(wù)提供者。互聯(lián)網(wǎng)信息服務(wù)提供者在《互聯(lián)網(wǎng)信息服務(wù)管理辦法》中有較? 為明確的界定。當(dāng)然，在具體理解過程中仍需要注意兩個問題，一是算法推薦服務(wù)提供者規(guī)制的重點并非算法的開發(fā)者和設(shè)計者，而是應(yīng)用算法技術(shù)向用戶提供信息服務(wù)的主體；二是對于沒有算法開發(fā)能力，需要通過與其他技術(shù)公司合作才能應(yīng)用算法推薦技術(shù)的中小企業(yè)，需要通過合同確定算法責(zé)任和算法義務(wù)的分擔(dān)問題。至于對產(chǎn)業(yè)的影響，程瑩研究員談到當(dāng)前算法合規(guī)對企業(yè)來說缺乏域外參考，也缺乏較為明確的指引，可能在一定程度上干擾新興業(yè)態(tài)的算法創(chuàng)新問題。算法推薦服務(wù)提供者分級分類管理制度的有效落地同樣關(guān)乎中小企業(yè)的利益保障和發(fā)展問題。

張凌寒副教授談到算法推薦服務(wù)提供者對接的是用戶端，即提供技術(shù)的企業(yè)并不是該《規(guī)定》的調(diào)整對象。因為該《規(guī)定》主要關(guān)注的是能夠?qū)τ脩魴?quán)益產(chǎn)生直接影響的平臺企業(yè)，為算法推薦服務(wù)提供者提供技術(shù)的企業(yè)尚不是《規(guī)定》關(guān)注的重點。關(guān)于《規(guī)定》的出臺對產(chǎn)業(yè)產(chǎn)生的影響來看，一方面會使得企業(yè)的合規(guī)成本增加，另一方面也會使得自身沒有算法推薦服務(wù)開發(fā)能力的企業(yè)對為自己提供算法推薦技術(shù)的技術(shù)服務(wù)提供者盡到合規(guī)自我審查的義務(wù)，承擔(dān)起應(yīng)負(fù)的責(zé)任。

儲江律師則聚焦實務(wù)界中關(guān)于算法推薦服務(wù)提供者的理解分歧進(jìn)而提出對于參與到個人信息處理中的主體未來是否也要納入到算法推薦服務(wù)提供者的范疇的思考，此外，儲江律師還談到將算法推薦作為企業(yè)單獨的合規(guī)模塊可能會對整個行業(yè)帶來一定的挑戰(zhàn)，但這種挑戰(zhàn)本身順應(yīng)了數(shù)據(jù)合規(guī)的工作思路，不會有太大的合規(guī)負(fù)擔(dān)和額外增加的合規(guī)成本，而對于中小平臺在使用推薦算法技術(shù)或使用大平臺向他們分享的推薦算法時，有賴于后續(xù)從反不正當(dāng)競爭法層面做出一系列規(guī)制，規(guī)范相應(yīng)的行為。

? ? ? 【問題四】《規(guī)定》第2條提到“在中華人民共和國境內(nèi)應(yīng)用算法推薦技術(shù)”，如何理解“境內(nèi)”？

? ? ? 許可副教授分享到從目前的表述來看，“境內(nèi)”體現(xiàn)的是屬地管轄的原則，即只要在中國國境以內(nèi)應(yīng)用算法，特別是境內(nèi)的算法服務(wù)提供者，無論算法服務(wù)的對象是中國人、外國人還是向境外提供服務(wù)，都適用本法。

? ? ? 【問題五】算法解釋與算法透明度第一次以明確的技術(shù)要求具體提出，應(yīng)該在實踐中如何實現(xiàn)？

? ? ? ?蘇宇副教授談到算法的可解釋性指的是算法模型本身是否可以解釋或本身提供解釋的能力有多強，有的算法模型是自解釋的，不需要額外提供解釋，而有的算法模型如帶黑箱的算法涉及可解釋性問題。當(dāng)前，提供算法解釋的途徑有兩種，一種是算法模型自己產(chǎn)生解釋，另一種是算法模型本身不做解釋，事后再提供解釋器。基于此，要優(yōu)化算法模型的可解釋性，一方面可以從算法本身入手，增強算法本身的規(guī)則化特征，另一方面可以提供針對此類算法模型或跨模型的解釋器。而優(yōu)化算法的透明度技術(shù)有很多可選方案，例如可以提供可量化的透明度報告。該《規(guī)定》第12條實際給算法推薦服務(wù)提供者提供了多元化探索的空間，以促成更多實現(xiàn)算法可解釋性和透明度的方案。

張凌寒副教授則聚焦該正式出臺的《規(guī)定》與此前征求意見稿的差別，回應(yīng)了實務(wù)界關(guān)于技術(shù)上無法實現(xiàn)算法可解釋性和透明度的爭議。張凌寒副教授談到，《規(guī)定》第12條中關(guān)于算法解釋的表述發(fā)生了非常大的改變，從義務(wù)性規(guī)定到鼓勵性規(guī)定的轉(zhuǎn)變，實際是整個監(jiān)管部門和立法部門考慮到各個算法推薦服務(wù)提供者在技術(shù)能力上的巨大差距，為包括算法推薦服務(wù)提供者在內(nèi)的平臺企業(yè)提供了一個逐漸摸索算法解釋和透明度的機制。立法的初衷仍是希望算法企業(yè)能夠在自身技術(shù)允許的范圍內(nèi)，以自律的方式逐步推進(jìn)算法透明度與算法解釋的制度建設(shè)。此外，《規(guī)定》第12條的另一明顯變化是將“引發(fā)爭議糾紛”修改為“預(yù)防和減少爭議糾紛”，這主要針對的是信息內(nèi)容平臺上的水軍、用戶攻擊、飯圈亂象等。因此，張凌寒副教授總結(jié)到《規(guī)定》的改變實際上是希望鼓勵平臺在整個內(nèi)容生態(tài)治理過程中，通過內(nèi)容去重和打散干預(yù)策略發(fā)揮更多積極的作用，并非強制性要求企業(yè)公布自己的算法甚至是源代碼，故企業(yè)無需擔(dān)憂。

儲江律師關(guān)注到算法的可解釋性和透明度問題是十多年前算法霸權(quán)概念被提出后對掌握關(guān)鍵大量個人信息企業(yè)提出的要求和原則，對于如何在企業(yè)合規(guī)中做到透明性和可解釋性的要求，儲江律師分享了兩點思考，一是將此項工作內(nèi)化到算法設(shè)計和算法開發(fā)的過程中，二是在算法最終服務(wù)利用階段，企業(yè)可以在不影響知識產(chǎn)權(quán)競爭力、商業(yè)秘密保護(hù)的前提下嘗試建立一定的申訴反饋機制，建立針對單個消費者的解釋渠道。

? ? ? ?【問題六】《規(guī)定》在第7條特別強調(diào)落實算法安全主體責(zé)任，什么是算法安全？它與網(wǎng)絡(luò)安全、數(shù)據(jù)安全是什么關(guān)系？

? ? ? 張欣副教授結(jié)合該《規(guī)定》和《算法綜合治理指導(dǎo)意見》中關(guān)于算法安全的表述，提出算法安全并非狹義上的算法本身是否安全和可靠，而是需要把它放在綜合治理的格局之下，故整體來講，繼網(wǎng)絡(luò)安全和數(shù)據(jù)安全之后，算法安全是非常重要的概念，也是未來治理的目標(biāo)。從微觀層面來看，算法安全與算法性能即算法的安全可靠相關(guān)，這要求算法的設(shè)計者、信息服務(wù)提供者提供的系統(tǒng)和模型的設(shè)計與運行是可靠的；從中觀層面來看，算法安全指的是算法的安全可控，安全可控已經(jīng)超越模型和設(shè)計本身，是在應(yīng)用場景當(dāng)中的風(fēng)險可控；從宏觀層面來看，算法安全指的是算法的安全可信，不管是《規(guī)定》還是《指導(dǎo)意見》都在強調(diào)算法的向上向善，算法的安全可信要放歸到整個算法運行生態(tài)中觀察算法是否可信。

蘇宇副教授則強調(diào)了算法安全問題的復(fù)雜性：算法本身可能存在缺陷，也可能受到外部的數(shù)據(jù)投毒、對抗樣本或模型竊取等攻擊；在現(xiàn)行有關(guān)規(guī)定中，算法安全不僅面臨著技術(shù)安全問題，還涉及科技倫理方面的安全，甚至涉及超出算法本身安全層次的安全問題，若把完整的算法安全考慮進(jìn)來，可能只有大企業(yè)才有能力去承擔(dān)算法安全要求，因此算法安全的要求程度非常高，中小企業(yè)很難抵抗所有針對算法模型的攻擊，故算法安全應(yīng)當(dāng)與算法的分級分類安全管理相結(jié)合，使算法安全的要求實現(xiàn)精準(zhǔn)、合理的場景化。

? ? ? ?儲江律師提到算法安全在一般企業(yè)中是網(wǎng)絡(luò)安全的子模塊，是單獨的安全工作任務(wù)，是數(shù)據(jù)安全相互并列，而該《規(guī)定》中的算法安全已超出算法技術(shù)本身，更多成為網(wǎng)絡(luò)安全和數(shù)據(jù)安全之間的內(nèi)容。企業(yè)在算法開發(fā)過程中若涉及個人信息保護(hù)、網(wǎng)絡(luò)詐騙等安全評估監(jiān)測時，是與傳統(tǒng)的數(shù)據(jù)安全工作有所交叉的。儲江律師還關(guān)注到《算法綜合治理指導(dǎo)意見》中提及的“組織建立專業(yè)技術(shù)評估隊伍，深入分析算法機制機理”等內(nèi)容，對未來企業(yè)算法安全方面的投入提出一定的要求，但這種合規(guī)成本的增加可以通過現(xiàn)階段工作任務(wù)的調(diào)整來實現(xiàn)。

? ? ? 【問題七】《規(guī)定》設(shè)專章規(guī)定了用戶權(quán)益保護(hù)，具體涉及哪些權(quán)益？哪種/些權(quán)益是比較重要的？

? ? ? ?許可副教授強調(diào)該《規(guī)定》在制定過程中一直倡導(dǎo)協(xié)同治理思路，其除了包括國家監(jiān)管機構(gòu)在算法治理過程中發(fā)揮的監(jiān)管作用外，還包括個體如何通過權(quán)利的行使對算法治理發(fā)揮作用。許可副教授進(jìn)一步談到基于算法的公開透明這一治理目標(biāo)，算法權(quán)益是對既有《個人信息保護(hù)法》下個人信息保護(hù)權(quán)益的延伸；而基于算法的公平公正需求，算法權(quán)益對算法的個人信息權(quán)益作了進(jìn)一步的提升，其賦予未成年人、老年人、勞動者、消費者更多的權(quán)益保障內(nèi)容，而這些內(nèi)容都可以成為未來個人信息權(quán)益非常重要的立足點和出發(fā)點。

? ? ? 儲江律師則關(guān)注到該《規(guī)定》中對用戶權(quán)利的立體保護(hù)模式，一方面保障了傳統(tǒng)數(shù)據(jù)立法之下消費者知情權(quán)和拒絕權(quán)或者可選擇權(quán)的實現(xiàn)，另一方面也在后續(xù)的監(jiān)管層面對數(shù)據(jù)權(quán)利主體的權(quán)利提出一系列保障機制。

? ? ? 【問題八】平臺的算法責(zé)任設(shè)置層次如何，是否合理？

? ? ? 張凌寒副教授指出該《規(guī)定》明確了平臺的算法問責(zé)制體系的建設(shè)，并在第五章設(shè)專章規(guī)定相關(guān)的法律責(zé)任。其中，需要尤為關(guān)注兩點內(nèi)容，一是規(guī)定了算法的虛假備案責(zé)任這一新型算法相關(guān)責(zé)任；二是明確了算法服務(wù)提供者違反相關(guān)義務(wù)所承擔(dān)的行政責(zé)任，并且這一責(zé)任力度的設(shè)置和網(wǎng)信辦此前的其他法規(guī)規(guī)章規(guī)定的力度基本保持一致。

程瑩研究員從主體責(zé)任的視角探討了平臺責(zé)任，并通過梳理該《規(guī)定》中關(guān)于平臺責(zé)任的10項不得和16項應(yīng)當(dāng)?shù)囊筇岢觯脚_企業(yè)重點關(guān)注的是責(zé)任的邊界問題，這其中不僅包括平臺責(zé)任設(shè)置的法理基礎(chǔ)，還包括平臺具體義務(wù)履行過程中的標(biāo)準(zhǔn)界定；此外，平臺義務(wù)是否可以落地也是平臺重點關(guān)注的問題，在未來三年的算法綜合治理過程中需要不斷探索和思考。

? ? ? 【問題九】《規(guī)定》在第四章監(jiān)督管理部分規(guī)定了算法備案制度，該制度有哪些作用？實踐中可能面臨哪些障礙？

? ? ? 張欣副教授認(rèn)為要把算法備案制度放在整個算法治理體系中以及算法治理要實現(xiàn)的治理功能中去理解。整體來講，算法備案必須要達(dá)成自身的治理效能和功能，才能稱之為有效的制度設(shè)計。從定義來講，算法備案是要求符合特定級別的算法推薦服務(wù)提供者，報送算法推薦服務(wù)相關(guān)活動的材料，以便日后備查和監(jiān)督的監(jiān)管方法。要完成算法備案制度，上游和下游都需要相應(yīng)的工具與其銜接。上游需要算法分級分類包括算法應(yīng)用的分級分類和算法推薦者的分級分類，需要監(jiān)管機關(guān)出臺一套更細(xì)化的評估清單或者評估的關(guān)鍵標(biāo)準(zhǔn)和流程；下游則更加關(guān)注備案之后的行為，是審查、審批還是后續(xù)的其他算法監(jiān)管措施。基于此，張欣副教授進(jìn)一步講到上下游之間的銜接問題以及算法備案時各級別各主體之間的備案協(xié)調(diào)問題都是需要重點關(guān)注的。此外，張欣副教授還通過信息搜集、信息披露、歸責(zé)等方面分享了算法備案的定位問題，并指出未來需要加強算法備案的法治化路徑探索。

儲江律師指出產(chǎn)業(yè)界除了關(guān)注備案的流程之外，還關(guān)注到頻繁的算法動態(tài)更新與算法備案之前的平衡問題。算法備案制度能夠有效確保《規(guī)定》中相關(guān)規(guī)則和處罰責(zé)任的落實到位，故算法的更新如何銜接備案工作是未來需要著重探討的方向，可以通過在平臺和監(jiān)管部門之間設(shè)置開放接口平臺對接的辦法在保護(hù)企業(yè)商業(yè)秘密、知識產(chǎn)權(quán)的前提之下做好相關(guān)推薦算法的動態(tài)更新。

程瑩研究員談到備案制度相對來說具有中國特色，也是該《規(guī)定》落實當(dāng)下需要積極推進(jìn)的制度，包括創(chuàng)建算法備案系統(tǒng)、如何去確定相關(guān)的備案內(nèi)容、備案主體等等。但復(fù)雜的算法節(jié)點關(guān)系以及繁多的算法服務(wù)類型給算法備案系統(tǒng)和內(nèi)容設(shè)置諸多的問題和障礙，此外，具體備案當(dāng)中是否存在重復(fù)備案或以哪種主體去備案更有利于未來監(jiān)管和降低企業(yè)成本，如何避免備案帶有許可性質(zhì)等問題也是我們需要著重考慮的問題。

? ? ? 【問題十】《規(guī)定》的內(nèi)容為合規(guī)責(zé)任主體提出了哪些新要求？合規(guī)責(zé)任主體應(yīng)如何根據(jù)《規(guī)定》要求調(diào)整現(xiàn)有合規(guī)方案？

? ? ? 儲江律師提出了三個方向的思考，即合規(guī)主體內(nèi)部合規(guī)機制、對數(shù)據(jù)主體權(quán)利的保護(hù)以及對外部監(jiān)管的應(yīng)對。《規(guī)定》在內(nèi)部合規(guī)領(lǐng)域帶來的變化主要是算法的機制機理評估的制度，以及透明度和可解釋性的問題，未來合規(guī)主體需要重點解決。針對數(shù)據(jù)主體權(quán)利保護(hù)，對特殊群體的保護(hù)義務(wù)是一個重點。在外部監(jiān)管方面，算法備案以及算法的分類分級是未來合規(guī)主體需要重視的方向。儲江律師進(jìn)一步對企業(yè)如何去調(diào)整合規(guī)方案提出了建議，第一，《算法綜合治理的指導(dǎo)意見》的重點內(nèi)容同樣不能在這次的合規(guī)方案調(diào)整當(dāng)中被忽視。第二，一些特殊類型的企業(yè)需要積極探索《規(guī)定》當(dāng)中相關(guān)概念的邊界。第三，在《規(guī)定》的法律責(zé)任框架體系下，合規(guī)主體也需要嘗試自己提出新的合規(guī)手段來適應(yīng)推薦算法整體的監(jiān)管體系。

? ? ? 蘇宇副教授指出，相比于國內(nèi)研究較多的刑事合規(guī)而言，該《規(guī)定》對企業(yè)合規(guī)的要求屬于行政合規(guī)。企業(yè)投入人力財力做合規(guī)的動力是防止承擔(dān)嚴(yán)厲的法律責(zé)任，那就需要從法律責(zé)任的設(shè)置談起，即企業(yè)內(nèi)部需要采用何種規(guī)定或管理模式來避免行政責(zé)任。就《規(guī)定》當(dāng)中的法律責(zé)任而言，第31條中行政處罰的前置程序給企業(yè)提供了糾正錯誤、明確合規(guī)方向的機會。《規(guī)定》中涉及大數(shù)據(jù)殺熟、未成年人保護(hù)、影響社會輿論或者社會動員的問題、平臺用工等涉及算法倫理的問題比較容易觸發(fā)直接處罰，合規(guī)工作中需要對此進(jìn)行特別關(guān)注。

? ? ? ?最后，北京航空航天大學(xué)法學(xué)院數(shù)字正義研究中心執(zhí)行主任裴煒教授總結(jié)到，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》本身具有復(fù)雜性，無論是從算法規(guī)制本身需要的整體性、綜合性和協(xié)同性，還是從責(zé)任主體、責(zé)任內(nèi)容、責(zé)任對應(yīng)的義務(wù)權(quán)利交叉性上，亦或是分類分級中不同領(lǐng)域應(yīng)用的獨特性上，都預(yù)示著未來這一算法推薦領(lǐng)域存在著諸多可以挖掘、研究和探索的事項。期待未來與各位專家進(jìn)一步合作研究，共同推進(jìn)算法規(guī)制在我國的落地實施。至此，本次專題研討會圓滿結(jié)束。