從《網(wǎng)絡生態(tài)治理規(guī)定》看互聯(lián)網(wǎng)新技術的治理

作者 | 張欽坤 騰訊研究院秘書長

曹建峰 騰訊研究院高級研究員

今年，人工智能等新技術的治理，在全球范圍內(nèi)獲得了廣泛的關注。美歐開始針對人工智能相關應用探索多元化的治理措施。我國也開始回應人工智能新技術及其應用的潛在風險，《民法典人格權(quán)編草案》《數(shù)據(jù)安全管理辦法（征求意見稿）》《網(wǎng)絡音視頻信息服務管理規(guī)定》等都有所涉及。此外，網(wǎng)信辦發(fā)布的《網(wǎng)絡生態(tài)治理規(guī)定（征求意見稿）》（以下簡稱《規(guī)定》），在強調(diào)政府、企業(yè)、社會、網(wǎng)民等主體共同治理網(wǎng)絡信息內(nèi)容的同時，也及時回應了算法推薦、深度偽造、流量造假、網(wǎng)絡暴力等熱點問題。

算法推薦引發(fā)負面影響，風險防范與技術和產(chǎn)業(yè)發(fā)展的平衡需要分級分類多元治理

近年來，隨著人工智能算法推薦的廣泛應用引發(fā)的虛假信息、用戶隱私、信息繭房、算法歧視等負面影響的持續(xù)發(fā)酵，我國相關立法和標準開始關注算法推薦。《電子商務法》《數(shù)據(jù)安全管理辦法（征求意見稿）》以及國家標準《個人信息安全規(guī)范》最新修訂草案等都作出了規(guī)定，要求標明“定推”字樣，給用戶提供“退出”選項并刪除個人信息，禁止歧視、欺詐等。此次《規(guī)定》進一步明確算法推薦與人工編輯相結(jié)合的信息分發(fā)方式，第15條要求建立體現(xiàn)主流價值導向的推薦模型，建立健全人工干預機制，建立用戶自主選擇機制，進一步回應了算法推薦的相關問題。

從行業(yè)角度看，個性化算法推薦對貼近用戶需求以及構(gòu)建互聯(lián)網(wǎng)內(nèi)容和服務生態(tài)十分重要，在各類移動互聯(lián)網(wǎng)平臺的快速崛起中扮演著重要角色，已被廣泛應用于新聞、視頻、音樂等數(shù)字內(nèi)容及廣告、商品、服務等的分發(fā)、推薦。但在經(jīng)歷了算法有沒有價值觀的大討論之后，人們越來越多地認識到算法并不是萬能的，其在提高信息內(nèi)容分發(fā)效率的同時，卻可能帶來用戶隱私、信息繭房、內(nèi)容安全、傳播虛假信息等問題，甚至可能影響公眾認知，加劇社會分層和偏見等。所以企業(yè)在部署應用算法決策的時候，一方面需要持續(xù)優(yōu)化算法模型，確保數(shù)據(jù)和算法的準確性、有效性、公平性等；另一方面需要以人工干預等方式進行適度的管理，例如對進入推薦池由算法進行推薦的文章，需要經(jīng)過審核。

圖： 來源：網(wǎng)絡

國外也開始多舉措規(guī)范包括算法推薦在內(nèi)的算法決策的應用，例如歐盟GDPR通過賦予用戶選擇和控制權(quán)限來解決用戶畫像和自動化決策中的隱私問題，除此之外并沒有給算法推薦等自動化決策提出其他更多的監(jiān)管要求；而美國加州CCPA對于個人信息的處理則繼續(xù)沿用opt-out機制，對消費者更為實用，也更有利于市場發(fā)展和市場競爭。但數(shù)據(jù)創(chuàng)新研究中心（Center forData Innovation)的研究報告顯示，GDPR實施的一年以來，要求企業(yè)手動審查重大的算法決策提高了人工智能的總體成本，在某種程度上阻礙了歐盟的技術創(chuàng)新和產(chǎn)業(yè)發(fā)展。此外在行業(yè)自律方面，F(xiàn)acebook、YouTube等也在不斷調(diào)整完善其推薦算法，以便給予用戶更大的控制和選擇權(quán)限，同時限制虛假信息的傳播。例如今年6月YouTube對其推薦算法做出了三項調(diào)整，以便用戶可以更容易地探索主題和相關視頻，拒絕某個頻道的視頻推送，并理解為什么被推送了某個視頻，代表了其在算法透明上的努力。[1]

整體而言，國外對于算法決策確立了分類分級的監(jiān)管思路：分類即針對政府和公共部門使用的算法系統(tǒng)和商業(yè)領域的算法系統(tǒng)建立不同的監(jiān)管，前者需要較強的事前監(jiān)管，如歐盟提出針對前者建立“算法影響評估”機制[2]；分級即對于一般的商業(yè)算法系統(tǒng)如定向推送、個性化廣告等采取事后追究法律責任的方式，但對于具有與政府和公共部門的算法系統(tǒng)應用類似的重大影響的商業(yè)算法系統(tǒng)可考慮一定程度的事前監(jiān)管。此種分類分級監(jiān)管方式避免給企業(yè)帶來不成比例的成本和管理負擔，有助于人工智能發(fā)展應用。此外，非監(jiān)管的方式例如算法素養(yǎng)、倫理指南及倫理審查、技術標準和指南、用戶控制等柔性方式，也將發(fā)揮重要作用。這些舉措可給我國將來進一步立法提供有益的借鑒。

深度偽造給網(wǎng)絡內(nèi)容治理帶來新挑戰(zhàn)，監(jiān)管需要防范技術濫用同時留出發(fā)展空間

《規(guī)定》第24條規(guī)定，網(wǎng)絡信息內(nèi)容服務使用者不得利用深度學習、虛擬現(xiàn)實等新技術新應用從事法律、行政法規(guī)禁止的活動。這一規(guī)定給今年備受國內(nèi)外關注的“深度偽造”技術劃定了應用邊界，同時為行業(yè)探索有益應用場景留出了發(fā)展空間。

左圖：1994年電視劇《射雕英雄傳》截圖；右圖：同一場景的“深度偽造”視頻片段。來源@換臉哥

深度偽造（Deepfake）作為deep learning（深度學習）和fake（偽造）組合而成的新生事物，是隨著生成對抗網(wǎng)絡（GAN）等深度學習技術的發(fā)展而出現(xiàn)的。其最常見的方式是AI換臉，例如deepfake、face2face等技術，此外還包括語音模擬、人臉合成、視頻生成等，統(tǒng)稱為深度偽造。深度偽造和合成內(nèi)容給網(wǎng)絡平臺治理帶來了新挑戰(zhàn)，主要表現(xiàn)為利用深度學習等AI技術偽造或合成高度逼真且真假難辨的圖片、音頻、視頻來進行欺騙和欺詐，如色情報復、敲詐勒索、假冒身份、散布虛假信息等，給個人和企業(yè)利益以及公共安全帶來威脅。而且深度偽造生成方法開源軟件的增多，極大地降低了操縱、偽造音視頻的門檻。報告顯示，網(wǎng)上的深度偽造視頻的總數(shù)比去年12月翻了一番，達到近15000個，其中偽造的色情視頻占比高達96%。[3]

除了此次《規(guī)定》提出的概括性禁止要求，《民法典人格權(quán)編（草案）》第799條、《數(shù)據(jù)安全管理（征求意見稿）》第24條，以及日前發(fā)布的《網(wǎng)絡音視頻信息服務管理規(guī)定》第10-13條等都作出了規(guī)定。主要包括：禁止利用信息技術手段偽造的方式侵犯他人的肖像權(quán)和聲音；針對自動合成的信息內(nèi)容標明“合成”字樣；上線相關功能或服務需開展安全評估，對非真實音視頻信息予以標識，禁止深度偽造的虛假新聞消息，部署鑒別技術并在對非真實音視頻信息進行標識后方可繼續(xù)傳播，建立辟謠機制，等等。這些規(guī)定表明深度偽造等新技術新應用已經(jīng)引起我國立法的高度重視。

全球來看，美國最早對深度偽造進行規(guī)制，今年以來，美國尤其擔心深度偽造對2020年大選和國家安全的影響，開始探索立法應對措施，防范潛在濫用風險。2019年6月，美國國會先后提出了兩部法律草案《深度偽造責任法案》[4]和《2019年深度偽造報告法案》[5]。此外，美國的加州、德州、馬薩諸塞州、弗吉尼亞州等也陸續(xù)推出了相關立法。這些立法提出的主要措施包括：第一，設定應用紅線，禁止政治干擾、色情報復、假冒身份等非法目的的深度偽造，否則可能構(gòu)成刑事犯罪；第二，設置披露義務，要求制作者、上傳者以適當方式披露、標記合成內(nèi)容，例如采取嵌入數(shù)字水印、文字、語音標識等方式；第三，加強技術攻防，要求開發(fā)檢測識別和反制技術。

綜合國內(nèi)外監(jiān)管趨勢來看，遏制深度偽造技術的濫用需要多方主體共同努力，采取分類分場景監(jiān)管、行業(yè)自律、技術對抗、數(shù)字素養(yǎng)提升等多元化的舉措，在防范風險的同時促進深度偽造技術妥善利用。在合理有效、靈活敏捷的監(jiān)管之外，還需重視以下兩點。

一方面，探索更多有益運用場景，提振產(chǎn)業(yè)發(fā)展信心。深度偽造作為內(nèi)容創(chuàng)作工具有其積極的應用價值，可在娛樂、新聞媒體、影視制作、教育等諸多領域運用，例如實現(xiàn)虛擬主播、替身演出、虛擬歌手等，改善醫(yī)學圖像分析，豐富社交網(wǎng)絡體驗和自我表達等。面對深度偽造帶來的風險，在積極應對的同時，還應鼓勵行業(yè)探索更多有益運用場景，為人工智能技術開發(fā)提供更多實踐樣本，引導人工智能技術向善發(fā)展。

另一方面，從源頭要求制作者對深度偽造進行標注，同時鼓勵行業(yè)開發(fā)應用檢測識別技術，推動建立相關技術和行業(yè)標準。當前美國的做法主要是要求制作者對深度偽造內(nèi)容進行標注，否則可能承擔民事責任，嚴重時還將承擔刑事責任，從而從源頭上對深度偽造進行規(guī)范。這一源頭治理的做法具有合理性，因為沒有標注的深度偽造內(nèi)容一旦傳播出去之后，第三方就很難鑒別，檢測技術的開發(fā)、成熟也面臨著諸多困難，而且難以跟上深度偽造技術進化的步伐，所以開發(fā)溯源技術并進行源頭標記是最有效的措施。此外，當前谷歌、Facebook等美國主流科技公司都開始通過多種舉措，發(fā)展甄別深度偽造和合成內(nèi)容、對抗深度偽造技術濫用的方法和工具，包括：構(gòu)建并開放深度偽造數(shù)據(jù)集，為研究、開發(fā)檢測識別技術提供基準；支持、發(fā)起深度偽造檢測挑戰(zhàn)賽，與行業(yè)攜手推動檢測技術的研究與開發(fā)；開發(fā)深度偽造檢測識別和標注工具；培訓專門的合成內(nèi)容審查人員，加強對視頻內(nèi)容的真實性審核。但是考慮到行業(yè)內(nèi)當前還沒有通用的、高準確率的視頻鑒偽網(wǎng)絡，相應的鑒偽技術也都尚在初步階段、還有很長一段路要走，所以不宜強制要求平臺對用戶上傳的或第三方的視頻是否屬于“深度偽造”或“自動合成”進行檢測識別，并以此為由要求平臺承擔責任，因為這將給企業(yè)帶來不成比例的管理負擔和成本。而且技術攻防本來就是“魔高一尺道高一丈”、處于不斷發(fā)展之中，故不宜將其轉(zhuǎn)變?yōu)橛残砸�求并與法律責任掛鉤，所以如前所述，美歐沒有強硬要求平臺部署鑒別技術，而是采取了源頭治理讓制作者、上傳者對深度偽造內(nèi)容進行標注，這具有合理性，值得肯定。

流量造假行為被納入禁止性規(guī)范，技術管網(wǎng)遏制流量經(jīng)濟野蠻生長

《規(guī)定》第25條規(guī)定，網(wǎng)絡信息內(nèi)容服務使用者不得通過人力或者技術手段實施流量造假、流量劫持以及虛假注冊賬號、批量買賣賬號、操縱用戶賬號等行為，破壞網(wǎng)絡生態(tài)秩序。這一規(guī)定將流量造假等行為列為破壞網(wǎng)絡生態(tài)秩序的禁止性行為，有利于規(guī)范數(shù)據(jù)利用，從源頭制止流量造假。

流量是網(wǎng)絡文化的重要指標之一。流量經(jīng)濟時代，流量劫持、流量造假等問題開始挑戰(zhàn)傳統(tǒng)法律。流量造假糾紛不僅發(fā)生在個人主體之間，平臺間的流量之爭則更加復雜。去年8月，愛奇藝公司訴杭州飛益信息科技有限公司不正當競爭案中，法院認定通過技術手段增加無效的愛奇藝網(wǎng)站視頻訪問數(shù)據(jù)并獲取不當利益的行為破壞數(shù)據(jù)的真實性以及完整性，構(gòu)成不正當競爭，這表明被刷流量方也可能成為流量糾紛中的受害者。今年5月，全國首例暗刷流量案當庭宣判合同違反社會公共利益而無效，并上繳所有非法所得。流量造假、流量劫持以及虛假注冊賬號、批量買賣賬號、操縱用戶賬號等行為，不僅損害消費者權(quán)益，破壞商業(yè)模式，還會損害數(shù)據(jù)信息價值，造成大數(shù)據(jù)產(chǎn)業(yè)“劣幣驅(qū)逐良幣”。

圖：蔡徐坤1億轉(zhuǎn)發(fā)量（微博總用戶3.3億）流量造假被央視批評曝光

整體而言，流量造假背后已經(jīng)形成了巨大的灰色利益鏈條，從線上到線下需要更加嚴密的監(jiān)管體系。首先，平臺可以加強流量監(jiān)控合作，形成全平臺聯(lián)動打擊。以往的互聯(lián)網(wǎng)相關法規(guī)中，對流量造假等行為的規(guī)制主要在于提高平臺責任，要求平臺監(jiān)控異常數(shù)據(jù)，屏蔽造假網(wǎng)頁、處理虛假賬號等。下一階段，為應對大規(guī)模的流量造假，需要加強平臺合作，建立平臺與平臺間的聯(lián)動打擊機制。

其次，大力發(fā)展互聯(lián)網(wǎng)內(nèi)容產(chǎn)業(yè)，豐富網(wǎng)絡評價體系，告別“唯流量論”。網(wǎng)絡直播銷售、明星流量變現(xiàn)等商業(yè)模式催生了流量造假行為，畸形的利益分配機制是導致流量造假的根本原因。要扭轉(zhuǎn)這一局面，必須回歸互聯(lián)網(wǎng)內(nèi)容產(chǎn)業(yè)的發(fā)展，豐富評價體系，擺脫“唯流量論”。

再者，提高違法成本，有效震懾流量造假行為。如今流量造假行為已經(jīng)滲透到電商、娛樂、影視等多領域，利益的深度捆綁讓流量造假的多方主體均對該行為保持緘默。2018年《反不正當競爭法》的互聯(lián)網(wǎng)專條對流量劫持、惡意不兼容等問題進行了規(guī)制。2019年《電子商務法》明確禁止電商平臺買流量刷好評行為。未來還應進一步加大執(zhí)法力度，提高違法成本，破除該縱深灰色利益鏈條。

網(wǎng)絡暴力成諸多惡性事件導火索，監(jiān)管之外還需引導理性上網(wǎng)

《規(guī)定》第22條針對網(wǎng)絡暴力作出專門規(guī)定，明確禁止網(wǎng)絡用戶的網(wǎng)絡侵權(quán)和網(wǎng)絡暴力行為，違反該規(guī)定將依照相關法律、行政法規(guī)處理。網(wǎng)絡暴力在新技術背景下具有新的發(fā)展趨勢如人工智能被用于實施色情報復等，該規(guī)定有助于凈化網(wǎng)絡環(huán)境、維護健康的上網(wǎng)秩序，并規(guī)范新技術的應用。

互聯(lián)網(wǎng)在為用戶提供充分表達空間的同時，非理性的聲音也極易通過網(wǎng)絡發(fā)酵，造成大規(guī)模網(wǎng)絡行為失范。以語言暴力、隱私泄露等為典型，網(wǎng)絡暴力主要表現(xiàn)網(wǎng)絡欺凌、網(wǎng)絡跟蹤以及網(wǎng)絡騷擾，具體而言：一是對未經(jīng)證實或已經(jīng)證實的網(wǎng)絡事件，公開發(fā)表帶有傷害性、侮辱性和煽動性的失實言論；二是在網(wǎng)上公開他人個人隱私，侵犯其隱私權(quán)；三是對他人及其親友的正常生活進行行動和言論侵擾等。網(wǎng)絡暴力引發(fā)的社會惡性事件層出不窮，不僅對當事人身心、名譽、財產(chǎn)等方面造成實質(zhì)性損害，還會影響社會價值觀，破壞網(wǎng)絡生態(tài)秩序。

而且近年來，網(wǎng)絡暴力事件逐漸增多，沖突行為逐漸升級。中國社科院2019《社會藍皮書》顯示，其調(diào)查對象中，約有28.89%的青少年在上網(wǎng)過程中遇到過暴力辱罵，而60%以上的青少年對此沒有采取任何措施。美國反誹謗聯(lián)盟ADL（Anti-Defamation League）2018年調(diào)查顯示，全美范圍內(nèi)約37%的被調(diào)查民眾曾經(jīng)歷過性騷擾、被視奸跟蹤、人身攻擊、持續(xù)騷擾等各樣的極端網(wǎng)絡暴力。此外，如前所述深度偽造等新技術也被用于色情報復、敲詐勒索等網(wǎng)絡暴力行為，網(wǎng)絡上的深度偽造內(nèi)容幾乎都是偽造的色情視頻。

網(wǎng)絡暴力的成因復雜，牽涉面廣，對暴力信息往往難以及時介入和監(jiān)管。首先，互聯(lián)網(wǎng)的復合性傳播方式為網(wǎng)絡輿論發(fā)酵提供了便利。互聯(lián)網(wǎng)多樣化的傳播方式使得暴力信息可以通過公開網(wǎng)頁、即時通訊設備等進行公開、小范圍以及一對一的傳播，暴力信息一旦傳播開來，便難以控制。其次，網(wǎng)絡暴力信息界定模糊，難以及時發(fā)現(xiàn)并處理。在技術過濾和人工審核的雙重保障下，對于明顯的違法信息或含敏感詞信息，能進行有效攔截。但是，對于輿論形成初期，如何在健康的輿論環(huán)境中識別出暗含網(wǎng)絡暴力可能性的話題，如何區(qū)分正當?shù)妮浾摫O(jiān)督和暴力信息都尚未明確操作標準。整體而言，目前針對網(wǎng)絡暴力的治理仍以事后監(jiān)管為主，對網(wǎng)暴事件發(fā)生的施暴引導者、不實信息散布者及事件背后的組織策劃者等關鍵對象進行懲治。引導用戶理性上網(wǎng)，提升網(wǎng)民素養(yǎng)是從源頭消解網(wǎng)絡暴力的必要手段。

探索新技術治理的中國模式，為新技術發(fā)展應用營造良好的制度土壤

如前所述，連同此次《規(guī)定》在內(nèi)，我國近一兩年一系列立法開始加強規(guī)制人工智能等新技術及其應用。但在當前的國際化發(fā)展形勢下，新技術成為各國競爭的核心，如何在日趨嚴峻的國際競爭形勢下（如地區(qū)對抗博弈加劇、單邊主義抬頭等），為新技術創(chuàng)新發(fā)展和應用普及營造良好的制度土壤，從而占據(jù)技術發(fā)展和產(chǎn)業(yè)應用高地，是我國在監(jiān)管新技術新應用時需要著力思考的。

歷史地看，美國硅谷之所以在互聯(lián)網(wǎng)時代成為全球科技創(chuàng)新中心，除了資本、人才、人才流動等因素之外，其成功在很大程度上歸因于美國互聯(lián)網(wǎng)友好型的法律變革，諸如適度的平臺責任、版權(quán)避風港和開放式的合理使用制度、行業(yè)自律為主的隱私監(jiān)管等，這些制度規(guī)定為硅谷企業(yè)在Web 2.0時代的巨大成功提供了良好的法律制度土壤，天才的程序員們才得以發(fā)揮其聰明才智，帶來令人驚艷的創(chuàng)新產(chǎn)物。[6]這可以給全世界正在進行中的新技術治理提供很好的啟發(fā)。

當前在新技術治理方面，歐盟最為活躍。GDPR、數(shù)字稅、人工智能監(jiān)管等都旨構(gòu)建歐盟內(nèi)部統(tǒng)一的互聯(lián)網(wǎng)監(jiān)管標準和模式，但其對新技術的嚴格管制能否最終轉(zhuǎn)化為其在人工智能等新技術、新產(chǎn)業(yè)發(fā)展等上的國際競爭力，是值得深入探討的。除了對自身發(fā)展的考量，歐盟的互聯(lián)網(wǎng)強監(jiān)管還有另外一個人們經(jīng)常提及的原因，就是通過設定偏向性的法律規(guī)則來制衡、約束美國，意在為歐盟自身贏得產(chǎn)業(yè)發(fā)展機遇。用歐盟官方的話來說就是，讓互聯(lián)網(wǎng)惠及所有人，而非個別公司（意指美國大型互聯(lián)網(wǎng)企業(yè)）。

就我國而言，防范新技術新應用相關的風險，已經(jīng)成為了我國互聯(lián)網(wǎng)治理的重要內(nèi)容，需要明確整體上的治理思路和路徑。如前所述，在中美歐引領互聯(lián)網(wǎng)競爭的國際背景下，對于新技術新應用歐盟采取了更為側(cè)重監(jiān)管的路徑，而美國相對寬松的監(jiān)管環(huán)境在新技術背景下不大可能發(fā)生大的改變。以此為出發(fā)點，我國在監(jiān)管新技術新應用的時候，需要考慮國際競爭視角和新技術新應用的社會經(jīng)濟效益，兼顧監(jiān)管治理需求、防范風險、權(quán)益保護與技術創(chuàng)新、產(chǎn)業(yè)發(fā)展等。更進一步，在實踐層面，多層次的治理體系比單一的監(jiān)管和法律更能適應人工智能等新技術快速發(fā)展迭代、日益復雜化的特征，行業(yè)標準、自律公約、技術指南、最佳實踐、倫理框架、倫理教育和技術素養(yǎng)等都將發(fā)揮更大的作用。在監(jiān)管方面需要“疏堵結(jié)合、包容審慎、敏捷靈活”的方式，“疏”即破除新技術應用面臨的法律障礙，如自動駕駛汽車、AI醫(yī)療等面臨的傳統(tǒng)監(jiān)管障礙，構(gòu)建新的監(jiān)管框架；“堵”即明確應用邊界，并以包容審慎、敏捷靈活的方式防范風險，保障技術和產(chǎn)業(yè)發(fā)展空間。

注：感謝騰訊公司安全管理部安全戰(zhàn)略研究中心高級研究員趙玉現(xiàn)在此文寫作過程中提出寶貴建議，騰訊研究院助理研究員熊辰協(xié)助進行資料搜集。

參考資料：

[1]https://youtube.googleblog.com/2019/06/giving-you-more-control-over-homepage.html

[2]http://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2019)624262

[3] https://edition.cnn.com/2019/10/07/tech/deepfake-videos-increase/index.html

[4] https://www.congress.gov/bill/116th-congress/house-bill/3230

[5] https://www.congress.gov/bill/116th-congress/senate-bill/2065/text

[6] https://mp.weixin.qq.com/s/_3oKDj2WnPioFMlk9-bwvw