習(xí)近平總書記在中共中央政治局第十二次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，要從維護(hù)國家政治安全、文化安全、意識(shí)形態(tài)安全的高度，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，使全媒體傳播在法治軌道上運(yùn)行。互聯(lián)網(wǎng)的飛速發(fā)展推動(dòng)信息傳播方式發(fā)生深刻變革，人們通過網(wǎng)絡(luò)瀏覽信息、獲取服務(wù)、表達(dá)訴求、開展監(jiān)督。根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第42次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至2018年6月，我國網(wǎng)絡(luò)新聞?dòng)脩粢?guī)模為6.63億，手機(jī)網(wǎng)民規(guī)模達(dá)7.88億。在全媒體時(shí)代，加強(qiáng)網(wǎng)絡(luò)空間治理，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，日益成為推進(jìn)國家治理體系和治理能力現(xiàn)代化的重要方面。

全媒體時(shí)代網(wǎng)絡(luò)內(nèi)容治理面臨的挑戰(zhàn)

網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)的專業(yè)化、多元化、技術(shù)化、智能化帶來海量信息流，給網(wǎng)絡(luò)內(nèi)容治理帶來前所未有的困難與挑戰(zhàn)。根據(jù)國家統(tǒng)計(jì)局和中國互聯(lián)網(wǎng)絡(luò)信息中心數(shù)據(jù)統(tǒng)計(jì)，截至2018年6月，我國網(wǎng)民規(guī)模達(dá)8.02億、網(wǎng)站544萬、移動(dòng)應(yīng)用412萬款，網(wǎng)絡(luò)內(nèi)容類移動(dòng)應(yīng)用超過216萬，下載量超過5600億次。網(wǎng)絡(luò)平臺(tái)的豐富、多元、分散給內(nèi)容生產(chǎn)者提供了廣闊空間，從PGC（專業(yè)生產(chǎn)內(nèi)容）、UGC（用戶生產(chǎn)內(nèi)容）到OGC（職業(yè)生產(chǎn)內(nèi)容）、CGC（社群生產(chǎn)內(nèi)容），再到MCN（多頻道網(wǎng)絡(luò)），網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)變得更加多元、專業(yè)和智能，帶來了更加豐富、多樣、生動(dòng)、感性的網(wǎng)絡(luò)信息，同時(shí)也會(huì)帶來大量無效信息、重復(fù)信息甚至有害信息。一些內(nèi)容生產(chǎn)者為了博眼球、上熱搜，不擇手段地標(biāo)新立異、毫無底線地迎合受眾，甚至制造低俗話題和虛假有害內(nèi)容，給信息把關(guān)人和管理者帶來嚴(yán)峻挑戰(zhàn)。比如，一些短視頻平臺(tái)上含有色情暴力元素、宣揚(yáng)紙醉金迷生活方式的作品，經(jīng)過算法推薦技術(shù)進(jìn)行大量分發(fā)后，吸引百萬千萬粉絲，造成錯(cuò)誤的價(jià)值導(dǎo)向。盡管有關(guān)部門對(duì)違規(guī)主播和視頻實(shí)行禁播處理、對(duì)違規(guī)內(nèi)容實(shí)行禁止轉(zhuǎn)發(fā)等管理措施，但仍然禁而不止。一些網(wǎng)絡(luò)平臺(tái)在內(nèi)容分發(fā)上奉行技術(shù)中心主義，給公眾帶來“信息繭房”、觀念窄化等嚴(yán)重問題，也給內(nèi)容治理帶來技術(shù)挑戰(zhàn)。

商業(yè)網(wǎng)絡(luò)平臺(tái)逐利意識(shí)強(qiáng)烈、社會(huì)責(zé)任意識(shí)淡薄，使得網(wǎng)絡(luò)內(nèi)容生態(tài)面臨被資本綁架的風(fēng)險(xiǎn)與挑戰(zhàn)。截至2017年年底，我國上市互聯(lián)網(wǎng)企業(yè)102家，市值總和超過8萬億元人民幣。互聯(lián)網(wǎng)企業(yè)發(fā)展從一開始就與風(fēng)險(xiǎn)資本關(guān)系緊密。最近，中國信通院發(fā)布《2018年第三季度互聯(lián)網(wǎng)投融資運(yùn)行情況》顯示，2018年第三季度中國互聯(lián)網(wǎng)投融資筆數(shù)達(dá)到892件，同比增長66.4%，融資金額達(dá)到152億美元。據(jù)工信部數(shù)據(jù)顯示，2018年我國互聯(lián)網(wǎng)百強(qiáng)企業(yè)收入規(guī)模為1.72萬億元，互聯(lián)網(wǎng)業(yè)務(wù)收入同比增長50.6%，相比五年前翻了兩番多。客觀來看，風(fēng)險(xiǎn)資本對(duì)中國互聯(lián)網(wǎng)行業(yè)快速發(fā)展發(fā)揮了非常重要的推動(dòng)作用，但毋庸諱言，資本的逐利性也在綁架甚至驅(qū)動(dòng)一些網(wǎng)絡(luò)內(nèi)容創(chuàng)業(yè)公司走向野蠻生長之路，奉行流量至上的價(jià)值觀。比如，一些短視頻應(yīng)用和直播平臺(tái)經(jīng)常出現(xiàn)“三低”信息、搜索引擎導(dǎo)向虛假網(wǎng)站、“買熱搜”現(xiàn)象等，產(chǎn)生了負(fù)面社會(huì)影響。流量為王、資本至上的發(fā)展思路，也容易導(dǎo)致互聯(lián)網(wǎng)企業(yè)過度追逐經(jīng)濟(jì)利益而罔顧社會(huì)效益。

網(wǎng)民網(wǎng)絡(luò)素養(yǎng)參差不齊，群體極化帶來的網(wǎng)絡(luò)暴力等問題威脅網(wǎng)絡(luò)生態(tài)良性發(fā)展。互聯(lián)網(wǎng)已成為人們?nèi)粘Ｉ畹囊徊糠帧＝陙砦⑿湃骸Q群、微博群等各類互聯(lián)網(wǎng)群組不斷涌現(xiàn)，社交媒體的興起使得信息傳播呈現(xiàn)圈層化、裂變式擴(kuò)散，字?jǐn)?shù)限制、快速傳播、情緒化表達(dá)、娛樂化取向等因素使得網(wǎng)民傾向于選擇跟自己觀點(diǎn)和態(tài)度相近的圈子接觸，在此過程中非理性內(nèi)容更容易在與理性內(nèi)容的對(duì)抗中占據(jù)優(yōu)勢(shì)，進(jìn)而催生群體極化現(xiàn)象甚至道德失范行為。過于偏激的表達(dá)經(jīng)過互聯(lián)網(wǎng)的放大，不僅威脅網(wǎng)絡(luò)生態(tài)良性發(fā)展，還有可能向線下轉(zhuǎn)化，將網(wǎng)上輿論風(fēng)險(xiǎn)演變?yōu)榫€下的行動(dòng)性風(fēng)險(xiǎn)，從而對(duì)社會(huì)秩序穩(wěn)定帶來嚴(yán)重挑戰(zhàn)。

政府管理模式和技術(shù)監(jiān)管手段較為滯后，難以適應(yīng)網(wǎng)絡(luò)內(nèi)容生產(chǎn)和傳播技術(shù)的快速進(jìn)化。整體來看，當(dāng)前我國網(wǎng)絡(luò)內(nèi)容管理領(lǐng)導(dǎo)體制已基本形成，國務(wù)院授權(quán)國家互聯(lián)網(wǎng)信息辦公室行使互聯(lián)網(wǎng)信息內(nèi)容管理職責(zé)，中央、省、市三級(jí)網(wǎng)絡(luò)內(nèi)容管理體系基本建立，國家對(duì)網(wǎng)絡(luò)生態(tài)的把控力和管理能力得到明顯加強(qiáng)。網(wǎng)絡(luò)安全法及相關(guān)配套法規(guī)文件、各種管理辦法和規(guī)定的出臺(tái)，提高了網(wǎng)絡(luò)內(nèi)容管理的規(guī)范化、法治化水平。但在一些具體領(lǐng)域和問題上，網(wǎng)絡(luò)生態(tài)治理工作依然缺乏及時(shí)性、針對(duì)性和精準(zhǔn)度，特別是技術(shù)監(jiān)管能力落后于技術(shù)更新速度。從互聯(lián)網(wǎng)時(shí)代向大數(shù)據(jù)時(shí)代邁進(jìn)，所產(chǎn)生的數(shù)據(jù)量呈幾何級(jí)數(shù)增長，預(yù)計(jì)到2020年中國數(shù)據(jù)總量將高達(dá)8000EB級(jí)別，相當(dāng)于目前全球云存儲(chǔ)數(shù)據(jù)量的8000倍。面對(duì)迅速增長的海量信息和數(shù)據(jù)，現(xiàn)行的集中化管理手段和跟隨型監(jiān)管技術(shù)難以有效滿足信息把關(guān)和處置需求，導(dǎo)致內(nèi)容管理顯得較為滯后和低效。

以網(wǎng)絡(luò)內(nèi)容治理體系建設(shè)守住網(wǎng)上輿論陣地

習(xí)近平總書記指出：“我們要本著對(duì)社會(huì)負(fù)責(zé)、對(duì)人民負(fù)責(zé)的態(tài)度，依法加強(qiáng)網(wǎng)絡(luò)空間治理，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，做強(qiáng)網(wǎng)上正面宣傳，培育積極健康、向上向善的網(wǎng)絡(luò)文化。”結(jié)合網(wǎng)絡(luò)內(nèi)容治理現(xiàn)狀，我們要從國家戰(zhàn)略層面、社會(huì)綜合治理層面加強(qiáng)頂層設(shè)計(jì)，確立黨委、政府、企業(yè)、網(wǎng)民等多元主體的主體責(zé)任，明確治理目標(biāo)和任務(wù)，堅(jiān)持線上線下協(xié)調(diào)聯(lián)動(dòng)，守住網(wǎng)上輿論陣地。

建立管理端的網(wǎng)絡(luò)內(nèi)容治理制度體系。堅(jiān)持技術(shù)與法治并重，對(duì)網(wǎng)絡(luò)內(nèi)容治理與監(jiān)管的相關(guān)法律規(guī)定進(jìn)行系統(tǒng)梳理，制定科學(xué)有效的制度規(guī)范和技術(shù)流程，并對(duì)法律法規(guī)中滯后于網(wǎng)絡(luò)發(fā)展的內(nèi)容進(jìn)行修改、完善和補(bǔ)充，為網(wǎng)絡(luò)內(nèi)容治理提供科學(xué)化、系統(tǒng)化、規(guī)范化、標(biāo)準(zhǔn)化制度設(shè)計(jì)，確保有章可循、有據(jù)可依。建立網(wǎng)絡(luò)內(nèi)容綜合治理的管理與協(xié)作機(jī)制，從管理體系、運(yùn)行機(jī)制、保障機(jī)制、追責(zé)機(jī)制、技術(shù)支撐等方面，建立一套系統(tǒng)完善的網(wǎng)絡(luò)內(nèi)容治理指令執(zhí)行體系，健全跨部門、跨層級(jí)、跨地域、跨系統(tǒng)、跨業(yè)務(wù)的網(wǎng)絡(luò)內(nèi)容治理分工與協(xié)作機(jī)制，使政府監(jiān)管與網(wǎng)民自律、內(nèi)容安全與內(nèi)容創(chuàng)新、用戶管理與平臺(tái)管理之間相互協(xié)同、高效運(yùn)作。訴諸技術(shù)手段，實(shí)現(xiàn)科學(xué)監(jiān)管、技術(shù)治理，保持技術(shù)敏感性，跟進(jìn)新技術(shù)發(fā)展，轉(zhuǎn)變監(jiān)管方式，將機(jī)器學(xué)習(xí)與人工審核相結(jié)合，由主管部門牽頭制定網(wǎng)絡(luò)內(nèi)容“紅線”標(biāo)準(zhǔn)，確立網(wǎng)絡(luò)內(nèi)容治理的基調(diào)和價(jià)值主張，通過人工智能等技術(shù)手段對(duì)“信源”實(shí)現(xiàn)智能識(shí)別與篩選、抓取采集、過濾清理，一旦有新的“紅線”信息被識(shí)別標(biāo)記，將其關(guān)鍵詞納入后臺(tái)“負(fù)面語料庫”，實(shí)現(xiàn)全網(wǎng)共享、交叉識(shí)別與自動(dòng)處理，從而達(dá)到簡化行政流程、提高治理效率的效果。

建立生產(chǎn)端的網(wǎng)絡(luò)內(nèi)容建設(shè)規(guī)則體系。這里的生產(chǎn)端包括網(wǎng)絡(luò)內(nèi)容生產(chǎn)者與網(wǎng)絡(luò)平臺(tái)運(yùn)營者。網(wǎng)絡(luò)空間內(nèi)容生態(tài)的維護(hù)與治理不能只從終端開始，應(yīng)從生產(chǎn)源頭把控內(nèi)容質(zhì)量，防止一開始就被污染。把控質(zhì)量需要建立標(biāo)準(zhǔn)和規(guī)則，否則質(zhì)量好壞沒有依據(jù)。無論是對(duì)PGC、UGC，還是對(duì)OGC、CGC、MCN，都需要根據(jù)這些機(jī)構(gòu)的特點(diǎn)建立針對(duì)性強(qiáng)、可操作、易執(zhí)行的規(guī)則和標(biāo)準(zhǔn)體系，以指引其內(nèi)容生產(chǎn)過程。對(duì)傳播環(huán)節(jié)的網(wǎng)絡(luò)平臺(tái)運(yùn)營者來說，需要壓實(shí)平臺(tái)的企業(yè)主體責(zé)任，應(yīng)針對(duì)不同的網(wǎng)絡(luò)平臺(tái)制定實(shí)用對(duì)路的規(guī)則和標(biāo)準(zhǔn)，把平臺(tái)的責(zé)任具體化、數(shù)據(jù)化、實(shí)時(shí)化，切實(shí)讓平臺(tái)主動(dòng)承擔(dān)起內(nèi)容治理的社會(huì)責(zé)任。

建立用戶端的網(wǎng)絡(luò)內(nèi)容自律體系。用戶是網(wǎng)絡(luò)內(nèi)容生態(tài)建設(shè)的重要參與者。網(wǎng)民的瀏覽、閱讀、轉(zhuǎn)發(fā)、點(diǎn)贊、打賞、付費(fèi)等上網(wǎng)行為和數(shù)據(jù)都是網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)傳播的重要參考依據(jù)。網(wǎng)民的素質(zhì)和行為對(duì)網(wǎng)絡(luò)內(nèi)容的生產(chǎn)者、網(wǎng)絡(luò)平臺(tái)的運(yùn)營者、網(wǎng)絡(luò)社會(huì)的發(fā)展趨勢(shì)有重要的影響，需要網(wǎng)絡(luò)平臺(tái)運(yùn)營者通過上網(wǎng)規(guī)則、平臺(tái)約定、入網(wǎng)須知、技術(shù)限制等方式引導(dǎo)網(wǎng)民增強(qiáng)責(zé)任自負(fù)意識(shí)、依法上網(wǎng)意識(shí)、文明上網(wǎng)意識(shí)、個(gè)人隱私意識(shí)、網(wǎng)絡(luò)安全與風(fēng)險(xiǎn)意識(shí)等，讓每位用戶都能夠加強(qiáng)網(wǎng)絡(luò)行為自律，從而促進(jìn)網(wǎng)絡(luò)空間生態(tài)良好。

建立效果端的網(wǎng)絡(luò)內(nèi)容治理評(píng)價(jià)體系。網(wǎng)絡(luò)內(nèi)容治理應(yīng)堅(jiān)持效果導(dǎo)向，建立一套具備科學(xué)性、操作性、系統(tǒng)性、權(quán)威性的網(wǎng)絡(luò)空間生態(tài)評(píng)價(jià)指標(biāo)體系，明確評(píng)價(jià)的對(duì)象、方法、頻率、主體、發(fā)布流程、后續(xù)反饋等，一以貫之地堅(jiān)定執(zhí)行下去，確保取得實(shí)效。網(wǎng)絡(luò)內(nèi)容治理評(píng)價(jià)的參與主體主要有三個(gè)，一是國家層面和地方層面的網(wǎng)絡(luò)內(nèi)容治理主管部門，二是以學(xué)術(shù)機(jī)構(gòu)為代表的第三方評(píng)估機(jī)構(gòu)，三是網(wǎng)絡(luò)內(nèi)容生產(chǎn)與分發(fā)平臺(tái)。網(wǎng)絡(luò)工作職能部門負(fù)責(zé)制定、修改和主導(dǎo)實(shí)施網(wǎng)絡(luò)內(nèi)容治理評(píng)價(jià)的制度性文件；組織、委托或聘用第三方機(jī)構(gòu)建構(gòu)和完善網(wǎng)絡(luò)內(nèi)容治理評(píng)價(jià)指標(biāo)體系；運(yùn)用評(píng)價(jià)評(píng)估結(jié)果指導(dǎo)、監(jiān)督和推動(dòng)網(wǎng)絡(luò)內(nèi)容生產(chǎn)者和網(wǎng)絡(luò)平臺(tái)運(yùn)營者履行主體責(zé)任，樹立正面價(jià)值導(dǎo)向。第三方評(píng)估機(jī)構(gòu)應(yīng)秉持科學(xué)、公正的原則，發(fā)揮研究機(jī)構(gòu)的權(quán)威性和專業(yè)性，在相關(guān)理論和經(jīng)驗(yàn)研究的基礎(chǔ)上建構(gòu)一套經(jīng)得起實(shí)踐檢驗(yàn)的評(píng)價(jià)指標(biāo)體系，并根據(jù)監(jiān)管部門和相關(guān)網(wǎng)絡(luò)內(nèi)容主體的意見反饋及時(shí)修改完善評(píng)價(jià)指標(biāo)體系，使之與網(wǎng)絡(luò)生態(tài)建設(shè)的實(shí)際情況同步發(fā)展，真正發(fā)揮網(wǎng)絡(luò)內(nèi)容建設(shè)風(fēng)向標(biāo)作用。

（作者：謝新洲，系北京大學(xué)新媒體研究院院長）