“能力越大，責任也就越大。”這句話同樣適用于匯聚著億萬雙眼睛的互聯(lián)網(wǎng)主體平臺。
隨著互聯(lián)網(wǎng)信息載體和內(nèi)容主體的不斷豐富，網(wǎng)絡(luò)不可避免地出現(xiàn)了魚龍混雜的局面。無視版權(quán)、低俗涉黃、詐騙信息、涉恐涉暴……種種問題交織在一起，嚴重破壞了網(wǎng)絡(luò)生態(tài)。為了改善網(wǎng)絡(luò)環(huán)境，知乎致力于構(gòu)建認真、專業(yè)、友善的社區(qū)氛圍，并在此過程中，始終堅持長期主義，在不斷升級的內(nèi)容風控對抗中持續(xù)自我提升。
知乎一直以來都非常重視社區(qū)生態(tài)治理，面對海量數(shù)據(jù)，治理方找準方法很重要?！拔覀冃枰浞掷煤盟惴Ｐ偷膬?yōu)勢，并與第三方服務(wù)商合作。網(wǎng)易易盾是國內(nèi)領(lǐng)先的內(nèi)容安全服務(wù)商，我們非常認可其安全服務(wù)的專業(yè)性和可靠性。”知乎表示。
知識社區(qū)堅持「獲得感」的長期主義
諸如「如何打造一個不凌亂的家？」「如何開家長長久久的咖啡館？」「電腦內(nèi)部是如何溝通工作的？」「我是否卷入了一場騙局？」「藝術(shù)品的收藏價值來自于何處？」等的問題在知乎中隨處可見，透露著未知與求知的博弈。
與每個疑問面對面的瞬間，人們總是迫切地尋找答案，搜尋一本答疑解惑的書，詢問一名相關(guān)領(lǐng)域的專家，或者是轉(zhuǎn)向知識社區(qū)“知乎”。即使是沒有學過的專業(yè)知識，沒有經(jīng)歷過的人生，沒有觸達的未知，我們大概也會在翻閱數(shù)個帖子后，知曉一二。
從幾個人，到幾萬個人，再到數(shù)千萬人，對知識有渴求的內(nèi)容創(chuàng)作者很快順著網(wǎng)線會合，以一磚一瓦的“智慧”聚集構(gòu)成了全知全能的“知乎”。在招股書上，知乎給自己下了這么一個定義：“中文互聯(lián)網(wǎng)高質(zhì)量的問答社區(qū)，創(chuàng)作者聚集的原創(chuàng)內(nèi)容平臺”。自 2010 年成立以來，知乎以“讓人們更好的分享知識、經(jīng)驗和見解，找到自己的解答”為使命，在諸多領(lǐng)域建立起了以社區(qū)驅(qū)動的內(nèi)容變現(xiàn)商業(yè)模式。目前，知乎已經(jīng)覆蓋問答社區(qū)、會員業(yè)務(wù)、商業(yè)內(nèi)容解決方案、熱榜、機構(gòu)號、視頻、直播等一系列產(chǎn)品和服務(wù)，并建立了包括音頻、視頻在內(nèi)的多元媒介形式。
截至 2021 年第三季度，知乎共累計 4.59 億條多元形式的內(nèi)容，其中問答條數(shù)達到 3.98 億，知乎平均月活躍用戶首次突破一億大關(guān)，知乎擁有累計超過 5300 萬的內(nèi)容創(chuàng)作者，月活創(chuàng)作者數(shù)量達到 364萬。
可以說，知乎有著屬于自己執(zhí)著且獨特的內(nèi)容風控情懷，即獲得感。一直以來，知乎將能夠「開闊眼界，帶來幫助或引發(fā)共鳴」的內(nèi)容高度概括為「獲得感」。截至目前，「獲得感」已經(jīng)成為知乎衡量內(nèi)容價值的標尺，用來強化社區(qū)治理，調(diào)整內(nèi)容結(jié)構(gòu)。好內(nèi)容因此得到了更多關(guān)注、流量和收益，社區(qū)生態(tài)也因此更加健康繁榮。
打造知識海洋深處的凈化器
以往，提到內(nèi)容風控，大家都會想到博人眼球的黃色擦邊球、性感裸露圖片……
在知乎看來，內(nèi)容風控是指對合規(guī)內(nèi)容的保護與對不合規(guī)內(nèi)容的治理。這里面提到的「規(guī)」既包括法律、政策要求，也包括平臺對內(nèi)容風控的自驅(qū)要求。如此看來，內(nèi)容風控需要做到的其實就是識別、判斷不同載體（文本、圖片、聲音、視頻等）中信息的合規(guī)性。
基于這樣的目標，知乎設(shè)定了四個關(guān)鍵需求：法律法規(guī)的建設(shè)、內(nèi)容風控技術(shù)的攻關(guān)、標準化的風控體系與高水平的人才，衍生出四大內(nèi)容安全能力方向，簡單舉例：
一是，法律法規(guī)、政策要求、平臺自身規(guī)則往往是精煉的，在實際的內(nèi)容安全業(yè)務(wù)中，需要在充分理解規(guī)則的基礎(chǔ)上，轉(zhuǎn)化為可以直接指導業(yè)務(wù)的標準，再同步到內(nèi)容安全業(yè)務(wù)各個環(huán)節(jié)有效落地。
二是，面對每天海量的數(shù)據(jù)，對內(nèi)容的智能理解能力成為了內(nèi)容安全業(yè)務(wù)的強需求，知乎目前通過自研+采買服務(wù)的形式不斷補強風險內(nèi)容的識別能力。
三是，采用人機結(jié)合的內(nèi)容風險控制體系，能夠良好地輔助審核人員對內(nèi)容進行把關(guān)，提升工作效率。知乎自研的策略引擎「哪吒」與審核系統(tǒng)「天璣」，將內(nèi)容安全業(yè)務(wù)各環(huán)節(jié)高效串聯(lián)并運轉(zhuǎn)。
四是，設(shè)立了專門的內(nèi)容安全培訓團隊，并搭建了完整的培訓流程，旨在長期培養(yǎng)出思想站位高、視野寬廣、經(jīng)驗豐富的內(nèi)容安全業(yè)務(wù)人員，幫助平臺把關(guān)的同時，為清朗網(wǎng)絡(luò)空間培養(yǎng)守護者。
AI賦能，不合規(guī)內(nèi)容識別更高效
AI（Artificial Intelligence，人工智能技術(shù)）技術(shù)應(yīng)用到內(nèi)容風控中并非新鮮事，AI參與識別不合規(guī)內(nèi)容越來越普遍。受疫情影響，許多工作都放在線上進行，知識的分享和獲取也不例外。通過AI進行內(nèi)容檢測是一個節(jié)省人力、物力的全新方式，在幾年前就受到了知乎的采用。
雖然AI算法模型不能完全代替人類審核員，但卻是重要的違規(guī)“定位”工具。知乎采取AI機審和人審相結(jié)合的方式，離開了AI或是審核員，內(nèi)容安全業(yè)務(wù)的質(zhì)量和效果將大大下降。
在引入易盾的AI算法模型之后，知乎表示，易盾深厚的技術(shù)沉淀以及個性化定制的服務(wù)，在風險內(nèi)容組織性與對抗性日趨增強的今天，能夠補強知乎對于不合規(guī)內(nèi)容的識別、判斷能力。
近年來，知乎持續(xù)加大內(nèi)容治理方面的投入，從內(nèi)容安全紅線底線、不友善、內(nèi)容質(zhì)量、未成年保護等多方面入手，將第三方模型和自研模型相結(jié)合，大大提升了相關(guān)違規(guī)內(nèi)容的召回率和準確率。
知乎表示，內(nèi)容風控作為生態(tài)建設(shè)的基本盤，在其內(nèi)部已經(jīng)建立起來一套新產(chǎn)品、新功能上線的內(nèi)容風控評估流程，任何功能更新、上線前都需要經(jīng)過內(nèi)容風控評估。對于公司未來發(fā)展的方向和重點，知乎也提前做了行業(yè)調(diào)研和能力儲備，確?；颈P一直是穩(wěn)的，是可以跟得上行業(yè)發(fā)展的。
轉(zhuǎn)自：雷鋒網(wǎng)
【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。
延伸閱讀
政策協(xié)同發(fā)力 做好“十四五”時期就業(yè)工作
