硅谷巨頭如何自我監(jiān)管？

?

2018-8-15 青野云麓

?

文/EW RA| Zoe Duan

來(lái)源：東西文娛

導(dǎo)讀

今年，視頻網(wǎng)站和社交網(wǎng)站內(nèi)容合規(guī)問(wèn)題頻頻爆發(fā)，互聯(lián)網(wǎng)整治收緊，監(jiān)管潮席卷文娛、廣告、游戲各個(gè)領(lǐng)域，海外公司中，F(xiàn)acebook先后被通俄門、假新聞、謀殺和自殺視頻、劍橋分析公司數(shù)據(jù)丑聞沖到了風(fēng)口浪尖； YouTube也因虐童視頻、學(xué)術(shù)造假?gòu)V告、UGC網(wǎng)紅內(nèi)容創(chuàng)作者行為失當(dāng)?shù)葍?nèi)容問(wèn)題纏身。

雖然在內(nèi)容監(jiān)管和自查方面，海外互聯(lián)網(wǎng)內(nèi)容公司和社交網(wǎng)站的表現(xiàn)并不足以被稱作榜樣，但也正如Facebook近期的聲明中所稱——“危機(jī)平臺(tái)內(nèi)容的對(duì)手是背靠資本的頑固派，他們可能永不罷休，甚至不斷改變策略，這是一場(chǎng)軍備競(jìng)賽，平臺(tái)要做的就是持續(xù)進(jìn)化”，從監(jiān)管策略改進(jìn)和技術(shù)完善的角度上說(shuō)，以Facebook為代表的社交和直播、以YouTube 為代表的視頻與UGC內(nèi)容平臺(tái)、還有Instagram為代表的短視頻領(lǐng)域，也已積累出一些既定的方法，對(duì)問(wèn)題的預(yù)見(jiàn)和更新策略布局或有借鑒意義。

綜合來(lái)看，海外網(wǎng)站的爭(zhēng)議內(nèi)容的形態(tài)和問(wèn)題可以概括為以下方面：呈現(xiàn)形式要以文字帖、視頻、短視頻、直播、游戲、廣告為主；涉及的具體違規(guī)問(wèn)題包含——用戶隱私侵犯和數(shù)據(jù)泄露，不正當(dāng)定向廣告，涉及暴力、色情、恐怖主義、異端宗教、虐童、陰謀論、種族歧視、性別歧視等不良內(nèi)容，虛假新聞，涉嫌詐騙和數(shù)據(jù)挖掘的釣魚(yú)網(wǎng)站。根據(jù)平臺(tái)產(chǎn)品組成和內(nèi)容屬性，也呈現(xiàn)了不同側(cè)重的內(nèi)容監(jiān)管機(jī)制。?

社交和直播自我監(jiān)管-Facebook

Facebook 與Instagram系統(tǒng)保持協(xié)同連接的關(guān)系， 一般適用于Facebook的內(nèi)容監(jiān)測(cè)和審查功能也同樣適用于Instagram，同時(shí)據(jù)公司相關(guān)人士稱，F(xiàn)acebook的平臺(tái)安全維護(hù)團(tuán)隊(duì)中有部分人員專門負(fù)責(zé)Instagram事務(wù)，因此連同兩者談Facebook整體的內(nèi)容監(jiān)管機(jī)制

1、細(xì)化社區(qū)準(zhǔn)則 精準(zhǔn)定義違規(guī)內(nèi)容

Facebook的社區(qū)準(zhǔn)則主要職能是界定違規(guī)內(nèi)容，過(guò)去，社區(qū)準(zhǔn)則中的違規(guī)內(nèi)容定義較為模糊，反饋稱容易混淆，數(shù)據(jù)泄露丑聞爆發(fā)后不久，F(xiàn)acebook發(fā)布27頁(yè)的更新版準(zhǔn)則，圍繞“暴力與犯罪”、“安全”、“侮辱性內(nèi)容”、“信譽(yù)真實(shí)性”、“知識(shí)產(chǎn)權(quán)”“內(nèi)容相關(guān)的請(qǐng)求”六個(gè)大類，有22條詳細(xì)規(guī)定，違規(guī)內(nèi)容和賬號(hào)將被平臺(tái)刪除或封停。

社區(qū)準(zhǔn)則具體到如“不可發(fā)布詆毀受害者的言論”或“不可發(fā)布有辱他人外貌、人格、身體的描述，或?qū)ζ溥M(jìn)行排名”，充分參考平臺(tái)過(guò)去發(fā)生爭(zhēng)議內(nèi)容，并與準(zhǔn)則的具體化實(shí)現(xiàn)強(qiáng)關(guān)聯(lián)。

Facebook平臺(tái)內(nèi)容細(xì)化準(zhǔn)則的目的，一在于詳細(xì)界定細(xì)微的內(nèi)容問(wèn)題，二在于鼓勵(lì)用戶、各界專家對(duì)平臺(tái)反饋，幫助平臺(tái)不斷完善平臺(tái)的指導(dǎo)方針，在內(nèi)容過(guò)濾和撤除時(shí)更有理可依。

經(jīng)過(guò)最新一輪的更新，除了發(fā)布社區(qū)準(zhǔn)則之外，內(nèi)容發(fā)布者還有了申訴的機(jī)會(huì)。多年來(lái)，F(xiàn)acebook也誤判了許多正規(guī)內(nèi)容，例如撤下經(jīng)典雕像、越南戰(zhàn)爭(zhēng)中逃跑兒童等無(wú)傷大雅的照片； 如今被錯(cuò)判的申訴會(huì)在24小時(shí)內(nèi)被復(fù)審，據(jù)稱這一政策目前只針對(duì)部分含有裸露、色情、仇恨言論、暴力圖像展開(kāi)，并仍在不斷延伸覆蓋的類型。

2、歐洲通用數(shù)據(jù)保護(hù)條例（GDPR）下的自我監(jiān)督

2018年5月，歐洲通用數(shù)據(jù)保護(hù)條例（GDPR）正式生效，而在用戶數(shù)據(jù)泄露風(fēng)波中首當(dāng)其沖的Facebook決定——將把GDPR條例衍生之其他服務(wù)覆蓋的國(guó)家和地區(qū)，監(jiān)督Instagram、Oculus、WhatsApp對(duì)GDPR的遵守，并就“透明度”、“控制”、“責(zé)任”三大方面做出承諾，在信息透明度上強(qiáng)化產(chǎn)品內(nèi)的提醒和用戶教育宣傳，在用戶控制上簡(jiǎn)化了用戶設(shè)定信息權(quán)限的流程，并提供更多賬戶安全自查的提醒； 同時(shí)， Facebook承諾定期更新合規(guī)計(jì)劃，與世界各地的監(jiān)管機(jī)構(gòu)、司法機(jī)構(gòu)、專家學(xué)者會(huì)面，以尋求反饋。

6月，F(xiàn)acebook在投資者的壓力影響下，宣布加強(qiáng)管理層管理，提高公司審計(jì)委員會(huì)權(quán)利。

Facebook審計(jì)委員會(huì)主要負(fù)責(zé)監(jiān)控Facebook的社會(huì)影響、隱私保護(hù)措施和網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，目前該委員會(huì)由前白宮辦公廳主任厄斯金·鮑爾斯擔(dān)任主席。

經(jīng)歷劍橋數(shù)據(jù)風(fēng)波后，委員會(huì)增加了三項(xiàng)職責(zé)，以至少每年一次的頻率對(duì)Facebook可能危害公共利益和安全的服務(wù)、隱私項(xiàng)目、網(wǎng)絡(luò)安全風(fēng)險(xiǎn)三大方面進(jìn)行評(píng)估，以此為投資者就“誰(shuí)對(duì)監(jiān)管隱私、社會(huì)影響、網(wǎng)絡(luò)安全和合規(guī)負(fù)最終責(zé)任”提供更清晰的認(rèn)識(shí)。

3、“透明度舉報(bào)”平臺(tái)維護(hù)版權(quán)

侵權(quán)舉報(bào)和檢測(cè)工具“信息透明度舉報(bào)”管理團(tuán)隊(duì)將人工刪除涉及侵犯內(nèi)容版權(quán)（書(shū)籍、音樂(lè)、影視、藝術(shù)、文字、圖像）、商標(biāo)和涉嫌假冒偽劣的內(nèi)容，用戶可通過(guò)Facebook和Instagram的IP幫助中心填寫(xiě)在線投訴表格，投訴交由Facebook的IP運(yùn)營(yíng)團(tuán)隊(duì)在一天之內(nèi)受理，重復(fù)侵權(quán)的賬號(hào)將被關(guān)停。

針對(duì)版權(quán)的工具類產(chǎn)品還有“版權(quán)管理員”（Rights Manager）以及 “商務(wù)&廣告IP工具”（Commerce& Ads IP Tool）， 前者針對(duì)包括直播在內(nèi)的視頻內(nèi)容進(jìn)行相似性比對(duì)，后者營(yíng)銷內(nèi)容篩選分類，幫助版權(quán)所有者舉報(bào)偽商標(biāo)和侵權(quán)的內(nèi)容。

4、 AI與算法結(jié)合人工審查

在國(guó)會(huì)聽(tīng)證會(huì)上，扎克伯格在一小時(shí)內(nèi)提及AI三十余次，并堅(jiān)稱AI是平臺(tái)內(nèi)容監(jiān)管的答案“未來(lái)的五到十年，AI將成為世界上最大的社交網(wǎng)絡(luò)的捍衛(wèi)者，在全球范圍內(nèi)解決其最緊迫的危機(jī)，同時(shí)也幫助公司回答有關(guān)審查、公平和人類無(wú)節(jié)制等棘手問(wèn)題?！?/span>

基于人工智能研究項(xiàng)目FAIR，F(xiàn)acebook官方稱， 就AI在Facebook內(nèi)容監(jiān)管上的應(yīng)用而言，圖像內(nèi)容審查方面，其物體識(shí)別技術(shù)（Object recognition）以含有數(shù)十億參數(shù)和數(shù)百萬(wàn)案例訓(xùn)練的神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)。

Facebook的產(chǎn)品經(jīng)理表示，涉及用戶安全的內(nèi)容（如帶有自殺、自殘傾向的視頻），F(xiàn)acebook的AI的監(jiān)測(cè)基于過(guò)去相關(guān)的直播和帖子收集數(shù)據(jù)，審查中被識(shí)別并標(biāo)記的圖像，F(xiàn)acebook除了為用戶提供疏導(dǎo)視頻外，還會(huì)提供人工心理疏導(dǎo)服務(wù)邀請(qǐng)，而在物體識(shí)別技術(shù)上的每一次進(jìn)步，都將意味Facebook Accessibility團(tuán)隊(duì)將技術(shù)的適用范圍擴(kuò)大”；

在文字審查方面，有“DeepText”（深度文本)引擎，據(jù)稱“能夠以近乎人類的精確度理解每秒數(shù)千篇文章的文本內(nèi)容，跨越20多種語(yǔ)言”，此前Deeptext除用于內(nèi)容個(gè)性化推薦外，還用于自動(dòng)清除垃圾郵件，幫助公眾人物將數(shù)百萬(wàn)條評(píng)論進(jìn)行分類，以查看最相關(guān)的評(píng)論，自動(dòng)識(shí)別銷售文章，提取相關(guān)信息，識(shí)別和顯示用戶可能感興趣的內(nèi)容。

但也有評(píng)論稱，盡管Facebook的AI技術(shù)取得一定成績(jī)，但與目前AI技術(shù)的整體發(fā)展一樣，都面臨著三大難題：一、文字識(shí)別容易，語(yǔ)義理解任重道遠(yuǎn)，對(duì)于虛假新聞監(jiān)測(cè)來(lái)說(shuō)，聯(lián)系具體社會(huì)語(yǔ)境更是內(nèi)容鑒別關(guān)鍵； 二、這是一場(chǎng)與資本豐厚的對(duì)手之間的軍備競(jìng)賽，AI也不可避免的會(huì)在未來(lái)被用于制造出有目標(biāo)性、被優(yōu)化的虛假內(nèi)容； 三、視頻內(nèi)容檢測(cè)更為不易，建立可以捕捉虛假影像的系統(tǒng)難度巨大。

因此鑒于AI技術(shù)的局限性， Facebook聘請(qǐng)了一萬(wàn)五千名人工審查員配合監(jiān)測(cè)和刪除爭(zhēng)議內(nèi)容，在之前的分析中我們也提到，扎克伯克宣布于今年年底前新增五千人，輔助內(nèi)容篩查。

Facebook此前已有人工智能研究項(xiàng)目（FAIR），并也持續(xù)邀請(qǐng)?jiān)跈C(jī)器學(xué)習(xí)、醫(yī)療保健、游戲、對(duì)話類介質(zhì)算法開(kāi)發(fā)方面頗具經(jīng)驗(yàn)的人才，對(duì)實(shí)驗(yàn)室進(jìn)行管理，同時(shí)和麥吉爾大學(xué)，蒙特利爾大學(xué)等多所高校保持聯(lián)合開(kāi)發(fā)的密切關(guān)系，今年7月，F(xiàn)AIR又傳出多位教授加盟的消息，目前在全球Facebook 已有7所AI研究實(shí)驗(yàn)室。

UGC如何自我監(jiān)管-YouTube

對(duì)于YouTube來(lái)說(shuō)，UGC視頻內(nèi)容構(gòu)成了平臺(tái)內(nèi)容的絕大部分，這也間接說(shuō)明，面對(duì)內(nèi)容把控，YouTube的監(jiān)管總體要比其他網(wǎng)站難度更大，（既從視頻內(nèi)容審查的難度和工作量上說(shuō)，又從UGC名人可能引發(fā)的負(fù)面連鎖效應(yīng)上考慮）。

1、 YouTube社區(qū)準(zhǔn)則

在YouTube開(kāi)啟UGC內(nèi)容時(shí)代后不久，美國(guó)頒布了兩項(xiàng)針對(duì)UGC內(nèi)容發(fā)布的法案——千禧年數(shù)字版權(quán)法（DCMA）和《通行內(nèi)容端正法案（第230節(jié)》（CDA），使平臺(tái)圍繞版權(quán)進(jìn)行了一次“大清洗”。

自2008年起，YouTube 針對(duì)平臺(tái)內(nèi)容政策作出了一次巨大調(diào)整，對(duì)違反社群準(zhǔn)則的行為明確制定了“三振出局”（非版權(quán)相關(guān)的）的規(guī)則。首次違反的用戶將有6個(gè)月的觀察期使違規(guī)記錄注銷，平臺(tái)在兩年后設(shè)定申訴流程，自認(rèn)為被誤判的用戶可以要求復(fù)審，由此，YouTube正式確立了自身作為“內(nèi)容適當(dāng)性”仲裁者的角色。

與Facebook相似， 目前YouTube對(duì)違規(guī)內(nèi)容的界定主要包括裸露或色情內(nèi)容、危害性和危險(xiǎn)內(nèi)容、宣揚(yáng)仇恨的內(nèi)容、暴力或過(guò)度寫(xiě)實(shí)性內(nèi)容、騷擾和網(wǎng)路霸凌、誤導(dǎo)性詐騙內(nèi)容、隱私侵犯內(nèi)容、侵權(quán)內(nèi)容、冒充他人、危及未成年人安全的內(nèi)容。

2．持續(xù)提高與UGC內(nèi)容創(chuàng)作者合作的門檻（Demonitization Policy）

從年初的YouTube網(wǎng)紅發(fā)布日本自殺森林尸體視頻，到屢次出現(xiàn)的虐童和暴力相關(guān)自頻道爭(zhēng)議，YouTube與UGC內(nèi)容創(chuàng)作者的的合作伙伴計(jì)劃（Partner Program）也提高了門檻，篩除了較新、規(guī)模較小的內(nèi)容創(chuàng)作者。

自2月起，只有在過(guò)去12個(gè)月內(nèi)擁有至少1000名訂閱者和4000小時(shí)觀看時(shí)長(zhǎng)的UGC頻道才有貨幣化的可能，此外YouTube對(duì)于接受廣告贊助UGC內(nèi)容限制也變得更嚴(yán)格，即使?jié)M足了相應(yīng)的門檻，過(guò)度植入廣告的內(nèi)容創(chuàng)作者獲得的收入也較過(guò)去減少。

3、AI、算法與人工審核 （Google）

依附于谷歌的YouTube以基于深度學(xué)習(xí)技術(shù)的Google Brain作為支持，Google Brian擁有一個(gè)收集用戶信息（如觀看歷史和用戶反饋）的神經(jīng)網(wǎng)絡(luò)， 以及一個(gè)用于對(duì)所顯示部分視頻進(jìn)行排列的神經(jīng)網(wǎng)絡(luò)，通過(guò)引入機(jī)器學(xué)習(xí)工具，自動(dòng)標(biāo)記暴力極端主義視頻，并將違規(guī)內(nèi)容報(bào)告給人工審查員進(jìn)行驗(yàn)證。

YouTube的內(nèi)容審查系統(tǒng)名為“Content ID”，會(huì)監(jiān)測(cè)并直接下架涉及版權(quán)、暴力等違規(guī)內(nèi)容。據(jù)稱，AI內(nèi)容監(jiān)測(cè)也獲得了顯著的成效，以2017年Q4為例，平臺(tái)刪除了800萬(wàn)條“令人反感”的視頻，有670萬(wàn)條都由監(jiān)測(cè)軟件自動(dòng)標(biāo)記，大約75%被標(biāo)記的視頻在被用戶觀看之前就被下架。

與Facebook類似，YouTube的AI標(biāo)記與識(shí)別技術(shù)也并不完美，例如2017年，英國(guó)政府和一些廣告公司發(fā)現(xiàn)自己的廣告被放在極端主義視頻旁邊，許多知名廣告主宣布撤下YouTube廣告。

今年，YouTube CEO蘇珊·沃西基也承諾雇傭一萬(wàn)名人工審核員補(bǔ)足算法的局限，并在輿論壓力下就員工權(quán)利規(guī)定每位審核員觀看違規(guī)視頻的上限為4小時(shí)，以保護(hù)其心理健康。

4、賬號(hào)限制

針對(duì)賬號(hào)有“活躍度”和“年齡”兩大限制。至少6個(gè)月未登錄、從未上傳、從不參與視頻互動(dòng)（點(diǎn)贊、評(píng)論、收藏、關(guān)注）的賬號(hào)，平臺(tái)有權(quán)收回。

YouTube也在保證一定言論自由的同時(shí)，對(duì)含有露骨言論和畫(huà)面的內(nèi)容采取了“分級(jí)制”， 不同國(guó)家地區(qū)的用戶，YouTube會(huì)參照用戶所在地的法律法規(guī)，對(duì)觀看和平臺(tái)付費(fèi)權(quán)設(shè)定不同的年齡限制，例如歐洲大部分國(guó)家用戶需年滿16歲收看部分內(nèi)容， 北美用戶需年滿13歲收看部分內(nèi)容等。

5、爭(zhēng)議內(nèi)容標(biāo)注

今年3月，YouTube的CEO蘇珊·沃西基表示YouTube與維基百科合作，在涉嫌陰謀論相關(guān)的視頻旁邊附上維基百科文本鏈接，對(duì)爭(zhēng)議內(nèi)容加以標(biāo)注；7月，YouTube將信息查證進(jìn)一步延伸，在爭(zhēng)議視頻頁(yè)面信息欄中納入更多Google News的權(quán)威報(bào)道鏈接，并在突發(fā)事件發(fā)生時(shí)優(yōu)先顯示權(quán)威新聞來(lái)源的視頻，幫助高品質(zhì)新聞更高效觸達(dá)用戶。

其他提升自我監(jiān)管力的通道-提高新聞比重

1、扶持權(quán)威新聞內(nèi)容

假新聞事件后，F(xiàn)acebook試圖借新聞內(nèi)容挽回22億用戶的信任，提出了新聞?dòng)?jì)劃（Facebook Journalism project），支持權(quán)威新聞內(nèi)容的辨識(shí)和發(fā)布。

新聞?dòng)?jì)劃主要包含四大部分：一、對(duì)新聞來(lái)源和可信度添加標(biāo)注，便于用戶鑒別新聞可靠性；二、提升新聞內(nèi)容貨幣化留住權(quán)威新聞出版商，在移動(dòng)端應(yīng)用上為新聞內(nèi)容添加訂閱、付費(fèi)閱讀功能；三、提升本地新聞內(nèi)容的曝光度，與美國(guó)6個(gè)城市的當(dāng)?shù)毓残侣剻C(jī)構(gòu)推行“Today in +地名”的新聞推送，手動(dòng)篩選、審查、授權(quán)，將虛假內(nèi)容比重降到最低；四、提升新聞?lì)愐曨l的比重，在Watch平臺(tái)上推出新的新聞內(nèi)容專區(qū)，加入長(zhǎng)度至少在3分鐘的時(shí)效性新聞視頻，促進(jìn)更有意義的用戶互動(dòng)。

相似地，谷歌也針對(duì)新聞內(nèi)容設(shè)立了“Google News Initiative”，用3億美元扶持權(quán)威新聞機(jī)構(gòu)并鼓勵(lì)對(duì)新聞視頻產(chǎn)品的打造，計(jì)劃在未來(lái)3年里提升新聞品質(zhì)病幫助權(quán)威新聞機(jī)構(gòu)為用戶提供更穩(wěn)定可靠的新聞內(nèi)容輸出。

最終新聞內(nèi)容能否幫助正規(guī)內(nèi)容養(yǎng)成還有待觀察，例如Facebook就與新聞出版商們的關(guān)系一直變化無(wú)常，先是Newsfeed 內(nèi)容推薦算法改變突出親友內(nèi)容導(dǎo)致新聞內(nèi)容占比下降，后是與CNN、華爾街日?qǐng)?bào)、紐約時(shí)報(bào)等頭部出版商簽訂直播授權(quán)卻提前毀約，使得新聞機(jī)構(gòu)對(duì)與Facebook合作仍持保留態(tài)度。

兒童內(nèi)容管理和過(guò)濾-童鎖和定時(shí)器

童鎖、內(nèi)容加密、兒童版專用應(yīng)用程序、定時(shí)提醒都被普遍作為作為用戶保護(hù)手段，今年8月初，F(xiàn)acebook和Instagram加入了幫助用戶控制APP使用時(shí)間的新工具，防止用戶應(yīng)過(guò)度使用社交媒體而危機(jī)心理健康，據(jù)報(bào)道在未來(lái)幾周內(nèi)，更新主頁(yè)將展示用戶使用的時(shí)長(zhǎng)，平均使用時(shí)長(zhǎng)，用戶可提前設(shè)置使用時(shí)限，系統(tǒng)將在使用時(shí)滿時(shí)提醒用戶。

4月，YouTube，針對(duì)面向兒童觀眾的專業(yè)版應(yīng)用YouTube Kids更新了家長(zhǎng)管理權(quán)力，為監(jiān)護(hù)人提供更強(qiáng)大的工具套件，將內(nèi)容可視性的限制具體化，并投入更多的人工審核和資金支持。