語音社交軟件安全嗎？騰訊小米字節(jié)快手等被約談

　　在聲音社交與短視頻及直播越發(fā)火爆的當(dāng)下，如果一個陌生人突然頂著你的聲音與臉出現(xiàn)在網(wǎng)絡(luò)端，你的驚訝程度會否大過對自身安全的擔(dān)憂？

　　3月18日，針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”(Deepfake)的技術(shù)的應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān)依法約談映客、小米、快手、字節(jié)跳動、鯨準(zhǔn)數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂、騰訊、去演等11家企業(yè)，督促其按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開展安全評估，完善風(fēng)險防控機(jī)制和措施，并對安全評估中發(fā)現(xiàn)的安全隱患及時采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

　　所謂“深度偽造”(Deepfake)，也被譯作“深度造假”，是計算機(jī)“深度學(xué)習(xí)”(Deeplearning)和“偽造”(fake)的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時代，通過自動化手段，尤其是人工智能算法技術(shù)進(jìn)行智能生產(chǎn)、操縱、修改數(shù)據(jù)，實(shí)現(xiàn)媒體傳播行為的一種結(jié)果。直白來講就是在圖片和聲音中輸入機(jī)器學(xué)習(xí)算法，進(jìn)行“面部操作”(face manipulation)，將一個人的臉部輪廓與表情轉(zhuǎn)移至其他人臉上，同時利用對聲音的處理制造出以假亂真的視頻，大多數(shù)深度偽造都依托于名為生成式對抗網(wǎng)絡(luò)(GANs)的深度學(xué)習(xí)技術(shù)。

　　根據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》要求，出現(xiàn)具有輿論屬性或社會動員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能；使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更；用戶規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開展安全評估，對評估結(jié)果負(fù)責(zé)，并向網(wǎng)信部門和公安機(jī)關(guān)提交報告。網(wǎng)信部門和公安機(jī)關(guān)根據(jù)對安全評估報告的書面審查情況，認(rèn)為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對互聯(lián)網(wǎng)信息服務(wù)提供者開展現(xiàn)場檢查。

　　公開消息稱，未來國家互聯(lián)網(wǎng)信息辦公室、公安部將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機(jī)關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)，積極主動履行安全管理義務(wù)，切實(shí)履行企業(yè)主體責(zé)任，共同維護(hù)網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。

　　截至發(fā)稿，相關(guān)企業(yè)均未回應(yīng)第一財經(jīng)記者的采訪要求。多位業(yè)內(nèi)相關(guān)企業(yè)人士對第一財經(jīng)記者表示，此舉主要為了技術(shù)規(guī)范，對企業(yè)技術(shù)安全使用標(biāo)準(zhǔn)進(jìn)行進(jìn)一步的明確與統(tǒng)一。

　　2019年夏天，一段似乎是“馬克·扎克伯格”本人的假視頻在Instagram上傳播甚廣，該“扎克伯格”在視頻中聲稱已“完全控制了數(shù)十億用戶的數(shù)據(jù)，掌握了他們所有的秘密”。后經(jīng)調(diào)查后發(fā)現(xiàn)這是一個藝術(shù)惡搞項目，AI換頭技術(shù)和深度偽造(Deepfake)的危害，而非蓄意傳播的虛假信息。

　　后來，F(xiàn)acebook與Reddit共同出臺針對Deepfake的審核政策，該政策的方向不是為徹底清除這種偽造模式，而是要進(jìn)一步縮小“清除”的目標(biāo)焦點(diǎn)。Facebook表示他們將從平臺上移除“有強(qiáng)誤導(dǎo)性的媒體信息”，這些信息由機(jī)器學(xué)習(xí)技術(shù)以普通人看不出的方式“編輯或合成”，誤導(dǎo)傳播視頻中的“仿冒”人物所發(fā)表過的言論。

　　另外，近期多家短視頻平臺上“螞蟻牙黑”的換臉惡搞視頻火爆刷屏，傳播至抖音、快手、微博、朋友圈，該特效技術(shù)可以將人物圖片同框一起魔性起舞。該換臉特效最初源自一款名為Avatarify的AI變臉軟件。今年3月2日，Avatarify已在AppStore中國區(qū)下架，官方并未說明下架原因。除了Avatarify外，Deep Nostalgia與ZAO等平臺也因AI換臉應(yīng)用引發(fā)爭議，其背后原因均涉及DeepFake技術(shù)的以假亂真與面部識別帶來的個人隱私泄露及濫用。

　　一位不愿透露姓名的頭部互聯(lián)網(wǎng)安全工程師對第一財經(jīng)記者表示，Avatarify的下架主要是因?yàn)閾Q臉惡搞視頻的侵權(quán)問題，技術(shù)層面上這些換臉應(yīng)用有可能突破人臉識別身份認(rèn)證的場景，攻擊者可能利用AI換臉騙取風(fēng)控系統(tǒng)。另外如今大火的聲音社交中，語音偽造技術(shù)也會被犯罪組織利用。較大的廠商一直在改進(jìn)相關(guān)技術(shù)，技術(shù)層面的研發(fā)提升與其本身存在的各類風(fēng)險問題未來將長期對抗存在。隨著相關(guān)技術(shù)監(jiān)管的加強(qiáng)以及企業(yè)方的自我完善，未來AI換臉與聲音社交的應(yīng)用將更加嚴(yán)格與謹(jǐn)慎。

　　轉(zhuǎn)自：第一財經(jīng)日報

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀