原標題：一夜爆紅引發(fā)病毒式傳播存在數據泄露隱患被約談

　　換臉軟件刷屏風(fēng)險不容忽視

　　編者按

　　ZAO一夜爆紅，讓AI換臉軟件引發(fā)廣泛關(guān)注，但因涉嫌過(guò)度收集用戶(hù)個(gè)人信息也遭到廣泛質(zhì)疑。9月1日，這款軟件的微信分享鏈接已停止訪(fǎng)問(wèn)，由此引發(fā)的隱私安全爭議卻仍在繼續，人們對人工智能未來(lái)走向的探討更趨激烈。

　　技術(shù)從來(lái)都是一把雙刃劍，如何讓技術(shù)的進(jìn)步服務(wù)好人類(lèi)社會(huì )經(jīng)濟的發(fā)展，這是全社會(huì )需要思考的重要問(wèn)題。為此，本報今日推出專(zhuān)題報道，梳理人工智能發(fā)展帶來(lái)的相關(guān)法律問(wèn)題與科技倫理風(fēng)險，敬請關(guān)注。

　　●　在隱私政策中，ZAO收集用戶(hù)的隱私信息范圍極其寬泛，包括肖像及面部識別特征等生物識別信息，身份證、軍官證、護照、駕駛證、社�？�、居住證等身份信息，以及芝麻信用等個(gè)人敏感信息

　　●　對于用戶(hù)來(lái)說(shuō)，ZAO換臉?lè )��?wù)最大的風(fēng)險在于對用戶(hù)人臉數據的收集。ZAO承擔的個(gè)人信息安全義務(wù)包括制定完備合法的隱私政策，向用戶(hù)明示收集、使用個(gè)人信息的目的、方式、范圍，以及建立完善的個(gè)人信息安全保護措施　

　　●　ZAO的出現意味著(zhù)AI深度換臉技術(shù)使用門(mén)檻大幅度降低，相關(guān)偽造影音視頻被不法分子利用時(shí)，將對國家安全、新聞輿論、公眾安全、刑事審判、政府通信等領(lǐng)域帶來(lái)眾多難以預測的風(fēng)險　

　　8月30日晚，打出“僅需一張照片，出演天下好戲”口號的換臉軟件ZAO刷屏，在社交平臺上引發(fā)病毒式傳播。

　　9月3日，針對媒體公開(kāi)報道和用戶(hù)曝光的ZAO用戶(hù)隱私協(xié)議不規范，存在數據泄露風(fēng)險等網(wǎng)絡(luò )數據安全問(wèn)題，工業(yè)和信息化部網(wǎng)絡(luò )安全管理局對北京陌陌科技有限公司(以下簡(jiǎn)稱(chēng)陌陌科技)相關(guān)負責人進(jìn)行了問(wèn)詢(xún)約談。

　　在問(wèn)詢(xún)約談中，網(wǎng)絡(luò )安全管理局要求陌陌科技嚴格按照國家法律法規以及相關(guān)主管部門(mén)要求，組織開(kāi)展自查整改，依法依規收集使用用戶(hù)個(gè)人信息，規范協(xié)議條款，強化網(wǎng)絡(luò )數據和用戶(hù)個(gè)人信息安全保護。同時(shí)，要進(jìn)一步加強新技術(shù)新業(yè)務(wù)安全評估，切實(shí)采取有效措施，積極防范自有業(yè)務(wù)平臺被利用實(shí)施電信網(wǎng)絡(luò )詐騙等風(fēng)險隱患。

　　用戶(hù)協(xié)議存在爭議

　　容易造成隱私泄露

　　ZAO走紅后不到24小時(shí)，就因為隱私安全問(wèn)題引發(fā)集體焦慮。

　　“有手機號，有面部圖像，通過(guò)技術(shù)合成，犯罪分子可以替你和你的家人通話(huà)了�！庇脩�(hù)對ZAO泄露個(gè)人隱私的擔心，集中體現在這條網(wǎng)友評論里。

　　據了解，在隱私政策中，ZAO收集用戶(hù)的隱私信息范圍極其寬泛，包括肖像及面部識別特征等生物識別信息，身份證、軍官證、護照、駕駛證、社�？�、居住證等身份信息，以及芝麻信用等個(gè)人敏感信息。

　　9月1日，ZAO修改了部分爭議內容，主要體現在四個(gè)方面:刪除了用戶(hù)需授權ZAO“不可撤銷(xiāo)、永久、可轉授權和可再許可的權利”；刪除了ZAO可以“全部或部分修改用戶(hù)內容”中的“全部”；刪除了ZAO可以更換用戶(hù)的聲音的規定；刪除了ZAO擁有對用戶(hù)內容進(jìn)行“著(zhù)作權法規定的由著(zhù)作權人享有的全部著(zhù)作財產(chǎn)權利及鄰接權利”。

　　然而，修改后的條款仍存在爭議。比如，被授權的對象為ZAO及ZAO用戶(hù)。對此，中國政法大學(xué)傳播法研究中心副主任朱巍認為，被授權的對象包括ZAO用戶(hù)，其范圍太大，而且沒(méi)有單獨提示，容易混淆相關(guān)概念。

　　ZAO還在用戶(hù)協(xié)議開(kāi)頭增加了“特別提示”稱(chēng)，用戶(hù)授權內容“僅限用于為您提供上傳/發(fā)布短視頻，以及利用技術(shù)對平臺上的短視頻進(jìn)行局部修改生成新的短視頻的服務(wù)，相關(guān)的內容將嚴格按相關(guān)法律法規的規定保留在ZAO上，除非為了改善ZAO為您提供的服務(wù)或另行取得您的再次同意，否則ZAO不會(huì )以任何其他形式或目的使用上述內容”�！　�

　　9月1日下午，一個(gè)未經(jīng)認證的微博賬號“ZAO官方助手”發(fā)消息稱(chēng)，我們十分理解大家對隱私問(wèn)題的擔憂(yōu)。你們提的問(wèn)題都已收到，考慮不周的地方我們會(huì )去改，需要一點(diǎn)時(shí)間。

　　但這仍不足以打消用戶(hù)的擔憂(yōu)。因為修改后的條文也并未明確規定收集和使用用戶(hù)信息的具體情況，比如“特別提示”中“為了改善ZAO為您提供的服務(wù)”的規定，就沒(méi)有明確列舉改善何種服務(wù)。

　　在朱巍看來(lái)，以前“隱私泄露”是事情發(fā)生后才去討論，但是自從網(wǎng)絡(luò )安全法出臺后，大家更傾向于把安全風(fēng)控前移，網(wǎng)絡(luò )安全法不僅對事后泄露和事中管理有規定，更包括考查提供網(wǎng)絡(luò )服務(wù)的平臺，在保障數據安全和核心隱私方面是否能達到相關(guān)標準。

　　除了侵權問(wèn)題，還有網(wǎng)友擔心，既然人臉識別已經(jīng)在支付場(chǎng)景得到應用，面部信息泄露，是否會(huì )導致賬戶(hù)被盜刷?

　　對此，支付寶安全中心8月31日發(fā)布公告稱(chēng)，“不管換臉軟件多逼真，都無(wú)法突破刷臉支付”，刷臉支付采用的是3D人臉識別技術(shù)，在進(jìn)行人臉識別前，也會(huì )通過(guò)軟硬件結合的方式進(jìn)行檢測，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況。

　　“關(guān)于換臉軟件濫用威脅支付安全的問(wèn)題，是矛和盾的問(wèn)題。很多刷臉支付軟件，不是百分百能夠保證不被鉆空子，只是可以通過(guò)很多辦法大大降低風(fēng)險�！敝袊�科學(xué)院神經(jīng)科學(xué)博士劉耀文告訴《法制日報》記者，比如視頻是一幀一幀的，目前的人臉識別是深入識別，人錄視頻的時(shí)候眼睛眨動(dòng)和圖片是不一樣的，圖片是不會(huì )眨眼的。此外，還可以通過(guò)一些向左轉向右轉的行為來(lái)判定是否是本人�！爱斎�，一些刷臉支付軟件會(huì )有地理、技術(shù)上各種保障安全的優(yōu)勢，但一些不安全的支付做不到這么嚴格�！�

　　此外，ZAO還存在肖像權、著(zhù)作權等知識產(chǎn)權風(fēng)險。例如，用戶(hù)“換臉”前，并未取得明星授權。法律界人士認為，對于ZAO版權說(shuō)明中“不享有素材的商業(yè)版權”的規定，并不存在商業(yè)版權的概念，版權就是版權，只要未獲授權拿別人作品來(lái)傳播就是侵犯別人版權，雖然ZAO沒(méi)有直接通過(guò)作品收費，但是整個(gè)平臺靠傳播改動(dòng)后的影視劇作品來(lái)吸引用戶(hù)，進(jìn)而開(kāi)拓其他商業(yè)模式�！�

　　ZAO版權說(shuō)明中還稱(chēng)，會(huì )在用戶(hù)生成的作品上打水印以示區別，但這些都不能保證ZAO不會(huì )侵權。用戶(hù)在不可能取得授權的情況下，傳播經(jīng)過(guò)改動(dòng)的視頻素材，這些內容如果構成作品，會(huì )侵犯著(zhù)作權人的保護作品完整權、信息網(wǎng)絡(luò )傳播權等相關(guān)權利。

　　人臉數據亟待重視

　　一旦泄露風(fēng)險難測

　　不過(guò)，在業(yè)內人士看來(lái)，落在用戶(hù)身上真正的風(fēng)險，既不是可通過(guò)訴訟或監管即可確認無(wú)效的用戶(hù)協(xié)議，或不合理的肖像權安排，也不是著(zhù)作權侵權問(wèn)題，而是用戶(hù)一旦提供或讓渡，即可能完全失控的“生物識別信息”的安全問(wèn)題。

　　“人臉識別是人可識別的個(gè)性化信息中的核心，同時(shí)也是隱私權保護的核心�！敝煳≌f(shuō)。

　　對于用戶(hù)來(lái)說(shuō)，ZAO換臉?lè )��?wù)最大的風(fēng)險在于對用戶(hù)人臉數據的收集。畢竟臉部信息的細節實(shí)在是太豐富了，是一種“生物信息”，可以說(shuō)是非常敏感的個(gè)人信息，一旦泄露，遠比上網(wǎng)時(shí)產(chǎn)生的數據信息泄露的風(fēng)險更大。

　　據中國傳媒大學(xué)政法學(xué)院法律系副主任鄭寧介紹，換臉技術(shù)主要涉及到生物信息的采集，屬于敏感信息。根據網(wǎng)絡(luò )安全法第四十一條規定，網(wǎng)絡(luò )運營(yíng)者收集、使用個(gè)人信息，應當遵循合法、正當、必要的原則，公開(kāi)收集、使用規則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。網(wǎng)絡(luò )運營(yíng)者不得收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息，不得違反法律、行政法規的規定和雙方的約定收集、使用個(gè)人信息，并應當依照法律、行政法規的規定和與用戶(hù)的約定，處理其保存的個(gè)人信息。

　　同時(shí)，民法總則第一百一十一條規定，自然人的個(gè)人信息受法律保護。任何組織和個(gè)人需要獲取他人個(gè)人信息的，應當依法取得并確保信息安全，不得非法收集、使用、加工、傳輸他人個(gè)人信息，不得非法買(mǎi)賣(mài)、提供或者公開(kāi)他人個(gè)人信息。

　　“那么，ZAO承擔的個(gè)人信息安全義務(wù)就包括制定完備合法的隱私政策，向用戶(hù)明示收集、使用個(gè)人信息的目的、方式、范圍，以及建立完善的個(gè)人信息安全保護措施�！编崒幷f(shuō)。

　　正因如此，劉耀文也認為:“人們的擔憂(yōu)是合理的，最大的問(wèn)題可能就是安防方面，還有侵權一類(lèi)的問(wèn)題。這種換臉軟件應用可能會(huì )造成用戶(hù)侵犯名人的權利，還有用戶(hù)的個(gè)人信息歸平臺所有了，生物信息讓度出去了是最大的一個(gè)風(fēng)險，因為軟件的合約條款里規定了合理使用和永久授權，無(wú)法判斷他們會(huì )用我們的信息干什么�！�

　　不僅如此，業(yè)內專(zhuān)家還表示，這款應用的出現意味著(zhù)AI深度換臉技術(shù)使用門(mén)檻大幅度降低，相關(guān)偽造影音視頻被不法分子利用時(shí)，將對國家安全、新聞輿論、公眾安全、刑事審判、政府通信等領(lǐng)域帶來(lái)眾多難以預測的風(fēng)險。

　　首先，從國家安全層面看，當高度逼真的偽造視頻被惡意使用在國家領(lǐng)導人及其他關(guān)鍵人物身上，不僅會(huì )導致領(lǐng)導人形象受損，如果偽造領(lǐng)導人發(fā)出有悖于國家安全的政治觀(guān)點(diǎn)或指令，將導致嚴重后果。雖然我國還未出現此類(lèi)案例，但在美國，用于政黨攻擊、娛樂(lè )的換臉視頻時(shí)常出現。如2018年4月，美國娛樂(lè )網(wǎng)站Buzzfeed發(fā)布了一條網(wǎng)友制作的換臉視頻，當中，美國前總統奧巴馬用他的聲音和慣用動(dòng)作講了一段他從沒(méi)說(shuō)過(guò)的話(huà)。

　　其次，從輿論傳播層面看，如果AI深度換臉技術(shù)制造的虛假視頻與社交網(wǎng)絡(luò )相結合，不僅會(huì )讓假新聞更難鑒別，也會(huì )導致謠言的訊速傳播。例如印度某記者曾因揭露印度古吉拉特暴亂中官員的黑幕和不作為，被人用AI換臉技術(shù)做成大量的道歉小視頻，嚴重影響當地輿論走向。

　　最后，AI換臉技術(shù)對公眾安全、刑事審判等也可能帶來(lái)不同程度負面影響。例如，不法分子可利用圖片、視頻冒充他人跟另一個(gè)人聊天、交易，不僅危害他人隱私、財產(chǎn)安全，甚至生命安全也可能受到威脅。在司法機關(guān)調查取證、審判等階段偽造出來(lái)的影音視頻證據，也可能對司法程序產(chǎn)生干擾。

　　“核心風(fēng)險就是個(gè)人信息安全問(wèn)題，換臉軟件一旦被濫用將會(huì )產(chǎn)生消極影響。研究者們應該遵循科技倫理，企業(yè)合規和風(fēng)控部門(mén)應當加強法律風(fēng)險的審查，政府部門(mén)應當加強監管，行業(yè)組織加強自律，公民積極投訴舉報�！编崒幷f(shuō)。