如何看待 AI 換臉軟體「ZAO」的爆火？
自從8月30日上架以來，已經爆火網路？
大家是否看好這款軟體？是否會和臉萌一樣只是火一段時間就涼涼？
這個軟體會因為版權和肖像權問題被關閉嗎？
最近一款名為ZAO的換臉app開始在各大社交網路刷屏。作為法律工作者，我認為ai換臉中有很多法律問題是有爭議的，於是便懷著好奇的心態看了下他們的用戶協議，然後，我發現了協議中巨大貓膩，及我絕對無法接受的法律風險。
我先說結論，1、「ZAO」app涉嫌過度攫取用戶授權，讓你在無形中將自己的肖像權拱手讓人，以後你的臉將完全有可能被別人隨意使用，變換；2、zao並未獲得換臉明星們的肖像權授權，你變臉涉嫌侵權，但當明星認為自己的權利受到侵害時，「ZAO」app將完全有可能將法律的鍋全部甩給你，讓你自己承擔侵權苦果。
我為什麼這麼說呢？
首先，我們先來看看ZAO的用戶協議。用戶協議第6條第1款規定：「在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予zao及其關聯公司以及zao用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對用戶內容進行全部或部分的修改與編輯...」以及對修改前後的用戶內容進行信息網路傳播以及著作權人享有的全部著作財產權利及鄰接權利。"
這是什麼意思呢？你在正式使用該app以前，是要上傳自己肖像的，不僅靜態，還有動態，而當你選擇使用這個app以後，根據協議內容，該app除了可免費使用並修改你的肖像，還可以將它任意授權給自己想授權的第三方，當做信息進行販賣。所以當有一天，你在zao或者其它關聯平臺上發現你的臉被隨意變換、不再屬於自己的時候，你想起訴zao，不好意思，它會拿出這個協議來堵你的嘴，告訴你你自己早已同意。
其次，我們再來看看關於侵權的規定。第6條第2款明確規定：「如果您把用戶內容中的人臉換成您或其他人的臉，您同意或確保肖像權利人同意授予『zao』及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。」
這是什麼意思呢，比如現在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費給zao使用，還要保證楊冪同意zao及關聯公司使用她的肖像...但你又不是楊冪，你怎麼能確保？這不搞笑嗎。而他這麼做，說白了，就是因為自己沒錢拿到明星們的授權，日後侵權，它們可以將鍋甩給你們。
而在此情形下，協議第七條第7款規定：若您侵害他人名譽權、肖像權、知識產權等合法權利的...zao可以訴諸行政執法機構或司法機關，追究相應法律責任。若因您違反本協議或zao平臺的其他規則導致任何第三方損害的，您應當獨立承擔法律責任並承擔損害賠償責任；zao及其關聯公司遭受損失的，您也應當一併賠償。
意思即，如果楊冪狀告zao，主張自己的肖像權被zao平臺濫用，那zao完全可能說這不怪我，技術無罪，要怪就怪這些換你臉的用戶，並且，即使zao承擔了平臺責任，其也完全可以起訴具體用戶進行追償。總的來說，他們把自己的屁股擦得非常乾淨，將侵權的苦果全部甩給了用戶。
所以，朋友們，你們明白了嗎？
你今天在網上換臉，覺得很開心，其實你在無形中，已經成了醜陋的侵權人，同時，你的肖像權，也不再只屬於你自己。
是的，你的臉已經不僅僅是你的臉了，它也歸zao，及它想授權的所有人。
你可能會問zao靠什麼盈利？我不知道，但或許日後，它就靠賣你的肖像權盈利呢。
看到這個用戶協議，我用四個字形容，那就是觸目驚心。
我從來沒見過如此明目張膽攫取用戶權利的用戶協議。
而我更感到後怕的是，截至我發這條微博，已經不知有多少用戶同意了這份協議，喪失了自己的肖像自主權。
更何況，現在人臉支付，手機人臉解鎖正逐漸普及，如果它擁有你的動態肖像權，那背後可能出現的問題豈不是更令人不堪設想。
難道這就是所謂互聯網公司的狼性？
在zao更改用戶協議前，我絕不會使用這個app。而我已經將用戶協議分析給大家，大家要不要用，選擇權完全在你自己手裡。我也希望大家將這條微博轉發給所有對這個app感興趣的人，因為他們很有可能在不明所以的情況下，就對app進行了使用，同意了協議。
我只想提醒諸位，你以為你只是在用戶協議那點了個小小的勾，但你在點確定的一剎那，你已經喪失了很多本屬於你自己的東西。
而這些東西，其實是你無比珍視的。
感謝 @王一丁 一大清早就敲我起來寫評論，本文持續更新，正在查資料ing。
ZAO這用戶協議要求的授權範圍也太廣了：不可撤銷+永久。內容部分不可撤銷+永久授權也就算了，但是肖像權這個著實過分了，應當給予用戶撤銷個人信息授權的權利。不然難道一輩子都有被人使用肖像的風險？而且不僅是ZAO，還有關聯公司，下文有關於關聯公司範圍的討論。
其實內容上的許可在ZAO這個App中我為什麼說還好的原因就是這個不同於文末鏈接中百度攝影師協議，一般使用ZAO的人並非主要靠創作為生，內容的知識產權不可撤銷地永久授權給ZAO並不會對自身造成多大的損失。而肖像權作為人身權利應當是用戶在ZAO協議中最關心在乎的權利，正如在攝影師協議中攝影師最應當關注的核心是版權許可一樣。內容作為資產的不慎處置最多帶來的是經濟的損失，但是肖像和隱私的不當處置可能後果不堪想像。
天啊，看到下圖中關於ZAO關聯公司的定義後崩潰了，這個關聯公司的定義還可以再模糊一些嗎？「ZAO」及其相關服務可能存在運營關聯的公司？那基本所有的合作方都可以解釋為存在運營關聯，也就是相當於ZAO可能根據其用戶協議有權授權所有的合作方使用並修改用戶的內容和肖像。
真的是寫完一個槽點又發現一個，更新後的用戶協議都不另行通知？繼續使用就代表接受協議的修改？那誰沒事兒會登出app再定期查看一下用戶協議？這是咋想的？寫條款的時候有沒有考慮到用戶真實的使用場景？
之前微博在2017年更新的用戶協議中也出現過類似的霸王條款：「微博更新的《微博服務使用協議》，規定用戶在微博上發布的信息，將不可撤銷地授權微博平臺作為微博內容的獨家發布平臺，用戶所發表的微博內容僅在微博平臺上予以獨家展示。未經微博平臺事先書面許可，用戶不得自行或授權任何第三方以任何形式直接或間接使用微博內容。」 真的不知道這麼多公司在用戶協議上都翻過車，為什麼現在還這麼寫？理解不能。
後來在羣眾的罵聲中微博修改了上述條款，這也是我一直自從2017年直到微博修改條款前都再也沒有使用過微博的原因。有人可能覺得小題大做，但是如果所有人都不在意自己的個人隱私和知識產權的話，這些公司就會變本加厲，也正應了李彥宏說的「中國人多數情況下願意用隱私換便利」，著實有些可悲。希望本回答可以引起大家對於個人權利的重視，不使用，用腳投票是最有效的抵制方式。本人親身驗證，自從魏則西之後，不用百度任何產品對我的生活沒有產生影響，看著百度一天天走向沒落，這個世界又美好了一點。
有人可能會說如果協議不這麼寫互聯網公司就沒法發展了，需要用用戶的內容和肖像做推廣。但其實不是說不考慮互聯網產品發展的需求，而是說要給予用戶選擇的權利，而並非為了貪圖條款撰寫上的便利，直接一刀切地獲取「不可撤銷+永久」授權。而且作為一個有責任感的公司，即便用戶協議中有授權，但如果在廣告中如此使用用戶的肖像是不是處於禮貌也是應當徵得用戶的同意？並不是所有人都希望自己用ZAO製作的視頻突然有一天出現在了街邊的大屏幕上。
很多律師都有個壞習慣，認為在合同撰寫中，儘可能多的為客戶爭取權益就是最正確的法律建議。但其實不然，在商業社會中，把事兒做成了纔是客戶最關心的。如果由於條款苛刻到生意都做不成了那還要律師幹嘛？在互聯網產品用戶協議的撰寫中也是需要設身處地的考慮一下用戶是怎麼想的，因為用戶在締約之前並沒有任何渠道可以表達自己的意見，但是由於看到了如此嚴苛的條款而選擇放棄了使用這個產品，最後的損失還是客戶也就是這裡的ZAO來承擔了，這樣的後果就是得不償失。
另一方面，有些大V說有明星會直接起訴用戶，這點上我不是很認同，有危言聳聽之嫌，為了製造話題炒作就沒意思了。因為明星直接起訴普通用戶現實發生的可能性很低，更多的還是會去追究平臺的責任。
關於用戶協議的坑大家有興趣可以看一下我之前寫的關於百度攝影師版權協議的回答，裡面有比較詳盡的分析：
百度做了哪些帶來負面影響的事情？事後官方是怎麼應對處理的？結果如何？?www.zhihu.com
連色情網站都不敢瞎摻和的領域，ZAO居然來了，從技術和風險角度來說，ZAO的前景非常非常非常危險，已經不是在河邊走了，這是在懸崖邊翻跟頭！
其實AI換臉在娛樂休閑方面的應用，已經非常普遍了，不信你就看看下面的[錦江樂園]
來自B站，作者：你的世界0我的名來自B站，作者：你的世界0我的名https://www.bilibili.com/video/av51809469
萬物皆可徐錦江~~~~~~
你們的快樂源泉——Deepfakes
其實AI換臉就是基於Deepfakes這門技術，大約是在2年前問世，瞬間就把視頻換臉的難度拉低到了人人都能用的級別。
並且這門技術被快速，或者說瞬間應用到了色情領域：
經常被人拿去做虛假「果照」和性愛視頻的寡姐曾經說過：
我還不是受影響最大的人，畢竟大家都知道那些影片/照片是假的。可如果是普通人，就要小心保護自己的影像資料了，我無法想像普通人要如何應對後續的結果。
當然了，有了AI換臉，美國的政壇人物也是跑不掉的：
Deepfake這門技術，也被部分作死人士運用到了製造假視頻，敲詐勒索，假新聞之類的事情上，也就此導致Deepfake社區當時被瞬間封殺。
當然了ZAO這款APP也會自動識別出公眾人物，禁止用戶惡搞。以免自己重蹈覆轍；但是不得不懷疑，ZAO的技術真的能識別出99.99%以上的公眾人物的各種照片嗎？
不同的角度、不同的畫質、不同的光照，目前恐怕沒有企業敢保證自己識別成功率能在99.99%。
而且最重要的是，你的識別率只要不是100%，那出事、被封停就是遲早的事情。
只要有一次，被用戶利用ZAO APP 製作出了有不良影響的視頻，ZAO就死定了！
雖然製作視頻之後，還需要用攝像頭進行人臉識別，但是想要欺騙過去實在太簡單了，很多安卓機的人臉識別，你用一張照片就能欺騙過去……
換句話說，如果你是ZAO的競爭對手，你直接組織團隊專門用ZAO app製造一個公眾人物的娛樂視頻。就足夠摧毀它……
而且在ios生態中，ZAO 的未來更慘淡了……搜索排名第一的已經不是ZAO了，而是另外一款叫做[顏技]的APP，接近的定位、宣傳，恐怕會拿走不少ZAO的用戶……
App Store中的排名也非常明顯的能看出 ZAO 的熱度和流量被這款[顏技]拿走了不少：
如果真的有競爭者按照我所猜測的專門組建團隊，利用ZAO 製作公眾人物（政治人物）的娛樂、惡搞視頻，那ZAO 和背後的陌陌恐怕凶多吉少了。畢竟關停的內涵段子、暫停發布內容的簡書都是一個個血淋淋的例子。
AI無處不在，AI改變了一切科技數碼產品，早就融入幾乎每個常用APP之中，但是AI無法改變我們自身，無法改變我們的思維。
要知道連境外色情網站P站（黃黑logo的那個，知乎不能提它的全名），因為有太多換臉公眾人物的色情視頻，當時為了保護自己當初都已經在官網禁止搜索 Deepfake 這個關鍵詞了……
而且Deepfake並不是AI換臉類非常先進的技術，這1-2年間早就湧現了無數比他更先進的技術，在此就不提及了。
最後分享一個人工智慧方向，很6的應用，普通人也用得到。
謝邀。
利益相關：不相關
看到有人擔心，玩這個軟體會不會導致自己的支付寶刷臉被冒充？
先說結論：這點完全別擔心，不會的。
這不是互聯網上的第一款換臉App，也一定不是最後一款，
但不管怎麼換，也不管換的有多「逼真」，你都不用擔心支付寶刷臉支付的安全性。
1、「刷臉支付」採用的是3D人臉識別技術
在進行人臉識別前，會通過軟硬體結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟體模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。
2、在支付寶App上開通刷臉支付需要曾輸入過密碼
支付寶還會通過各種安全風控策略確保賬戶安全。比如刷臉支付功能需要用戶進行開通操作，開通之後才能進行支付，用戶也可以隨時關閉。而且只有在輸入過密碼的支付寶App上才能開通刷臉支付。
3、多因子校驗，確保萬無一失
在支付寶App上，人臉識別並不是唯一的校驗方式，我們的智能風控引擎會通過設備、環境等多個因素輔助校驗。部分用戶還需要輸入與賬號綁定的手機號以及驗證碼進行校驗，進一步提高了安全性。
4、100%的保障
即便出現賬戶被冒用的極小概率事件，支付寶也會通過保險公司進行全額賠付。
雖然支付寶的刷臉不會因為你玩這個軟體而受影響；
不過還是建議大家在用此類軟體前，
認真閱讀相關的「用戶協議」或「隱私權政策」，
以確保其他相關App的安全。
其實，支付寶一直在呼籲生物識別領域的行業自律，
此前，我們發起了《生物識別用戶隱私與安全保護倡議》，
呼籲從事該行業的科技企業加入進來，一起來規範和保護用戶信息。
支付寶發布《生物識別用戶隱私與安全保護倡議》呼籲遵循「最小、夠用」原則-新華網?www.xinhuanet.com
我們認為
企業在採集用戶生物信息時應遵循「最小、夠用」的原則，防止被濫用。
企業應對採集到的信息進行加密存儲來提高安全強度，也應明確和規範用戶信息使用的目的及範圍，避免信息被過度使用。另外，在具體使用中也應建立保險機制來確保用戶資金不受損失。
我們也希望行業裏有更多公司能加入進來
關於支付寶的一切，推薦關注支付寶知乎機構號：支付寶
編輯於 2019-08-31繼續瀏覽內容
知乎發現更大的世界打開
Chrome繼續
Raymond Wang?創業等 12 個話題下的優秀答主專業已有 5 人贈與了專業徽章我認為是目前對ZAO協議條款的技術性批評，其實模糊了重點問題。其用戶協議和隱私協議無疑寫的都很糟糕，但也因為對肖像權授權的過於權利義務不對等，這些條款一旦進入司法程序，可以肯定會被判無效，或者在進入司法程序前就被相關監管機構要求整改。而視頻內容目前可能存在的侵權問題，之後也完全可以通過商業合作取得授權來解決。ZAO這類利用深度學習技術換臉的軟體，最大的問題還是大規模收集生物識別信息和「真假難辨」的deepfake給社會帶來的安全風險，而這種風險目前被公眾廣泛低估，但實際上已經在不斷帶來嚴重的後果。
靜態或動態的人臉信息（ZAO都會向用戶收集）、指紋、虹膜都是典型的生物識別信息，屬於個人敏感信息，由於其不可更改，一旦泄露或被濫用，都會給信息主體帶來持久的影響。更通俗地說，這是一個魔鬼交易，為了一段自娛自樂的視頻，用戶交出了自己最重要的信息，且完全不清楚其可能的後果。從糟糕的用戶協議和隱私政策來看，ZAO的開發者也並沒有嚴肅地思考過這個問題，而是秉承一種先把用戶的數據收集過來再說的態度。這在國內也並不是第一個例子，之前也有不少類似的例子，甚至有在廁所裏換取一包衛生紙，就要求用戶進行人臉識別的情況。在安防、金融反欺詐等領域，人臉識別已廣泛應用，但爭議也不小，但畢竟是涉及公共利益，對收集者數據安全能力的要求也很高。而在泛娛樂場景，生物識別信息的收集，風險和收益極為不對稱，僅以創新的理由大規模收集，是非常危險的。
另外一個問題影響面則更大，在國外被稱作deepfake（深度偽造），即利用人工智慧技術尤其是deep learning（深度學習）技術製作模擬度極高的視頻、音頻，目前已達到以假亂真的水平，很多時候普通人幾乎無法分辨真偽。由於這一技術一開始就應用於色情和政治領域，在國外迅速引起了立法者的關注，如美國已經在聯邦和州一級的立法程序中有所回應，加快了立法程序。除了各種名人以外，deepfake已經出現了很多受害者，尤其是一些年輕的女孩，僅僅是因為在社交網站上公佈了一些照片，就被製作成了色情視頻，並廣泛傳播；之後因此出現各類的詐騙，應該也都在預料之中。而其最大的問題，是挑戰了「眼見為實」，使得公眾對事實真假都失去了信心，會帶來巨大的社會成本。
根據我的研究和了解到的信息，無論是生物識別信息的收集和利用，還是對deepfake的法律應對，國內的立法者和監管者都非常重視，在關於個人信息和數據安全的立法中有所回應。
（首發於21財經）
我認為是目前對ZAO協議條款的技術性批評，其實模糊了重點問題。其用戶協議和隱私協議無疑寫的都很糟糕，但也因為對肖像權授權的過於權利義務不對等，這些條款一旦進入司法程序，可以肯定會被判無效，或者在進入司法程序前就被相關監管機構要求整改。而視頻內容目前可能存在的侵權問題，之後也完全可以通過商業合作取得授權來解決。ZAO這類利用深度學習技術換臉的軟體，最大的問題還是大規模收集生物識別信息和「真假難辨」的deepfake給社會帶來的安全風險，而這種風險目前被公眾廣泛低估，但實際上已經在不斷帶來嚴重的後果。
靜態或動態的人臉信息（ZAO都會向用戶收集）、指紋、虹膜都是典型的生物識別信息，屬於個人敏感信息，由於其不可更改，一旦泄露或被濫用，都會給信息主體帶來持久的影響。更通俗地說，這是一個魔鬼交易，為了一段自娛自樂的視頻，用戶交出了自己最重要的信息，且完全不清楚其可能的後果。從糟糕的用戶協議和隱私政策來看，ZAO的開發者也並沒有嚴肅地思考過這個問題，而是秉承一種先把用戶的數據收集過來再說的態度。這在國內也並不是第一個例子，之前也有不少類似的例子，甚至有在廁所裏換取一包衛生紙，就要求用戶進行人臉識別的情況。在安防、金融反欺詐等領域，人臉識別已廣泛應用，但爭議也不小，但畢竟是涉及公共利益，對收集者數據安全能力的要求也很高。而在泛娛樂場景，生物識別信息的收集，風險和收益極為不對稱，僅以創新的理由大規模收集，是非常危險的。
另外一個問題影響面則更大，在國外被稱作deepfake（深度偽造），即利用人工智慧技術尤其是deep learning（深度學習）技術製作模擬度極高的視頻、音頻，目前已達到以假亂真的水平，很多時候普通人幾乎無法分辨真偽。由於這一技術一開始就應用於色情和政治領域，在國外迅速引起了立法者的關注，如美國已經在聯邦和州一級的立法程序中有所回應，加快了立法程序。除了各種名人以外，deepfake已經出現了很多受害者，尤其是一些年輕的女孩，僅僅是因為在社交網站上公佈了一些照片，就被製作成了色情視頻，並廣泛傳播；之後因此出現各類的詐騙，應該也都在預料之中。而其最大的問題，是挑戰了「眼見為實」，使得公眾對事實真假都失去了信心，會帶來巨大的社會成本。
根據我的研究和了解到的信息，無論是生物識別信息的收集和利用，還是對deepfake的法律應對，國內的立法者和監管者都非常重視，在關於個人信息和數據安全的立法中有所回應。
（首發於21財經）
推薦閱讀：
