因為一項“危險技術”，11家互聯(lián)網(wǎng)企業(yè)被約談。近日，針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術的應用，國家互聯(lián)網(wǎng)信息辦公室、公安部指導北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機關，依法約談映客、小米等11家企業(yè)。

對于運用深度偽造技術制作出來的產(chǎn)品，使用智能手機的公眾或許并不陌生。不久前，短視頻領域出現(xiàn)了一款火爆的“螞蟻呀嘿”。玩家只要上傳一張照片，照片上的人就能扭脖子瞪眼睛地唱上一首“螞蟻呀嘿”。2019年國內(nèi)紅極一時的換臉軟件“ZAO”，其基礎也是深度偽造技術。

有了PS后，有圖也不一定有真相;有了深度偽造，所看所聽未必是真相。但與使用PS不同，即使是不具備相應技術的普通人，也能輕松運用深度偽造技術來實現(xiàn)“換臉”。

廣東財經(jīng)大學法學院教授姚志偉3月26日接受《法治日報》記者采訪時說，深度偽造技術本身被廣泛運用存在較大風險，其風險不僅在于會侵犯公民個人權利，還在于可能導致公共安全方面的危險。如果不對該技術的使用進行規(guī)制，將會產(chǎn)生可怕的后果。

中國法學會商法學研究會理事、北京華訊律師事務所主任張韜說，深度偽造技術不僅涉及民法典所保護的人格權、肖像權等法律問題，還涉及個人生物信息的提取、識別、利用以及保護等諸多方面問題。因此，立法機關在制定個人信息保護法、數(shù)據(jù)安全法等相關法律時，應當針對這類新問題作出相應的制度設計。

低門檻高效率蘊含更大威脅

所謂深度偽造，是指有關軟件通過AI“換臉”、語音模擬、視頻生成等方式，對既有圖像、聲音、視頻進行篡改、偽造，自動生成音視頻產(chǎn)品。

不可否認，深度偽造技術有一定的正向作用。該技術可以輔助科研、教學、藝術創(chuàng)作等，例如，在教育領域，逼真的虛擬教師可以讓數(shù)字教學更具互動性和趣味性，合成的歷史人物講解視頻可以讓受眾更有代入感。

然而，與深度偽造技術的正面效應相比，其所蘊含的潛在威脅和安全隱患，更加引人關注。

盡管在深度偽造技術出現(xiàn)之前，也有技術能夠?qū)崿F(xiàn)“換臉”，例如PS技術。但與以往的技術相比，深度偽造技術有著更高效率、更低門檻、更高質(zhì)量的優(yōu)勢，這使得該技術在制造虛假人像和視頻方面具有更加顯著的優(yōu)勢。

“具備多種優(yōu)勢的深度偽造技術，使得普通人能夠輕松地自行進行‘換臉’，制作虛假人像圖像和視頻成本極低。在兼具高仿真與高效率的人工智能協(xié)助下，海量的‘換臉’圖像和視頻可以隨時產(chǎn)生并傳播，短時間風靡互聯(lián)網(wǎng)。對于這樣一種技術，如果不進行規(guī)制，無疑將產(chǎn)生可怕的后果。因此，在這種背景下，國內(nèi)外都已有立法動作進行回應。”姚志偉說。

危害公眾利益乃至國家安全

深度偽造技術一旦泛濫應用，勢必會對公眾的人身、財產(chǎn)等合法權益造成侵害。

例如，利用深度偽造技術實現(xiàn)移花接木，會對他人名譽權構成侵害。制作虛假色情視頻，是深度偽造技術最早也是最常見的非法運用方式之一。利用該技術能將一些知名歌星、影星等公眾人物的臉移轉(zhuǎn)到色情明星身上，偽造逼真的色情場景。

清華大學法學院教授程嘯指出，這些虛假色情視頻一經(jīng)傳播，公眾可能真假莫辨，從而導致受害人的名譽嚴重受損。即便不是用于制作色情視頻，深度偽造技術也完全可以通過制造虛假的視頻或音頻，侵害自然人、法人或非法人組織的名譽權，進而給其造成財產(chǎn)損失以及精神損害。

不僅如此，深度偽造技術還會對公共安全、經(jīng)濟安全、國家安全造成威脅。

姚志偉說，一旦深度偽造技術被濫用，公眾無從區(qū)分真假時，可能會對任何含有人像的圖像和視頻產(chǎn)生懷疑，這無疑會極大地沖擊媒體和政府的公信力，對社會信任體系造成重大損害，導致嚴重的社會信任危機。

“例如，在經(jīng)濟秩序方面，別有用心的人利用深度偽造技術，可以創(chuàng)造一家上市公司CEO宣稱公司即將破產(chǎn)的虛假視頻，我們可以想象，這個視頻對該公司股價的沖擊。”姚志偉說。

民法典對此已有專門規(guī)定

程嘯指出，深度偽造技術的濫用會對公眾的合法權益造成損害，破壞社會秩序、經(jīng)濟秩序和政治秩序，損害社會公共利益乃至危害國家安全，因此，包括我國在內(nèi)的許多國家的法律都對其作出規(guī)范。

我國在編纂民法典時，有單位提出，利用信息技術手段“深度偽造”他人的肖像、聲音，不僅侵害自然人的人格權益，嚴重的還可能造成惡劣的社會影響，危害國家安全和社會公共利益，建議法律對深度偽造技術帶來的“換臉”等問題予以回應。

后來，民法典在制定時采納了這一意見——第一千零一十九條第一款規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規(guī)定的除外。

“對于深度偽造技術可能造成的風險，民法典中的相關規(guī)定已經(jīng)可以解決民事責任問題，可以說是提前作出了一定的回應，這顯示出我國立法機關對于類似問題的重視。但不可否認的是，網(wǎng)絡法律制度依然有很大的空間需要完善。”張韜說。

張韜認為，從2019年的換臉軟件“ZAO”到此次11家互聯(lián)網(wǎng)企業(yè)被約談，深度偽造技術的潛在問題或威脅已經(jīng)逐步顯露。盡管目前我國尚未發(fā)生因深度偽造技術而產(chǎn)生侵權糾紛案件，但不能不未雨綢繆進行應對。因此，立法機關應當完善網(wǎng)絡法律制度，對這類新問題建立一整套新的制度。

對偽造場景應進行必要限制

值得注意的是，中共中央印發(fā)的《法治社會建設實施綱要(2020-2025年)》明確提出，要“制定完善對網(wǎng)絡直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術應用的規(guī)范管理辦法”。

張韜認為，正在制定的個人信息保護法、數(shù)據(jù)安全法以及其他有關法律、行政法規(guī)在制定和修訂時，應當針對這類問題進行專門規(guī)定，以回應和解決社會熱點問題。

“在制定個人信息保護法和數(shù)據(jù)安全法時，對于深度偽造技術所能涉及或者應用的場景應進一步加強規(guī)制?，F(xiàn)在的相關立法大多強調(diào)普適性的規(guī)定和適用，對很多具體、重要應用場景的規(guī)定還不夠完善，因此，建議在立法的實踐應用方面進行加強。”張韜說。

張韜建議，對深度偽造技術的研發(fā)和應用，特別是市場化的應用，要進行必要的監(jiān)管;應用深度偽造技術的音視頻“作品”，應當有水印或者其他顯著的標識，以提醒用戶注意;對深度偽造技術“換臉”仿聲所應用的具體場景，應當進行必要的限制。

本報記者 　蒲曉磊

免責聲明：本文不構成任何商業(yè)建議，投資有風險，選擇需謹慎！本站發(fā)布的圖文一切為分享交流，傳播正能量，此文不保證數(shù)據(jù)的準確性，內(nèi)容僅供參考

關鍵詞： 深度偽造