因為一項“危險技術(shù)”,11家互聯(lián)網(wǎng)企業(yè)被約談。近日,針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用,國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門、公安機(jī)關(guān),依法約談映客、小米等11家企業(yè)。
對于運(yùn)用深度偽造技術(shù)制作出來的產(chǎn)品,使用智能手機(jī)的公眾或許并不陌生。不久前,短視頻領(lǐng)域出現(xiàn)了一款火爆的“螞蟻呀嘿”。玩家只要上傳一張照片,照片上的人就能扭脖子瞪眼睛地唱上一首“螞蟻呀嘿”。2019年國內(nèi)紅極一時的換臉軟件“ZAO”,其基礎(chǔ)也是深度偽造技術(shù)。
有了PS后,有圖也不一定有真相;有了深度偽造,所看所聽未必是真相。但與使用PS不同,即使是不具備相應(yīng)技術(shù)的普通人,也能輕松運(yùn)用深度偽造技術(shù)來實現(xiàn)“換臉”。
廣東財經(jīng)大學(xué)法學(xué)院教授姚志偉3月26日接受《法治日報》記者采訪時說,深度偽造技術(shù)本身被廣泛運(yùn)用存在較大風(fēng)險,其風(fēng)險不僅在于會侵犯公民個人權(quán)利,還在于可能導(dǎo)致公共安全方面的危險。如果不對該技術(shù)的使用進(jìn)行規(guī)制,將會產(chǎn)生可怕的后果。
中國法學(xué)會商法學(xué)研究會理事、北京華訊律師事務(wù)所主任張韜說,深度偽造技術(shù)不僅涉及民法典所保護(hù)的人格權(quán)、肖像權(quán)等法律問題,還涉及個人生物信息的提取、識別、利用以及保護(hù)等諸多方面問題。因此,立法機(jī)關(guān)在制定個人信息保護(hù)法、數(shù)據(jù)安全法等相關(guān)法律時,應(yīng)當(dāng)針對這類新問題作出相應(yīng)的制度設(shè)計。
低門檻高效率蘊(yùn)含更大威脅
所謂深度偽造,是指有關(guān)軟件通過AI“換臉”、語音模擬、視頻生成等方式,對既有圖像、聲音、視頻進(jìn)行篡改、偽造,自動生成音視頻產(chǎn)品。
不可否認(rèn),深度偽造技術(shù)有一定的正向作用。該技術(shù)可以輔助科研、教學(xué)、藝術(shù)創(chuàng)作等,例如,在教育領(lǐng)域,逼真的虛擬教師可以讓數(shù)字教學(xué)更具互動性和趣味性,合成的歷史人物講解視頻可以讓受眾更有代入感。
然而,與深度偽造技術(shù)的正面效應(yīng)相比,其所蘊(yùn)含的潛在威脅和安全隱患,更加引人關(guān)注。
盡管在深度偽造技術(shù)出現(xiàn)之前,也有技術(shù)能夠?qū)崿F(xiàn)“換臉”,例如PS技術(shù)。但與以往的技術(shù)相比,深度偽造技術(shù)有著更高效率、更低門檻、更高質(zhì)量的優(yōu)勢,這使得該技術(shù)在制造虛假人像和視頻方面具有更加顯著的優(yōu)勢。
“具備多種優(yōu)勢的深度偽造技術(shù),使得普通人能夠輕松地自行進(jìn)行‘換臉’,制作虛假人像圖像和視頻成本極低。在兼具高仿真與高效率的人工智能協(xié)助下,海量的‘換臉’圖像和視頻可以隨時產(chǎn)生并傳播,短時間風(fēng)靡互聯(lián)網(wǎng)。對于這樣一種技術(shù),如果不進(jìn)行規(guī)制,無疑將產(chǎn)生可怕的后果。因此,在這種背景下,國內(nèi)外都已有立法動作進(jìn)行回應(yīng)。”姚志偉說。
危害公眾利益乃至國家安全
深度偽造技術(shù)一旦泛濫應(yīng)用,勢必會對公眾的人身、財產(chǎn)等合法權(quán)益造成侵害。
例如,利用深度偽造技術(shù)實現(xiàn)移花接木,會對他人名譽(yù)權(quán)構(gòu)成侵害。制作虛假色情視頻,是深度偽造技術(shù)最早也是最常見的非法運(yùn)用方式之一。利用該技術(shù)能將一些知名歌星、影星等公眾人物的臉移轉(zhuǎn)到色情明星身上,偽造逼真的色情場景。
清華大學(xué)法學(xué)院教授程嘯指出,這些虛假色情視頻一經(jīng)傳播,公眾可能真假莫辨,從而導(dǎo)致受害人的名譽(yù)嚴(yán)重受損。即便不是用于制作色情視頻,深度偽造技術(shù)也完全可以通過制造虛假的視頻或音頻,侵害自然人、法人或非法人組織的名譽(yù)權(quán),進(jìn)而給其造成財產(chǎn)損失以及精神損害。
不僅如此,深度偽造技術(shù)還會對公共安全、經(jīng)濟(jì)安全、國家安全造成威脅。
姚志偉說,一旦深度偽造技術(shù)被濫用,公眾無從區(qū)分真假時,可能會對任何含有人像的圖像和視頻產(chǎn)生懷疑,這無疑會極大地沖擊媒體和政府的公信力,對社會信任體系造成重大損害,導(dǎo)致嚴(yán)重的社會信任危機(jī)。
“例如,在經(jīng)濟(jì)秩序方面,別有用心的人利用深度偽造技術(shù),可以創(chuàng)造一家上市公司CEO宣稱公司即將破產(chǎn)的虛假視頻,我們可以想象,這個視頻對該公司股價的沖擊。”姚志偉說。
民法典對此已有專門規(guī)定
程嘯指出,深度偽造技術(shù)的濫用會對公眾的合法權(quán)益造成損害,破壞社會秩序、經(jīng)濟(jì)秩序和政治秩序,損害社會公共利益乃至危害國家安全,因此,包括我國在內(nèi)的許多國家的法律都對其作出規(guī)范。
我國在編纂民法典時,有單位提出,利用信息技術(shù)手段“深度偽造”他人的肖像、聲音,不僅侵害自然人的人格權(quán)益,嚴(yán)重的還可能造成惡劣的社會影響,危害國家安全和社會公共利益,建議法律對深度偽造技術(shù)帶來的“換臉”等問題予以回應(yīng)。
后來,民法典在制定時采納了這一意見——第一千零一十九條第一款規(guī)定,任何組織或者個人不得以丑化、污損,或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,不得制作、使用、公開肖像權(quán)人的肖像,但是法律另有規(guī)定的除外。
“對于深度偽造技術(shù)可能造成的風(fēng)險,民法典中的相關(guān)規(guī)定已經(jīng)可以解決民事責(zé)任問題,可以說是提前作出了一定的回應(yīng),這顯示出我國立法機(jī)關(guān)對于類似問題的重視。但不可否認(rèn)的是,網(wǎng)絡(luò)法律制度依然有很大的空間需要完善。”張韜說。
張韜認(rèn)為,從2019年的換臉軟件“ZAO”到此次11家互聯(lián)網(wǎng)企業(yè)被約談,深度偽造技術(shù)的潛在問題或威脅已經(jīng)逐步顯露。盡管目前我國尚未發(fā)生因深度偽造技術(shù)而產(chǎn)生侵權(quán)糾紛案件,但不能不未雨綢繆進(jìn)行應(yīng)對。因此,立法機(jī)關(guān)應(yīng)當(dāng)完善網(wǎng)絡(luò)法律制度,對這類新問題建立一整套新的制度。
對偽造場景應(yīng)進(jìn)行必要限制
值得注意的是,中共中央印發(fā)的《法治社會建設(shè)實施綱要(2020-2025年)》明確提出,要“制定完善對網(wǎng)絡(luò)直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。
張韜認(rèn)為,正在制定的個人信息保護(hù)法、數(shù)據(jù)安全法以及其他有關(guān)法律、行政法規(guī)在制定和修訂時,應(yīng)當(dāng)針對這類問題進(jìn)行專門規(guī)定,以回應(yīng)和解決社會熱點問題。
“在制定個人信息保護(hù)法和數(shù)據(jù)安全法時,對于深度偽造技術(shù)所能涉及或者應(yīng)用的場景應(yīng)進(jìn)一步加強(qiáng)規(guī)制?,F(xiàn)在的相關(guān)立法大多強(qiáng)調(diào)普適性的規(guī)定和適用,對很多具體、重要應(yīng)用場景的規(guī)定還不夠完善,因此,建議在立法的實踐應(yīng)用方面進(jìn)行加強(qiáng)。”張韜說。
張韜建議,對深度偽造技術(shù)的研發(fā)和應(yīng)用,特別是市場化的應(yīng)用,要進(jìn)行必要的監(jiān)管;應(yīng)用深度偽造技術(shù)的音視頻“作品”,應(yīng)當(dāng)有水印或者其他顯著的標(biāo)識,以提醒用戶注意;對深度偽造技術(shù)“換臉”仿聲所應(yīng)用的具體場景,應(yīng)當(dāng)進(jìn)行必要的限制。
本報記者 蒲曉磊
-
1黑洞是如何形成的?黑洞的形成小常識要知悉
-
2諾貝爾發(fā)明了什么 有關(guān)諾貝爾小常識Mark下
-
3英國凍結(jié)英國廣播公司電視執(zhí)照費兩年 或使BBC現(xiàn)財政缺口
-
4“粒子束大炮”達(dá)到可工業(yè)化應(yīng)用指標(biāo) 推動ADS概念從夢想走進(jìn)現(xiàn)實
-
5α-芳基丙酸類化合物制備更高效便利綠色 推進(jìn)非甾體消炎藥發(fā)展
-
6遠(yuǎn)望5號船中修技術(shù)改造順利完成 已有15年船齡
-
7江漢油田已累產(chǎn)氣超2000萬立方米 頁巖油勘探開發(fā)獲多項突破
-
830億年前火星上或存在一個液態(tài)海洋 或包含微生物生命
-
95G技術(shù)為醫(yī)療帶來哪些改變?遠(yuǎn)程醫(yī)療通過5G技術(shù)賦能基層
-
10湯加海底電纜到底怎么了?海底電纜風(fēng)險不只湯加有
-
北京房山:第一時間對涉疫企業(yè)封控,相關(guān)人員和家屬足不出戶
-
北京昨日新增無癥狀感染者從事裝修材料搬運(yùn)工作,軌跡公布
-
天津:疫情已得到有效控制,感染者主要為被隔離管控人員
-
“飛臨”探秘冬奧場館:“冰絲帶”上最快的冰【全景新聞】
-
“對中國的敵意是精心策劃的!”
-
昆鋼公司原黨委書記、董事長杜陸軍被"雙開"
-
重慶姐弟墜亡案兩被告人被指已上訴,女被告人新請了律師
-
西安未央等三區(qū)內(nèi)市民憑綠碼正?;顒?,不再查驗48小時核酸
-
國務(wù)院國資委新聞發(fā)言人:不能把混改視為國企改革“靈丹妙藥”
-
找回孫卓的民警或又找回一被拐孩子:單身媽媽苦尋24年,激動痛哭
-
防治胃中“幽靈”,科學(xué)認(rèn)識幽門螺旋桿菌!
-
山西孝義盜采煤礦透水事故余波:當(dāng)?shù)囟嗝賳T被查
-
西安:本輪疫情近三分之二患者已治愈出院
-
西安首次“零新增”,疫情已進(jìn)入收尾階段
-
鄭州大學(xué):2841名學(xué)生準(zhǔn)備留校過年,繼續(xù)科研活動
-
香港道教聯(lián)合會會長湯偉奇逝世,林鄭月娥深切哀悼
-
專家:機(jī)動車長時間停放戶外要定期檢查 電瓶線路是否有問題
-
專家:機(jī)動車長時間停放戶外要定期檢查 電瓶線路是否有問題
-
萊萬多夫斯基力壓阿根廷球星梅西 蟬聯(lián)“世界足球先生”獎項
-
萊萬多夫斯基力壓阿根廷球星梅西 蟬聯(lián)“世界足球先生”獎項
-
冬奧村將于1月23日將開啟賽時閉環(huán)管理 為各國運(yùn)動員提供保障服務(wù)
-
冬奧村將于1月23日將開啟賽時閉環(huán)管理 為各國運(yùn)動員提供保障服務(wù)
-
第20屆亞洲杯女足賽:中國女足正式步入賽前沖刺期
-
第20屆亞洲杯女足賽:中國女足正式步入賽前沖刺期
-
英國凍結(jié)英國廣播公司電視執(zhí)照費兩年 或使BBC現(xiàn)財政缺口
-
英國凍結(jié)英國廣播公司電視執(zhí)照費兩年 或使BBC現(xiàn)財政缺口
-
柬埔寨成衣業(yè)年均增長率高達(dá)10% 成最主要出口商品
-
柬埔寨成衣業(yè)年均增長率高達(dá)10% 成最主要出口商品
-
我國快遞業(yè)務(wù)量達(dá)1083億件 行業(yè)內(nèi)外迎來更多機(jī)遇
-
我國快遞業(yè)務(wù)量達(dá)1083億件 行業(yè)內(nèi)外迎來更多機(jī)遇
-
“粒子束大炮”達(dá)到可工業(yè)化應(yīng)用指標(biāo) 推動ADS概念從夢想走進(jìn)現(xiàn)實
-
α-芳基丙酸類化合物制備更高效便利綠色 推進(jìn)非甾體消炎藥發(fā)展
-
遠(yuǎn)望5號船中修技術(shù)改造順利完成 已有15年船齡
-
遠(yuǎn)望5號船中修技術(shù)改造順利完成 已有15年船齡
-
來賓2022年社保繳費基數(shù)是怎樣的 快來認(rèn)真看看
-
2022個人交社保一個月多少錢 職工社保繳費看過來
-
個人自費繳社保劃算嗎 自費繳納社保必知的小知識
-
參保人認(rèn)真看下:失業(yè)期間社保怎么交
-
自己交社保為什么醫(yī)保不返錢 這一醫(yī)保常識Mark起來
-
國務(wù)院聯(lián)防聯(lián)控機(jī)制:將穩(wěn)步實施新冠病毒核酸20合1混采檢測技術(shù)
-
數(shù)據(jù)圖解丨2021年中歐班列開行15183列 共建“一帶一路”朋友圈繼續(xù)擴(kuò)大
-
包頭稀土高新區(qū):盤活知識產(chǎn)權(quán),讓“知產(chǎn)”變“資產(chǎn)”
-
【新春走基層】第一書記的“年貨禮包”
-
原浙江省國資委副主任呂志良已任省總工會黨組書記
-
國際法院首位中國籍院長、改革先鋒史久鏞逝世,享年96歲
-
廣東珠海第三輪全員核酸檢測結(jié)果均為陰性
-
一家五口擠順風(fēng)車上高速,杭州交警查處后派兩輛警車送回家
-
江歌母親:接受“訴劉鑫案”一審判決結(jié)果,決定不上訴
-
社保常識干貨區(qū):社保中斷繳費之前繳納年限會作廢嗎
-
社??ㄑa(bǔ)換卡常識區(qū):石家莊二代社保卡到期如何補(bǔ)換卡
-
天津市政府原顧問韓恩甲逝世,曾負(fù)責(zé)籌備原天津市證交所
-
去年四川GDP為53850.79億元,比上年增8.2%
-
2021年海南GDP為6475.2億元,同比增11.2%
-
大愛之城彰顯“鄭”能量
-
2022年1月18日西藏自治區(qū)新型冠狀病毒肺炎疫情情況
-
2021年邊境緝毒10.38噸,查獲偷渡人員4.79萬人
-
大范圍雨雪天氣將來襲 陜西河南部分地區(qū)有大雪
-
大范圍雨雪天氣將來襲 陜西河南部分地區(qū)有大雪
-
江漢油田已累產(chǎn)氣超2000萬立方米 頁巖油勘探開發(fā)獲多項突破
-
江漢油田已累產(chǎn)氣超2000萬立方米 頁巖油勘探開發(fā)獲多項突破
-
5G技術(shù)為醫(yī)療帶來哪些改變?遠(yuǎn)程醫(yī)療通過5G技術(shù)賦能基層
-
5G技術(shù)為醫(yī)療帶來哪些改變?遠(yuǎn)程醫(yī)療通過5G技術(shù)賦能基層
-
30億年前火星上或存在一個液態(tài)海洋 或包含微生物生命
-
30億年前火星上或存在一個液態(tài)海洋 或包含微生物生命
-
微視頻|零點后的她
-
保障春運(yùn)期間安全用電
-
春運(yùn)乘坐火車收下這份安全出行“秘籍”
-
2022年1月18日(0—24時)青海省新型冠狀病毒肺炎疫情情況
-
2022年1月17日(0—24時)青海省新型冠狀病毒肺炎疫情情況
-
民盟浙江省委會建議:成立縣域主播學(xué)院,推進(jìn)農(nóng)產(chǎn)品直播帶貨
-
湯加海底電纜到底怎么了?海底電纜風(fēng)險不只湯加有
-
中青寶違反上市公司信息披露管理辦法 深圳證監(jiān)局要求其責(zé)令改正
-
酒鬼酒2021年實現(xiàn)營業(yè)收入34億元 市場拓展穩(wěn)步推進(jìn)
-
酒鬼酒2021年實現(xiàn)營業(yè)收入34億元 市場拓展穩(wěn)步推進(jìn)
-
復(fù)星保德信人壽啟動增資計劃 增收不增利累計虧損超13億元
-
復(fù)星保德信人壽啟動增資計劃 增收不增利累計虧損超13億元
-
長威科技沖A接連失敗 年內(nèi)6家公司倒在注冊階段
-
長威科技沖A接連失敗 年內(nèi)6家公司倒在注冊階段
-
數(shù)據(jù)顯示:1月上旬全國白酒商品定基總指數(shù)上漲8.65%
-
數(shù)據(jù)顯示:1月上旬全國白酒商品定基總指數(shù)上漲8.65%
-
微軟擬687億美元收購動視暴雪 將成世界上收入第三高游戲公司
-
錢大媽在京門店全部關(guān)閉 一路狂奔掉進(jìn)“內(nèi)卷”
-
錢大媽在京門店全部關(guān)閉 一路狂奔掉進(jìn)“內(nèi)卷”
-
丘棟榮在管基金規(guī)模“縮水” 是業(yè)績不好還是限購問題
-
丘棟榮在管基金規(guī)?!翱s水” 是業(yè)績不好還是限購問題
-
2022年1月19日山西省新型冠狀病毒肺炎疫情情況
-
吐槽被判侵權(quán),合理差評與惡意誹謗的邊界在哪?
-
浙江省人大代表提出復(fù)興古詩詞吟詠,將相關(guān)著作作為學(xué)校教材
-
北京昨日新增本土感染“1+1”,在海淀區(qū)和朝陽區(qū)
-
北京1月18日新增1例本土確診病例、1例本土無癥狀感染者和5例境外輸入確診病例、1例無癥狀感染者
-
2022年1月18日0時至24時遼寧新型冠狀病毒肺炎疫情情況
-
天津昨日新增本土確診病例14例,本輪疫情累計報告326例
-
重返TVB后王祖藍(lán)組隊回內(nèi)地交流,去年已出任首席創(chuàng)意官
-
GDP同比增長8.1%對股市形成切實利好
-
GDP同比增長8.1%對股市形成切實利好
-
投資者不應(yīng)徹底放棄打新 應(yīng)學(xué)會提高中簽新股收益率
-
投資者不應(yīng)徹底放棄打新 應(yīng)學(xué)會提高中簽新股收益率
-
銀行發(fā)行同業(yè)存單熱情不減 147家銀行申報發(fā)行同業(yè)存單
-
銀行發(fā)行同業(yè)存單熱情不減 147家銀行申報發(fā)行同業(yè)存單
-
國產(chǎn)劇《開端》掀起觀劇熱潮 時間循環(huán)玩出新花樣