人工智能技術(shù)是一把雙刃劍,在為我們提供便利的同時(shí),帶來諸多風(fēng)險(xiǎn)。比如前段時(shí)間各方熱議的AI換臉術(shù),在自我娛樂、娛樂大眾的同時(shí),不可避免引發(fā)諸如用戶個(gè)人隱私的泄露、侵權(quán)、虛假謠言的擴(kuò)散等法律風(fēng)險(xiǎn)。

　　如今,官方正式出手——國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局日前聯(lián)合印發(fā)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》),要求利用新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí);網(wǎng)絡(luò)音視頻信息服務(wù)提供者發(fā)現(xiàn)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的,應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施。

　　“新興技術(shù)一旦在網(wǎng)絡(luò)上被違法運(yùn)用,極有可能造成社會(huì)秩序紊亂,甚至危害國(guó)家安全。這就要求對(duì)網(wǎng)絡(luò)音視頻行業(yè)加強(qiáng)監(jiān)管?！北本煼洞髮W(xué)互聯(lián)網(wǎng)發(fā)展研究院院長(zhǎng)助理、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心秘書長(zhǎng)吳沈括教授告訴《法制日?qǐng)?bào)》記者,《規(guī)定》不僅加大對(duì)違法行為的打擊力度,制約網(wǎng)絡(luò)水軍等擾亂網(wǎng)絡(luò)秩序的行為,而且有利于進(jìn)一步保護(hù)公民、法人以及其他組織的合法權(quán)益,維護(hù)社會(huì)秩序和公共利益?！兑?guī)定》的出臺(tái),意味著AI深度換臉術(shù)等新技術(shù)新運(yùn)用迎來強(qiáng)監(jiān)管,

風(fēng)險(xiǎn)不斷疊加亟需規(guī)范

　　當(dāng)前,網(wǎng)絡(luò)音視頻信息行業(yè)發(fā)展迅速,用戶規(guī)模不斷壯大。數(shù)據(jù)顯示,我國(guó)網(wǎng)絡(luò)音樂用戶規(guī)模已達(dá)6.08億,網(wǎng)絡(luò)視頻用戶規(guī)模已達(dá)7.59億。隨之而來的是,相關(guān)風(fēng)險(xiǎn)在不斷疊加。

　　今年年初,一個(gè)“朱茵變楊冪”的視頻在bilibili(視頻彈幕網(wǎng)站)上火了,視頻中《射雕英雄傳》中扮演的“黃蓉”角色被替換為楊冪。視頻被傳至微博后引起軒然大波,侵權(quán)、安全等爭(zhēng)議聲接踵而至。

　　“隨著’深度偽造’等新技術(shù)新應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用,傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風(fēng)險(xiǎn)隱患在不斷增大。”國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人坦言,這些風(fēng)險(xiǎn)進(jìn)一步集聚、放大,很可能被利用從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)。

　　“亟需出臺(tái)有針對(duì)性的管理規(guī)定。”國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人說,亟需明確網(wǎng)絡(luò)音視頻信息服務(wù)提供者及其技術(shù)支持的主體的信息內(nèi)容安全管理責(zé)任,規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)提供者關(guān)于利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用的管理要求,為網(wǎng)絡(luò)音視頻信息服務(wù)及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)。

　　在吳沈括看來,盡管監(jiān)管部門近幾年來已出臺(tái)了相關(guān)文件,但由于網(wǎng)絡(luò)音視頻行業(yè)內(nèi)容、用戶等數(shù)量龐大,違法現(xiàn)象層出不窮。為此,國(guó)家網(wǎng)信辦、文化和旅游部、國(guó)家廣電總局三部門聯(lián)合制定《規(guī)定》,明確了管理機(jī)制,規(guī)范了新技術(shù)的使用,對(duì)將有關(guān)技術(shù)用于違法用途的行為起到了一定的阻止作用,有利于維護(hù)網(wǎng)絡(luò)音視頻行業(yè)的健康秩序。

辟謠機(jī)制阻斷謠言傳播

　　吳沈括注意到,《規(guī)定》對(duì)新技術(shù)新應(yīng)用安全給予高度關(guān)注,對(duì)基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播音視頻信息進(jìn)行了明確規(guī)定。

　　至于原因,吳沈括分析指出,這是由于此前規(guī)范機(jī)制的缺乏,虛假、違法信息在網(wǎng)絡(luò)平臺(tái)上傳播,難以得到有效的遏制,謠言的迅速傳播以及影響范圍廣的特點(diǎn),對(duì)公民和社會(huì)秩序都造成了嚴(yán)重危害。

　　對(duì)此,《規(guī)定》不僅明確安全評(píng)估要求,網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于新技術(shù)新應(yīng)用上線具有媒體屬性或者社會(huì)動(dòng)員功能的音視頻信息服務(wù),或者調(diào)整增設(shè)相關(guān)功能的,應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估。而且明確標(biāo)識(shí)要求和新聞信息管理要求,網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí),不得利用新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。

　　國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人介紹說,《規(guī)定》還明確違法違規(guī)信息管理要求,網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù)。

　　此外,《規(guī)定》還強(qiáng)調(diào),網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù),發(fā)現(xiàn)音視頻信息服務(wù)使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的,應(yīng)當(dāng)依法依約停止傳輸該信息,采取消除等處置措施;網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制,發(fā)現(xiàn)網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的,應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施,并將相關(guān)信息報(bào)網(wǎng)信、文化和旅游、廣播電視等部門備案。

　　吳沈括告訴記者,《規(guī)定》對(duì)非真實(shí)音視頻信息的標(biāo)識(shí)義務(wù)以及辟謠機(jī)制的安排,有利于識(shí)別各式各樣的虛假信息,阻止虛假信息的傳播,保護(hù)公民個(gè)人的權(quán)益,使新技術(shù)能夠得到合法運(yùn)用,與網(wǎng)絡(luò)音視頻行業(yè)共同健康發(fā)展。

設(shè)置便捷投訴舉報(bào)入口

　　記者注意到,《規(guī)定》要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者落實(shí)信息內(nèi)容安全管理主體責(zé)任,應(yīng)當(dāng)依法取得法律、行政法規(guī)規(guī)定的相關(guān)資質(zhì);建立健全用戶注冊(cè)、信息發(fā)布審核、信息安全管理等制度。

　　“該些規(guī)定要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者自覺主動(dòng)履行平臺(tái)監(jiān)管的義務(wù),加大對(duì)不良信息的識(shí)別和審核力度,承擔(dān)平臺(tái)所應(yīng)有的社會(huì)責(zé)任?！眳巧蚶ń忉屨f,平臺(tái)方在追求經(jīng)濟(jì)利益的同時(shí),實(shí)現(xiàn)與社會(huì)效益相統(tǒng)一。網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)加大對(duì)公民、社會(huì)和國(guó)家利益的保護(hù)力度,承擔(dān)更多的主體責(zé)任。

　　同時(shí),《規(guī)定》要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》的規(guī)定對(duì)用戶進(jìn)行真實(shí)身份信息認(rèn)證等。對(duì)此,吳沈括解釋說,這一條可以看做是網(wǎng)絡(luò)應(yīng)用實(shí)名制條款,明確了公民個(gè)人的責(zé)任。

　　此外,《規(guī)定》要求,網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷的投訴舉報(bào)入口,及時(shí)受理并處理公眾投訴舉報(bào)。此外,網(wǎng)絡(luò)音視頻信息服務(wù)提供技術(shù)支持的主體應(yīng)當(dāng)遵守相關(guān)法律法規(guī)規(guī)定和國(guó)家標(biāo)準(zhǔn)規(guī)范。

　　據(jù)國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人介紹,《規(guī)定》還明確監(jiān)督檢查要求和執(zhí)法協(xié)助要求,各級(jí)網(wǎng)信、文化和旅游、廣播電視等部門應(yīng)當(dāng)建立日常監(jiān)督檢查和定期檢查相結(jié)合的監(jiān)督管理制度,網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)配合監(jiān)管部門開展執(zhí)法工作。而且明確了法律責(zé)任,網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反本規(guī)定的,由網(wǎng)信、文化和旅游、廣播電視等部門依照相關(guān)法律法規(guī)規(guī)定處理。

　　吳沈括認(rèn)為,作為規(guī)范性文件,《規(guī)定》對(duì)網(wǎng)絡(luò)音視頻信息行業(yè)的的監(jiān)管作了大體規(guī)定,后期仍需更為細(xì)化的執(zhí)行性文件出臺(tái),幫助有關(guān)部門以及網(wǎng)絡(luò)音視頻信息服務(wù)提供者進(jìn)一步履行責(zé)任。