“AI換臉擬聲”亂象頻現(xiàn) 如何治理？

福州法律專家：為人工智能套上法治韁繩

“雷軍回應(yīng)‘國慶7天被AI雷軍罵了8天’”“靳東兩會(huì)建議AI換臉立法”……今年全國兩會(huì)期間，“AI換臉擬聲”技術(shù)的濫用問題引發(fā)代表委員關(guān)注，相關(guān)話題頻頻登上熱搜，也引發(fā)福州市民熱議。

手機(jī)應(yīng)用商店有許多“AI換臉”App（頁面截圖）。

代表委員發(fā)聲：

治理“AI換臉擬聲”

近年來，一些不法分子利用“AI換臉擬聲”等高科技手段實(shí)施詐騙，令一些演藝界人士、專家學(xué)者、知名企業(yè)家等公眾人物飽受困擾。

“一些喜歡我作品的觀眾，被AI換臉視頻騙得很慘。這種犯罪性質(zhì)非常惡劣，希望能建立更好的規(guī)則。”在3月5日的政協(xié)小組討論上，全國政協(xié)委員、中國煤礦文工團(tuán)團(tuán)長(zhǎng)靳東回應(yīng)了AI換臉引發(fā)的詐騙問題。

同樣深受其擾的，還有全國人大代表、小米集團(tuán)創(chuàng)始人雷軍。3月4日，雷軍公開了今年兩會(huì)的5條建議，其中“加強(qiáng)‘AI換臉擬聲’違法侵權(quán)重災(zāi)區(qū)治理”尤為引人關(guān)注。他表示，他本人就是“AI換臉擬聲”的受害者。去年國慶長(zhǎng)假期間，短視頻平臺(tái)上大量“雷軍AI配音”的惡搞視頻涌現(xiàn)，言辭犀利甚至爆粗口，不少網(wǎng)友“被AI雷軍罵了8天”。

雷軍表示，“AI換臉擬聲”濫用成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息罪及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來社會(huì)治理等風(fēng)險(xiǎn)。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來較大挑戰(zhàn)。

如何更好把握人工智能發(fā)展機(jī)遇、更好應(yīng)對(duì)新技術(shù)帶來的風(fēng)險(xiǎn)挑戰(zhàn)？雷軍建議，加快單行法立法進(jìn)程，提升立法位階；強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)企業(yè)等各方的責(zé)任和義務(wù)；加大普法宣傳的廣度和力度，增強(qiáng)民眾的警惕性和鑒別力。

全國人大代表、TCL創(chuàng)始人李東生建議，加快出臺(tái)人工智能深度合成內(nèi)容標(biāo)識(shí)管理規(guī)章制度，明確懲罰制度。同時(shí)，加強(qiáng)國際合作，有效監(jiān)管人工智能生成、合成內(nèi)容。

業(yè)內(nèi)人士剖析：

技術(shù)便捷滋生亂象

隨著AI技術(shù)的發(fā)展，“AI換臉擬聲”操作愈發(fā)簡(jiǎn)單，只需獲取照片和聲音等個(gè)人信息，就能借助技術(shù)以假亂真。

11日，記者嘗試使用了某款A(yù)I換臉軟件。在上傳一張人物照片并按照提示進(jìn)行簡(jiǎn)單操作后，短短幾分鐘，軟件便生成了一段換臉后的視頻，人物表情和動(dòng)作雖有些生硬，但整體已具有較高的相似度。

據(jù)了解，利用聲音合成功能，同樣能快速生成一段模仿目標(biāo)人物聲音的音頻。

基于此類技術(shù)，不法分子在網(wǎng)絡(luò)上制造出各種違法亂象。從假冒名人誘導(dǎo)中老年人轉(zhuǎn)賬，到偽裝單位領(lǐng)導(dǎo)要求匯款，甚至有線上游戲平臺(tái)利用AI技術(shù)，將某明星的肖像、聲音及過往視頻片段，合成制作為帶有賭博性質(zhì)的代言宣傳片。

“GitHub這類知名開源平臺(tái)上有大量AI換臉、語音合成的開源代碼與工具，大大降低了技術(shù)使用門檻。例如，熱門的開源項(xiàng)目Deep?FaceLab，不法分子只需簡(jiǎn)單下載、調(diào)試，即便技術(shù)水平有限，也能快速搭建起簡(jiǎn)易的‘AI換臉擬聲’程序。”福州大學(xué)計(jì)算機(jī)與大數(shù)據(jù)學(xué)院博士生肖博懷告訴記者，一些AI開源代碼和工具降低了技術(shù)使用門檻，讓合法的創(chuàng)新探索、創(chuàng)意實(shí)踐變得更為便捷，但這也使得惡意利用技術(shù)變得輕而易舉，不法分子能夠輕易獲取并運(yùn)用這些資源，實(shí)施違法犯罪行為。

一名深耕互聯(lián)網(wǎng)行業(yè)多年的資深從業(yè)者表示，在當(dāng)下網(wǎng)絡(luò)環(huán)境中，用戶注冊(cè)各類網(wǎng)絡(luò)平臺(tái)賬號(hào)時(shí)風(fēng)險(xiǎn)意識(shí)普遍薄弱。不少用戶為圖便捷，隨意填寫真實(shí)姓名、身份證號(hào)、聯(lián)系方式等關(guān)鍵個(gè)人信息。注冊(cè)過程中，對(duì)平臺(tái)隱私設(shè)置選項(xiàng)視而不見，默認(rèn)全部公開。這些泄露的信息與“AI換臉擬聲”技術(shù)相結(jié)合，無異于給詐騙分子提供了“作案利器”。

法律專家建言：

為AI套上法治韁繩

近年來，我國《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)已頒布實(shí)施，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》完成社會(huì)意見征集，對(duì)人工智能治理進(jìn)行了有益探索。然而，鑒于技術(shù)的迅猛發(fā)展，治理的“工具箱”仍需不斷擴(kuò)容。

福建省司法廳行政立法咨詢顧問專家?guī)斐蓡T、福建三山律師事務(wù)所主任洪必景表示，當(dāng)前對(duì)于涉及深度偽造、一鍵換臉等濫用人工智能侵權(quán)乃至詐騙行為的相關(guān)治理規(guī)則還不完善，這也導(dǎo)致利用人工智能侵權(quán)的違法成本極低，受害者的維權(quán)成本極高。技術(shù)的發(fā)展離不開制度保障，通過立法明確倫理規(guī)范和治理規(guī)則，確保人工智能的發(fā)展與應(yīng)用始終符合人類福祉顯得十分迫切和必要。

福建融成律師事務(wù)所合伙人齊海緒建議，面對(duì)“AI換臉擬聲”等新型詐騙的出現(xiàn)，首先應(yīng)加快制定相關(guān)法律法規(guī)，明確“AI換臉擬聲”等技術(shù)的應(yīng)用邊界與違法后果，建立AI生成內(nèi)容強(qiáng)制標(biāo)識(shí)制度，增強(qiáng)信息透明度。其次，進(jìn)一步強(qiáng)化互聯(lián)網(wǎng)平臺(tái)審核責(zé)任，要求互聯(lián)網(wǎng)企業(yè)采用技術(shù)手段攔截虛假信息，并建立“先行賠付”機(jī)制。再次，應(yīng)完善法律適用標(biāo)準(zhǔn)，推動(dòng)建立AI內(nèi)容追蹤溯源體系，結(jié)合《中華人民共和國反電信網(wǎng)絡(luò)詐騙法》等現(xiàn)行法規(guī)，形成全鏈條治理。（記者 肖遠(yuǎn)強(qiáng)）