你看直播時，眼前見到的主播，真的就是這個人嗎？原來是主播AI換臉變當(dāng)紅明星進(jìn)行帶貨，只為增加賣點，助力賣貨……近期，“AI換臉”的應(yīng)用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪。如此以假亂真，讓人防不勝防。“AI換臉”背后技術(shù)難不難？其法律邊界在哪？普通人該如何防范？
(相關(guān)資料圖)
利用“換臉” 博取流量
報道稱，有網(wǎng)友點開多個電商直播間，發(fā)現(xiàn)正在賣貨的竟然“迪麗熱巴”“楊冪”等一些當(dāng)紅明星，背后其實是直播間的主播利用“AI換臉”，將自己的臉變得神似某位明星。
連日來，記者在抖音、快手、視頻號等直播間瀏覽，暫未見到有“AI換臉”的直播，記者在小紅書上搜索“AI換臉”，當(dāng)前，有不少博主通過視頻拆解AI換臉詐騙的案例，并提醒大家要注意網(wǎng)聊風(fēng)險。
“AI換臉”技術(shù)陸續(xù)出現(xiàn)在大眾視野，被不少網(wǎng)友拿來“玩?！薄＝衲瓿蹼娨晞 犊耧j》走紅時，有網(wǎng)友把《狂飆》中的多位男主角樣子“換到”了組合F4經(jīng)典歌曲《流星花園》的MV中，戲稱為“狂飆F4”。此外，有博主利用AI換臉，將特斯拉創(chuàng)始人馬斯克的臉換到了不同背景的照片中，戲稱“馬斯克賣燒烤”“馬斯克擺攤”……目的是為了吸引網(wǎng)友們的眼球，帶來更多的流量。
目前AI換臉技術(shù)越來越成熟，呈現(xiàn)效果越來越逼真，從一開始的自娛自樂，至今在社會上眾多領(lǐng)域使用。
深度科技研究院院長張孝榮表示，當(dāng)前的AI換臉屬于深度偽造的AI技術(shù)衍生應(yīng)用。這種技術(shù)在影視和廣告行業(yè)由來已久，現(xiàn)在有了AI技術(shù)，這種換臉軟件開始大范圍普及開來。現(xiàn)在，隨著生成式AI的發(fā)展，使用難度進(jìn)一步降低，新興的APP和主流的視頻軟件都增加了類似功能，普及率大大提升，如此一來，線上的“李逵”和“李鬼”日益增多，而且更加真假難辨。
“隨著深度偽造技術(shù)、擴(kuò)散模型、生成對抗網(wǎng)絡(luò)和AI大模型等AI技術(shù)的日漸成熟，偽造相關(guān)視頻、音頻、圖像等技術(shù)門檻大幅降低。”天使投資人、資深人工智能專家郭濤表示，與此同時，大批的提供相關(guān)服務(wù)的第三方應(yīng)用軟件問世，應(yīng)用門檻進(jìn)一步降低，哪怕是“AI技術(shù)小白”幾分鐘也能輕松學(xué)會AI換臉等操作。
“直播換臉軟件，有的收費有的免費，收費的從幾百到幾千上萬元，成本各有不同?！睆埿s直言。
一旦發(fā)現(xiàn)換臉直播直接斷播
AI換臉技術(shù)帶來的風(fēng)險令大眾擔(dān)憂。對于最近直播平臺AI換臉詐騙的情況，抖音方面對全媒體記者表示，目前抖音直播不允許換臉直播，一旦發(fā)現(xiàn)平臺會直接斷播。平臺目前也在跟進(jìn)換臉帶貨的情況，除了斷播、限制櫥窗小黃車等帶貨功能，還會對侵權(quán)商家進(jìn)行扣除信用分的處置。對斷播后仍換臉直播的賬戶，將限制其直播權(quán)限。至于快手、視頻號方面，則暫未回應(yīng)。
據(jù)了解，5月9日《抖音關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》發(fā)布，要求創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時，遵循相關(guān)規(guī)范，其中包括發(fā)布者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識，幫助其他用戶區(qū)分虛擬與現(xiàn)實，特別是易混淆場景；虛擬人需在平臺進(jìn)行注冊，虛擬人技術(shù)使用者需實名認(rèn)證等。
今年4月，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《管理辦法》），這也是國家首次針對生成式AI產(chǎn)業(yè)發(fā)布規(guī)范性政策?！豆芾磙k法》提及，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽權(quán)和個人隱私，侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。
像防范電信詐騙一樣防范AI詐騙
“AI換臉惡搞他人、冒充明星帶貨，佯裝‘熟人’實施詐騙等上述濫用行為已經(jīng)涉嫌侵權(quán)，甚至是刑事詐騙?！睆V東南方福瑞德律師事務(wù)所律師梁宇麒接受記者采訪時表示，。需要注意的是，《民法典》正式實施后，確定是否侵犯肖像權(quán)不再以使用是否以盈利為目的，也就是說，使用他人肖像前，須經(jīng)過他人同意，否則將涉嫌構(gòu)成侵權(quán)。
梁宇麒表示，廣大民眾須警惕，已有不法分子使用他人肖像冒充他人騙取財物。一般情形大概是不法分子利用視頻電話打給被害人，利用AI換臉技術(shù)和聲音合成技術(shù)冒充被害人朋友，誘騙被害人轉(zhuǎn)款至其指定賬號，整個詐騙過程只需短短十分鐘。隨著AI換臉技術(shù)的迭代更新，社會各界在關(guān)注AI換臉技術(shù)進(jìn)步發(fā)展的同時，更應(yīng)關(guān)注由此帶來的風(fēng)險和威脅，并須采取一系列的防范措施。
那么，該如何警惕和防范AI換臉技術(shù)帶來的風(fēng)險？他建議：首先，政府部門加強(qiáng)AI換臉技術(shù)監(jiān)管力度，并制定相應(yīng)的法律法規(guī)，明確軟件開發(fā)商、平臺運營商以及使用人的責(zé)任邊界以及處罰標(biāo)準(zhǔn)。其次，軟件開發(fā)商和平臺運營商應(yīng)自身加強(qiáng)對AI換臉技術(shù)的內(nèi)部監(jiān)管，設(shè)定審核機(jī)制，規(guī)范使用行為。最后，也是最重要的是，提高個人防范意識，大家在使用AI換臉軟件或者小程序時，警惕被軟件收集人臉、聲音等個人敏感信息，如非必要，是可以拒絕收集的。以后面對關(guān)于涉及財物交易的事宜，不要只通過網(wǎng)絡(luò)視頻或語音確認(rèn)，建議通過個人聯(lián)系電話、單位聯(lián)系電話、甚至是面對面等多渠道確認(rèn)后，再進(jìn)行交易。
張孝榮表示，要像防范電信詐騙一樣防范AI詐騙。提高警惕，保護(hù)個人隱私資料，避免泄露；不要輕信各種APP傳來的視頻、電話或短信；建立財務(wù)信息防火墻，不要給陌生人轉(zhuǎn)賬。
（文章來源：廣州日報客戶端）
標(biāo)簽：
