“你是記者技術(shù)溫崢嶸，那我是調查誰(shuí)？”
演員溫崢嶸本人瀏覽短視頻時(shí)，意外發(fā)現“自己”正在直播。換臉她在評論區提出質(zhì)疑后，濫用亂象被拉黑并踢出直播間。記者技術(shù)而對方仍在用“她的調查臉”直播帶貨。
圖片來(lái)源于網(wǎng)絡(luò )。濫用亂象
溫崢嶸近期遭遇的記者技術(shù)“冒牌直播”事件，是調查AI換臉技術(shù)濫用的典型寫(xiě)照。
11月14日，換臉中央網(wǎng)信辦官方賬號發(fā)文表示，濫用亂象有網(wǎng)絡(luò )賬號利用AI技術(shù)仿冒公眾人物形象，記者技術(shù)在直播、調查短視頻等環(huán)節發(fā)布營(yíng)銷(xiāo)信息，換臉誤導網(wǎng)民，涉嫌虛假宣傳和網(wǎng)絡(luò )侵權，嚴重破壞網(wǎng)絡(luò )生態(tài)，造成不良影響。網(wǎng)信部門(mén)嚴厲處置一批違法違規網(wǎng)絡(luò )賬號。同時(shí)，督促網(wǎng)站平臺發(fā)布治理公告，舉一反三，開(kāi)展集中清理整治，目前已累計清理相關(guān)違規信息8700余條，處置仿冒公眾人物賬號1.1萬(wàn)余個(gè)。
圖片來(lái)源于網(wǎng)絡(luò )。
《法治日報》記者近日調查發(fā)現，AI換臉與聲音克隆的教程及服務(wù)在網(wǎng)絡(luò )平臺流通。記者在各類(lèi)社交平臺以“AI換臉”“聲音克隆”等為關(guān)鍵詞搜索時(shí)，雖然平臺會(huì )彈出官方提示，提醒用戶(hù)使用需“合法合規、注意辨別”“切勿輕信、謹防詐騙”，但相關(guān)內容仍在網(wǎng)絡(luò )空間大量存在。
比如，有相當數量以“AI科普”為標簽的賬號在各平臺公開(kāi)分享?yè)Q臉教程。這些視頻通常詳細列出可訪(fǎng)問(wèn)的網(wǎng)站地址，逐步演示操作流程，并附有技術(shù)細節說(shuō)明，如建議用戶(hù)“盡量保證替換素材與原素材的人物尺寸一致、畫(huà)面干凈無(wú)遮擋”，以保證生成效果。
根據教程指引，記者登錄相關(guān)網(wǎng)站驗證發(fā)現，部分平臺確實(shí)免費提供AI換臉或聲音制作服務(wù)，支付幾十元購買(mǎi)會(huì )員后，還能解鎖去水印、高清放大等進(jìn)階功能。
除公開(kāi)教程外，更為隱蔽的交易正通過(guò)網(wǎng)盤(pán)渠道進(jìn)行。
記者觀(guān)察到，有一些打包出售的“完整教程”價(jià)格低至8元，且賣(mài)家聲稱(chēng)“沒(méi)有市面主流軟件那么多限制”。這類(lèi)教程通常包括云端工作流地址資料和詳細的操作說(shuō)明，以及圖片去AI化、舞蹈動(dòng)作模仿、人臉精修等擴展功能與相關(guān)的提示詞教學(xué)。
聲音克隆類(lèi)的教程售價(jià)低至9.9元，并在宣傳中強調“支持任何形象和聲音”。記者詢(xún)問(wèn)商家了解到，只要購買(mǎi)此安裝包，無(wú)需注冊會(huì )員即可免費破解使用對口型、克隆音色等功能。據商家描述，只需提供一段音頻文件，系統便可以在無(wú)身份認證的情況下進(jìn)行克隆，單次支持30秒音頻，且不限次數。
為驗證此類(lèi)教程的實(shí)際應用效果，記者購買(mǎi)了一份標價(jià)8元的換臉教程。該教程包含一段5分鐘的視頻教程和兩份文字材料，明確提供了平臺訪(fǎng)問(wèn)鏈接、新用戶(hù)福利信息和操作步驟，并特別注明“對敏感詞限制極少”“生成內容無(wú)水印”。
記者發(fā)現，該平臺提供多種功能模板，內容涵蓋替換視頻人物、給人物指定部位更換衣物、對圖片中人物身體部位進(jìn)行放大或動(dòng)態(tài)處理等不同功能。每個(gè)模板均配備相應的提示詞教學(xué)和詳細操作步驟，用戶(hù)只需上傳參考圖片、視頻或待處理素材，等待一段時(shí)間即可生成內容。
記者實(shí)測使用一段時(shí)長(cháng)5秒的視頻進(jìn)行換裝操作，約3分鐘后成功生成視頻。畫(huà)面中，人物動(dòng)作與神態(tài)還原度很高，被遮擋部位的服裝貼合效果也較為自然、精準。
記者注意到，該平臺內容生成功能采用運行時(shí)長(cháng)計費模式，每秒收費0.2虛擬幣。教程中附有專(zhuān)屬邀請碼，使用者可憑此免費領(lǐng)取1000虛擬幣。平臺還設置了虛擬幣獎勵機制：每天登錄贈送100虛擬幣，邀請新用戶(hù)可獲500虛擬幣。
此外，在電商平臺上，有商家為AI換臉?lè )?wù)披上偽裝售賣(mài)。
在某購物平臺，記者直接搜索“AI換臉”，顯示無(wú)任何結果。但記者觀(guān)察到，有部分商家會(huì )在商品詳情頁(yè)用表情符號隱喻其能提供換臉“服務(wù)”；也有商家以“啥都能做”“不限視頻內容，懂的都懂”為宣傳語(yǔ)，暗示私聊客服了解商品詳情。
記者了解到，10秒換臉視頻報價(jià)從15元至300元不等。例如，有商家提出，20秒內視頻（包括僅生成音頻的）統一收費80元；部分商家還推出298元200分鐘生成時(shí)長(cháng)、490元年卡等套餐，承諾“一對一教學(xué)指導”，宣傳語(yǔ)中不乏“讓朋友客戶(hù)難辨真偽”等誘導性表述。多數商家僅核查素材內容，對用途與來(lái)源未作甄別。
專(zhuān)家說(shuō)法
近年來(lái)，利用知名人士形象進(jìn)行AI換臉換聲的視頻層出不窮，一些有心人士將其用于直播帶貨甚至詐騙。這種行為可能觸犯哪些法律法規？
京都律師事務(wù)所律師常莎：
通過(guò)AI技術(shù)生成明星抑或普通民眾的人臉形象，前提是要采集、提取其面部特征生物識別信息。這些信息屬于法定的敏感個(gè)人信息，侵權方未經(jīng)授權使用，構成對公民個(gè)人信息權益的侵害；還可能侵犯他人肖像權、名譽(yù)權等。
若平臺“明知”侵權方利用AI換臉實(shí)施詐騙、銷(xiāo)售假冒商品等犯罪，仍為其提供幫助，則可能構成幫助信息網(wǎng)絡(luò )犯罪活動(dòng)罪。
AI換臉直播事件中，侵權方的直播帶貨屬商業(yè)廣告行為，其通過(guò)AI偽造明星肖像與聲音，營(yíng)造名人本人推薦的虛假表象，使消費者因信任明星作出購買(mǎi)決策，違反誠信原則，符合虛假廣告認定標準。同時(shí)，AI換臉行為還可能涉嫌不正當競爭。
此外，偽造特定名人形象、虛構事實(shí)以獲取非法收入，主觀(guān)上具有非法占有目的，客觀(guān)上實(shí)施了欺騙行為，符合詐騙罪的基本構成要件，該行為涉嫌構成詐騙罪。
對于A(yíng)I換臉換聲技術(shù)背后潛藏的法律風(fēng)險，該如何有效治理？
中央財經(jīng)大學(xué)法學(xué)院教授王葉剛：
應進(jìn)一步明確刪除、篡改、偽造、隱匿標識行為的法律責任?，F有相關(guān)規定只是規定行為人不得實(shí)施惡意刪除、篡改、隱匿標識的行為，但行為人實(shí)施相關(guān)行為需要承擔何種法律責任，相關(guān)規定亟待進(jìn)一步明確。
對于通過(guò)技術(shù)手段能夠發(fā)現的AI換臉直播帶貨行為，平臺應當盡到必要的審核義務(wù)，在發(fā)現相關(guān)行為后，可以考慮采取禁止或者限制直播、下架產(chǎn)品或者服務(wù)等措施。
實(shí)現多部門(mén)聯(lián)合執法，網(wǎng)信部門(mén)、市場(chǎng)監管部門(mén)等在行使本部門(mén)職權的基礎上，與其他部門(mén)進(jìn)行溝通、配合，實(shí)現對違法AI換臉換聲等行為的全過(guò)程監管和治理。
京都律師事務(wù)所律師常莎：
在技術(shù)方面，防范與創(chuàng )新并重，支持研發(fā)反深度合成技術(shù)，提升鑒別能力，為監管部門(mén)和個(gè)人提供可靠的技術(shù)工具。
個(gè)人應提高對肖像權和隱私權的保護意識，謹慎發(fā)布包含個(gè)人清晰肖像、獨特聲線(xiàn)的影像資料，避免給不法分子可乘之機。同時(shí)，如果侵權行為發(fā)生，則應積極通過(guò)法律途徑維護自身合法權益，及時(shí)收集并保留相關(guān)證據侵權內容截圖、傳播記錄等，以便在后續維權過(guò)程中提供有力支持。
作者｜法治日報全媒體記者 趙麗 實(shí)習生 王藝霏
(責任編輯：時(shí)尚)