本刊記者 崔曉萌

“同一演員同時(shí)出現在三個(gè)直播間，利用一個(gè)紅衣頸膜推薦官，合成何追一個(gè)白衣美妝顧問(wèn)，行騙還有一個(gè)素顏生活博主。利用一個(gè)主播同一時(shí)間用相似的合成何追話(huà)術(shù)推薦著(zhù)不同品牌的產(chǎn)品……”北京消費者鐘女士稱(chēng)，這個(gè)演員挺出名的行騙，最近經(jīng)常刷到她帶貨，利用當時(shí)覺(jué)得這演員怎么什么廣告都接。合成何追

沒(méi)想到，因為多個(gè)直播間出現她的利用帶貨形象，該演員也很無(wú)奈。合成何追她還曾在假冒自己的行騙直播間質(zhì)問(wèn)：“你是我，那我是利用誰(shuí)？”沒(méi)想到立馬被拉黑……

據了解，目前不少商家截取明星過(guò)往素材，合成何追經(jīng)摳圖換臉合成虛假直播，行騙卻無(wú)任何AI生成標注，這類(lèi)內容在直播平臺不算少見(jiàn)。

今年4月，上述演員就曾發(fā)布打假視頻，稱(chēng)自己“僅一個(gè)官方直播賬號”，引發(fā)粉絲舉報潮，有粉絲一天之內就舉報了18個(gè)偽造直播間。

如今這類(lèi)利用AI深度合成技術(shù)行騙的案例越來(lái)越多。此前有江西老人要貸款200萬(wàn)元給AI合成的“靳東”拍戲，港星黃百鳴的AI“分身”被用來(lái)推銷(xiāo)藥膏。央視此前曝光的仿冒全紅嬋帶貨事件中，虛假視頻銷(xiāo)量超4.7萬(wàn)件，雖然其家人早已聲明未授權，侵權內容仍屢禁不止。

“無(wú)論從什么方面來(lái)講，這都是一個(gè)違法侵權的行為?！敝袊ù髮W(xué)傳播法研究中心副主任朱巍接受本刊記者采訪(fǎng)時(shí)表示，使用AI換臉技術(shù)進(jìn)行直播帶貨是典型的深度合成行為。從被編輯者的角度講，這種行為侵犯了被編輯者的人格權，屬于違法和違規行為；從廣告法和消費者權益保護法等角度來(lái)看，這種行為還涉及虛假宣傳和欺詐消費者的問(wèn)題，可能觸發(fā)退一賠三的法律責任；從市場(chǎng)公平競爭的角度來(lái)看，這種行為違反了《反不正當競爭法》的相關(guān)規定。

他還提示，“平臺方在發(fā)現此類(lèi)侵權行為后應及時(shí)下架相關(guān)內容，并對發(fā)布者采取禁言、封禁等措施，否則可能承擔連帶責任?！?/p>

確實(shí)不少網(wǎng)友認為，這類(lèi)AI騙術(shù)在直播平臺大行其道，平臺有不可推卸的責任。據悉，抖音今年已封禁千余個(gè)AI仿冒賬號，并將線(xiàn)索移交監管部門(mén)。但業(yè)內人士指出，部分平臺仍存在“審核滯后”問(wèn)題。

朱巍表示，平臺對發(fā)布的內容負有審核責任，但具體審核標準因內容形式（如短視頻、廣告、直播）而異。侵權行為可能涉及多個(gè)主體（如MCN機構、商家），需從賬號注冊者到實(shí)際控制人全面追責。

具有迷惑性的新騙局屢禁不止，普通消費者該如何鑒別？業(yè)內人士也給出了一些方法：基于A(yíng)I技術(shù)去識別AI內容是最快的方式。也有消費者也在蹲直播間的過(guò)程總結出一些經(jīng)驗：“真實(shí)直播能實(shí)時(shí)互動(dòng)，AI分身只會(huì )循環(huán)話(huà)術(shù)?！?/p>

北京中銀律師事務(wù)所陳川川律師接受本刊記者采訪(fǎng)時(shí)介紹，消費者首先要注意看平臺標識和發(fā)布者信息，其次觀(guān)看直播過(guò)程中要觀(guān)察視頻細節、核實(shí)商品信息，并警惕“全網(wǎng)最低價(jià)”等話(huà)術(shù)。發(fā)現疑似AI侵權或詐騙時(shí)，立即保存證據（截圖、錄屏），向平臺投訴舉報，必要時(shí)尋求法律援助。

實(shí)際上，對于此類(lèi)亂象，監管層也在加快補位。9月1日施行的《人工智能生成合成內容標識辦法》要求，AI生成內容必須主動(dòng)標注，惡意隱匿將受?chē)缿?。多地市?chǎng)監管部門(mén)已展開(kāi)專(zhuān)項行動(dòng)。

朱巍認為，目前對AI深度學(xué)習的相關(guān)法律已經(jīng)制定，關(guān)鍵在于多方協(xié)同落實(shí)。

在強化法律執行方面，他提出了三點(diǎn)建議：首先，要建立起信用監管機制，對頻繁違規的MCN機構及其關(guān)聯(lián)賬號實(shí)施連帶責任追究。其次，主體責任應延伸至AI技術(shù)提供方平臺，從源頭控制未標記內容的生成。第三，社交平臺需提升技術(shù)防控能力，主動(dòng)攔截違規信息發(fā)布。

“AI時(shí)代要有火眼金睛，但不能把火眼金睛的責任交給老百姓?！敝煳》Q(chēng)。