當下，奧的起底在短視頻平臺或者是運冠直播平臺上購物成了很多人的新選擇。刷視頻的軍代時(shí)候，還經(jīng)常會(huì )冒出熟悉的冒帶明星，用流利的貨新鄉音推銷(xiāo)農產(chǎn)品，有的騙局還進(jìn)行直播帶貨。這些所謂的奧的起底明星很可能是仿冒的。近段時(shí)間，運冠網(wǎng)絡(luò )上一些商家利用AI技術(shù)仿冒帶貨。軍代有的冒帶借助名人效應，仿冒專(zhuān)家學(xué)者、貨新奧運冠軍、騙局影視明星；也有的奧的起底借助產(chǎn)地效應，冒充知名品牌。運冠消費者、軍代粉絲難辨真偽，慕名下單，卻不知道自己被蒙了。這些游走在灰色地帶的“AI李鬼”，正拷問(wèn)著(zhù)我們的數字治理能力。

近段時(shí)間，在一些手機平臺的網(wǎng)絡(luò )直播間，一些打著(zhù)樟樹(shù)港辣椒旗號的種子，成了主播推銷(xiāo)帶貨的重點(diǎn)。記者注意到，這些直播間的銷(xiāo)售人氣很旺，不時(shí)有人咨詢(xún)或下單購買(mǎi)。

湖南岳陽(yáng)的樟樹(shù)港辣椒屬?lài)业乩順酥巨r產(chǎn)品，有400多年的種植歷史，因量少質(zhì)優(yōu)，特級產(chǎn)品可賣(mài)到300元一斤。

而在這些網(wǎng)絡(luò )直播間，記者看到，畫(huà)面中展示的辣椒成串垂掛，產(chǎn)量奇高。當記者在直播間詢(xún)問(wèn)辣椒種子是否保真，種出來(lái)有沒(méi)有這么大時(shí)？主播紛紛表示，所見(jiàn)即所得。

奇怪的是，就在主播回答提問(wèn)的時(shí)候，背景視頻卻出現了農戶(hù)站在快要沒(méi)過(guò)膝蓋的深水中采摘辣椒的場(chǎng)景，這樣的場(chǎng)景顯然不符合常理，而類(lèi)似的畫(huà)面在其他直播間也有出現。

當記者追問(wèn)這些場(chǎng)景是不是AI生成的時(shí)，主播并沒(méi)有正面回應。

為了一探究竟，記者找到了相關(guān)技術(shù)專(zhuān)家了解情況。

奇安信集團副總裁 劉浩：畫(huà)面中一位女士拿了辣椒以后后退，甚至她整個(gè)腿部下半身和辣椒叢融為一體，這明顯是有悖真實(shí)世界規律的，這個(gè)在行業(yè)里面有專(zhuān)業(yè)名詞叫‘穿?！?。數字世界內容的建?，F在核心還是基于語(yǔ)言，而對于真實(shí)世界的物理規律，它是沒(méi)有辦法感知和預測的。

記者了解到，“穿?！笔堑湫偷腁I生成視頻中容易出現的紕漏。

技術(shù)專(zhuān)家指出，像直播間無(wú)人機噴灑農藥的片段，水霧的形態(tài)呈現規則的三角形，而不是自然的霧化狀態(tài)，這都是技術(shù)上的漏洞。

隨后，記者來(lái)到湖南岳陽(yáng)樟樹(shù)港辣椒的產(chǎn)地，進(jìn)一步求證。

湖南岳陽(yáng)湘陰縣樟樹(shù)鎮高級農藝師黃源介紹，樟樹(shù)港辣椒植株很矮小，視頻中的辣椒植株有一人多高，花根本就不是辣椒的花。第二，葉片也不是辣椒樹(shù)苗葉片的形狀。這個(gè)視頻的辣椒從產(chǎn)量上來(lái)看，每畝可能超過(guò)了6000斤還不止，但是樟樹(shù)港辣椒的產(chǎn)量大概每畝兩千斤到三千斤。

法律專(zhuān)家指出，利用AI制作不符合現實(shí)或不存在的商品內容，甚至冒用品牌進(jìn)行牟利，涉嫌民事侵權甚至刑事犯罪。

中國法學(xué)會(huì )消費者權益保護法研究會(huì )副秘書(shū)長(cháng) 陳音江：涉嫌侵犯消費者的知情權和選擇權?！吨腥A人民共和國消費者權益保護法》和《中華人民共和國電子商務(wù)法》都明確規定，經(jīng)營(yíng)者在推薦商品和服務(wù)的信息的時(shí)候，要做到真實(shí)、準確、全面。如果經(jīng)營(yíng)者故意通過(guò)AI視頻或者圖片來(lái)欺騙消費者，讓他誤以為可以長(cháng)出這樣，但實(shí)際上長(cháng)不出圖片和視頻的樣子，這種行為還可能會(huì )構成欺詐。

中國社會(huì )科學(xué)院法學(xué)研究所研究員 支振鋒：這里邊還涉及對市場(chǎng)秩序的破壞，對于原產(chǎn)地的正牌樟樹(shù)港辣椒來(lái)講，他就構成了民事上的侵權。量比較大的話(huà)，有可能構成刑法上的犯罪。銷(xiāo)售的是種子，還可能違反了《中華人民共和國種子法》的相應規定，情況可能會(huì )更嚴重。

事實(shí)上，除了利用AI技術(shù)仿冒知名產(chǎn)品、馳名品牌帶貨；不法商家還利用AI技術(shù)仿冒名人非法牟利，一些專(zhuān)家學(xué)者，奧運冠軍、影視明星等公眾人物成為“被代言”的對象。

這不僅侵犯了當事人的人格權，還消解了這些公眾人物的知名度和信譽(yù)度，更誤導了消費者。

一段北京大學(xué)國家發(fā)展研究院李玲教授的采訪(fǎng)視頻，被不法人員利用AI技術(shù)將其篡改為一段虛假的推銷(xiāo)視頻，在網(wǎng)絡(luò )上大肆傳播。

李玲教授公開(kāi)發(fā)表聲明：網(wǎng)上出現了大量假冒本人推銷(xiāo)醫藥書(shū)籍和治療手段的虛假視頻，大多是人工智能AI合成。本人從未在任何平臺推銷(xiāo)過(guò)醫藥書(shū)籍和醫療產(chǎn)品，請大家不要上當受騙。

然而，對于普通大眾來(lái)講，想要分辨清楚傳播內容是否是AI仿冒的并不容易，被蒙在鼓里，慕名而來(lái)購買(mǎi)這些產(chǎn)品的人也不在少數。

記者在銷(xiāo)售評論區看到，有不少購買(mǎi)者對產(chǎn)品質(zhì)量提出質(zhì)疑；有的提出產(chǎn)品并非公眾人物本人帶貨；有的甚至直呼上當受騙。

中國政法大學(xué)副教授 朱?。?/strong>現在看到的一些編輯的人臉、包括聲音在內，按照《中華人民共和國民法典》規定，都屬于當事人、權利人自己的人格權利，未經(jīng)允許任何人不得侵害。不僅不能直接用，也不能使用當事人的人臉信息、聲音信息進(jìn)行深度合成，這屬于偽造信息，按照《中華人民共和國網(wǎng)絡(luò )安全法》的規定，屬于違法信息。

今年9月1日，國家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內容標識辦法》正式施行，該辦法明確所有AI生成的文字、圖片、視頻等內容都要“亮明身份”，需要添加顯式標識和隱式標識。

其中明確，平臺在服務(wù)提供者的內容上架或上線(xiàn)時(shí)要進(jìn)行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風(fēng)險提示，力求在傳播端阻斷虛假信息的擴散。

調查中記者發(fā)現，當前，各大網(wǎng)絡(luò )平臺普遍升級AI內容識別系統，要求對AI生成作品添加標注，但仍有一些人采用多種手段繞過(guò)審核。比如，通過(guò)數據篡改、轉換編碼等形式，處理后上傳，平臺就難以判定為AI生成內容。

事實(shí)上，AI技術(shù)濫用引發(fā)的問(wèn)題復雜多變，法律法規的完善僅是底線(xiàn)要求。

截至目前，我國生成式人工智能產(chǎn)品的用戶(hù)規模已達2.3億人。隨著(zhù)AI技術(shù)的迅猛發(fā)展和生成式人工智能的快速迭代，各種紛雜的人工智能生成信息讓人眼花繚亂，有時(shí)難辨真假，這也給監管部門(mén)和平臺治理提出了新的挑戰。

令人擔憂(yōu)的是，技術(shù)上的迭代升級也讓這些仿冒內容的防范難度更大。

在過(guò)去，需要一定技術(shù)門(mén)檻和成本投入的深度偽造，在A(yíng)I大模型的助力下，不再需要長(cháng)時(shí)間的深度學(xué)習和數據訓練，就能在幾分鐘內生成仿冒的內容，逼真程度更是驚人。

在一家技術(shù)公司的辦公室，技術(shù)人員現場(chǎng)給記者拍攝了一張照片，短短幾分鐘的時(shí)間，便通過(guò)AI大模型將這張照片生成為一段直播帶貨視頻。

同時(shí)，記者手里的礦泉水變成了紅酒；身上穿的T恤衫變成了西服，還實(shí)現了純正的英文帶貨推銷(xiāo)。

揪出AI“李鬼”，將仿冒者打回原形，還需搭起多方協(xié)同的“立體防線(xiàn)”。平臺應當扛起責任，進(jìn)一步升級AI識別技術(shù)，用數字水印、區塊鏈存證等手段增強鑒偽追溯能力，避免AI仿冒虛假信息進(jìn)入傳播平臺。

法律法規也需細化，進(jìn)一步明晰標識規范、回溯機制，追責機制。

而對于技術(shù)開(kāi)發(fā)者和使用者，更應該守住“科技向善”的底線(xiàn)，不把商業(yè)利益凌駕于社會(huì )責任之上。

AI仿冒帶貨不僅侵犯了被仿冒人士和品牌的權利，也存在欺詐嫌疑，更觸動(dòng)了數字社會(huì )賴(lài)以存續的信任根基。AI“李鬼”越來(lái)越像真的，作為消費者，我們自己當然要盡可能擦亮眼睛去甄別，對所謂“傾情奉獻”的“明星代言”，保持理性判斷，避免掉進(jìn)消費陷阱，但是靠普通消費者的識別能力來(lái)防偽是遠遠不夠的，更需要平臺和相關(guān)部門(mén)擔負起把關(guān)的責任，通過(guò)技術(shù)手段和治理能力的提升，用系統性力量，守好“真”的邊界。唯有全社會(huì )形成共同抵制AI欺詐的合力，才能以“科技”之筆，繪就“向善”未來(lái)。

編輯丨趙智明

攝像丨張戈平 張敏

剪輯丨佟永杰 苗佳亮