▲網(wǎng)傳AI仿冒全紅嬋帶貨畫(huà)面。圖/央視新聞

“大家好，克隆我是聲音你們的嬋寶，今天有事請大家幫忙。網(wǎng)絡(luò )嬋妹就想著(zhù)幫助媽媽?zhuān)瑱M行讓家里的任由生活過(guò)得更好一點(diǎn)，同時(shí)把老家的克隆土雞蛋分享給粉絲們嘗嘗……”

據央視新聞報道，在互聯(lián)網(wǎng)上，聲音奧運冠軍的網(wǎng)絡(luò )“聲音”突然開(kāi)始推銷(xiāo)農產(chǎn)品，知名演員的橫行“聲音”24小時(shí)不間斷在直播間與粉絲互動(dòng)……隨著(zhù)AI技術(shù)的普及，“克隆”特定人物聲音已實(shí)現“一鍵式”操作。任由當聲音能被輕易竊取和濫用，克隆隨之而來(lái)的聲音侵權亂象頻繁上演。

在媒體的網(wǎng)絡(luò )梳理里，全紅嬋、橫行孫穎莎、王楚欽這些知名的運動(dòng)員全都“中招”。他們“推銷(xiāo)土雞蛋”被AI工具一鍵生成，搭配上他們的畫(huà)面鏡頭，利用粉絲對運動(dòng)員的喜愛(ài)，迅速就可以“起號帶貨”。

這是很惡劣的伎倆，不僅侵犯運動(dòng)員的人格權，也在誆騙利用消費者的情感，讓很多人誤以為真的在幫運動(dòng)員的“家里生活過(guò)得好一點(diǎn)”。如果任由AI克隆聲音在網(wǎng)上橫行，不僅會(huì )傷害粉絲群體對運動(dòng)員的信任，沖擊正常的帶貨生態(tài)，長(cháng)此以往也會(huì )損害人們對真實(shí)與善意的基本信賴(lài)。

同時(shí)，也要看到，隨著(zhù)技術(shù)進(jìn)步，侵權和維權的成本逐漸不成比例，這在客觀(guān)上造成了此類(lèi)亂象屢禁不止。

據網(wǎng)絡(luò )安全專(zhuān)家介紹，基于開(kāi)源的語(yǔ)音大模型，只需一段清晰的語(yǔ)音樣本，任何人的聲音都可能在極短時(shí)間內被克隆，并能被操縱說(shuō)出攻擊者設定的任意內容?？梢?jiàn)，AI克隆聲音幾乎是零成本、零門(mén)檻，早已能輕松實(shí)現。

然而，想要維權卻并不容易。此前很多靳東、劉曉慶、古天樂(lè )、張文宏等知名人物都曾遭遇類(lèi)似困境，也都紛紛發(fā)布聲明表示維權，但實(shí)際走到法律層面的并不多。這些賬號往往變換迅速，內容刪除、隱藏頻繁，給取證造成巨大困難，也因此有法律人士指出，“部分受害方遇到該情況往往會(huì )迫于無(wú)奈，放棄以訴訟方式維權?！?/p>

但這種侵權行為不應該是個(gè)無(wú)解難題?？梢韵胂?，隨著(zhù)AI技術(shù)的普及，類(lèi)似產(chǎn)品可能會(huì )越來(lái)越多、傳播越來(lái)越隱蔽，如果只靠被侵權者“一個(gè)個(gè)去追責”，恐怕也是捉襟見(jiàn)肘。反過(guò)來(lái)說(shuō)，只有在技術(shù)和制度層面提前“補漏”，才更有可能實(shí)現有效封堵。

首先，應該盡到審核把關(guān)之責的就是互聯(lián)網(wǎng)平臺?；ヂ?lián)網(wǎng)平臺理應在直播上線(xiàn)、廣告投放、商品銷(xiāo)售等關(guān)鍵環(huán)節完善風(fēng)險識別機制，對涉及名人頭像、聲音的帶貨行為進(jìn)行重點(diǎn)審核。一旦發(fā)現疑似AI克隆造假，應當主動(dòng)攔截、第一時(shí)間下架，阻斷其傳播。

今年9月1日將施行的《人工智能生成合成內容標識辦法》，其中也對“生成合成內容添加顯式標識”“提供網(wǎng)絡(luò )信息內容傳播服務(wù)的服務(wù)提供者應當采取技術(shù)措施，規范生成合成內容傳播活動(dòng)”等提出了明確要求。

對此，互聯(lián)網(wǎng)平臺也應當對標要求，進(jìn)一步完善技術(shù)識別能力，規范AI內容的標記，并對有意繞開(kāi)標記規范的賬號進(jìn)行嚴肅處理，從而規范平臺整體的AI應用生態(tài)。

另外，相關(guān)部門(mén)也可以考慮和平臺建立消費者舉報、被侵權者維權的綠色通道，對平臺的證據保全等提出細化要求。在維權訴求發(fā)出之后，相關(guān)各方可以迅速聯(lián)動(dòng)，完成素材封存、賬號鎖定、傳播追蹤等關(guān)鍵動(dòng)作，將傳播、取證到司法裁判各環(huán)節都打通、提速，提升維權效率，讓侵權者付出沉重代價(jià)。

長(cháng)遠來(lái)看，治理AI克隆不僅是保護個(gè)體權益、維護市場(chǎng)秩序，更是為人工智能產(chǎn)業(yè)的健康發(fā)展掃清障礙。只有在發(fā)展與監管之間找到平衡，將技術(shù)創(chuàng )新置于明確的法律邊界和倫理規范之中，才能真正讓AI成為推動(dòng)社會(huì )進(jìn)步的正向力量，從而構建一個(gè)更透明、更可信賴(lài)的數字世界。

編輯 / 徐秋穎

校對 / 楊許麗

本文地址：http://www.hsdamuzhi.com/html/5b79099204.html