隨著(zhù)AI生成技術(shù)的網(wǎng)民普及，只需簡(jiǎn)單輸入文字指令，造謠直播就能生成以假亂真的監獄圖像、視頻，被罰辟謠這不僅讓謠言傳播門(mén)檻大幅降低，官方更讓不少人在“獵奇”“博流量”的圖片驅使下，觸碰法律與道德的網(wǎng)民紅線(xiàn)。近日，造謠直播山東威海網(wǎng)安部門(mén)查獲兩起通過(guò)AI編造、監獄傳播網(wǎng)絡(luò )謠言的被罰辟謠違法行為。

案例一:近日，威海網(wǎng)民張某為提升賬號關(guān)注度，圖片博取流量、網(wǎng)民牟取私利，造謠直播使用某AI工具編造了“在監獄直播帶貨”圖片的監獄謠言信息，并發(fā)布在某互聯(lián)網(wǎng)平臺，引發(fā)大量網(wǎng)民關(guān)注和討論，擾亂公共秩序。

案例二:近日，在廣東臺風(fēng)期間，威海網(wǎng)民遲某為博取眼球、吸引流量，編造“廣東陽(yáng)江兩所教學(xué)樓因臺風(fēng)受損”虛假災情視頻畫(huà)面，在某短視頻平臺發(fā)布，誤導大量網(wǎng)民關(guān)注，嚴重擾亂社會(huì )公共秩序，引發(fā)恐慌，造成了不良社會(huì )影響。

公安機關(guān)依法給予張某和遲某行政處罰。

法律責任

根據《中華人民共和國治安管理處罰法》第二十五條的規定，散布謠言，謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的，處以五日以上十日以下拘留，可以并處五百元以下罰款；情節較輕的，處五日以下拘留或者五百元以下罰款。

風(fēng)險隱患

通過(guò)類(lèi)似案件看，一些AI謠言的背后已形成分工明確的灰色產(chǎn)業(yè)鏈。其具備“低成本量產(chǎn)”的特性，有資料顯示通過(guò)AI單日最高可生成4000至7000篇虛假文章，成本僅為傳統造謠的1%。AI謠言帶來(lái)的風(fēng)險隱患確實(shí)值得高度警惕，其風(fēng)險隱患主要體現在：

一是與傳統謠言相比，AI謠言因其技術(shù)特性，危害性呈指數級放大：

二是具有高仿真與強迷惑性，生成的文字、圖片、音視頻內容逼真，普通網(wǎng)民難以分辨。

三是進(jìn)化與迭代能力強，AI謠言甚至能針對辟謠信息快速生成新版本進(jìn)行反駁或迭代，形成“打地鼠”式的動(dòng)態(tài)對抗，讓治理防不勝防。

如何預防

作為信息接收者，可以通過(guò)以下方式識別潛在的AI謠言：

查源頭：警惕那些沒(méi)有明確作者、來(lái)源模糊或偽裝成“網(wǎng)友投稿”“內部消息”的內容?？煽康男畔⑼ǔＳ姓幍男侣剻C構或官方信源背書(shū)。

看細節：對于圖片和視頻，仔細觀(guān)察是否存在A(yíng)I生成的典型痕跡，例如人物手指數量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。

驗邏輯：判斷內容是否存在明顯的事實(shí)錯誤或邏輯矛盾，比如時(shí)間線(xiàn)錯亂（用未來(lái)的數據描述過(guò)去的事件）或地理信息錯誤。

用工具：善用權威辟謠平臺進(jìn)行查證，同時(shí)可以關(guān)注公安部網(wǎng)安局發(fā)布的相關(guān)警示信息。

網(wǎng)絡(luò )不是法外之地！為博流量無(wú)下限，惡意AI不可??！公安機關(guān)嚴厲打擊惡意編造傳播網(wǎng)絡(luò )謠言的行為，請廣大網(wǎng)民自覺(jué)遵守法律法規，不造謠、不信謠、不傳謠，積極向公安機關(guān)舉報各類(lèi)網(wǎng)絡(luò )謠言和傳播虛假信息的違法行為，攜手營(yíng)造清朗網(wǎng)絡(luò )空間。