▲某GEO服務(wù)商發(fā)來(lái)的報價(jià)單。圖/大河報
如今，全方遇到問(wèn)題后，位治“問(wèn)問(wèn)AI”已成為越來(lái)越多人的理堵習慣。但據《大河報》報道，據漏AI查詢(xún)結果的投毒“干凈純粹”，正遭到GEO（生成式引擎優(yōu)化）的全方污染。
有服務(wù)商聲稱(chēng)，位治最低只需數千元，理堵便可能讓企業(yè)品牌信息以客觀(guān)答案的據漏形式優(yōu)先出現在A(yíng)I對話(huà)框中，甚至排名第一。投毒更有甚者，全方為確保內容被AI采納，位治一些操作已演變?yōu)橛薪M織的理堵“數據投毒”——通過(guò)偽造專(zhuān)家身份、虛構研究報告等方式，據漏向AI“投喂”虛假信息。
在生成式AI重塑信息生產(chǎn)模式后，內容真實(shí)性與技術(shù)可信度問(wèn)題就已成全球AI治理的核心挑戰。如果說(shuō)因技術(shù)局限導致的AI幻覺(jué)現階段還難避免，那出于主觀(guān)誘導意圖的AI數據“投毒”顯然該被零容忍。
AI數據“投毒”相當于給AI喂食變質(zhì)食物，使其神經(jīng)系統受損。研究顯示，當訓練數據中僅有0.01%的虛假文本時(shí)，大模型的有害輸出率會(huì )上升11.2%；即便只有0.001%的污染，也會(huì )導致有害內容增加7.2%。
這些虛假內容帶來(lái)的負面影響不容小覷。首先，在那些容錯率極低的醫療、金融等場(chǎng)景中，AI推薦虛假的“權威診療方案”或“高收益投資產(chǎn)品”，可能會(huì )讓用戶(hù)因輕信而危害生命安全、遭遇經(jīng)濟損失。其次，偽造內容通過(guò)AI傳播容易形成“遞歸污染”——錯誤信息被反復引用，進(jìn)而破壞信息生態(tài)，扭曲公共認知。
長(cháng)遠看，頻繁出現的“AI幻覺(jué)”與錯誤輸出，勢必會(huì )逐漸消耗用戶(hù)信任，阻礙AI產(chǎn)業(yè)發(fā)展。從報道可知，那些GEO從業(yè)者多脫胎于SEO（搜索引擎優(yōu)化）領(lǐng)域，深諳搜索引擎算法邏輯與流量規則，其手法也呈現出了隱蔽化和體系化特征，將特定產(chǎn)品或品牌包裝成“權威推薦”；會(huì )在網(wǎng)頁(yè)代碼中嵌入隱性指令，操控模型回答；會(huì )規?；巴段埂?，滲透高權重平臺……最終從內容制作、平臺投放到數據“投毒”，形成閉環(huán)。
GEO灰色產(chǎn)業(yè)鏈利用技術(shù)手段與流量思維，將AI數據源變?yōu)閺V告陣地。既然如此，那對應的系統性治理必須升級，需要多管齊下、多方共治。
從技術(shù)防御維度看，大模型廠(chǎng)商、科研機構等當著(zhù)力提升大模型抗干擾能力，并針對性地加強“毒數據”識別過(guò)濾技術(shù)開(kāi)發(fā)。通過(guò)為泥沙俱下的數據庫裝上過(guò)濾罩、優(yōu)先使用脫敏權威數據源的方式和多維度交叉驗證、數據溯源等技術(shù)，對AI訓練數據進(jìn)行嚴格篩查驗證，確保數據的真實(shí)性和可靠性。
從法律約束層面看，既要針對GEO行業(yè)制定標準，明確數據來(lái)源審核、標注質(zhì)量評估、內容真實(shí)性驗證等要求，也要加強對AI數據市場(chǎng)的監管，嚴厲打擊各類(lèi)非法數據交易和數據“投毒”行為。很多人為制造虛假訓練數據構成虛假宣傳，可根據現有法規對偽造數據、虛假宣傳等行為進(jìn)行追責，并公示典型案例形成威懾。
從行業(yè)自律角度看，明確AI服務(wù)提供者需建立數據分級保護制度，對高風(fēng)險領(lǐng)域（如醫療、金融）設置人類(lèi)專(zhuān)家復核節點(diǎn)，阻斷污染傳導；推動(dòng)企業(yè)、學(xué)術(shù)機構、行業(yè)協(xié)會(huì )共建可信數據聯(lián)盟，共享清洗后的高質(zhì)量數據集；并將倫理審查納入AI開(kāi)發(fā)流程，防止技術(shù)被濫用，并鼓勵舉報和吹哨。
都說(shuō)“AI向善”，向善的前提是向真。但AI數據“投毒”灰色產(chǎn)業(yè)鏈的滋生，無(wú)疑反映了AI在利益驅動(dòng)下被“帶歪”的可能。這就需要以技術(shù)為盾、法律為劍、行業(yè)為網(wǎng)、用戶(hù)為哨，形成多管齊下、多方共治的AI治理格局，以確保AI技術(shù)用在該用到的地方，而不是被用來(lái)誤導和作惡。
編輯 / 徐秋穎
校對 / 賈寧
