針對AI生成內容使用亂象，2025年9月1日《人工智能生成合成內容標識辦法》施行，明確AI生成內容必須添加標識，標志著(zhù)我國AI生成內容邁入“持證上崗”的規范化時(shí)代。
如今新規落地已過(guò)百日，盡管各大平臺陸續上線(xiàn)標識功能并配套相應管理措施，但記者調查發(fā)現，短視頻、圖文筆記、直播間，仍有許多AI內容未亮明身份，甚至一些原本顯性的違規行為逐漸轉向暗箱操作，深度偽造技術(shù)與黑灰產(chǎn)結合愈發(fā)緊密……標識制度在執行層面仍面臨重重挑戰。
標識落地顯成效
行業(yè)治理邁新階
家住甘肅省蘭州市的王浩（化名）去年8月在社交平臺發(fā)布了一條“喜提邁巴赫”的AI合成視頻后，多年未聯(lián)系的“老同學(xué)”打來(lái)電話(huà)祝賀并向其張口借錢(qián)。王浩坦言，這條視頻如果晚發(fā)一個(gè)月，就不會(huì )鬧出這樣的笑話(huà)?！皼](méi)有AI標識，很多人當真了?！?/p>
“作品由AI生成”“內容存在A(yíng)I成分注意甄別”……自去年9月《人工智能生成合成內容標識辦法》正式施行以來(lái)，AI生成內容全面進(jìn)入“持證上崗”的時(shí)代。一方面，針對可能導致公眾混淆或者誤認的內容，要求添加顯式標識；另一方面，要求服務(wù)提供者在生成合成內容的文件元數據中添加隱式標識，為內容溯源與責任認定提供技術(shù)保障。
中國互聯(lián)網(wǎng)絡(luò )信息中心發(fā)布的《生成式人工智能應用發(fā)展報告（2025）》顯示，截至2025年6月，我國生成式人工智能用戶(hù)規模達5.15億人，較2024年12月增長(cháng)2.66億人，用戶(hù)規模半年翻番。
記者梳理發(fā)現，各大網(wǎng)絡(luò )平臺均已構建起各具特色的AI標識實(shí)施機制。抖音、今日頭條、快手等內容平臺在發(fā)布界面增設“AI生成內容聲明”選項，用戶(hù)勾選后將在作品標題下方顯示統一標識。喜馬拉雅等音頻平臺也采用了“片頭提示+文字標注”等形式，對AI合成語(yǔ)音內容進(jìn)行明確標識。
西部一所高校的AI治理團隊2025年四季度做的一項抽樣調研顯示，AI標識政策落地后，用戶(hù)對未知來(lái)源內容的“質(zhì)疑意識”提升了近40%。此外，由于隱式標識能快速鎖定內容的生成工具和傳播節點(diǎn)，該團隊參與的一起跨境AI虛假新聞溯源案例中，追責周期從過(guò)去的平均72小時(shí)縮短至12小時(shí)。
甘肅慧聯(lián)信息科技發(fā)展有限責任公司總經(jīng)理王雪蓮表示，AI標識政策的實(shí)施，破解了AI內容“難識別、難追溯”的行業(yè)痛點(diǎn)，在政策引導下，從平臺合規到用戶(hù)認知，從技術(shù)研發(fā)到行業(yè)自律都呈現出向好的積極態(tài)勢。
黑灰產(chǎn)鉆營(yíng)牟利
“反標識”亂象升級
“但AI偽造仍未根除，技術(shù)更高明，手段更隱蔽，標識治理面臨‘道高一尺魔高一丈’的現實(shí)挑戰?！蓖跹┥徴f(shuō)。
“AI偽造爛水果騙取‘僅退款’薅羊毛”“一位明星穿梭8個(gè)直播間來(lái)回帶貨”……業(yè)內人士認為，AI偽造已從“一眼假”逐步實(shí)現高擬真段位升級，且背后已滋生分工明確、收益可觀(guān)的完整黑灰產(chǎn)鏈條。
記者在各大電商平臺和社交媒體上搜索“AI去水印”“無(wú)痕除標識”等關(guān)鍵詞發(fā)現，從幾十元的基礎工具到上千元的定制服務(wù)，“明碼標價(jià)”的規避標識“生意”形成黑灰產(chǎn)，各類(lèi)繞過(guò)平臺檢測的“反標識”技術(shù)和服務(wù)“隱身術(shù)”持續迭代升級。
在某社交平臺上，一則“AI生圖變現指南”的評論區里，一條分享“AI去水印神器”的評論獲得高贊，點(diǎn)進(jìn)該用戶(hù)主頁(yè)，就有明碼標價(jià)9.9元、19.9元等不同價(jià)位的去水印工具。記者私信該用戶(hù)詢(xún)問(wèn)商品購買(mǎi)方法時(shí)，對方表示要換平臺加好友下單，且提醒稱(chēng)“產(chǎn)品屬性特殊，發(fā)貨后不支持退款，若不想使用需自行處理或贈予朋友?！?/p>
記者在某電商平臺搜索相關(guān)產(chǎn)品，一款“萬(wàn)物皆可去水印”的商品賣(mài)家介紹，這款工具能無(wú)痕去除98%的AI生成痕跡，尤其是AI視頻的處理。
除不法商家低成本牟利，部分違規者還利用不同平臺標識規則差異，進(jìn)行跨平臺“零成本”規避監管。
“由于各平臺的AI識別技術(shù)水平和標識要求不同，在A(yíng)平臺被要求標注的內容，通過(guò)格式轉換后在B平臺發(fā)布就很有可能繞過(guò)檢測?！备拭C省計算中心副主任沈玉琳說(shuō)。
記者用一款AI軟件生成一張礦泉水瓶損壞的圖片，保存至手機相冊后裁掉AI標識，再將其發(fā)布到社交平臺時(shí)，并未被檢測出AI元素。
沈玉琳認為，“反標識”技術(shù)正從單一手段向“多元技術(shù)路線(xiàn)與商業(yè)模式并行”的完整產(chǎn)業(yè)鏈形態(tài)升級，催生元數據“深度清零”、格式多輪轉碼、標識“露而不顯”等“升級版”AI仿造亂象。
甘肅政法大學(xué)民商經(jīng)濟法學(xué)院副教授盛玉華介紹，AI標識政策落地一百多天以來(lái)，主流AI服務(wù)已普遍添加顯式標識，溯源能力增強，但處罰標準模糊、技術(shù)檢測不足仍制約其成效進(jìn)一步釋放。
“一方面，《人工智能生成合成內容標識辦法》第十三條僅規定‘依據現有法規處理’，缺乏針對未標識、惡意篡改標識等行為的具體罰則；另一方面，部分平臺缺乏隱式標識核驗工具，難以有效識別違規內容?！笔⒂袢A說(shuō)。
多維協(xié)同筑防線(xiàn)
破解AI治理難題
受訪(fǎng)專(zhuān)家及業(yè)內人士呼吁，AI治理需在“標識可見(jiàn)”的基礎上，進(jìn)一步筑牢“可識別、可追溯、可問(wèn)責”的縱深防線(xiàn)，從技術(shù)創(chuàng )新、責任劃分、協(xié)同治理等多維度發(fā)力，應對技術(shù)演進(jìn)帶來(lái)的監管挑戰。
——完善“不可篡改、全程可溯”技術(shù)硬屏障。北京師范大學(xué)中國教育與社會(huì )發(fā)展研究院助理研究員蔣艷雙認為，目前大多數平臺監管技術(shù)仍存薄弱環(huán)節，未來(lái)應加快推進(jìn)AI標識技術(shù)的標準化，細化不同平臺、不同類(lèi)型內容的標識技術(shù)規范，避免因技術(shù)差異導致監管漏洞。
此外，還需進(jìn)一步強化隱式標識的抗篡改技術(shù)升級，確保標識信息在文件格式轉換、二次編輯等操作后仍能有效識別，整合不同AI工具的生成痕跡，提升對各類(lèi)規避手段的識別精準度。
——厘清“生成、傳播、使用”權責邊界。盛玉華等人建議，應進(jìn)一步細化《人工智能生成合成內容標識辦法》中的主體責任，明確生成合成內容服務(wù)提供者、傳播平臺、分發(fā)平臺等不同主體的具體義務(wù)。
同時(shí)，強化對黑灰產(chǎn)的處罰力度，對惡意刪除標識、偽造標識、提供規避標識工具、批量篡改標識等行為從重處罰，可探索建立違規主體“黑名單”制度，將多次實(shí)施規避標識行為的個(gè)人和企業(yè)納入黑名單，從利益根源上遏制黑灰產(chǎn)。
——構建 “政府、公眾、平臺”治理閉環(huán)。蘭州大學(xué)信息科學(xué)與工程學(xué)院教授楊裔建議，需進(jìn)一步完善舉報與監督機制，鼓勵公眾參與AI內容治理，建立健全跨平臺投訴舉報聯(lián)動(dòng)機制，實(shí)現違規賬號信息共享，避免違規主體“換平臺重來(lái)”。
此外，還需持續強化公眾AI素養科普，普及AI內容標識識別方法、常見(jiàn)造假手段及維權路徑，引導公眾養成“看標識、辨真偽”的AI使用習慣。
“多管齊下、層層設防，各方形成合力織就一張人人參與的治理大網(wǎng)，引導AI技術(shù)告別野蠻生長(cháng)的浮躁，真正成為賦能千行百業(yè)的好工具、好幫手?！笔Y艷雙說(shuō)。