2025年3月14日，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（“《標(biāo)識(shí)辦法》”），《標(biāo)識(shí)辦法》與其配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（“《標(biāo)識(shí)方法》”）均將自2025年9月1日起施行。這意味著，AIGC標(biāo)識(shí)義務(wù)作為我國(guó)人工智能專項(xiàng)監(jiān)管的獨(dú)特一隅，已率先走向成熟與落地。其原因既在于AIGC虛假信息對(duì)網(wǎng)絡(luò)生態(tài)信任根基的動(dòng)搖，誤導(dǎo)誘騙、判斷依賴、名譽(yù)損害、輿論污染等風(fēng)險(xiǎn)已然顯現(xiàn)，亟需有所規(guī)范；又在于其已經(jīng)具備相對(duì)成熟的解決方案，相較于從根本上解決存在技術(shù)卡點(diǎn)的模型幻覺等問題，AIGC標(biāo)識(shí)顯然更容易實(shí)現(xiàn)。根據(jù)《標(biāo)識(shí)辦法》，我國(guó)AIGC標(biāo)識(shí)要求具有廣泛的輻射面，并不僅僅局限于內(nèi)容生成合成環(huán)節(jié)這一起點(diǎn)，其后續(xù)的分發(fā)、傳播、甚至使用環(huán)節(jié)均被涵蓋在內(nèi)。隨著AIGC服務(wù)深度融入現(xiàn)代生產(chǎn)生活，除大模型企業(yè)外，各行業(yè)企業(yè)均可能涉及AI生成合成內(nèi)容的業(yè)務(wù)內(nèi)嵌與外傳，進(jìn)而可能需要履行標(biāo)識(shí)義務(wù)，包括但不限于標(biāo)識(shí)添加、檢測(cè)、追蹤、管理、提示等。本文將以國(guó)內(nèi)AIGC標(biāo)識(shí)新規(guī)出臺(tái)為切入點(diǎn)，重點(diǎn)解答兩個(gè)問題：（1）AI生成合成內(nèi)容“生產(chǎn)-分發(fā)-傳播-使用”鏈條中的各方需履行何等標(biāo)識(shí)義務(wù)；（2）AIGC標(biāo)識(shí)合規(guī)方案能否全球通用。
一、中國(guó)智慧：全鏈留痕，欲登高則腳踏實(shí)地逐步而行之
我國(guó)AIGC標(biāo)識(shí)監(jiān)管已然形成較為完整的監(jiān)管體系，以《標(biāo)識(shí)辦法》和《標(biāo)識(shí)方法》作為集大成者，致力于在規(guī)范AI生成合成內(nèi)容衍生流轉(zhuǎn)的同時(shí)，提供可落地的具體合規(guī)指引，最大限度地保護(hù)行業(yè)創(chuàng)新與發(fā)展。
▲ 表1：中國(guó)標(biāo)識(shí)相關(guān)主要立法（一）標(biāo)識(shí)辦法：貫穿全生命周期、平衡發(fā)展與安全的義務(wù)體系《標(biāo)識(shí)辦法》規(guī)范AI生成合成內(nèi)容“生產(chǎn)-分發(fā)-傳播-使用”的全生命周期，義務(wù)主體覆蓋提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)、互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者、提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者，以及用戶。就法律責(zé)任性質(zhì)而言，違反標(biāo)識(shí)義務(wù)可能導(dǎo)致行政處罰和違約責(zé)任。《標(biāo)識(shí)辦法》未直接設(shè)立罰則，而是將其轉(zhuǎn)引至“有關(guān)法律法規(guī)及部門規(guī)章”。對(duì)于提供者、傳播者與分發(fā)平臺(tái)，其可能因違反標(biāo)識(shí)義務(wù)而依相關(guān)立法受到行政處罰，或視其合同約定承擔(dān)違約責(zé)任。而對(duì)于用戶，暫未見相關(guān)立法對(duì)用戶的標(biāo)識(shí)義務(wù)設(shè)立具體罰則，其未履行標(biāo)識(shí)義務(wù)主要需承擔(dān)違約責(zé)任。《標(biāo)識(shí)辦法》體現(xiàn)了發(fā)展與安全相平衡的監(jiān)管思路。具體而言：● 一方面，《標(biāo)識(shí)辦法》立足企業(yè)技術(shù)難點(diǎn)與合規(guī)成本考量，在安全基線之上為企業(yè)合理減負(fù)。例如，就隱式標(biāo)識(shí)而言，《標(biāo)識(shí)辦法》就較易實(shí)現(xiàn)、成本較低的元數(shù)據(jù)標(biāo)識(shí)作出強(qiáng)制添加要求，而對(duì)于可能仍存技術(shù)卡點(diǎn)、成本相對(duì)較高的數(shù)字水印，則僅提出鼓勵(lì)性添加倡議。● 另一方面，《標(biāo)識(shí)辦法》容留彈性空間以滿足實(shí)踐發(fā)展需求。例如，考慮到特定場(chǎng)景下顯式標(biāo)識(shí)可能會(huì)影響AI生成合成內(nèi)容的正常使用，《標(biāo)識(shí)辦法》允許用戶在受用戶協(xié)議約束的前提下申請(qǐng)使用未添加顯式標(biāo)識(shí)的AI生成合成內(nèi)容，既顧及實(shí)踐中多元化的場(chǎng)景使用需求，同時(shí)也一定程度上為服務(wù)提供者提供了“避風(fēng)港”（前提是明確用戶協(xié)議、依法留存日志）。
▲ 圖1：內(nèi)容生產(chǎn)環(huán)節(jié)標(biāo)識(shí)義務(wù)分析
▲ 圖2：內(nèi)容分發(fā)環(huán)節(jié)標(biāo)識(shí)義務(wù)分析
▲ 圖3：內(nèi)容傳播/使用環(huán)節(jié)標(biāo)識(shí)義務(wù)分析（二）標(biāo)識(shí)方法：實(shí)操性強(qiáng)、進(jìn)階式的具體標(biāo)識(shí)方案顯式標(biāo)識(shí)關(guān)乎AI生成合成內(nèi)容的透明度，而隱式標(biāo)識(shí)意在實(shí)現(xiàn)溯源監(jiān)督。● 從特性上來看，兩者的核心差異在于是否可被感知。顯式標(biāo)識(shí)可被用戶明顯感知，隱式標(biāo)識(shí)則不易被用戶明顯感知。● 基于該等特性，兩者具有差異化的功能。顯式標(biāo)識(shí)基于其顯著性得以對(duì)公眾起到直接的提示效果，可協(xié)助公眾快速辨別AI生成合成內(nèi)容，故而其標(biāo)識(shí)內(nèi)容以“AI生成/合成”作為核心要素，功能亦在于顯著提示；隱式標(biāo)識(shí)基于其隱蔽性、魯棒性得以對(duì)內(nèi)容來源與流轉(zhuǎn)實(shí)現(xiàn)較為完整的記錄，故而其標(biāo)識(shí)內(nèi)容亦以記錄內(nèi)容屬性和流傳信息為主，功能即在于溯源監(jiān)督。《標(biāo)識(shí)方法》系《標(biāo)識(shí)辦法》的配套性文件，為企業(yè)履行標(biāo)識(shí)義務(wù)提供了詳細(xì)具體、可落地性強(qiáng)的標(biāo)識(shí)指引。考慮到關(guān)于顯式標(biāo)識(shí)的規(guī)定清晰、直觀易懂，我們?cè)诖瞬辉僮髻樖觯魂P(guān)于隱式標(biāo)識(shí)的原理及內(nèi)在邏輯介紹較少，我們?cè)诖撕?jiǎn)要分享關(guān)于元數(shù)據(jù)、數(shù)字水印的基本原理。《標(biāo)識(shí)辦法》與《標(biāo)識(shí)方法》提出了進(jìn)階式的隱式標(biāo)識(shí)方案。1. 基礎(chǔ)性強(qiáng)制義務(wù)：文件元數(shù)據(jù)標(biāo)識(shí)文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內(nèi)容，通俗而言，即文件的“說明書”。例如，針對(duì)一張照片，其元數(shù)據(jù)會(huì)描述照片的拍攝地點(diǎn)、時(shí)間、拍攝設(shè)備、存儲(chǔ)大小與路徑、文件類型等詳細(xì)信息。在大多數(shù)情況下，文件創(chuàng)建時(shí)會(huì)自動(dòng)產(chǎn)生一些基礎(chǔ)性的元數(shù)據(jù)信息（如文件創(chuàng)建時(shí)間、修改時(shí)間、文件大小等），用戶亦可在后續(xù)手動(dòng)添加或更新元數(shù)據(jù)。關(guān)于文件元數(shù)據(jù)隱式標(biāo)識(shí)，通常而言是將需要嵌入的標(biāo)識(shí)信息添加在文件現(xiàn)有元數(shù)據(jù)中。《標(biāo)識(shí)方法》對(duì)其標(biāo)識(shí)內(nèi)容作出了具體規(guī)定，包括：1）生成合成標(biāo)簽要素（即區(qū)分“屬于”/“可能為”/“疑似為”生成合成內(nèi)容）；2）生成合成服務(wù)提供者要素（即提供者的名稱或編碼）、內(nèi)容制作編號(hào)要素（即提供者對(duì)該內(nèi)容的唯一編號(hào)）；3）內(nèi)容傳播服務(wù)提供者要素（即傳播者的名稱或編碼）、內(nèi)容傳播編號(hào)要素（即傳播者對(duì)該內(nèi)容的唯一編號(hào)）。總體而言，文件元數(shù)據(jù)隱式標(biāo)識(shí)具有易實(shí)現(xiàn)、標(biāo)識(shí)成本低的優(yōu)點(diǎn)，但同時(shí)也存在易擦除和篡改的缺陷。2. 進(jìn)階性倡導(dǎo)建議：數(shù)字水印標(biāo)識(shí)等內(nèi)容隱式標(biāo)識(shí)數(shù)字水印是指通過特定算法與規(guī)則而嵌入到數(shù)字內(nèi)容（與元數(shù)據(jù)嵌入到文件頭部有所差異）中的標(biāo)記信息。數(shù)字水印的相對(duì)概念是更為原始的“物理水印”，典例如錢幣上的水印，同樣得以起到溯源、鑒偽的作用。數(shù)字水印技術(shù)隨著數(shù)字媒體技術(shù)的發(fā)展而興起，此前存在諸如以下的應(yīng)用場(chǎng)景，但整體應(yīng)用尚不普遍：1）版權(quán)保護(hù)：雖然不能起到直接的防侵權(quán)作用，但得以協(xié)助確認(rèn)版權(quán)歸屬、作為版權(quán)侵權(quán)的證據(jù)，目前常被用于強(qiáng)版權(quán)意義場(chǎng)景，如圖片版權(quán)、模型版權(quán)保護(hù)（以預(yù)防模型蒸餾攻擊）等。2）用戶提示：例如在數(shù)據(jù)中添加用戶信息以警示用戶依法使用內(nèi)容，同時(shí)幫助企業(yè)進(jìn)行免責(zé)。此外，Google此前率先針對(duì)AI生成合成內(nèi)容推出SynthID水印工具，引發(fā)業(yè)內(nèi)的廣泛關(guān)注與宣傳，亦為其樹立負(fù)責(zé)任AI企業(yè)的良好社會(huì)形象有所助力。考察數(shù)字水印的關(guān)鍵性指標(biāo)通常包括：1）隱蔽性：嵌入水印后不易被察覺，不影響原始內(nèi)容的表達(dá)；2）魯棒性：對(duì)數(shù)據(jù)內(nèi)容作正常加工處理，水印仍得以被完整準(zhǔn)確提取；3）安全性：在受到攻擊的情況下，水印難以被破壞或篡改。此外還包括容量性（即可嵌入的水印數(shù)據(jù)量）、實(shí)時(shí)性（即隨著原始內(nèi)容的產(chǎn)生而實(shí)時(shí)嵌入水印，例如直播視頻水印的嵌入）等指標(biāo)。以上指標(biāo)存在制約甚至互斥關(guān)系，由此帶來一定的技術(shù)難題。我國(guó)標(biāo)識(shí)監(jiān)管充分考量行業(yè)技術(shù)難點(diǎn)與合規(guī)成本，僅將數(shù)字水印作為倡導(dǎo)性標(biāo)識(shí)方案。在官方答記者問中，明確提出不對(duì)“在文本內(nèi)容中添加隱式標(biāo)識(shí)”“在多媒體文件中添加數(shù)字水印”作強(qiáng)制要求，試解析原因如下。● 就文本水印而言，其相較于圖片、音視頻等帶有顏色、結(jié)構(gòu)、頻率、時(shí)間等要素的內(nèi)容呈現(xiàn)形式，文本內(nèi)容以字符表達(dá)、信息密度更高，導(dǎo)致在文本內(nèi)容中嵌入少量信息即可能影響原有文本語義。故而，目前僅能在模型底層服務(wù)而非應(yīng)用層中添加水印，但在模型層添加水印又可能會(huì)影響模型生成內(nèi)容質(zhì)量。● 就多媒體文件而言，其載體內(nèi)容豐富復(fù)雜，且實(shí)踐中多媒體處理方式與標(biāo)準(zhǔn)在載體屬性、壓縮標(biāo)準(zhǔn)、傳輸信道等諸多方面均快速迭代，導(dǎo)致平衡水印的隱蔽性和魯棒性頗具挑戰(zhàn)。
二、全球監(jiān)管：求同存異，然境內(nèi)外標(biāo)準(zhǔn)化合規(guī)之路漫漫
對(duì)AI生成合成內(nèi)容設(shè)立標(biāo)識(shí)要求已成為主流法域的監(jiān)管通識(shí)。與歐盟、美國(guó)等剛確立上層立法要求的情況相比較，中國(guó)的體系化AI標(biāo)識(shí)監(jiān)管已先一步走向落地。● 中國(guó)：以《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》作為立法基底，以《標(biāo)識(shí)辦法》作為專項(xiàng)立法要求，以《標(biāo)識(shí)方法》作為標(biāo)識(shí)具體落地方案，后兩者將于2025年9月1日起實(shí)施。除已于2025年3月14日發(fā)布的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能生成合成內(nèi)容標(biāo)識(shí) 服務(wù)提供者編碼規(guī)則》外，相關(guān)元數(shù)據(jù)標(biāo)識(shí)規(guī)范、各應(yīng)用場(chǎng)景的標(biāo)識(shí)方法等一系列推薦性標(biāo)準(zhǔn)、實(shí)踐指南亦將逐步推出。● 歐盟：歐盟《人工智能法》第50條對(duì)特定AI系統(tǒng)的透明度要求作出規(guī)定，以此作為標(biāo)識(shí)義務(wù)的主要依據(jù)。《人工智能法》已于2024年8月頒布生效，但關(guān)于標(biāo)識(shí)義務(wù)的要求將于2026年8月2日起才會(huì)正式實(shí)施。● 美國(guó)：美國(guó)在聯(lián)邦層面尚未正式出臺(tái)關(guān)于標(biāo)識(shí)的專項(xiàng)立法，但各州已開始探索AI標(biāo)識(shí)規(guī)制，典例如《加州人工智能透明度法案》（California AI Transparency Act，“CAITA”），該法已經(jīng)加州州長(zhǎng)簽署通過，將于2026年1月1日起生效。
▲ 表2：其他法域標(biāo)識(shí)監(jiān)管相關(guān)進(jìn)展就標(biāo)識(shí)義務(wù)主體而言，各主流法域均以“生成合成服務(wù)提供者”（各法域下概念可能略有不同）作為核心義務(wù)主體，而在各相關(guān)方是否負(fù)有標(biāo)識(shí)義務(wù)方面存在監(jiān)管差異。● 中國(guó)：依據(jù)AI生成合成內(nèi)容生命周期進(jìn)行全鏈路監(jiān)管，義務(wù)主體覆蓋提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)、互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者、提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者以及用戶。● 歐盟：形成以“特定AI系統(tǒng)提供者+部署者”為核心的雙軌制義務(wù)主體體系。考慮到歐盟《人工智能法》之大一統(tǒng)屬性，其覆蓋范圍包括但并不局限于生成式AI。具體包括：■ 兩類提供者：與自然人進(jìn)行直接交互的AI系統(tǒng)提供者、生成合成類AI系統(tǒng)（含通用目的AI系統(tǒng)）提供者；■ 四類部署者：情感識(shí)別系統(tǒng)或生物特征分類系統(tǒng)的部署者、生成或操縱深度偽造內(nèi)容（含圖像和音視頻）的AI系統(tǒng)部署者、生成或篡改公益相關(guān)公開文本信息的AI系統(tǒng)部署者。● 美國(guó)加州：每月?lián)碛谐^100萬名訪客或用戶，并且在加州地理范圍內(nèi)對(duì)外公開可用的生成式AI系統(tǒng)提供者。以訪客或用戶數(shù)量作為門檻劃定“受管轄的提供者”（Covered Provider），再次體現(xiàn)了美國(guó)立法中小企業(yè)豁免的監(jiān)管思路。就具體標(biāo)識(shí)義務(wù)而言，各主流法域的標(biāo)識(shí)思路具有相似性，實(shí)質(zhì)上均涉及顯式標(biāo)識(shí)和隱式標(biāo)識(shí)，但在標(biāo)識(shí)范圍及標(biāo)識(shí)檢測(cè)等方面存在監(jiān)管差異。● 中國(guó)：明確劃分顯式標(biāo)識(shí)和隱式標(biāo)識(shí)，如上文所分析，顯式標(biāo)識(shí)要求的強(qiáng)制性受環(huán)節(jié)及內(nèi)容類型等因素影響而有所區(qū)分，隱式標(biāo)識(shí)則原則上均需強(qiáng)制添加。● 歐盟：未明確設(shè)有顯式標(biāo)識(shí)和隱式標(biāo)識(shí)的概念，但實(shí)質(zhì)要求比較近似：■ 《人工智能法》要求前述“兩類提供者”及“四類部署者”最遲在系統(tǒng)與自然人首次互動(dòng)或接觸時(shí)提供清晰可辨（clear and distinguishable）的告知信息，與顯式標(biāo)識(shí)概念有所接近；■ 針對(duì)生成合成類AI系統(tǒng)提供者，除不實(shí)質(zhì)改變輸入內(nèi)容及執(zhí)法場(chǎng)景等法定例外情形外，立法強(qiáng)制要求其以機(jī)器可讀（Machine-Readable）且可檢測(cè)的方式對(duì)內(nèi)容進(jìn)行標(biāo)注，如水印、元數(shù)據(jù)標(biāo)識(shí)、指紋等，與隱式標(biāo)識(shí)的監(jiān)管思路較為相像。● 美國(guó)加州：明確劃分顯式披露（Manifest Disclosure）和隱式披露（Latent Disclosure），受管轄的提供者應(yīng)：■ 允許用戶選擇添加顯式披露，以揭示相關(guān)內(nèi)容（含圖像和音視頻，下同）為AI生成內(nèi)容；■ 在內(nèi)容中包含隱式披露，在技術(shù)可行范圍內(nèi)傳達(dá)提供者名稱、系統(tǒng)名稱和版本號(hào)、內(nèi)容創(chuàng)建時(shí)間以及唯一標(biāo)識(shí)符等信息；■ 此外，CAITA明確要求受管轄的提供者應(yīng)免費(fèi)向用戶提供AI檢測(cè)工具，使后者得以用于評(píng)估相關(guān)內(nèi)容是否由前者的生成式AI系統(tǒng)創(chuàng)建或修改。本項(xiàng)要求為CAITA的創(chuàng)新性要求，中國(guó)和歐盟在立法層面則尚未見此類明確規(guī)定。不過，盡管各主流法域的監(jiān)管思路有相似之處，但就具體技術(shù)實(shí)現(xiàn)方面，目前國(guó)際上并未達(dá)成統(tǒng)一的標(biāo)識(shí)標(biāo)準(zhǔn)，而囿于地緣政治，未來的標(biāo)準(zhǔn)互認(rèn)也僅能謹(jǐn)慎樂觀。這意味著，企業(yè)在后續(xù)出海過程中，可能不得不針對(duì)性地推出當(dāng)?shù)谹IGC標(biāo)識(shí)合規(guī)方案，一定程度上會(huì)增加技術(shù)研發(fā)和法律合規(guī)成本。● 2025年1月23日，美國(guó)總統(tǒng)特朗普簽發(fā)名為《破除人工智能領(lǐng)域阻礙美國(guó)領(lǐng)先地位的壁壘》（Removing Barriers to American Leadership in Artificial Intelligence）的行政令，美國(guó)人工智能政策“去監(jiān)管化”的導(dǎo)向毫無疑問，但致力于形成美國(guó)主導(dǎo)的AI安全標(biāo)準(zhǔn)（AI模型檢測(cè)、紅隊(duì)測(cè)試等）對(duì)美國(guó)在全球AI領(lǐng)域形成絕對(duì)主導(dǎo)權(quán)同等重要。
● 具體到AIGC標(biāo)識(shí)領(lǐng)域，2021年2月，Adobe領(lǐng)導(dǎo)的內(nèi)容真實(shí)性倡議（CAI）和微軟與BBC領(lǐng)導(dǎo)的“原點(diǎn)項(xiàng)目”（Project Origin）聯(lián)合起來，形成了內(nèi)容來源與真實(shí)性聯(lián)盟（C2PA），其使命即在于建立內(nèi)容真實(shí)性相關(guān)技術(shù)標(biāo)準(zhǔn)。目前，該聯(lián)盟與ISO/IEC等國(guó)際標(biāo)準(zhǔn)組織正積極推動(dòng)建立跨國(guó)界的標(biāo)識(shí)技術(shù)標(biāo)準(zhǔn)體系，旨在構(gòu)建一個(gè)具有全球互操作性的內(nèi)容真實(shí)性認(rèn)證框架。
題21-1_畫板 1 副本FA957310F08241619B67FAAC4823E9AE.png)
題21-1_畫板 114202E035D7D448C854A98012E0CB5BF.png)
