中新網(wǎng)北京10月30日電(記者 吳濤)“一眼看去像是引進(jìn)某領(lǐng)域?qū)＜?，結(jié)果發(fā)現(xiàn)人物和身份都是標(biāo)識AI虛構(gòu)的?！薄靶麄鲌D片光鮮亮麗，大模實景卻相差萬里，該何廣告后來才知是治理AI合成。”

　　隨著AI的違規(guī)廣泛應(yīng)用，AI廣告違規(guī)風(fēng)險越來越突出，引進(jìn)這些內(nèi)容涉嫌違背公序良俗、標(biāo)識侵權(quán)抄襲、大模虛假宣傳等。該何廣告如何構(gòu)建有效的治理AI廣告治理體系，成為目前多個行業(yè)面臨的違規(guī)問題。

　　仍有AI內(nèi)容未做標(biāo)識

　　一般來說，引進(jìn)AI內(nèi)容指利用人工智能技術(shù)生成、標(biāo)識合成的大模文本、圖片、音頻、視頻、虛擬場景等信息。如今，一些不法廣告主利用AI技術(shù)生成逼真但虛假的消費場景，活躍在短視頻、電商等平臺上。

　　此前由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等四部門發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》9月1日起正式實施，規(guī)定人工智能生成合成內(nèi)容應(yīng)有顯式標(biāo)識和隱式標(biāo)識。

　　記者在多個短視頻和電商平臺瀏覽發(fā)現(xiàn)，疑似為AI生成但同時又未打AI標(biāo)識的內(nèi)容仍然可能出現(xiàn)，尤其是在2025年9月1日之前的存量宣傳內(nèi)容。有業(yè)內(nèi)人士表示，受限于技術(shù)和算力成本，平臺多依靠自帶的AI水印或作者主動聲明來識別，如果內(nèi)容非本平臺AI生成，則識別難度增加。

　　據(jù)CNNIC發(fā)布的數(shù)據(jù)顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達(dá)5.15億人，較2024年12月增長2.66億人。龐大的AI用戶數(shù)量背后，也給AI內(nèi)容治理提出更高的要求。

　　將如何治理AI廣告？

　　面對海量的AI內(nèi)容，傳統(tǒng)的人工審核方式已難以為繼。治理AI違規(guī)廣告，必須依靠技術(shù)本身。據(jù)了解，在AI生成活躍的短視頻社交平臺上，已有大模型技術(shù)應(yīng)用其中。

　　例如，有平臺表示，在AI標(biāo)識方面，90%素材10分鐘內(nèi)完成審核，對比傳統(tǒng)審核效率提升了75%。對于涉及違規(guī)的廣告，大模型通過推理判斷，能快速提供精細(xì)化拒審理由，告知違規(guī)內(nèi)容出現(xiàn)在視頻中的具體時間點或具體畫面。

　　巨量引擎商業(yè)安全治理標(biāo)準(zhǔn)負(fù)責(zé)人項韻對中新網(wǎng)記者表示，針對違規(guī)行為設(shè)置了從預(yù)警整改、限制新開、賬戶封停、主體清退等梯度化、多元化處置體系，“今年第三季度已前置攔截涉AI違規(guī)素材84萬余個?！?/p>

　　快手平臺則表示，會在AI生成的內(nèi)容中添加“AI生成”顯示標(biāo)識、以及嵌入文件元數(shù)據(jù)中的隱式標(biāo)識。如內(nèi)容被平臺檢測為疑似AI內(nèi)容時，則進(jìn)行顯著提示。

　　中國政法大學(xué)副教授、中國廣告協(xié)會法德委朱巍對中新網(wǎng)表示，鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性，AI治理需要實現(xiàn)跨領(lǐng)域的協(xié)同。需要監(jiān)管持續(xù)加碼，需要平臺強(qiáng)化責(zé)任，更需要網(wǎng)民切身參與。面對AI換臉宣傳、深度合成侵權(quán)等新型風(fēng)險，需要組建監(jiān)管、平臺、倫理委員會的 “共治聯(lián)盟”，形成治理合力。

　　中國廣告協(xié)會會長張國華近日表示，目前專門用于AI訓(xùn)練的優(yōu)質(zhì)語料依然稀缺，要從源頭上確保AI語料的真實性、合規(guī)性及其導(dǎo)向的正確性。

　　而對于如何識別潛在的AI謊言？“公安部網(wǎng)安局”公眾號29日發(fā)消息稱，對于圖片和視頻，仔細(xì)觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。(完) 更多精彩內(nèi)容請進(jìn)入財經(jīng)頻道

很贊哦!（9346）