引进AI标识、大模型等，该如何治理违规AI广告？

謝安琪 396萬字 955人讀過限免

　　中新网北京10月30日电(记者吴涛)“一眼看去像是引进某领域专家，结果发现人物和身份都是标识AI虚构的?！薄?#23459;传图片光鲜亮丽，大模愿相随鲜橙txt下载实景却相差万里，该何广告后来才知是治理AI合成。”

　　随着AI的违规广泛应用，AI广告违规风险越来越突出，引进这些内容涉嫌违背公序良俗、标识侵权抄袭、大模虚假宣传等。该何广告如何构建有效的治理愿相随鲜橙txt下载AI广告治理体系，成为目前多个行业面临的违规问题。

　　仍有AI内容未做标识

　　一般来说，引进AI内容指利用人工智能技术生成、标识合成的大模文本、图片、音频、视频、虚拟场景等信息。如今，一些不法广告主利用AI技术生成逼真但虚假的消费场景，活跃在短视频、电商等平台上。

　　此前由国家互联网信息办公室、工业和信息化部等四部门发布的《人工智能生成合成内容标识办法》9月1日起正式实施，规定人工智能生成合成内容应有显式标识和隐式标识。

　　记者在多个短视频和电商平台浏览发现，疑似为AI生成但同时又未打AI标识的内容仍然可能出现，尤其是在2025年9月1日之前的存量宣传内容。有业内人士表示，受限于技术和算力成本，平台多依靠自带的AI水印或作者主动声明来识别，如果内容非本平台AI生成，则识别难度增加。

　　据CNNIC发布的数据显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，较2024年12月增长2.66亿人。庞大的AI用户数量背后，也给AI内容治理提出更高的要求。

　　将如何治理AI广告？

　　面对海量的AI内容，传统的人工审核方式已难以为继。治理AI违规广告，必须依靠技术本身。据了解，在AI生成活跃的短视频社交平台上，已有大模型技术应用其中。

　　例如，有平台表示，在AI标识方面，90%素材10分钟内完成审核，对比传统审核效率提升了75%。对于涉及违规的广告，大模型通过推理判断，能快速提供精细化拒审理由，告知违规内容出现在视频中的具体时间点或具体画面。

　　巨量引擎商业安全治理标准负责人项韵对中新网记者表示，针对违规行为设置了从预警整改、限制新开、账户封停、主体清退等梯度化、多元化处置体系，“今年第三季度已前置拦截涉AI违规素材84万余个。”

　　快手平台则表示，会在AI生成的内容中添加“AI生成”显示标识、以及嵌入文件元数据中的隐式标识。如内容被平台检测为疑似AI内容时，则进行显著提示。

　　中国政法大学副教授、中国广告协会法德委朱巍对中新网表示，鉴于AI技术的复杂性和应用的广泛性，AI治理需要实现跨领域的协同。需要监管持续加码，需要平台强化责任，更需要网民切身参与。面对AI换脸宣传、深度合成侵权等新型风险，需要组建监管、平台、伦理委员会的 “共治联盟”，形成治理合力。

　　中国广告协会会长张国华近日表示，目前专门用于AI训练的优质语料依然稀缺，要从源头上确保AI语料的真实性、合规性及其导向的正确性。

　　而對(duì)于如何識(shí)別潛在的AI謊言？“公安部網(wǎng)安局”公眾號(hào)29日發(fā)消息稱，對(duì)于圖片和視頻，仔細(xì)觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。(完) 更多精彩內(nèi)容請(qǐng)進(jìn)入財(cái)經(jīng)頻道