康达原创 | 《人工智能生成合成内容标识办法》解读

随着生成式人工智能技术的发展，很多人已无法分辨网络上的信息哪些是人类的创作，哪些是AI生成合成，哪些信息是真实，哪些信息是虚构。为了解决规范AI技术滥用、防止虚假信息传播扩散、减少生成内容侵犯他人权益等社会热切关注的问题，基于《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》中标识的有关要求，《标识办法》明确了具体的标识实施具体要求，同时配套发布了国家强制性标准《网络安全技术 人工智能生成合成内容标识方法》作为技术指南，旨在明确企业的标识业务，帮助公众清晰区分AI生成的内容和真实内容，帮助监管机构进行信息溯源，未来有助于相关责任主体的确认和追责。

一

根据《标识办法》，生成合成内容标识主要分为以下两类：

例如最近被广泛关注的Deepseek(深度求索)，在生成式内容的结尾，它会进行如下标识，以提醒用户该内容由AI生成，注意甄别。

隐式标识参考国家同时发布配套实施的强制性标准：《网络安全技术 人工智能生成合成内容标识方法》，目前比较主流的隐式标识是系统自动生成的数字水印。但除此外，企业也可以根据上述国家标准，灵活选择适合的隐式标识方法，当然，隐式标识需要通过技术手段来实现。

二

其中，服务提供者主要指提供生成AI内容的平台服务提供者，例如包括Deepseek、Kimi、豆包等在内的服务提供商；网络信息内容传播服务提供者主要是指内容平台：比如抖音、小红书、微视频、各个社交网络平台等可以用来传播人工智能生成内容的平台。目前国内主流的互联网应用程序分发平台主要是华为、小米、oppo等手机厂商官方应用商店，还包括腾讯应用宝、百度手机助手、微信小程序平台、苹果App Store（中国区）等第三方综合应用市场，这些主体都要履行《标识办法》规定的相应义务。

作为用户的每个使用AI生成和传播内容的主体，同样也要遵守《标识办法》关于“主动标识”和不得恶意删除、篡改、伪造、隐匿生成合成内容标识，以及不得为上述恶意行为提供工具或服务的义务。

三

鉴于《标识办法》距离正式实施还有一段时间，人工智能服务提供者的企业可以在以下方面开展合规工作：

1、根据国家标准《网络安全技术 人工智能生成合成内容标识方法》和生成内容的类别（文本、图片、音频、视频）设计相应显式标识，与AI生成内容的形式相匹配，同时要避免造成用户的使用或阅读障碍，或通过技术生成隐式标识注明AI生成内容属性信息、服务提供者名称或者编码、内容编号等，并嵌入文件元数据，采取必要技术措施防止标识被技术手段删除和篡改、隐匿。

2、修改平台的用户服务协议，增加关于AI生成内容的标识方法、样式的说明条款，并提示用户仔细阅读并理解相关的标识管理要求和用户的标识义务，对于用户申请提供不包含显式标识的AI生成内容的，协议中要明确约定用户的义务和责任，划清责任边界，并依法留存提供对象信息等相关日志不少于六个月。

展望：

希望《标识办法》的正式实施能够让AI生成的内容都能拥有属于它的ID，有效遏制虚假信息的传播，降低AI“幻觉”带来的不利影响，同时能够帮助网络用户辨别信息的来源，减少AI换脸、AI模拟人声等技术诈骗案件数量、提高网络空间的管理效率，净化网络环境，帮助社会在AI创新与公共利益之间找到平衡。