抖音首发行业倡议：规范虚拟人直播AI生成内容要打标签

　　人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授‍‍

　　5月9日，据抖音官方消息，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》（下称《倡议》）。

　　在这份《倡议》中，抖音提到，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。此外，抖音还提出“元数据标识”规范，并建议这一标识元数据可被其它工具和平台识别。对此，有专家表示这项标识技术落地并不难，但能否推广至行业是关键。

　　南都记者观察发现，抖音是国内首家针对人工智能生成内容作出行业倡议的短视频平台，倡议书发布引起不少关注。有观点认为，这是生成式内容创作领域的进步，在治理虚假信息等方面将产生积极影响。

　　据抖音方面介绍，《倡议》参照《互联网信息服务深度合成管理规定》等法律法规，提出十一条平台规范与行业倡议，其中包括标识水印和元数据规范原则，并进一步指出创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实。

　　“标识人工智能生成内容的意义在于，能够对虚假新闻和虚假内容进行责任判定，也能够帮助用户判断信息的真实性。”清华大学中国科学技术政策研究中心副主任、人工智能国际治理研究院副院长梁正认为，在深度合成技术发展迅速、使用门槛降低时，抖音作为头部企业的反应算是比较快速的。《倡议》的提出回应了《互联网信息服务深度合成管理规定》等法律法规的要求，并明确划分了平台责任和内容创作者、用户的责任。

　　梁正告诉南都记者，在讨论生成式AI的责任划分时，如果所有的责任都由平台来承担，可能不具有可行性。根据《倡议》内容，抖音相当于是给发布者和平台都提供了（标识的）服务，让发布者自己进行标识，以进一步区分其责任。

　　抖音同时表示，平台也将对人工智能生成内容衍生的问题进行治理，同时提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。平台将提供用户反馈渠道，方便用户反馈违规生成内容。而针对如用户个人作品或形象被用于人工智能生成等侵权行为，抖音同样提供了专门的侵权反馈入口。

　　值得注意的是，针对近几年使用越来越广泛的虚拟人，《倡议》提出，虚拟人背后的真人使用者，必须进行实名注册和认证。平台将提供虚拟人的实名注册备案能力，并对已注册的虚拟人形象进行保护。此外，用户使用已注册的虚拟人形象直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动。

　　在“元数据规范原则”上，南都记者注意到，抖音并未进行强制要求，仅建议相关人工智能创作工具在生成多媒体内容时，可添加标识元数据到多媒体文件的元数据中，该标识元数据可被其它工具和平台识别，即不同的平台及工具能够互认标识元数据。

　　梁正认为，元数据的标识属于隐形标识，虽然并非强制性标准，也可以作为标准看待，可以起到示范作用。比较理想的是，各个企业在共同的基础上制定标准，能够实现数据标识规范的统一。其落地技术难度并不大，但能否推广至行业接受这一规范才是较大难点。

　　清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。