中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生(shēng)成式人工智能技术快速发展，利用人工智能技术生成或合(hé)成文(wén)字(zì)、图像、音乐、视频、3D等数(shù)字内容成为网络空间内(nèi)容的(de)主(zhǔ)要生产方式，不断为(wèi)数字经济、产业发展甚至社会变革注入强(qiáng)大动力。然而，伴随内容生成合成(chéng)门槛的不断降低，新技(jì)术的滥用也对网络空间治理提(tí)出了更大挑战。当前，中(zhōng)美欧等(děng)均探索将内容披露和标识义(yì)务入法(fǎ)，国内外(wài)多家互联网公司也逐步推进标识嵌入(rù)和管理(lǐ)举措，内容标识已然成(chéng)为全球打击虚假有害信息的通行做法。为顺应(yīng)这(zhè)一(yī)实(shí)践趋(qū)势和产业需求，国家互联网信息办公室等部门适时发布《人工智能生(shēng)成(chéng)合成内容标识办法》（下称《办法(fǎ)》）及配套国家标准《网(wǎng)络安全技术人工智(zhì)能生成合成内容标识方法(fǎ)》（下称《标识方法》），全方位(wèi)、多(duō)层次地(dì)规范人工智能内(nèi)容(róng)标(biāo)识要求和方法，迈出(chū)了完善我国人工智能治理制度的重要一步。

一、问题导向，破解人工智能生成合成内容新(xīn)需求新风险

立(lì)足于生成式人工智能健康发展和规(guī)范应(yīng)用，《办法》以问题为导向，通过系统性、创新性制(zhì)度设计，全面回应了(le)对人工智能生成合成内(nèi)容标识的要求。

一是先行提出生成合成内容标识的中国方案。针对人工智能内容生成合成带来(lái)的颠覆性风(fēng)险挑战，国(guó)际层面也在不断探索内容标识(shí)方法和路径。欧(ōu)盟2024年8月正式生效的《人工智能法案》规定了要确保人工智能生成合成(chéng)内容的透明度义务，要求平台添加强制性水印。美国加州2024年8月(yuè)发布《数字内容溯源标识法案》，要求在人工智能生成物中嵌入可溯源数据(jù)，以确保内容来源的透明度。国际电信(xìn)联盟(méng)2024年7月发布《检测深度(dù)伪(wěi)造(zào)和生成(chéng)式(shì)人工智能：人工智能水印和多媒体(tǐ)真实性标准研讨会(huì)的报告》，包(bāo)括内容标识在内，初(chū)步探讨了深度合成(chéng)内容检测(cè)的标准协(xié)作(zuò)安排。《办法》根植于我(wǒ)国发展实践，立足(zú)长远、着眼前瞻、行动快速，率先通过标准完善补充生成式人工智能综合治理机制，有力支撑了科技向善的治理理念，为世界贡献发展与安全并行的人工智能治理中国方案(àn)。

二是着力加强服务商生成合成内容标识的(de)规范性。随着人(rén)工智能生成合成内容工(gōng)具的普及化和(hé)可及化发展，技(jì)术应用的(de)门槛较之前大大降低。早(zǎo)在2022年中央网(wǎng)信办等就发布了《互联网信(xìn)息服务深度合成管理规(guī)定》（以下简称《规(guī)定》），明(míng)确指出深度合成服务提供者应当(dāng)在生成或者编(biān)辑(jí)的信(xìn)息内容的合理位置、区域(yù)进行显著标识，向公众提示深度合成(chéng)情况。但《规定》主要明确(què)了需要添(tiān)加标识的(de)情况，对于添(tiān)加(jiā)标识的位(wèi)置、字(zì)型和表(biǎo)达并未做出具体要求，因此各类企(qǐ)业在实施过程中出现了(le)文本内容显式标识不明显、难察觉(jué)，音频、视频等内容显式标识未插入、浅提示，隐式标识少信息、难校验等问题，对于落实监管提出了挑战。出台《办法》，是进(jìn)一步推进生成合(hé)成内容(róng)标识(shí)工作的必要(yào)举措，对规范互联网信息服务深度合成管理、解决生成合成内(nèi)容标识突出问题、推进信息(xī)网(wǎng)络生态环境(jìng)治理意义重大(dà)，影响深(shēn)远(yuǎn)。

三是进一步完善生成(chéng)式(shì)人工智能(néng)监管问责体系。生(shēng)成式人工智能生成合成内容涉及多种类(lèi)型的主体，清晰界定各主体义务更有利于压实主体责(zé)任，便(biàn)利技术检测实施，进而落实精(jīng)准问责(zé)。《办法》不仅(jǐn)界定了人工智能生(shēng)成合成内容(róng)的基本概念，更针(zhēn)对服务提(tí)供(gōng)者、传播平台、应(yīng)用服务分发平台和用户分别规定了具体标识要求，为各相(xiāng)关主体落实合规指明(míng)了方(fāng)向。由此，《办法》就现行责任制度作出补充，充分细化了《规定》提出的深度合(hé)成服务提供者和技(jì)术支持者行为规范，为促进新技术新(xīn)应用(yòng)的规范发(fā)展提供了有益范例(lì)。

二、明确要求，促进人工智能生成合成内容精细化治理

人工(gōng)智能生成合成内容不仅包(bāo)括文本(běn)、图像、音频、视频(pín)等多种表现形(xíng)式，更在“元宇宙”等交互式、沉浸式(shì)场景中提供了更多实现方案。《标识方(fāng)法》对于(yú)人工智能生成合成内容进行了全方位覆盖，并且进一步明确了《办法》要求和具体操作指引。

一是区分显式标识和隐(yǐn)式(shì)标识规范要求。为(wèi)满足当前可感知和不可感知的两类标(biāo)识方法需要，《标识方法》清晰阐述了(le)各自的关键要素要求(qiú)，对于显式标识主要围绕文字要素、位置、字型、颜色(sè)、音频节奏、视频像素和交互(hù)提示等提出(chū)要求，对于元数据和内容隐式标识提出生成合成标签(qiān)要素(sù)、服务提供者要素和内容编号要素等关键指引。

二是列举显式标识(shí)典型应用场景。《标识方法(fǎ)》通过列举式的方式对于显式标识的(de)应用场景(jǐng)做出了进一(yī)步(bù)细化，在《规定(dìng)》中提到(dào)的五类显著标识应用场景之外加以补充，包括文(wén)生图(tú)片等图片内(nèi)容(róng)生成服务；音乐等音频(pín)内容生成(chéng)服务；文(wén)生视(shì)频、图生视频等视频内容生成服务。新列举的(de)三类典型应用场景属于2022年后迅速发展起来新型生成合成内(nèi)容形式，尤其是ChatGPT、Sora展示(shì)出视频内容(róng)生成的强大潜能。《标识方法(fǎ)》囊括(kuò)此三(sān)类典型应用场景有利于针对性、前瞻性开展监管，符合生成式人工智能的技术原理与产(chǎn)业需要。

三是规范元数据(jù)隐式标识(shí)格(gé)式(shì)要求。此前生成合成内容隐(yǐn)式标识(shí)方法在不同规模、不同技术水平的企业(yè)间应用(yòng)各不相同(tóng)，标识(shí)的标签信息也未有一致，这就导致识别隐式标识对于监管主(zhǔ)体和(hé)内容平台而言(yán)面临挑战。《标(biāo)识方法》为解决(jué)这一问题，对于隐式标识(shí)扩展字段(duàn)关键词和应包括的标签、编(biān)号、预留字(zì)段的(de)值等添(tiān)加(jiā)了具体说明，为行业统一、稳定、持(chí)续落实隐式(shì)标识要求提供了(le)有效措施。

四是展(zhǎn)示(shì)显式(shì)和隐式标识各要求对应示(shì)例。《标识方法》以图(tú)片示例的形式对于各类显式和隐式标识要(yào)求进行了展示，有助于企业直观了解标准要求，避免因文字表述引发的(de)模糊(hú)和(hé)歧义，从而推动行业协同落实，提升治理效能。

三(sān)、守正(zhèng)创新，兼顾内容生成合成服务管理(lǐ)与技术创新应用

人工智能生成合成技术(shù)应在安全的前提下规(guī)范使用、加速(sù)发展，以高水平的治理保障高质量发展。《办法》及《标识方(fāng)法》充分考虑“用”和“管”两侧需求，最大限度(dù)减少内容标识对于用户使用的影响(xiǎng)，推动企(qǐ)业自主自(zì)愿展示标(biāo)识。一是提供多种标识方法，适应更多(duō)产品形态。《标识方法》对于文本内容显式标识(shí)创新提出角标(biāo)形式(shì)，仅需在内容末(mò)尾加注角(jiǎo)标“AI”即可高效(xiào)满足要求，对于(yú)音频(pín)内(nèi)容则首次(cì)提出音频节奏标识，在音频适当位(wèi)置加入“短长短短”节(jié)奏的摩斯码表示(shì)即(jí)可达(dá)到提(tí)示作用。此类标识方法不仅对于(yú)企业而言便于打造不同产品样态(tài)，也能保障用户使用体验和认知效果，在(zài)实(shí)现监(jiān)管目的的同时也为技(jì)术发展提供了有效保障。二是划分不同(tóng)主体责任(rèn)，精细化避风港原则(zé)适用(yòng)。《办法》虽(suī)然将标识添加的(de)责任主要施加于服务提供者和上传内容的用(yòng)户，但未对传播平台和应用分发平(píng)台实施“一刀切”式的避风港规则。《办法》采取一种更为精细化的路径，详细规定(dìng)传播平台应当(dāng)对(duì)文件元数据(jù)中的扩展字段进行核验，提(tí)示用户生成合成(chéng)内容信息，并在文件(jiàn)元数(shù)据中添加传播要素信息；应用服(fú)务分发平台应在应用程序上架或(huò)上线(xiàn)审核前核验服务提(tí)供者是否按要求提供(gōng)生成合成内容标(biāo)识(中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境shí)功能。此举有助于(yú)适当(dāng)调整服务提(tí)供(gōng)者、使用者和传播分发平台的义务分配，避(bì)免相关平(píng)台“隐身”于深度合成监(jiān)管体(tǐ)系，从而真正实现(xiàn)齐(qí)抓共管、协同共治的治理机制，有效维护健康向善的信息(xī)网络(luò)生态环境。

作者：魏凯，中国(guó)信息通信研究院人工智能研究(jiū)所所长

来源：“网信中国”微信公(gōng)众号

校审 | 谨言(yán)、珊珊

编辑 | 凌(líng) 霄

未经允许不得转载：骏诺车品JNCP官方网站中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境