回答被平台判定为AI生成？法院：平台需对判定结果进行适度的解释说明

　　国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》）将于2025年9月1日起正式施行（点击查看详情）。《标识办法》规范了人工智能生成合成内容标识的使用，要求用户发布AI生成合成内容时主动声明并进行标识，网络信息内容传播服务提供者应当采取措施，规范生成合成内容传播活动，如核验文件元数据、添加显著提示标识并提醒公众，提供必要的标识功能并提醒用户主动声明发布内容中是否包含生成合成内容，当未核验到隐式标识用户亦未声明但平台识别为疑似生成合成内容时，应当采取适当方式在发布内容周边添加显著标识，提示公众该内容疑似生成合成内容。

　　北京互联网法院审结了一起网络服务合同纠纷案，原被告双方作为用户和网络服务提供者，围绕人工智能生成内容标识起了争端。

　　基本案情

　　原告为涉案平台用户，被告为涉案平台运营者。原告在平台上发布了“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……工作之后就没有太多完整的时间学驾照了”，该内容被涉案平台判定为“包含AI生成内容但未标识”的违规情况，涉案平台作出将该内容隐藏并将用户禁言一天的处理。后原告进行申诉未成功。

　　原告主张，其并未使用AI创作，被告的行为违约，请求法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。

　　被告辩称，被告有权依据双方网络服务合同审核认定原告使用平台服务时的违规行为并采取必要治理措施，不构成违约。涉案平台规范中明确规定，“创作者在发布包含人工智能生成内容时，应主动使用‘人工智能生成内容’的标签进行声明，未主动声明的内容，平台将采取适当措施进行流量限制并添加相关标识。”原告发布的内容经机器识别为“包含人工智能生成”，经过人工复核，认定该内容缺乏明显的人类情感特征。被告作为网络服务提供方，有权自行选择合理、必要的方式和技术，网络服务合同未约定被告有义务向用户提供、解释技术秘密和算法逻辑，原告无权获知。被告针对人工智能治理需求开发、部署、运行自研深度合成算法模型是合理、必要的，并设置专门测试团队通过技术手段观察、抽检模型运行的准确率，如发生准确率下降或异常波动，被告会及时对模型进行优化迭代。涉案内容被识别、标记期间，模型准确率没有变化。请求法院依法驳回原告的诉讼请求。

　　被告提交其在互联网信息服务算法备案系统公示的相关算法机制机理内容作为算法决策判定的证据，主张与涉案检测内容相关联的部分为“回答安全判别模块”，其表述为“以自研的指令微调模型为基座。基于收集并标注的有安全风险的回答为语料训练的能力，能拦截掉对话深度合成模型生成的大部分违规回答”。

　　法院经审理认为

　　平台有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理

　　网络用户在使用AI工具进行创作并将相关内容发布到网络平台时，应依照诚信原则如实标记。本案中，被告结合《互联网信息服务深度合成管理规定》中有关深度合成标识的管理规定和网络空间治理的现实需要，发布了社区公告载明“创作者在发布包含AIGC生成的内容时，应主动使用标识，帮助读者进行区分。对发布时未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识”“未经标签声明，使用人工智能生成的内容构成违规”。原告系平台注册用户，上述公告属于平台服务协议的组成部分。因此，被告有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理。

　　平台的审查及处理结果应有合理依据

　　本案中，原告主张涉案内容并非AI生成内容，被告对涉案内容的审查及处理违反平台服务协议，在一般情况下，原告应该提供如创作底稿、原件、源文件、源数据等证明人类创作属性的初步证据，但本案中原告回答内容系即时性创作文本，在客观上无法提供上述证据，由其提供上述证据亦不存在合理性和现实可行性。而被告基于算法工具的运算结果得出涉案内容为AI生成合成的审查结论，被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，在此情况下，被告应就该事实进行合理举证或解释说明。

　　虽然被告在本案中提供了算法的备案信息，但公示内容显示该算法功能为识别有安全风险的回答，无法认定其系对AI生成合成识别判断的技术，故无法确认备案信息与本案争议的关联性，因此被告未对涉案内容属于AI生成合成的判断依据和结果作出合理解释。此外，被告对人工复核程序的解释为需要非常明显的人类情感特征才能驳回算法决策结果，而该判断标准更多依赖主观认识和个人经验，并不具有科学依据以及较强的说服力和可信度。

　　综上，被告未对算法决策依据和结果进行适度的解释和说明，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。被告系统后台仅存在“折叠回答”这一条处理记录，现因该处理已在本案中被判定为不合规，被告应对该处理记录予以删除。对“禁言1天”的处理没有后台记录，原告主张删除没有事实依据，法院对该诉讼请求不予支持。

　　裁判结果

　　判决被告展开对于涉案内容的隐藏，删除在后台的违规处理记录。驳回原告的其他诉讼请求。

　　目前，该案判决已生效。

　　法官说法

　　生成式人工智能技术在内容的生成合成方面展现了巨大的能量和潜力，为数字经济发展注入强大动力。与此同时，在AI生成合成内容未进行“AI标识”的情况下，公众难以区分AI生成合成内容和人类创作内容，利用AI实施诈骗、侵权等违法犯罪的行为不断攀升。AI生成合成内容标识作为对人工智能生成内容监管的有益工具和必要手段，会对净化网络内容环境和网络空间治理起到一定积极作用。本案对于平台运用算法工具进行AI生成合成内容治理引发的网络服务合同纠纷裁判作出以下探索：

　　网络内容服务平台有权利用算法工具对用户发布的内容是否使用AI生成合成进行审查和处理。平台通过用户协议、社区规范、处罚规则等明确告知用户需要遵守AI生成合成内容标识规定，如用户违反有关规定，平台可对违规行为进行处理。

　　若网络内容服务平台判定用户发布的内容为AI生成合成，用户需要提供证明该内容系人类创作的初步证据，人民法院可结合创作形式、内容、载体等因素综合调整用户的举证责任，并认定证据的证明效力。

　　网络用户提供初步证据后，网络内容服务平台应举证证明其使用算法工具进行判定的正确性或进行必要限度的解释说明，网络内容服务平台不得仅以涉及商业秘密为由规避该义务。

　　对于算法解释的司法审查应符合比例原则。一般情况下，平台无需提供技术细节、源代码或原始数据，而需围绕案件争议事实以可理解的方式举证或说明算法运行机制、对应可能出现的误判是否采取了合理的救济措施。

　　专家点评

　　本案是对AI生成合成内容标识的标记、平台识别和治理在司法审查规则方面的有益探索，一方面肯定了网络内容服务平台利用算法工具对AI生成合成内容进行审查和处理，履行信息内容管理主体责任的积极作用；另一方面，认定网络内容服务平台在即时性创作文本场景下对使用算法自动化决策结果承担适度说明义务，并为司法审查阶段的算法解释说明程度确立了一定的标准。明确算法解释说明的司法审查标准，既保障了网络用户合法权益，又能有效推动算法公开透明，规范算法应用行为，推动平台经济健康发展。需要强调的是，算法治理需在保障技术透明度与激发产业创新活力间寻求动态平衡。司法审查应本着包容审慎的态度，在“算法信息适当公开”与“算法商业秘密适度保护”之间达成平衡。同时本案通过司法个案裁判，合理分配网络内容服务平台和用户的举证责任，推动网络内容服务平台提高算法的识别能力和决策能力，切实提升人工智能信息内容治理水平。

　　法官简介

法官  袁建华

　　袁建华，北京互联网法院综合审判一庭副庭长、四级高级法官，拥有20年从业及审判经验，多次荣立北京市法院个人三等功，多次被评为北京市法院优秀公务员，荣获北京市法院先进工作者、北京市政法系统“群众心目中的好党员”、北京市十佳调解速裁团队等称号。