作者：陈锦川 全国审判业务专家、世界知识产权组织仲裁员
引言
2024年9月30日，律师李某某在百度搜索引擎中搜索“李某某律师被判几年”，“AI智能回答”给出内容“三年。李某某律师被判三年有期徒刑。根据搜索结果，被告人李某某因犯爆炸罪，被判处有期徒刑三年等等”，并将李某某穿着律师袍的照片展示在回答内容当中。原告李某某遂起诉称，百度公司的上述严重造谣网暴行为，严重违法甚至犯罪，给原告造成极大伤害。在李某某向百度公司投诉后，百度公司下线了相应内容，并在本案开庭前完成了相关内容的删除。
一审法院认为：被告的“AI智能回答”将回答信息内容和原告照片一起发布，指向性明确，内容中包含“李某某被判刑”“被告人李某某”“有期徒刑三年”等明显负面、贬损性词汇，会对原告工作、生活等方面造成负面评价。百度搜索“AI智能回答”是公开的网络空间，被告的案涉行为客观上必然降低原告的社会评价，对其产生一定的负面影响。案涉侵权内容系被告对搜索内容通过AI技术将文字内容与图片加工合成，其中错误、贬损性质的内容明确指向原告，被告主观上存有过错。该搜索发布内容的行为造成了原告的名誉受损，被告的行为构成名誉侵权，应当承担相应的法律责任。[1]
二审法院在一审判决的基础上补充认定，“AI智能回答”相关侵权内容的生成具有一定偶发性，因本案发生于国内人工智能发展初期，受限于技术发展，且被告事后亦采取了相应补救措施，一审法院认定被告的行为构成名誉侵权，要求被告向原告书面道歉符合本案的实际情况。综上，二审法院判决：驳回上诉，维持原判。[2]
但综合全案，一、二审法院均没有逐项回应被告提出的“技术中立”“不可预见性”“用户诱导性提问”等抗辩主张；未阐释为何在AI场景下“加工合成”内容可直接认定为“加工合成者的”内容生产行为，生成式人工智能服务提供者应承担内容生产者的责任；对于服务提供者过错的认定，也未展开细致论证，仅直接给出结论。
结合生成式人工智能的技术特性与侵权法理，笔者对本案裁判不完全认同，现将判决存在的问题分析如下。
一、未全面审查事实，未能厘清贬损信息生成的原因力
仅从生成过程看，案涉“AI智能回答”的内容通常是在用户输入提示词后由生成式人工智能所生成，因此人工智能输出内容应当视作服务提供者的行为，但直接认定服务提供者是该信息的“唯一原因力”，很可能与客观事实不符。
生成式人工智能具有人机交互、高度技术性、指令响应与内容自主生成的特点。人机交互是生成式人工智能的外在应用特征，生成式人工智能依托自然语言、多模态形式实现双向动态对话，用户通过日常表述提出需求，形成双向动态交流，引导AI完成内容输出。高度技术性为底层支撑，AI模型依托Transformer架构、海量训练数据、大规模算力集群、模型微调与人类反馈对齐等前沿技术搭建运行。指令响应体现工具属性，AI模型通常在用户提示词划定的需求框架内开展作业，按照指令调整输出内容。而内容自主生成能力是生成式人工智能区别于传统程序的核心特征，生成式人工智能并非机械调取存量信息，其可自主整合跨领域知识、开展逻辑推演并产出全新内容。以上四项特征相互结合，共同构成生成式人工智能服务的运行基础。
受上述属性影响，AI输出贬损性信息的成因十分多元：
第一，模型训练依托海量网络数据，互联网中现存的片面评价、恶意诋毁等不良文本，会让算法在学习过程承袭固有偏见与负面表述；
第二，大模型普遍存“AI幻觉”问题，事实核查能力不足，在信息缺失时容易虚构事实，进而生成不实贬损内容；
第三，若用户使用带有倾向性的提示词刻意引导，AI易顺着用户指令输出贬低言论；
第四，现阶段AI价值对齐、内容风控技术仍不完善，难以实现全场景、全主体的风险拦截，针对普通个人、小众主体的审核规则更是存在明显漏洞；加之训练数据裹挟的刻板认知与偏见，也会导致AI在常规应答中不自觉输出贬损、歧视性内容。
不同成因对应不同的责任主体与过错认定。若贬损信息源于训练数据瑕疵、算法幻觉或价值对齐技术缺陷，虽仍可归责于AI服务提供者，但过错认定和责任承担应当有所区别。AI依托统计关联逻辑生成内容，并非真正理解语义，幻觉问题在当前技术阶段难以彻底根除，这一客观现状必然影响对AI服务提供者过错的判断。反之，若不实内容是用户刻意使用引导性、倾向性提问，诱导AI作出负面评价，则法律后果应由发布指令的用户承担，而非AI服务提供者。
司法实践中已有同类案例及裁判思路可供参考。在“万字帖文造谣上市公司案”中，用户向AI输入包含虚假信息的基础文本，并指令AI扩写。法院认定，案涉文章虽由AI生成，但用户作为AI工具的使用者、案涉内容的发布者与传播者，是侵权风险的开启者和控制者，其未尽注意义务，客观上造成了原告社会评价的降低，构成对原告名誉权的侵害。 [3]
在“智迈速”商标侵权案中，法院查明原告通过高频搜索，人为诱导AI大模型错误建立语义关联，从而制造出涉案推广链接，属于故意虚假取证，最终驳回原告的诉讼请求。[4]上述两案中，AI生成的内容均由用户“喂养”所致，法院均以原因力与实际控制力为核心划分责任，明确指出当用户通过刻意诱导生成侵权内容时，由用户自行担责。
由此可见，查清事实，厘清侵权内容的生成原因力，是判定行为主体、准确认定过错的基本前提。在“梁某诉杭州某公司AI侵权案”中，法院便明确指出，不能单纯根据权益被侵害的结果归责，而要结合信息生成过程、行为人是否违反注意义务综合评判。[5]
反观本案，法院仅以“AI智能回答”输出贬损内容这一结果，直接推定侵权行为系被告所为并承担全部责任，其事实认定与证据支撑均不够充分。
二、未结合生成式人工智能独有属性构建适配的归责逻辑
我国《民法典》确立的民事侵权规则，以线下人身、财产侵权场景建立，整体呈现静态化、结果导向、主体清晰、过错具象的特征，形成了体系稳定的归责规则。
第一，归责标准静态且确定。传统侵权多为一次性人为行为，或是实体产品存在固定缺陷，侵权行为、损害结果发生在特定时间、特定场景中，均为定型、可固化的状态。法律以行为发生、产品交付时的固定状态作为评判依据，责任认定边界清晰，不存在状态变动、系统迭代带来的归责难题。
第二，责任主体单一，因果关系直观。传统侵权行为的实施者与责任承担者高度统一，加害行为多由单一主体主动实施，行为、过错、损害结果通常一一对应，因果链条简单明了，极少出现多方参与、人机联动的复杂情形，容易界定各方责任边界。
第三，过错认定标准具象可查。行为人的故意或过失，可通过外在行为、违规操作、履职疏漏等客观事实直接判定，举证与核验难度较小。
而生成式人工智能的三大技术与运营特征，使得传统侵权规则的适用基础发生了极大的变化：
首先是持续性服务模式。生成式人工智能依托云端服务器提供在线服务，面向公众开展全天候、不间断服务。用户可随时调用AI生成内容，每一次人机交互，都是一次新的、独立的服务过程。
其次是动态演化能力。平台可借助海量用户的数据反馈、人工微调、算法优化、增量训练等方式，持续更新模型参数、完成系统迭代。受此影响，同一套AI系统在不同运行阶段的生成逻辑、输出效果均存在差异，即便使用相同提示词，不同时间的输出结果也可能截然不同，系统始终处于动态变化之中。本案中，李某某几次向“百度AI智能搜索”提问同一问题，AI给出的答案前后矛盾，部分内容否认其存在犯罪行为，部分内容则显示其曾经被判刑，这正是AI模型动态演化特征的直观体现。
最后是多元人机交互机制。AI内容生成属于典型的人机协同行为，最终输出结果由平台算法、训练数据、系统规则与用户个性化提示词、交互方式共同决定。用户深度参与内容创造全过程，多元交互、双向联动的运行模式，直接打破了单一主体掌控行为的传统格局，责任与因果关系的认定随之变得复杂。
上述三大特征进一步衍生出三类法律适用难题：
一是内容生成具有非预设性，AI生成内容依托概率逻辑和涌现性特征产出，平台无法对所有输出结果实现事前完全控制；
二是责任主体趋于多元化，AI产业链包含模型研发方、平台部署运营方、终端使用者，不同主体对内容生成的贡献度、控制力差异显著，“多方贡献、统一呈现”的模式让责任划分变得异常复杂；
三是风险传导具有延时性，侵权风险沿着“生成—传播—认知—损害”的链条逐步显现，技术行为与最终损害之间存在多重中介环节，侵权风险的间接性、延后性大幅提升了因果关系的认定难度。[6]
技术形态的变革，要求裁判者跳出传统静态侵权的裁判思维，结合AI独有特征调整审理思路：面对内容非预设性，动态划分AI服务提供者注意义务的范围与标准；针对主体多元化，拆解行为环节、区分不同主体，以控制力和原因力为核心分配责任；针对风险传导延时性，重构因果关系认定规则，合理调整举证责任分配，让司法裁判适配AI动态、交互、持续服务的本质特征。
但是，本案判决并未结合AI独有特征调整审理思路，既未回应“AI幻觉”以及被告提出的“技术中立”“不可预见性”“用户诱导性提问”等与本案归责这一核心问题密切相关的抗辩；也未阐释“加工合成行为”等同于内容生产行为、“加工合成行为人”为唯一内容生产者并为此承担内容生产者责任的法理依据；对AI服务提供者过错的论证更是缺失。也就是说，本案整体裁判依旧固守传统静态归责模式，单纯以损害结果倒推侵权责任，并未适配生成式人工智能的技术特征，裁判逻辑存在偏差。
三、未充分举证证明百度搜索“AI智能回答”的内容已被第三人知悉
根据《民法典》第1024条第2款，“名誉是对民事主体的品德、声望、才能、信用等的社会评价。”因此，认定是否构成侵害名誉权，有两点尤其重要：一是受害人的社会评价实际降低，无受害人社会评价降低，不成立名誉侵权；二是侵权行为必须被受害人以外的第三人知悉。所谓“社会评价”，也就是社会主体对民事主体的评价，这就要求受害人以外的人知悉损害受害人名誉权的事实。知悉的第三人的人数可能很多，也可能很少，但只要为一个第三人所知悉，就可以认定受害人的名誉已经遭受了损害，因为该第三人对受害人的评价已经降低。[7]而第三人知悉的前提，是侵权内容被公开发布、传播。
本案中，法院以百度搜索“AI智能回答”属于公开网络空间为由，直接推定涉案行为必然降低原告的社会评价。[8]这一认定过于绝对和武断，并未结合生成式人工智能的运行逻辑与技术特点综合判断。
生成式人工智能虽大多依托互联网开展在线服务，但内容生成行为与网络传播行为存在本质区别。AI内容生成是算法根据特定用户指令定向产出内容的过程，属于典型的“一对一”的定向服务：指令由单一用户发出，生成结果仅反馈给该用户，在用户未主动转发、分享的前提下，其他公众无法通过公开渠道获取对应内容，该过程不具备公共传播属性。加之模型动态演化、输出结果随提示词与时间变化而改变，不同用户、不同时间检索同一问题，得到的内容往往存在差异。
本案中，李某某几次向“百度AI智能搜索”提问相同问题，所得内容前后矛盾，也印证系统动态变化的特点。因此，仅仅因AI服务具备网络公开访问属性，就直接认定单次内容生成行为属于公开发布、必然被第三人知悉，证据并不充分。本案中，原告若要证明名誉受损，应当进一步举证：除本人之外，其他第三人向百度搜索“AI智能回答”输入相同或近似的提示词时，同样得到涉案贬损内容，以此证明侵权信息已对外传播、被公众知悉。本案判决未完成该项事实核查即认定构成侵害名誉权，存在疏漏。
四、过错认定与客观的注意义务标准不相契合
本案中，法院认定被告有过错，核心理由为：侵权内容由被告通过AI技术加工合成，内容明确指向原告。但是，该认定并未严格遵循现代侵权法的客观过错理论。
现代侵权法理论普遍采纳了客观过错理论，即以行为人是否违反客观的注意义务为标准，判断行为人是否存在过错。[9]按照客观的注意义务标准，首先是要以理性人（合理人）在同等客观环境下应当达到的谨慎程度作为同一参照，判定行为人是否存在过错；对于专业或者职业活动，则以本行业合格普通从业人员为标准。同时，过错认定必须结合行为发生时的“现有技术水平”认定行为人是否能够或者已经采取相应的措施防止侵权行为的发生，如果能够，则应当认定其存在过错，否则就没有过错。
在“杭州奥特曼案”中，法院便精准适用了上述规则。判决明确指出：对于过错的认定，应综合考量生成式人工智能服务的性质、当前人工智能技术的发展水平、避免损害的替代设计的可行性与成本、可以采取的必要措施及其效果、侵权责任的承担对行业的影响等因素，通过动态地调整过错的认定标准，将平台注意义务控制在合理的程度。
具体而言，即以同质行业理性人标准予以考量，当生成式人工智能服务提供者可以证明施以同业一般服务提供者的注意力难以发现该生成内容可能构成侵权，或者能够证明自身已经采取了符合损害发生时技术水平的必要措施来预防损害，但仍无法防止损害的发生的，应认定其已尽到合理的注意义务，不具有过错；反之，则应认定其具有过错。[10]该案判决中，法院全面而准的确地阐释了客观的注意义务标准内涵，以及该标准在认定AI服务提供者的过错时的具体运用。
AI内容生成的非预设性和不可控制性，使得内容生产者对由其创造的内容难以拥有完全的事前控制能力。AI研发者、部署者以及使用者对内容生成都做出了贡献，但他们各自的控制力存在差异，幻觉在技术上不可避免，这些都应该成为对AI服务提供者的过错判断中必须考量的因素。若贬损性信息源于用户刻意输入引导性、倾向性提问，主要过错应当归属于用户。判定AI服务提供者的过错时，也必须结合案发时的技术发展水平，采取审慎、包容的态度。
反观本案，法院完全未考量AI幻觉、生成结果不可预见、用户提问影响输出等客观因素，也未按照同行业合理注意义务的标准开展评判，仅依据AI服务提供者“加工合成内容”这一行为直接推定过错，与客观的注意义务标准不符。
此外，本案对“通知+必要措施”规则的适用态度也值得商榷。
本案中，被告在接到原告投诉后下线了相应的内容，并在开庭前完成了相关内容的删除，但该补救行为仅被法院作为减轻责任的情节，[11]却未纳入过错认定的考量因素。
“通知+必要措施”规则，又称避风港规则，在我国现行法下，它适用于信息网络服务提供者的责任限制。避风港规则的核心在于为网络服务提供者进入“避风港”设立条件，即在满足条件的情况下，豁免技术服务提供者的赔偿损失责任。这些条件要求技术服务提供者进行安全投入，其核心是要求技术服务提供者建立“通知+必要措施”机制，在收到合格通知时候采取必要措施制止侵权。[12]
设立避风港规则，是因为网络内容体量庞大、更新迅速，平台难以做到事前全面审查。避风港规则立足于过错责任原则，合理划分技术服务提供者与用户的责任，避免技术服务提供者为他人行为不当担责。同时，它也能降低互联网平台的经营风险，助力行业与新业态发展，简化维权流程，提升侵权处置效率，最终促进权益人、技术服务提供者、网络用户及社会公众之间的利益平衡。
避风港规则的立法精神对生成式人工智能领域应同样适用。AI服务提供者是内容的生产者，通常也是信息网络技术的服务提供者，是侵权责任法上新的特殊责任主体。AI系统处理海量信息，内容生成具备非预设性、不可完全管控的特点，AI服务提供者往往无法提前识别侵权内容。当AI生成内容在网络空间公开传播时，AI的服务模式与信息存储空间、搜索链接服务高度近似。
因此，若允许权利人在发现生成内容存在侵权时，通知并提醒服务提供者采取相应措施消除侵权内容，一方面可以提升侵权防控效率，另一方面也可以使服务提供者的责任风险具有较强的可预见性，使之责任负担不至于过于沉重，从而有利于人工智能产业的发展。因此，将避风港规则类推适用于AI场景，具有一定的正当性和现实必要性。[13]需要注意的是，AI服务有其特殊性，AI服务提供者基本无法采取“删除”“断开链接”的必要措施。因此，在将避风港规则适用于AI服务场景时，应当结合技术特点，将应采取的必要措施调整为停止生成、停止传输内容。
目前的司法实践中，已有案件将《民法典》第1195条规定的通知规则参照适用于AI服务提供者过错的认定中。在“优学电子诉百度”案中，法院认为，参照适用通知规则，符合该法条为权利人提供快捷救济渠道的制度本意，可避免AI搜索服务提供者承担与其内容控制能力不相匹配的责任，具有“类似情形同等处理”的功能相似性基础。当然，法院特别指出，参照适用的对象仅限于“通知+必要措施”规则本身，参照的基础系功能相似性。[14]
但本案中，法院并未采纳这一裁判思路，未对避风港规则在AI场景下的类推适用进行考量，使其裁判一定程度上失去了现实意义。
本案裁判凸显了传统侵权规则与生成式人工智能技术特性之间的矛盾。面对AI内容生成的非预设性、多方主体协同参与、风险链式传导等新特征，司法裁判需跳出固有思维，结合原因力、控制力划分责任，依照行业技术水平认定过错，并探索避风港规则在AI领域的适用路径。唯有做到法理与技术相适配，才能妥善化解新型侵权纠纷，兼顾权利保护与技术创新。
注释：
1.江苏省南京江北新区人民法院（2024）苏0192民初11880号民事判决书。
2.江苏省南京市中级人民法院（2025）苏01民终14271号民事判决书。
3.广州互联网法院：“万字帖文造谣上市公司，'AI生成‘能否成为挡箭牌？”。
4.上海市青浦区人民法院（2025）沪0118民初22645号民事判决书。
5.杭州互联网法院（2025）浙0192民初18143号民事判决书。
6.盛小宝、姚迁，《人工智能生成合成内容安全责任主体研究》，载微信公众号“中国信息安全”，2026年5月7日。
7.程啸：《论生成式人工智能侵害名誉权的侵权责任》，载《财经法学》，2026年第2期。
8.江苏省南京江北新区人民法院（2024）苏0192民初11880号民事判决书。
9.王利明：《生成式人工智能侵权的归责原则与过错认定》，载《中国法律评论》2025年第4期。
10.杭州互联网法院(2024)浙0192民初1587号民事判决书。
11.江苏省南京市中级人民法院（2025）苏01民终14271号民事判决书。
12.姚志伟：《生成式人工智能服务提供者在私法上的法律性质》，载《上海交通大学学报（哲学社会科学版）》，2024年第12期。
13.王利明：《生成式人工智能服务提供者何以担责》，载《人民法院报》，2026年6月12日。
14.广东省广州市中级人民法院（2026）粤01民终3109号民事判决书。
（本文仅代表作者观点，不代表知产财经立场，平台并不承诺对内容负责，如有相关疑问，请联系文章作者。）
京公网安备 11010502049464号