视频及文字实录┃生成式人工智能治理高峰对话系列——知识产权

　　2024年1月26日，香港大学黄乾亨中国法研究中心主任张湖月教授与中国人工智能产业发展联盟（AIIA）政策法规工作组组长、联合国高级别人工智能咨询机构成员、中国政法大学张凌寒教授携手合作，成功举办首场生成式AI治理高峰对话，聚焦知识产权问题。本次会议邀请了北京互联网法院“AI文生图”著作权案的主审法官朱阁、清华大学的崔国斌教授、华东政法大学的王迁教授、纽约大学的Jason M. Schultz教授以及康奈尔大学的James Grimmelmann教授作为嘉宾。会议以Zoom在线圆桌形式举行，通过知产财经与北大法宝平台进行直播，吸引了近7000名观众在线参与。活动现场气氛热烈，讨论内容引人入胜，深受观众喜爱与好评。

　　会议背景信息详见→2024年生成式人工智能治理高峰对话系列

　　特编辑会议视频及详细文字总结，以飨读者。

　　会议一览

　　张凌寒：2024年初，我与张湖月教授共同发起了“生成式AI治理高峰对话系列”活动，旨在邀请国内外顶尖学者与专家，深入探讨生成式AI面临的治理挑战以及应对策略。首场会议的主题为生成式AI与知识产权制度，参会嘉宾皆为产业界和技术界的权威人士。回溯20多年前，互联网技术最早挑战的法律制度便是知识产权；以美国千禧版权法案为代表，法律对技术发展也作出了积极回应。

　　美国专家评议环节

　　1. 生成式AI对版权法的挑战：思想/表达二分法&实质性相似

　　张湖月：近期，斯坦福大学的Mark Lemley教授提出，生成式AI将对版权制度提出两大挑战，分别涉及思想/表达二分法和实质性相似。请问两位对此有何看法？

　　“思想/表达二分法”将作品分为思想与表达两方面，版权法只保护对于思想观念的独创性表达，而不保护思想观念本身。

　　“实质性相似”是版权法领域侵权行为认定的重要规则，指被告作品与原告作品在思想的表达方面构成同一，以至于排除了被告独立创作作品的可能性。

　　James Grimmelmann：在生成式AI的帮助下，创作者只需输入非常简单的指令，就能通过AI输出极其丰富的表达。如果坚持传统的“思想/表达两分法”，版权法应当只保护指令本身，因为这才是创作者的表达；如果指令太简短，则完全无法得到版权法的保护。其次，版权法根据“实质性相似”的规则判断是否构成侵权。如果创作者思想的表达是其输入的指令，那被对比的应当是两个指令，即便AI最终生成的表达非常不同；当然，也可能出现相反的情况，即两个完全不同的指令生成高度相似的表达。这些问题都是很大的挑战。世界上之所以存在版权，正是因为印刷技术的出现使人类大幅降低了艺术作品的生产成本。印刷机的发明到第一个版权法诞生之间相隔了150年；如今我们尚处于生成式AI时代的第2年。我们并不了解生成式AI如何促进创意，也不清楚激励机制应如何设计，同时无法识别生成式AI设计产出可能带来的潜在危险，这使得当前情况充满不确定性。

　　Jason M. Schultz：版权法理论认为，版权应该充当诱因的角色，鼓励大家创作。随着生成式AI的普及，创作成本与参与门槛大大降低。如果艺术的关键是想到表达，而表达本身只是一个机械化的执行过程，那当生成式AI把这一过程变得无比简单时，“思想/表达二分法”就值得重新探讨。在生成式AI的世界，我们真的需要版权保护作为激励才愿意进行创作吗？这非常值得怀疑。

　　2.  AI生成内容的版权保护：中国“AI文生图”著作权侵权第一案

　　张湖月：近期，北京互联网法院针对AI生成内容的版权保护作出一项富有创新意义的判决，确认了生成式AI作品的可版权性。该判决在全球范围内引发广泛关注。同期，美国版权局再次拒绝为AI生成内容赋予版权，至今已连续四次驳回AI作品的版权注册申请。请问两位对此有何看法？

　　James Grimmelmann：实际上，中美之间的做法差距并不大。目前，美国的相关案例都是在版权登记阶段出现问题。这些案例可以视为一种“测试”，旨在确立一个更为广泛的版权法先例。涉案的作者要么主张将AI本身登记为作者，要么在输入指令与AI参与的信息披露上非常不完整，没有充分强调人在创作过程中的重要性。而北京互联网法院的案件性质则截然不同，它是一个非常具体的侵权诉讼，同时对生成过程和输入指令进行了非常详细的披露。因此，两个法域之间的差异可能并非本质性的。在美国，北京互联网法院的案件可能也会得到类似的判决结果。尽管在“太空歌剧院”案中，一幅包含600多个指令并获得大奖的AI生成作品被美国版权局驳回申请，但创作者并未披露这些指令的具体内容，也没有披露AI生成的原始草图。美国版权局和法院正在鼓励创作者积极披露自己的参与程度，否则就会因为证据不足而无法获得版权保护。

　　Jason M. Schultz：此外，许多美国法院正在探讨如何确立一个评估生成式AI作品版权性的方法。这也是版权法面临的一个挑战：我们应该从事前还是事后的角度进行判断呢？在争议发生后回顾事实似乎更有助于我们理清案情。另外，“原创性”的内涵确实需要进一步阐释，因为目前法律中关于原创性的要求非常低。

　　3.  使用受版权保护作品训练生成式AI的侵权问题

　　张湖月：美国一系列诉讼的核心争议点集中于利用受版权保护的作品来训练AI是否构成侵权。主流观点认为，这种做法可受到合理使用的豁免，因为AI生成内容具有转化性。然而，在某些案例中，AI生成的内容可能与原作品高度重叠，例如美国“纽约时报”案。针对此类情况，OpenAI辩称之所以出现重叠是因为指令本身具有很强的诱导性。请问两位对此有何看法？

　　“合理使用”是指根据版权法的规定，以一定方式使用作品可以不经著作权人的同意，也不向其支付报酬。

　　James Grimmelmann：在美国，围绕“合理使用”有两大发展趋势。第一，转化性使用，即对他人作品进行创意性改编。第二，复制他人材料用于完全没有艺术表达性的目的，比如研究的收藏库、搜索引擎。这些系统吸纳许多受版权保护的作品，但其复制出来的产物并没有与原作品竞争。然而，生成式AI融合两者。它不仅广泛吸纳版权作品进行训练，同时生成具有表达性的衍生作品。因此，这两种合理使用的情形都不完全适用于生成式AI，但它又与两者都存在关联。

　　Jason M. Schultz：在判断是否构成合理使用时，需要结合最终生成的内容本身进行评估。即使某公司仅利用纽约时报的网页来训练一个AI系统，最后也可能生成数百万种不同的表达方式；在这些表达中，可能仅0.1%存在侵权行为。一个关键的争论焦点在于：AI公司自动爬取数据进行训练与寻求版权持有人单独授权之间的区别是什么。与此相关的有两点：第一，竞争。为了促进不同AI之间的竞争，不能仅让世界上最富有的公司获得训练数据，而向所有版权人购买授权的费用非常高昂。第二，偏见。如果AI能使用更广泛的数据进行训练，就能避免产生偏颇的语言。例如，在美国，左派反对AI使用其数据进行训练，而右派则非常愿意。如果实行授权制，训练数据是否会被右派观点所主导呢？此外，AI生成的内容在很大程度上取决于指令内容，法院很难评估AI是否真的复制了某本书。如果用户极力逼迫AI进行复制，确实有可能实现，但实际上有多少人会这么做呢？这也引发了一个问题：如果AI生成的内容确实构成实质性相似，那么应该由谁负责？是用户还是人工智能服务提供商？

　　James Grimmelmann & Jason M.Schultz：该问题不存在普遍适用的答案。用户使用AI的目的和情况各不相同，必须针对具体问题进行分析。版权法应对私人空间予以适当宽容。在北京互联网法院的案例中，当AI生成的内容被上传至公共领域时，问题的性质就不同了，尤其是涉及不公平竞争的情况。总之，当前生成式AI仍处于发展初期，任何版权问题都没有确切答案，只能依靠更多司法判例来丰富我们的知识储备。一个合理的制度应促使大型和初创公司都能茁壮成长，不依赖庞大的供应商，保障所有人平等地使用AI，并鼓励合理竞争。如果法律仅允许大公司与另一个大公司打交道，这并不能解决问题，艺术家也无法获得合理回报。此外，所谓的版权方经济利益受损，可能是因为更多的人能够与他们展开竞争，而不仅仅是因为某个人通过ChatGPT窃取了他们的作品。

　　中国专家评议环节

　　朱阁：在“AI文生图”案中，原告通过一个AI大模型生成涉案图片“春风送来了温柔”。被告是一位原创诗歌作者，发布诗歌时使用该图片作为配图。原告主张被告去除了图片上的署名水印并上传到社交媒体，侵犯了原告的署名权和信息网络传播权。经审理后，认为涉案图片具有可被识别的差异性和原告的独创性智力投入，符合我国著作权法上“作品”的定义。图片属于美术作品，著作权归属于原告，因为AI大模型本身无法成为作者。关于智力成果要件和独创性要件。智力成果要求体现自然人的智力投入。在涉案图片生成过程中，原告进行了智力投入，如设计人物呈现方式、选择提示词、安排提示词顺序以及选定符合预期的图片。独创性作为核心要件，要求作品由作者独立完成并体现独创性表达。AI生成图片是否体现作者个性化表达需进行个案判断。原告基于自己审美选择和个性判断，对画面元素、布局构图等表达细节进行安排和选择，体现了其意志；AI大模型如同画笔或照相机，成为作者的创作工具。此外，新型疑难案件的法律适用需进行利益衡量，考虑案件双方当事人及群体利益、立法者的价值选择和社会公共利益。本案激励人们使用新工具创作，符合著作权法的立法目的。通过激励创作者使用AI技术，软件研发者收益增加，形成良性循环，对产业发展带来积极影响。对于社会公众利益，当前技术条件下难以区分AI生成内容。如果区别对待，手工创作受保护而AI生成不受保护，将给社会传递负面激励，导致人们拒绝使用新工具，或者隐瞒使用AI创作的事实，这可能侵害公众知情权。

　　王迁：我强烈反对主审法官的判决思路。大部分AI带来的所谓问题和挑战并非真实存在。唯一的问题在于使用作品训练AI是否构成合理使用。而对思想/表达二分法与实质性相似等并不构成任何挑战。第一，关于思想/表达二分法。在AI语境下，我们关注的是用户输入的提示词相对于AI生成的图片是否为思想。如果是，则不受保护。我们讨论的不是提示词本身是否构成作品或表达，而是AI基于提示词生成的图片是否为用户在著作权法上的表达。假设一位美术学院的老师也是诗人，他当场写了首诗，要求全班30名美术学院的学生根据这首诗各画一幅图。这名美术老师写的诗当然是作品，但美术老师的诗相对于这30名学生各自作的画而言是思想。显然这首诗无法决定每个学生画作的构图，他们都可以根据自己的想法理解这首诗，用自己的创造力生成相应的具体画面。无论使用多么复杂精细的文字描述画面，都无法决定画面的构图。同理，即使提示词足够详细，生成的图片也不能构成用户的作品。我曾将一首描述日落场景的英文诗作为提示词输入两个大模型，生成的图完全不一样。这首诗的描述足够详细。如果还嫌不够详细可以再写下1000行。然而，把1000行的诗作为提示词输入两个大模型，仍然不可能得到相同的结果。如果将选择和输入提示词认定为创作行为，请问为什么一个创作行为就产生了如此多不同的表达？只有一个解释：文字相对于它描述的图片仅仅是思想，而非表达。第二，关于实质性相似。AI更没有对实质性相似的判断标准形成挑战。在实质性相似的比较中，采用客观标准。只关注原告作品与被诉侵权内容之间的相似度，而与被诉侵权内容是由AI生成的还是人创作的无关。此外，根据美国版权局四份裁决书及指南，其不可能对北京互联网法院一案中的涉案内容进行作品登记。美国版权局并未质疑过申请人造假，反而希望借此澄清AI生成内容能否作为作品登记。在“太空歌剧院”案中，美国版权局并未反驳申请人关于使用600多个提示词的说法，但仍然认为这不是人在创作作品，因为是AI自主生成的。

　　崔国斌：首先，在思想/表达二分法方面，若创作者仅撰写提示词，虽提示词本身可能构成文字作品，但AI基于提示词生成的图片通常并不包含作者独创性表达。只有在创作者选定图片后，再通过提示词或其他方式，对表达性细节或构图要素进行反复修改，才可能对图片表达部分构成独创性。我与王迁教授的意见不同在于，王迁教授认为后一种情况也没有独创性。其次，对于美国版权局是否可能授予“中国AI文生图”第一案中的作品版权，我同意王迁教授的意见。美国版权局拒绝保护很多AI生成作品，认为它们不具备独创性；而中国涉案作品的提示词修改细节可能还少于美国作品。例如，在美国“太空歌剧院”案中，作者选定作品后，先固定大框架，再用细节修改，反复使用Photoshop等传统画笔类工具对内容进行打磨，整个过程耗时80多小时。但美国版权局仍然认为其缺乏独创性——如此严苛的标准是不正确的，将这一标准应用于上述中国案例中的诉争图片，估计美国版权局会得出否定独创性的结论。最后，关于侵权与合理使用问题。两位美国教授都倾向于认定AI训练使用数据有可能构成合理使用。Schultz教授的观点主要从竞争和中立性两个方面进行考虑。首先，对于AI训练过程的许可要求可能会妨碍公平竞争，这不仅涉及公司间的竞争，还涉及国家间的竞争。其次，如果部分版权持有人同意许可，而另一部分人不同意，可能导致AI生成的内容立场存在偏颇。此外，两位美国教授似乎暗示，合理使用可能更多地适用于非商业目的，而纯商业目的需要重新审视。然而，即使是纯商业目的，也应当视为合理使用。若要求AI提供者为所有的训练数据支付大量授权费用，同时确认每个人的贡献，可能导致市场失灵和社会成本上升，而这完全没有必要。当然， AI输出内容如果侵权，则应追究输出环节的法律责任。这与训练环节的使用行为是否构成合理使用，是两个问题。

　　圆桌讨论环节

　　Jason M. Schultz：我认同的观点是，当指令与提示词更具有建设性和创意时，它们与AI生成作品之间的联系将更加紧密，从而传导独创性表达；而若仅提供一些提示词让AI完成剩余工作，这种效果就难以实现。这正是思想/表达二分法的有趣之处。

　　James Grimmelmann：朱法官提出了一个有趣且值得思考的观点，即人们使用AI生成艺术品的诱因和激励是什么。AI生成作品与人类创作作品的客观差异很小，如果版权法规定所有AI生成的作品都不受保护，可能诱使很多人使用AI并撒谎否认。尽管我不确定这个问题能否得到解决，但如果一个法律制度在人工生成与AI生成作品的权利之间设置非常尖锐的区别，确实将产生负面诱因。

　　崔国斌：我非常认同Schultz教授的观点，即在AI输出具体内容后，用户利用提示词对特定图片的具体特征进行进反复修改时，如果提示词足够具体，用户可能对最终生成的图片做出独创性贡献。王迁教授认为文字作品无法定义图片中的表达性要素，我认为这一观点并不总是正确。以一个例子说明，如果提示词非常详尽，确切地定义了图片中许多像素级别的特征，这些文字就有可能对图片的表达性因素和构图产生贡献。实际上，任何数字化图片都可以通过文字描述，通过计算机程序定义。程序代码类似于文字表达。因此，不能说提示词类的文本一定不能对图片中的表达做出贡献。当然，如前所述，多数情况下，单一回合提示词的创作者的确不会对AI基于该提示词生成的图片做出独创性贡献。此外，我也同意Grimmelmann教授的观点，即如果不保护任何AI生成的内容，可能导致社会对使用AI的消极态度。我们不能简单地认为使用AI工具就不能产生独创性作品，特别是在AI与普通的Photoshop等画笔类工具高度融合的背景下，用户对AI输出内容进行个性化修改，几乎是不可避免的习惯。这时候，强调AI生成内容不能获得著作权法上的保护，意义并不大。

　　王迁：首先，在“太空歌剧院”案中，我不反对AI生成的内容经过人使用Photoshop修改之后，可能形成受保护的作品。美国版权局也并不认为对AI生成的内容通过Photoshop处理后形成的内容无法登记。实际上，美国版权局只是要求申请人声明放弃AI生成内容的权利，但申请人不愿放弃，导致最终无法登记。其次，关于通过多轮修改是否能形成受保护的作品，我曾在Stable Diffusion和Midjourney上进行实验。首先让它们绘制中国风格的女孩，两个AI生成的内容完全不同。接下来让女孩戴上眼镜，两者都画上了眼镜。但Stable Diffusion给女孩画了第三只手，非常惊悚。关键在于第三步，当试图具体要求将女孩眼镜框高度降至原来的2/3时，AI无法实现。这是因为目前AI无法像人类一样理解用户的指令，它只能按照自身训练和算法规则生成新图。因此，不论修改多少轮，每轮中用户对生成的内容都缺乏可控性。换言之，AI生成内容，不论经过多少轮，每轮都是黑箱，人无法预测最终结果。第三，崔国斌教授提出，把一幅画在屏幕上画成很多格，接着描述像素级别的格子特征，就能对应一幅画。我想起自己刚学计算机时，把《蒙娜丽莎》输进了电脑。我的方法是输入坐标而不是用人类的自然语言描述这幅画，坐标的数值是讲给计算机听的，而不是我们今天讨论的AI文生图。如果我们使用自然语言描述这幅画，无论多么精细，与AI生成的图像永远不会完全一致，除非AI发展至电影《盗梦空间》般的水平，潜入人脑，将已构思完成的画作精准拷贝出来；但届时应改名为“复制式AI”而非“生成式AI”。此外，在美国，尽管AI生成内容不受版权法保护，但使用AI的用户数量并未减少。这说明是否用版权保护AI生成内容对用户使用生成式AI的意愿并无直接影响。

　　张湖月：朱阁法官认为，认定AI生成内容具有著作权可鼓励人们使用AI。然而，若创作者普遍使用AI进行创作，未来人类原创作品在市场上可能越来越稀缺。这是否会导致数据稀缺？因为大模型的训练仍需依赖人类创作的作品。许多研究表明，若仅向大模型投喂AI生成的数据或作品，模型的表现将逐渐下降。因此，从长期来看，鼓励人类创作对艺术创作和AI发展都至关重要。请问各位对此有何见解？

　　Jason M. Schultz：为了培养理想的创意经济，我们需提高针对AI生成内容的原创性门槛。目前，使用生成式AI进行创作过于简单，所以人们在使用时并不需要额外的回报和诱因；这甚至可能会扼杀创意。我们需通过新的法律法规，在人类创作的基础上，设定门槛来赋予达到一定水平的AI生成内容某些权利，以留出空间供人们进行创作。

　　崔国斌：我们应该对艺术保持信心，单纯由AI自动生成的内容并不能与真正的艺术家竞争。鼓励艺术家使用AI只是基础，创作过程中仍需不断修正和改进，赋予作品以灵魂。如果艺术家无法做到这一点，那么被AI替代的艺术家的作品本就应该被替代，不能称之为真正的艺术。回应王迁教授否定AI可以对选定图片具体特征进行修改的例子，无论是突然出现的第三只手，还是无法修改眼镜大小的问题，这些都是可以在用户端克服的技术问题。出现第三只手，很可能是没有限定足够的反向提示词；无法修改眼镜大小是因为没有在眼镜关键词后面加括号并按照语法输入机器能看懂的指令，或者没有安装合适的插件。Stable Diffusion是一个开源软件，很多人正在开发各种插件，使人类能够用文本、图形指令或键盘操作等方式来修改画面中的具体内容，操作空间非常大。随着AI技术的发展，我们继续强调基于文本指令等修改方式与Photoshop按钮式修改方式之间存在本质差别，没有意义。未来应实现两者之间的无缝替代，这是不可避免的趋势。王迁教授否定AI可以对选定图片具体特征进行修改的例子，并不能证明利用文本提示词就无法具体或彻底地修改一幅AI输出的图片，这只是因为现有AI技术尚未被发挥到极致，或者使用者对AI插件技术可能性的了解不准确所致。

　　朱阁：回应关于激励问题，首先，AI让原本没有绘画技艺的人也能进入美术作品市场，展现他们的创造力。其次，许多艺术家已将AI大模型纳入工具箱，这可能替代艺术家的重复性劳动。再者，在价值问题上，如今许多人可能偏爱手工制作的物品，尽管价格更高，但仍有购买需求。未来，AI生成作品充斥市场，手工绘画作品将更为稀缺且更具价值。此外，目前AI软件使用具有一定门槛，应鼓励用户投入更多精力进行学习。最后，按照我国主流观点，独创性是一个有或无的问题。根据现有作品标准，会有相当一部分利用AI生成的图片可以达到独创性要求，因为我们关注的是人的投入。

　　王迁：三句话回应。首先，我之前举的例子并非对AI的侮辱，而是对AI技术现实应用的说明。其次，当我们在这个议题中讨论“工具”时，我们指的是“创作工具”，而非“工人作为资本家赚钱的工具”意义上的“工具”，也不是“AI作为人类改造世界的工具”意义上的“工具”。在这个意义上，创作工具意味着它不参与内容的决策过程，否则就不能称之为创作工具。第三，AI生成的内容能否作为作品保护，与独创性是有无问题还是程度问题无关，因为无论是独创性还是智力投入，脱离思想/表达二分法进行分析都毫无意义，例如，E=mc2，虽然有爱因斯坦的智力投入且具有独创性，但它不是作品，因为它属于思想/表达二分法中的思想。

　　张湖月：非常感谢各位嘉宾的精彩发言，也感谢观众的积极参与。本次会议仅是生成式AI治理高峰对话系列的开端，希望大家今后继续支持我们！

　　张凌寒：今天的讨论非常热烈，感谢各位嘉宾带来的真知灼见与精彩对话，期待未来高峰论坛能像今天一样富有成效。谢谢大家！