人工智能技术在网络服务中的法律责任

作者 | 龙媛媛  北京广吉（上海）律师事务所

编辑 | 布鲁斯

01

案件背景

在2019年12月，原告何某发现被告公司利用其“叨叨”软件（原名“叨叨记账”），在“粉丝经济”模式下，通过角色调教、聊天记账等方式，满足粉丝群体与偶像对话的需求。该软件允许用户使用何某的头像和姓名来创建虚拟角色，且根据不同记账场景自动推送与何某有关的“肖像表情包”和“撩人情话”。

原告指出，除了使用其肖像和姓名外，软件在互动过程中还为其设置了不同的虚拟人设，使用了与何某相关的暧昧语言，如“爱的抱抱”“收下我的飞吻”。此外，软件还以何某的名义进行商业推广，如“购物返利”等。

原告认为，这种做法侵犯了其肖像权、姓名权及一般人格权。原告进一步指出，被告的软件设计和经营模式使其应当具有更高的审慎注意义务，且被告对算法推送的内容应承担相应的信息管理责任。根据《中华人民共和国侵权责任法》第三十六条，网络用户、网络服务提供者利用网络侵害他人民事权益的，应当承担民事责任。原告认为，被告的商业模式不应以侵犯他人合法权益为代价。

这个案件突出了网络服务提供者在新兴技术如人工智能应用中的法律责任，尤其是在处理个人姓名、肖像和一般人格权时的审慎义务。

02

具体法律分析

1、网络服务提供者在不同算法设计中的责任：

案例中，被告公司的软件使用了算法来创建和互动虚拟人物，这些人物是基于真实人物的姓名和肖像。这种算法设计体现了设计者的价值观，即使算法本身可能被视为技术中立。

法院特别指出，尽管技术中立原则在知识产权领域得到认可，但在此案中，算法的应用显著受到设计者价值观的影响，特别是在涉及公众人物姓名和肖像的使用上。被告作为网络服务提供者，通过其软件的规则设计和算法部署，创造了一种环境，使得用户可以上传和使用真实人物的姓名和肖像，创建虚拟人物。法院认为，被告的行为不符合《中华人民共和国侵权责任法》第三十六条第二款和《中华人民共和国民法典》第一千一百九十五条规定的免责情形。被告在其软件中的这种操作和规则设计被认为是对原告的肖像权、姓名权及一般人格权的侵犯。法院的判决强调了网络服务提供者在算法设计和应用方面的责任，特别是在涉及个人权利（如肖像权、姓名权）的情况下。该案件表明，即使在高度自动化和技术驱动的环境中，网络服务提供者也需要对其平台上的内容和用户互动的后果负责。

因此，此案例强调了网络服务提供者在不同算法设计中的责任，并指出即使是技术中立的算法也可能因其应用方式而产生法律责任。这一判决对于网络服务提供者如何设计和管理其平台上的算法和内容提供了重要的司法指导。

2、法院对“避风港”原则的分析涉及到网络服务提供者在算法应用、内容服务提供方面的法律责任

法院指出，知识产权领域形成了“技术中立”原则，其中“实质性非侵权用途”的技术应用一般不作为网络服务提供者构成侵权的要件。这个原则体现了法律对新商业模式保持谦抑的价值取向，包含功能中立、责任中立、价值中立等概念，实际上反映了利益权衡的理念。法院认为，尽管算法有利于提高服务效率、优化用户体验，但算法本身是设计者在社会价值指引下结合自身价值判断设计的，因此不可能完全排除主体主观因素影响。

法院对案件中算法的应用进行了详细分析，区分了整体商业目的、规则设计、算法设计三个层面。案件中的软件设计让用户能够创设、上传真实人物的姓名、肖像，并与AI角色设置身份关系、进行“调教”等。这些功能使得用户创建的AI角色更具真实性和生动性，但缺乏相关审核规则和机制，存在较高的侵权风险。法院指出，这些算法的部署与应用明显体现了算法设计者的价值导向，几乎并不存在因“算法黑箱”或“算法灰箱”造成决策偏差导致侵权结果的情况，而是初始目的即可以预见有显而易见的侵权风险，即“实质侵权目的”。

法院认为，仅从技术服务的角度不利于权利保护及网络空间治理。对于本案中的使用方式，普通网络用户几无可能从其他自然人处获得授权。如果将被告仅作为技术服务提供者进行规制，将面临“无内容可审核”或“无内容可通过”的局面，不可能给用户带来持续更好的使用体验。法院强调，在这种情况下，被告作为特定商业模式的运营者和内容服务提供者，应该以企业名义、以合法授权方式获得公众人物、公众形象权利人对特定权利或权益的合法授权并提供给网络用户使用，更具现实操作性，更有利于该模式的发展。

3、算法设计与侵权行为研究

本案中，被告公司设计的AI技术允许用户创建基于真实人物的虚拟角色，并与之互动。算法的设计明显体现了设计者的商业目的和价值导向，特别是在鼓励用户围绕AI角色上传素材、创作语料等方面。这种设计方式导致了一种用户行为的引导，即用户倾向于创建和互动与真实公众人物相似的虚拟人物。这种做法可能激励用户无意识地侵犯了真实人物的肖像权、姓名权等。

被告公司的算法不仅在设计上具有特定的商业导向，而且在实际部署和应用中，这种设计思路得到了进一步的强化。例如，聚类算法和阈值自动化实施等技术在实际应用中，使得AI角色的行为和特征更加符合用户期望，尤其是在模拟真实公众人物方面。这种应用方式增加了侵权行为的风险，因为它促使用户生成和分享可能侵犯真实人物权利的内容。

尽管技术中立原则通常被认为适用于AI算法，但本案展示了当算法的设计和应用被明显的商业目的和价值判断所影响时，算法中立性的局限性。从这个角度看，被告公司的AI技术并不完全中立，其设计和应用反映了特定的商业和价值取向，特别是在鼓励用户创造和互动与真实人物相似的虚拟角色方面。即使是被广泛认为是“中立”的AI技术，也可能因其设计和应用的特定方式而带有明显的价值导向。这种价值导向对算法的中立性构成了挑战，尤其是在它可能导致侵犯个人权利的情况下。

03

本案争议焦点分析总结

1、算法的中立性和责任归属：

本案中，被告公司的软件通过算法使用户能够创建和互动的虚拟人物，这些虚拟人物基于真实人物的姓名和肖像。法院审理中特别强调算法不可能完全中立，因为它是设计者根据社会价值观和个人判断设计的，因此在实践中可能存在偏见或歧视。尽管技术中立原则在知识产权领域得到了认可，但该案件中算法的应用显著受到设计者价值观的影响，尤其是在涉及公众人物姓名和肖像的使用上。

2、是否构成侵权：

法院分析了被告软件的商业目的、规则设计和算法设计，指出被告的算法设计明显体现了设计者的价值导向。算法形成了“角色命名系统”，使用户创作的语料不断接近其共同希望的该角色“性格”或“人设”，并且被告通过算法部署和应用，鼓励用户围绕AI角色上传素材、创作语料，这增加了侵权风险。被告公司探索的商业模式虽然贴合年轻人需求并体现了创新思维，但产业创新不能建立在侵害他人人格权益的基础上。这意味着，无论商业模式多么创新或符合市场需求，它都不能作为侵犯他人合法权利的借口或理由。

互联网服务提供者在进行创新探索的同时，必须严格遵守法律规定，尊重他人权益。这一点在新兴技术领域尤其重要，因为这些领域的快速发展可能会带来新的法律和道德挑战。被告的行为不符合《中华人民共和国侵权责任法》第三十六条第二款和《中华人民共和国民法典》第一千一百九十五条规定的因采取必要措施而免责的情形。同时广大网络用户在使用网络产品时，应不断强化尊重他人人格权益的意识。这表明，法院认为维护一个清朗的网络空间不仅仅是服务提供者的责任，用户也应负有一定的责任。

法院在本案中的判决反映出一种平衡，既重视产业创新，也强调必须在尊重和保护他人合法权益的框架内进行。这一判决对于引导互联网服务提供者和用户在享受科技带来的便利的同时，遵循法律规定和道德准则具有重要的指导意义

3、侵权责任的承担：

法院确认被告公司通过其软件允许用户未经授权使用何炅的姓名和肖像，创建以他为原型的虚拟角色，并进行互动，构成了对原告肖像权和姓名权的侵犯。这一判决强调了即使在数字化、算法驱动的环境中，个人的基本权利，如肖像权和姓名权，仍应得到法律保护。

法院进一步确认被告的行为侵犯了原告的一般人格权。这涉及到超越具体肖像权或姓名权的更广泛的个人权利范畴，包括对个人形象和声誉的保护。

根据判决特别指出，被告公司的算法设计和应用不仅仅是技术性质的，而是有明确的商业目的和价值导向。算法不仅是技术工具，还反映了其背后的价值判断和商业策略。因此，被告公司作为算法的设计者和应用者，需对由此引起的侵权行为承担责任。

法院指出，尽管在技术层面上可能认为算法具有中立性，但在具体应用中，算法设计者的价值取向和商业模式会直接影响算法的实际效果。在本案中，算法的应用显著体现了设计者的商业利益，导致了对原告权利的侵害。进一步分析表明，在涉及新技术应用的法律案件中，责任判定需要综合考量技术设计、商业模式和实际应用效果。在本案中，法院综合考虑了被告公司的商业目的、软件规则设计、以及算法的具体部署和应用方式，最终确认了其侵权责任。

总的来说，这一判决展示了法院在处理涉及新技术应用的侵权案件时的综合考量方式，特别是在确定算法设计者和使用者的责任方面。法院的判断强调了即使在高度数字化和技术化的环境中，被告公司因侵犯原告的肖像权、姓名权及一般人格权，需承担相应的法律责任，包括赔礼道歉、赔偿经济损失以及精神损害抚慰金。这一判决体现了法院在面对新兴技术应用时对人格权保护的重视，并对算法应用中可能出现的法律问题提供了重要的司法解释。

（本文仅代表作者观点，不代表知产力立场）

封面来源 | 知产力