原创 | 赵精武：论交互对话式人工智能服务提供者的注意义务

来源：【《法律适用》杂志】

文章发表于《法律适用》2025年第4期“法学论坛”栏目，第119-134页。因文章篇幅较长，为方便电子阅读，已略去原文注释。

*赵精武，北京航空航天大学法学院副教授，法学博士。

本文系国家社科基金重大项目“信息法基础”（项目编号：16ZDA075）的阶段性成果。

摘 要：现阶段，人工智能服务存在各类潜在的技术风险，《生成式人工智能服务管理暂行办法》虽对此作出了详尽规定，但主要面向的风险类型是生成违法信息，并未针对技术上“模型幻觉”带来的生成内容准确性问题作出专门规定。交互对话式人工智能服务与搜索引擎服务、消费点评信息服务具有相似性，生成内容的不准确同样可能导致侵权事件的发生。因此，有必要明确该类服务提供者在保障生成内容准确性方面的注意义务。该类服务主体更适宜被认定为特殊类型的网络信息服务提供者，其注意义务的认定标准应当是“采用行业通行技术措施”，以此确保服务功能符合市场平均水平，并细分为服务功能可靠性的基本保障义务、服务功能的显著提示说明义务和生成内容的信息来源提示义务。

关键词：注意义务 交互对话 搜索引擎 消费点评 人工智能幻觉

一、问题的提出

《中共中央关于进一步全面深化改革 推进中国式现代化的决定》提出，完善推动人工智能等战略性产业发展政策和治理体系。2025年《政府工作报告》明确提及“激发数字经济创新活力。持续推进‘人工智能+’行动，将数字技术与制造优势、市场优势更好结合起来，支持大模型广泛应用……”在我国人工智能产业政策指引下，国产大模型DeepSeek、豆包、Kimi等人工智能产品推动了定制化信息服务的发展，特别是用户终端所呈现的智能对话摆脱了以往人工智能客服对话的“固定文本”，使得用户能够以更快更准确的方式查找到自己所需要的网络信息内容。这种智能化的信息服务模式极大地改变了用户体验，使得用户能够通过细化和调整自己意欲获得的知识范畴、要点和时效性，获得更为专业且详细的目标知识。从市场实践来看，这些交互对话式人工智能产品最终输出的文本信息较为简短，但随着技术创新和市场实践探索，诸如Kimi、Claude 2-100K和GPT4-32K等人工智能产品已经能够支持长文本的分析处理活动，甚至部分人工智能产品所能处理的长文本信息大小已经达到数百万汉字。

这种高度智能化的信息分析处理能力也引发了社会担忧。因为人工智能产品在服务于医疗辅助诊断、道路交通拥堵情况、天气监测等领域的同时，其智能化功能亦有可能成为违法行为的技术工具，降低违法成本。事实上，在人工智能治理实践中，已经开始出现利用交互对话式人工智能生成网络谣言、网络诈骗信息等违法现象。例如，在上海警方打击网络谣言专项行动中，就存在涉案人员利用人工智能杜撰重大命案文章的现象。同时，学界也展开了有关人工智能生成内容监管的理论探讨，主流观点普遍将研究重心放在网络虚假信息、著作权侵权信息等生成内容的治理之上，相应的研究结论也是围绕人工智能服务研发者、提供者应当对生成内容承担何种法定义务以及相应的法律责任展开。这些治理实践和研究趋势也间接推动了《生成式人工智能服务管理暂行办法》（以下简称《办法》）的出台，该《办法》在“第三章 服务规范”部分系统性规定了提供者的“网络信息内容生产者责任”。

然而，在学界对生成内容展开如火如荼的“规制论”“治理论”研究的同时，有一个实践性问题被忽视了：交互对话式人工智能产品在某种程度上与当下的搜索引擎服务、消费点评服务具有一定的相似性，都是根据用户输入的问题，输出相关的网络推荐信息。倘若这些生成内容存在信息不实、信息错误等问题，服务提供者是否应当就此承担相应的法律责任尚难确定。若以搜索引擎论之，服务提供者应当承担与竞价排名不实等相关的法律责任，但这又超出了现有人工智能的技术水平，因为没有任何人工智能服务提供者能够保证生成内容的绝对准确性。若以一般信息服务论之，鉴于现有技术的局限性，对服务提供者施加内容审核义务可能存在超出实际义务履行能力的问题。此种“悖论”的核心问题在于，若生成内容不准确，但并不构成法定的不良信息和违法信息时，交互对话式人工智能服务提供者对这些生成内容应当承担何种程度的注意义务。

此外，这种生成内容不准确问题也与人工智能大模型的“幻觉”问题存在一定关联性，后者主要是指大模型输出内容是“编造、虚构和臆断的”。这两类问题本质上均指向了人工智能大模型生成内容与真实情况不符，并且这种“幻觉”问题所能造成的后果也被部分学者总结为“用户基于技术的高度信赖感而相信错误内容”“医疗、法律等垂直领域应用生成错误的专业信息”等。生成内容不准确问题不仅是生成与真实情况不符的信息，而且还包括生成信息的“真假参半”，这也就导致用户更加难以辨识生成内容的可靠性。原本生成内容不准确属于技术创新过程必然存在的普遍现象，没有必要作为独立的法律问题专门讨论，但是在高度科技化的人机对话、铺天盖地的人工智能产业营销渲染下，用户很容易对人工智能产品的性能产生过高的期待，并轻易相信生成内容的准确性。一旦这些人工智能产品被错误地用于医疗、法律等领域，生成内容不准确所导致的损害结果将扩大至人身伤害和重大财产损失。

二、交互对话式人工智能服务的法律性质认定

在探讨交互对话式人工智能服务提供者注意义务之前，有必要先行明确该类人工智能服务的法律性质究竟是搜索引擎服务，还是消费点评服务，抑或一般的信息服务。这些信息服务类型的确认直接关系到应当以何种标准解释服务提供者的注意义务及其具体内容。

（一）交互对话式人工智能服务与传统搜索引擎的关系

我国现行立法并未对“搜索引擎服务”作出明确界定，法院多关注该类信息服务在竞价排名方面的特殊性。例如，在唐山市某信息服务有限公司诉北京某科技有限公司滥用市场支配地位纠纷案中，法院关注某度搜索引擎的主要业务是竞价排名。在南京某餐饮管理有限公司诉北京某有限公司侵害商标权及不正当竞争纠纷案中，法院关注的同样是某度搜索引擎的排序算法，判断搜索结果生成的技术原理。在上海某网络科技有限公司诉上海某文化交流有限公司服务合同纠纷案中，法院认定网络搜索引擎是重要信息提供平台，其业务模式是“通过搜索引擎的关键词优先排名结果，点击浏览与自身需求相关的网站”，且网络搜索引擎服务已经成为“广大网络用户获取参考信息，作出消费选择的便捷方式，也是经营者进行营销推广，获取客户资源与商业机会的重要渠道”。类似的界定方式还包括搜索引擎是“帮助互联网用户迅速查找并显示其所需要的信息，搜索引擎已经成为消费者搜索商品或服务信息的重要渠道”。此外，个别的政府工作文件中也有提及搜索引擎服务概念，如2012年发布的《网络文化市场执法工作指引（试行）》第38条第1款将“搜索引擎”界定为“根据一定的策略，运用特定的计算机程序从互联网上搜集信息，在对信息进行组织和处理后，为用户提供检索服务，将用户检索相关的信息展示给用户的系统”。

从上述表述来看，搜索引擎服务的最核心要素包括“信息检索”和“信息排序”两个方面。该类信息服务的核心目标是为用户提供所需要的目标信息，依托的信息技术包括但不限于网络爬虫、检索排序、网页处理等。具体而言，判断某项信息服务是否构成搜索引擎服务，可以从以下四个业务环节综合判断。一是抓取环节，即特定信息服务呈现检索结果的前提是需要先行对网页内容进行访问和内容提取。二是检索环节，即特定信息服务应当采用一定的检索策略，发现、识别和抓取网络空间中与检索关键词等相关的网络链接。三是索引环节，即特定信息服务需要将抓取的网络数据、网页内容添加到搜索索引的大型数据库中，以使这些网页内容能够更快地呈现给用户。四是排序环节，即特定信息服务最终呈现的信息检索结果应当按照特定标准进行排序，这里的特定标准包括网页内容与关键词的关联程度、是否属于官方网站、网站访问频率等。例如，常见的竞价排名模式便是企业向搜索引擎服务提供者支付一定费用，设定相关关键词，每当消费者输入设定好的关键词进行检索时，付费企业的网站链接或产品广告便会在搜索页面的显著位置优先排序。

交互对话式人工智能服务与传统搜索引擎服务模式具有一定的相似性。在实践中，该类人工智能服务的“检索排序”功能主要表现为，通过输入特定问题，根据问题的要求输出相对应的网络信息内容。例如，在部分人工智能产品中分别输入“在北京旅游，推荐十家/五家酒店，并显示酒店网址链接”后，输出结果便是具体的酒店名称和网址链接。与传统搜索引擎相比，人工智能服务是按照用户问题进行更精细化的检索和输出，相应的数据结果是特别具体的内容。其中，部分人工智能生成内容会先在最下面一行显示“这些酒店在位置、设施和服务上具有很高的评价”，也有其他人工智能产品的生成内容会先行显示“搜索来源”，并列明生成结果与这些搜索来源的关系。由此来看，这类人工智能服务与传统搜索引擎服务的核心差别在于，前者实质上进行了“二次信息加工”。简言之，前者的检索模式更像是在后者检索结果的基础上提供了更进一步的信息筛选和剔除。因此，交互对话式人工智能服务虽然部分功能涉及搜索引擎服务，但是并不能就此认定其属于传统搜索引擎服务。

（二）交互对话式人工智能服务与消费点评服务的关系

交互对话式人工智能服务根据用户询问的问题会生成类似相关店铺的推送信息，但在实践层面，不同的人工智能服务生成的信息内容会有所差异。例如，在市场上常见的人工智能产品中输入“北京市最好吃的烤鸭店”，有的输出内容是在列举全聚德、便宜坊、四季民福、大董、利群等烤鸭店的同时，还会附加推荐门店、适合人群、推荐理由、特色等信息；也有的输出内容是列举全聚德、便宜坊、四季民福、大董、长安壹号、大鸭梨等烤鸭店以及相应的搜索来源（网页点评信息），并附加上部分烤鸭探店的短视频。比较这些生成内容，不难发现后一种服务模式与当下网络消费点评网站的服务模式更为相近，即通过抓取网络上的探店信息、消费点评信息等内容，形成相应的店铺推荐结果。人工智能服务生成的消费点评信息结果与传统网络消费点评的差异性主要表现为，传统的网络消费点评信息结果或是根据用户输入的关键词等内容进行对应结果推送，或是根据店铺名称提供相关的点评信息，而交互对话式人工智能服务的生成结果则是经过对网络消费点评信息抓取分析而得出的。

在司法实践中，法院对于网络消费点评信息服务的判断主要集中于该平台以何种方式控制或影响平台内的信息交互活动。在最高人民法院发布的2023年人民法院反垄断和反不正当竞争典型案例中，法院将某点评信息网界定为“一个为用户提供商户信息、消费点评及消费优惠等信息服务的本地生活信息及交易平台，平台点评规则要求用户发布信息时，应确保信息的真实性、客观性、合法性”。法院在其他案件中也作出过类似认定，将某点评信息网的主营业务界定为“提供本地生活信息、消费点评等信息的存储空间服务，为合作商户提供团购、预定、外卖等交易服务，任何注册用户均可在该网站创建店铺信息”。从法院现有的裁判思路来看，网络消费点评网站所涉及的信息服务类型不仅包括消费点评信息，还包括商户信息、消费优惠等其他信息。在业务逻辑上，这些信息类型及相关具体业务还是本地生活服务的组成部分。按照此标准，交互对话式人工智能的生成内容仅以消费点评信息为限，并且这些点评信息大多是从网页内容抓取获得，属于对现有消费点评信息的重新展示。此外，生成内容并不涉及商户信息、商户入驻服务、消费优惠服务等信息，故而交互对话式人工智能不应当被视为消费点评服务。

然而，上述结论尚不能如此轻易得出。在商业实践中，具体的业务模式往往会因服务提供者的商业决策而有所不同，在法律性质认定过程中，不能因为部分业务内容的细微差异而直接认定其属于新型业务模式。之所以要将消费点评服务单独列举，是因为这类信息服务的真实性、完整性和可靠性是消费者作出消费决策的重要参考，服务质量也直接关系到消费者权益的保护。部分平台常以消费点评信息的真实性作为卖点，吸引用户使用并信任其所提供的消费点评服务。因此，交互对话式人工智能不应当被视为消费点评服务，这一结论的判断依据除生成内容的单一性外，还包括交互对话式人工智能服务不具备信息发布功能，其生成的消费点评信息实质上是其他网站链接上的点评信息、部分文旅官网所发布的旅游或消费推荐信息等。此时，影响人工智能服务提供者是否应当承担内容审核义务的正当性依据不再是消费点评信息本身，而是该类信息抓取和处理活动是否合理正当。交互对话式人工智能服务提供者并未直接获取消费者关于特定商户、旅游景点等的点评信息，实际上是利用网络爬虫技术抓取与用户输入内容相关的消费点评信息。

（三）交互对话式人工智能服务的法律性质再定位

基于上述业务实践层面的分析，交互对话式人工智能服务既不属于搜索引擎服务，也不属于消费点评服务，那么是否意味着该类服务应当以一般信息服务论之？《办法》第9条规定，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。如果仅从文义解释角度理解，《办法》是将相关信息服务定位为网络信息内容生产，实践情况却是生成内容的前提是用户输入相应的信息生成请求。从治理目的来看，该条实际上更侧重强调提供者应当承担何种类型的法律责任，因为提供者所需要承担的法定义务是围绕网络信息内容审核、屏蔽等具体措施展开，在内容层面与网络信息内容生产者的法定义务较为相似。再结合前述与搜索引擎服务、消费点评服务的比较来看，交互对话式人工智能服务与常见的信息服务类型均存在不同程度的内容交叉、部分业务特征相同的情况，无论将该服务认定为哪一类常见信息服务类型均不合适。这种特征是由技术应用模式所决定的，交互对话式人工智能服务通过海量网络数据的训练优化，能够针对用户提出的各类具体问题反馈对应的网络信息分析处理结果。并且，根据用户提问方式的不同，也会呈现出其他信息服务模式的基本特征。但是，如果按照一般信息服务论之，在一定程度上又无法涵盖交互对话式人工智能服务的特殊性，因为与其他一般信息服务相比，其可能存在更高的技术滥用风险。

现有研究对于人工智能信息服务、服务提供者法律性质的界定尚未达成共识，其原因是人工智能信息服务会随着论证语境、应用场景等“个案式”因素的变化而发生法律性质的变化。在版权保护层面，有学者提出否定生成式人工智能服务提供者属于网络服务提供者的论断，因为人工智能服务属于“知识创造工具”，服务提供者兼具技术服务与内容提供的双重主体身份，传统意义上的网络服务提供者义务理论无法直接继续沿用。在通用人工智能层面，同样有观点认为，通用人工智能服务提供者不属于网络服务提供者。一方面，该类提供者简化了搜索引擎服务将检索结果交由用户自行决定的环节，直接提供“最优答案”，故而不属于传统意义上的网络服务提供者；另一方面，通用人工智能按照用户输入指令生成新内容，故而也不属于新型网络服务提供者，更确切地说，该类提供者应当属于新型网络内容提供者。该观点所指向的网络服务提供者概念是《信息网络传播权保护条例》层面的狭义内涵，并非宽泛意义上的网络信息服务提供者。事实上，现行立法存在“网络服务提供者”“网络运营商”“网络信息内容生产者”“网络信息内容服务平台”“网络信息服务提供者”“互联网信息服务提供者”等数个内涵相近的概念表述，鉴于注意义务的民法论述语境以及网络信息内容治理目标，将交互对话式人工智能服务提供者理解为“网络信息服务提供者”更为妥当。民法典侵权责任编采用的是“网络服务提供者”，而《网络信息内容生态治理规定》《网络出版服务管理规定》等采用的是“网络信息服务提供者”，在概念逻辑上，可以将“网络信息服务提供者”视为“网络服务提供者”的类型之一。

不过，仅将交互对话式人工智能服务认定为一般的网络信息服务无法契合该类服务存在的技术滥用风险。同时，在法理逻辑层面，某类信息服务的具体特征和属性不应当由立法者预先设立，而应当在产业实践充分成熟之后，再行确定该类信息服务应当按照何种信息服务类型予以调整。因此，结合产业实践尚处于发展探索阶段这一情况，更适宜将交互对话式人工智能服务定位为新型网络信息服务，不属于现行立法所规定的既有网络信息服务。如此一来，既能够合理解释该类服务提供者所承担的注意义务为何需要区别于其他网络服务提供者，也能够预留足够的解释空间，确保该类服务提供者注意义务的内容能够根据产业实践的变化而有所变化。还需要说明的是，实践中已经存在的人工智能搜索引擎服务，其法律性质终究没有摆脱搜索引擎服务的基本特征，故而继续以搜索引擎服务论之即可。

三、交互对话式人工智能服务提供者注意义务的理论证成

交互对话式人工智能服务作为新型网络信息服务，在相关产业形态尚未成熟之前，需要采取更为灵活的注意义务认定标准。这既需要衔接民法典中有关网络服务提供者的注意义务标准，也需要回应《办法》等法律规范中有关网络信息服务提供者的监管要求。

（一）服务提供者注意义务的理论疏漏

学界关于该类服务提供者注意义务的研究大多从生成内容是否涉及侵权的角度切入，相关的研究视角大体包括三类：

第一类是生成内容可控视角，即基于人工智能生成内容涉及侵犯著作权的考量，主张将服务提供者注意义务的具体内容解释为事前预防生成侵犯著作权内容的设计义务、预防用户诱导生成侵权内容的审核管理义务。部分学者将这些义务内容的正当性基础解释为“控制能力”和“获益水平”两个要素：“控制能力”是指服务提供者可以通过输入数据的选择与算法模型设计影响最终的生成内容；“获益水平”是指服务提供者的主要收益方式系提高内容生成服务质量，而非增加违法内容生成，故而其注意义务的认定标准应当介于“通知—必要措施”和“算法推荐服务提供者的严格审查义务”之间。

第二类是算法推荐服务信息审核视角，即基于算法推荐服务提供者能够有效干预算法推荐结果，主张算法推荐服务提供者应当属于承担较高注意义务的网络服务提供者。部分观点认为，算法推荐与人工推荐在实质效果上并无区别，平台的介入行为能够对算法推荐结果产生重要影响，故而需要承担较高的注意义务。至于何为“较高的注意义务”，有观点对此解释道，“应当以一般注意义务为基准向外扩张，并以人为推荐模式下的注意义务标准为最大外延，处于二者之间的过渡区间”。

第三类是自动驾驶刑事责任视角，即基于自动驾驶可能产生的各类安全风险，主张将制造商、信息系统研发者等法律主体的注意义务解释为不同层面的安全保障义务。或是按照研发、生产、销售等技术环节，分别明确研发者、制造商、销售商各自的注意义务，如产品投放市场后，制造商与销售商需要尽到合理的警示义务与产品完善义务。又或是在区分辅助驾驶与自动驾驶的基础上，将自动驾驶车辆的注意义务内容囊括到测试、运营、保险、数据安全与隐私权、自动驾驶伦理和网络安全六个方面。

尽管学者们对人工智能服务提供者注意义务的内容与认定标准存在不同观点，但从其论证逻辑来看，本质上均属于不同程度的风险权衡逻辑和信息控制能力比较。因为确认注意义务标准和内容的首要前提是判断义务主体在多大程度上能够采取有效措施预防风险事件的发生，所以无论基于何种研究视角，理应先行判断义务主体对行为结果的实际控制能力。但是，人工智能技术并非绝对安全可靠的信息技术，相应的技术风险是客观存在的，此时，控制能力解释论则会陷入“义务主体以技术局限为由规避义务”的局面。故而不少学者从“谁受益，谁担责”“容许风险的判断”“公平分配”等风险权衡的角度，进一步解释义务主体注意义务的认定标准和具体内容，推导出义务主体应当在事前阶段采取信息屏蔽、优化算法模型等措施预防侵权事件的发生。这种注意义务的论证方式可适用于一般的网络信息服务提供者，但并不能很好地体现人工智能技术特征。其一，这些论证方式在很大程度上延续了以往网络平台运营者注意义务的论证思路，相应的注意义务结论与民法典网络服务提供者的注意义务并没有实质差异。其二，在法学视角下，人工智能表现出泛用性和动态性的技术特征。泛用性是指人工智能技术能够应用于多个业务场景，相应的业务模式也会随着业务场景变化而有所变化。动态性是指现阶段人工智能技术尚处于发展阶段，现有的业务模式在未来是否会发生实质性变化尚不可知。现有研究实际上忽视了从当下技术发展水平的研究视角确认注意义务内容，也忽视了生成内容不准确时提供者注意义务的认定标准。

（二）生成内容不准确时注意义务的正当性基础

与生成违法信息内容相比，生成内容不准确同样可能导致侵权问题。例如，用户输入特定区域的美食推荐等指令时，人工智能产品生成具有贬低性的商户消费评价信息；又或者用户输入推荐相关知名医院时，人工智能产品生成的医院信息有误，使得用户选择了错误的医院。这些情形或导致商户声誉受损，或导致用户作出错误决策，但均不属于《网络信息内容生态治理规定》第6条和第7条规定的违法信息和不良信息。

倘若用户误信交互对话式人工智能生成的内容而作出错误决策或遭受权益损害，服务提供者是否应当承担相应的侵权责任，需要将其是否履行了注意义务作为判断标准之一。该类信息服务具有部分类似搜索引擎、消费点评服务的特征，如若生成与商誉损害相关的信息内容，亦存在是否需要承担侵权责任的问题。这种质疑似乎超出技术实践，因为实践中并没有任何一个服务提供者声称其人工智能服务具有相当可靠的生成内容，故理应默许这种技术局限性。然而，这也意味着服务提供者无需对其生成错误信息所产生的后果承担法律责任，技术局限性成为“最方便”的免责事由。回归到功能目的层面，注意义务理论的核心功能是作为判断行为人是否存在过错的一个外在标准。早些年侵权责任法的相关学理论争对现代侵权责任法的根本功能存在不同理解，惩罚、预防、补偿等观念在其中皆有提及。也有学者提出“平衡利益”，认为注意义务是“行为人应采取合理的注意而避免给他人的人身或财产造成损害的义务”，该义务的确立使得侵权责任法能够在保障积极作为权利的同时避免损害其他利益。

确立交互对话式人工智能服务生成错误内容时的注意义务，是为了在保障科技创新和产业探索的同时，避免对他人权益造成损害，这本身亦是一种利益平衡、风险分配的制度设计逻辑。在利益平衡方面，科技创新与风险预防的平衡问题始终是人工智能技术治理领域最常被讨论的理论问题，但大多讨论停留于抽象价值层面的论证，未能提出一种普适性的理论范式。涉及注意义务认定标准时，这种抽象价值层面的平衡方式却可以按照相对确定的方式探讨，因为此时的价值平衡并不涉及具体的权利平衡，而更多地表现为一种价值优先顺位问题。此外，在早些年的注意义务理论研究中，也有观点认为，注意义务的设置与公共政策评价类似，即通过道德、社会、经济、管理等非法学要素确保注意义务内容的与时俱进。生成内容不准确这一结果的社会危害性较低，从现有技术服务普及度、服务营销方式等要素来看，社会公众一般情况下并不轻易信赖人工智能生成内容完全准确，此时的科技创新顺位优先于安全风险预防，服务提供者的注意义务认定标准应当略低于生成侵权信息等情形下的注意义务认定标准。并且，此类人工智能服务所生成的检索、消费点评信息并不具有唯一指向性，大多数情况下仍然需要由消费者自行选择是否采用。

学界对于网络服务提供者的注意义务内容研究已经较为充分，从事前内容审核到事中技术优化升级再到事后的反馈整改等均有提及。有学者提出，搜索引擎服务提供者在收到侵权通知前后分别负有“主动防范义务”和“危险控制义务”。也有学者将目前主流的注意义务理论基础总结为“危险控制论”“收益与风险一致原则”以及“社会成本控制理论”，并认为这些理论可能存在义务过重的弊端，进而主张将“善良管理人”作为注意义务的认定标准。这些研究理论均建立在网络服务提供者能够对其业务活动进行合理有效控制的基础上，且所谓的注意义务认定标准在某种程度上与刑法学领域的“注意义务的机能是将行为人遵守行为规范的能力维持在一定水平之上”这类论断类似，均强调注意义务的设置不应当超出其控制范围。至于诸如“收益与风险一致原则”“危险控制论”等主张则是在比较实际风险控制能力、损失承担能力等要素的基础上，按照公平原则的法理逻辑适当提升特定网络服务提供者的注意义务认定标准。对于确保生成内容准确这一治理目标而言，服务提供者的实际控制效果不会超出现有的技术水平。在科技创新与安全风险预防的利益平衡方面，更应当充分预留足够的科技创新试错空间。因此，服务提供者注意义务的一般性认定标准应当是“采用行业通行技术措施”，即采用不存在显著功能故障、安全漏洞的信息系统或技术方案。

（三）生成内容不准确时注意义务的内容建构

交互对话式人工智能服务的特殊性也对服务提供者注意义务的认定标准产生一定影响。首先，该类服务具有泛用性，既可以与特定行业应用场景相结合，形成新型的业务模式，也可以作为一类通用型的人工智能服务，以类似“百科全书”的方式完成知识信息检索和处理。因此，在明确服务提供者注意义务时，需要先行明确是否具有专业应用性功能。如果服务提供者所提供的信息服务是面向特定行业，其注意义务就应当包括符合该行业的一般性专业知识要求。其次，交互对话式人工智能服务生成内容的准确性与训练数据的时效性相关，生成内容的不准确是客观存在的，如DeepSeek、ChatGPT在推出之初同样存在无法生成最新知识信息的问题。因此，对服务提供者施加注意义务并不是要求该义务主体确保生成内容完全准确，而是确保生成内容的相对准确，故而注意义务的内容也不是同一般网络信息内容生产者那般，需要采取较为严格的义务履行标准。最后，该类服务具有动态性特征，现阶段的众多生成式人工智能产品只是该类服务的一个发展阶段，未来的技术发展动向无法准确预测，或是以私人助理的服务形式出现，又或是以专业知识检索工具的形式出现。过早界定该类服务的具体法律性质可能会与其发展模式产生冲突。即便采用类似“分级分类”的治理思路，按照该类服务实际提供的信息类型判断提供者的注意义务，也只会导致服务提供者最终的注意义务内容越来越繁杂，造成非必要的负担。服务提供者注意义务的认定标准更适宜采用“业务功能与合同目的相一致”的判断标准，即生成内容的准确性程度应当与服务提供者在用户协议、官方网站中所承诺的服务性能相匹配。

简言之，服务提供者在保障生成内容准确性层面的注意义务本质上是一种约定功能实现的保障规范。生成内容不准确导致的侵权问题在很大程度上与用户对该类服务的功能定位认知相关，故而注意义务的履行目的是确保该类服务符合用户理解范畴内的功能要求。基于此逻辑，便延伸出注意义务两个方面的功能目标：一是服务提供者应当事前让用户基本知晓其服务的功能类型和功能水平。只有用户对服务功能形成正确理解，才不会对生成内容准确程度盲目信从，从而避免侵权事件的发生。二是服务提供者应当让用户知晓人工智能技术的客观局限性。用户在认识到服务功能有限性的同时有可能产生“服务质量有瑕疵”“信息系统功能有限”等误解，这并非设置注意义务的初衷。为了平衡商业发展需求与权益保障，应当让用户知晓服务功能的有限性，并且知晓这种功能有限性不是信息服务质量存在问题，而是技术自身的局限性。不过，这两个方面“知晓”的目标并不是指服务提供者应当确保用户对其服务性质、功能、定位形成全面且系统的认识，这已经超出法律干预科技创新的必要范畴。更确切地说，这里的“知晓”内容仅以用户是否能够意识到服务功能的局限性为限。在一定程度上，这种“知晓”逻辑实际上与保险法领域的“提示说明义务”较为相似，后者也是通过提示说明的方式让投保人清晰知晓承保范围、除外责任等重要事项，只不过保险法领域的“知晓”要求更高。

四、交互对话式人工智能服务提供者注意义务的具体内容

在“采用行业通行技术措施”和“服务功能与合同目的相一致”认定标准基础上，结合注意义务的功能目的，可以推导出服务提供者三个层面的注意义务。第一，服务功能可靠性的基本保障义务。无法保障生成内容完全准确是客观存在的技术局限性，但这种局限性不能成为“无限”免责事由。服务提供者应当采用合理可靠的技术方案和信息系统，特别是在服务提供者与研发者相分离的情况下，保障最低限度的人工智能服务功能是实现信息服务合同目的的必然要求。第二，服务功能的显著提示说明义务。让用户知晓该类服务功能和局限性，最直接有效且成本低廉的方式便是服务提供者在用户终端或官方网站说明该类服务的基本特征。第三，生成内容信息来源提示义务。让用户知晓该类服务功能及其局限性的另一个方式便是直接列举生成内容的信息来源，说明生成内容仅仅是基于现有网络信息内容生成的，并不能确保具备足够的专业性和准确性。

（一）服务功能可靠性的基本保障义务

我国《网络安全法》《数据安全法》等法律规范均规定网络信息服务提供者应当履行网络安全保护义务和数据安全保护义务，确保网络信息系统的可靠性和安全性，并确立了更为具体的注意义务判断标准。但是，这些义务归根结底还是以确保必要的信息系统安全性和弹性为目的，义务履行标准更为严苛。相对而言，交互对话式人工智能服务提供者的注意义务履行标准相对较低，只需要服务提供者采用了符合行业通行标准的技术措施即可，并不要求服务提供者必须采取一切力所能及范围内的安全保障措施。因为此种注意义务的功能目标是确保交互对话式人工智能服务的功能符合市场平均水平，能够基本保障不会生成显著错误、显著违法的网络信息内容。更重要的是，生成内容的准确性与信息系统安全性实属两个维度的立法目标，二者所遵循的内在治理逻辑也存在显著差异。人工智能难以生成完全准确的网络信息属于客观事实，故而义务主体所要确保的生成内容准确性是一种“反向准确”，即只要不存在显著错误、不存在诱导用户确信生成内容准确即可；信息系统安全性则是一种更高标准的安全要求，义务主体不仅需要优先采用合理可靠的信息系统、技术方案，还需要在其能力范围内“用尽一切手段”预防各类安全风险事件的发生。

服务功能可靠性的基本保障义务以“采用行业通行技术措施”为核心判断标准，此处“行业通行”既包括行业内所普遍采用的信息技术，也包括行业内现阶段所能达到的技术效果和软件功能。这一点实际上与《民法典》第1221条将“当时的医疗水平”作为注意义务标准相类似。有学者将“当时的医疗水平”判断标准划分为“判断诊疗行为是否符合相关的诊疗规范”“尊重医学上的非主流观点”“强调风险的重要性”“考察医疗资源配置方面的客观因素”以及“审查医师的自由裁量权”五个步骤。因为医疗技术本身也处于持续发展状态，医疗方案的选择受多方面因素的影响，为了确保医疗机构和医师能够选择恰当的医疗方案，就需要将强制性诊疗规范、权威性诊疗规范和参考性诊疗规范共同作为设定注意义务的依据。现有研究在提及注意义务标准时，常倾向使用“一般理性人”等类似标准来解释注意义务的内容，或者结合具体应用场景提出“一般专业人士”标准。这类判断标准最终的结论还是回归到设置若干个具体判断标准，以此解释义务主体究竟是否已经尽到最大努力避免侵权事件的发生。

尽管人工智能技术并不像医疗诊断那般直接涉及用户的生命健康，但若生成内容涉及医疗方案、医疗机构选择等内容，同样会间接涉及用户的生命健康。为了避免“魏则西事件”等类似事件的再次发生，在服务功能可靠性的基本保障义务层面，同样需要设置多个环节的判断标准。第一步，判断生成内容是否会出现专业常识性内容错误。尽管人工智能技术尚处于发展阶段，但这并不等同于服务提供者可以将尚未优化完毕的算法模型直接投入市场提供服务。一旦此类服务业务模式相对成熟，这类仓促投入市场的信息服务反而会让用户难以辨别信息的可靠性。因此，服务功能至少不应当存在显著的专业常识性错误，这本质上也是算法模型优化所应当达到的最低功能保障标准。第二步，判断服务对象是否涉及付费用户和免费用户。部分服务提供者在提供免费服务的同时，还提供特定的付费服务，其优点或表现为生成信息内容更加详实，又或表现为信息检索来源更加广泛。在面向付费用户时，服务功能可靠性的保障要求会显著提升，因为在大多数情况下，用户付费的前提是对该类服务的可靠性、准确性存在一定程度的信任。第三步，判断服务功能是否可能涉及医疗保健等有关生命健康的信息内容生成。鉴于该类服务本身并不是直接以医疗辅助诊断的形式存在，服务可靠性的要求则表现为，医疗保健等生成内容应当不具有唯一性，并附有建议用户咨询专业医师等内容提示。这一要求旨在确保该类服务的生成内容属于辅助用户决策的知识信息，而非代替用户决策的具体医疗保健方案。

（二）服务功能的显著提示说明义务

无论是一般的网络信息服务提供者，还是生成式人工智能服务提供者，均负有不同层面的显著提示说明义务，这些义务的正当性基础实际上都是技术风险的必要性提示。因为各类网络信息服务存在不同程度的技术风险，并且这些风险无法通过强制性义务履行、技术更新等方式彻底解决。因此，风险的必要性提示成为绝大多数网络信息服务提供者注意义务的核心内容。注意义务的实际功能是确保交易活动的安全和公平，以义务主体的实际控制能力作为核心的认定依据。在网络信息服务领域，部分技术风险的不可控性决定了法律不可能要求网络服务提供者消除风险，而是采用各类预防措施，在网络服务提供者的能力范畴之内，最大限度地预防和控制技术风险的发生。风险的必要性提示属于义务主体的能力范围之内，且并不会造成过高的业务成本，故而也成为网络服务提供者最常见的注意义务内容。交互对话式人工智能服务的技术风险类型往往囊括了数据安全、算法歧视、网络安全等诸多风险类型，涉及生成内容准确性时，相应的技术风险则是用户基于对生成内容的确信无疑而遭受权益损害。故此，服务提供者的技术风险提示义务认定标准是最大限度地确保用户正确知晓服务功能的有限性。

在实践中，服务提供者对于交互对话式人工智能服务的定位表述有所不同，大体包括两类：一类是免责性表述，即在用户协议中注明该软件服务所生成的内容“仅供参考”，如涉及对用户权益造成重大影响的，建议咨询相关专业人士。另一类则是功能待更新型表述，即没有直接明确产品功能，而是直接以“问答产品”等类似表述一言以概之，并强调针对服务的特定功能会设置单独协议、业务规则等内容。其实质更强调交互对话式人工智能服务属于一种功能开放型信息服务，并不属于当下市面上已知的任何一种传统网络信息服务类型。总结而言，目前的生成式人工智能服务多以问答、交互对话为主，其服务功能也没有形成一个相对固定的业务模式，因此，服务提供者的提示说明义务还是以明确服务功能的多样性和有限性为主。具体来说：一是提示说明该类服务不具有高度专业化的知识生成功能，意在提示用户对于医疗、投资等领域的生成内容不应当完全确信其权威性；二是提示说明该类服务依托生成式人工智能技术，故而其服务功能与现阶段的人工智能技术水平保持一致，亦是服务功能有限性的另一种说明方式；三是在生成内容中增加兜底性提示说明，意在提示用户注意生成内容并不是用户输入指令的唯一答案或者全部答案。

交互对话式人工智能服务提供者的提示说明义务履行应当包括“功能说明”和“显著性”两个要求。“功能说明”要求服务提供者的说明事项应当能够以言简意赅的方式阐明该服务的核心功能定位，“显著性”则要求服务提供者的说明方式应当足以吸引用户关注，常见的方式包括字体加粗、页面弹窗等。不过，与一般网络信息服务提供者的提示说明义务相比，该类服务的提示说明目的是明确其核心的服务功能和生成内容的准确程度，所以其义务履行方式并不一定非要以用户协议明确说明为限，而是应当更侧重让用户在使用该服务之前就能对服务功能有一个大致明确的认知。恰如前文所提及的，这种“知晓”不是事无巨细地知晓，而是能够基本认识到“生成内容存在一定程度的不准确，还需要用户自行斟酌选择和决策”这一事实即可。从“知情效果”的角度考量，在用户终端界面以输入框水印文字、生成内容附带的显著提示语等方式进行服务功能的提示说明，更能吸引用户关注并了解该服务的功能水平。

（三）生成内容的信息来源提示义务

交互对话式人工智能服务的生成结果与传统搜索引擎、消费点评信息服务相比，实际上省却了将所有网络信息逐一罗列的环节。它直接根据用户输入指令，生成最符合指令要求的信息处理结果。除了必要的说明提示义务外，服务提供者还应当单独对生成内容的可靠性作出解释，而这种解释可以通过信息来源提示义务来实现。设置这样的注意义务原因有三：其一，该类服务的生成内容实质是对已有知识信息的整合处理，并不涉及新知创造，对信息来源进行必要提示和说明能够帮助用户更好地知晓生成内容的可靠性和准确性。其二，该类服务生成内容的时效性、准确性在很大程度上取决于训练数据的范围、类型、质量和时效性，强制要求服务提供者直接对训练数据的使用情况进行解释说明超出了法律干预的必要范围，而对信息来源进行提示说明在契合注意义务功能目标的同时，也不至于实质性增加服务提供者的义务履行成本。其三，对生成内容的信息来源提示和说明也是为了让用户能够明白该类信息服务的核心定位始终是辅助用户决策，而非代替用户进行决策。信息来源的解释说明在一定程度上能够帮助用户更好地决定是否采纳该类服务的生成内容，并根据信息来源依据的可靠性，初步判断生成内容的准确程度。

需要澄清的是，生成内容的信息来源提示义务并不意味着服务提供者需要对应生成内容逐一列举信息的来源，也不意味着服务提供者需要对生成内容的生成过程、生成原理作出充分详尽的解释。该类注意义务的正当性基础是服务提供者辅助不具备专业知识的用户判断和理解生成内容的准确程度，避免因盲目相信生成内容而导致权益受损。进一步而言，该项注意义务的实质性履行标准是，服务提供者能够解释输出该生成内容的主要依据。例如，在用户输入涉及“最好的”“最差的”“推荐”等评价性指令时，服务提供者需要在生成内容中增加有关输出结果的基本依据——或显示“根据网络上已有的点评信息作出以下排序”；又或在生成内容的开头呈现提示字段，如“以下内容仅根据部分已公开网络信息生成，仅供参考”等。特别是在出现“最好的”“最差的”等唯一性评价关键词，并且生成内容也仅仅包括唯一个体时，服务提供者更应当对生成内容的依据进行说明。只不过解释事项并不是为什么作出“最好的”“最差的”这类评价结果，而是解释按照什么样的依据（如根据官方网站公布的信息、网络平台用户点评信息等信息来源）作出。

生成内容的信息来源提示义务与算法解释、算法透明义务较为相似，均涉及服务提供者对算法决策的结果进行解释，只不过各自的解释范围、目标均有所不同。《互联网信息服务算法推荐管理规定》第16条规定服务提供者应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等，第17条提及算法推荐服务对用户权益造成重大影响时，应当予以说明。此种算法解释和算法透明要求背后的逻辑是为了保障用户对算法推荐服务的知情权，以便更好地作出接受或拒绝服务的选择，部分学者也将其直接解释为一种与服务提供者相关的“沟通机制或客服机制”。但其前置性条件是算法推荐服务对个人权益具有实质性影响。生成内容的信息来源提示义务属于典型的注意义务，是在服务提供者力所能及的范围内避免对他人权益造成不合理的损害，故而相应的算法决策结果解释还是以服务提供者可控制范围为限，并不要求服务提供者将生成内容的技术原理、决策过程等内容进行详尽解释。

五、结语

人工智能技术正处于高速创新发展阶段，交互对话式人工智能服务具有广泛的市场前景。现行立法体系虽然已经对该类信息服务作出了体系化的监管要求，并明确设置了服务提供者预防、审核和管理违法信息内容生成风险的法定义务。但是，当下人工智能服务存在的问题既包括生成内容违法风险，也包括生成内容不准确。在涉及类似搜索引擎、消费点评信息等事项时，不准确的生成内容同样可能导致侵权。因此，服务提供者理应对生成内容的准确性承担一定限度的注意义务。这类注意义务的设置不应当实质性增加服务提供者的义务负担，而应当在服务提供者的控制能力范围内，以贴合当下人工智能技术发展水平的方式保障生成内容的“相对准确”。此外，服务提供者应当避免用户误以为其服务功能具有权威性、完全准确性，故而服务提供者需要对服务功能和生成内容形成依据进行必要的提示说明和解释，只不过这里的提示说明和解释义务的履行标准更为宽松，仅需要达到用户能够基本知晓特定行业的生成内容是“仅供参考”而非“权威论断”即可。

（责任编辑：韩利楠）

文章来源：《法律适用》2025年第4期

声明：本刊对所发表的文章享有专有出版权。一切形式的复印、节选、电子刊物选用等以及其它一切以营利为目的的复制，须事先征得本刊的书面许可。

本文来自【《法律适用》杂志】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt