2.1 从技术名词到研究对象
讨论人工智能对科学的影响时,最容易出现的概念滑动,是把模型性能、使用人数、自动化程度和科学制度变化压缩成同一种“进步”或“革命”。这些对象处于不同解释层级。模型在某个基准上的表现说明的是系统在给定条件下的能力;研究者在某一步骤调用系统,说明的是实践方式;同行评议、奖励、署名和问责规则是否随之调整,则属于制度层面。三者可以相互影响,却不能彼此替代。把技术结果直接命名为科研质量,或把采用行为直接命名为范式转变,都会跳过尚待说明的因果环节。
为避免这种滑动,本章先作一组明确属于本文的操作化定义。这里的“机器学习系统”指由数据、模型、计算过程、接口以及使用规则共同构成的广义技术系统;其中,“生成式 AI”指能够从学习到的分布中生成文本、代码、图像或其他内容的系统子类。两者都不是天然自主的科学主体,只有进入具体研究活动并由人或组织配置、使用和追责时,才构成科研事件。这种界定服务于全文的概念一致性,不是对所有 AI 文献中技术分类的取代。
“自动化”与“增强”也需要分开。自动化关注一个预先界定的子任务在多大程度上由系统完成,人的直接操作相应减少;增强关注系统是否扩展了人的搜索、生成、计算或判断能力,同时保留人的目标设定和结果判断。同一系统可能同时具有两种性质:它可以自动完成检索排序,也会扩大候选材料范围;可以生成分析代码,也把核验负担转移给使用者。只统计生成速度或处理规模,会遗漏验证成本以及错误被放大的可能。
“科研范式”则具有更严格的历史—理论含义。Kuhn 区分常规科学、异常、危机和科学革命,指出范式变化不仅是技术替换,还涉及共同体接受什么问题、什么算作问题解决、什么证据具有解释力以及何种世界观组织观察(Kuhn, 1970)。这一概念不能被降格为“旧软件升级成新软件”,也不能由采用率、速度或产出数量直接推出。本文因此把“范式”作为较强判断,而把活动链重组、流程自动化和组织调整保留为较弱、边界更清楚的描述。
2.2 本文的三层分析框架
本文把 AI 介入科研的对象组织为“技术能力—科研实践—科学制度”三层。这是为分析本书材料而作的操作性框架,不是 Merton、Jasanoff 或其他来源已经给出的现成分类表,也不能当作经过经验验证的阶段模型。引入这一框架的目的,是追踪同一变化从“能够做什么”经过“实际做了什么”,到达“如何分配信任与责任”的路径。
这三条对象轴不能与另一组变化名称混用。对象层级回答“在哪个层面观察”:技术能力层处理系统能够完成什么,科研实践层处理研究者如何配置和使用系统,科学制度层处理规范、评价和责任如何分配。变化类型回答“观察到什么改变”:能力增强发生在技术能力层内部;工具采用表示系统进入科研实践的入口事件;流程重组表示任务分工、证据处理或验证方式在实践层发生实质调整;制度转型表示科学制度层出现较稳定的规范、评价或责任变化。能力增强对应技术能力层的一端,制度转型对应科学制度层的一端,二者不是前后相继的同义阶段。
若只按变化涉及的范围和稳定性由弱到强描述,可写作“工具采用—流程重组—制度转型”。这是本文的分析等级,而不是必然的时间表:工具采用不能单独证明流程重组,实践重组也不能单独证明制度转型,低层证据不能直接升级为高层结论。
技术能力层处理系统在明确输入、任务和评价条件下可以完成什么。它关注表现范围、适用条件、失败方式以及人机接口,却不预设技术能力会在真实科研中被稳定使用。一个系统在封闭测试中达到较高完成率,仍可能因数据代表性、工具实现或验证要求而在开放研究环境中表现不同。National Institute of Standards and Technology 的生成式 AI 风险框架把 confabulation、隐私、偏见、知识产权和环境等风险置于治理语境中,这一做法提醒我们,风险分类依赖任务和使用条件,而不是只由“是否使用 AI”决定(National Institute of Standards and Technology, 2024)。但风险框架并不提供技术风险大小的统一测量,更不能替代具体评估;该框架成文于2024年,风险分类以生成式模型的输出与使用场景为主,未系统覆盖其后智能体自主执行带来的越权与责任连续性问题。也正因当代能力读数随模型代际快速更替,本章不在技术能力层引用具体基准分数作为例证,相关能力实证按评测年份与模型代在对应章节标注。
科研实践层处理技术能力如何被嵌入问题选择、证据生成、实验、记录、验证、写作和评价等活动。实践变化既可能是人把某个步骤交给系统,也可能是人借助系统形成新的分工、判断和核验习惯。速度、覆盖面或交互便利只是实践变化的一部分;研究者是否检查输入来源、是否保留可追溯记录、是否把模型输出当作待验证假设,决定了能力能否转化为可信的知识生产。只看系统完成了多少工作,会漏掉工作被重新分配后产生的验证成本。
科学制度层处理共同体和规范如何确定可信、奖励、署名、责任与纠错。Merton 对科学规范、共同体和奖励结构的分析表明,研究活动嵌在认可权威、维护规范和分配荣誉的制度关系中(Merton, 1973)。Jasanoff 的共同生产视角则把知识可信度与社会身份、制度和表征秩序放在同一分析场中,说明“科学事实”并非只由技术性能决定(Jasanoff, 2004)。这些理论不告诉我们某种 AI 制度已经产生净效果,却能说明为什么同一技术在不同组织中可能被接受、限制或重新解释。
三层之间存在约束关系,却没有自动升级关系。技术能力可以打开新的行动可能,科研实践把可能转化为具体工作,科学制度再决定哪些工作能够获得信任和资源;制度要求也会反向塑造数据记录、验证方式、工具选择和人的技能。对象层级与变化等级交叉后,能力证据只回答系统能做什么,采用证据只说明系统进入活动,实践证据才可能支持流程重组,制度证据才可能支持制度转型。某一层面的变化不能代替对其他层面的判断。
2.3 对象层级、变化等级与范式门槛
“工具采用”只表示某个系统已经进入一项或多项科研活动;“流程重组”要求任务分工、证据处理或验证方式发生可辨认的实质调整;“制度转型”则要求科学规范、评价或责任安排出现较稳定的变化。“能力增强”描述技术能力层内部的变化,并非继制度转型之后的第四个阶段。“自动化”与“增强”描述人和系统如何分担任务,也不等于上述变化等级。范式判断提出的问题更高:研究活动赖以成立的范例、问题和有效性标准是否发生持续而深层的重组。Kuhn 所说的常规科学仍以公认范例解题;异常积累到足以动摇旧有解法时,才进入危机;新的范式必须组织一套能够持续工作的解题方式,而不是只提供一次成功案例(Kuhn, 1970)。因此,一次任务提速、一个大模型进入实验室或一批自动生成结果,都不足以构成 Kuhn 意义上的科学革命。
范式判断还需要社会—技术联动的解释。Jasanoff 的共同生产理论提示,知识秩序不只存在于论文和实验协议中,也存在于谁能提出问题、什么证据可以进入表征、不同群体如何被信任以及何种不确定性被视为可接受的制度安排中(Jasanoff, 2004)。AI 即使改变若干认识工具,如果证据标准、训练与问责、技能规范和奖励结构保持原状,其影响也更接近科学方法的增补。只有当能力变化进入日常实践,并由制度规则确认、约束和稳定下来,才有理由讨论更深的结构变化;这一“进入并被制度化”的过程仍需后续经验研究,不能由概念定义预先宣布完成。
据此,本文的范式转变判定框架包含相互联系的几项要求。它要求变化不是单一事件,而是能够在重复研究中观察到;要求变化涉及问题形成、证据生成或验证标准中的实质改变,而非只有界面速度变化;还要求技术能力与实践分工相连接,并进一步改变信任、评价、贡献认定(credit,即学术贡献及其在署名、评价和奖励中受到认可的安排)或责任中的至少一部分。这里所说的“相互联系”不意味着每项研究都要机械地同时测量三层,而是要求综合判断能够说明变化如何从一层传到另一层。只提供基准测试结果的研究最多支持技术能力层;只报告使用体验的调查最多触及实践层;规范或政策文件主要界定制度要求,不能代替实施效果。
在这一框架下,本书把“能力增强”“工具采用”“流程重组”“制度转型”用作四类变化描述:前两项分别位于技术能力层和实践入口,后两项分别表示实践层与制度层的较稳定改变。按变化涉及的范围,可把“工具采用—流程重组—制度转型”排成由弱到强的分析等级;“范式转变”不是第四个等级,而是对知识秩序持续联动提出的更高门槛。只有科学范例、可信度生产和责任秩序形成持续联动,才有条件使用这一表述。这个分级是本文的解释工具,不是从 Kuhn、Merton 或 Jasanoff 的理论中推导出的自然阶段,各类证据只进入与其相称的等级。
2.4 科学质量、可重复性与可复制性
“AI 提高科研质量”是一个需要拆开的命题。本文把科学质量理解为多个不能互相补偿的维度,包括结论与证据的相符程度、对不确定性的处理、方法和数据能否复核、不同条件下的稳健性、结果能否被独立复现,以及研究过程是否遵守诚信规范。这个多维定义属于本文的分析框架,来源文献只支撑其中的可重复性、复制性、可信度生产和制度原则,并不提供一个可以计算的总分。若效率提高伴随更高的错误接受率,或开放程度提高却扩大了数据滥用,二者都不能在同向作用下被包装成质量提升。
可重复性与可复制性的区分是这一框架的概念底座。National Academies of Sciences, Engineering, and Medicine 将可重复性界定为:在相同输入数据、计算步骤、方法和分析条件下,重新运行研究计算能否得到一致结果;可复制性则是由不同研究在新数据上追求同一问题,能否得到一致发现(National Academies of Sciences, Engineering, and Medicine, 2019)。前者主要检验计算链条能否被重建,后者主要检验结论能否在新的证据条件下成立。二者相邻而不等同。代码和数据可得,可能使计算更容易重复,却不能保证数据测量有效;不同样本得到相似结果,也不能反向证明旧分析流程无误。
这种区分在讨论 AI 科研时尤其重要。若报告保存了模型版本、参数、输入和运行环境,只能说明某些计算条件具备复核可能,不能代替对输出正确性、任务适配性和研究设计的判断。反过来,一项在新数据上得到稳健结果的研究,即使原计算链并不完全复现,也可能具有较强的可复制性。可重复性因此是可信科研的最低制度背景之一,却不是科学结论的充分条件。把二者合并为笼统的“结果可以再现”,会掩盖数据质量、测量不变性和跨条件泛化所提出的不同问题。
Open Science Collaboration 对一百项心理学复制项目的结果表明,显著结果比例和效应量都可能因严格复制而下降;该研究针对特定项目、学科和样本,不能外推为所有科学的总体错误率,却说明“原研究显著”并不等于“结论容易复制”(Open Science Collaboration, 2015)。AI 生成的假设、代码或分析如果缺少独立验证,增加候选数量可能同时增加需要淘汰的线索。判断可信度时,不能只计算模型运行了几次,还要看哪些结果经过独立数据、预注册标准、人工核验或失败分析得到支持。
开放科学也不能与可重复性、复制性画等号。UNESCO 将开放科学界定为旨在使科学知识、基础设施、对话和成果尽可能开放可及的多元实践,并强调透明、问责、公平与多样性等价值(UNESCO, 2021b)。这一自愿性国际建议提供的是规范方向,不是开放已经自动提高质量、生产率或公平的实证证明。开放代码可能伴随不可验证的数据假设,开放数据可能损害隐私或违反许可约束,开放评价过程也可能扩大不透明权力关系。可信 AI 科研因而需要把可重复性、可复制性与开放性分别判断,再考察它们在具体制度中如何衔接。
2.5 科学计量与引文基础设施
科学计量在本书中不是科学质量的替代判官,而是观察知识发现、传播和可见度分布的基础设施。Garfield 对引文索引的经典论述强调,通过文献之间的关联帮助研究者发现论文、评论及思想后继(Garfield, 1955)。在这一意义上,引文网络可以缩短知识路径、揭示研究传统如何延续,也可以帮助检查某些主张进入了怎样的知识谱系。它描述的是知识如何连接和传播,并不自动回答连接两端的研究是否正确、严谨或重要。
引用计数之所以需要谨慎,是因为“被引用”可能服务于补全背景、借用方法、提出批评、表示赞同、推广成果或建立社会联系。Bornmann 与 Daniel 对引用行为研究的综述表明,引用具有多重功能,计数本身难以还原这些动机(Bornmann & Daniel, 2008)。因此,引用数量可以描述传播范围,期刊影响因子可以形成机构比较信号,但二者都不能脱离领域、时间和引用目的,直接命名为原创性、严谨性、因果贡献或社会价值。
Hicks 等人的负责任计量原则要求指标服务明确目的,披露任务、差异和不确定性,并为专家判断提供支持而不是取代它(Hicks et al., 2015)。这一定位也适用于 AI 评价:若问题是发现相关文献,召回和主题覆盖可能是合适指标;若问题是判断结论是否稳健,则需要误差、验证和新数据证据;若是比较机构或群体,指标还可能受到资源和可见度差异影响。把同一个“AI 得分”同时用于研究质量、人才评价和社会影响,会把不同构念压缩成无法解释的数字。
现有研究也不支持把引用指标视为完全无用。Dougherty 与 Horne 在行为与脑科学语料中发现,引用和影响因子对部分严谨性及复现指标只有弱且不一致的预测关系(Dougherty & Horne, 2022);Nelson 等人则显示,针对特定转化代理的内容模型可以比仅使用年度引用作出更好的预测(Nelson et al., 2022)。两项结论合在一起说明的关键不是“指标有效”或“指标无效”的二选一,而是预测对象、指标设计和证据范围必须被明确指定。
本文因而把计量层再分为彼此不可替代的问题:文献关系用于发现和追踪传播,引用与内容特征用于描述部分影响代理,方法与统计不确定性用于限定解释范围,而严谨性、原创性、公平和社会价值仍需其他证据。科学计量可以揭示谁更容易被看见、哪些文献形成连接、某个代理指标在特定任务中如何表现,却不能仅凭网络位置替一个研究作出可信度判决。AI 若参与推荐、筛选或评价,更需要先回答它在哪个指标任务中运行、由谁设定目标、误漏和集中由谁承担,而不是先给它加上“提高科学质量”的标签。
2.6 伦理治理的约束层级
伦理治理在本章中不是效果变量,而是界定权利、风险和责任的分析层。UNESCO 关于 AI 伦理的建议强调人权、透明、监督、问责、公平和可持续性,其性质是国际自愿性建议,不是全球统一法律(UNESCO, 2021a)。National Institute of Standards and Technology 的生成式 AI 风险管理框架把 confabulation、隐私、偏见、知识产权和环境等风险组织为自愿治理工具,同样不构成强制认证或统一风险阈值(National Institute of Standards and Technology, 2024)。All European Academies 的科研诚信规范为研究设计、数据、合作、作者资格和新技术责任提供共同体层面的行为基准,但它不是 AI 专门法规,也不能取代法域或机构规则(All European Academies, 2023)。
与上述建议和框架不同,欧盟《人工智能法》属于具有直接规范力的区域性法规。讨论该法规时,需要同时限定法域、适用主体、风险类别、具体义务和分阶段适用时间,不能把其中任何规则改写为全球一致的要求(European Parliament and Council of the European Union, 2024)。这一区分不是文书学上的挑剔。伦理建议说明应当保护什么,科研诚信规范说明共同体承诺遵守什么,法规说明特定法域中的主体在特定条件下必须做什么;如果把三者都称为“治理”,就既无法判断约束力,也无法判断一项 AI 科研活动究竟应接受原则审视、机构审查还是法律审查。
治理分析还需把解释与正确性分开。Barredo Arrieta 等人的综述区分内生透明和事后解释,并强调解释必须结合使用者、目的和情境来评价(Barredo Arrieta et al., 2020)。一段可读的解释可以帮助人理解模型,却没有自动证明输出正确、机制具有因果性或决策公平。事后解释尤其可能只呈现系统行为的一个切面。因而,“可解释”不能作为“可信”或“可问责”的同义词;它只是特定主体在特定目的下获得信息的一种条件。
为保持不同规范文本的效力边界,本文采用“建议—框架—共同体规范—区域法规”的层级,而不是把它们汇成一个全球统一治理体系。每进入一个层级,都应分别确认规范发布者、适用对象、约束力、实施机制和纠错渠道。政策能够规定责任应当落在何处,却不能单独证明治理已经有效;一项建议被机构采纳,也不意味着所有研究者已经改变行为。政策文本、部署效果和行为变化属于不同证据类型,后文讨论治理成效时不能以文件存在替代经验验证。
2.7 综合分析框架:多维判断而非单一指数
前述概念可以收束为一个明确标作分析框架的综合结构。本文不构造“AI 科研范式指数”,而以效率、可信性、多样性、公平性和责任结构作为彼此不可自动替代的评价维度。效率关注完成速度、吞吐量、成本和探索范围,同时把输入准备、核验和纠错成本计入判断;可信性关注证据有效程度、结果稳健性、可重复性、可复制性、诚实报告与可追溯性;多样性关注不同问题、文献路径、方法和参与者的可见度;公平性关注收益、错误、风险、资源和荣誉如何分布;责任结构关注行动由谁发起、谁有义务核验、谁承担后果以及受损者如何获得回应。这些维度是本文用于组织证据的分析性划分,不是任何单一来源已经验证的综合量表。
各维度之间只有特定关系,不能彼此补偿。较短的完成时间不能抵消未经核验的引用,较高引用不能抵消因果证据薄弱,更多候选结果不能抵消验证负担,更快开放也不能抵销隐私、许可和安全风险。可信性与公平性尤其不能由效率指标代替:平均值下降可能掩盖不同群体的差异,正确率提高也不表示无法问责。Hicks 等人关于指标的负责任使用原则、Merton 的规范与奖励结构、Jasanoff 的共同生产分析以及 UNESCO 的开放与伦理原则,分别支持这种多维拆分的若干侧面,但它们并未提供一个可直接计算的最优权重(Hicks et al., 2015; Merton, 1973; Jasanoff, 2004; UNESCO, 2021a; UNESCO, 2021b)。
在这一分析框架中,范式转变门槛也得到更严格的含义。技术能力只有进入可重复的科研实践、接受独立验证,并被制度性的评价和责任安排稳定承接,才可能成为知识秩序变化的一部分。若变化主要停留在工具采用或单一任务自动化,应保留较低判断;若涉及多环节活动和可信度生产,则可讨论活动链重组;只有当问题选择、证据规范、共同体组织和责任规则形成持续联动,才有条件讨论范式层面的转变。这个门槛不是事后为结论寻找修辞,而是要求后续证据说明每一层发生了什么,以及层与层之间如何连接。
因此,本章所说的“概念地图”不是一张已经完成的因果图。能力—实践—制度三层划分是本文的分析框架;范式判定门槛也是本文用于约束措辞的操作化规则。可重复性、复制性、开放科学、计量和治理分别来自有边界的定义、理论、规范或区域法规。它们共同防止本文把政策当效果、把指标当质量、把采用当革命,也为后续章节提供同一套问题:AI 改变了什么能力,实际改变了哪些实践,哪些制度和评价条件随之改变,以及判断改变是否可信所需的证据还有哪些缺口。