生成式人工智能进入科研活动后，最直接的变化体现在文本、代码与实验方案的产出速度上，认识论问题却发生在更深的位置：一个系统何以有资格把候选模式称为知识，又由谁确认它不只是与既有材料相容，而是对未知问题形成了新的、可检验且可追责的判断。科学可信度不能由语言流畅度、模型置信度或一次任务的成功自动担保。National Academies of Sciences, Engineering, and MedicineNational Academies of Sciences, Engineering, and Medicine（2019）区分了计算可重复性与研究可复制性：前者关注相同输入、代码和分析条件下能否得到一致结果，后者要求在相似方法下重新收集数据后获得一致结论。Open Science CollaborationOpen Science Collaboration（2015）的协作复制项目提供了经验上的压力测试，100项复制中达到显著结果者为36%，效应量亦较原始研究下降；这组数字属于特定心理学样本，不能改写为全部科学的错误率，却足以说明同一程序可运行、数据可获得和结论可靠并不是同义命题。Barredo Arrieta等Barredo Arrieta等（2020）区分内生透明与事后解释，并把解释效果放在使用者、目的和情境中评价。据此，本文提出一项认识论判准：AI输出若要被评价为可信知识，至少应接受计算可重复性、独立可复制性、因果识别、可干预性和人类监督的检验。这是本文用于区分能力层级的评价要求，不是所引来源已经共同验证的统一评分表；生成得顺畅只说明系统完成了语言任务，不能替代这些认识条件。
认识论变化因而应被写成能力层级与验证责任的重新划分，而不是一项单一“智能”指标的上升。模式识别、预测、假设提出、实验执行、机制解释和科学确证对应不同承诺：前一层成功，只表示某些材料或操作可以被处理；它不自动保证后一层所需的对象、机制、干预或独立验证成立。AI可以扩大候选空间，也可以把研究者的注意力推向筛选、核验和整合，但候选数量、预测分数、实验吞吐量与知识增量的增长速度并不相同。把这些指标压缩成“科研生产率”，会掩盖失败发现、返工、来源追踪和独立验证所占用的时间，也会把局部效率误写成全流程可信性。能够明确能力落在哪一层、失败由何种条件触发、结论又凭什么成立，比用一个标签概括整条活动链更能判断认识论变化。
问题发现与假设生成处已经出现这种分化。Wang等Wang等（2023）综述了AI参与假设、实验设计、数据收集与解释等环节的案例，同时把数据质量、验证和人机监督列为持续瓶颈；该综述覆盖的是截至2023年的案例与当时模型条件下的观察。Si等Si等（2025a）在自然语言处理领域组织的专家盲评中观察到，AI生成想法的平均新颖性评分为5.64，人类想法为4.84，但总体评分没有显著差异，生成想法的语义多样性也低于人类集合。该结果支持AI能够提出表面上新颖的候选，却不支持这些候选已具有正确性、可行性或理论价值。更关键的反向证据来自Si等Si等（2025b）的小规模预印本执行研究：约103小时的实施后，人类想法在新颖性、有效性、兴奋度和总体评价上出现反超。初始评分与执行结果之间因此存在“想法—实施落差”，而执行研究只覆盖NLP任务、短期项目且存在退出，不能外推到湿实验或长期影响。两项研究的生成模型均为GPT-4级一代，而新颖性评分与语义多样性恰是对模型代际最敏感的指标。Chen等Chen等（2026b，预印本）对想法分布的复测显示，LLM生成的研究想法在个体层面可与人类盲评打平，但整体分布更窄并系统性偏向桥接与综合型问题；该复测的想法由论文前置文献反推生成，不是真实选题场景，分布比较也依赖其分类法与LLM标注器，因此只支持“分布更窄”这一条，不能写成想法质量与人类等同。Chen等Chen等（2025）的ScienceAgentBench在其评测时点表明，科学智能体在受限的数据驱动任务中仍有明显失败空间；这一量级是基准读数，失败空间随模型代际快速收缩，读数须标注评测时间。Fei等Fei等（2026，预印本）对当前前沿科研代理的端到端诊断显示，在100项真实研究任务上，失败模式系统性集中在过程与元认知回路而非单点能力；该诊断基于单一团队对800条轨迹的45类失败模式标注，且未检验编排层干预能否弥补，不能外推为端到端科研不可改进或已经自动化。这些证据合在一起看，AI对问题发现的合理作用是扩展候选与暴露组合，而非替代研究者判断问题是否值得研究、能否证伪以及为何值得承担验证成本。
候选问题进入实验后，局部自主执行已有可信案例，其证据链却通常由外部条件封闭。Boiko等Boiko等（2023）的Coscientist在预设备、文档、代码执行接口和自动化平台组成的受控化学环境中，设计、执行并分析了部分实验；这说明语言模型并非只能提供纸面方案，也可以把方案转化为可观察的实验轨迹，而这是2023年、GPT-4级模型在受控平台上的证据。Szymanski等Szymanski等（2023）在自主材料实验室中运行了预定合成目标，依据2026年作者更正，57个目标中36个获得成功表征，另有4个结果不确定、17个未获得目标产物。这里的正面结果是一个真实硬件闭环可以无人值守地完成部分预定搜索，而不是系统能自主选择值得解决的问题。目标来自DFT筛选后的候选池，材料类型、设备、表征方法和停止流程均有预设，实验“成功”还依赖平台自身的自动表征；该平台的搜索能力主要来自计算筛选与主动学习规划，对语言模型代际并不敏感，因此这组数字不宜读作模型能力证据。Chen等Chen等（2025）在其评测时点所揭示的基准失败空间提醒人们，局部任务可执行与通用发现能力之间仍有距离。可辩护的结论是，自主平台改变了实验执行和搜索的分工，尚没有改变开放问题选择、目标价值判断和独立验证的全部责任。
模型能够预测结果，也不意味着它已经解释结果为何发生。数据驱动模型可以把输入与输出稳定关联，并在留出数据或受控任务中获得较高完成度；这种预测能力可以筛选值得进一步检验的对象，却不会自行提供机制、反事实或干预保证。Chen等Chen等（2025）的基准以代码执行和任务完成为核心判据，恰好揭示了这种差异：程序按预期运行，只说明实现了预定操作，不说明所分析的科学结论正确。Barredo Arrieta等Barredo Arrieta等（2020）强调，解释必须针对特定用户、目的和模型环节接受检验；一段听起来合理的机制说明既可能帮助专家定位错误，也可能在缺乏实验约束时为错误预测提供事后合理化。Open Science CollaborationOpen Science Collaboration（2015）的复制结果则从经验层面显示，效应可能随重新收集数据而收缩，不能只凭同一数据上的稳定模型输出维持。由此，本文把预测、解释和因果之间的认识论要求概括为三道门槛：预测需要在分布外条件下接受检验，解释需要与可干预预测或独立证据对照，因果主张需要明确识别假设与替代解释。这一框架用于识别层级跳跃，并不把三道门槛宣布为经统一经验检验的充分条件；相关性、拟合优度或语言说服力仍须接受相应机制与因果证据的约束。
这种区分会改变“验证”本身的组织方式。单一结果若没有对应的数据来源、模型版本、参数选择、评价阈值和人工干预记录，即使数值很高，也难以判断它来自普遍规律、样本偶然还是对评测集的适应。模型若先接触公开研究材料，再在同一材料及其改写上接受评价，开发者容易把记忆与归纳混为泛化；研究者若在看过结果后调整问题、指标或停止条件，事后选择又会削弱预设检验。Chen等Chen等（2025）提示了任务材料可能带来的污染风险，Clark等Clark等（2025）则发现证据综合研究在工具、任务和风险判断上高度异质。据此，本文把训练材料可见性、独立留出数据、失败案例和版本变化列为可辩护知识增量的认识论要求。本文所称的“可辩护知识增量”不是这些来源已经证明的结果量：候选问题与关键数据应尽可能独立于模型及原评分规则，结论再接受不依赖原评分规则的复核。缺少这些条件时，任何新增都可能来自记忆、数据泄漏或事后筛选；具备这些条件是否足以产生知识增量，仍须由具体研究判断。上述判准不等同于已经验证的充分条件。
可解释性因而不是与正确性并列的装饰，而是验证体系的一部分。它能够揭示模型依赖了哪些特征、是否使用了不当代理、某项结论在哪些输入附近失效，也可以帮助研究者决定是否中止实验或补做对照；这构成解释的积极认识用途。与此同时，Blau等Blau等（2024）把生成式AI引发的引用、原创性、作者责任和治理问题视为相互牵连的科学诚信风险，提醒人们，合规的可视化并不自动补足主张的真实性。Barredo Arrieta等Barredo Arrieta等（2020）所说的事后解释可能服务于调试、问责或用户理解，不同目的需要不同证据。若解释仅复述模型输入与输出，而没有经独立实验、机制检验或外部数据支持，它最多说明模型采取了怎样的计算路径，不能证明路径对应真实机制。把解释当作纠错接口，可以增强人类监督；把解释当作正确性证书，则会关闭本应继续进行的验证。
生成文本中的幻觉把这种验证要求表现得尤其清楚，因为语言形式和知识来源在这里最容易分离。2023—2024年、无联网与无检索条件下的读数构成这一问题的历史基线：Kacena等Kacena等（2024）在三个肌肉骨科综述主题上的小型比较研究发现，AI能够缩短写作时间，却需要更密集的事实核查，纯AI方案中最高约70%的引用被发现不准确，该比例对应当时的特定工具条件，只宜作为历史读数而非当前错误率；Chelli等Chelli等（2024）在无联网条件下检查471条由ChatGPT和Bard生成的参考文献，观察到很低的精确率和高幻觉，其“无联网”条件在今天带检索与引用校验的产品中已不具代表性；Walters与WilderWalters与Wilder（2023）跨42个主题检查636条引用，同样发现虚构和实质性引用错误。这三组数字共同界定了生成引文与数据库检索之间的差别，却都不能充当当前工具的固定错误率。Walters与WilderWalters与Wilder（2023）据此把核验拆为存在性、元数据及正文支持关系三个层次，这一框架与模型代际无关：来源真实存在与元数据准确完成的是核验的前两层，来源是否支持正文主张仍需回到原文判断。需要区分的错误结构至少包括四类——编造文献、元数据错误、来源存在但不支持正文主张，以及检索工具引入的漏检；后两类在带检索的系统中并不会随检索能力自动消失。2025—2026年的证据把这一问题从个案推向文献基础设施层面：Topaz等Topaz等（2026）对250万篇生物医学论文的审计显示，伪造引用在大规模语料中显著上升，引用核验已从个案问题变为文献基础设施问题；该语料以生物医学为主，伪造的上升也不能全部归因于大模型使用。Xu等Xu等（2026）的GhostCite预印本在13个模型上给出的引文幻觉率区间为14.23%—94.93%，其中包含非前沿代模型，任一单模型数值都不能当作总体发生率；同一研究的调查中，76.7%的受访审稿人承认不会逐条核对引文，而该调查样本仅97人且为自选样本。档案审计只能提供相关性证据、无法区分引文无效是否由AI生成，但这组数字已经足以说明核验责任不能默认下沉给评审环节。Clark等Clark等（2025）的系统综述仅纳入19项研究，且纳入研究的工具与方法集中在2023—2024年，多数风险被评为高或不明确；在这一证据边界内，通用证据综合仍需要人类参与或监督。高效生成与可靠知识可以并存，把二者连接起来的是逐项核验、来源链接、版本记录和可追责判断。
基准数据还会把知识来源与评测边界混在一起。Chen等Chen等（2025）从论文和历史代码构造科学智能体任务时，已经注意到公开材料可能进入训练过程并造成污染；任务来自可获得数据，不等于研究者面对的是未知情境，代码通过也不等于结论面对过真实世界的新样本。污染并不自动宣告结果虚假，却会改变失败率、能力上限和外部效度的解释。污染机制不随模型代际消失，因此材料何时进入模型可见范围、评测在何时进行，需要与失败率和能力读数一并记录，评测时间戳与模型版本是当代基准的最低记录要求。Clark等Clark等（2025）把研究工具、提示、任务与人类监督的异质性列为证据风险，Chelli等Chelli等（2024）的实验条件则清楚保留了“无联网”和特定问题域；这些边界不是附加说明，而是决定结论含义的组成部分。一个基准能够比较模型在统一规则下的任务表现，也能够训练和测试评价程序自身，但要据此判断科学发现能力，至少还需独立数据、未见任务、外部复现和结果核验。把 benchmark 分数直接换算为科学正确性，省略的正是这些认识条件。
随着候选生成和局部执行变得便宜，研究者的认知劳动可能从生产语句转向管理不确定性。Noble等Noble等（2024）把方法、技能、诚信和伦理的变化并列讨论，既肯定AI可能扩展科研能力，也指出不透明工具、错误信息与过度依赖会削弱可信度。Kacena等Kacena等（2024）在GPT-4级工具条件下记录的更密集事实核查，以及Si等Si等（2025a）与Si等Si等（2025b）在其模型代际下呈现的初始新颖性与执行后价值落差，都提示了这种劳动重心转移。人类可以把重复检索、草稿改写和候选排序交给模型，把时间留给问题取舍、异常判断和干预设计；这种增强取决于人类能否识别错误、反例与不可追溯来源。现有证据主要来自短期任务、小样本或综合报告，因而适合支持任务层面的判断，长期技能变化仍有待研究。本文把“人类在环”界定为一项认识责任：人类需要拥有审查时间、领域能力、否决权和责任记录，形式上的审批环节本身不足以维持专业判断。
劳动重心的变化还会作用于“怀疑什么”而非仅仅“写得多快”。当模型能够批量补齐摘要、统一文风和生成常规代码时，研究者更少接触初稿中的偶然线索，也更依赖模型给出的排序、置信提示与问题清单；这可能把注意力集中到少数高价值异常，也可能让大量表面合理的错误在抽查压力下通过。Kacena等Kacena等（2024）报告的核验负担说明，发现错误所需时间并未随文本生成同步消失；Si等Si等（2025b）的执行落差则说明，初始排序的影响会延伸到方案完成、结果解释和最终价值。Noble等Noble等（2024）对技能与过度依赖的担忧因此具有合理的问题意识，却还不是长期因果结论。认识能力至少包含校准的能力：既知道模型在哪些任务上稳定，也知道何时需要反例、原始记录和独立判断。若研究者把这种校准完全外包给系统，人机协作就会形成自我验证循环。
同行评议把这种依赖关系推进到知识准入环节。Shcherbiak等Shcherbiak等（2024）在会议摘要评审中发现，人类与AI在作者类型识别和质量评分一致性上均存在差异，该读数以2024年发表时点所用的模型与实验材料为限，结果不支持AI可靠替代人类评审。Liang等Liang等（2024）则报告AI评审与人类意见有部分重叠，参与用户研究的研究者中有57.4%认为其有帮助，另有较高比例认为它在某些方面优于部分人类意见；这一比例来自GPT-4级单一模型与提示条件下的用户主观评价，支持把AI作为第二意见或反馈草稿，却没有测量评审正确性或最终录用质量。Thakkar等Thakkar等（2026）在单一机器学习会议对超过20,000份评审进行随机部署，采纳AI建议的评审提交了更多具体修改，盲态评价获得的信息量提高，但评分与决定没有显著变化；该研究未注明所用模型版本，因而不能直接作为当前代读数。正反结果由此可以并列：结构化反馈能增加信息，浅薄或无关意见也能增加文本负担，后者未必被接收者可靠识别。Zhu等Zhu等（2025）在以Claude 2.0这一2023年代模型为对象、覆盖20篇论文和两名专家评阅的受限实验中发现，生成意见可能流于表面、提出无关引用要求，且不易被检测工具识别；这是旧代读数，当前代模型与检测器下的表现仍待复测，检测器本身也随代际更替。现有证据支持辅助形成可操作问题，不支持把评分、编辑判断、保密义务和决定责任交给模型。
知识代表并非脱离数据世界的镜像。Obermeyer等Obermeyer等（2019）发现，一个以医疗成本代理健康需求的算法会把既有结构性不平等编码进风险判断；在相同分数下，部分群体被低估，而改用更能反映需求的指标可以减少这类偏差。该案例的正面意义在于，审计代理变量和分组结果能够揭示并修正设计选择；它同时说明，总体验证准确并不足以回答谁被遗漏、谁承担错误成本。Carlini等Carlini等（2021）则证明，在特定GPT-2与查询条件下，仅凭黑盒交互即可提取部分训练文本，其中包括个人信息、对话和代码。该实验显示访问控制与训练数据治理的必要性，不代表每个部署都具有同样脆弱性，也不能推出“数据已经公开”便可不受约束地输入第三方模型。Barredo Arrieta等Barredo Arrieta等（2020）把解释的公平性、隐私与问责视为相互制约的目标，Blau等Blau等（2024）则将生成式AI放入原创性、责任和制度治理的复合问题中。据此，本文把数据来源、群体误差、访问权限和受影响者判断列为记录可信认识所需的基本信息；总体预测表现再高，也不能独自承担知识代表是否公正的论证。
综合这些证据，就AI能力与效果的经验证据而言，在2023—2026年的来源范围内，可辩护的判断应停留在任务与局部流程层级。Wang等Wang等（2023）记录了AI参与多个科研环节，Boiko等Boiko等（2023）与Szymanski等Szymanski等（2023）展示了特定环境中的受约束执行；这些研究足以说明AI已经进入若干科研任务，并在局部实验中承担部分操作。与此同时，Si等Si等（2025b）的执行落差、Clark等Clark等（2025）的监督限制、Thakkar等Thakkar等（2026）未改变的评审评分、Walters与WilderWalters与Wilder（2023）暴露的引用错误和Topaz等Topaz等（2026）记录的伪造引用上升，共同规定了局部能力向通用认识能力推广时的边界。来源的任务、模型和时间范围不同，其结果不能合并成一个成功率，更不足以确认整条科研活动链已经完成系统级重组。KuhnKuhn（1970）所讨论的常规科学、异常、危机、革命与世界观变化，关系到问题、理论和共同体秩序的联动；工具采用与局部成功只构成观察入口。当前可观察到的是，AI在特定任务上分担了生成或执行，相关研究也记录了某些核验、反馈与决策接口增加了检查要求。局部变化是否持续、扩散为稳定的认知分工和责任结构，仍需跨学科、长期且覆盖全流程的证据；Fei等Fei等（2026，预印本）一类端到端诊断把失败定位到了过程与元认知回路，属于过程级证据，仍不构成全流程生产率的因果估计。因而，本章把认识论转型作为一个有待检验的制度与认识问题，而非已经完成的事实；相应的评价判准，是研究共同体能否在采用AI时保留可证伪、可干预、可追溯且有人负责的判断程序。