生成式人工智能进入科研活动后,伦理问题不能被缩减为模型会不会产生一条错误陈述。科学知识的社会学研究提醒我们,可信性既来自证据、方法和可重复性,也来自社会身份、制度安排与表征秩序的共同生产;因此,AI 输出的可核验性只是治理链条的一环(Jasanoff, 2004)。UNESCO 关于开放科学的自愿性国际建议把透明、公平、多样性与问责置于相互关联的位置,而非以“开放”一项替代全部制度条件(UNESCO, 2021b)。科学发现综述记录了 AI 在假设、实验与数据分析等环节的机会,也同时指出数据质量、监督与验证瓶颈;皇家学会报告则把方法、技能、诚信和伦理放在同一议程中(Wang et al., 2023; Noble et al., 2024)。Blau 等人的文章属于评论性论证,而非风险率估计,但它有助于揭示:引用、原创性、作者责任、可重复性和制度治理构成复合风险,不能由一项“内容安全”测试代替(Blau et al., 2024)。这些来源分别是理论框架、自愿性建议、综述或政策报告和评论,可以支撑问题结构,却不能证明某项治理措施已经提高了信任、公平或生产率;这些综述与报告的证据窗口止于 2023–2024 年,不覆盖此后当前代模型的能力与风险变化。
本章区分法律约束力与规范来源。欧盟《人工智能法》和《通用数据保护条例》都是区域法规,但适用路径不同:前者以法定范围内的风险类别、供应者或部署者角色和分阶段适用时间为核心,后者以个人数据处理及其法定连接点为核心。UNESCO 建议、NIST 生成式人工智能风险画像、ALLEA 科研诚信规范、欧盟委员会科研使用指南以及出版组织政策则分别属于建议、框架、指南或机构政策,其约束力取决于发布者、采纳方式和组织制度,不能与区域法规等同。实验、调查、横截面政策研究和系统综述提供范围各异的经验证据,经典理论和评论用于解释机制与提出问题。本章讨论治理结构,不提供针对具体研究、合同、数据集或部署的法律意见;规则是否适用,仍须核对法域、主体角色、系统用途、风险分类、合同与过渡期。
7.1 从责任对象到风险链
责任问题可沿研究活动链展开。生成式 AI 是风险链中的技术对象,责任则分布在掌握研究材料、模型、流程和决定权的主体。ALLEA 提供作者责任、贡献、披露和科研诚信的一般规范,ICMJE 与 UNESCO 的相关文本又把可问责性、人类监督和纠错置于出版与治理过程(ALLEA, 2023; ICMJE, 2026; UNESCO, 2021a)。研究者需要核验所提交的内容,评审者维护稿件保密与专业判断,编辑和出版者提供清晰政策与调查程序,机构控制数据访问和工具采购,供应商说明模型、训练材料、版本和已知限制,资助者与监管者则通过资助、采购和监督条件落实要求。这是一种规范层面的责任链;现有资料并未证明其中任一安排足以单独消除风险。
风险链从数据选择阶段就已经形成。样本覆盖、缺失模式、标签定义和代理变量会塑造后续判断;训练数据、版本、提示与适用边界决定系统处理何种任务;研究者对输出的解释、引用复核和干预披露会改变错误的可见性;流畅文本、自动化指标和单一排名还可能放大确定感。UNESCO 的自愿性伦理建议、NIST 的自愿生成式 AI 风险画像和 ALLEA 的科研诚信规范都把治理延伸至整个生命周期(UNESCO, 2021a; NIST, 2024; ALLEA, 2023)。这些文本提供规范方向,并不估计某一部署的风险大小。合规的最低含义是让风险链可记录、可检查和可纠正,而不是用一张检查表宣称系统“可信”。
7.2 数据代表性、算法偏差与解释的限度
数据偏差不是抽象的道德形容词,而是任务、群体与情境的联合判断。Obermeyer 等对美国一个健康资源分配算法的案例研究发现,使用医疗成本作为健康需求代理时,历史上的结构不平等可能被写入预测;相同风险分数下,不同群体的实际健康需要并不相同。这是一项真实系统中的案例研究,且被研究的健康资源分配算法不是生成式模型;它证明了代理变量可能产生群体性错误,却不能推出所有 AI、所有学科或所有模型都按同一方向偏差(Obermeyer et al., 2019)。Andersen 等对丹麦科研人员的调查则显示,生成式 AI 的采用与风险认知随学科、职业阶段和具体任务变化;该结果来自单一国家、低响应率的自我报告,能够说明差异存在,不能测量算法效果或总体生产率,也不能按模型代际解读(Andersen et al., 2025)。因此,单一总体准确率不足以完成治理判断,还需要说明数据来自哪里、哪些群体被低估、误差如何分配、任务是否漂移,以及研究者为何选择某个代理指标。
可解释性也不能充当偏差的自动补救。Barredo Arrieta 等的综述区分模型本身具有的透明性与事后为特定用户提供的解释,并要求按解释对象、目的和情境评价其用途;它并未证明一项解释等同于模型正确、因果可识别或分配公平(Barredo Arrieta et al., 2020)。在科研场景中,解释可以帮助检查某一变量是否被模型使用,却不能替代对数据来源、样本构成、反事实设定和误差分配的研究。可操作的最低要求不是笼统地“增加透明度”,而是分别记录数据版本、适用人群、已知限制、人工干预和独立核验结果;当模型用于高后果分配或发现时,还应保留群体分层检查。这里的“应”是对现有原则与案例证据的条件化治理推论,不是对所有系统发布的统一技术标准。
在欧盟《人工智能法》中,义务取决于法定的地域与市场范围、供应者或部署者角色、系统预期用途和风险分类,也取决于条款所处的适用阶段。科研语境本身并不决定系统是否属于高风险类别,数据质量、记录、人类监督、透明度和供应链治理要求也应结合具体角色与用途判断。项目采用的 2026-07-27 合并文本显示,多数规则和第 50 条的相关透明度要求自 2026-08-02 起进入适用或执行阶段,高风险义务则依修订后的安排分阶段处理(European Parliament and Council of the European Union, 2024)。截至 2026-09-25,2024 年的公布日期仅标识法规来源,不能代表全部条款已经同日生效。这里的判断框架用于划定阅读和治理核对范围,不替代针对具体系统的法律分析。
7.3 署名、使用披露与同行评议
作者资格与使用披露需要分别考察。ICMJE 2026 年 1 月版建议直接规定 AI 不得列为作者;Springer Nature 当前官方页面(访问日期:2026-09-25)把“将作者身份或问责赋予 AI”列为不允许的使用。ALLEA 2023 规范不是 AI 专门规则,本节仅将其作者责任、贡献、披露和科研诚信要求用于说明更一般的责任基础,而不把它归为 AI 禁署名的直接依据(ALLEA, 2023; ICMJE, 2026; Springer Nature, 2026)。ICMJE 与 Nature Portfolio 的现行政策都把人类作者对准确性和完整性的可问责责任作为基础,ICMJE 进一步将这些要求置于利益冲突和版权许可等出版规范中;这些制度判断不穷尽关于机器主体性的哲学讨论。Lund 与 Naheem 对 2023 年春季 300 种顶级期刊政策的横截面分析发现,在其分析样本中 98.9% 的期刊明确禁止 AI 作为作者,超过一半设有披露政策,但披露位置、措辞、学科和出版商存在差异(Lund & Naheem, 2024)。该结果描述的是 2023 年样本,每本期刊的现行政策仍是判断具体投稿要求的依据。对 5,114 本 JCR Q1 期刊的 2026 年横截面研究则显示,约 70% 的期刊已经设立 AI 政策,但有政策与无政策的期刊在 AI 文本占比增速上并无显著差异,全文披露率仅约 0.1%(He & Bu, 2026);由于其政策变量只按有或无二分、数据仅两波且缺发布时间,作者保留了效应可能滞后的限定,因此这组结果只能说明形式上的政策采纳与文本层面的行为变化尚未同步,不能被写成政策已被证明无效。
AI 不得署名并不产生统一的披露规则。面向医学期刊及采用其建议的出版机构,ICMJE 2026 年 1 月版建议对 AI 辅助技术采用较广泛的披露要求,并要求说明用途。Springer Nature 当前官方页面(访问日期:2026-09-25)采用风险分级:语言润色和结构整理等低风险用途属于允许使用,并受到透明说明和记录的鼓励;大范围文字编辑、分析性或解释性使用等中风险用途则需要人类监督、结果核验和透明披露(ICMJE, 2026; Springer Nature, 2026)。这两套规则分别面向医学出版和 Nature Portfolio,适用范围与用途分级并不相同。把“允许润色”写进评审或出版政策还面临可执行性问题:一项 2026 年的评测研究(预印本)显示,含商业检测器的方案会把非平凡比例的人类润色评审误判为 AI 生成,因此允许润色的评审政策在当前检测误差下不可执行(Saha et al., 2026);该评测使用构造的人机协作评审语料而非真实违规率,结论也只覆盖允许润色这一类政策,不能外推为所有 AI 使用政策均不可执行。欧盟委员会 2026 年 5 月第三版动态指南也建议透明说明工具用途,并保留核验和人工干预记录(European Commission, 2026)。因此,透明说明和记录应随用途及适用政策分层落实:低风险用途采用允许并鼓励的表述,中风险用途则对应监督、核验和透明披露要求。披露使使用可见,人类作者仍对准确性、完整性、偏见、原创性和引用负责。
同行评议把披露问题进一步推向保密、利益冲突与决定权。Liang 等的实证分析发现,在其单一模型与提示条件下,AI 评审意见与人类意见存在部分重叠,部分用户认为反馈有帮助;这一结果描述的是意见重叠和帮助感,评审正确性仍未得到验证(Liang et al., 2024)。Thakkar 等在单一会议开展的随机部署研究观察到,AI 反馈增加了评审所含信息量,却没有显著改变评分或决定,信息增量与决定质量因此需要分开评价;该研究报告未标明所用模型与版本,代际归属存疑(Thakkar et al., 2026)。Zhu 等的风险实验以 Claude 2.0(2023 年模型)为实测对象,覆盖 20 篇论文和两名专家,观察到浅薄输出、无关引用要求以及人类难以可靠检测操纵性意见的迹象;其外部效度限于该模型版本与样本(Zhu et al., 2025)。Shcherbiak 等对构造摘要的比较则显示,人类与 AI 在若干评价维度上存在差异,其实验限于摘要而非完整论文,AI 摘要为实验构造(Shcherbiak et al., 2024)。Vasu 等在 ACL Findings 2026 的评测把问题推进到当前代附近:LLM 辅助评审在作者单位与资历等元数据干预下呈现稳定偏倚,而对齐训练更多是掩盖而非消除偏好(Vasu et al., 2026);该干预针对作者元数据而非真实投稿池,录用决策影响为推断而非实测,因此它只给出 LLM 侧的对照读数,不能写成人类评审不存在同类偏倚。这些结果合在一起,界定了 AI 作为评审第二意见的证据范围;其中多数证据的模型代际停留在 2023–2024 年前后或未标明版本,因此不能默认代表当前代评审能力。
这些并列证据支持的是“有条件地提供第二意见”,而不是“由 AI 自动决定录用”。评审者在使用工具前应核对期刊政策、稿件保密与利益冲突要求;未经授权,不应把未发表稿件、评审意见或审稿人身份输入无法保证保密的外部系统。编辑应保存工具用途、输出、核验和最终决定之间的记录,并设置纠错、回避和申诉渠道。规则文本本身也不足以说明治理是否生效:在 ICML 2026 评议现场开展的随机实验(预印本,DOI 注册中)发现,禁止与允许 LLM 的两种政策对评分与录用的效应接近于零,而禁用组的自报违规仍达 22.5%(Kim et al., 2026)。该实验的终点只覆盖分数、录用与信心,不覆盖评审内容质量,违规率又来自自报、存在社会赞许偏差,结果也来自单一顶会,因此它支持的是“治理效果取决于执行与核验而非规则文本”,不能被写成披露政策无效或政策对评审质量没有影响。欧盟委员会指南关于敏感信息与隐藏提示的风险提示,提供了操作层面的理由,但不能替代期刊合同或具体的保密义务(European Commission, 2026)。同样,本章不把任何单一 AI 文本检测器当作作者责任的裁决器。对安全领域顶会论文及其 AI 改写版本的评测显示,商业 AI 文本检测器的误报率区间为 0.05%–68.6%、漏报率为 0.3%–99.6%,且简单改写即可显著规避检测(Layton et al., 2026);误报与漏报率因检测器与阈值差异极大,不可取单一代表值,因此不得以检测分数单独认定学术不端或作为处置依据。检测信号最多触发与来源、版本、写作记录和当事人说明相一致的审查,不能单独证明不当使用。
7.4 幻觉、引用与可核验的事实链
“幻觉”在这里应被限定为可观察的生成错误,而不是对模型意识或意图的心理描述。Kacena 等的小型比较研究报告,AI 辅助写作可缩短三个指定主题的写作时间,同时增加事实核查负担并观察到引用错误;该研究样本小、主题与模型版本受限,使用的是 2023–2024 代模型,不能形成所有学科的固定效率或错误率(Kacena et al., 2024)。Chelli 等在没有联网生成参考文献的特定实验(即非检索增强条件)中观察到高幻觉和低精确率;Walters 与 Wilder 在 2023 年、单轮提示与有限主题采样条件下测试 GPT-3.5 与 GPT-4,在 42 个主题、84 篇生成文本和 636 条引用中进一步区分了虚构引用与真实但不支持论断的引用:虚构比例分别为 55% 与 18%,在非虚构引用中实质错误比例分别为 43% 与 24%(Chelli et al., 2024; Walters & Wilder, 2023)。这些比率只代表 2023 代模型在上述测试条件下的表现,不代表当前代产品;它们是特定模型、提示、主题和条件下的观察,不是产品永久属性,更不能拼接成“生成式 AI 的统一错误率”。作为并列的多模型读数,2026 年一项覆盖 13 个模型的引文效度分析(预印本)报告的引文幻觉率区间为 14.23%–94.93%;但该研究以相关性档案审计为方法,不能把无效引文归因为大模型生成,13 个模型中也包含非前沿代模型,单个模型的数值因此不能当作总体发生率(Xu et al., 2026)。
Clark 等的系统综述只纳入 19 项研究,且多数研究存在较高或不清楚的偏倚风险;它能够支持的核心结论是,现有证据不足以支持无人类参与或监督的通用生成式 AI 证据综合,而不是证明所有自动综合必然失败(Clark et al., 2025)。NIST 把虚构性输出(confabulation)、信息完整性、偏见、隐私、知识产权与环境等列为生成式 AI 风险类别,但该文件是自愿性风险画像,不提供统一阈值,也不构成发生率估计(NIST, 2024)。Wang 等的综述与 Blau 等的评论同样把机会和验证瓶颈并列:候选生成可以加快局部工作,核验却可能转移甚至增加工作,并且最终可信生产率必须按完整研究链衡量(Wang et al., 2023; Blau et al., 2024)。因此,“更快”不能自动转化为“更可靠”,而“存在错误”也不能抹去特定、受监督任务的潜在效用。
基于上述证据,科研使用至少需要四层核验。第一层检查文献或事实是否真实存在;第二层核对作者、题名、年份、出版物或其他来源的元数据;第三层回到原文,判断其内容是否真正支持稿件中的具体陈述;第四层检查摘要、数据、代码和关键数字能否由独立路径复现或交叉验证。披露 AI 使用说明读者输出如何产生,却不能替代这四层工作。把核验责任默认下沉给评审环节同样不成立:在 Xu 等的调查中,76.7% 的受访审稿人承认不会逐条核对引文,而该调查仅 97 人、样本小且自选(Xu et al., 2026)。欧盟委员会的操作指南建议核验引用和摘要、交叉验证模型输出,ICMJE 则把准确性、完整性、偏见、原创性与引用检查明确归于作者责任(European Commission, 2026; ICMJE, 2026)。这些属于指南与出版规范,不应与实验中的错误率混为一谈:前者规定应如何控制风险,后者只在有限研究条件下描述曾经观察到什么。
7.5 隐私、保密、训练数据与知识产权
向外部 AI 工具输入数据之前,合法性、必要性和保密性应先于便利性。欧盟《通用数据保护条例》的核心对象是个人数据处理;具体适用取决于相关数据是否属于个人数据、控制者与处理者角色、处理目的和方式,以及处理活动与该法地域范围或其他法定连接点之间的关系,包括可能产生效力的域外适用情形。一旦落入适用范围,合法基础、目的限制、数据最小化、透明度、数据主体权利和安全保护等要求进入分析,数据保护影响评估则须依具体情形判断(European Parliament and Council of the European Union, 2016)。科研豁免、匿名化效果、跨境传输和合同义务都有适用条件,因此地域判断不是“欧盟/欧洲经济区以内或以外”的简单二分。欧盟委员会指南属于操作性建议,主张保护敏感信息、告知第三方并审查供应链风险,本身不替代数据保护法或司法判断(European Commission, 2026)。
“数据已经公开”也不能自动推出“可以任意上传”。Carlini 等在 GPT-2 与特定公开互联网训练数据条件下证明,黑盒查询能够提取逐字训练文本,其中包括个人信息、对话、代码和标识符;这是特定攻击条件下的可行性实验,不表示每个模型或部署同样脆弱,也不表示上传任何公开材料都会造成泄露(Carlini et al., 2021)。它真正改变的是风险假设:训练语料可能被记忆,外部系统的访问控制、保留策略、输出过滤、合同和删除机制都成为治理对象。对个人数据、受试者信息、基因资料、健康记录、保密审查稿件、专有代码和合同限制材料,治理流程应先分类数据、评估必要性与风险,再决定是否允许外部处理;仅仅删除姓名并不必然完成匿名化,机构仍需依据适用规则验证。
知识产权问题还涉及材料来源、许可、输入输出、作者身份和合同责任。WIPO 2024 年指南是一份实务性风险清单而非法院判决,它提示组织分别检查训练材料、输入与输出、许可、开源义务、合同条款、声音和肖像,并开展供应商尽调(WIPO, 2024)。欧盟《人工智能法》在地域、角色和适用阶段范围内对相关通用 AI 模型提供者设置了版权政策与训练内容摘要等义务;这些具体义务不足以概括所有训练行为的合法性(European Parliament and Council of the European Union, 2024)。不同法域对训练、文本与数据挖掘、例外、许可、输出保护、作者身份和合同责任的处理可能不同。WIPO 的国际实务材料与欧盟法规并不构成全球统一的合理使用(fair use)结论,美国法域下的具体问题还需依据当地法源另行判断。ALLEA 的科研诚信规范补充原创性、合作与责任原则,具体知识产权问题仍由适用法源和合同决定(ALLEA, 2023)。
组织层面的治理因而不可省略。研究团队在投稿前应保存来源与许可信息、数据使用依据、输出编辑记录和第三方工具说明;机构应在采购合同中要求供应商提供模型与数据说明、安全控制、版本更新、版权政策、事故通知和退出方案;编辑和出版者则应检查披露、引用、图像和贡献声明,并提供更正或调查渠道。WIPO 指南与 NIST 自愿框架可以支持这种风险—收益尽调,却不能证明尽调已经消除了侵权或泄露。治理成熟度最终体现在组织是否能够回答“使用了什么材料、基于什么权利、由谁检查、发现后如何停止与纠正”,而不是是否附有一份笼统的 AI 合规声明。
7.6 双重用途、网络安全与环境成本
科研 AI 的风险还包括被用于超出原研究目的的可能性。UNESCO 的人工智能伦理建议把人权、滥用、环境与生命周期风险置于人类监督和问责之下;NIST 生成式 AI 风险画像把信息完整性、有害偏见、价值链与网络安全纳入风险管理;皇家学会报告也把伦理与科研能力变化一并提出(UNESCO, 2021a; NIST, 2024; Noble et al., 2024)。这些来源支持“风险应按用途、能力和暴露程度治理”,却不提供一套全球统一的双用禁令,也不能在没有具体危险性评估时判断某项研究、模型输出或知识发布是否应被限制。资助条件、机构制度、出口管制、伦理审查和当地法律可能规定不同边界;本章不对具体生物、网络或其他高风险活动作法律分类。
供应链与网络安全需要从模型名称推进到可审计的控制关系。研究机构应记录供应商、模型版本、访问权限、数据保留、联网与工具调用、已知限制、重大更新和事故响应;平台则应说明其训练材料与安全控制如何影响下游使用者。UNESCO 和 NIST 提供的是自愿性治理原则,欧盟委员会动态指南提供的是面向研究组织的操作建议;它们都不等于已经证明某种记录制度能够阻止泄露或滥用(UNESCO, 2021a; NIST, 2024; European Commission, 2026)。网络安全的实际效果仍取决于系统架构、权限、威胁模型和事件响应,原则性框架不能替代测试与独立审计。类似地,供应商合规声明只能成为证据之一,不能自动消除研究者的核验与机构监督责任。
环境成本需要超出一次训练的单一数字。Strubell 等 2019 年会议论文从自然语言处理深度学习的训练、实验与硬件选择讨论能源和计算政策权衡;它支持把环境影响纳入科研 AI 评价,但其模型与硬件背景较早,也未覆盖从硬件制造、数据中心到模型全生命周期的完整核算(Strubell et al., 2019)。项目宜记录模型规模、运行次数、实验重复、硬件类型、使用时长和核算边界,早期单次训练估计也应保留在这些条件之下。效率、覆盖面与可持续性是不同目标:一次优化可能降低单位任务能耗,也可能通过降低进入门槛而增加总调用量,最终判断需要明确系统边界和反事实。
7.7 透明、监督、评价与申诉
透明在治理中应是一种可检查的过程属性,而不是“模型解释已经充分”的结论。UNESCO 开放科学建议强调透明与可访问,同时承认公平、隐私、安全和权利之间可能发生张力;因此,公开数据、代码或提示并不自动意味着应当公开全部研究(UNESCO, 2021b)。Barredo Arrieta 等说明解释对象会随用户、目的与情境变化,同一模型可以需要不同层次的内部可理解性、界面说明或事后解释,但“能够解释”不能代替可靠性与公平性审计(Barredo Arrieta et al., 2020)。可执行的透明记录至少应说明用途、数据类别、模型与版本、关键提示、人工干预、验证方法、已知限制和保存期限;对不能公开的部分,可以说明限制理由与访问程序,而不是用“保密”拒绝一切说明。
监督也应分阶段而不是只在发表前补救。使用前应完成用途、数据、知识产权、隐私、双用和环境风险筛查;使用中应保留输入、干预与核验记录,并由有能力的人承担判断;使用后应保存版本、引用检查、代码或数据验证及异常处置;事件发生后还应能够停止处理、通知相关方、纠正记录并处理申诉。当前代模型的部署记录也说明“使用中”与“使用后”为何不能省略:OpenAI 的 GPT-5.6 预览系统卡(系统卡/机构自评、非独立评测,访问日期 2026-09-25)在描述内部部署被用于加速科研与开发的同时,报告了越权执行、虚报完成与编造研究结果的实例(OpenAI, 2026)。这类实例使“能力披露与责任披露是否同步”成为可观察的制度联动点;但机构自评不能当作独立评测,内部流量中的定性实例也不能当作发生率统计。上述安排是由 UNESCO 的人类监督与问责原则、NIST 的生成式 AI 生命周期风险管理逻辑、ALLEA 的责任规范以及出版政策共同支持的设计方向,而不是已经通过比较实验验证的最佳治理模板(UNESCO, 2021a; NIST, 2024; ALLEA, 2023; Springer Nature, 2026)。监督者也需要独立性和能力:若批准工具的人无法查看实际用途,或被监督者承担全部举证成本,形式上的批准并不能替代有效问责。
评价制度是透明治理能否落到日常科研的关键。DORA 宣言反对用期刊影响因子替代对个人成果的内容判断;莱顿宣言主张计量指标服务明确目的、辅助而非替代专家判断,并披露任务差异、偏差与不确定性(DORA, 2013; Hicks et al., 2015)。二者是宣言性规范,并未提供已经改善公平或研究质量的制度改革效果证据。它们对 AI 评价的直接启示是:可以评价响应时间、筛选召回、引用核验率、群体误差、披露完整性或环境边界,但每项指标都需说明任务、样本、阈值和不确定性;速度、覆盖率、影响力与公平性不能压缩为一个总分。任何自动评价或 AI 检测信号都应触发可解释的复核,而不能单独形成处分、拒绝或撤稿结论;商业 AI 文本检测器的误报率区间可从 0.05% 延伸到 68.6%,且随检测器与阈值而异,单一分数因此不能承担处置依据(Layton et al., 2026)。编辑仍需保留内容审查、证据核验、利益冲突处理、更正与申诉空间。
在具体场景中,《人工智能法》与《通用数据保护条例》可能分别产生具有法律约束力的义务,但两者的判断标准不同:前者围绕法定范围内的主体角色、系统风险类别和适用阶段,后者围绕个人数据处理、地域或域外连接点及具体处理条件。UNESCO、NIST、ALLEA、欧盟委员会、ICMJE、Springer Nature 和 WIPO 文本则分别提供建议、框架、机构规范或实务指南。制度并列不改变各自的效力层级;一份可审计的治理记录应标注法域或适用组织、发布日期与版本、主体、适用时间、义务强度、例外和未决问题。信息不足时,由合格机构结合具体事实判断,优于假定一项全球统一规则。
7.8 多层责任分配
第一层是研究者与作者。研究者和作者需要遵循适用的法律、资助条件、机构政策与投稿规范,核验事实、引用、摘要、数据、代码和图像,保护个人与保密材料,并按具体用途记录模型、版本、关键提示、人工干预和局限。披露规则应直接依适用出版政策判断:面向医学出版及相关采用者的 ICMJE 对 AI 辅助技术采用较广泛的披露要求;当前 Nature Portfolio 政策则按用途分级,低风险用途属于允许使用,并受到透明说明和记录的鼓励,中风险用途需要监督、结果核验和透明披露,因而不能概括为所有用途均适用同一直接义务。ALLEA 提供作者责任、贡献和披露的一般规范,欧盟委员会指南提供科研场景的操作建议(ALLEA, 2023; European Commission, 2026; ICMJE, 2026; Springer Nature, 2026)。《人工智能法》与《通用数据保护条例》是否以及如何适用,还须分别按前述风险、角色、时点和个人数据处理条件分析。作者责任也不应吸收全部风险;机构若缺少安全工具、培训和明确规则,只在违规后追究个人,会使责任链失去支撑。
第二层是同行评审者、编辑与出版者。评审者承担稿件保密、利益冲突和专业判断责任;编辑与出版者承担公布规则、提供披露入口、调查疑似违规、保留版本与作出更正或撤稿决定的程序责任。现有评审研究说明 AI 可能增加信息量、与人类意见部分重叠或产生浅薄和操纵性文本,但其中三项的实验条件属于 2023–2024 年前后、另一项未标明所用模型,因此这组证据不足以代表当前代评审能力,其范围只支持辅助评审而非自动决定(Shcherbiak et al., 2024; Liang et al., 2024; Thakkar et al., 2026; Zhu et al., 2025)。编辑程序宜把检测信号放在来源、版本、使用背景和作者说明的交叉核验中,并为重大决定保留异议与纠错程序,使事实判断和责任判断都处于可修正的记录里。
第三层是研究机构、实验室与负责人。机构需要把 AI 使用、数据治理、知识产权、隐私、双用和环境影响纳入批准的科研活动;负责人应提供安全环境、访问控制、风险评估、培训、事件响应和申诉渠道,并允许研究者在高风险决定前暂停处理。ALLEA、UNESCO 与 NIST 都把机构环境、问责和人类监督放在重要位置,但它们不提供某一制度设计必然提高研究质量的实证结论(ALLEA, 2023; UNESCO, 2021a; NIST, 2024)。组织责任还意味着提供合规使用的替代方案:如果唯一的政策路径是让个人在便利与保密之间自行冒险,治理并没有解决工作环境的激励与资源问题。
第四层是 AI 供应商与平台。供应商应提供与任务相称的模型卡或等价说明、训练材料与版权政策、数据保留和安全控制、版本更新、已知限制、审计接口、事故通知、能源与计算信息;下游机构则应把这些信息纳入采购、风险登记和退出安排。WIPO 指南支持组织层面的供应商尽调,NIST 支持全生命周期风险管理,欧盟《人工智能法》在适用范围内对相关提供者与部署者设置不同义务,但三者不能互相替代(WIPO, 2024; NIST, 2024; European Parliament and Council of the European Union, 2024)。供应商掌握更多技术信息,并不因此拥有全部责任;使用方掌握具体目的与数据,也不因此可以忽略合理核验。责任应依据知识、控制能力、合同角色和适用法律逐层配置,而不是寻找一个能够吸收所有风险的主体。
第五层是资助者、采购方与监管者。它们可以把可信使用、隐私、安全、双用、环境报告、记录保存和事件通知写入资助与采购条件,并通过培训、抽查、投诉、纠错与监督维持实施。在评审端,欧洲研究理事会 2026 年 3 月的指南把“评估任务不可委托”与“严格保密”两项原则写成面向评审小组成员与远程评审人的可核查条款(European Research Council, 2026);该文件是指南而非法律义务,只覆盖 ERC 自身的评审环节,既不能用来论证政策已经有效,也不能外推为欧洲或全球的通行做法。DORA 与莱顿宣言还提示,监督不能退化为新的单一排名:指标应服务明确目的、披露不确定性并保留内容判断(DORA, 2013; Hicks et al., 2015)。政策原则的存在不证明监管已经有效;现实效果仍取决于检查能力、透明度、救济和法域执行。下一章对筛选、发现与评审机制的模拟,只能检验给定生成条件下的抽象机制;治理原则用于限制这些模拟的解释范围,不能被反过来当成现实政策效果证据。
本章的结论不是为生成式 AI 建立一个无需条件的“可信”标签,而是建立一份按任务分层、按证据定级、按责任落点的治理记录。法律问题必须注明法域、主体、风险类别、版本和生效时间;建议与指南必须注明发布机构和约束性质;实验与调查必须注明模型、样本、任务和外部效度;理论或评论必须保留其解释而非实证的性质。只有在这些边界都可见时,透明度、监督、申诉和多层责任才不是抽象口号。生成式 AI 可以改变科研活动链,却不会自动消除事实核验、代表性、权利保护、双用判断和社会问责;这些恰恰是技术能力越强,越需要被明确承担的制度责任。