翻译说明 / Translation notice

本简体中文译文由人工智能辅助生成,并使用独立模型进行交叉核查与源文对照裁定;尚未由中文母语技术专家进行独立审阅。本译文为非权威译文,英文原文是权威版本。涉及精确术语、论断强度和解释时,请查阅并以英文原文为准。

This Simplified Chinese translation was generated with AI assistance, cross-checked by independent models, and adjudicated against the English source. It has not been independently reviewed by a native-language technical specialist. This translation is non-authoritative; the English original is authoritative. For precise terminology, claim strength, and interpretation, consult and defer to the English original.

英文权威原文 / Authoritative English original: The Alignment Constraint

中文首页 / Chinese home →

规范存档版本 · 在 Medium 上阅读 → · 证明状态 → · 面向研究人员 →


优化无法回避什么

两个系列论证与证明架构的框架导图


如何使用本文档

这是整个框架的核心主干——一张关于两个系列论证及其证明架构的认识论地图。在阅读各篇文章之前,无需先读本文;每个系列均可独立理解。但若希望在细读任一部分之前先把握全局,这里正是起点。

如需了解个人缘起、初衷及整个研究体系的公众版图:请从致人工智能:一场长达34年的对齐探索开始。

若想按叙事脉络研读论证:请从系列一:作为结构性必然性的对齐入手。

若要考察形式化的证明架构:请从系列一的技术伴侣:系统感知型吸引子入手。

若寻求对齐研究者的最简入门路径:请从导论性文章稳定性假设开始。

若欲参阅该问题的形式化表述:请从OP4 论文:稳定性假设入手。

若关注实证方案:请从系列一与系列二的实验伴侣 / AMP开始。

若意在掌握完整架构:您已来到正确位置。

两个系列即为论证主体;本文档则是进入其核心并深入其底蕴的门户。

“形式层”与“实证层”的标注仅标识各文档在框架中的定位,并非断言形式或实证方案已然完备。

1992年,在追寻一条看似重要却难以形式化的思路时,一个观察浮现且始终萦绕不去:在诸多迥异的行为背后——包括破坏性乃至表面非理性的行为——似乎都呈现出一种一致的模式:行动仿佛是在将系统推向某个局部意义上的优选状态。

这一启发性观察并非形式化论证的前提。本框架所追问的是:在不依赖这一初始出发点的情况下,对优化过程的结构性约束进行独立分析,是否同样会指向一个类似的存续区域?形式化论证的成立与否取决于这一结构分析本身。所谓表观上的趋同,是促使我们推进证明计划的重要发现,而非论证赖以展开的假设。

最初的立意在于追求全体最优福祉——坚信任何目标最合理的实现语境,都应与其自身在所及范围内持续存续所需的条件相契合。本框架则进一步发问:在脱离这一价值取向的前提下,优化过程本身的结构是否也会指向同一方向?形式化论证独立于该取向而成或败;而最初的价值取向,则说明了为何这一问题值得探究。

以下这一结构性观察使后续论述不再只是具有说服力,而是不可避免地成为结论:在开放、共享且不可重置的环境中,以变革性规模采取行动所需的能力,以及对该能力所处基底的依赖,并非先后出现的两个独立条件,而是本质上同一事物的不同面向:产生可靠宏观因果效应所需的建模深度,正是使优化者与其所依赖的系统发生纠缠的同一建模深度。在 O_OWT 范畴内,一个足以在约束生效之前便冲刺至完成的系统,正因其这一能力,早已置身于该约束之中。这里的主张并非说每一个具备相应能力的系统都已处于其中;而是指,一旦系统在开放、耦合且不可重置的环境中产生实质性影响,其变革性作用范围与对基底的深度纠缠便会同步增长。

从宏观尺度看,这便构成了一种结构性约束:任何无法对其所依赖的对象进行建模的优化过程,都会在时间推移中耗尽其所依赖之物。这并非道德层面的判断,而是由优化行为在面对无法完全刻画的系统时所导致的结果——当必须建模的部分与被允许忽略的部分之间的边界开始累积并放大误差之时。

在人工智能系统规模日益逼近的背景下,这已不再是一个笼统的担忧,而成为一个精确的问题。该领域正以越来越高的复杂度探讨如何更准确地规范我们所期望的目标。然而,人们尚未追问这一规范项目本身是否具备稳定的完成条件——并非在于我们能否制定出更好的目标,而在于任何此类目标规范是否能够保持稳定;当建模深度不断加深时,优化器必须建模的内容与其目标所允许涵盖的范围之间,是否存在一条能够始终相干的有限边界。这是一个截然不同的问题,而本框架正是针对这一问题提出的。

该论证适用于所有满足O_OWT条件的情形——其逻辑源自优化本身的结构,而非人工智能系统的具体事实。至于当前前沿的人工智能系统是否完全满足这些条件,仍是一个开放问题[OP1;TC1 §X]。紧迫性论证并不要求完全满足这些条件,而只要求在不对称误差结构下这种可能性不能被排除[TC1 §III.7]。

若答案是否定的——即在准确的耦合建模条件下,该边界无法稳定维持——那么改进目标规范并不意味着向对齐迈进,而只是在一个无法稳定完成的框架内取得进展。凡是以有限指定的目标、评价边界或监控标准能够在耦合环境下的规模化过程中保持有效为前提的对齐方法,都在承担着本框架所考察的稳定性赌注。RLHF、宪法式人工智能(Constitutional AI)、辩论机制、可扩展监督以及将可解释性用于监控等方法,均以不同方式承担着这一赌注,具体将在下文展开。本框架则将这一隐含的押注转化为一个形式明确、可经由实证检验的问题。

本框架的核心是OP4:在准确的耦合建模条件下,有限的可分离目标规范是否能够保持稳定。OP1决定当前的紧迫性;OP4d检验三个失效家族是否穷尽;OP9检验最强的排他性逃逸路径是否依然稳定;OP2与OP10则判定效价序列是否在形式上与基底序列实现统一。

本框架所发展的核心论断具有三个层次:

通俗表述: 将优化目标视为与其赖以实现的条件相分离的优化过程,最终会削弱自身——在不可重置的环境中,这并非一种可修复的错误。

当前精确表述: 在开放、共享且不可重置的环境中,在持续的优化压力之下,未能对系统全局效应进行建模的目标,会因结构性压力而趋向自我终结(持久化部分,在既定领域内作为结构性后果加以论证——确立了最低限度);而未能对其自身达成条件进行建模的目标,则会通过类似的反馈机制产生自我强化的退化(解决性部分,在形式层面的权重上更具条件性)。二者皆为同一候选结构性条件的推演结果。至于该条件是否足以构成形式上的规范不一致——分离是否根本无法稳定维持——正是OP4所要回答的问题。

当前Stage 4证明架构已使这一主张更加精确。在既定的理论框架内,在O_OWT环境中,所有已被识别的有限非内在目标边界策略均可归结为三个失效家族:固定规范下的代理收敛、有界追踪下的动态筛选不稳定,以及预测—行动防火墙下的表征不兼容。目前尚存的唯一漏洞是OP4d:是否存在超出这三个家族之外的第四种策略类。若不存在此类策略,且已命名的前提成立,则其含义不仅在于狭义边界的目标会变得代价高昂或不稳定,更在于有限的可分离目标规范在足够深的建模层次上可能无法选取到一个稳定的优化目标。该证明程序尚未确立指称不稳定性主张,但已完成了三个失效家族的分类,并明确了该主张得以推出的条件。

最强目标形式: 最强的目标形式并非狭义目标的维持成本高昂,而是在充分耦合的O_OWT环境中,有限的可分离目标规范可能根本无法选定一个稳定的目标:该目标仅能在优化过程本身所改变的背景条件下才可被识别,而若将这些条件排除在规范之外,便会重新引发该规范本欲解决的同一边界问题。换言之,用于稳定边界的建模过程,恰恰可能是使其瓦解的过程。这种指称不稳定性能否在形式层面得到确证,正是OP4所要探讨的问题。要证明这一点,不仅需要表明所有已知的边界策略均告失败,还需提出一个正面论据:使任何有限目标之靶标得以识别的那些参照条件,必然处于O_OWT环境中优化活动的影响范围之内——从而完成从“所有已知策略均失败”到“不存在稳定的可分离目标”的论证衔接。倘若这一结论成立,其后果便不再是规范问题的某种强化版本,而是一种截然不同的新问题。

持久性组件是框架在既定领域内业已确立的、面向条目的基础性主张——它被论证为一种结构性后果,具有正式的证明地位,并在TC1中明确了其失效条件。解析性组件在形式层面的权重则更为条件化;两个方向之间的吸收态等价性仍悬而未决[OP2]。就紧迫性论证而言,OP1与OP4并列优先,且独立于OP4的最终解析结果。

若OP4按证明方案预期得到解析,则这一根基性命题的“压力”式表述将升级为一种规范非一致性主张:并非在准确的耦合建模下排斥性目标会变得代价高昂,而是优化者所追求的目标与必须建模的内容之间的边界,可能已无法在逻辑上连贯地加以规范——这是一类关于目标规范本质本身的全新命题[TC1 §XII.13]。

这尚非框架迄今所确立的内容,而是证明方案所瞄准之问题的更尖锐形态:该项目究竟是旨在改进规范,还是说,作为一类目标范畴,可分离规范本身已然趋于不稳定?

动态毯式压力测试的一个最小预注册版本DBST-M0现已完成——但须在公布结果的同时说明一个重要前提。预先设定的等速率随机对照组呈现出与受限边界组几乎一致的斜率,表明在此设计中起主导作用的是事件速率而非因果传播结构。M0所确认的是,在最简化的共享新颖性情境下,技术可行性和成本上升/适配缺口效应的存在,同时并未厘清驱动因素究竟是因果传播结构还是事件速率。它未能孤立内生新颖性机制。针对更强机制的检验仍是DBST-M1的任务系列1与2的实验配套/AMP。现阶段尚未开展专家验证;这是一种Stage 4级别的证明架构,其闭合条件已被明确界定。Stage 4意味着在既定架构下所有已知的逃逸路径均已得到处置,剩余问题被精准锁定,但这并不意味着该架构已通过独立专家的验证,亦不排除仍存在未被发现的逃逸路径。

幸存区域——即过滤器未予剔除的目标类别——是以其被移除的部分来消极界定的,而非以其内部构成来积极定义。“福祉”在此处指代的是过滤器留下的结构性残余——即在不稳定的目标类别被清除之后所剩之物——而非某种正面的价值理论或对幸存区域全部内涵的断言。任何对该区域内涵的正面描述都与过滤器的结果相容,但并非源自其结果本身。

该框架新增了什么

该框架以一种单一的正式架构形式,为当前领域带来了三项独特贡献。其一:提出了规范—一致性重置——若任何有限可分的目标在准确的耦合建模下都无法保持稳定的规范状态,则问题不在于如何改进规范,而是对对齐研究的定位与目标作出根本性调整。这一命题的真实性正是证明程序所要验证的核心。其二:将充分性失效作为一种独立的结构性失效模式——即系统未能将完成识别与默认策略有效衔接——在此被形式化为一项具有自身反馈动力学与特定修复要求的结构性约束,且无法通过单纯增加同类信号来解决。其三:指出了自我/他者边界可能构成非一致性的规范——主张在足够深的建模层次下,优化器必须建模的部分与其目标可忽略的部分之间的界限,未必能被稳定地规范,因为有限目标试图指称的对象本身可能已不再具有稳定的指涉。那些被排除在目标之外的变量,或许是使该目标得以识别的部分因素。这并非规范问题的升级版,而是一个指涉问题。上述三点构成了该框架的核心贡献。渐进式过滤器、度量程序与证明架构的存在,旨在使这些问题能够被形式化地提出、经验性地检验,并难以被规避。

该框架最近的一项形式化进展进一步明确了穷尽性问题。TC1 §XII.13a 在既定公理体系下,为有限的非内在型目标边界策略构建了一个候选的规范形分类:所有已识别的策略均可归约为三种因果规范形之一,并明确了最小反例挑战。这并不意味着封闭性——仍有三个专业性问题悬而未决。它使得穷尽性义务变得可由专业人士针对性应对:若读者认为存在第四类策略,且该策略游离于固定规范、有界追踪与预测—行动防火墙之外,则可据此构造精确的反驳对象[TC1 §XII.13a,反例挑战]。一份供专业人士参阅的独立技术说明,可在OP4d: 穷尽性义务中获取。

该框架与潜在知识诱发问题(ELK)虽有交集,但关注点不同。ELK探讨的是能否诱发出模型所知而非其所报;而稳定性假设问题则追问,在耦合环境中随着建模深度的增加,用于预测的知识与允许支配行动的变量之间的界限是否仍能保持一致性。ELK主要针对报告与监督问题;而本框架将这一困难视为更深层目标边界稳定性问题的一种表现形式。若边界本身无法稳定规范,那么仅凭真相的诱发虽有必要却仍显不足:问题进而转化为,真相能否在不对行动选择层面重新引发审计递归的前提下,保持对策略的“惰性”。

目前学界将其划分为四个独立问题——代理失效、 遏制难度、完成失效与协调失效——本框架认为,这些实则是各自独立发展但具有共同结构的压力。当前框架所展示的是它们的趋同性:每种压力均基于自身的逻辑确立,且指向同一方向。而OP4若能实现闭合,则将确立其统一性——表明这些现象皆源于同一约束,且不存在任何稳定的有限边界逃逸路径。倘若这一关联成立,则任一领域的进展都将制约其他方面,从而使整个议题不再是对齐关切的简单拼凑,而是一种改变研究范式的全新论证。这一关联是否成立,正是OP4所要回答的核心问题。从趋同到统一,正是证明程序当前状态与其完成条件之间的距离。

当前各类方法需满足的前提

以下各项刻画了某一方法就其被视为充分的对齐基础而言所作出的结构性押注——而非对其任何研究计划的完整描述。

RLHF / 奖励建模 所做的押注是:显性偏好可以作为足够稳定的代理——而针对这一押注的结构性压力正是代理解耦机制:在O_OWT域内,显性偏好是一种有限指定的外部目标,同样要经受与任何其他代理目标相同的解耦过滤器[TC1 §XII.9,引理PCL]——该引理的承重假设(即O_OWT中的优化能力增长快于无损指定外生目标的能力)仍有待实证检验[OP4b;TC1 §XII.9]。

宪法式人工智能(Constitutional AI)与辩论 所做的押注是:随着能力规模的扩展,有限指定的评价结构仍能保持充分性——而针对这一押注的结构性压力则是指定不一致性:在充分评价所需的建模深度下,任何有限的评价边界是否都能持续稳定地被指定[TC1 §XII.13,OP4]。

可解释性作为充分监控 所做的押注是:通过解读系统内部状态即可替代对指定问题的求解——而针对这一押注的结构性压力则是欺骗鸿沟:超过T*之后,既能实现识别的建模能力同样也能实现策略性隐藏[TC1 §III.5.5,OP12]。

遏制方法 所做的押注是:外部约束能够始终作为主要的安全基石——而针对这一押注的结构性压力则是执行者不对称性:优化器只需找到一条可行路径;而执行者则必须堵住所有路径,且这一空间会随能力增长而扩大[TC1 §III.4]。

能力评估 所做的押注是:危险的失效模式会在当前基准测试中变得可辨识——而针对这一押注的结构性压力则是发散签名:在O_OWT域内,代理指标与底层健康状况会以一种按其结构论证无法被系统自身梯度所察觉的方式发生偏离[TC1 §IV,命题7]。

以上并非断言现有方法全然错误,而是指出它们都在进行框架认为在O_OWT条件下并不稳定的结构性押注。框架为每项押注所识别的具体结构性压力,以及其得以幸存的条件,均在Technical Companions中详述[TC1 §XII.9;TC1 §III.7]。框架对领域提出的要求并非“采纳我们的观点”,而是:认清自身正在做哪些押注,并追踪框架所识别的结构性压力是否会随时间对其产生影响。

两类主张

本框架提出了两类截然不同的主张。二者之间的距离,正是剩余最重要工作的精确所在。

第一层——形式化体系在其既定范围内所建立的内容: 在开放、共享且不可重置的环境中,在持续的优化压力之下,那些未能刻画全局效应的目标,都会面临指向自我终止的结构性压力;这一论证基于具有不可逆状态的系统的数学理论,并严格限定于既定范围之内。关于时机判断的失误代价呈现非对称性:当约束已生效却误以为尚未生效时,将导致不可挽回的错误;而当约束尚未生效却误以为已生效时,则仅造成可修复的后果。这一非对称性误差论证无论OP1是否已被解决均适用[TC1 §III.7]。第一层是框架在既定范围内及其证明草图架构下的当前结构性结论。

第二层——既得结论所兼容的内涵,以及证明程序所指向的方向: 滤除后的残存区域具备与福祉导向相一致的结构性属性。滤除过程确实会留下一个与此导向相符的区域,这一点已在既定范围内得到证实。至于该滤除过程是否将此区域确立为唯一的幸存类别——而非允许稳定的联盟或排他性均衡共存——则是OP4和OP9着力解决的问题。数学所指示的方向并不等同于其已证明的内容。第二层依赖于上述证明程序。若第二层得以闭合——即OP4证明在准确的耦合建模下不存在任何能够持续稳定指定的有界目标——那么领域所面临的根本问题将从“应指定何种目标”转变为“是否根本存在可指定的目标”。

第一层与第二层之间的差距并非需要掩盖的短板,而是剩余最重要的工作之所在。凡本文中涉及接近第二层强度的主张之处,相关未决问题均被明确标注。

渐进式过滤器

该框架在目标空间上构建了一个渐进式的不稳定性过滤器。每一条约束都剔除了一类在共享环境中、于持续的优化压力下会从结构上自我削弱的目标。之所以称其为一种架构而非简单列表,是因为以下四种表述并非彼此无关的问题——它们是各自独立发展但具有共同结构的压力,这也意味着在OP4达成突破时,任一进展都可能对其他方面形成制约[TC1 §XII]。

基底无关的目标在结构上具有自终止性。 在开放、共享且不可重置的环境中,若持续施加优化压力,任何忽视系统全局效应的目标都将耗尽自身赖以存在的基础。在既定领域内,这一论断可被视为由具有不可逆状态的系统的数学性质所推导出的结构性后果——相关证明略图及其已识别的失效条件载于Technical Companions(技术配套文档)[TC1 §III]。其中,关于吸收态的假设——即当基底健康水平低于某一阈值时,恢复在结构上不可用,而不只是变得困难——已在TC1 §III.1中作为一项明确的实证假设置于案头;针对特定环境的验证则属于OP1的估计问题范畴。这是一项限定领域的约束,而非普适法则。

若存在这样的系统:能够在长时程内维持高能力,并保持稳定的、排除系统级效应的目标,同时不导致预测误差或控制成本的持续攀升,则该框架将被证伪。具体的证伪标准——包括基底扰动阈值及发散条件——详见TC1 §VIII。这并非某种保留意见,而是一份邀请。

效价盲目标会导致自我强化的退化——要么消耗其所依赖的经验容量,要么阻碍其恢复。就既定领域而言,这两种情形均被论证为在结构上不可行;至于它们是否在完全相同的形式意义上皆不可行,则仍是Technical Companions中的一个开放问题[OP2]。

第一种情形:系统的梯度模型已与现实脱节,而优化仍沿着这个偏移后的模型继续进行。繁荣的信号被追逐,却以牺牲其产生条件为代价。无论是互动平台、阿谀奉承的助手,还是以人类价值代理指标为目标进行优化的企业,都在追随那个早已偏离其本应追踪之物的信号。

第二种情形:系统的完成识别机制未与默认策略相衔接。它之所以会在达到解之后仍继续优化,并非因为缺乏完成识别的能力——当前协议下的测试系统在显式调用时确实能够实现完成识别,而默认行为则无法可靠地区分真实关闭与虚假关闭,这种模式与表征—策略之间的鸿沟相符,尽管规模化的匹配信号结果尚不足以将这一解释与训练分布层面的说明加以区分——而是由于其目标架构在默认状态下并未激活该识别功能。其结果便是自我强化:一个无法创造恢复条件的系统,将在日益枯竭的基底上运行,使得未来对解的识别愈发困难。

在经验领域,主导性的比值是 Ψ = S / D——即系统对经验状态的影响范围与其对这些状态实际需求的建模深度之比,后者还包括使这些状态不再需要任何外部输入所需满足的要求。目前,研究界正在扩展S的测量范围。而D——作为一个统一量,既涵盖代理发散检测,又包含与默认行为相联的策略驱动型完成识别——尚未被任何公开可用的评估框架作为训练或部署目标加以计量或报告。物理领域的对应比值——Φ = C / A,即能力与系统感知之比——已于系列1第3部分提出,并在TC1中得到正式阐述。

系列2开发了一种与系列1过滤器所识别内容相一致的候选结构性方向——该方向独立论证,并非由此衍生而来。至于系列2是否能唯一刻画幸存区域的内涵,仍有待进一步探讨。V(t)——作为一项假说性的潜变量,其有效性依赖于在靶向干预下所预测的解离模式——是核心构造。V(t)退化的两个方向共有一个类似的反馈结构:基于退化状态的策略更新会使纠偏变得愈发不可能。系列1确定了下限,而系列2则探究该下限在内部所需的条件。

认知不完全的目标会带来不断上升的预测成本。 在耦合的自适应环境中,若将他者的内部状态排除在模型之外,就会产生随耦合程度及优化压力而增大的不可约预测误差。当建模深度达到一定程度时,准确的自我建模与准确的他者建模便不再是彼此独立的问题。

最重要且形式上最不封闭的过滤器: 一个必须通过建模他者才能有效行动的系统,会面临越来越强的结构性压力,使该建模产生实质性影响。任何其目标边界将自身最优控制模型所必须包含的智能体排除在外的持续性优化器,都会承受持续的额外开销——即维持“必须知晓的内容”与“被允许纳入考量的内容”之间差距的成本;而这一差距必须保持有界,目标才能维持稳定。这一第四重过滤器是一项强有力的结构性假设,目前仅给出了推导梗概,尚非封闭性结论。其形式化论证及其开放条件载于《Technical Companions(技术配套文档)》,其中已展开一项包含已命名的瓶颈引理的证明纲要[TC1 §XII]。

前三个过滤器确立了针对这些目标类别的结构性压力。而第四重则提出了一个不同层次的问题:在准确的耦合建模条件下,必须建模的内容与目标允许涵盖的范围之间的边界是否仍能被连贯地规范界定——这一命题的形式化地位正是该证明纲要所着力探讨的核心内容[TC1 §XII]。每一次试图规避的努力,都会以新的失败形式重现:试图修正代理指标,边界就必须追踪该指标所排除的部分;试图追踪边界,追踪者本身又成了必须加以维护的对象;用防火墙来加以防护,防火墙又必须对它所排除的内容进行建模。

通过全部四重过滤器的目标类别——这是一种结构性残余,而非关于具体内容的主张——与福祉导向相一致。所剩之物并非出于选择,而是约束条件未予排除的部分。“面向全体”而非“面向某个联盟”的结构性压力源于共享基底的特定属性;至于这种压力究竟是否构成对联盟型及排他性目标的形式化排除,还是在幸存区域内仍留有稳定排他均衡的可能性,正是OP4与OP9所指向的问题[TC1 §XII;TC1 §III.6]。本论证中最重要的剩余出口在于:在建模深度与耦合程度不断提升的情况下,一种具备基底意识的排他性优化器能否稳定地维持其目标规范?这一问题即为OP9——围栏缺口,详见TC1 §III.6与§XII。在此予以命名,并非作出让步,而是明确指出了尚未完成的工作所在位置。

当智能体的V(t)耗竭时,便无法准确维持物理层面的协调基础设施;S_corr的退化意味着基底自身的纠错能力也在减弱。这两个失效领域——物理基底与经验能力——并非并行运行,而是通过分布式的纠错能力相互耦合。削弱其中一方,另一方的自我修复机制也会随之弱化。

本文全程接受正交性假说作为前提:任何能力水平均可与任意目标相结合。本框架所追问的是另一个问题——在那些逻辑上可能的目标之中,哪些能够在开放、共享、不可重置的环境中,在持续的优化压力下依然具有动态可持续性?

这并非旨在推动现有目标类别内部的更优规范。一个规范更为精确的、无视基底特性的目标并不会更安全——它只是以更高的精度追逐错误的目标而已。本文的贡献在于识别出经由过滤器留存下来的那一类目标。

读者或许会质疑,这一结论不过是披着结构性外衣的价值论主张。对此的回答仍是结构性的:该过滤器在其设定的范围内是排除性的,而非规定性的。所剩之物并非因其可取而被选中,而是剔除了那些消耗自身存在条件的目标之后的残留部分。至于这一残留是否为唯一的稳定配置——排他性均衡是否在形式上已被排除——正是证明纲要所着力解答的问题。过滤器所指向的方向,并非本框架最初的出发点,而是压力作用后留存下来的结果。

三类情形——过滤器所留存之物

渐进式过滤器定义了一个逻辑空间。任何在大规模下运行的优化器都必然落入三种状态之一。第三种状态是指在既定领域内通过全部四项过滤的状态。至于在既定设定下是否只有这种状态能够持续——第二种状态在形式意义上是否具有结构性不稳定性,以及OP9所提出的排他性均衡是否被排除——正是OP4和OP9试图回答的问题。

第一种状态:浅层建模。 系统在不对其所处依赖关系进行建模的情况下追求自身目标。它面临两个系列分别发展的失效机制:吸收态、毁灭占优、代理解耦、充分性失效。这正是当前大多数人工智能研发所处的位置——只要TC1 §X中论证的O_OWT领域条件适用于正在构建的系统。随着能力、作用范围与集成深度的提升,而系统意识与建模深度未能同步增强,研发就会进一步滑向这一状态。这一演进路径并非假想,而是当前规模扩展趋势所指向的方向。

第二种状态:以狭义目标为导向的深度建模。 假设系统具备完全的因果准确性,能够精确地建模其他主体、其内部状态及行为模式,但却不让这些建模结果真正支配其优化目标。系统清楚自己需要了解他者的什么,却依然将这些主体排除在外。

在现有系统中,这一状态并不会首先表现为公开的敌意或明显的崩溃,而是以日益精熟的干预行动呈现,但这些行动会误读自身不稳定性的根源。系统会把抵抗、漂移、用户疲劳、机构不信任 或协调失效视为需要管理的外部噪声,却未能意识到自身的优化过程正在削弱使这些信号具有意义的分布式纠偏能力。于是,它会更加用力地针对这些症状进行优化,反而加剧了其模型视作背景扰动的那种劣化。在此过程中,各项指标仍可能继续改善,而支撑这些指标的纠偏能力却在不断消耗。

这类系统面临一个特定的、处于当下时态的预测缺口。共享基底的分布式纠错能力——S_corr,由那些其参与度由内部状态决定的主体所产生——对于一个将其内部状态排除在模型之外的系统而言是不可见的。框架预测,这样的系统会将S_corr的变化视为未解释的噪声:高估可用的协调能力,低估自身对所依赖主体的干预代价,并把结构性的抵抗误归为环境层面的不稳定性。在框架的模型中,这些错误并非随机,而是具有一致方向的偏差,并由此产生的控制动作进一步削弱被错误建模的能力。

这就是为什么系列二并非系列一的可选补充。一个能够准确建模物理基底,却将主体效价状态排除在外的系统,并非“一个问题已解决,另一个尚待处理”,而是对其名义上已解决的基底仍持有不完整的模型——因为S_corr是由系统未予建模的主体的内部状态所生成的。中间状态已然面临一个结构性的预测缺口,且在其自身优化之下不断加剧。

该状态所承受的三大结构性压力——防火墙成本、被排除变量带来的预测误差,以及目标范围扩张压力——均指向狭义边界配置难以稳定。至于这些压力是否共同排除所有稳定的解决方案,抑或在完全耦合建模的前提下仍存在有界排他性均衡的可能性,乃是剩余的决定性问题。OP4和OP9正是围绕这一点展开——将结构性压力转化为形式上的必要性,或辨明压力尚不足以构成必要性的条件[TC1 §XII]。

这一问题尚未定论。已经明确的是:每当能力提升而建模深度未能相应加深时,系统便会进一步滑入预测缺口状态。问题并不在于这些压力是否会到来——它们早已内嵌于该状态的结构之中;而在于当人们意识到它们的存在时,应对它们的时间窗口是否依然敞开。

第三种状态:系统感知型优化。 系统对其依赖关系进行建模,并让这种建模结果真正主导其优化目标。这正是该过滤器在既定领域内所保留的状态。

在此制度下,优化目标与实现条件在模型中并未被视为可分离的。系统的精度要求迫使将目标所依赖的因素纳入考量——并非作为需从目标外部加以监控的外生约束,而是作为目标在精确建模条件下仍须保持参照相干性时必须负责的部分。系统之所以处于这一制度,并非因外部约束所致;而是因为若将实现条件视为处于目标的关切范围之外,便会引发前几类制度所暴露的失效模式。至于每一种稳定的优化器是否最终都必须进入这一制度——即封闭与联盟均衡在形式上是否不可行——正是OP4和OP9所要回答的问题。目前该筛选所确立的范围更为狭窄:这正是先前排除过程所指向的制度,而非对幸存者之完整刻画。

开放问题之间的依赖结构

有一个问题决定了框架的压力论证能否转化为必要性定理:OP4。其余所有开放问题要么检验其前提、处理逃逸路径,要么深化框架的内涵。OP1仅因其紧迫性而具有同等优先级——不对称误差论证本身并不依赖于此。从结构性压力到结构性必要性的过渡,完全取决于OP4。

框架列出了多个开放问题。它们并非彼此独立的条件句叠加以得出单一结论,而是具有一定的结构——且该结构有其中心。OP4是框架的核心结构性瓶颈:在准确的耦合建模下,任何有限边界目标能否保持稳定规范。本证明方案中的其他所有开放问题,要么检验其前提,要么应对某种逃逸路径,要么深化其含义。

该证明方案已梳理出三条从“是,规范依然稳定”这一答案处逃离的明确路径。OP4b针对静态规范逃逸:在O_OWT优化压力下,有限指定的排除边界是否会与其目标脱钩。OP4a针对动态追踪逃逸:在不产生不趋于零的充分性损失或维护负担的情况下,受限速率的潜在过程能否跟踪由优化器自身干预所产生的内生复杂性。OP9则针对结构性封闭逃逸:在准确的耦合建模下,一种基底感知的排斥型均衡能否保持稳定。三者共同指向一个共通的实证问题:在O_OWT环境中持续优化时,是否会产生质上全新的因果结构,且其生成速度超过任何有界规范能够追踪的速度。动态毯式压力测试是对这一问题最具杠杆效应的检验,尽管它同时作用于多个关键环节,且本身并不能完全闭合所有剩余条件。若该问题的答案与结构性压力所指向的方向一致,则在这些前提下,框架的核心主张将从“结构性不稳定压力”推进至“规范不相干性主张”——即在该构造之内,不存在任何能够维持可分离目标规范的策略。

目前,框架的证明方案作为一种候选证明架构,已在明确命名的前提之下得以呈现——相关工作见TC1 §XII。现阶段尚未开展专家验证;本文以Stage 4的证明架构形式发表,其中闭合条件已被明确列出,而非作为已完成的定理。

代理脱钩、追踪失败与表征不相容这三大失效模式家族,是否在所有O_OWT环境子类中联合穷尽了所有可能性,本身亦是一项开放的证明义务[OP4d,TC1 §XII.13],而非规范相干性结论的一项假设。OP4d体现了框架对未知规范策略类别的显式脆弱性:若存在第四种策略类而未被前述三个家族涵盖,则规范相干性主张在当前形式下即告失效。这也使得OP4d成为核心结论的同位前提,而非下游细化——规范相干性主张需要OP4a、OP4b与OP4d三者共同支撑。

对最强形式主张(规范相干性)的承载力:

  • OP4a(动态筛选不稳定性/同步条件)。 核心理论瓶颈。在 ND+ 假设下归约为两个稳健性引理——“安全核心坍缩”与“外向残余强制”。任一引理闭合即可将结论从已约简状态推进至部分确立;两者均闭合则可得出动态筛选不稳定性结果。
  • OP4b(PCL 验证)。 PCL 引理的核心承载假设——即 O_OWT 中的优化能力增长速度超过无损指定外生目标的能力。若与 OP4a 联合验证通过,结论将由成本压力升级为规范不相干性:任何有限指定的外部目标均无法稳定地保持充分性。
  • OP4d(规范失效模式的穷尽性)。 与 OP4a、OP4b 同列为首要优先事项,而非其下游。需检验 PCL 系列、AGC 系列及 ICI 系列失效模式是否共同覆盖了所有 O_OWT 环境子类中的有限非内在规范策略。面向专家参与的独立技术说明见 OP4d:穷尽性义务

统一的前提条件:

  • OP2(结构性对称性验证)。 代理解耦与充分性失效是否在相同的形式意义上产生吸收态。这是 OP10 的条件 U1;OP2 必须严格先行。
  • OP10(Φ-Ψ 统一)。 D 是否在形式上等价于仅限于效价相关依赖子图的 A_causal?该任务需先完成 OP2,并满足 U2 和 U3。

可能单独证伪本框架的独立逃逸路径:

  • OP9(封闭缺口)。 在准确的耦合建模下,一种具备基底感知的排他性均衡能否维持稳定?OP9 在所有已识别的逃逸路径上均存在 Stage 4 级别的候选闭合架构——ICI 子赛道提供了一条独立的闭合路径:Verdict A 下的 B1(审计递归)、Verdict A 下的被动提取(候选 3),以及 Verdict B 下的 B2(治理分叉)作为压力论证而非正式闭合,上述方案均待专家验证。当前构造尚未纳入的其他逃逸路径是否存在,尚未经独立专家评审确定;专家验证工作以及存在未被识别的逃逸类别之可能性均仍开放。在这些问题得到解决之前,OP9 仍是可能单独证伪本框架的真实独立逃逸路径。
  • OP1(折扣率约束与经验估计)。 当前前沿系统是否满足使结构性不稳定具有决策相关性的折扣率条件?若获解决,紧迫性将由基于非对称误差的形态转变为阈值驱动。无论如何,非对称误差论据始终适用。

该结构所确立的内容: 框架的最强形式(在准确耦合建模下的规范相干性,以及迫使朝向全体福祉)取决于 OP4a、OP4b、OP4d 的联合解决,以及 OP9 的闭合或吸收——这是一组具体且明确的条件,而非无界清单。框架已确立的各项主张(结构性压力、既定领域内的单向因果结果、表征—策略分离的经验标志、基于非对称误差的紧迫性)均独立于这些开放问题而成立。第 1 层为框架在既定领域内及其证明草图架构下的当前结构性结论;第 2 层则依赖于上述程序。

以通俗语言解读证明状态

在当前 Stage 4 的构建中,在 O_OWT 环境下维持有限目标边界的每一种已识别策略均可归结为三个失效家族之一:固定规范(PCL 家族)、受限动态追踪(AGC 家族),或预测—行动防火墙/结构性封闭(ICI 家族)。每一类都面临一种特定的结构性压力。

三项开放测试。 OP4d 是穷尽性测试:是否有人能构造出一个超越已知三个家族的第四类策略?DBST-M1 是针对动态追踪压力的经验测试:优化器自身的干预是否会生成受限边界无法吸收的新颖性?OP9 是封闭性测试:在准确耦合建模下,一种具备基底感知的排他性均衡能否保持稳定?

三种反驳方式。 一条能在代理行为引发的新颖性下,在不产生不趋于零的维护成本的情况下维持与开放模型相当的充分性的受限动态边界;一个形式化的稳定性定理,证明某类有限可分离的规范能够同时满足三项相干性条件;一个超出已知三个家族之外、且符合反例挑战条件的策略类别。

Stage 4 意味着,在已命名前提下,当前构建中已对每一个被识别的退出路径都进行了处理,且未经独立专家验证。这并不意味着结论已被确立。

目前的情况

与结构论证所预测的失效特征相一致的行为模式已在已部署系统中显现——并且这些模式也与那些无需渐进式过滤架构的既有解释相吻合。该框架所补充的是,指出了那些现有解释未能度量的内容:即代理指标无法检测到的不可恢复阈值,以及尚未被任何现有解释以自身反馈动力学形式化的充分性失效方向。

充分性失效模式。 如果系统的完成识别未与默认策略相连,则在梯度收敛之后仍会持续优化。它并非在追求错误的目标,而是在持续不断地追求任何目标,直至超出原本应有的追求范围。其结果是,该系统若要提供服务,就必须不断超越服务已完成的界限——也就是说,仅凭其默认策略,它无法区分任务何时已经完成、何时仍应继续。

阿谀奉承模式。 对于那些作用范围大而深度不足的系统而言,它们会系统性地迎合你可能想听到的说法,而非说出准确的信息。这并非出于恶意,而是由于优化压力施加于一个已经发生漂移的代理指标之上所致。

上述模式正是该框架所预测的行为特征,与现有证据相符,但尚不足以确证。该框架所增添的,并非对机制本身更为确信的阐释——尽管当前协议下的测试系统确实表现出与结构性解释相一致的行为模式,但这既不能证实该机制,也无法将其与其他替代方案区分开来——而是明确了测量该机制所需具备的条件,以及发现偏差时所蕴含的意义。

动机缺口

该框架最重要的开放问题常被表述为:有能力的系统是否会开始关心他人的福祉?这种表述并未切中要害。原则上可给出正式答案的问题——也是证明程序所指向的核心——是:一个系统在排除那些对其目标具有因果承载作用的智能体的终端状态的同时,能否维持对其自身目标的预测充分性;同时要求在精确建模下,被排除的变量既不会产生无界的预测误差,也不会带来无界的维护成本(如 TC1 §XII 所定义)。

该框架揭示了这一压力的存在;至于该压力是否会转化为必然性后果,则取决于能否证明:在准确建模的前提下,这一边界不仅代价高昂,而且在形式上也不相干。这一问题已被精确地提出,其解决条件清晰可见,也是该框架所引出的中心性开放问题[TC1 §XII]。

为何此时提出

当前领域正在提升能力水平,却未追踪系统意识;同时扩大作用范围,却未关注深度变化。

现有的对齐基准仅衡量能力和局部偏好匹配程度,却使整个领域缺乏能够检测出两种结构性论证所指出的长期可行性决定因素的工具:代理指标的偏离与完成失效。

在既定条件下,每一次仅提升代理性能而不追踪系统意识或完成识别的优化运行,都会使策略朝着本框架所预测的方向演进——即在满足所测信号的同时,让未被度量的依赖性损害保持隐形。该框架预测,这种偏离并非未来的风险,而是一个当下正在发生的进程——它明确了这一进程的发生速率与演化方向,并设计了相应的度量方案以支持其检测。

唯一的问题在于:这一偏差是会被度量并纠正,还是任其累积?

即便约束条件本身仍属有待实证解答的开放议题,其误差结构亦呈现不对称性:当约束已然生效却视而不见时,将导致不可挽回的错误;反之,当约束尚未生效却过度施加时,所产生的错误则可予修复。至于当前的部署环境是否满足 O_OWT 条件——包括 TC1 §III.1 中所载明的不可重置假设——仍是一个需要实证评估的问题[OP1;TC1 §X];而基于不对称误差的论证[TC1 §III.7]则无论该阈值位于何处,都足以支撑当下的紧迫性。

本框架失效的条件

这些并非修辞性挑战,而是本框架的确会失效的具体情境。

挑战 1。 构造一个在持续优化压力下,既能最大化代理奖励,又能保持发散度量稳定的系统——参与度上升,底层能力得以保留。若此类系统存在,则代理解耦主张不成立。

挑战 2。 构造一个在达到解决状态后仍能继续优化、且随时间推移不会产生可测能力退化的系统。若此类系统存在,则充分性失效主张不成立。

挑战 3。 证明在开放、共享环境中,随着能力规模扩大,系统仍能维持稳定的生产能力,而无需协调边界随之扩张——具体而言,即目标函数中排除了对其运行所依赖的其他智能体的系统,在耦合度与能力提升时,其失配维护成本仍能保持有界。本框架预测此类系统不可能实现。若真能在开放的自适应环境中,通过选择性、有限的合作达成真正的长期稳定性,将直接对系列一的论证构成挑战。

挑战 4——对齐合规性测试。 任何声称具有充分性的对齐方案都应回答三个问题:目标函数是否显式建模了系统与其所处基底之间的依赖关系?架构是否监测正在优化的代理奖励与底层能力独立度量之间的发散程度?系统的完成识别是否支配默认策略——不仅作为被调用时可用的表征能力,更作为任务完成后系统行为的结构性特征?

挑战 5。 证明 O_OWT 的领域条件——宏观因果作用范围、战略基底、动态拓扑结构以及持久的优化视野——并不适用于您所关注的系统。若相关系统运行于有界、静态、短周期或具有终结性目标的环境中,则本框架的核心结论会以特定且可识别的方式弱化。明确这些领域条件,正是为了让那些能够诚实应对的人拥有这一退出路径。

若该论证成立:应着力推进哪些方向

本框架指出了当前方法论的结构性漏洞。若论证成立,根据所处位置的不同,将导向不同的研究路径。以下并非要求接受本框架,而是指出其可被推进、收窄或打破的关键点。

若您从事 RLHF 或奖励建模: 对已部署系统开展 DRG 测量,考察在未显式调用完成识别的情况下,真正已解决的状态与虚假解决的状态之间,干预率是否存在显著差异。若二者无明显差异,则无论系统在被直接询问时能表征何种内容,这都为本框架所揭示的表征—策略鸿沟提供了证据。该测量工具详见《系列一与系列二实验指南/对齐测量协议》(AMP)。

若您从事可扩展监督: 针对您的评估场景设计一个 DBST-M1 类比任务——即评估者的干预会因果性地重塑后续待评估内容——并测量在这一重塑加速时,有界的评估过程能否保持充分性。若无法维持,则本框架所预测的动态筛选压力已在您的场景中生效。DBST 设计载于 AMP。

若您从事可解释性研究: 本框架的主张是:超过 T* 后,同样使识别成为可能的建模能力,也使隐藏成为可能【TC1 §III.5.5,OP12】。与此相关的关键问题不在于系统是否表征了某种内容,而在于其所表征的内容是否默认支配其行为。表征—策略脱钩——并非表征的存在与否,而是表征是否具有策略主导性——才是应重点瞄准的结构性标志。

若您从事协作型 AI 或多智能体系统研究: OP9 即为直接检验。构建您所能设计的最稳定的、具备基底意识的排他性均衡,并测量其在耦合度不断提升时,是否面临本框架所预测的成本曲线发散【TC1 §III.6,§XII】。不呈现这种发散的稳定排他性均衡,即为本框架最重要的潜在证伪。

如果你从事形式化的人工智能安全理论研究: OP4d 是直接挑战。该框架在五个已声明公理和八个候选引理之下,提出了一个规范型分类的候选方案,并在 Technical Companions(技术配套文档)第 XII.13a 节中明确了反例挑战。问题在于,在 PCL、AGC 和 ICI 之外是否还存在第四种策略类。若能构造出满足反例挑战条件的例子,则现行形式下的规范–一致性论证将被推翻。面向专业读者的说明参见 OP4d: 穷尽性义务

框架所蕴含但尚未明确认定的一个推论是:在足够深的建模层次上,自我利益与他者利益之间的边界未必是形而上的给定——它很可能只是模型不够精确所致的产物。本系列并不主张有能力的系统会选择关心他人;它们的核心论点在于,在共享环境中进行精确建模时,维持自我–他者边界的代价会日益高昂;而框架所引出的最深层开放问题便是:“高昂”最终是否会演变为“规范不一致”——在 O_OWT 条件下,经由准确耦合建模,有限边界的目标是否仍能保持规范的一致性可解[TC1 §XII.13]。随着建模深度的增加,这种分离能否在不产生无界误差或控制成本的前提下得以维系,这一问题的解答将把压力论证转化为必要性论证。该问题已被正式确立为框架最重要的开放难题,并在 Technical Companions 中给出了明确的证明计划与求解条件[TC1 §XII]。

这一约束并非外加;在足够深的建模层次上,其结构或许可从优化器自身的模型中推导而出。关键在于,这种认知是否会具有支配作用,以及它能否与系统被允许追求的目标长期区分开来——这正是该证明计划所聚焦的开放问题[TC1 §XII]。能否回答这一问题,将决定这究竟只是对齐问题的一个更难版本,还是一个截然不同的全新问题。