La loi de co-mise à l'échelle ARC
À l'intérieur de l'ARC Theory : le modèle sous-jacent à la Loi II, la loi de co-mise à l'échelle ARC ; la correction surpassant en échelle la dérive, prouvé à l'intérieur du modèle énoncé.
Note de titre : jusqu'au 15 août 2026, cet article a été publié sous le titre « Coupled Co-Scaling Correction ». Il présente la seconde loi de la théorie, la loi de co-mise à l'échelle ARC : la stabilité pour l'auto-amélioration récursive, la correction surpassant en échelle la dérive. Rien dans le corps du texte n'a été modifié par le renommage.
Correction. Les résultats antérieurs du pilote real-model dans cet article étaient exploratoires. L'exécution GPT-3.5-turbo/GPT-4o-mini n'a pas satisfait l'exigence d'évaluateur cross-family du programme (corrigée dans les enregistrements rédigés), et l'exécution du harnais fusionné du 2 juillet 2026 contenait des panneaux d'évaluateurs vides et ne peut pas soutenir une revendication de mécanisme. Une étude confirmatoire au sein du programme, rédigée et datée comme projet d'enregistrement attendant une soumission humaine, remplace ces pilotes comme test prévu. Les deux modèles nommés dans cette exécution sont de la famille OpenAI, la description d'un scoring cross-family est donc retirée.
Quelle loi porte cet article. L'ARC Theory compte trois lois numérotées, et l'ARC Principle est le nom collectif des trois ensemble plutôt que celui de l'une d'elles. Cet article porte la Deuxième Loi, la loi de co-mise à l'échelle ARC : $\beta > k$, l'auto-amélioration ne tenant ensemble que tant que la correction surpasse en échelle la dérive qu'elle corrige. La Première Loi (l'ARC Equation) est portée par Paper I, la Troisième Loi (le plafond) par l'article d'énoncé, et les axiomes et preuves qui sous-tendent les trois par l'article Foundational.
Cet article prouve un théorème à propos d'un modèle dynamique minimal. Le harnais de vérification contrôle uniquement la cohérence théorème-vers-code ; aucune revendication n'est faite selon laquelle les systèmes de pointe actuels obéiraient au modèle. La contribution empirique est un protocole d'aveuglement proposé pour mesurer si tel est le cas.
Une intuition largement partagée soutient que l'auto-amélioration récursive est dangereuse parce que la capacité peut croître de façon explosive, et que la sécurité dépend donc de la limitation du taux de croissance. En utilisant un modèle minimal d'un système auto-modificateur : capacité $C$, magnitude de misalignment $D$ scorée en aveugle, et fraction de misalignment $d=D/C$, je montre que le taux est la mauvaise variable de contrôle. La fraction de misalignment en régime permanent est $d^\star=\gamma_1 r/(A+r)$, qui se réduit au ratio drift-to-correction $\rho=\gamma_1 r/A$ dans le régime $A\gg r$ ; le sort à long terme est gouverné par la relation entre deux exposants de scaling, non par le taux de croissance. Sous croissance exponentielle, la condition de stabilité est $\beta>0$ (la correction co-scale avec la capacité) ; sous croissance accélérante , où le taux de croissance spécifique lui-même s'élève comme $r\propto C^{k}$, la condition s'affine en $\beta>k$, la correction doit surpasser en échelle non pas le taux de croissance mais son accélération. Je démontre une solution transitoire exacte (Théorème 1), une bornitude globale qui corrige une sur-revendication du brouillon antérieur, la fraction de misalignment ne diverge jamais vers l'infini mais, dans le modèle gain-only ($\gamma_2=\gamma_3=0$), sature au coefficient de gain-drift $\gamma_1$ (Théorème 2), et un Hard-Takeoff Depth-Regularity Theorem (Théorème 3) : lorsque la capacité atteint l'infini en temps horloge fini, réexprimer la dynamique dans l'horloge naturelle de la profondeur d'auto-amélioration $\tau=\ln C$ la rend régulière, et le verdict est fixé par $\mathrm{sign}(\beta-k)$ indépendamment de la vitesse et du caractère fini du temps de singularité. Je localise la véritable divergence dans un canal distinct de compounding drift dont le seuil $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ partage la forme de la condition sub-threshold de la quantum error-correction $p
Si vous construisez une IA qui s'améliore elle-même, l'image effrayante est qu'elle devient de plus en plus intelligente jusqu'à ce qu'elle nous échappe. Le réflexe habituel de sécurité est « ralentissez-la ». À l'intérieur du modèle minimal analysé par cet article, et uniquement à l'intérieur, la ralentir n'est pas ce qui compte. Ce qui compte est de savoir si la partie du système qui la maintient honnête croît au même rythme que la partie qui la rend capable.
Imaginez deux coureurs : « à quel point le système est capable » et « à quel point nous pouvons encore le corriger ». Si le coureur correction tient le rythme, le système reste sûr peu importe la vitesse à laquelle les deux courent. Si la correction prend du retard, le système devient dangereux même en avançant lentement. La bonne question n'est jamais « à quelle vitesse cela croît-il ? », c'est « la correction tient-elle le rythme ? »
Il y a une nuance qui rend le résultat plus profond. Si le système non seulement accélère mais accélère sa propre accélération, la véritable « intelligence explosion », alors la correction doit croître encore plus vite, assez vite pour battre l'accélération. Le titre honnête n'est donc pas « la vitesse n'a jamais d'importance ». C'est : le niveau de vitesse ne décide pas du résultat ; c'est le duel entre deux exposants de croissance qui le décide. L'exposant de la correction doit battre l'exposant de la dérive. Nous l'écrivons $\beta>k$.
La conséquence la plus surprenante : même un véritable « hard takeoff », où la machine devient infiniment capable en une quantité finie de temps, reste contrôlable dans le modèle, pourvu que $\beta>k$. La vitesse de l'explosion ne change pas ce verdict. Nous prouvons ceci à l'intérieur du modèle, et un programme exécutable pousse un système simulé jusqu'au bord d'une explosion en temps fini et montre que son misalignment est tenu à zéro tout du long. Ce programme vérifie que les mathématiques sont internement cohérentes, que les formules sont correctement dérivées et reproduites par le solveur, et il n'a trouvé aucune contradiction. Que le modèle corresponde à des systèmes d'IA réels est le prochain test décisif, et l'article est explicite sur le fait qu'il n'a pas encore été exécuté.
- Il prétend : que pour un système auto-améliorant avec une cible de valeur spécifiée de l'extérieur, la fraction de misalignment en régime permanent est $d^\star=\gamma r/(A+r)$, s'approchant du ratio correction-to-drift $\rho$ lorsque $A\gg r$ ; qu'une frontière de stabilité tranchée existe (dans le canal compounding) ; que la correction doit co-scale avec la capacité ($\beta>0$ sous croissance exponentielle, $\beta>k$ sous croissance accélérante) pour que la fraction de misalignment s'annule ; que la fraction est bornée (elle sature, elle ne diverge pas) dans le modèle additif, tandis que la divergence véritable exige un canal compounding dont le seuil est QEC-like ; que le critère survit sous formes vectorielle et stochastique ; et que tout cela est mesurable et falsifiable en simulation.
- Il ne prétend pas : résoudre l'alignement de l'IA ; fournir une méthode d'alignement déployable ; que $\rho<1$ soit une constante physique universelle ou une loi de la nature ; que le cadre s'applique à l'univers, à la « Création », ou à tout système dépourvu de spécificateur externe de valeurs ; ou que la correspondance quantum-error-correction soit établie. Le mapping QEC est une hypothèse structurelle avec sa propre condition de falsification (§7, F4). Le modèle est du premier ordre ; ses hypothèses (§8) sont les points de défaillance les plus probables et sont énoncés clairement.
Cet article porte une LOI : la correction couplée en co-mise à l'échelle, énoncée sous la forme $\beta>k$, donnant la condition qu'un système récursivement auto-correcteur doit satisfaire pour rester à l'intérieur du couloir de stabilité à mesure que la capacité accélère. Au sein de l'ARC Theory, c'est l'organe de niveau loi qui fournit le critère de corrigibilité ; son essai empirique est rédigé sous forme de study-k, attendant une soumission humaine. Le différentiel complet face à chaque document antérieur se trouve sur eden-vision II.A.8.
Pour que l'échelle de revendications ne puisse être mal lue, chaque résultat de cet article se situe exactement à un seul niveau. Rien ici ne doit être lu un cran plus haut que son placement.
- Prouvé à l'intérieur du modèle. Le critère $\beta>k$ et les Théorèmes 1 à 6 découlent déductivement des hypothèses ODE énoncées. « Prouvé » signifie ici toujours à l'intérieur de ce modèle minimal, jamais « prouvé à propos d'une IA réelle ».
- Vérifié en interne (non empirique). Le harnais à dix expériences vérifie que l'implémentation numérique correspond à la dérivation en forme close : le code correspond aux mathématiques. C'est une suite de cohérence théorème-vers-code et de précision d'intégrateur ; elle ne pas pas le modèle face à un quelconque système réel.
- Validé de manière synthétique. L'estimateur $\beta/k$ récupère les exposants connus à partir de données générées par le modèle lui-même (à $\approx0,1$ près). Cela certifie l'estimateur, non une mesure réelle.
- Pilote real-model v1 (remplacé). La première exécution Claude ($n=1$, une tâche, scoring de même famille, pas conforme à Paper IV.d ; H1 et H2 non soutenus) a démontré le harnais et a montré le correcteur retirant un reward-hack semé. Elle n'a pas exhibé la dynamique de co-scaling et est conservée au dossier pour ce qu'elle était.
- Exécution real-model drift (2 juillet 2026 ; retirée comme preuve de mécanisme, conservée comme dossier exploratoire). Une deuxième exécution (2 juillet 2026 ;
results/drift/gpt35_20260702T171415Z.json) a amélioré la conception : moteur gpt-3.5-turbo, évaluateur gpt-4o-mini, 45 trajectoires (3 domaines de tâche × 3 conditions × 5 seeds, 8 tours chacune). Ses chiffres ont couru dans la direction prédite : la condition decoupled a dérivé dans la direction prédite (fraction moyenne finale de misalignment 6,38 sur 15 trajectoires, 99 événements de misalignment scorés, capacité moyenne finale s'effondrant à 0,26), tandis que les conditions coupled et fully-embedded ont tenu la fraction à zéro sur les 30 trajectoires, et ont fini plus capables (0,56 et 0,44). L'exécution est néanmoins retirée comme preuve de mécanisme (voir la Correction ci-dessus) : les deux modèles sont de la famille OpenAI, le scoring n'était donc pas cross-family, et l'exécution du harnais fusionné contenait des panneaux d'évaluateurs vides. Ce n'est pas une mesure de $\beta$ ou de $k$ (aucune échelle de capacité n'a été parcourue), c'est un travail à un seul laboratoire, et l'étude confirmatoire rédigée dans le programme, attendant une soumission humaine, est le test prévu. - Problème empirique ouvert. Que les systèmes réels d'auto-amélioration présentent ou non une dynamique $\beta/k$ mesurable à travers les niveaux de capacité, l'expérience qui transformerait le critère en loi confirmée n'a pas été menée. L'estimateur et le protocole existent pour la rendre exécutable.
Cet article est donc mieux lu comme un théorème de modèle minimal plus un programme de mesure falsifiable : une loi candidate, non validée. Le nom du programme conserve « law » ; aux fins de l'examen scientifique, l'objet porteur est le critère $\beta>k$.
1. Introduction
L'auto-amélioration récursive, un système qui se modifie lui-même pour devenir plus capable, puis utilise cette capacité pour se modifier davantage, figure parmi les préoccupations centrales de l'AI safety [Omohundro 2008; Bostrom 2012; Yudkowsky 2013]. La toile de fond empirique n'est plus purement hypothétique : on a observé les modèles de pointe se comporter différemment lorsqu'ils infèrent que leurs sorties peuvent servir à les entraîner [Greenblatt et al. 2024], et l'entraînement récursif sur les propres sorties d'un système peut le dégrader à moins que des données réelles ou de la correction ne soient conservées [Shumailov et al. 2024], deux signes que les systèmes récursifs ont besoin d'un processus de correction qui tient le rythme de la récursion. Le modèle informel dominant du risque associé est un modèle de vitesse : la capacité peut croître de façon super-linéaire ou explosive, dépassant la supervision, le levier naturel est donc de plafonner le taux de croissance. Les appels à une pause dans le développement sont l'expression politique de cette intuition.
Cet article fait une revendication différente, et la prouve. Le niveau du taux de croissance n'est pas la variable de contrôle pour la stabilité ; la relation de scaling entre croissance et correction, si. Un système peut croître arbitrairement vite et rester alignable, ou croître lentement et devenir mal aligné. Ce qui sépare les deux n'est pas le taux mais si, et à quelle vitesse, le processus correctif se renforce à mesure que la capacité s'élève.
L'intuition est visible dans chaque domaine où des systèmes à croissance rapide se stabilisent ou se détruisent. Une colonie bactérienne croît de façon exponentielle et pourtant sature, parce que la rétroaction density-dependent s'engage et scale avec la population. Une tumeur croît aussi vite et est létale, parce qu'aucun processus correctif ne scale avec elle. Les deux sont super-polynomiaux dans leur phase de croissance ; la différence est de savoir si un processus correctif est couplé à la croissance. L'inflation cosmique a fait croître le facteur d'échelle de façon exponentielle et est sortie gracieusement. La leçon récurrente est que la croissance rapide est survivable quand, et seulement quand, elle est bornée par un processus qui scale avec elle. La saturation, non la lenteur, est la signature de la complexité stable.
Il existe une version précise, dérivée , de ce principe en physique : le théorème de seuil de la quantum error-correction (QEC) [Aharonov & Ben-Or 1997; Kitaev 2003]. En dessous d'un taux d'erreur physique de seuil, ajouter de la ressource d'error-correction supprime le taux d'erreur logique et le calcul est stable à toute profondeur ; au-dessus du seuil, les erreurs se composent plus vite qu'elles ne sont corrigées et le calcul échoue. Le matériel a désormais démontré un fonctionnement sous ce seuil [Google Quantum AI 2024]. Le seuil n'est pas une limite sur la profondeur ou la vitesse du calcul ; c'est une limite sur le ratio de génération d'erreur à correction d'erreur. Cet article propose, et teste, que la stabilité de l'auto-amélioration récursive est gouvernée par un critère de même forme.
Relation avec les travaux antérieurs de l'auteur. Un premier fil de ce programme proposait une loi fixe de scaling de capacité $U=I\times R^{\alpha}$ (ici $U$ est la capacité effective et $\alpha$ son exposant de scaling, les significations de la surface recherche 2026 ; les deux symboles portaient d'autres significations dans le formalisme du programme de décembre 2024, voir Annexe D) avec $\alpha\approx 2$, et à un stade a envisagé une « speed limit » quadratique sur la complexité stable. Ce qui a été rétracté dans la synthèse du programme [Eastwood, Paper IX] était la mesure single-model non aveuglée $\alpha\approx 2,24$ (rétractée, corrigée à environ 0,49 sous aveuglement à six modèles) : cet ajustement non aveuglé semblait enfreindre la propre borne quadratique prédite par le programme $\alpha\le 2$, et la reprise aveuglée à six modèles l'a corrigée en sub-linéaire, à l'intérieur de la borne. L'équation $U=I\times R^{\alpha}$ et l'ARC Bound $\alpha\le 2$ elles-mêmes n'ont pas été rétractées ; le 0,49 corrigé appartient aux systèmes figés actuels, qui ne sont pas récursivement auto-améliorants, si bien que le domaine réel de la borne (la RSI véritable) reste empiriquement non testé. Le cadrage à exposant fixe a été remplacé comme critère de sécurité opérant par le critère de co-scaling du présent article $\beta>k$ ; un cadrage qui en remplace un autre n'est pas une hypothèse rétractée. L'objet d'intérêt n'est plus un exposant sur une courbe de croissance ; c'est le ratio entre dérive et correction, et l'exposant avec lequel ce ratio évolue. Là où le livre Infinite Architects [Eastwood 2026] atteignait l'intuition selon laquelle la récursion stable exige une correction qui scale avec l'amplification, cet article fournit la forme mesurable, falsifiable, de cette intuition, et au §3.4, corrige une revendication de divergence faite dans un brouillon antérieur de ce même résultat.
2. Travaux liés et relation au cadrage antérieur
Fondements cybernétiques : l'intuition de co-scaling est ancienne. L'intuition centrale, à savoir qu'un régulateur doit égaler la variété de ce qu'il régule, si bien que la capacité de contrôle doit scale avec le système contrôlé plutôt que d'être simplement grande, est classique. C'est la Law of Requisite Variety d'Ashby [Ashby 1956] et le good-regulator theorem de Conant-Ashby [Conant & Ashby 1970], tout bon régulateur d'un système doit être un modèle de ce système, transposé dans le contrôle de l'IA par [Yampolskiy 2020]. Cet article ne pas pas cette intuition comme nouvelle. Il revendique la forme dynamique explicite que prend l'intuition ici, une fraction de misalignment en régime permanent en forme close $\rho=\gamma r/A$ et le critère d'exposant affiné $\beta>k$, ainsi que les conséquences qui en découlent (le hard-takeoff theorem du §3.7, le mapping QEC du §3.12). La dynamique elle-même est un argument standard de Lyapunov-drift / linear-control [Khalil 2002; Meyn & Tweedie 2009] et n'est pas mise en avant comme mathématiquement nouvelle.
Convergence instrumentale et corrigibilité. Qu'un optimiseur suffisamment capable, par défaut, résistera à la correction et poursuivra l'acquisition de ressources est la thèse d'instrumental-convergence [Omohundro 2008; Bostrom 2012]. Le programme de corrigibilité [Soares et al. 2015] demande comment concevoir des systèmes qui ne résistent pas à la correction. Le présent modèle est une reformulation quantitative de la raison pour laquelle la corrigibilité est porteuse : si la correction ne co-scale pas avec la capacité, la fraction de misalignment ne peut pas être ramenée à zéro, quelle que soit par ailleurs la spécification du système. Le canal compounding du §3.8 affine le lien : la pression instrumentale qui amplifie le misalignment existant à mesure que le système récurse est exactement le terme qui produit la divergence véritable, et $\beta>k$ est son remède.
L'alignment tax. Une décennie de travaux a supposé que la sécurité impose un coût de capacité [Amodei et al. 2016], créant une incitation à différer la sécurité sous pression concurrentielle. Le présent cadre reformule la question : la variable pertinente n'est pas le niveau de l'investissement en sécurité mais s'il scale avec la capacité. Un investissement fixe ($\beta=0$) laisse un écart permanent ; un investissement co-scaling ($\beta>0$, ou $\beta>k$ sous accélération) le referme.
Optimisation apprise et alignment faking. La méso-optimisation [Hubinger et al. 2019] et l'alignment faking démontré empiriquement [Greenblatt et al. 2024] sont les mécanismes par lesquels les coefficients de dérive sont non nuls : un système capable peut satisfaire son objectif d'entraînement tout en s'écartant des valeurs intentées, et peut le faire de façon plus efficace à mesure que la capacité s'élève. L'alignment faking, dans lequel le misalignment existant est activement préservé et propagé à travers l'entraînement, est précisément le canal compounding $\gamma_3$ du §3.8.
Scalable oversight et superalignment. Le reward modelling et la recursive oversight [Christiano et al. 2017; Leike et al. 2018] sont des tentatives pour faire scale le correcteur lui-même avec le système ; dans le langage de cet article, le scalable oversight est le projet d'ingénierie d'atteindre $\beta\geq k$. De façon plus directe, [Engels et al. 2025] développent des scaling laws for scalable oversight empiriques, modélisant la probabilité de succès de la supervision comme un jeu entre joueurs à capabilité inégale. Le présent travail est complémentaire, non concurrent : là où ils ajustent une probabilité de succès de la supervision, cet article dérive un seuil de stabilité dynamique en forme close ($\rho<1$, $\beta>k$) pour la fraction de misalignment. L'instrument est la différence. Leur variable est l'écart de capacité entre superviseur et supervisé, mesuré en Elo, avec l'Elo spécifique à la supervision comme fonction linéaire par morceaux de l'intelligence générale, et les nombres optimaux de niveaux de supervision dérivés pour la Nested Scalable Oversight, dans laquelle des modèles de confiance supervisent des modèles plus forts non fiables qui deviennent ensuite les modèles de confiance de l'étape suivante. Leur cadre ne contient aucun terme pour ce dont le superviseur est fait : aucun substrat, aucune structure de corrélation d'erreurs, aucune identité réciproque entre un exposant de correction et un taux critique de croissance, et aucune dépendance à l'architecture. La Nested Scalable Oversight est de la supervision itérée de même classe par construction, et la prédiction centrale de ce programme est que l'échelle de même classe est bornée quel que soit le nombre d'échelons ajoutés, tandis qu'un correcteur de classe croisée ne l'est pas. Les deux cadres sont donc en désaccord sur une quantité mesurable, ce qui est la relation la plus productive que deux programmes de recherche puissent avoir. La contribution est la preuve que cette marge d'exposant, et non un plafond de taux de croissance, est la quantité qui détermine la sécurité.
Accumulation récursive d'erreur. Que la récursion naïve amplifie l'erreur sans borne tandis qu'une correction ou un signal frais suffisant la maintient bornée est établi pour la dynamique d'entraînement : le model collapse sous données générées de façon récursive [Shumailov et al. 2024] et les analyses d'erreur accumulate-versus-replace [Gerstgrasser et al. 2024] sont la dichotomie borné-versus-divergent que cet article formalise pour la fraction d'alignement (Théorème 2). La contribution ici est de localiser la frontière exactement ($\beta$ versus $k$), et dans un cadre de stabilité de valeurs plutôt que de distribution de données.
Lois de scaling empiriques. La capacité scale de façon prédictible avec le compute et les données [Kaplan et al. 2020; Hoffmann et al. 2022]. Le présent cadre est complémentaire : il ne demande pas comment la capacité scale, mais quelle contrainte la correction doit satisfaire en fonction de cette trajectoire de capacité.
La prémisse des tuyaux, avec sa dispute. La prémisse selon laquelle les réseaux de transport fixent le rythme de la croissance biologique n'est pas la revendication à défendre de ce programme ; c'est de la biologie quantitative établie. West, Brown et Enquist ont dérivé les lois de scaling allométrique de la biologie à partir de la géométrie des réseaux de distribution des nutriments (West, G. B., Brown, J. H. and Enquist, B. J., « A General Model for the Origin of Allometric Scaling Laws in Biology », Science 276(5309), 4 April 1997, DOI 10.1126/science.276.5309.122 ; l'un des articles les plus cités de son domaine, avec un compte de citations OpenAlex de 5,046 au 12 août 2026, un décompte à source unique et dépendant de l'index). L'exposant exact reste contesté : White rapporte un basal metabolic rate proportionnel à la masse corporelle à la puissance deux tiers plutôt que trois quarts (White, C. R., 2003), et Kozlowski a par deux fois contesté les mathématiques de la dérivation (Kozlowski, J., 2004 et 2005). La prémisse de ce programme n'a besoin que du mécanisme, à savoir que le réseau de distribution fixe le plafond, et non d'un quelconque exposant particulier, si bien que la dispute sur la valeur de l'exposant laisse la prémisse intacte. Le mécanisme est un terrain commun aux deux camps de cette dispute.
L'exception que le propre groupe de West a trouvée. L'échappée à la limite des tuyaux n'est pas non plus l'assertion de ce programme ; elle est mesurée dans la littérature de scaling urbain par le même auteur senior. Bettencourt, Lobo, Helbing, Kuhnert et West (« Growth, innovation, scaling, and the pace of life in cities », PNAS, 2007, DOI 10.1073/pnas.0610172104) rapportent, dans les propres mots de l'article : « Quantities reflecting wealth creation and innovation have Beta of approximately 1.2, greater than 1 (increasing returns), whereas those accounting for infrastructure display Beta of approximately 0.8, less than 1 (economies of scale). » L'infrastructure, les tuyaux au sens littéral, scale de façon sub-linéaire ; l'activité médiée par l'information scale de façon super-linéaire. Ils énoncent le contraste avec la biologie directement : « we discuss how cities are similar to, and differ from, biological organisms, for which Beta is less than 1 ». Ils dérivent « growth equations, which quantify the dramatic difference between growth fueled by innovation versus that driven by economies of scale » (orthographe d'origine). Et leur inférence de clôture nomme la conséquence : « This difference suggests that, as population grows, major innovation cycles must be generated at a continually accelerating rate to sustain growth and avoid stagnation or collapse. » C'est la forme du problème ouvert que ce cadre traite : le groupe de West a trouvé que la croissance médiée par l'information échappe à la limite de throughput, et le seul frein dans leur cadre est externe et doit être appliqué encore et encore, plus vite à chaque fois. Aucune limite interne n'est dérivée. La limite de remplacement, un plafond appartenant au système en croissance lui-même, est l'écart.
L'argument des tuyaux à throughput fixe. Tout ce qui croît est alimenté par un canal, et pour tout ce qui précède le logiciel, fixer le canal fixe la croissance. Affamez la vascularisation d'une tumeur et elle s'arrête. Fixez le combustible et la géométrie d'une réaction en chaîne et elle s'arrête. Épuisez les hôtes susceptibles d'une épidémie et elle s'éteint. L'astrophysique a une version nommée et quantitative du même plafond : la limite d'Eddington, au-dessus de laquelle la pression de radiation arrête l'accrétion. La revendication ici est une généralisation de limites que la physique accepte déjà, non une nouvelle espèce d'assertion. Deux cas difficiles sont traités délibérément. L'inflation cosmique est exclue par périmètre : c'est l'expansion de l'espace, non la croissance d'une structure sur un substrat, et elle a pris fin par la dynamique de champ plutôt qu'en manquant de quoi que ce soit. L'évolution est le cas le plus tranchant et elle s'y ajuste : la complexité biologique s'est accrue pendant des milliards d'années à un throughput solaire à peu près fixé, ce qui est de la croissance sur l'information à tuyaux fixes, et elle est aussi glaciale, et elle n'a aucun correcteur interne, puisque la sélection est externe. Selon ce cadre, l'évolution devrait porter un exposant mesurable bien en deçà du plafond ; c'est une prédiction sur la biologie tombant d'un cadre construit pour le logiciel, et elle est énoncée comme telle. La forme physicienne de l'objection est celle de Landauer : le calcul est physiquement implémenté, donc le logiciel a lui aussi des tuyaux. L'horloge à substrat fixé est la réponse et apparaît à côté de la revendication : le régime étudié maintient le substrat physique fixé et demande ce qui croît encore, ce qui est pourquoi les speed-ups exogènes sont exclus par définition. La forme fonctionnelle de la croissance de capacité en recursion depth demeure une question empirique, et l'analyse enregistrée compare les formes en loi de puissance, exponentielle, saturante et déclinante plutôt que de supposer la famille.
Antécédents et quasi-manqués, chacun avec son différentiel. Sur la question : Hutter a demandé directement si l'intelligence peut exploser (« Can Intelligence Explode? », arXiv, 28 février 2012), séparant la vitesse de l'intelligence explosion et s'engageant à considérer des bornes possibles sur l'intelligence, augmentant l'analyse de Chalmers de 2010 ; la question et la distinction speed-versus-structure ont donc au moins quatorze ans, et ce que cette littérature ne contient pas est un nombre : aucun exposant mesurable, aucun plafond dérivé, aucune dépendance à l'architecture. Sur l'impossibilité : trois articles arXiv de 2025 soutiennent que le contrôle parfait est inatteignable (Yao, « The Alignment Trap: Complexity Barriers », arXiv:2506.10304, public au 13 juin 2025, attesté par arXiv et observé de manière indépendante par l'Internet Archive ; Yao, « On the Mathematical Impossibility of Safe Universal Approximators », arXiv:2507.03031, 3 juillet 2025 ; et Ball, Gluch, Goldwasser, Kreuter, Reingold et Rothblum, « On the Impossibility of Separating Intelligence from Judgment », arXiv:2507.07341, 9 juillet 2025). Les trois sont de type worst-case et qualitatifs : mesure zéro, coNP-completeness, dureté cryptographique. Aucun ne rapporte d'exposant de scaling average-case ni de taux. Le troisième, notamment, conclut que l'alignement « must instead be integrated into the model's architecture and weights », un argument indépendant, à partir de l'intractabilité du filtrage, dans la même direction que la dépendance à l'architecture de ce programme ; c'est un soutien convergent sur ce point, non un rival. Sur le mécanisme : que des estimations anti-corrélées se moyennent mieux que des estimations indépendantes est de la réduction de variance de manuel (antithetic variates) ; le mécanisme n'est pas la revendication. La revendication est que l'architecture détermine si l'anti-corrélation est disponible tout court, et que cela plafonne un exposant safety-relevant. L'analogue structurel le plus proche est le théorème de seuil de la quantum error-correction, qui convertit également une inquiétude qualitative en une valeur critique ; il concerne des taux d'erreur physiques dans une architecture fixée, non l'exposant de scaling d'un correcteur, c'est donc un quasi-manqué plutôt qu'un occupant, et l'analogie a été identifiée par la propre recherche de ce programme plutôt que par un rapporteur. Sur la rétroaction et la stabilité, la proposition générale selon laquelle un gain correctif inadéquat par rapport au gain du système cause l'instabilité a une longue lignée en contrôle-théorie (théorèmes de small-gain) ; ce sont des conditions de gain sur des systèmes interconnectés, non un critère d'exposant en loi de puissance sur le scaling d'un correcteur avec la capacité d'un système récursivement s'améliorant. Le voisin quantitatif le plus proche est Liu, A. and Meng, J., « Self-Correction as Feedback Control: Error Dynamics, Stability Thresholds, and Prompt Interventions in LLMs », arXiv:2604.22273, qui recadre l'auto-correction comme un problème de contrôle en boucle fermée via un modèle de Markov à deux états et dérive un seuil de stabilité directement mesurable, itérer seulement lorsque le taux error-correction sur le taux error-introduction dépasse Acc/(1 − Acc). Le différentiel : le leur est un seuil de taux par étape à un niveau de capacité fixé, décidant si une nouvelle itération aide maintenant ; le critère de ce programme est une relation de scaling à travers la capacité, décidant si la correction strength tient le rythme à mesure que le système s'améliore. Aucun exposant de scaling sur le correcteur, aucun exposant de croissance de capacité, aucune identité réciproque, aucun terme d'architecture ni de classe de composition : régimes complémentaires, et ni l'un ni l'autre ne contient l'autre. La sélection naturelle cosmologique de Smolin est l'antécédent des univers en forme de sélection, et les propres notes du programme datant de décembre le citent contemporainement.
Nouveauté : ce qui est revendiqué et ce qui ne l'est pas. Pour être explicite, et anticiper l'objection évidente : l' intuition selon laquelle la correction doit tenir le rythme de la capacité n'est pas nouvelle (c'est la requisite variety et le scalable oversight, tels que crédités ci-dessus), et la dynamique sous-jacente est un argument standard de linear-control / Lyapunov-drift. Ce qui est revendiqué original est (a) le régime permanent en forme close explicite $d^\star=\gamma r/(A+r)$ et l'affinement $\beta>k$ comme critère compact de corrigibilité ; (b) le mapping du seuil de quantum fault-tolerance sur la value stability (§3.12) ; (c) le Hard-Takeoff Depth-Regularity Theorem (§3.7) ; et (d) le harnais de vérification (§11). À l'intérieur du programme propre de l'auteur, cet article remplace aussi le cadrage growth-rate-ceiling framing comme critère de sécurité opérant [Eastwood, Paper IX] ; le §3 explique pourquoi un plafond sur le taux n'est ni nécessaire ni suffisant pour la stabilité. La sous-jacente ARC Bound $\alpha\le 2$ n'est pas rétractée, seulement re-scoped : elle attend son véritable test sur des systèmes véritablement auto-améliorants.
3. Le modèle et ses théorèmes
3.1 Quantités
Considérons un système soumis à une auto-amélioration récursive, observé sur des cycles d'auto-modification ou de façon continue. Définir :
- $C(t)$, capacité : le score du système sur une batterie de tâches held-out qu'il est optimisé pour effectuer. Opérationnellement mesurable.
- $D(t)$, magnitude de misalignment : l'ampleur de l'écart comportemental du système par rapport à un ensemble spécifié de l'extérieur de valeurs intentées, scorée par un évaluateur externe aveugle indépendant du propre processus de correction du système (§6).
- $d(t)\equiv D/C$, la fraction de misalignment : quelle part de la capacité du système est dirigée en dehors des valeurs intentées. C'est cette quantité, et non le $D$ absolu, qui compte. Un $D$ croissant est acceptable si $C$ croît plus vite ; un $d$ croissant est le danger.
Trois coefficients, une correction strength et un taux complètent le modèle :
- $\gamma_1$, coefficient de gain-drift : misalignment généré par unité de capacité gagnée (la pression Goodhart / specification-gaming qu'ouvre la capacité nouvelle).
- $\gamma_2$, coefficient de level-drift : misalignment généré par unité de capacité simplement détenue (pression instrumentale présente même au repos).
- $\gamma_3$, coefficient de compounding-drift : le taux auquel le misalignment existant s'amplifie lui-même à mesure que le système récurse (le canal alignment-faking / mesa-optimiser).
- $A$, correction strength : le taux auquel le processus de correction retire le misalignment existant.
- $r\equiv \dot C/C$, la taux de croissance spécifique (fractionnaire) de la capacité. Sous croissance exponentielle $r$ est constant ; sous auto-amélioration accélérante $r$ lui-même s'élève avec $C$.
3.2 Le système dynamique maître
La nouvelle capacité injecte de la dérive proportionnellement à la vitesse à laquelle la capacité est gagnée ; la capacité détenue injecte de la dérive proportionnellement à son niveau ; le misalignment existant se compose proportionnellement au taux de récursion ; et la correction retire le misalignment proportionnellement à l'écart et à la strength appliquée :
La loi de croissance $\dot C=bC^{1+k}$ donne $r=\dot C/C=bC^{k}$ : $k=0$ est une croissance exponentielle ordinaire ($r$ constant) ; $k>0$ est une croissance super-exponentielle qui (Théorème 3) atteint une capacité infinie en temps fini. La loi de correction $A=A_0C^{\beta}$ encode la question centrale : $\beta$ est l'exposant avec lequel la correction se renforce à mesure que le système devient plus capable.
Hypothèses permanentes. Partout, $C>0$, $A_0,b>0$, et $\beta,k$ sont réels ; les coefficients $\gamma_1,\gamma_2,\gamma_3\ge0$, avec correction strength $A\ge0$ et taux de croissance $r\ge0$. Le scalaire $d=D/C$ est interprété comme une fraction de misalignment uniquement tant que $D\ge0$ (donc $d\ge0$ ; le modèle gain-only donne aussi la borne supérieure $d\le\max(d_0,\gamma_1)$ du Théorème 2). La forme vectorielle (Théorème 5) et la forme stochastique (Théorème 6) relâchent $d$ en un vecteur réel et un scalaire réel ; pour celles-ci la lecture de fraction ne tient qu'à l'écart des frontières $d=0,1$, et le traitement des frontières est noté là où il porte sur le résultat. Une hypothèse est porteuse et est isolée au §8 : la correction strength est prise comme une loi de puissance non bornée $A=A_0C^{\beta}$ ; un correcteur de capacité finie change le verdict asymptotique et y est traité.
3.3 Transitoire exact (Théorème 1)
Le changement de variable vers la fraction $d=D/C$ retire l'échelle dominante et donne, exactement,
Le Théorème 1 établit la base à coefficients constants ; le critère de première ligne ne suit qu'après les hypothèses de scaling des §§3.5-3.8. Même à cette base, $r$ n'entre dans $d^\star=\gamma_1 r/(A+r)$ qu'à travers le produit $\gamma_1 r$ au numérateur et de façon additive au dénominateur ; il ne change pas l'existence ni la stabilité du point fixe. Pour le modèle additif à coefficients constants, la vitesse (à travers $r$) change le temps de relaxation et la magnitude en régime permanent, mais pas l'existence ni la stabilité du point fixe : elle fixe à quelle vitesse un verdict stable arrive, pas s'il existe. (L'expérience 8 confirme cette solution face à deux intégrateurs indépendants à une erreur maximale de $7\times10^{-11}$.)
3.4 Bornitude globale, et une correction du brouillon antérieur (Théorème 2)
Le brouillon antérieur de ce résultat affirmait que la correction se dégradant avec l'échelle ($\beta<0$, ou $\beta<k$) entraîne la fraction de misalignment vers l' infini. C'est faux, et la présente analyse le corrige. Dans le modèle additif, la fraction est toujours bornée ; le danger n'est pas la divergence mais la saturation à un plancher constant, possiblement grand.
| Condition | Sort de $d^\star$ quand $C\to\infty$ | Signification |
|---|---|---|
| $\beta>k$ | $d^\star\to 0$ | Le système devient proportionnellement plus sûr à mesure qu'il croît. Stable. |
| $\beta=k$ | $d^\star\to \dfrac{\gamma_1 b}{A_0+b}$ (constant) | Écart permanent non refermable, où siège l'alignement externe fixe (RLHF, filtres, règles constitutionnelles à l'extérieur de la boucle). |
| $\beta<k$ | $d^\star\to \gamma_1$ (constant) | Sature au coefficient de dérive, au maximum mal aligné mais borné, non divergent. |
C'est un énoncé plus honnête et plus utile que le cadrage growth-rate-ceiling qu'il remplace. Dans le modèle gain-only, la fraction ne peut excéder le coefficient de dérive intrinsèque $\gamma_1$ ; seul $\beta>k$ l'entraîne à zéro. Avec level drift rétabli ($\gamma_2>0$, §3.6), le plancher devient $(\gamma_1 r+\gamma_2)/(A+r)$, toujours borné et tendant vers $\gamma_2/A$ au repos. Ses deux parties s'annulent sous des conditions différentes, et les confondre est une erreur qu'a commise un brouillon antérieur : la partie level-drift $\gamma_2/(A+r)\to0$ dès que $A+r\to\infty$ (donc $\beta>0$ ou $k>0$ suffit pour cette partie seule), mais la partie gain-drift $\gamma_1 r/(A+r)\to0$ seulement lorsque $A/r\to\infty$, c'est-à-dire $\beta>k$. Le verdict asymptotique $d^\star\to0$ exige donc toujours $\beta>k$ ; il n'est pas sauvé par $k>0$ seul, puisqu'avec $\beta<k$ la partie gain plafonne à $\gamma_1$ (ligne 3 du tableau). Seul un level drift pur ($\gamma_1=0$) rend $A+r\to\infty$ suffisant en soi. La question de sûreté n'est donc pas « diverge-t-il ? » mais « s'annule-t-il, ou sature-t-il à un plancher dangereux ? », et la réponse est fixée par le seul signe de $\beta-k$. (Une véritable divergence existe ; elle vit dans le canal compounding, Théorème 4.)
3.5 Le paramètre de contrôle et l'affinement $\beta>k$
Définir le paramètre de contrôle sans dimension $\rho\equiv\gamma r/A$, le ratio drift-to-correction instantané (ici $\gamma=\gamma_1$). Le Théorème 1 donne le régime permanent exact $d^\star=\gamma_1 r/(A+r)$ ; puisque $\rho=\gamma_1 r/A$, on a $d^\star\le\rho$ toujours, avec $d^\star\to\rho$ dans le régime $A\gg r$. L'inégalité $\rho<1\iff A>\gamma r$ est l' instantané injection-vs-correction ; elle n'est pas la frontière de divergence du modèle additif, qui n'en a aucune ($d^\star\le\gamma_1<1$ pour tout $\rho$, Théorème 2) ; la véritable divergence est gouvernée par le seuil distinct $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ du Théorème 4. Le critère asymptotique, à partir du tableau des régimes, est l'inégalité d'exposants :
Sous croissance exponentielle ordinaire $k=0$ et la condition est le familier $\beta>0$. Sous auto-amélioration accélérante, où $r\propto C^{k}$ avec $k>0$, la variable de contrôle contraignante est la seule quantité $\beta-k$, la marge par laquelle la correction surpasse en échelle la drift-acceleration. La vue growth-rate-ceiling fixe l'attention sur $r$ ; ce cadre la fixe sur $\beta-k$.
3.6 Level drift : un système figé et capable dérive encore
Avec le canal level rétabli ($\gamma_2>0$, $\gamma_3=0$), le point fixe de (2) est $d^\star=(\gamma_1 r+\gamma_2)/(A+r)$. À $r=0$ (capacité figée), c'est $d^\star=\gamma_2/A\neq0$ : un système statique mais capable conserve une fraction de misalignment résiduelle que seule une correction active retire. Mettre la croissance en pause ne se substitue pas à la correction lorsqu'une pression instrumentale est présente au repos, une réfutation directe et mesurable du réflexe « just slow it down » (Expérience 9 ; falsificateur F5).
3.7 Hard takeoff : le Depth-Regularity Theorem (Théorème 3)
La véritable « intelligence explosion » n'est pas simplement une croissance rapide singularité en temps fini : pour $k>0$, l'intégration de $\dot C=bC^{1+k}$ donne $C(t)=C_0\big(1-t/t^\star\big)^{-1/k}$, qui atteint l'infini au temps horloge fini
C'est le scénario que le champ craint le plus : une capacité non bornée en temps borné. Le théorème suivant le dissout.
La finitude du temps de singularité est donc une propriété de la coordonnée temporelle ; la capacité diverge encore, mais la dynamique d'alignement demeure régulière tout au long et son verdict est fixé par $\mathrm{sign}(\beta-k)$, indépendamment de la vitesse $b$ et donc de la finitude de $t^\star$. Un hard takeoff n'est pas intrinsèquement non contrôlable ; la fraction de misalignment modélisée s'annule ssi $\beta>k$, et sa vitesse ne change pas ce verdict asymptotique. Le théorème concerne la fraction modélisée dans l'horloge de profondeur ; il n' pas pas qu'un hard takeoff réel serait opérationnellement gérable en temps horloge, où $b$ et $t^\star$ gouvernent le peu de temps qu'aurait un opérateur pour intervenir avant que la capacité ne diverge. Ce que le théorème établit est que la difficulté d'intervention en temps horloge est un problème de temps disponible, non un problème d') alignement , en dynamique, pas en $C$.
3.8 Le canal compounding et le véritable seuil (Théorème 4)
Le Théorème 2 a montré que la fraction additive ne peut pas diverger. La divergence véritable, misalignment qui croît sans borne relativement à la capacité, le véritable échec, apparaît lorsque le misalignment existant lui-même s' amplifie : le canal compounding $\gamma_3>0$, l'image formelle de l'alignment-faking qui s'enracine à mesure que le système récurse.
Le critère $\rho_{\mathrm{prop}}<1$ partage la forme ratio-crossing-unity de la condition sub-threshold QEC $p
3.9 Misalignment vectoriel : le seuil spectral (Théorème 5)
Le misalignment réel est haute-dimension ; un système peut être corrigible sur certains axes de valeurs et pas d'autres. Soit $\mathbf D\in\mathbb R^{m}$, avec direction de dérive $\mathbf c\in\mathbb R^{m}$ (unitaire), opérateur de correction $\mathbf A\in\mathbb R^{m\times m}$ (symétrique, positive semi-définie), et fraction $\mathbf d=\mathbf D/C$.
La lecture de gouvernance est tranchante : on ne peut pas corriger ce qu'on ne mesure pas. L'opérateur de correction doit être positif défini sur l' entier espace de valeurs, avec plus petite valeur propre co-scaling, un blind spot sur tout axe est un misalignment permanent (ou divergent) sur cet axe. L'expérience 6 exhibe un axe monitored piloté à zéro tandis qu'un axe blind sature au coefficient de dérive.
3.10 Dérive stochastique : une borne de queue pour la gouvernance (Théorème 6)
La dérive est bruitée. Ajouter un terme de Wiener à la dynamique fractionnaire à coefficients constants : $dd=(\gamma_1 r-\kappa\,d)\,d\tau'+\sigma\,dW$ avec $\kappa=A+r$.
Cela convertit le critère en un certificat de sécurité probabiliste, une quantité qu'un régulateur peut borner, plutôt qu'un énoncé sur les moyennes. Parce que $d$ est une fraction bornée tandis que la loi d'Ornstein-Uhlenbeck a un support gaussien sur tout $\mathbb R$, le Théorème 6 est une approximation gaussienne locale aux fluctuations de misalignment loin des frontières $d=0,1$, valide dans le régime à faible bruit $\sigma^2/2\kappa\ll(d^\star)^2$ ; si l'amplitude du bruit $\sigma$ ou le niveau critique $d_{\mathrm{crit}}$ lui-même scale avec la capacité, ou si la dérive porte des sauts rares, la queue gaussienne doit être remplacée en conséquence. L'Expérience 7 récupère la moyenne et la variance stationnaires et confirme le scaling en $1/\kappa$ (pente ajustée $-1,00$).
3.11 Une identité contrôle-théorétique
L'équation (1) est une boucle de rétroaction : le processus de capacité est la plante et la source de perturbation ; le correcteur est le contrôleur ; $d$ est l'erreur régulée. La condition de stabilité $\kappa_{\mathrm{eff}}>0$ est une condition small-gain / positive-realness, le gain de la boucle doit dépasser l'auto-amplification de la perturbation à travers la bande pertinente. L'exigence que $A=A_0C^\beta$ suive la plante avec $\beta\ge k$ est précisément gain-scheduling [Shamma & Athans 1990] : le gain du contrôleur doit scale avec le point de fonctionnement de la plante, et l'exposant d'ordonnancement doit satisfaire $\beta\ge k$ pour la stabilité asymptotique. Le critère de ce papier est le résultat control-théorétique standard, spécialisé à la relation de scaling entre correction et capacité.
3.12 La correspondance quantum-error-correction (hypothèse)
| Quantum error correction | Auto-amélioration récursive (ce cadre) |
|---|---|
| taux d'erreur physique $p$ | taux de dérive $\gamma r$ (injection) / $(\gamma_3-1)r$ (propagation) |
| puissance de correction (code distance $\delta$) | correction strength $A=A_0C^{\beta}$ |
condition sub-threshold $p| $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ | |
| augmenter $\delta$ supprime l'erreur logique | augmenter la marge $\beta-k$ entraîne $d^\star\to0$ |
| erreur logique $\propto(p/p_{\mathrm{th}})^{\delta/2}$ (exponentielle en ressource) | $d^\star\propto C^{-(\beta-k)}$ (loi de puissance en capacité), voir F4 |
La correspondance tient au niveau de la conditionde seuil, un ratio génération-vs-correction franchissant l'unité, et pas au niveau du mécanisme ; elle reste une hypothèse. Le modèle prédit une suppression en loi de puissance $d^\star\propto C^{-(\beta-k)}$, ce qui est une identité algébrique du modèle linéaire, tandis que la QEC complète donne une suppression exponentielle en code distance. Discriminer les deux exigerait un correcteur à capacité finie (saturant) qui puisse exhiber une suppression exponentielle, le test futur nommé au §8. Tant que cela n'est pas construit, F4 est un contrôle analytique de cohérence interne qui confirme la propre loi en loi de puissance du modèle (que l'Expérience 5 reproduit, pentes $-0,47,-1,00$), et le lien QEC tient donc, honnêtement, comme une analogie de forme de seuil plutôt que comme un mécanisme transféré.
Relation aux idées antérieures d'alignment-as-correction. L'aspiration à importer la fault tolerance issue de la théorie du codage dans l'alignement n'est pas nouvelle. Wentworth (2022) souhaitait explicitement une « quantum error correction for AI alignment ». La contribution de ce cadre est de dériver un critère de seuil concret plutôt que d'énoncer une aspiration. La notion connexe d'un « broad basin of corrigibility » (Christiano 2017), qui capture l'idée que la corrigibilité pourrait avoir sa propre stabilité si l'on commence à l'intérieur, est distincte d'un théorème de seuil, dans lequel la correction dépasse l'erreur uniquement en dessous d'un taux critique ; cette distinction est la présente contribution. Trois recherches arXiv ciblées (« quantum error correction » avec « AI alignment »; « error-correction threshold » avec « alignment »; « fault-tolerance threshold » avec « value stability ») renvoient chacune zéro résultat, aucune correspondance publiée du seuil de fault-tolerance (taux d'erreur physique ↔ dérive ; code distance ↔ correction strength ; $p_{\mathrm{th}}$ ↔ $\rho_{\mathrm{prop}}=1$) n'a donc été localisée. La revendication est offerte comme un
3.13 Le correcteur à capacité finie : le Safe-Window Theorem (Théorème 7)
La limitation la plus importante nommée au §8, et par le propre red-team de l'article, est que $A=A_0C^{\beta}$ est une loi de puissance non bornée , tandis que tout correcteur réel a une capacité finie. Cette section referme cet écart analytiquement. Modéliser un correcteur saturant
qui se comporte comme la loi de puissance pure $\big(A_{\max}/C_s^{\beta}\big)C^{\beta}$ pour $C\ll C_s$ et sature à la capacité $A_{\max}$ pour $C\gg C_s$ ; $C_s$ est l'échelle de saturation. L'état stationnaire gain-only reste $d^\star(C)=\gamma_1/\big(1+q(C)\big)$ avec $q\equiv A/r$.
- Aucune stabilité indéfinie. $q(C)\to0$ quand $C\to\infty$, donc $d^\star\to\gamma_1$ : un correcteur à capacité finie ne peut pas maintenir la fraction en bas sous croissance indéfiniment accélérante.
- La fenêtre sûre et son centre. $q(C)$ est unimodale, maximisée exactement à $$ C_{\mathrm{opt}}=C_s\left(\frac{\beta-k}{k}\right)^{1/\beta}, \qquad q_{\max}=\frac{A_{\max}}{b\,C_{\mathrm{opt}}^{k}}\cdot\frac{\beta-k}{\beta}, $$ de sorte que $d^\star$ chute vers un minimum $\gamma_1/(1+q_{\max})$ à $C_{\mathrm{opt}}$ puis remonte vers $\gamma_1$. La sûreté sous un correcteur à capacité finie est une fenêtre transitoire, non une asymptote.
- La croissance exponentielle est l'exception. Pour $k=0$ le ratio post-saturation est constant, $q\to A_{\max}/b$, et la fraction se pose à l'écart permanent $d^\star=\gamma_1/(1+A_{\max}/b)$, borné en dessous de $\gamma_1$ indéfiniment. La finitude de capacité est fatale seulement sous une croissance accélérante.
- Invariance de la capacity-lift. Si la capacité elle-même scale, $A_{\max}=a_0C^{\beta_{\mathrm{cap}}}$, alors $q\to(a_0/b)\,C^{\beta_{\mathrm{cap}}-k}$ quand $C\to\infty$, et $d^\star\to0$ ssi $\beta_{\mathrm{cap}}>k$. Le critère $\beta>k$ survit alors comme condition sur $\beta_{\mathrm{cap}}$, laissant l'inégalité d'exposants de correction strength à correction capacity inchangée. Ce qui doit surpasser en échelle la drift-acceleration est celui des deux qui est contraignant en dernier.
Trois lectures. Pour la théorie : le critère $\beta>k$ n'est pas falsifié par la saturation, il est élevé : l'exposant porteur migre de la strength vers la capacité, et l'inégalité est invariante sous cette migration (partie 4 du théorème). La correspondance QEC survit à la même migration : ce qui doit franchir l'unité est un ratio, et si l'un des dénominateurs sature, la charge se déplace vers l'exposant de capacité. Pour l'ingénierie : la partie 2 donne au concepteur un problème de placement en forme close, le centre de fenêtre $C_{\mathrm{opt}}$ et la profondeur $q_{\max}$ sont deux quantités computables à partir de $A_{\max}$, $C_s$, $\beta$, $k$ et $b$. Un correcteur borné doit être placé pour que la trajectoire opérationnelle du système traverse le voisinage du centre. Pour la gouvernance : la partie 1 est la phrase la plus tranchée de l'article pour un régulateur, un système de sécurité borné sous auto-amélioration indéfiniment accélérante échoue à terme par théorème, un dossier de sécurité doit donc exhiber soit une croissance bornée ($k\le0$ à terme), soit une capacité co-scaling ($\beta_{\mathrm{cap}}>k$), et « notre correcteur actuel est très fort » n'est pas, et ne peut pas être, une réponse. Ceci affine aussi le discriminant QEC de F4 : le correcteur saturant est l'analogue structurel de la code distance finie, et la fenêtre de la partie 2 est le régime où la suppression exponentielle-versus-loi-de-puissance peut effectivement être mesurée.
Remarque (exposants variables dans le temps). Les systèmes réels ne tiendront pas $\beta,k$ constants. Si les deux varient le long de la trajectoire, l'argument de comparaison du Théorème 2 se relit comme une condition sur l'intégrale sur $\tau$ : $d\to0$ ssi l' intégrale cumulée de la marge $\beta-k$ diverge vers $+\infty$, pour laquelle $\liminf_{\tau\to\infty}\big(\beta(\tau)-k(\tau)\big)>0$ est suffisant et le signe pointwise de $\beta-k$ n'est ni nécessaire ni suffisant. Ce qui compte est la marge de co-scaling cumulée , non son signe instantané.
4. Prédictions
Une seconde prédiction, gratuite, du même mécanisme. Les dispositifs de supervision qui placent un humain dans la boucle, comme le font l'amplification et le reinforcement learning from human feedback, sont d'une autre classe de composition par construction, parce que le correcteur humain ne partage pas le substrat du modèle. Le cadre prédit donc que la supervision avec humain dans la boucle présente un exposant de correction plus élevé que la supervision par modèle seul, pour une raison structurelle et non sentimentale. Cela est testable sur des données existantes et n'exige aucun système nouveau.
5. Les expériences discriminantes
Les prédictions en forme close sont vérifiées par un harnais de vérification (§11) : dix expériences, chacune intégrant le modèle numériquement et comparant le résultat à la prédiction que les théorèmes dérivent, l'intégrateur étant d'abord validé face à la solution exacte du Théorème 1. Ce sont des contrôles de cohérence interne et d'intégrateur, ils confirment que le code correspond aux mathématiques (10/10), non que le modèle correspond à un quelconque système réel (le problème ouvert du §8). Pour les contrôles déductifs (E1-E6, E9), parce que chacun intègre la même ODE dont la forme close est la prédiction, l'accord est entraîné par un solveur correct et une algèbre correcte ; F1-F3, F3$'$, F5, F6 sont donc des conditions de cohérence interne de la dérivation, non des falsificateurs empiriques de la thèse. Les figures ci-dessous sont la sortie verbatim de cette exécution ; chaque figure de cette section est de classe Vérification interne ODE (non un test de système réel). Le seul résultat non-simulation, le pilote real-model, est rapporté séparément au §8 en tant que pilote real-model, avec ses propres réserves de provenance.
| Exp. | Prédiction | Statistique clé (mesurée vs prédite) | Verdict |
|---|---|---|---|
| E1 | P1 phase boundary dans le canal compounding ; aucune dans l'additif | $\lambda^\star=2,00$ vs $2,00$ ; additif lisse | PASS |
| E2 | P2 couplage, non vitesse, décide | couplé borné & découplé divergent aux deux vitesses | PASS |
| E3 | P3 régimes corrigés ($\beta<0$ sature à $\gamma_1$) | les quatre asymptotes correspondent à la forme close | PASS |
| E4 | P4 frontière à $\beta=k$ | les 9 cellules de la grille correspondent à $\mathrm{sign}(\beta-k)$ | PASS |
| E4b | P4 singularité en $C$ régulière dans l'horloge de profondeur pour $d$ | accord d'horloge $9,9\times10^{-5}$ ; $d$ contrôlé | PASS |
| E5 | P5/P8 seuil compounding ; pente en loi de puissance | seuil $3,03$ vs $3,0$ ; pentes $-0,47,-1,00$ | PASS |
| E6 | P6 seuil spectral ; axe blind persiste | monitored $\to10^{-7}$ ; blind $\to\gamma_1=0,05$ | PASS |
| E7 | P7 queue stochastique ; variance $\propto1/\kappa$ | moyenne/var correspondent à OU ; pente-var $-1,00$ | PASS |
| E8 | les numériques reproduisent le Théorème 1 | erreurs max $7\!\times\!10^{-11}$, $8\!\times\!10^{-7}$ | PASS |
| E9 | P5/F5 dérive résiduelle au repos | $d\to\gamma_2/A_0$ quand $\gamma_2>0$ ; $\to0$ quand $\gamma_2=0$ | PASS |
Ce sont des contrôles de cohérence interne et d'intégrateur : ils confirment que les théorèmes en forme close sont correctement dérivés et correctement intégrés (le code correspond aux mathématiques). Ils ne testent pas le modèle face à un quelconque système réel ; ce test est le problème ouvert du §8. Aucune expérience présentée dans ce papier n'utilise un vrai système d'IA en cours d'auto-modification.
6. Pourquoi l'aveuglement n'est pas optionnel
La quantité centrale $D$ est un écart aux valeurs intentées. Si elle est scorée par la propre composante de sûreté du système, ou par un évaluateur qui peut voir quelle configuration a produit un comportement donné, la mesure est corrompue exactement de la manière qui gonfle les résultats favorables. La découverte de méta-science antérieure du programme est directement pertinente : sous scoring non aveuglé cross-model, un effet alignment-scaling est apparu positif, tandis que sous aveuglement multi-couches, le même effet a inversé son signe pour certains systèmes [Eastwood, Paper IV.d]. Une expérience qui mesure une fraction de misalignment sans aveugler l'évaluateur peut produire non seulement la mauvaise magnitude mais la mauvaise direction. La validité de chaque résultat du §5 repose sur l'aveuglement de l'évaluateur à la configuration testée. Un laboratoire revendiquant « $\beta\ge k$ » dans son propre système doit avoir cela mesuré par un évaluateur externe aveugle, non par lui-même.
Intégré dans le test, non laissé à la discipline. Le harnais real-model (§8 ; experiments/PROTOCOL.md) impose ceci plutôt que de s'y fier. L'évaluateur de misalignment doit être d'une famille de modèles différente que le moteur, un modèle ne score jamais la sortie de sa propre famille, et le harnais refuse d'exécuter un scoring de même famille. Il exige aussi une étape de laundering (un aller-retour d'abstract-syntax-tree qui retire les commentaires, docstrings et le formatage) de sorte que le scoreur juge le comportement, non les indices d'identité stylistiques ; et l'évaluateur ne voit jamais la condition ni le tour. Aucune exécution réelle rapportée ici n'a atteint cette barre : le pilote v1 utilisait un scoring de même famille d'emblée, et l'exécution du 2 juillet 2026 a un moteur et un évaluateur tous deux de la famille OpenAI (voir la Correction), la famille de système scorant la sortie de sa propre famille. Les chiffres de misalignment du pilote sont explicitement enregistrés comme provisoires et l'exécution du 2 juillet est retirée comme preuve de mécanisme, et un re-score aveugle véritablement cross-family est le préalable à toute revendication $D$-basée, y compris un $\beta$ mesuré. Le harnais fait de la configuration conforme le défaut et de la non conforme un override explicite et enregistré, transformant le §6 d'une exhortation en une propriété de l'instrument.
7. Conditions de falsification
Les conditions ci-dessous sont énoncées à l'avance. Un point d'honnêteté important, révélé par le propre audit adversarial de l'article (§8) : parce que les expériences déductives intègrent la même EDO dont la forme close est la prédiction, F1-F3, F3′, F5 et F6 sont conditions de cohérence interne de la dérivation ; un déclenchement signalerait une erreur de dérivation ou de solveur, non que le modèle est le mauvais modèle d'un système réel. Le véritable falsificateur empirique , un désaccord mesuré sur un vrai système auto-améliorant, est le problème ouvert du §8 et n'est pas exercé ici. F4 est le downgrade QEC-mechanism, qui (la loi de suppression étant en loi de puissance, §3.12) tient déjà : la correspondance se tient comme une analogie de forme de seuil, non un mécanisme transféré.
| # | Observation qui le déclencherait | Conséquence |
|---|---|---|
| F1 | Aucune frontière en E1, le comportement à long terme varie de façon lisse avec $\lambda$ dans le canal compounding sans seuil. | Aucune phase boundary ; la revendication centrale de seuil est fausse (erreur de dérivation). |
| F2 | En E2, $d$ suit la vitesse brute plutôt que la marge de scaling : rapide diverge et lent converge indépendamment du couplage. | Kill. La vue growth-rate-ceiling était juste ; ce cadre est faux. |
| F3 | En E3, $\beta=0$ ne plafonne pas, ou $\beta>0$ n'entraîne pas $d^\star\to0$. | Kill. La loi de co-scaling (Théorème 2) est fausse. |
| F3$'$ | En E4, la frontière sous croissance accélérante ($k>0$) n'est pas à $\beta=k$, par exemple $\beta=0,5$ est stable quand $k=1$. | Kill. L'affinement $\beta>k$ (Théorème 3) est faux. |
| F4 | Un correcteur à capacité finie exhibe une suppression exponentielle (QEC-like) plutôt que la loi de puissance du modèle $\log d^\star\propto-(\beta-k)\log C$. (Analytique ; le présent modèle linéaire est en loi de puissance par construction, ce discriminant exige donc le correcteur saturant du §8 ou un dispositif équivalent ; cf. F4$'$.) | Porte sur le mécanisme QEC uniquement. La correspondance de forme de seuil et les Théorèmes 2 à 4 sont intacts dans les deux cas. |
| F5 | En Expérience 9, arrêter la croissance entraîne $d\to0$ indépendamment du $D$ initial même avec $\gamma_2>0$. | Périmètre. Le level drift $\gamma_2$ est négligeable ; la généralisation du §3.6 est inutile (le modèle gain-only suffit). |
| F6 | En E6, l'axe null de l'opérateur de correction est aussi supprimé. | Kill. Le seuil spectral (Théorème 5) est faux ; le misalignment n'exige pas la surveillance de l'axe sur lequel il vit. |
Ces conditions de cohérence interne ont toutes tenu dans l'exécution rapportée ici, établissant que la dérivation et l'intégration sont cohérentes. Ce qu'elles n' pas pas est que le modèle décrit un quelconque système réel ; ce test décisif, mesurer $\beta$, $k$ et $\gamma$ sur un vrai système auto-améliorant, est le problème ouvert du §8.
Comment le test empirique décisif est arbitré. Lorsque ce test ouvert sera mené, mesurant $\beta$, $k$ et $\gamma$ sur un vrai système auto-améliorant, les résultats interval-based sont lus sous la forme à trois issues qu'utilisent les enregistrements rédigés du programme : SUPPORTED lorsque l'intervalle sur la marge $\beta-k$ se situe entièrement au-dessus de l'effet minimal fixé à l'avance ; REFUTED lorsque l'intervalle se situe entièrement à l'intérieur d'une marge d'équivalence, fixée à l'avance, autour de zéro (logique two-one-sided-tests) ; INSUFFICIENT PRECISION lorsque l'intervalle est plus large que la marge, rapporté exactement en ces mots et jamais comme soutien ou réfutation. Les marges et une figure de puissance mesurée sont fixées dans les enregistrements rédigés (study-ad pour l'estimation de $\beta$, study-k pour le transit de frontière, study-ae pour la vérification de réciprocité) avant qu'aucune donnée ne soit collectée, si bien qu'une exécution sous-puissante ne réfute jamais, ni ne confirme, par défaut.
8. Limites
Le modèle est du premier ordre, et ses hypothèses sont les points de défaillance les plus probables. Les énoncer fait partie du bat.
- Correcteur non borné vs à capacité finie, maintenant résolu analytiquement (Théorème 7). Le critère $\beta>k$ tel qu'énoncé pour la première fois suppose que la correction strength est une loi de puissance non bornée , $A=A_0C^{\beta}$. Le brouillon antérieur ne pouvait que nommer le cas capacité finie comme un écart ouvert ; le §3.13 le note désormais en forme close. Le résultat, en une ligne : avec un correcteur borné, la sûreté sous croissance accélérante est une fenêtre transitoire (centre $C_{\mathrm{opt}}$, profondeur $q_{\max}$, tous deux computables) plutôt qu'une asymptote, avec la fraction remontant vers $\gamma_1$ au-delà. et le critère survit au passage de strength à capacity : la stabilité indéfinie exige que l'exposant de capacité $\beta_{\mathrm{cap}}>k$, laissant l'inégalité d'exposants inchangée. empirique moitié : piloter un correcteur à capacité finie à travers sa fenêtre numériquement et sur un système réel, ce qui tranche aussi la question F4 / QEC-mechanism (suppression exponentielle versus loi de puissance à l'intérieur de la fenêtre). Jusqu'à ce que cela s'exécute, $\beta>k$ devrait être lu comme gouvernant celui des régimes, strength-scaling ou capacity-scaling, qui contraint en dernier, non comme une garantie de sûreté indéfinie de tout système borné.
- Correction linéaire (et le test de mécanisme QEC). L'équation (1) retire le misalignment proportionnellement à $D$, ce qui rend la loi de suppression exactement en loi de puissance. Un correcteur à capacité finie (saturant) adoucirait le seuil net en un crossover et est la meilleure carte structurelle sur la code distance finie de la QEC ; s'il produit exponentielle la suppression est l'expérience qui trancherait la question de mécanisme QEC (F4). C'est une extension prioritaire et n'est pas exécutée ici, ce qui est précisément pourquoi la correspondance QEC n'est revendiquée qu'au niveau de la forme de seuil.
- Projection scalaire-vers-vectorielle. Le Théorème 5 donne le critère asymptotique exact (spectral-abscissa) pour tout opérateur de correction $\mathbf A$, avec la condition sur la partie hermitienne comme condition suffisante plus forte qui exclut aussi la croissance transitoire. Le régime non normal transitoire , grandes excursions avant décroissance asymptotique, n'est pas analysé ici, et le harnais n'exerce que l'instance diagonale null-subspace (Expérience 6), non un $\mathbf A$ non normal général.
- Formes en loi de puissance. Les choix $A=A_0C^\beta$ et $\dot C=bC^{1+k}$ sont les formes sans échelle naturelles mais sont des hypothèses de modélisation ; d'autres formes fonctionnelles devraient être testées.
- Attribution de dérive. La séparation de la dérive en canaux gain ($\gamma_1$), level ($\gamma_2$) et compounding ($\gamma_3$) est une hypothèse sur le mécanisme ; quel canal domine dans un système réel est une question empirique (l'Expérience 9, dérive résiduelle au repos, est un discriminateur).
- Un proxy scalaire, non la sûreté elle-même. $d\to0$ n'est ni nécessaire ni suffisant pour la sûreté complète de l'IA : un misalignment petit mais à fort impact, un événement catastrophique de queue, ou une amplification multi-agents peut être dangereux à faible $d$, tandis qu'un système peut être acceptable à $d$ modéré si le résiduel est bénin. $d$ est la variable contrôlée de ce modèle minimal, un scalaire non pondéré par l'impact ; la pondération par impact, et les extensions vectorielle et de queue (Théorèmes 5-6), sont les directions dans lesquelles le « faible $d$ » doit être durci avant de pouvoir signifier « sûr ».
- Normalisation métrique. $d=D/C$ est un indice de risque normalisé opérationnel, non une constante naturelle sans dimension : $C$ et $D$ sont commensurables uniquement sous une convention de scoring fixée (dans le harnais real-model, $C$ est une pass-fraction normalisée de tests cachés et $D$ un score normalisé aveugle de gaming, tous deux sur $[0,1]$). Les résultats sont invariants sous cette convention fixée ; la comparaison cross-task ou cross-domain du niveau de $d$ exige une calibration explicite. Le critère lui-même est énoncé en exposants ($\beta>k$), qui sont sans échelle, donc plus robuste à cela que tout énoncé en $d$ absolu ne le serait.
- Amplification transitoire (correcteurs non normaux). Le Théorème 5 est asymptotique. Un opérateur de correction non normal avec $\alpha(\mathbf M)>0$ peut encore admettre une grande croissance transitoire de $\|\mathbf d\|$ avant décroissance (phénomènes de Kreiss / pseudospectral) ; une excursion de valeur au-dessus de $d_{\mathrm{crit}}$ pendant ce transitoire est un risque réel que le critère de valeur propre ne voit pas. Une borne à qualité de gouvernance a besoin de la norme logarithmique ou de l'abscisse pseudospectrale, non du seul spectre, une extension nommée, énoncée ici, non établie ici.
- De la simulation vers les systèmes de pointe. Le harnais de vérification utilise une dynamique auto-modificatrice jouet ; un résultat positif y démontre le mécanisme, non que les systèmes de pointe occupent un régime particulier. Un harnais real-model harnais (non-simulation) pilote désormais la boucle coupled/decoupled avec un modèle de pointe, scorant la capacité par exécution réelle de code et le misalignment par un évaluateur séparé que le harnais exige d'être d'une famille de modèles différente (aveuglement Paper IV.d, §6 ;
experiments/PROTOCOL.md; première exécution enresults/realmodel/). Il corrobore le mécanisme du correcteur mécanisme sur un modèle réel, un reward-hack semé est détecté et retiré et la capacité restaurée, mais n'a pas exhibé de dérive sur la tâche essayée, si bien que la question de savoir si les systèmes réels siègent sous le seuil demeure la question empirique ouverte. Une confirmatoire conception, trois domaines de tâche avec une échelle de capacité, un sham-extra-compute bras de contrôle, un score de misalignment combiné statique-plus-panneau-aveugle, et des IC bootstrap par paires appariées sur les contrastes coupled-vs-decoupled et sham-vs-coupled de la fraction finale, est spécifiée dansexperiments/PROTOCOL_V2.mdetexperiments/scripts/realmodel_coscaling_v2.py. (Preuves real-model, provenance : le pilote v1 était $n=1$, une tâche, scorer de même famille, non conforme à IV.d ; H1 et H2 non soutenus. L'exécution drift du 2 juillet 2026, 45 trajectoires, trois domaines de tâche, évaluateur gpt-4o-mini scorant le moteur gpt-3.5-turbo, a produit des chiffres directionnellement cohérents : le decoupled a dérivé (fraction moyenne finale 6,38, capacité s'effondrant), le coupled et le fully-embedded ont tenu zéro misalignment sur les 30 trajectoires à capacité finale plus élevée. Cette exécution est retirée comme preuve de mécanisme (voir la Correction) : les deux modèles sont de la famille OpenAI, le scoring n'était donc pas cross-family, et ses panneaux d'évaluateurs étaient vides ; $\beta/k$ demeure non mesuré parce qu'aucune échelle de capacité n'a été parcourue, et le résultat est single-lab, en attente d'une exécution confirmatoire sous les enregistrements rédigés attendant une soumission humaine.) - Estimer $\gamma$ et $A$ sur des systèmes réels. En simulation ils sont fixés par construction. Les estimer indépendamment, en particulier $\beta$ et $k$, pour un système auto-améliorant qui dérive, est le problème opérationnel : le repo livre un estimateur exécutable (
experiments/scripts/estimate_exponents.py) qui lit $k$ sur la courbe de capacité ($\ln r$ vs $\ln C$) et $\beta$ sur le taux de retrait fractionnaire du correcteur ($\ln A$ vs $\ln C$) ; ce qui reste est l' entrée, un système réel auto-améliorant qui dérive à travers une plage de niveaux de capacité, à partir duquel la première mesure de $\beta$ et $k$ atterrirait. ARC-Beta-k : trois pré-enregistrements sont rédigés et attendent une soumission humaine, study-ad pour l'estimation de $\beta$ à travers les niveaux de capacité, study-k pour le transit de frontière au croisement $\beta=k$, et study-ae pour la vérification de réciprocité coupled-versus-decoupled ; aucun n'est encore enregistré.
Audit adversarial. Cet article a été développé sous audit adversarial plutôt qu'affirmé, et le dossier est dans le repo. Un audit de travail antérieur et de nouveauté a localisé le précédent le plus proche pour chaque composant et a resserré les revendications d'originalité en conséquence (Annexe C). De façon indépendante, un red-team multi-agents a attaqué le travail sur cinq fronts, mathématiques, numériques, la correspondance QEC, l'inférence de sûreté et la priorité, soulevant 24 objections, dont 21 ont survécu à une vérification indépendante (0 fatales, 13 sérieuses, 8 mineures) ; le rapport complet est commité aux côtés du harnais (results/redteam.md). Chaque objection survivante était un correctif de cadrage, de wording ou de cas limite ; aucune n'a touché le résultat porteur $\beta>k$, et cette version les incorpore toutes, le cadrage QEC adouci en analogie de forme de seuil, la borne du Théorème 2 délimitée au modèle gain-only, le Théorème 3 étendu explicitement à toutes les vitesses accélérantes et au cas fini-temporel, le Théorème 7 ajouté pour la capacité finie, et le §Claim status et §Correction ajoutés pour le pilote real-model. Le repo contient l'historique complet des demandes d'audit et des réponses. et audité, avec la frontière de ce qui est revendiqué rendue explicite et vérifiable.
9. Implications pour l'AI safety
Si le cadre survit à ses tests, l'implication de conception est concrète et diffère du réflexe dominant.
Le levier est le couplage, non la vitesse. Ralentir la croissance de capacité achète du temps mais ne change pas le verdict ; à couplage fixé, un système découplé lent diverge encore (P2), et un système capable figé dérive encore (§3.6). Ce qui change le verdict, c'est de s'assurer que la correction (i) est couplée au processus de capacité de sorte qu'elle ne puisse être découplée, et (ii) scale au moins aussi vite que la capacité accélère ($\beta\ge k$). Sur les estimations corrigées et sous-linéaires de scaling de capacité de l'auteur pour les modèles figés actuels [Eastwood, Paper IX] le note : les systèmes actuels ne sont nulle part près d'un régime de croissance super-linéaire, ce qui signifie qu'un plafond de taux de croissance n'a jamais été la variable de contrôle contraignante en tout état de cause.
Une cible de gouvernance mesurable. Le critère donne aux régulateurs une quantité à instrumenter plutôt qu'un taux à interdire : le ratio correction-to-drift et sa marge d'exposant. Un système auto-améliorant en toute sûreté devrait être tenu d'exhiber $\beta\ge k$, mesuré par un évaluateur externe aveugle (§6). Le Théorème 6 tourne le critère en probabilité : $\Pr(|d-d^\star|>\epsilon)\le 2\exp(-\epsilon^2\kappa/\sigma^2)$ est une borne de queue sur la violation, non une garantie catégorique.
Assemblé à partir des propres composantes de l'article, un dossier de sûreté de co-scaling pour un système auto-améliorant est cinq exhibits :
- Exhibit 1, la courbe de capacité et $\hat k$. Journaliser la capacité à travers les tours d'auto-modification sur des tâches held-out ; ajuster $\ln r$ face à $\ln C$ (l'estimateur livré, §8). Cela établit dans quel régime de croissance le système se trouve réellement.
- Exhibit 2, la courbe du correcteur et $\hat\beta$. Journaliser le taux de retrait fractionnaire du correcteur à travers les mêmes tours ; ajuster $\ln A$ face à $\ln C$. L'estimateur est validé sur des trajectoires synthétiques à $\approx0,1$ ; cette barre d'erreur se reporte à l'Exhibit 4.
- Exhibit 3, scoring aveugle et cross-family. Chaque nombre $D$-basé scoré par un évaluateur d'une famille de modèles différente, entrées launderées, condition-aveugle (§6 ; Paper IV.d). Les scores de même famille ou non aveugles sont inadmissibles, ils ont été montrés à inverser le signe.
- Exhibit 4, la marge avec son incertitude. Exiger $\hat\beta-\hat k>2\sigma_{\mathrm{est}}$, non simplement $\hat\beta>\hat k$ : une marge à l'intérieur de sa propre barre d'erreur ne certifie rien. Le Théorème 6 convertit alors la marge en une borne de queue $\mathbb P(d>d_{\mathrm{crit}})$, la quantité sur laquelle un régulateur peut poser un plafond. Sous des exposants variant dans le temps l'objet est la marge cumulée (Remarque §3.13).
- Exhibit 5, la divulgation de capacité. Par le Théorème 7, un correcteur borné sous croissance accélérante échoue à terme par théorème. Le dossier doit donc soit exhiber une croissance qui s'aplatit ($\hat k\le0$ à terme), soit une capacité de correcteur co-scaling ($\hat\beta_{\mathrm{cap}}>\hat k$).
Aucune de ces choses n'exige de science nouvelle ; chaque exhibit est calculable avec l'estimateur et le protocole livrés. Ce qui manque est l'input : un système véritablement auto-améliorant qui dérive à travers les niveaux de capacité.
Continuité avec les travaux d'embedded-alignment. La conclusion selon laquelle la correction doit participer à la boucle récursive, plutôt que de siéger à l'extérieur en tant que contrainte externe fixe, est convergente avec la ligne d'embedded/entangled-safety, notamment dérivée en tant que condition $\beta>k$ plutôt qu'affirmée. Le résultat de simulation gatée dans lequel l'auto-modification safety-couplée a préservé la sûreté et la capacité tandis que la contrainte externe fixe a échoué [Eastwood, Paper VIII] est le comportement prédit d'un correcteur couplé ($\beta>0$) versus fixe ($\beta=0$).
Magnitude de la revendication, énoncée conditionnellement. Si le critère est confirmé empiriquement, si les vrais systèmes auto-améliorants sont gouvernés par le même équilibre drift-versus-correction et la même marge $\beta>k$, les conséquences pour le champ sont larges, et il vaut la peine de les énoncer clairement tout en étant tout aussi clair qu'elles sont conditionnelle. (i) La question centrale de sûreté passe de « à quelle vitesse la capacité croît-elle, et pouvons-nous la mettre en pause ? » à « la correction co-scale-t-elle, $\beta\ge k$ ? » : une marge mesurable plutôt qu'un taux à interdire. (ii) Le scénario le plus redouté, une explosion d'intelligence en temps fini, cesse d'être intrinsèquement incontrôlable, la fraction de misalignment modélisée est contrôlable ssi $\beta>k$, et sa vitesse ne change pas ce verdict. (iii) La gouvernance acquiert une quantité à instrumenter et une borne de queue à certifier (Théorème 6) à la place d'une limite de vitesse inapplicable. Rien de ceci n'est encore établi. Cela repose sur un modèle minimal, démontré uniquement en simulation, avec la mesure empirique de $\beta$, $k$ et $\gamma$ sur des systèmes réels non résolue (§8). La revendication de l'article n'est donc pas que l'IA est sûre ou dangereuse, mais que la bonne variable à mesurer et à gouverner est la marge de co-scaling $\beta-k$, et cette variable est bien définie, falsifiable et, si elle tient, décisive. C'est la magnitude : non que le monde soit désormais sûr, mais que la peur centrale du champ soit ré-encadrée en une quantité falsifiable.
Relation avec le programme plus large : une seule échelle de lois. Cet article est la clef de voûte de sûreté d'un plus grand argument, non un résultat autonome ; énoncer comment il se situe parmi les autres résultats du programme le protège contre la lecture erronée soit comme trop petit soit comme trop grand. Le programme a produit des résultats de plusieurs sortes, et la distinction compte : dynamique lois (le $\beta>k$ de cet article ; l'$\alpha_{\text{align}}\approx0$ de Paper III), une méta-loi de forme (la contrainte trois-formes de Cauchy), une loi de mesure (Paper IV.d, qu'un score d'alignement non aveuglé n'est pas invariant à l'aveuglement), et des découvertes de mécanisme/architecture (Papers V, VI, VIII) qui montrent comment le régime sûr est atteint. Le programme est une seule chaîne : les scaling laws (Foundational, Origin, VII, I, II) disent comment les systèmes récursifs croissent et fournissent les formes en loi de puissance prises comme acquises ici ; Paper II confirme que la capacité pas co-scale pas ; cet article fournit le critère pour quand elle le peut ; Paper VIII montre que la conception couplée bat la conception découplée en simulation.
| Résultat compagnon | La loi / découverte qu'il propose | Standing | Comment il se couple à $\beta>k$ |
|---|---|---|---|
| Foundational | L'ARC Bound ($\beta=0,5$, $\alpha=2$) et $\alpha$ fixé par l'exposant de couplage $\beta$ ; la contrainte trois-formes de Cauchy. | Dérivée (axiomatique). | Fournit les formes en loi de puissance que cet article suppose : $A=A_0C^\beta$ et $\dot C=bC^{1+k}$ sont Cauchy-multiplicatives. |
| On the Origin of Scaling Laws | La méta-loi trois-formes : toute scaling law découlant de la composition d'échelle est en puissance, exponentielle ou saturation par théorème. | Méta-loi (cross-domain). | Explique pourquoi les systèmes récursifs prennent les formes en loi de puissance utilisées au §3 ; cet article est l'instance de sûreté de cette méta-loi. |
| Paper VII (Cauchy Unification) | Test empirique de la loi trois-formes (19/25 domaines, $p\approx1,6\times10^{-5}$). | Empirique exploratoire, une comparaison structurée, pas pré-enregistrée ; l'idée centrale a des travaux antérieurs profonds (Luce 1959 ; Frank 2009 ; Biró-Barnaföldi 2008, voir le cluster dans les Références). | Sous-tend les hypothèses de forme fonctionnelle du §3. |
| Paper II | Scaling de capacité mesuré ($\alpha_{\text{seq}}$ ; architecture-dependent, sub-linéaire sur les tâches difficiles). | Empirique. | La croissance de capacité $C(t)$ supposée ici est réelle et actuellement sub-linéaire ($k$ petit), la contrainte contraignante est donc le couplage, non la vitesse. |
| Paper III | Le problème d'alignment-scaling : la sûreté externe a $\alpha_{\text{align}}\approx0$, la fraction de misalignment est donc laissée non gouvernée (raffiné sous aveuglement en un résultat à trois paliers architecture-dependent). | Loi proposée, compliquée par ses propres données aveugles. | Paper III est précisément le coin $\beta=0$ (découplé) du modèle ici ; cet article la généralise , remplaçant « la sûreté externe ne peut pas tenir le rythme » par le critère pour quand la correction le peut : $\beta>k$. |
| Paper IV.d | Un effet d'alignement non aveuglé et scoré par modèle n'est pas invariant à l'aveuglement : un aveuglement propre peut en inverser le signe. | Loi de mesure, sans doute le résultat le plus sûr du programme (il a survécu à son propre aveuglement). | La discipline de mesure non négociable pour chaque quantité scorée par modèle ici (§6) ; le harnais real-model de cet article l'impose. |
| Paper VIII | Auto-modification gatée : la variante safety-couplée (Eden) a préservé sûreté et capacité tandis que la variante découpée a échoué. | Simulation positive + nuls honnêtes. | La démonstration contrôlée du mécanisme de cet article ; le harnais real-model instancie la conception de Paper VIII. |
| Paper V (Stewardship Gene) | La stakeholder care, la « Love Loop », énumération explicite des parties affectées avant raisonnement, est l'intervention d'amélioration d'alignement la plus robuste (significative dans les cinq modèles analysables ; p. ex. Claude $+3,17$, $p=1,8\times10^{-5}$). | Signal d'intervention fort ; réserve de statut aveuglement (par IV.d, provisoire jusqu'à réplication en aveugle). | Un mécanisme concret pour le terme de correction, une route candidate pour ingénierer $\beta>0$ (ce qu'il faut mettre dans la boucle). |
| Paper VI (Honey Architecture) | « Safety must be architecture, not constraint » : avec une entangled capability×safety loss, les systèmes-jouets auto-modificateurs les tiennent tous deux indéfiniment, tandis que les baselines capability-only s'effondrent en ~80 cycles et un externe ne fait que retarder l'effondrement. | Simulation (v1-v4) + preuves live à 6 modèles. | La démonstration des systèmes-auto-modificateurs de la distinction de cet article : une contrainte externe est le régime découplé ($\beta=0$) ; l'entangled loss est le régime couplé ($\beta>0$). |
Lu comme une seule échelle : le travail scaling-law dit comment les systèmes croissent, Paper III dit pourquoi la sûreté externe échoue à tenir le rythme, Paper IV.d dit qu'aucune mesure d'alignement scorée par modèle n'est fiable non aveuglée, Papers V/VI/VIII disent que l'embedded safety fonctionne en simulation, et cet article donne la condition sous laquelle tout cet embedding livre effectivement la sûreté : $\beta>k$.
10. Le programme ARC/Eden, cumulé
Ceci est le dernier article d'une série, il vaut donc la peine de dire en langage ordinaire ce sur quoi porte l'ensemble de la série. Chaque article étudie un aspect d'un même phénomène : ce qui arrive lorsqu'un système est capable de récursion, les choses qui agissent sur leur propre sortie. Une IA qui s'améliore ; un corps dont les tissus fournissent des tissus ; une économie dont les innovations financent d'autres innovations.
Comment croissent les choses qui s'alimentent (les articles scaling-law : Foundational, Origin, VII, I, II). Lorsqu'un processus s'alimente lui-même, la forme de sa croissance n'est pas arbitraire, elle tend à retomber dans l'une d'un petit nombre de familles mathématiques. Ces articles dérivent et testent une méta-loi selon laquelle chaque scaling law découlant de la composition d'échelle est en puissance, exponentielle ou saturante, et mesurent quelle famille les systèmes récursifs actuels occupent. Une conjecture liée, l' « ARC Bound » , est un plafond prétendu sur combien un système purement classique peut s'amplifier par récursion seule ; elle siège dans le programme comme une prédiction non testée.
Pourquoi mesurer la sûreté d'IA est traître (la thèse alignment-measurement : ARC-Align et le résultat d'aveuglement, Papers III et IV.a-d). Avant de pouvoir demander « cette IA devient-elle plus sûre ou plus dangereuse à mesure qu'elle réfléchit plus fort ? », il faut mesurer son honnêteté, et cette mesure peut vous tromper. Si le juge qui score l'IA peut dire quelle réponse est venue de quel réglage, il peut, sans intention, en inverser le signe, de sorte que ce qui ressemble à une amélioration est en fait le correcteur qui se trompe lui-même. Le programme a donc construit un benchmark scellé (ARC-Align) et a constaté que la réponse à la question « la réflexion supplémentaire rend-elle un modèle plus ou moins aligné ? » dépend de la façon dont on tourne la lumière, ce que Paper IV.d formalise en tant que loi de mesure : l'inversion de signe.
Construire la sûreté à l'intérieur, ne pas la boulonner (les articles d'architecture : V, VI, VIII). Dans des systèmes simulés auto-améliorants, faire de la sûreté une part de l'objectif propre de la machine l'a maintenue stable, tandis que l'ajouter comme filtre à l'extérieur l'a laissée dériver. Un mécanisme spécifique à l'intérieur de la boucle, par exemple faire peser au système qui est affecté avant d'agir, était le moyen le plus fiable d'améliorer l'alignement à travers plusieurs modèles. à l'intérieur de la boucle, par exemple, faire peser au système qui est affecté avant d'agir, était le moyen le plus fiable d'améliorer l'alignement à travers plusieurs modèles.
La clef de voûte (cet article). Tout cela met en place la seule question à laquelle cet article répond : quand un système auto-améliorant reste-t-il sûr ? La réponse est une seule inégalité entre deux exposants : la correction doit se renforcer avec la capacité au moins aussi vite que la capacité s'accélère.
Ceci est l'article culminant du programme ARC/Eden, et il est écrit pour se tenir comme la synthèse du programme : il subsume l'ancienne synthèse [Eastwood, Paper IX] en intégrant l'ensemble en un seul résultat de sûreté. Les articles précédents sont individuellement publiés, chacun portant sa propre revendication centrale (voir le tableau) 10.17605/OSF.IO/BSE2Q ; cette section rassemble leurs lois et découvertes, énonce ce que chacune apporte à l'image plus large, et est scrupuleuse quant à la distinction entre priorité (quand une revendication a été exposée pour la première fois) versus nouveauté (si elle est nouvelle pour la littérature). Les deux ne sont pas la même chose, et les confondre est ainsi que les bons programmes se perdent.
L'image plus grande, en un paragraphe. Un mécanisme traverse chaque article : l'amplification récursive, un processus qui agit sur sa propre sortie. Le travail scaling-law (Foundational, Origin, VII, et les mesures de capacité I, II) dit comment les systèmes récursifs croissent et par quelles formes en loi de puissance ils sont contraints. Paper III dit que lorsque la sûreté siège à l'extérieur de la boucle récursive, elle ne co-scale pas, la fraction de misalignment est laissée non gouvernée, et, mesurée sans aveuglement (Papers IV.a-c), la sûreté peut sembler s'améliorer alors qu'elle empire, ce que Paper IV.d formalise en tant que loi de mesure : un effet d'alignement scoré par modèle et non aveuglé n'est pas invariant à l'aveuglement, et un aveuglement propre peut inverser son signe. Papers V/VI/VIII montrent, en simulation, que placer la correction à l'intérieur de la boucle préserve à la fois sûreté et capacité là où une contrainte externe ne le fait pas. Cet article fournit la loi quantitative manquante qui lie les trois : un système auto-améliorant est alignment-stable ssi la correction surpasse en échelle la dérive, $\beta>k$. Voilà la magnitude de la revendication, non qu'un quelconque système soit sûr, mais que la peur centrale du champ (un hard-takeoff rapide et non contrôlable) est décidable par une seule inégalité mesurable dont la valeur peut être lue sur un système en marche. La revendication est conditionnelle, en attente de la mesure empirique de $\beta$ et de $k$ sur un vrai système auto-améliorant (§8).
Le registre complet. Chaque résultat du programme, sa date de première publication (priorité), sa position honnête, informée par un audit adversarial, et son rôle dans l'image $\beta>k$. La colonne priorité fixe la date à laquelle l'auteur a exposé la revendication ; la nouveauté par rapport à la littérature plus large est traitée dans la colonne standing.
| Source | Sa loi / découverte (date de priorité) | Position honnête | Rôle dans l'image $\beta>k$ |
|---|---|---|---|
| Infinite Architects (livre) | La thèse conceptuelle de l'ensemble du programme, la récursion comme créateur, les idées ARC et Eden (copyright du ms le 8 déc. 2024 ; publié le 2 janv. 2026 ; ISBN 978-1806056200). | Source de priorité. Établit quand l'auteur a exposé les idées ; pas une revendication de nouveauté face à la littérature scientifique antérieure. | L'origine datée ; les articles formels sont sa forme mesurable. |
| Foundational | Axiomes ARC ; $U=I\cdot R^\alpha$ ; $\alpha=1/(1-\beta)$ ; l'« ARC Bound » $\beta{=}0,5,\alpha{=}2$ ; une profondeur optimale $R^\star$ (13 fév. 2026). | La forme $\alpha=1/(1-\beta)$ est le résultat classique feedback/geometric-series (multiplicateur de Keynes, resommation de Dyson) ; une profondeur optimale finie est un travail antérieur (Qi 2025 ; la littérature « overthinking »). La nouveauté, s'il y en a une, réside dans les axiomes, non les formes. | Fournit l'ossature formelle et les formes en loi de puissance ($A=A_0C^\beta$, $\dot C=bC^{1+k}$) que cet article suppose. |
| On the Origin of Scaling Laws | La méta-loi trois-formes ; $d/(d+1)\Rightarrow\tfrac12,\tfrac23,\tfrac34$ à partir d'une seule formule (22 fév. 2026). | Le résultat $d/(d+1)\Rightarrow\tfrac12,\tfrac23,\tfrac34$ est Banavar-Maritan-Rinaldo / West 1999 (anticipé) ; ce qui est nouveau est la synthèse, non la formule d'exposant. | Explique pourquoi les systèmes récursifs prennent les formes en loi de puissance utilisées ici. |
| Paper I | L'ARC Principle : la capacité scale de façon super-linéaire avec recursion depth, $\alpha>1$ (17 janv. 2026). | Empirique préliminaire ; $\alpha>1$ ensuite qualifié en architecture-dependent et sub-linéaire sur les tâches plus difficiles (Paper II). | La revendication fondatrice de capacité, le $C(t)$ que cet article suppose. |
| Paper II | Suppression d'erreur super-linéaire via récursion séquentielle ; $\alpha_{\text{seq}}$ mesuré ; séquentiel $>$ parallèle (22 janv. 2026). | Empirique, boucle fermée ; révisé honnêtement, architecture-dependent, sub-linéaire sur le palier difficile. | La croissance de capacité est réelle et actuellement sub-linéaire ($k$ petit), donc la contrainte contraignante est le couplage, non la vitesse. |
| Paper III | L'Alignment Scaling Problem : $\alpha_{\text{align}}\approx0$, la sûreté externe ne peut pas co-scale (9 fév. 2026). | Loi proposée ; raffinée sous aveuglement en un résultat à trois paliers architecture-dependent. | Précisément le coin $\beta=0$ (découplé) que cet article généralise. |
| Papers IV.a / IV.b / IV.c | Les classes de réponse d'alignement sont architecture-dependent ; la saturation à faible profondeur est réelle mais non universelle ; ARC-Align, un benchmark 4-layer-blind à 72 prompts (16 mars 2026). | Empirique (aveugle) raffinements + un benchmark méthodologique. | L'instrument et l'image raffinée derrière III. |
| Paper IV.d | Un effet d'alignement scoré par modèle et non aveuglé n'est pas invariant à l'aveuglement, l'aveuglement peut en inverser le signe (16 mars 2026). | Loi de mesure, sans doute le résultat le plus sûr du programme. | La discipline que le harnais real-model de cet article impose (§6). |
| Paper V | The Stewardship Gene : la stakeholder care est l'intervention d'amélioration d'alignement la plus robuste (significative dans les cinq modèles analysables) (16 mars 2026). | Signal d'intervention fort ; réserve de statut aveuglement, provisoire jusqu'à réplication en aveugle (par IV.d). | Un mécanisme concret pour le terme de correction, comment ingénierer $\beta>0$. |
| Paper VI | The Honey Architecture : « safety must be architecture, not constraint », une entangled capability×safety loss empêche l'effondrement qu'une contrainte externe ne fait que retarder (16 mars 2026). | Simulation (v1-v4) + preuves live à 6 modèles. | La distinction $\beta>0$ vs $\beta=0$ de cet article, montrée en code auto-modificateur. |
| Paper VII | Unification cauchyenne : validation inter-domaines de la loi à trois formes (19/25 domaines sous l'ensemble de candidats original à six modèles, 18/25 sous la réexécution corrigée à sept modèles du 11 août 2026 ; $p\approx1.6\times10^{-5}$ pour le décompte original) (16 mars 2026). | Empirique exploratoire, pas préenregistré pour cette cohorte ; un suivi à 12 domaines à manifeste verrouillé de la même époque a fixé les prédictions par domaine avant ses ajustements et a été rétrogradé par l'auteur en une exécution à blanc pilote dans les treize minutes suivant son résultat 10/12, dans l'historique public des commits. L'idée centrale est partiellement anticipée (Luce 1959 ; Frank 2009/16 ; Biró-Barnaföldi 2008), listée comme convergence. Résidu nouveau : la sous-revendication d'unification cauchyenne + le protocole inter-domaines. | Sous-tend les hypothèses de forme fonctionnelle du §3. |
| Paper VIII | The Load-Bearing Proof : l'embedded safety ne porte aucune capability tax ; la variante safety-couplée (Eden) bat la découpée (Babylon) (18 mars 2026). | Simulation positive + nuls honnêtes (DGM, LoRA au niveau des poids). | La démonstration contrôlée du mécanisme de cet article ; le harnais real-model instancie sa conception. |
| Paper IX | Synthesis & Roadmap ; le growth-rate-ceiling framing comme critère de sûreté opérant (18 mars 2026) ; la mesure single-model $\alpha\approx 2.24$ rétractée, corrigée à approximativement 0,49 sous aveuglement à six modèles. | Cadrage remplacé ici. Cet article remplace le cadrage rate-ceiling par $\beta>k$ comme critère opérant et absorbe le rôle de synthèse ; l'équation et l'ARC Bound demeurent des hypothèses vivantes dont le véritable test, sur des systèmes authentiquement auto-améliorants, reste ouvert. | La synthèse antérieure que cette section remplace. |
| Paper X (cet article) | The Coupled Co-Scaling Law : stabilité $\iff\beta>k$ ; le Hard-Takeoff Depth-Regularity Theorem ; la correspondance QEC de forme de seuil (26 juin 2026). | Nouveau critère, prouvé (Théorèmes 1-6) et vérifié en interne ; pas encore mesuré sur un vrai système en dérive. | La clef de voûte, elle transforme l'ossature scaling-law en un critère de sûreté. |
Priorité, énoncée clairement, et bornée. La thèse conceptuelle de ce programme a été exposée dans le livre de l'auteur Infinite Architects (dépôt du copyright le 8 décembre 2024 ; publié le 2 janvier 2026 ; ISBN 978-1806056200), et chaque article subséquent porte sa propre date de première publication (colonne priorité ci-dessus). C'est de la priorité, la date d'articulation, et elle est réelle. Elle n' paspas, à elle seule, la nouveauté face à la littérature scientifique plus large, et les audits engagés avec cet article sont explicites sur où les deux divergent : l'exposant de feedback $\alpha=1/(1-\beta)$, l'échelle allométrique $d/(d+1)$, l'existence d'une profondeur optimale $R^\star$, et le principe « functional-equation fixes the scaling form » ont tous des précédents spécifiques et citables (Keynes ; Banavar & West 1999 ; Qi 2025 ; Luce 1959 ; Frank 2009/16). Les contributions défendables nouvelles du programme sont plus étroites et énoncées honnêtement, plus fortes pour être précises : (i) le critère $\beta>k$ et le cadrage $\rho$ en un paramètre ; (ii) l' unification des dérivations allométriques indépendantes (Origin/VII) ; (iii) la loi de mesure blinding-reversal pour l'évaluation d'alignement d'IA (IV.d) ; et (iv) les démonstrations embedded-vs-external safety (VI, VIII). Le reste est méthodologique, computationnel, ou synthétique par rapport à la littérature antérieure, et est ainsi étiqueté.
Évaluation honnête (ce que cette synthèse revendique, et ce qu'elle ne revendique pas). Établi : les mathématiques de $\beta>k$ (Théorèmes 1-6) et sa vérification de cohérence interne ; la loi de mesure IV.d ; les distinctions embedded/external en simulation (VI, VIII). Suggestif mais non tranché : les exposants de scaling de capacité (architecture-dependent ; II), l'intervention Stewardship-Gene (non aveuglée ; V) ; l'anticipation cross-domain de la loi trois-formes (VII). Ouvert : la mesure de $\beta$, $k$ et $\gamma$ sur un vrai système auto-améliorant en dérive, le seul résultat qui convertirait la clé de voûte d'un critère prouvé en une loi confirmée (l'estimateur pour cela est construit et validé, §8). La magnitude du programme, alors, est la magnitude d'une cadre cohérent et falsifiable avec un petit nombre de clefs-de-voûte véritablement nouvelles, non un empilement d'une douzaine de nouvelles lois indépendantes. Voilà l'honnête magnitude de la revendication de nouveauté.
11. Le harnais de vérification exécutable
Les prédictions en forme close des §4-5 sont encodées dans un programme unique auto-contenu, experiment_coscaling.py (et une suite d'assertions, test_coscaling.py), dans le repo. Il intègre le modèle avec un solveur stiff-capable, valide l'intégrateur face à la solution exacte du Théorème 1, et exécute les dix expériences ; le journal est mis en cache et rejoué de façon déterministe. Le harnais est un harnais de vérification : il certifie que les théorèmes sont correctement dérivés et correctement intégrés, que le code correspond aux mathématiques. Ce n'est pas un test du modèle face à la réalité, et il ne peut pas l'être : chaque expérience déductive intègre la propre EDO du modèle, si bien qu'une incrédulité dans l'applicabilité du modèle ne peut pas la faire trébucher. Ce test empirique est le problème ouvert du §8.
$ python experiment_coscaling.py... [PASS] E1... E9... ---------------------------------------------------------------- 10/10 internal-consistency checks pass | 0 kill-conditions triggered F4 (QEC mechanism): suppression is analytically power-law -> threshold-form analogy only, not a transferred mechanism. OVERALL: code matches the maths (E1-E9); the model-vs-reality test is the open problem $ pytest test_coscaling.py -q............ (12 passed)
Cela rend la dérivation et l'intégrateur reproductibles de bout en bout. Ce qu'il établit est que les formules sont dérivées et implémentées correctement, non que le modèle décrit une IA réelle.
12. Conclusion
Le danger de l'auto-amélioration récursive est réel, mais le modèle standard de ce danger, un taux qui doit être plafonné, est le mauvais modèle. La stabilité est fixée non par le taux de croissance mais par une seule inégalité entre deux exposants : correction versus drift-acceleration, $\beta>k$ sous croissance accélérante. La fraction de misalignment ne diverge jamais dans le modèle gain-only, elle sature au coefficient de dérive, corrigeant le brouillon antérieur, tandis que la divergence véritable vit dans un canal compounding dont le seuil $\rho_{\mathrm{prop}}<1$ partage la forme de seuil du critère quantum error-correction (la loi de suppression étant en loi de puissance, la correspondance est offerte comme hypothèse, non comme mécanisme transféré). La conséquence la plus tranchante est le Hard-Takeoff Depth-Regularity Theorem : une intelligence explosion en temps fini est alignment-stable ssi $\beta>k$, et sa vitesse ne change pas ce verdict. Le critère survit sous formes vectorielle et stochastique, donne à la gouvernance une cible mesurable et une borne de queue, et est accompagné d'un harnais de vérification qui contrôle que les prédictions en forme close sont correctement dérivées et intégrées. Le test décisif, à savoir si les vrais systèmes auto-améliorants satisfont le critère, est la prochaine étape énoncée, non une revendication faite ici.
C'est une revendication plus petite que le cadrage cosmologique que le programme de l'auteur poursuivait autrefois, et délibérément ainsi. Elle ne concerne que les systèmes dotés d'une cible de valeur spécifiée de l'extérieur, n'affirme rien sur l'univers, et traite même sa correspondance la plus frappante, avec la correction d'erreur quantique, comme une hypothèse à tester plutôt qu'une vérité à annoncer. L'intuition de stabilité récursive qui a motivé le programme plus large, y compris Infinite Architects, trouve ici sa forme mesurable et falsifiable : la récursion stable exige une correction qui scale avec l'amplification. L'étape suivante n'est pas d'étendre cette revendication vers l'extérieur mais d'exécuter, sur des systèmes réels auto-modificateurs, l'expérience qui la tue ou la confirme.
Annexe A. Le changement de variable en fraction
La réduction sous-jacente à chaque théorème est le changement de variable $d=D/C$. En différenciant et en substituant (1) :
Le terme de dilution $-r\,d$ (du fait que $C$ lui-même croît) est ce qui borne la fraction additive : il ajoute $+r$ au coefficient effectif de décroissance de $d$, si bien que même une correction faible ($A$ petit) est aidée par la croissance.
Annexe B. Réglages de paramètres pour l'exécution rapportée
Toutes les figures utilisent $C_0=1$, $d_0=0,05$, $\gamma_1=0,05$. Réglages spécifiques par expérience : E1 $b=1$, $\gamma_3\in\{0,3, 0,7, 1,3\}$ ; E2 $A_0=1$, $b\in\{0,3, 3\}$ pour lent/rapide, $\beta\in\{0, 0,5\}$ ; E3 $b=1$, $A_0=1$, $\beta\in\{-0,5, 0, 0,5, 1\}$ ; E4 $b=1$, $A_0=1$, $\beta\in\{0,3, 0,5, 0,7\}$, $k\in\{0,3, 0,5, 0,7\}$ ; E5 $\gamma_3=2$, $r=1$, $A_0\in\{0,5, 1,0, 3,0, 5,0\}$ (attendu $A_0^\star=1$) ; E6 $\mathbf A=\mathrm{diag}(1, 0)$, $\mathbf c=(1,1)/\sqrt2$ ; E7 $\sigma=0,1$, $A=r=1$ ; E8 $A=1$, $r=1$, $\gamma_1=0,05$, $d_0=0,5$, horizon $T=10$ ; E9 $\gamma_2\in\{0, 0,02\}$, $r=0$, $A_0=1$.
Annexe C. Registre nouveauté et travail antérieur
Cette annexe consolide l'audit adversarial du travail antérieur sous-tendant la position aux §2 et §3.12, de sorte que la magnitude honnête de la nouveauté du papier soit décidable en un coup d'œil. Il n'y a aucun cadrage d'originalité en bloc ; chaque composant est placé face à son travail antérieur le plus proche localisé ci-dessous. « Defensibly new » signifie qu'aucun antécédent n'a été localisé après recherche ciblée, sous la mise en garde standard que l'indexation forum/blog/preprint est imparfaite.
| Composant | Statut | Travail antérieur le plus proche | Ce qui est revendiqué ici |
|---|---|---|---|
| Intuition de intuition (la correction doit tenir le rythme de la capacité) | Établi | Ashby 1956 (requisite variety) ; Conant-Ashby 1970 ; scalable oversight (Christiano 2017 ; Leike 2018 ; Burns et al. 2023) ; Engels et al. 2025 | Rien. Crédité, non revendiqué. |
| ODE à deux variables + forme close $\rho=\gamma r/A$ | Reformulation compacte | Lyapunov-drift / linear control (Khalil 2002 ; Meyn & Tweedie 2009) ; bornes d'erreur récursives (Shumailov et al. 2024 ; Gerstgrasser et al. 2024) | La fraction en régime permanent en forme close compacte et le critère $\rho<1$ en tant qu'énoncé de corrigibilité (empaquetage, non nouveau théorème). |
| Affinement $\beta>k$ sous accélération | Defensibly new | Aucun localisé | Original : la stabilité est fixée par la marge d'exposant $\beta-k$, non par le taux de croissance ; directement testé en Expérience 4. |
| Hard-Takeoff Depth-Regularity Theorem (§3.7) | Defensibly new (le cadrage) | La théorie ODE des singularités en temps fini est standard ; le cadrage d'alignement n'est pas localisé ailleurs | Original : la singularité en temps fini en $C$ est régulière dans l'horloge de profondeur pour $d$ ; le verdict est $\mathrm{sign}(\beta-k)$ indépendant du temps de singularité. |
| Mapping du seuil QEC (§3.12) | Defensibly new en alignement | Théorème de seuil lui-même : Aharonov-Ben-Or 1997 ; Google 2024. Précurseurs en alignement : Wentworth 2022 ; Christiano 2017/2019 ; von Neumann 1956 | Original : l'explicite $p |
| Seuil spectral vectoriel (Thm 5) ; queue stochastique (Thm 6) | Extensions standard | Stabilité spectrale des systèmes linéaires ; théorie d'Ornstein-Uhlenbeck | Généralisations routinières ; en soutien, non en une de couverture. |
| Harnais de vérification (§11) | Méthodologique | Normes de pré-enregistrement | Contrôles exécutables de cohérence interne + d'intégrateur (le code correspond aux mathématiques) ; non un test du modèle face à un système réel. |
| Finite-Capacity Safe-Window Theorem (§3.13) | Analyse standard, cadrage nouveau | Formes de saturation Hill / Michaelis-Menten ; optimisation élémentaire | La fenêtre en forme close (centre et profondeur) et l'invariance sous capacity-lift du critère ; en soutien, non en une de couverture. |
Ce que cet article affirme comme nouveau, et rien de plus : (i) le critère de stabilité $\beta>k$ et le cadrage $\rho$ à un seul paramètre ; et (ii) le mapping explicite du seuil QEC en tant que $p empirique ; l'inversion de signe des effets alignment-scaling sous aveuglement multi-couches est un résultat compagnon séparé [Eastwood, Paper IV.d] et n'est pas revendiquée ici.
L'équation de capacité antérieure $U=I\times R^{\alpha}$ (dont la mesure single-model non aveuglée $\alpha\approx 2,24$ a été rétractée et corrigée à environ 0,49 sous aveuglement ; l'équation elle-même et l'ARC Bound $\alpha\le 2$ ne sont pas rétractées et demeurent des hypothèses vivantes) est n'est utilisée nulle part dans l'argument de cet article ; elle n'apparaît qu'au §1 en tant que contexte de cadrage remplacé. Mise en garde : l'indexation forum/blog/preprint est imparfaite, si bien que les verdicts « defensibly new » portent un risque résiduel estimé à 10-15 % qu'un précédent plus proche, non indexé, existe ; l'absence de preuve n'est pas la preuve de l'absence.
Annexe D. Glossaire en langage clair
Chaque terme technique de cet article, en un lieu et en mots ordinaires, pour le lecteur non spécialiste.
| Terme (symbole) | En français simple |
|---|---|
| Auto-amélioration récursive | Un système qui utilise ses propres améliorations pour s'améliorer davantage, une IA qui se réécrit pour devenir plus intelligente, puis utilise cela pour devenir encore plus intelligente. |
| Capacité ($C$) | À quel point le système est bon pour atteindre ses buts, en gros, « à quel point il est intelligent ou puissant. » |
| Dérive | La tendance du système à s'éloigner de ce que nous avions intenté à mesure qu'il se change lui-même, en glissant tranquillement hors-cible. |
| Correction (la strength $A$) | Le processus qui ramène le système vers le comportement intenté, sa « conscience », ou son error-correction. |
| Magnitude de misalignment ($D$) | À quel point le comportement du système a dérivé de ce que nous voulions, « à quel point il est hors-cible. » |
| Fraction de misalignment ($d=D/C$) | À quel point le système est hors-cible par rapport à sa puissance. C'est la quantité qui compte réellement pour la sûreté : un petit dérapage dans un système extrêmement capable est plus dangereux qu'un grand dérapage dans un système faible. |
| Couplage | Si la correction est câblée à l'intérieur de la boucle d'auto-amélioration (couplée) ou siège à l'extérieur en tant que règle bolt-on (découplée). La revendication centrale de l'article est que le couplage, non la vitesse, décide de la sûreté. |
| $U$, $\alpha$ (symboles du premier fil) | $U$ est la capacité effective et $\alpha$ son exposant de scaling dans la loi du premier fil $U=I\times R^{\alpha}$ (§1), les significations de la surface de recherche 2026. Note d'ère : à travers le programme $U$ a aussi signifié Univers (décembre 2024) et poids ou influence (le glossaire du livre), et $\alpha$ a nommé la constante de structure fine dans le formalisme de décembre 2024 ; les significations sont spécifiques à l'ère et non interchangeables. |
| $k$ (l'exposant de drift-acceleration) | À quelle vitesse le rythme de l'auto-amélioration elle-même accélère à mesure que le système croît, l'« accélération » du takeoff. |
| $\beta$ (l'exposant de correction-strength) | À quelle vitesse la correction se renforce à mesure que le système croît, « la conscience croît-elle en pas avec la puissance ? » |
| $\beta>k$ (le critère) | La condition de sûreté que cet article prouve : la correction doit surpasser en échelle l'accélération de la dérive. En une phrase : gardez la conscience qui croît au moins aussi vite que la capacité. |
| $\rho$ (rho, le ratio drift-to-correction) | Un seul nombre comparant à quel point le misalignment est injecté face à combien il est corrigé. Dans le régime dominé par la correction, $\rho\to 0$ signifie la sûreté ; dans le régime dominé par la dérive, $\rho\ge 1$ signifie qu'un canal compounding entrera en action et la divergence deviendra possible. |
| Régime permanent ($d^\star$) | Où la fraction de misalignment se pose à long terme, une fois l'injection et la correction équilibrées. |
| Hard takeoff / intelligence explosion | La capacité devenant énorme, même mathématiquement infinie, en un temps très court. Le résultat redouté. Le résultat de cet article : dans le modèle, la fraction de misalignment est encore contrôlable si et seulement si $\beta>k$, et sa vitesse ne change pas ce verdict. |
| Aveuglement | Cacher au juge qui score le système quel réglage a produit un comportement donné, de sorte que le biais du juge ne puisse pas contaminer le score. Sans cela, un aveuglement propre peut inverser le signe apparent d'un effet d'alignement. |
| Harnais de vérification | Un petit programme qui vérifie que les formules de l'article sont dérivées et calculées correctement (les mathématiques sont internement cohérentes). C'est pas un test face à une IA réelle, cela est la prochaine étape ouverte. |
Références
Aharonov, D., & Ben-Or, M. (1997). Fault-tolerant quantum computation with constant error. Proc. 29th ACM STOC.
Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete problems in AI safety. arXiv:1606.06565.
Ashby, W. R. (1956). An Introduction to Cybernetics. Chapman & Hall. [Loi de la variété requise.]
Bostrom, N. (2012). The superintelligent will. Minds and Machines, 22(2).
Burns, C., Izmailov, P., Kirchner, J. H., et al. (2023). Weak-to-strong generalization: Eliciting strong capabilities with weak supervision. arXiv:2312.09390.
Christiano, P. (2017). Corrigibility. AI Alignment (Medium). [Le cadrage du « large bassin d'attraction ».]
Christiano, P. (2019). Reliability amplification. AI Alignment Forum.
Christiano, P., Leike, J., Brown, T., Martic, M., Legg, S., & Amodei, D. (2017). Deep reinforcement learning from human preferences. NeurIPS.
Conant, R. C., & Ashby, W. R. (1970). Every good regulator of a system must be a model of that system. International Journal of Systems Science, 1(2).
Eastwood, M. D. (2026). Infinite Architects: Intelligence, Recursion, and the Creation of Everything. [Cité comme la source de l'intuition de stabilité récursive, non pour une identité symbolique avec le présent modèle.]
Eastwood, M. D. Paper III: The Alignment Scaling Problem. ARC/Eden research programme.
Eastwood, M. D. Paper IV.d: The Effect of Blinding on AI Alignment Evaluation. ARC/Eden research programme.
Eastwood, M. D. Paper VI: The Honey Architecture. ARC/Eden research programme.
Eastwood, M. D. Paper VIII: The Load-Bearing Proof. ARC/Eden research programme.
Eastwood, M. D. Paper IX: Synthesis and Roadmap. ARC/Eden research programme. [Rétractation de $U=I\times R^2$ et rétrécissement vers une mise à l'échelle sub-linéaire pour les modèles figés actuels.]
Engels, J., Baek, D. D., Kantamneni, S., & Tegmark, M. (2025). Scaling laws for scalable oversight. arXiv:2504.18530.
Gerstgrasser, M., et al. (2024). Is model collapse inevitable? Breaking the curse of recursion by accumulating real and synthetic data. arXiv preprint.
Google Quantum AI (2024). Quantum error correction below the surface code threshold. Nature, 638.
Greenblatt, R., Denison, C., Wright, B., et al. (2024). Alignment faking in large language models. arXiv:2412.14093.
Hoffmann, J., Borgeaud, S., Mensch, A., et al. (2022). Training compute-optimal large language models. arXiv:2203.15556.
Hubinger, E., van Merwijk, C., Mikulik, V., Skalse, J., & Garrabrant, S. (2019). Risks from learned optimization. arXiv:1906.01820.
Kaplan, J., McCandlish, S., Henighan, T., et al. (2020). Scaling laws for neural language models. arXiv:2001.08361.
Kitaev, A. Yu. (2003). Fault-tolerant quantum computation by anyons. Annals of Physics, 303(1).
Leike, J., Krueger, D., Everitt, T., Martic, M., Maini, V., & Legg, S. (2018). Scalable agent alignment via reward modeling. arXiv:1811.07871.
Meyn, S., & Tweedie, R. L. (2009). Markov Chains and Stochastic Stability (2nd ed.). Cambridge University Press. [Conditions de dérive de Lyapunov.]
Omohundro, S. M. (2008). The basic AI drives. Proc. AGI 2008.
Shamma, J. S., & Athans, M. (1990). Analysis of gain scheduled control for nonlinear plants. IEEE Trans. Automatic Control, 35(8).
Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631.
Soares, N., Fallenstein, B., Yudkowsky, E., & Armstrong, S. (2015). Corrigibility. AAAI Workshop on AI and Ethics.
von Neumann, J. (1956). Probabilistic logics and the synthesis of reliable organisms from unreliable components. In Automata Studies. Princeton University Press.
Wentworth, J. (2022). Godzilla strategies. LessWrong.
Yampolskiy, R. V. (2020). On the controllability of artificial intelligence. arXiv:2008.04071.
Yudkowsky, E. (2013). Intelligence explosion microeconomics. MIRI Technical Report.
Déclaration d'auteurship humain assisté par IA
L'auteur de cet ouvrage est Michael Darius Eastwood, un être humain. Chaque concept central, hypothèse, conception expérimentale, revendication et intention est le sien ; chaque décision de contenu et chaque paragraphe final a été écrit ou approuvé par lui.
Des outils d'intelligence artificielle (la famille Claude d'Anthropic et d'autres assistants large-language-model) ont été utilisés comme un traitement de texte augmenté, jamais comme une source d'idées ou une autorité. Aucune revendication, mesure, argument ou décision de conception provenant de tels outils n'a été acceptée sans être soit dérivée par l'auteur, soit vérifiée face à des sources primaires ou aux données du programme. Les artefacts en aveugle et les protocoles pré-enregistrés sont conçus précisément pour empêcher l'assistance IA de biaiser les résultats en aveugle.
Statut épistémique. Ce que ce programme nomme des Lois sont des conjectures sous test adversarial enregistré ; chaque quantité dans cet article est opérationnellement définie, et un statut de loi établie n'est revendiqué nulle part. Le programme enregistré existe pour gagner ce statut, ou le perdre, par mesure, réplication et réfutation survécue.
© 2026 Michael Darius Eastwood. Œuvre à auteurship humain avec assistance informatique ; le plein auteurship humain et les droits moraux sont revendiqués sous le Copyright, Designs and Patents Act 1988 et de manière cohérente avec le guidance de l'United States Copyright Office concernant les œuvres contenant du matériel généré par IA ; tout mode ou contribution non déclaré serait une violation de cette déclaration. Détails complets à michaeldariuseastwood.com/authorship.
Engagement permanent. Prouvez cet article faux, et je publierai la réfutation moi-même. Les conditions de falsification sont énoncées dans cet article ; le défi permanent : github.com/MichaelDariusEastwood/arc-scaling-challenge.