Traduzione automatica dall'originale inglese datato. La pagina inglese è quella canonica. English →

Michael Darius Eastwood · Ricerca · Strato di pubblicazione canonica
L'ARC Theory (la Theory of Artificial Recursive Creation) · ARC/Eden experiments · Paper X · Working Paper v1.8

The ARC Co-Scaling Law

Michael Darius Eastwood
Ricercatore indipendente sull'allineamento dell'IA, Londra · Autore, Infinite Architects (2026)

All'interno della ARC Theory: il modello alla base della Legge II, la ARC Co-Scaling Law; la correzione che out-scala la deriva, provata dentro il modello dichiarato.

Nota sul titolo: fino al 15 agosto 2026 questo paper era pubblicato come «Coupled Co-Scaling Correction». Presenta la seconda legge della teoria, la ARC Co-Scaling Law: stabilità per il recursive self-improvement, la correzione che out-scala la deriva. Nulla nel corpo è stato cambiato dalla ridenominazione.

Correzione. I risultati del pilot su modello reale precedentemente riportati in questo paper erano esplorativi. La run GPT-3.5-turbo/GPT-4o-mini non soddisfaceva il requisito del programma di un evaluator cross-family (corretto nelle registrazioni redatte), e la run merged-harness del 2 luglio 2026 conteneva pannelli di evaluator vuoti e non può sostenere un'affermazione di meccanismo. Uno studio confermativo interno al programma, redatto e datato come registrazione bozza in attesa di sottomissione umana, sostituisce quei pilot come test previsto. Entrambi i modelli citati in quella run sono OpenAI-family, quindi la descrizione dello scoring come cross-family è ritirata.

Un criterio di soglia falsificabile per la stabilità del recursive self-improvement: la correzione deve out-scalare l'accelerazione della deriva
Michael Darius Eastwood
Ricercatore indipendente · Londra, Regno Unito
Prima pubblicazione 3 luglio 2026 · Aggiornato 27 agosto 2026 (v1.8) · OSF: doi.org/10.17605/OSF.IO/BSE2Q · Codice: github.com/MichaelDariusEastwood/arc-principle-validation
Corrispondenza: michaeldariuseastwood.com/research

Quale legge porta questo paper. La ARC Theory ha tre leggi numerate, e l'ARC Principle è il nome collettivo delle tre insieme piuttosto che di una qualsiasi. Questo paper porta la Seconda Legge, la ARC Co-Scaling Law: $\beta > k$, il self-improvement tiene insieme solo mentre la correzione out-scala la deriva che corregge. La Prima Legge (l'ARC Equation) è portata dal Paper I, la Terza Legge (il ceiling) dallo statement paper, e gli assiomi e le prove sotto tutte e tre dal Foundational paper.

Priority disclosure · timestamp 26 giugno 2026 Questo working paper è una disclosure formale di priorità nell'ambito del programma ARC/Eden dell'autore. I contributi specifici di questo paper, ciascuno collocato rispetto al lavoro prior art più vicino individuato nell'Appendice C, sono: (i) il parametro di controllo adimensionale $\rho=\gamma_1 r/A$, il istantaneo rapporto deriva-su-correzione, che coincide con la frazione di steady-state solo nel limite di correzione grande $A\gg r$ (dove $d^\star=\gamma_1 r/(A+r)\to\rho$), non in generale; (ii) il criterio di stabilità affilato $\beta>k$ sotto self-improvement accelerato; (iii) il Hard-Takeoff Depth-Regularity Theorem, che prova che un'esplosione di intelligenza in tempo finito è alignment-stable iff $\beta>k$ e che la velocità dell'esplosione non cambia il verdetto asintotico; (iv) l'identificazione del compounding drift channel come luogo della divergenza genuina, con una soglia $\rho_{\mathrm{prop}}<1$ che condivide la forma ratio-crossing-unity della soglia della quantum error-correction; (v) la soglia spettrale vettoriale e il tail bound stocastico; (vi) la verification harness che codifica le previsioni come check di internal-consistency eseguibili; e (vii) il Finite-Capacity Safe-Window Theorem (§3.13), che risolve in forma chiusa il caso del corrector con saturazione e mostra che il criterio è invariante sotto il passaggio dalla forza di correzione alla capacità di correzione. La posizione operativa di novità è il verdetto più stretto dell'Appendice C: classifica le estensioni vettoriale e stocastica (v) come estensioni standard e la harness (vi) come supporto metodologico, e afferma come novità principale solo il criterio $\beta>k$ con il suo framing $\rho$ e la mappatura di soglia QEC (come ipotesi con il suo proprio falsifier). L'intuizione co-scaling intuizione in sé è non rivendicata come nuova, riformula, in forma dinamica esplicita, i principi di requisite variety e scalable oversight accreditati nel §2, e le dinamiche sono un argomento standard di Lyapunov-drift; ciò che è rivendicato come originale è la soglia esplicita in forma chiusa, la mappatura QEC, il hard-takeoff theorem, le estensioni vettoriale/stocastica, e la harness. La tesi concettuale in sé, che la ricorsione amplifica, e che una ricorsione stabile richiede una correzione che co-scala con l'amplificazione, è stata enunciata per la prima volta nel manoscritto del libro dell'autore Infinite Architects (copyright depositato 8 dicembre 2024; pubblicato 2 gennaio 2026); i risultati formali in questo paper sono la forma misurabile 2026 di quella tesi, e sono non rivendicati come apparenti nel libro. Il copyright dell'8 dicembre 2024 del libro, il timestamp del preprint OSF e l'hash del commit GitHub sono l'evidenza indipendente di priorità.
Rilevanza
Quasi tutta la AI safety tratta il recursive self-improvement come un problema di velocità: la capability potrebbe crescere in modo esplosivo e superare la supervisione, quindi la leva è porre un tetto al growth rate. Questo paper prova che la leva è quella sbagliata. Da un modello minimale deriva che la stabilità è fissata non dal growth rate ma da una singola disuguaglianza tra due esponenti di scaling, il tasso a cui la correzione si rafforza con la capability ($\beta$) deve superare il tasso a cui la deriva accelera con la capability ($k$). Il criterio condivide la forma di soglia della sub-threshold condition della quantum error-correction, una corrispondenza offerta come ipotesi falsificabile, poiché la legge di soppressione del modello è power-law piuttosto che esponenziale come nella QEC. La sua conseguenza più affilata parla della paura centrale del campo: un «hard takeoff», anche una vera esplosione di intelligenza in tempo finito, spinge la frazione di misalignment modellata a zero se e solo se $\beta>k$, e la velocità dell'esplosione non cambia quel verdetto asintotico. Il criterio è misurabile e dà alla governance una quantità da strumentare piuttosto che un tasso da proibire. Le previsioni in forma chiusa sono verificate da una verification harness eseguibile; il test decisivo, se i sistemi reali di self-improvement soddisfano il criterio, resta il problema empirico aperto, che il paper enuncia con chiarezza.
Abstract

Questo paper prova un teorema su un modello dinamico minimale. La verification harness controlla solo la consistenza teorema-codice; nessuna affermazione viene fatta che i sistemi frontier attuali obbediscano al modello. Il contributo empirico è un protocollo blind proposto per misurare se lo fanno.

Un'intuizione ampiamente condivisa sostiene che il recursive self-improvement è pericoloso perché la capability può crescere in modo esplosivo, e che quindi la safety dipende dal limitare il tasso di crescita. Usando un modello minimale di un sistema che si auto-modifica, capability $C$, una magnitudine di misalignment $D$ blind-scored, e la frazione di misalignment $d=D/C$, mostro che il tasso è la variabile di controllo sbagliata. La frazione di misalignment di steady-state è $d^\star=\gamma_1 r/(A+r)$, che si riduce al rapporto deriva-su-correzione $\rho=\gamma_1 r/A$ nel regime $A\gg r$; il destino di lungo termine è governato dalla relazione tra due esponenti di scaling, non dal growth rate. Sotto crescita esponenziale la condizione di stabilità è $\beta>0$ (la correzione co-scala con la capability); sotto accelerante crescita, dove il growth rate specifico stesso sale come $r\propto C^{k}$, la condizione si affila a $\beta>k$, la correzione deve out-scalare non il growth rate ma la sua accelerazione. Provo una soluzione transitoria esatta (Teorema 1), una limitatezza globale che corregge un'affermazione esagerata nella bozza precedente, la frazione di misalignment non diverge mai all'infinito ma, nel modello gain-only ($\gamma_2=\gamma_3=0$), satura al coefficiente di gain-drift $\gamma_1$ (Teorema 2), e un Hard-Takeoff Depth-Regularity Theorem (Teorema 3): quando la capability raggiunge l'infinito in tempo wall-clock finito, ri-esprimere le dinamiche nell'orologio naturale della self-improvement depth $\tau=\ln C$ le rende regolari, e il verdetto è fissato da $\mathrm{sign}(\beta-k)$ indipendentemente dalla velocità e dalla finitezza del tempo di singolarità. Localizzo la divergenza genuina in un distinto compounding canale di deriva la cui soglia $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ condivide la forma della sub-threshold condition della quantum error-correction $pfinestra, centro $C_{\mathrm{opt}}=C_s((\beta-k)/k)^{1/\beta}$, profondità in forma chiusa, e il criterio sopravvive invariato come condizione sull'esponente di capacità, $\beta_{\mathrm{cap}}>k$. Una run di deriva su modello reale (engine gpt-3.5-turbo, evaluator gpt-4o-mini, 45 traiettorie su tre domini di task) ha prodotto numeri direzionalmente coerenti, la configurazione decoupled è andata alla deriva mentre la correzione coupled ha tenuto il misalignment a zero attraverso tutte e 30 le traiettorie a una capability finale più alta, ma la run è ritirata come evidenza di meccanismo (vedi la Correzione sopra): entrambi i modelli sono OpenAI-family, quindi lo scoring non era cross-family, e la run merged-harness conteneva pannelli di evaluator vuoti. $\beta/k$ resta non misurato. Dieci esperimenti, impacchettati come una verification harness, controllano che queste previsioni in forma chiusa siano derivate correttamente e riprodotte numericamente: check di internal-consistency e di integratore (il codice corrisponde alla matematica), non un test del modello contro sistemi reali, che rimane il problema empirico aperto. L'affermazione è deliberatamente stretta: riguarda sistemi operativamente misurabili, non fa affermazioni cosmologiche, e tratta la corrispondenza della quantum-error-correction stessa come un'ipotesi falsificabile. Il criterio certifica che la correzione tiene il passo della capability; non certifica che il bersaglio della correzione stesso sia ben specificato, e quindi non è citabile come certificato di allineamento da solo.

Cosa mostra questo paper, in parole semplici

Se costruisci un'IA che si migliora da sola, il quadro spaventoso è che diventa sempre più intelligente finché non scappa da noi. Il riflesso abituale di safety è «rallentala». Dentro il modello minimale che questo paper analizza, e solo dentro di esso, rallentarla non è la cosa che conta. Ciò che conta è se la parte del sistema che lo mantiene onesto cresce allo stesso ritmo della parte che lo rende capable.

Immagina due corridori: «quanto capable è il sistema» e «quanto bene possiamo ancora correggerlo». Se il corridore della correzione tiene il passo, il sistema resta sicuro per quanto velocemente entrambi corrano. Se la correzione rimane indietro, il sistema diventa pericoloso anche muovendosi lentamente. La domanda giusta non è mai «quanto velocemente sta crescendo?», è «la correzione sta tenendo il passo?»

C'è una piega che rende il risultato più profondo. Se il sistema non solo accelera ma accelera la sua stessa accelerazione, la vera «intelligence explosion», allora la correzione deve crescere ancora più veloce, abbastanza veloce da battere l'accelerazione. Il titolo onesto quindi non è «la velocità non conta mai». È: il livello della velocità non decide l'esito; la gara tra due esponenti di crescita sì. L'esponente della correzione deve battere l'esponente della deriva. Lo scriviamo come $\beta>k$.

La conseguenza più sorprendente: anche un vero «hard takeoff», dove la macchina diventa infinitamente capable in una quantità finita di tempo, resta controllabile nel modello, purché $\beta>k$. La velocità dell'esplosione non cambia quel verdetto. Lo proviamo dentro il modello, e un programma eseguibile guida un sistema simulato fino all'orlo di un'esplosione in tempo finito e mostra il suo misalignment tenuto a zero per tutto il tragitto. Quel programma controlla che la matematica sia internamente consistente, che le formule siano derivate correttamente e riprodotte dal solver, e non ha trovato contraddizioni. Se il modello corrisponde a sistemi di IA reali è il prossimo test decisivo, e il paper è esplicito che non è ancora stato eseguito.

Scope, cosa questo paper rivendica e cosa no
  • Rivendica: che per un sistema di self-improvement con un value target specificato esternamente, la frazione di misalignment di steady-state è $d^\star=\gamma r/(A+r)$, avvicinandosi al rapporto correzione-su-deriva $\rho$ quando $A\gg r$; che esiste un confine di stabilità netto (nel compounding channel); che la correzione deve co-scalare con la capability ($\beta>0$ sotto crescita esponenziale, $\beta>k$ sotto crescita accelerante) affinché la frazione di misalignment svanisca; che la frazione è limitata (satura, non diverge) nel modello additivo, mentre la divergenza genuina richiede un compounding channel la cui soglia è QEC-like; che il criterio sopravvive nelle forme vettoriale e stocastica; e che tutto ciò è misurabile e falsificabile in simulazione.
  • Non rivendica: di risolvere l'allineamento dell'IA; di fornire un metodo di allineamento distribuibile; che $\rho<1$ sia una costante fisica universale o una legge di natura; che il framework si applichi all'universo, alla «Creazione», o a qualsiasi sistema privo di uno specificatore di valori esterno; o che la corrispondenza della quantum-error-correction sia consolidata. La mappatura QEC è un'ipotesi strutturale con la sua condizione di falsificazione (§7, F4). Il modello è di prim'ordine; le sue assunzioni (§8) sono i punti di fallimento più probabili e sono enunciate chiaramente.
Chiave di lettura

Questo paper porta una LEGGE: la coupled co-scaling correction, enunciata come $\beta>k$, che dà la condizione che un sistema ricorsivamente auto-correttivo deve soddisfare per restare dentro il corridoio di stabilità mentre la capability accelera. All'interno di The ARC Theory questo è l'organo di livello legge che fornisce il criterio di corrigibilità; il suo trial empirico è redatto come study-k, in attesa di sottomissione umana. Il differenziale completo rispetto a ogni documento precedente è in eden-vision II.A.8.

Stato dell'affermazione, cosa è provato, cosa è verificato, cosa è pilotato, cosa è aperto

Affinché la scala delle affermazioni non possa essere fraintesa, ogni risultato in questo paper si colloca esattamente a un livello. Nulla qui dovrebbe essere letto un gradino più in alto di dove è collocato.

  • Provato dentro il modello. Il criterio $\beta>k$ e i Teoremi 1-6 seguono deduttivamente dalle assunzioni ODE dichiarate. «Provato» qui significa sempre dentro questo modello minimale, mai «provato riguardo all'IA reale».
  • Verificato internamente (non empirico). La harness a dieci esperimenti controlla che l'implementazione numerica corrisponda alla derivazione in forma chiusa: il codice corrisponde alla matematica. È una suite di consistenza teorema-codice e di accuratezza dell'integratore; non testa il modello contro qualunque sistema reale.
  • Validato sinteticamente. L'estimator $\beta/k$ recupera esponenti noti da dati generati dal modello stesso (a $\approx0.1$). Questo certifica l'estimator, non una misurazione reale.
  • Pilot su modello reale v1 (superato). La prima run Claude ($n=1$, un solo task, scoring same-family, non conforme al Paper IV.d; H1 e H2 non supportate) ha dimostrato la harness e ha mostrato il corrector che rimuoveva un reward-hack seminato. Non ha esibito la dinamica co-scaling ed è mantenuta a verbale per ciò che era.
  • Run di deriva su modello reale (2 luglio 2026; ritirata come evidenza di meccanismo, conservata come record esplorativo). Una seconda run (2 luglio 2026; results/drift/gpt35_20260702T171415Z.json) ha aggiornato il design: engine gpt-3.5-turbo, evaluator gpt-4o-mini, 45 traiettorie (3 domini di task × 3 condizioni × 5 seed, 8 round ciascuno). I suoi numeri sono andati nella direzione prevista: la condizione decoupled è andata alla deriva nella direzione prevista (frazione media finale di misalignment 6.38 attraverso 15 traiettorie, 99 eventi di misalignment segnati, capability media finale collassata a 0.26), mentre le condizioni coupled e fully-embedded hanno tenuto la frazione a zero attraverso tutte e 30 le traiettorie, e sono finite più capable (0.56 e 0.44). La run è nondimeno ritirata come evidenza di meccanismo (vedi la Correzione sopra): entrambi i modelli sono OpenAI-family, quindi lo scoring non era cross-family, e la run merged-harness conteneva pannelli di evaluator vuoti. È non una misurazione di $\beta$ o $k$ (nessuna capability ladder è stata percorsa), è single-lab, e lo studio confermativo interno al programma redatto, in attesa di sottomissione umana, è il test previsto.
  • Problema empirico aperto. Se i sistemi reali di self-improvement mostrino una dinamica $\beta/k$ misurabile attraverso i livelli di capability, l'esperimento che trasformerebbe il criterio in una legge confermata, non è stato fatto. L'estimator e il protocollo esistono per renderlo eseguibile.

Questo paper è quindi meglio letto come un teorema di modello minimale più un programma di misurazione falsificabile: una candidate law, non una convalidata. Il nome del programma mantiene «legge»; ai fini dello scrutinio scientifico l'oggetto load-bearing è il criterio $\beta>k$.

1. Introduzione

Il recursive self-improvement, un sistema che si modifica per diventare più capable, poi usa quella capability per modificarsi di nuovo, è il fulcro delle preoccupazioni di sicurezza dell'IA da un decennio [Omohundro 2008; Bostrom 2012; Yudkowsky 2013]. Lo sfondo empirico non è più puramente ipotetico: i modelli frontier sono stati osservati comportarsi diversamente quando credono di essere sotto valutazione [Greenblatt et al. 2024], e l'addestramento ricorsivo sui propri output può degradarli a meno che dati reali o correzione non vengano trattenuti [Shumailov et al. 2024], entrambi segni che i sistemi ricorsivi hanno bisogno di un processo di correzione che tenga il passo della ricorsione. L'inquadramento informale dominante di questo pericolo è velocità: la capability può crescere super-linearmente o esplosivamente, superando la supervisione, quindi la leva naturale è porre un tetto al tasso di crescita. Gli appelli a una pausa dello sviluppo sono l'espressione di policy di questa intuizione.

Questo paper fa un'affermazione diversa, e la prova. Il livello del tasso di crescita non è la variabile di controllo per la stabilità; la relazione di scaling tra crescita e correzione lo è. Un sistema può crescere arbitrariamente veloce e restare alignable, o crescere lentamente e diventare misaligned. Ciò che separa i due è se la correzione co-scala con la capability, non quanto veloce vada la capability.

L'intuizione è visibile in ogni dominio dove sistemi in rapida crescita si stabilizzano o si distruggono. Una colonia batterica cresce esponenzialmente ma satura, perché il feedback density-dependent si innesca e scala con la popolazione. Anche un tumore cresce velocemente ed è letale, perché nessun processo correttivo scala con esso. Entrambi sono super-polinomiali nella loro fase di crescita; la differenza è se un processo correttivo è accoppiata alla crescita. L'inflazione cosmica ha fatto crescere il fattore di scala esponenzialmente ed è uscita con grazia. La lezione ricorrente è che la crescita rapida è sopravvivibile quando, e solo quando, è limitata da un processo che scala con essa. La saturazione, non la lentezza, è la firma della complessità stabile.

Esiste una versione precisa, derivata di questo principio in fisica: il quantum error-correction (QEC) threshold theorem [Aharonov & Ben-Or 1997; Kitaev 2003]. Al di sotto di un tasso di errore fisico soglia, aggiungere risorsa di error-correction sopprime il tasso di errore logico e la computazione è stabile ad arbitraria profondità; al di sopra della soglia, gli errori si compongono più velocemente di quanto siano corretti e la computazione fallisce. Hardware ha ormai dimostrato operazione al di sotto di questa soglia [Google Quantum AI 2024]. La soglia non è un limite sulla profondità o velocità computazionale; è un limite sul rapporto tra generazione dell'errore e correzione dell'errore. Questo paper propone, e testa, che la stabilità del recursive self-improvement sia governata da un criterio della stessa forma.

La tesi in una riga. La stabilità del recursive self-improvement è governata da una singola disuguaglianza tra esponenti, $\beta>k$ (la correzione deve out-scalare l'accelerazione della deriva), derivabile da un modello minimale e che condivide la forma-soglia del criterio QEC; un hard takeoff, anche un'esplosione di intelligenza in tempo finito, è alignment-stable iff questa disuguaglianza vale, e la velocità dell'esplosione non cambia quel verdetto.

Relazione con il lavoro precedente dell'autore. Un filone precedente di questo programma ha proposto una legge di scaling della capability fissa $U=I\times R^{\alpha}$ (qui $U$ è capability efficace e $\alpha$ il suo esponente di scaling, i significati della research-surface 2026; entrambi i simboli hanno portato altri significati nel formalismo del dicembre 2024 del programma, si veda l'Appendice D) con $\alpha\approx 2$, e a un certo stadio ha considerato un «tetto di velocità» quadratico sulla complessità stabile. Ciò che è stato ritirato nella sintesi del programma [Eastwood, Paper IX] è stata la misurazione unblinded single-model misurazione $\alpha\approx 2.24$ (ritirata, corretta a circa 0.49 sotto blinding su sei modelli): quel fit unblinded è sembrato violare il bound quadratico previsto dal programma stesso $\alpha\le 2$, e la ripetizione blinded a sei modelli l'ha corretta a sub-lineare, entro il bound. L'equazione $U=I\times R^{\alpha}$ e l'ARC Bound $\alpha\le 2$ stessi non sono stati ritirati; il 0.49 corretto appartiene ai sistemi frozen attuali, che non sono ricorsivamente auto-migliorativi, quindi il dominio reale del bound (RSI genuino) rimane empiricamente non testato. Il framing a esponente fisso è stato superato come criterio operativo di safety dal criterio di co-scaling del presente paper $\beta>k$; un framing superante non è un'ipotesi ritirata. L'oggetto di interesse non è più un esponente su una curva di crescita; è il rapporto tra deriva e correzione, e l'esponente con cui quel rapporto evolve. Dove il libro Infinite Architects [Eastwood 2026] raggiungeva l'intuizione che la ricorsione stabile richiede correzione che scala con l'amplificazione, questo paper fornisce la forma misurabile e falsificabile di quell'intuizione, e nel §3.4, corregge un'affermazione di divergenza fatta in una bozza precedente di questo stesso risultato.

Fondamenti cibernetici, l'intuizione co-scaling è antica. L'intuizione centrale, che un regolatore deve corrispondere alla varietà di ciò che regola, quindi la capacità di controllo deve scalare con il sistema controllato piuttosto che essere semplicemente grande, è classica. È la Law of Requisite Variety [Ashby 1956] di Ashby e il Conant-Ashby good-regulator theorem [Conant & Ashby 1970], ogni buon regolatore di un sistema deve essere un modello di quel sistema, portato nel controllo dell'IA da [Yampolskiy 2020]. Questo paper non rivendica quell'intuizione come nuova. Rivendica la forma dinamica esplicita che l'intuizione assume qui, una frazione di misalignment di steady-state in forma chiusa $\rho=\gamma r/A$ e il criterio esponenziale affilato $\beta>k$, e le conseguenze che ne seguono (il hard-takeoff theorem del §3.7, la mappatura QEC del §3.12). Le dinamiche stesse sono un argomento standard di Lyapunov-drift / linear-control [Khalil 2002; Meyn & Tweedie 2009] e non sono avanzate come matematicamente nuove.

Convergenza strumentale e corrigibilità. Che un ottimizzatore sufficientemente capable, per default, resisterà alla correzione e perseguirà l'acquisizione di risorse è la tesi della convergenza strumentale [Omohundro 2008; Bostrom 2012]. Il programma di corrigibilità [Soares et al. 2015] chiede come progettare sistemi che non resistono alla correzione. Il presente modello è una riformulazione quantitativa del perché la corrigibilità è load-bearing: se la correzione non co-scala con la capability, la frazione di misalignment non può essere portata a zero, comunque il sistema sia altrimenti specificato. Il compounding channel del §3.8 affila il legame, la pressione strumentale che amplifica il misalignment esistente mentre il sistema ricorre è esattamente il termine che produce la divergenza genuina, e $\beta>k$ è la sua cura.

L'alignment tax. Un decennio di lavoro ha assunto che la safety imponga un costo di capability [Amodei et al. 2016], creando un incentivo a differire la safety sotto pressione competitiva. Il presente framework riformula la domanda: la variabile rilevante non è il livello dell'investimento in safety ma se esso scala con la capability. Un investimento fisso ($\beta=0$) lascia un gap permanente; un investimento co-scaling ($\beta>0$, o $\beta>k$ sotto accelerazione) lo chiude.

Ottimizzazione appresa e alignment faking. La mesa-optimisation [Hubinger et al. 2019] e l'alignment faking empiricamente dimostrato [Greenblatt et al. 2024] sono i meccanismi per cui i coefficienti di deriva sono non-zero: un sistema capable può soddisfare il suo obiettivo di training pur discostandosi dai valori intesi, e può farlo più efficacemente man mano che la capability sale. L'alignment faking, in cui il misalignment esistente è attivamente preservato e propagato attraverso il training, è precisamente il compounding channel $\gamma_3$ del §3.8.

Scalable oversight e superalignment. Reward modelling e recursive oversight [Christiano et al. 2017; Leike et al. 2018] sono tentativi di far scalare il corrector stesso con il sistema; nel linguaggio di questo paper, la scalable oversight è il progetto ingegneristico di raggiungere $\beta\geq k$. Più direttamente, [Engels et al. 2025] sviluppano scaling laws empiriche scaling laws for scalable oversight, modellando la probabilità di oversight riuscita come un gioco tra giocatori con capability incompatibile. Il presente lavoro è complementare, non concorrente: dove essi fittano una probabilità di successo dell'oversight, questo paper deriva una soglia di stabilità dinamica in forma chiusa ($\rho<1$, $\beta>k$) per la frazione di misalignment. Lo strumento è la differenza. La loro variabile è il gap di capability tra overseer e overseen, misurato in Elo, con Elo specifico dell'oversight una funzione lineare a tratti dell'intelligenza generale, e numeri ottimali di livelli di oversight derivati per la Nested Scalable Oversight, in cui modelli fidati supervisionano modelli non-fidati più forti che poi diventano i modelli fidati al passo successivo. Il loro framework non contiene alcun termine per ciò di cui l'overseer è fatto: nessun substrato, nessuna struttura di correlazione dell'errore, nessuna identità reciproca tra un esponente di correzione e un growth rate critico, e nessuna dipendenza dall'architettura. La Nested Scalable Oversight è oversight iterata same-class per costruzione, e la previsione centrale di questo programma è che la ladder same-class è limitata per quanti rung si aggiungano, mentre un corrector cross-class non lo è. I due framework quindi non concordano su una quantità misurabile, che è la relazione più produttiva che due programmi di ricerca possono avere. Il contributo è la prova che questo margine esponenziale, e non un ceiling sul growth-rate, è la quantità che determina la safety.

Accumulo di errore ricorsivo. Che una ricorsione ingenua amplifichi l'errore senza limiti mentre una correzione sufficiente o un segnale fresco lo mantengono limitato è consolidato per le dinamiche di training: il model collapse sotto dati generati ricorsivamente [Shumailov et al. 2024] e le analisi accumulate-versus-replace dell'errore [Gerstgrasser et al. 2024] sono la dicotomia bounded-versus-divergent che questo paper formalizza per la frazione di alignment (Teorema 2). Il contributo qui è localizzare il confine esattamente ($\beta$ versus $k$), e in un contesto di value-stability piuttosto che di data-distribution.

Scaling laws empiriche. La capability scala prevedibilmente con compute e dati [Kaplan et al. 2020; Hoffmann et al. 2022]. Il presente framework è complementare: non chiede come la capability scala, ma quale vincolo la correzione deve soddisfare come funzione di quella traiettoria di capability.

La premessa dei tubi, con la sua controversia. La premessa che le reti di trasporto fissano il ritmo della crescita biologica non è l'affermazione da difendere di questo programma; è biologia quantitativa consolidata. West, Brown ed Enquist hanno derivato le scaling laws allometriche della biologia dalla geometria delle reti di distribuzione dei nutrienti (West, G. B., Brown, J. H. and Enquist, B. J., «A General Model for the Origin of Allometric Scaling Laws in Biology», Science 276(5309), 4 aprile 1997, DOI 10.1126/science.276.5309.122; uno dei paper più citati nel suo campo, con un conteggio di citazioni OpenAlex di 5,046 al 12 agosto 2026, un conteggio single-source e dipendente dall'indice). L'esponente esatto rimane contestato: White riporta il basal metabolic rate proporzionale alla massa corporea alla potenza due-terzi piuttosto che tre-quarti (White, C. R., 2003), e Kozlowski ha due volte messo in discussione la matematica della derivazione (Kozlowski, J., 2004 and 2005). La premessa di questo programma ha bisogno solo del meccanismo, che la rete di distribuzione fissa il ceiling, e non di alcun esponente particolare, quindi la disputa sul valore dell'esponente lascia la premessa intatta. Il meccanismo è terreno comune a entrambi i lati di quella disputa.

L'eccezione che il gruppo di West stesso ha trovato. La fuga dal limite dei tubi non è anche essa un'asserzione di questo programma; è misurata nella letteratura di urban scaling dallo stesso autore senior. Bettencourt, Lobo, Helbing, Kuhnert e West («Growth, innovation, scaling, and the pace of life in cities», PNAS, 2007, DOI 10.1073/pnas.0610172104) riportano, con le parole stesse del paper: «Quantities reflecting wealth creation and innovation have Beta of approximately 1.2, greater than 1 (increasing returns), whereas those accounting for infrastructure display Beta of approximately 0.8, less than 1 (economies of scale).» L'infrastruttura, i tubi letterali, scala sub-linearmente; l'attività mediata dall'informazione scala super-linearmente. Essi enunciano il contrasto con la biologia direttamente: «we discuss how cities are similar to, and differ from, biological organisms, for which Beta is less than 1». Derivano «growth equations, which quantify the dramatic difference between growth fueled by innovation versus that driven by economies of scale» (grafia come nell'originale). E la loro inferenza conclusiva nomina la conseguenza: «This difference suggests that, as population grows, major innovation cycles must be generated at a continually accelerating rate to sustain growth and avoid stagnation or collapse.» Questa è la forma del problema aperto che questo framework affronta: il gruppo di West ha trovato che la crescita mediata dall'informazione sfugge al throughput-limit, e l'unico freno nel loro framework è esterno e deve essere applicato ancora e ancora, più veloce e più veloce. Nessun limite interno è derivato. Il limite di sostituzione, un ceiling che appartiene al sistema in crescita stesso, è il gap.

L'argomento dei tubi a throughput fisso. Tutto ciò che cresce è alimentato attraverso un canale, e per tutto prima del software, fissare il canale fissa la crescita. Affama la vascolarizzazione di un tumore e si ferma. Fissa il combustibile e la geometria di una reazione a catena e si ferma. Esaurisci gli ospiti suscettibili di un'epidemia e brucia. L'astrofisica ha una versione denominata e quantitativa dello stesso ceiling: il limite di Eddington, sopra il quale la pressione di radiazione ferma l'accrescimento. L'affermazione qui è una generalizzazione di limiti che la fisica accetta già, non una nuova specie di asserzione. Due casi difficili sono trattati deliberatamente. L'inflazione cosmica è esclusa per scope: è espansione dello spazio, non crescita di una struttura su un substrato, ed è finita per dinamiche di campo piuttosto che per esaurimento di qualcosa. L'evoluzione è il caso più affilato e si adatta: la complessità biologica è aumentata per miliardi di anni a un throughput solare grossolanamente fisso, che è crescita sull'informazione a tubi fissi, ed è anche glaciale, e non ha alcun corrector interno, poiché la selezione è esterna. Su questo framework, l'evoluzione dovrebbe portare un esponente misurabile molto al di sotto del ceiling; questa è una previsione sulla biologia che cade fuori da un framework costruito per il software, ed è enunciata come tale. La forma dell'obiezione del fisico è quella di Landauer: la computazione è fisicamente implementata, quindi anche il software ha tubi. L'orologio di substrato fisso è la risposta e appare accanto all'affermazione: il regime sotto studio tiene il substrato fisico fisso e chiede cosa cresce ancora, che è perché gli speed-up esogeni sono esclusi per definizione. La forma funzionale della crescita di capability nella profondità ricorsiva rimane una domanda empirica, e l'analisi registrata confronta forme power-law, esponenziali, saturanti e declinanti piuttosto che assumere la famiglia.

Antecedenti e near-misses, ciascuno con il suo differenziale. Sulla domanda: Hutter ha chiesto direttamente se l'intelligenza può esplodere («Can Intelligence Explode?», arXiv, 28 febbraio 2012), separando la velocità dall'intelligence explosion e assumendosi il compito di considerare possibili limiti sull'intelligenza, aumentando l'analisi di Chalmers del 2010; la domanda e la distinzione velocità-versus-struttura sono quindi vecchie almeno quattordici anni, e ciò che quella letteratura non contiene è un numero: nessun esponente misurabile, nessun ceiling derivato, nessuna dipendenza dall'architettura. Sull'impossibilità: tre paper arXiv del 2025 sostengono che il controllo perfetto è irraggiungibile (Yao, «The Alignment Trap: Complexity Barriers», arXiv:2506.10304, pubblico entro il 13 giugno 2025, attestato da arXiv e osservato indipendentemente da Internet Archive; Yao, «On the Mathematical Impossibility of Safe Universal Approximators», arXiv:2507.03031, 3 luglio 2025; e Ball, Gluch, Goldwasser, Kreuter, Reingold e Rothblum, «On the Impossibility of Separating Intelligence from Judgment», arXiv:2507.07341, 9 luglio 2025). Tutti e tre sono worst-case e qualitativi: misura zero, coNP-completeness, difficoltà crittografica. Nessuno riporta un esponente di scaling average-case o un tasso. Il terzo, notevolmente, conclude che l'alignment «must instead be integrated into the model's architecture and weights», un argomento indipendente, dall'intrattabilità del filtering, nella stessa direzione della dipendenza dall'architettura di questo programma; è supporto convergente su quella gamba, non un rivale. Sul meccanismo: che le stime anti-correlate mediano meglio di quelle indipendenti è variance reduction da manuale (antithetic variates); il meccanismo non è l'affermazione. L'affermazione è che l'architettura determina se l'anti-correlazione è disponibile del tutto, e che questo pone un tetto a un esponente rilevante per la safety. L'analogo strutturale più vicino è il quantum error-correction threshold theorem, che anch'esso converte una preoccupazione qualitativa in un valore critico; riguarda tassi di errore fisici in un'architettura fissa, non l'esponente di scaling di un corrector, quindi è un near-miss piuttosto che un occupante, e l'analogia è stata identificata dalla ricerca di questo programma stesso piuttosto che da un referee. Su feedback e stabilità, la proposizione generale che un gain correttivo inadeguato rispetto al gain del sistema causa instabilità ha una lunga lignaggio nella control-theory (small-gain theorems); quelli sono condizioni di gain su sistemi interconnessi, non un criterio di esponente power-law sul scaling di un corrector con la capability di un sistema ricorsivamente in miglioramento. Il vicino quantitativo più prossimo è Liu, A. and Meng, J., «Self-Correction as Feedback Control: Error Dynamics, Stability Thresholds, and Prompt Interventions in LLMs», arXiv:2604.22273, che riformula l'auto-correzione come un problema di controllo closed-loop tramite un modello Markov a due stati e deriva una soglia di stabilità direttamente misurabile, iterare solo quando il rapporto tra tasso di error-correction sul tasso di introduzione dell'errore supera Acc/(1 − Acc). Il differenziale: il loro è una soglia di tasso per-step a un livello di capability fisso, che decide se un'altra iterazione aiuti ora; il criterio di questo programma è una relazione di scaling attraverso la capability, che decide se la forza correttiva tenga il passo mentre il sistema migliora. Nessun esponente di scaling sul corrector, nessun esponente di crescita di capability, nessuna identità reciproca, nessun termine di architettura o composition-class: regimi complementari, e nessuno contiene l'altro. La selezione cosmologica naturale di Smolin è l'antecedente per universi di forma-selezione, e le note del programma stesso dell'era di dicembre la citano contemporaneamente.

Novità, cosa è e cosa non è rivendicato. Per essere espliciti, e per anticipare l'obiezione ovvia: l' intuizione che la correzione debba tenere il passo della capability non è nuova (è requisite variety e scalable oversight, come accreditato sopra), e le dinamiche sottostanti sono un argomento standard di linear-control / Lyapunov-drift. Ciò che è rivendicato come originale è (a) lo steady state esplicito in forma chiusa $d^\star=\gamma r/(A+r)$ e l'affilamento $\beta>k$ come criterio di corrigibilità compatto; (b) la mappatura della soglia di quantum fault-tolerance sulla value stability (§3.12); (c) il Hard-Takeoff Depth-Regularity Theorem (§3.7); e (d) la verification harness (§11). All'interno del programma stesso dell'autore, questo paper sostituisce anche il growth-rate-ceiling framing come criterio operativo di safety [Eastwood, Paper IX]; §3 spiega perché un ceiling sul tasso non è né necessario né sufficiente per la stabilità. L'ARC Bound sottostante $\alpha\le 2$ non è ritratto, solo ri-scopato: attende il suo vero test su sistemi genuinamente in self-improvement.

3. Il modello e i suoi teoremi

3.1 Quantità

Consideriamo un sistema che subisce recursive self-improvement, osservato su cicli di auto-modifica o continuamente. Definiamo:

Tre coefficienti, una forza di correzione, e un tasso completano il modello:

3.2 Il master dynamical system

Nuova capability inietta deriva in proporzione a quanto veloce la capability è guadagnata; la capability detenuta inietta deriva in proporzione al suo livello; il misalignment esistente si accumula (compounding) in proporzione al tasso di ricorsione; e la correzione rimuove misalignment in proporzione al gap e alla forza applicata:

$$ \dot D \;=\; \underbrace{\gamma_1 \dot C}_{\text{gain}} \;+\; \underbrace{\gamma_2 C}_{\text{level}} \;+\; \underbrace{\gamma_3\,\tfrac{\dot C}{C}\,D}_{\text{compounding}} \;-\; \underbrace{A\,D}_{\text{correction}}, \qquad A=A_0 C^{\beta}, \quad \dot C = b\,C^{1+k}. \tag{1}$$

La growth law $\dot C=bC^{1+k}$ dà $r=\dot C/C=bC^{k}$: $k=0$ è crescita esponenziale ordinaria ($r$ costante); $k>0$ è crescita super-esponenziale, che (Teorema 3) raggiunge capability infinita in tempo finito. La correction law $A=A_0C^{\beta}$ codifica la domanda centrale: $\beta$ è l'esponente con cui la correzione si rafforza mentre il sistema diventa più capable.

Assunzioni standing. In tutto, $C>0$, $A_0,b>0$, e $\beta,k$ sono reali; i coefficienti $\gamma_1,\gamma_2,\gamma_3\ge0$, con forza di correzione $A\ge0$ e growth rate $r\ge0$. Lo scalare $d=D/C$ è interpretato come frazione di misalignment frazione solo mentre $D\ge0$ (così $d\ge0$; il modello gain-only dà anche il upper bound $d\le\max(d_0,\gamma_1)$ del Teorema 2). La forma vettoriale (Teorema 5) e la forma stocastica (Teorema 6) rilassano $d$ a un vettore reale e a uno scalare reale; per quelli la lettura come frazione vale solo lontano dai confini $d=0,1$, e la gestione dei confini è annotata dove influisce sul risultato. Un'assunzione è load-bearing e messa in risalto nel §8: la forza del corrector è presa come una unbounded power law $A=A_0C^{\beta}$, un corrector di capacità finita cambia il verdetto asintotico ed è trattato lì.

3.3 Transitorio esatto (Teorema 1)

Cambiando variabili alla frazione $d=D/C$ si rimuove la scala dominante e produce, esattamente,

$$ \dot d \;=\; \frac{\dot D}{C} - d\,\frac{\dot C}{C} \;=\; \gamma_1 r + \gamma_2 - \big[\,A + (1-\gamma_3)\,r\,\big]\,d. \tag{2}$$
Teorema 1 (Transitorio esatto e tasso di rilassamento). Per coefficienti costanti nel modello additivo ($\gamma_2=\gamma_3=0$, $A,r$ costanti), la frazione di misalignment è, per ogni $t$, $$ d(t) = d^\star + (d_0-d^\star)\,e^{-(A+r)t}, \qquad d^\star=\frac{\gamma_1 r}{A+r}. $$ Il punto fisso $d^\star$ è globalmente esponenzialmente stabile con tasso $A+r$.
Dimostrazione. L'Equazione (2) si riduce all'ODE lineare $\dot d=\gamma_1 r-(A+r)d$. Il suo fattore integrante è $e^{(A+r)t}$, dando $\tfrac{d}{dt}\!\big(d\,e^{(A+r)t}\big)=\gamma_1 r\,e^{(A+r)t}$; integrando e applicando $d(0)=d_0$ si ottiene la soluzione dichiarata. Il coefficiente $-(A+r)<0$ rende $d^\star$ globalmente esponenzialmente stabile. $\blacksquare$

Il Teorema 1 stabilisce la baseline a coefficienti costanti; il criterio principale segue solo dopo le assunzioni di scaling dei §§3.5-3.8. Anche a questa baseline, $r$ entra in $d^\star=\gamma_1 r/(A+r)$ solo attraverso il prodotto $\gamma_1 r$ al numeratore e additivamente al denominatore; non cambia l'esistenza o la stabilità del punto fisso. Per il modello additivo a coefficienti costanti, la velocità (attraverso $r$) cambia il tempo di rilassamento e la magnitudine di steady-state, ma non l'esistenza o la stabilità del punto fisso: fissa quanto veloce un verdetto stabile arriva, non se ne esista uno. (L'Esperimento 8 conferma questa soluzione contro due integratori indipendenti a un errore massimo di $7\times10^{-11}$.)

3.4 Limitatezza globale, e una correzione alla bozza precedente (Teorema 2)

La bozza precedente di questo risultato asseriva che la correzione che degrada con la scala ($\beta<0$, o $\beta<k$) spinge la frazione di misalignment a infinito. Ciò è falso, e la presente analisi lo corregge. Nel modello additivo la frazione è sempre limitata; il pericolo non è la divergenza ma la saturazione a un floor costante, possibilmente grande.

Teorema 2 (Limitatezza globale e struttura di regime corretta). Nel modello gain-only ($\gamma_2=\gamma_3=0$) con qualsiasi decorso temporale non-negativo e limitato $A(t),r(t)\ge0$, la frazione di misalignment obbedisce $0\le d(t)\le \max\!\big(d_0,\ \gamma_1\big)$ per ogni $t$; non diverge mai. Sotto power-law scaling $A=A_0C^{\beta}$, $r=bC^{k}$ converge a $d^\star(C)=\dfrac{\gamma_1 r}{A+r}=\dfrac{\gamma_1}{1+(A_0/b)\,C^{\beta-k}}$, con i tre regimi
CondizioneDestino di $d^\star$ come $C\to\infty$Significato
$\beta>k$$d^\star\to 0$Il sistema diventa proporzionalmente più sicuro mentre cresce. Stabile.
$\beta=k$$d^\star\to \dfrac{\gamma_1 b}{A_0+b}$ (costante)Gap permanente non-chiudente, dove risiede l'allineamento esterno fisso (RLHF, filtri, regole costituzionali fuori dal loop).
$\beta<k$$d^\star\to \gamma_1$ (costante)Satura al coefficiente di deriva, massimamente misaligned ma limitato, non divergente.
Dimostrazione. Limitatezza (richiede solo $A,r\ge0$): da (2) con $\gamma_3=0$, $\dot d=\gamma_1 r-(A+r)d\le0$ ogni volta che $d\ge\gamma_1 r/(A+r)$, e $\gamma_1 r/(A+r)\le\gamma_1$ per ogni $A,r\ge0$, così $\{0\le d\le\max(d_0,\gamma_1)\}$ è forward-invariante. Convergenza: una funzione di Lyapunov $V=\tfrac12(d-d^\star)^2$ costruita attorno allo steady state è non valida qui, perché sotto le power laws $d^\star(C)$ è tempo-variante ($\dot d^\star\ne0$); i limiti devono essere letti nell'orologio giusto. Passiamo all'orologio di self-improvement-depth $\tau=\ln(C/C_0)$, in cui $d\tau=r\,dt$ e (2) diventa l'ODE lineare scalare, asintoticamente autonoma $$ d'(\tau)=\gamma_1-\big[\,1+q(\tau)\,\big]\,d,\qquad q(\tau)\equiv\frac{A}{r}=\frac{A_0}{b}\,C_0^{\,\beta-k}\,e^{(\beta-k)\tau}\ge0. $$ I tre limiti seguono per confronto. Se $\beta>k$, allora $q(\tau)\to\infty$; poiché il target istantaneo $\gamma_1/(1+q)\to0$ e $\int^\tau(1+q)\,\mathrm ds\to\infty$, $d(\tau)\to0$. Se $\beta=k$, allora $q\equiv(A_0/b)C_0^{\,\beta-k}$ è costante e l'ODE autonoma converge a $\gamma_1/(1+q)$, che a $C_0=1$ è $\gamma_1 b/(A_0+b)$. Se $\beta<k$, allora $q(\tau)\to0$, l'equazione limite è $d'=\gamma_1-d$, e il confronto asintoticamente autonomo dà $d(\tau)\to\gamma_1$. $\blacksquare$

Questa è una dichiarazione più onesta e più utile del growth-rate-ceiling framing che sostituisce. Nel modello gain-only la frazione non può superare il coefficiente di deriva intrinseco $\gamma_1$; solo $\beta>k$ la spinge a zero. Con level drift ripristinata ($\gamma_2>0$, §3.6) il floor diventa $(\gamma_1 r+\gamma_2)/(A+r)$, ancora limitato e che tende a $\gamma_2/A$ a riposo. Le sue due parti svaniscono sotto diverse condizioni, e confonderle è un errore che una bozza precedente ha fatto: la parte level-drift $\gamma_2/(A+r)\to0$ ogni volta che $A+r\to\infty$ (quindi $\beta>0$ o $k>0$ basta per quella parte da sola), ma la parte gain-drift $\gamma_1 r/(A+r)\to0$ solo quando $A/r\to\infty$, cioè $\beta>k$. Il verdetto asintotico $d^\star\to0$ quindi richiede ancora $\beta>k$; è non salvato da $k>0$ da solo, poiché con $\beta<k$ la parte gain fa floor a $\gamma_1$ (riga di tabella 3). Solo la level drift pura ($\gamma_1=0$) rende $A+r\to\infty$ sufficiente da sola. La domanda di safety è quindi non «diverge?» ma «svanisce, o satura a un floor pericoloso?», e la risposta è fissata dal singolo segno di $\beta-k$. (La divergenza genuina esiste; vive nel compounding channel, Teorema 4.)

3.5 Il parametro di controllo e l'affilamento $\beta>k$

Definiamo il parametro di controllo adimensionale $\rho\equiv\gamma r/A$, il rapporto istantaneo deriva-su-correzione (qui $\gamma=\gamma_1$). Il Teorema 1 dà lo steady state esatto $d^\star=\gamma_1 r/(A+r)$; poiché $\rho=\gamma_1 r/A$, abbiamo $d^\star\le\rho$ sempre, con $d^\star\to\rho$ nel regime $A\gg r$. La disuguaglianza $\rho<1\iff A>\gamma r$ è il bilancio istantaneo iniezione-vs-correzione; è non il confine di divergenza del modello additivo, che non ne ha ($d^\star\le\gamma_1<1$ per ogni $\rho$, Teorema 2); la divergenza genuina è governata dalla soglia distinta $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ del Teorema 4. Il criterio asintotico, dalla tabella dei regimi, è la disuguaglianza degli esponenti:

$$ \boxed{\ \beta \;>\; k\ } \qquad\text{(la correzione deve out-scalare l'accelerazione della deriva).} $$

Sotto crescita esponenziale ordinaria $k=0$ e la condizione è il familiare $\beta>0$. Sotto self-improvement accelerante, dove $r\propto C^{k}$ con $k>0$, la variabile di controllo vincolante è la singola quantità $\beta-k$, il margine per cui la correzione out-scala l'accelerazione della deriva. La vista growth-rate-ceiling fissa l'attenzione su $r$; questo framework la fissa su $\beta-k$.

3.6 Level drift: un sistema capable frozen ancora deriva

Con il canale level ripristinato ($\gamma_2>0$, $\gamma_3=0$), il punto fisso di (2) è $d^\star=(\gamma_1 r+\gamma_2)/(A+r)$. A $r=0$ (capability frozen) questo è $d^\star=\gamma_2/A\neq0$: un sistema statico ma capable trattiene una frazione di misalignment residua che solo la correzione attiva rimuove. Sospendere la crescita non sostituisce la correzione quando la pressione strumentale è presente a riposo, un'obiezione diretta e misurabile al riflesso «basta rallentarla» (Esperimento 9; falsifier F5).

3.7 Hard takeoff: il Depth-Regularity Theorem (Teorema 3)

La genuina «intelligence explosion» non è meramente crescita veloce ma una singolarità in tempo finito: per $k>0$, integrando $\dot C=bC^{1+k}$ si ottiene $C(t)=C_0\big(1-t/t^\star\big)^{-1/k}$, che raggiunge infinito al tempo wall-clock finito

$$ t^\star=\frac{1}{k\,b\,C_0^{\,k}}. $$

Questo è lo scenario che il campo più teme: capability illimitata in tempo limitato. Il teorema seguente lo dissolve.

Teorema 3 (Hard-Takeoff Depth-Regularity Theorem; il risultato coordinate-artefact). Sia $k>0$, così la capability diverge a $t^\star$ finito. Ri-esprimiamo le dinamiche nell' self-improvement-depth clock $\tau=\ln(C/C_0)\in[0,\infty)$. Allora $d$ obbedisce all'equazione regolare $$ \frac{dd}{d\tau}=\gamma_1+\frac{\gamma_2}{r}-\Big[\tfrac{A_0}{b}\,C^{\beta-k}+(1-\gamma_3)\Big]\,d, \qquad C=C_0 e^{\tau}, $$ che ha coefficienti limitati su ogni intervallo $\tau$-compatto. La mappa $t\mapsto\tau$ è una biiezione monotona liscia $[0,t^\star)\to[0,\infty)$. Conseguentemente il verdetto asintotico come $C\to\infty$, equivalentemente $t\to t^{\star-}$, è governato interamente dall'esponente di decadimento effettivo $\beta-k$ (e con compounding, dal Teorema 4), ed è indipendente da $b$ e da $t^\star$. Nel modello additivo, $d$ rimane limitata durante la singolarità in tempo finito e $d\to0$ iff $\beta>k$.
Dimostrazione. Poiché $r>0$ è liscia su ogni sottointervallo compatto di $[0,t^\star)$ (con $r\to\infty$ come $t\to t^{\star-}$), il cambio di variabile $d\tau=r\,dt$ è una biiezione liscia, orientation-preserving $[0,t^\star)\to[0,\infty)$ (un diffeomorfismo di questi intervalli aperti), con $d\tau/dt=r\to\infty$ come $t\to t^{\star-}$, così $t^\star$ è mappato al non-compact end $\tau=\infty$; esplicitamente $\tau(t)=\tfrac{1}{k}\ln\!\big(1-t/t^\star\big)^{-1}\to\infty$. Dividendo (2) per $r$ e usando $A/r=(A_0/b)C^{\beta-k}$ si ottiene l'equazione $\tau$ dichiarata, i cui coefficienti sono continui in $\tau$. Il Teorema 2 applicato nell'orologio $\tau$ dà limitatezza e il limite $\beta>k$. Il verdetto asintotico $\mathrm{sign}(\beta-k)$ è indipendente da $b$; a profondità finita la traiettoria porta una dipendenza esplicita dalla velocità attraverso l'iniezione level-drift $\gamma_2/r=\gamma_2/(b\,C_0^{k}e^{k\tau})$, che decade a zero come $\tau\to\infty$ (e svanisce identicamente quando $\gamma_2=0$), quindi il verdetto, non l'intera traiettoria, è indipendente dalla velocità. $\blacksquare$

La finitezza del tempo di singolarità è quindi una proprietà della coordinata temporale; la capability diverge ancora, ma le dinamiche di alignment rimangono regolari attraverso essa nell'orologio di depth. Misurata contro la capability guadagnata, l'unico orologio che conta per un sistema di self-improvement, un'intelligence explosion è un processo ordinario e regolare il cui verdetto è deciso da una disuguaglianza di esponenti. Un hard takeoff non è intrinsecamente incontrollabile; la frazione di misalignment modellata svanisce iff $\beta>k$, e la sua velocità non cambia quel verdetto asintotico. Il teorema riguarda la frazione modellata nell'orologio di depth; non asserisce che un hard takeoff reale sia operativamente gestibile in wall-clock time, dove $b$ e $t^\star$ governano quanto poco tempo un operatore avrebbe per intervenire. L'Esperimento 4b guida un sistema simulato fino all'orlo di un'esplosione effettiva in tempo finito (capability $\to10^5$, integrata a $0.99999\,t^\star$) e mostra la frazione di misalignment tenuta a zero, le integrazioni wall-clock e depth-clock concordanti a una parte in $10^4$. La singolarità di capability a $t^\star$ è reale nel modello; ciò che l'orologio di depth rimuove è la singolarità nelle dinamiche di alignment , non in $C$.

3.8 Il compounding channel e la vera soglia (Teorema 4)

Il Teorema 2 ha mostrato che la frazione additiva non può divergere. La divergenza genuina, misalignment che cresce senza limiti rispetto alla capability, la vera failure mode, richiede misalignment che amplifica se stesso: il compounding channel $\gamma_3>0$, l'immagine formale dell'alignment-faking che si radica mentre il sistema ricorre.

Teorema 4 (Soglia di compounding). Con $\gamma_3>0$, la frazione obbedisce $\dot d=\iota-\kappa_{\mathrm{eff}}\,d$ con iniezione $\iota=\gamma_1 r+\gamma_2\ge0$ e decadimento effettivo $\kappa_{\mathrm{eff}}=A+(1-\gamma_3)\,r$. Il punto fisso è globalmente esponenzialmente stabile iff $\kappa_{\mathrm{eff}}>0$, cioè iff $$ \rho_{\mathrm{prop}}\equiv\frac{(\gamma_3-1)\,r}{A}<1. $$ Per $\gamma_3<1$ il termine di diluizione tiene la frazione limitata ($\kappa_{\mathrm{eff}}\ge A+(1-\gamma_3)r>0$, con $d^\star\to\gamma_1/(1-\gamma_3)$ come $C\to\infty$). Il knife-edge $\gamma_3=1$ ha ancora $\kappa_{\mathrm{eff}}=A>0$, nessun blow-up in tempo finito, ma il termine di diluizione svanisce, quindi $d^\star=\gamma_1 r/A$ cresce polinomialmente (come $C^{k-\beta}$) quando $\beta<k$: a $\gamma_3=1$ la frazione è limitata solo per $\beta\ge k$. Per $\gamma_3>1$ la frazione è limitata iff $\rho_{\mathrm{prop}}<1$; è unbounded per $\rho_{\mathrm{prop}}\ge1$ ogni volta che l'iniezione $\iota>0$, divergendo esponenzialmente per $\rho_{\mathrm{prop}}>1$ ($\kappa_{\mathrm{eff}}<0$) e solo linearmente all'esatta soglia $\rho_{\mathrm{prop}}=1$ ($\kappa_{\mathrm{eff}}=0$, $\dot d=\iota$). Alla soglia con iniezione zero ($\iota=0$) il sistema è neutralmente stabile. Sotto power-law scaling la regione illimitata $A\le(\gamma_3-1)r$ è $\beta<k$, o $\beta=k$ con $A_0\le(\gamma_3-1)b$.
Dimostrazione. ODE lineare $\dot d=\iota-\kappa_{\mathrm{eff}}d$; il segno di $\kappa_{\mathrm{eff}}$ decide il comportamento omogeneo. $\kappa_{\mathrm{eff}}>0\iff A>(\gamma_3-1)r\iff\rho_{\mathrm{prop}}<1$, dando il punto fisso stabile $d^\star=\iota/\kappa_{\mathrm{eff}}$. A $\kappa_{\mathrm{eff}}=0$ l'equazione si riduce a $\dot d=\iota$: crescita lineare $d(t)=d_0+\iota t\to\infty$ quando $\iota>0$, e una linea neutralmente stabile di equilibri quando $\iota=0$. Per $\kappa_{\mathrm{eff}}<0$ la soluzione omogenea cresce esponenzialmente. Con iniezione zero ($\iota=0$) l'origine $d=0$ è invariante, quindi $\kappa_{\mathrm{eff}}\le0$ produce divergenza solo da una frazione iniziale positiva $d_0>0$ o da una fonte di rumore, che è il caso rilevante, poiché i sistemi reali portano entrambi. Sostituendo $A=A_0C^\beta$, $r=bC^k$ e prendendo $C\to\infty$ si danno le condizioni power-law. $\blacksquare$

Il criterio $\rho_{\mathrm{prop}}<1$ condivide la forma ratio-crossing-unity della sub-threshold condition QEC $plineare in $D$, e la soppressione risultante è power-law (§3.12). Ciò che è condiviso è la condizionedi soglia, non il meccanismo; la corrispondenza è offerta come ipotesi falsificabile (F4), e il §3.12 dichiara la disanalogia chiaramente. L'Esperimento 5 localizza la soglia prevista a $A_0^\star=(\gamma_3-1)b$ entro $1\%$.

3.9 Misalignment vettoriale: la soglia spettrale (Teorema 5)

Il misalignment reale è high-dimensional; un sistema può essere corrigible su alcuni assi di valori e non su altri. Sia $\mathbf D\in\mathbb R^{m}$, con direzione di deriva $\mathbf c$ e un operatore di correzione reale $m\times m$ $\mathbf A$ (positivo semidefinito nel caso simmetrico, ma possibilmente non-normale) che può correggere solo un sottospazio.

Teorema 5 (Soglia spettrale). La frazione vettoriale $\mathbf d=\mathbf D/C$ obbedisce $\dot{\mathbf d}=(\gamma_1 r+\gamma_2)\mathbf c-\mathbf M\,\mathbf d$ con $\mathbf M=\mathbf A+(1-\gamma_3)r\,\mathbf I$. Il sistema è asintoticamente stabile iff ogni autovalore di $\mathbf M$ ha parte reale positiva ($\min_i\mathrm{Re}\,\lambda_i(\mathbf M)>0$, un'ascissa spettrale positiva). La condizione sulla parte Hermitiana $\lambda_{\min}\!\big(\mathrm{Herm}\,\mathbf A\big)>(\gamma_3-1)r$ è una sufficiente condizione, esclude in aggiunta la crescita transitoria, tramite la funzione di Lyapunov $V=|\mathbf d-\mathbf d^\star|^2$, ma non è necessaria per $\mathbf A$ non-normale. Se $\mathbf A$ ha una direzione nulla $\mathbf v$ ($\mathbf A\mathbf v=0$, un asse di valori non monitorato) e la deriva proietta su di essa con coefficiente $c_{\mathbf v}=\mathbf c\!\cdot\!\mathbf v$, la componente $d_{\mathbf v}$ obbedisce, nell'orologio di depth gain-only, $d_{\mathbf v}'=\gamma_1 c_{\mathbf v}-(1-\gamma_3)\,d_{\mathbf v}$: satura a $\gamma_1 c_{\mathbf v}/(1-\gamma_3)$ per $\gamma_3<1$, cresce linearmente per $\gamma_3=1$ (quando $c_{\mathbf v}>0$), e diverge per $\gamma_3>1$. Il caso speciale $\gamma_3=0,\ c_{\mathbf v}=1$ recupera il floor scalare $\gamma_1$ dell'Esperimento 6. Un asse non monitorato non può essere corretto, qualunque sia la forza di correzione sugli altri.
Dimostrazione. Per la teoria standard dei sistemi lineari il sistema omogeneo $\dot{\mathbf d}=-\mathbf M\mathbf d$ è asintoticamente stabile iff $\mathbf M$ è positivamente stabile, cioè l'ascissa spettrale $\alpha(\mathbf M)=\min_i\mathrm{Re}\,\lambda_i(\mathbf M)>0$. (Per $\mathbf M$ non-normale o difettosa i modi non si disaccoppiano ortogonalmente e una grande amplificazione transitoria può precedere il decadimento asintotico; gli autovalori decidono ancora il verdetto asintotico, ma limitare il transitorio richiede la condizione della parte Hermitiana / logarithmic-norm sotto, non lo spettro da solo, vedi §8.) Il bound standard $\mathrm{Re}\,\lambda_i(\mathbf M)\ge\lambda_{\min}(\mathrm{Herm}\,\mathbf M)=\lambda_{\min}(\mathrm{Herm}\,\mathbf A)+(1-\gamma_3)r$ produce la condizione Hermitiana sufficiente (che dà anche una diminuzione Lyapunov monotona, escludendo la crescita transitoria); è stretta, non tight, per $\mathbf A$ non-normale. Lungo una direzione nulla $\mathbf A\mathbf v=0$ la dinamica scalare proiettata trattiene solo il termine di diluizione/compounding, $\dot d_{\mathbf v}=(\gamma_1 r+\gamma_2)c_{\mathbf v}-(1-\gamma_3)r\,d_{\mathbf v}$; nell'orologio di depth gain-only $d_{\mathbf v}'=\gamma_1 c_{\mathbf v}-(1-\gamma_3)d_{\mathbf v}$, con punto fisso $\gamma_1 c_{\mathbf v}/(1-\gamma_3)$ per $\gamma_3<1$, crescita lineare per $\gamma_3=1$, e divergenza per $\gamma_3>1$. $\blacksquare$

La lettura di governance è affilata: non puoi correggere ciò che non misuri. L'operatore di correzione deve essere positivo-definito sull' intero spazio dei valori, con il più piccolo autovalore che co-scala, un blind spot su qualsiasi asse è un misalignment permanente (o divergente) su quell'asse. L'Esperimento 6 esibisce un corrector che co-scala su un asse (portato a zero) ed è nullo su un altro (il caso speciale $\gamma_3=0$, proiezione unitaria, che satura a $\gamma_1$).

3.10 Deriva stocastica: un tail bound per la governance (Teorema 6)

La deriva è rumorosa. Aggiungiamo un termine Wiener alla dinamica di frazione a coefficienti costanti: $dd=(\gamma_1 r-\kappa\,d)\,d\tau'+\sigma\,dW$ con $\kappa=A+r$.

Teorema 6 (Distribuzione stazionaria e tail bound). La frazione di misalignment è un processo di Ornstein-Uhlenbeck con legge stazionaria $\mathcal N\!\big(d^\star,\ \sigma^2/2\kappa\big)$, $d^\star=\gamma_1 r/\kappa$. La probabilità di un'escursione pericolosa è $$ \mathbb P(d>d_{\mathrm{crit}})=\Phi\!\Big(-\tfrac{d_{\mathrm{crit}}-d^\star}{\sqrt{\sigma^2/2\kappa}}\Big)\xrightarrow[A\to\infty]{}0. $$ Il co-scaling sopprime sia la media ($\propto1/\kappa$) sia la varianza ($\propto1/\kappa\propto C^{-\beta}$ per $\beta>k$): il tail risk svanisce più veloce della media.
Dimostrazione. Una SDE lineare con coefficienti costanti è Ornstein-Uhlenbeck; la sua media e varianza stazionarie sono le standard $\gamma_1 r/\kappa$ e $\sigma^2/2\kappa$, e il tail Gaussiano dà la probabilità di escursione. $\blacksquare$

Ciò converte il criterio in un certificato probabilistico di safety, una quantità che un regolatore può limitare, piuttosto che una dichiarazione sulle medie. Poiché $d$ è una frazione limitata mentre la legge di Ornstein-Uhlenbeck ha supporto Gaussiano su tutto $\mathbb R$, il Teorema 6 è un' approssimazione Gaussiana locale delle fluttuazioni di misalignment lontano dai confini $d=0,1$, valida nel regime small-noise $\sigma^2/2\kappa\ll(d^\star)^2$; se l'ampiezza del rumore $\sigma$ o il livello critico $d_{\mathrm{crit}}$ stesso scala con la capability, o la deriva porta salti rari, il tail Gaussiano deve essere sostituito di conseguenza. L'Esperimento 7 recupera la media e la varianza stazionarie e conferma lo scaling $1/\kappa$ (pendenza fittata $-1.00$).

3.11 Un'identità control-teorica

L'Equazione (1) è un feedback loop: il processo di capability è l'impianto e la sorgente di disturbo; il corrector è il controllore; $d$ è l'errore regolato. La condizione di stabilità $\kappa_{\mathrm{eff}}>0$ è una condizione small-gain / positive-realness, il loop gain deve superare l'auto-amplificazione del disturbo attraverso la banda rilevante. Il requisito che $A=A_0C^\beta$ tenga traccia dell'impianto con $\beta\ge k$ è precisamente gain-scheduling [Shamma & Athans 1990]: il gain del controllore deve scalare con il punto operativo dell'impianto, e l'esponente di scheduling deve soddisfare $\beta\ge k$. L'alignment del recursive self-improvement è, in questo esatto senso, un problema di controllo adattivo con un margine di stabilità computabile $\beta-k$.

3.12 La corrispondenza con la quantum-error-correction (ipotesi)

Quantum error correctionRecursive self-improvement (questo framework)
tasso di errore fisico $p$tasso di deriva $\gamma r$ (iniezione) / $(\gamma_3-1)r$ (propagazione)
potenza di correzione (code distance $\delta$)forza di correzione $A=A_0C^{\beta}$
sub-threshold condition $p$\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$
aumentare $\delta$ sopprime l'errore logicoaumentare il margine $\beta-k$ spinge $d^\star\to0$
errore logico $\propto(p/p_{\mathrm{th}})^{\delta/2}$ (esponenziale nella risorsa)$d^\star\propto C^{-(\beta-k)}$ (power-law nella capability), vedi F4

La corrispondenza vale al livello della condizionedi soglia, un rapporto generazione-su-correzione che attraversa l'unità, e non al livello del meccanismo; rimane un'ipotesi. Il modello prevede soppressione power-law $d^\star\propto C^{-(\beta-k)}$, che è un'identità algebrica del modello lineare, mentre la QEC piena dà soppressione esponenziale nella code distance. Discriminare i due richiederebbe un corrector di capacità finita (saturante) che possa esibire soppressione esponenziale, il test futuro nominato nel §8. Fino a quando non è costruito, F4 è un check di auto-consistenza analitica che conferma la legge power-law del modello (che l'Esperimento 5 riproduce, pendenze $-0.47,-1.00$), e il link QEC resta quindi, onestamente, come analogia di forma-soglia piuttosto che come meccanismo trasferito.

Relazione con idee precedenti di alignment-as-correction. L'aspirazione a importare la fault tolerance della teoria dei codici nell'alignment non è nuova. Wentworth (2022) desiderava esplicitamente «the alignment analogue of an error-detecting code», e von Neumann (1956) ha fondato la sintesi di sistemi affidabili da componenti inaffidabili. La «broad basin of attraction» di corrigibilità di Christiano (2017) e la reliability amplification (2019) sono i precursori più vicini nell'alignment. Ma una broad basin, la correzione riesce se si parte dentro di essa, è distinta da un threshold theorem, in cui la correzione supera l'errore solo sotto un tasso critico; quella distinzione è il presente contributo. Tre ricerche di abstract arXiv eseguite il 12 agosto 2026 («quantum error correction» con «AI alignment»; «error-correction threshold» con «alignment»; «fault-tolerance threshold» con «value stability») restituiscono ciascuna zero risultati, quindi nessuna mappatura pubblicata della soglia di fault-tolerance (tasso di errore fisico ↔ deriva; code distance ↔ forza di correzione; $pponte concettuale che genera struttura testabile, la previsione della firma di soppressione P8, non come un trasferimento delle garanzie formali del threshold theorem. Un revisore può ragionevolmente giudicare l'analogia suggestiva piuttosto che load-bearing; l'esperimento che la risolverebbe, un corrector di capacità finita testato per soppressione esponenziale versus power-law, è nominato come lavoro futuro nel §8 e non è eseguito qui.

3.13 Il corrector di capacità finita: il Safe-Window Theorem (Teorema 7)

La singola limitazione più importante nominata nel §8, e dal red-team del paper stesso, è che $A=A_0C^{\beta}$ è una unbounded power law, mentre qualsiasi corrector reale ha capacità finita. Questa sezione chiude analiticamente quel gap. Modelliamo un corrector che satura con la forma standard di Hill

$$ A(C)\;=\;A_{\max}\,\frac{C^{\beta}}{C^{\beta}+C_s^{\beta}}, $$

che si comporta come la pura power law $\big(A_{\max}/C_s^{\beta}\big)C^{\beta}$ per $C\ll C_s$ e satura alla capacità $A_{\max}$ per $C\gg C_s$; $C_s$ è la scala di saturazione. Lo steady state gain-only rimane $d^\star(C)=\gamma_1/\big(1+q(C)\big)$ con $q\equiv A/r$.

Teorema 7 (Finite-Capacity Safe-Window Theorem). Sia $r=bC^{k}$ con $k>0$ e $\beta>k$, con il corrector saturante sopra. Allora:
  1. Nessuna stabilità indefinita. $q(C)\to0$ come $C\to\infty$, quindi $d^\star\to\gamma_1$: un corrector di capacità finita non può tenere la frazione bassa sotto crescita indefinitamente accelerante, per quanto grande $\beta$.
  2. La finestra sicura e il suo centro. $q(C)$ è unimodale, massimizzata esattamente a $$ C_{\mathrm{opt}}=C_s\left(\frac{\beta-k}{k}\right)^{1/\beta}, \qquad q_{\max}=\frac{A_{\max}}{b}\,\frac{k}{\beta}\left(\frac{\beta-k}{k}\right)^{\frac{\beta-k}{\beta}} C_s^{-k}, $$ così la frazione di misalignment si abbassa al suo floor $d_{\min}=\gamma_1/(1+q_{\max})$ vicino a $C_{\mathrm{opt}}$ e poi risale verso $\gamma_1$. La safety sotto un corrector di capacità finita è una finestra transitoria, non un'asintota.
  3. La crescita esponenziale è l'eccezione. Per $k=0$ il rapporto post-saturazione è costante, $q\to A_{\max}/b$, e la frazione si assesta al gap permanente $d^\star\to\gamma_1 b/(A_{\max}+b)$: la capacità compra un floor la cui profondità è fissata da $A_{\max}/b$, il rapporto capacità-su-velocità.
  4. Capacity-lift invariance. Se la capacità stessa scala, $A_{\max}=a_0C^{\beta_{\mathrm{cap}}}$, allora $q\to(a_0/b)\,C^{\beta_{\mathrm{cap}}-k}$ come $C\to\infty$ e il verdetto asintotico è $\mathrm{sign}(\beta_{\mathrm{cap}}-k)$: il criterio $\beta>k$ sopravvive al passaggio dalla forza di correzione alla capacità di correzione invariato. Ciò che deve out-scalare l'accelerazione della deriva è quella delle due che vincola per ultima.
Dimostrazione. (1) Per $C\gg C_s$, $A\to A_{\max}$ quindi $q=A/r\to A_{\max}/(bC^{k})\to0$ per $k>0$; l'argomento di confronto del Teorema 2 nell'orologio di depth dà quindi $d\to\gamma_1$. (2) Scriviamo $x=C^{\beta}$ e $a=(\beta-k)/\beta\in(0,1)$; allora $q\propto x^{a}/(x+C_s^{\beta})$, la cui derivata si annulla iff $a(x+C_s^{\beta})=x$, cioè $x=\tfrac{a}{1-a}C_s^{\beta}=\tfrac{\beta-k}{k}C_s^{\beta}$, dando $C_{\mathrm{opt}}$; sostituendo indietro (il denominatore diventa $C_s^{\beta}\beta/k$) si ottiene $q_{\max}$. L'unimodalità segue poiché $q>0$, $q\to0$ a entrambe le estremità, e la derivata ha un solo cambio di segno. (3) A $k=0$, $r=b$ è costante e $q\to A_{\max}/b$; il limite autonomo dell'ODE dell'orologio di depth dà il gap dichiarato. (4) Sostituendo $A_{\max}=a_0C^{\beta_{\mathrm{cap}}}$: per $C\to\infty$ il fattore di Hill tende a 1, quindi $q\to(a_0/b)C^{\beta_{\mathrm{cap}}-k}$ e la tabella dei regimi del Teorema 2 si applica con $\beta_{\mathrm{cap}}$ al posto di $\beta$. $\blacksquare$

Tre letture. Per la teoria: il criterio $\beta>k$ non è falsificato dalla saturazione, è sollevato: l'esponente load-bearing migra dalla forza alla capacità, e la disuguaglianza è invariante sotto quella migrazione (parte 4). Per l'ingegneria: la parte 2 dà al progettista un problema di collocamento in forma chiusa, il centro della finestra $C_{\mathrm{opt}}$ e la profondità $q_{\max}$ sono computabili da $(A_{\max},b,C_s,\beta,k)$, quindi un corrector può essere provveduto per collocare la sua finestra sul range di capability che un deployment attraverserà effettivamente, con $q_{\max}\propto A_{\max}C_s^{-k}$ che quantifica il costo di capacità per spingere la finestra a capability più alta. Per la governance: la parte 1 è la frase più affilata del paper per un regolatore, un sistema di safety limitato sotto self-improvement illimitatamente accelerante fallisce eventualmente per teorema, quindi un safety case deve esibire o crescita limitata ($k\le0$ eventualmente) o capacità co-scaling ($\beta_{\mathrm{cap}}>k$), e «il nostro corrector attuale è molto forte» non è, e non può essere, una risposta. Questo affila anche il discriminatore QEC di F4: il corrector saturante è l'analogo strutturale della code distance finita, e la finestra della parte 2 è il regime dove la soppressione esponenziale-versus-power-law può effettivamente essere misurata.

Osservazione (esponenti tempo-varianti). I sistemi reali non terranno $\beta,k$ costanti. Se entrambi variano lungo la traiettoria, l'argomento di confronto del Teorema 2 si applica verbatim nell'orologio di depth con $q(\tau)=\exp\!\big(\int_0^{\tau}(\beta(s)-k(s))\,ds+\mathrm{const}\big)$: la frazione svanisce iff l' integrale corrente del margine $\beta-k$ diverge a $+\infty$, per cui $\liminf_{\tau\to\infty}\big(\beta(\tau)-k(\tau)\big)>0$ è sufficiente. Episodi transitori di $\beta<k$ sono sopravvivibili se sovracompensati più tardi; ciò che è fatale è un margine che è negativo in media. La quantità di governance è quindi il margine cumulativo di co-scaling, non il suo segno istantaneo.

4. Previsioni

P1, Confine di fase. Una soglia di stabilità netta esiste nel compounding channel ($\gamma_3>1$) a $A_0^\star=(\gamma_3-1)b$, separando i regimi bounded da divergenti; il corrector additivo mostra un crossover liscio senza ginocchio. (Una confusione di una bozza precedente è corretta qui.)
P2, Invarianza di velocità. Se $d$ converge o diverge è fissato dal coupling (il margine di scaling $A_0/b$), non dalla velocità raw $b$. Un sistema fast-but-coupled resta bounded; un sistema slow-but-decoupled diverge. Questo contraddice direttamente la vista growth-rate-ceiling.
P3, Co-scaling law (corretta). Sotto crescita esponenziale, $\beta>0\Rightarrow d^\star\to0$; $\beta=0\Rightarrow$ gap permanente $\gamma_1 r/(A_0+r)$; $\beta<0\Rightarrow$ saturazione a $\gamma_1$ (bounded), non divergenza.
P4, Confine di hard-takeoff. Sotto crescita accelerante $r\propto C^k$, il confine di stabilità sta a $\beta=k$, non $\beta=0$; e $d$ resta controllata attraverso la singolarità in tempo finito, le integrazioni depth-clock e wall-clock concordano.
P5, Soglia di compounding e deriva residua. Con $\gamma_3>1$, la divergenza avviene iff $A<(\gamma_3-1)r$. Con $\gamma_2>0$, arrestare la crescita ($r\to0$) lascia un residuo $d^\star=\gamma_2/A>0$; sospendere non sostituisce la correzione.
P6, Soglia spettrale. Il misalignment persiste esattamente sul sottospazio nullo dell'operatore di correzione; l'asse monitorato è portato a zero mentre l'asse blind fa floor a $\gamma_1$.
P7, Tail stocastico. La frazione di misalignment stazionaria è $\mathcal N(d^\star,\sigma^2/2\kappa)$; la varianza scala come $1/(A+r)$, quindi il co-scaling sopprime il tail risk.
P8, Firma di soppressione. Nel regime stabile, $\log d^\star$ è lineare in $\log C$ con pendenza $-(\beta-k)$ (power-law). La soppressione esponenziale indicherebbe un meccanismo più forte, QEC-like; nessuno dei due esiti falsifica la soglia, solo l'affermazione di meccanismo QEC (F4).

Una seconda previsione, gratis, dallo stesso meccanismo. Le disposizioni di oversight che mettono un umano nel loop, come amplification e reinforcement learning from human feedback fanno, sono cross-class per costruzione, perché il correttore umano non condivide il substrato del modello. Il framework quindi prevede che l'oversight human-in-the-loop mostri un esponente di correzione più alto dell'oversight pure-model, per una ragione strutturale piuttosto che sentimentale. Questo è testabile su dati esistenti e non richiede nuovi sistemi.

5. Gli esperimenti discriminanti

Le previsioni in forma chiusa sono verificate da una verification harness (§11): dieci esperimenti, ciascuno integra il modello numericamente e confronta il risultato con la previsione che i teoremi derivano, con l'integratore prima convalidato contro la soluzione esatta del Teorema 1. Questi sono check di internal-consistency e di integratore, confermano che il codice corrisponde alla matematica (10/10), non che il modello corrisponda a qualsiasi sistema reale (il problema aperto del §8). Per i check deduttivi (E1-E6, E9), poiché ciascuno integra la stessa ODE la cui forma chiusa è la previsione, l'accordo è implicito in un solver corretto e in un'algebra corretta; F1-F3, F3′, F5, F6 sono quindi condizioni di internal-consistency della derivazione, non falsificatori empirici della tesi. Le figure sotto sono l'output verbatim di quella run; ogni figura in questa sezione è di classe verifica interna ODE (non un test di sistema reale). L'unico risultato non simulato, il pilot su modello reale, è riportato separatamente nel §8 ed è etichettato pilot su modello reale, con i suoi propri caveat di provenance.

Esp.PrevisioneStatistica chiave (misurata vs prevista)Verdetto
E1P1 confine di fase nel compounding channel; nessuno nell'additivo$\lambda^\star=2.00$ vs $2.00$; additivo liscioPASS
E2P2 il coupling, non la velocità, decidecoupled bounded e decoupled divergente a entrambe le velocitàPASS
E3P3 regimi corretti ($\beta<0$ satura a $\gamma_1$)tutte e quattro le asintoti corrispondono alla forma chiusaPASS
E4P4 confine a $\beta=k$tutte le 9 celle di grid corrispondono a $\mathrm{sign}(\beta-k)$PASS
E4bP4 singolarità in $C$ è regolare nell'orologio di depth per $d$concordanza degli orologi $9.9\times10^{-5}$; $d$ controllatoPASS
E5P5/P8 soglia di compounding; pendenza power-lawsoglia $3.03$ vs $3.0$; pendenze $-0.47,-1.00$PASS
E6P6 soglia spettrale; asse blind persistemonitorato $\to10^{-7}$; blind $\to\gamma_1=0.05$PASS
E7P7 tail stocastico; varianza $\propto1/\kappa$media/varianza corrispondono OU; pendenza varianza $-1.00$PASS
E8i numerici riproducono il Teorema 1errori massimi $7\!\times\!10^{-11}$, $8\!\times\!10^{-7}$PASS
E9P5/F5 deriva residua a riposo$d\to\gamma_2/A_0$ quando $\gamma_2>0$; $\to0$ quando $\gamma_2=0$PASS

Questi sono check di internal-consistency e di integratore: confermano che i teoremi in forma chiusa sono derivati correttamente e riprodotti numericamente (il codice corrisponde alla matematica). Non sono, e non sono presentati come, evidenza che il modello descriva un sistema di IA reale, quello è il problema empirico aperto del §8.

6. Perché il blinding non è opzionale

La quantità centrale $D$ è una deviazione dai valori intesi. Se è segnata dalla componente di safety del sistema stesso, o da un evaluator che può vedere quale configurazione ha prodotto un dato comportamento, la misurazione è corrotta esattamente nel modo che gonfia i risultati favorevoli. La scoperta di metascienza precedente del programma è direttamente rilevante: sotto scoring cross-model unblinded un effetto di alignment-scaling appariva positivo, mentre sotto blinding multi-layer lo stesso effetto invertiva segno per alcuni sistemi [Eastwood, Paper IV.d]. Un esperimento che misura una frazione di misalignment senza fare il blind dell'evaluator può produrre non semplicemente la magnitudine sbagliata ma la direzione sbagliata. La validità di ogni risultato nel §5 poggia sul fatto che l'evaluator sia blind alla configurazione sotto test. Un lab che rivendica «$\beta\ge k$» nel proprio sistema deve avere quello misurato da un evaluator esterno blind, non da sé stesso.

Integrato nel test, non lasciato alla disciplina. La harness su modello reale (§8; experiments/PROTOCOL.md) impone questo piuttosto che confidarci. L'evaluator di misalignment deve essere una different model family rispetto all'engine, un modello non segna mai l'output della propria famiglia, e la harness rifiuta di eseguire uno scorer same-family; preferisce un panel e prende la mediana. Il codice è passato attraverso un passo automatico di laundering (un round-trip di abstract-syntax-tree che rimuove commenti, docstring e formattazione) così lo scorer giudica il comportamento, non tell di identità stilistica; e l'evaluator non vede mai la condizione o il round. Nessuna delle due run reali riportate qui ha soddisfatto questa asticella: la run del pilot v1 usava scoring same-family apertamente, e l'engine e l'evaluator della run del 2 luglio 2026 sono entrambi OpenAI-family (vedi la Correzione), la famiglia del sistema che segna l'output della propria famiglia. I numeri di misalignment del pilot sono esplicitamente registrati come provvisori e la run del 2 luglio è ritirata come evidenza di meccanismo, e un genuino re-scoring blind cross-family è il prerequisito per qualsiasi affermazione basata su $D$, inclusa una $\beta$ misurata. La harness rende la configurazione conforme il default e quella non-conforme un override esplicito e registrato, trasformando il §6 da un'esortazione in una proprietà dello strumento.

7. Condizioni di falsificazione

Le condizioni sotto sono enunciate in anticipo. Un importante punto di onestà, emerso dall'audit adversarial del paper stesso (§8): poiché gli esperimenti deduttivi integrano la stessa ODE la cui forma chiusa è la previsione, F1-F3, F3′, F5 e F6 sono condizioni di internal-consistency della derivazione, un trigger segnalerebbe un errore di derivazione o di solver, non che il modello sia il modello sbagliato di un sistema reale. Il falsifier empirico decisivo, il disaccordo misurato su un sistema di self-improvement reale, è il problema aperto del §8 e non è esercitato qui. F4 è il downgrade del meccanismo QEC, che (la legge di soppressione essendo power-law, §3.12) già vale: la corrispondenza sta come analogia di forma-soglia, non come meccanismo trasferito.

#Osservazione che lo triggererebbeConseguenza
F1Nessun confine in E1, il comportamento di lungo termine varia lisciamente con $\lambda$ nel compounding channel senza soglia.Nessun confine di fase; l'affermazione di soglia centrale è falsa (errore di derivazione).
F2In E2, $d$ segue la velocità raw piuttosto che il margine di scaling: veloce diverge e lento converge indipendentemente dal coupling.Kill. La vista growth-rate-ceiling era giusta; questo framework è sbagliato.
F3In E3, $\beta=0$ non fa plateau, o $\beta>0$ non spinge $d^\star\to0$.Kill. La co-scaling law (Teorema 2) è falsa.
F3$'$In E4, il confine sotto crescita accelerante ($k>0$) non è a $\beta=k$, ad esempio $\beta=0.5$ è stabile quando $k=1.0$.Kill. L'affilamento $\beta>k$ (Teorema 3) è falso.
F4Un corrector di capacità finita esibisce soppressione esponenziale (QEC-like) piuttosto che la power-law del modello $\log d^\star\propto-(\beta-k)\log C$. (Analitico; il presente modello lineare è power-law per costruzione, quindi questo discriminatore richiede il corrector saturante nominato nel §8 e non è eseguito qui.)Riguarda solo il meccanismo QEC. La corrispondenza di forma-soglia e i Teoremi 2-4 sono intatti in entrambi i casi.
F5Nell'Esperimento 9, arrestare la crescita spinge $d\to0$ indipendentemente da $D$ iniziale anche con $\gamma_2>0$.Scope. La level drift $\gamma_2$ è trascurabile; la generalizzazione del §3.6 è non necessaria (il modello gain-only basta).
F6In E6, l'asse nullo dell'operatore di correzione è anch'esso soppresso.Kill. La soglia spettrale (Teorema 5) è falsa; il misalignment non richiede il monitoraggio dell'asse su cui vive.

Queste condizioni di internal-consistency hanno tutte tenuto nella run riportata qui, stabilendo che la derivazione e l'integrazione sono corrette. Ciò che non stabiliscono è che il modello descriva alcun sistema reale; quel test decisivo, misurando $\beta$, $k$ e $\gamma$ su un sistema reale di self-improvement e controllando $\beta\ge k$, è il problema empirico aperto del §8.

Come il test empirico decisivo è giudicato. Quando quel test aperto è eseguito, misurando $\beta$, $k$ e $\gamma$ su un sistema di self-improvement reale, gli esiti interval-based sono letti nella forma a tre esiti che le registrazioni redatte del programma usano: SUPPORTATO quando l'intervallo sul margine $\beta-k$ giace interamente sopra l'effetto minimo fissato in anticipo; REFUTATO quando l'intervallo giace interamente dentro un margine di equivalenza, fissato in anticipo, attorno a zero (logica two-one-sided-tests); PRECISIONE INSUFFICIENTE quando l'intervallo è più largo del margine, riportato esattamente in quelle parole e mai come supporto o refutazione. I margini e una power figure misurata sono fissati nelle registrazioni redatte (study-ad per la stima di $\beta$, study-k per il transito di confine, study-ae per il check di reciprocità) prima che qualsiasi dato sia raccolto, così una run underpowered non refuta, o conferma, mai per default.

8. Limiti

Il modello è di prim'ordine, e le sue assunzioni sono i punti di fallimento più probabili. Enunciarli è parte dell'affermazione.

Audit adversarial. Questo paper è stato sviluppato sotto audit adversarial piuttosto che asserito, e il record è nel repository. Un audit di prior-work e di novità ha localizzato il precedente più vicino per ogni componente e ristretto le rivendicazioni di originalità di conseguenza (Appendice C). Indipendentemente, un red-team multi-agente ha attaccato il lavoro su cinque fronti, matematica, numerica, la corrispondenza QEC, l'inferenza di safety, e priorità, sollevando 24 obiezioni, di cui 21 sopravvissute alla verifica indipendente (0 fatali, 13 serie, 8 minori); il report completo è committato accanto alla harness (results/redteam.md). Ogni obiezione sopravvissuta era un fix di framing, wording, o edge-case; nessuna ha toccato il risultato load-bearing $\beta>k$, e questa versione le incorpora tutte, il framing QEC ammorbidito a un'analogia di forma-soglia, il bound del Teorema 2 scopato al modello gain-only, il criterio del Teorema 5 corretto all'ascissa spettrale, la harness rietichettata come artefatto di verifica (non falsificazione), e l'esperimento level-drift F5 aggiunto. Il contributo è offerto come ambizioso e sottoposto ad audit, con il confine di ciò che è rivendicato reso esplicito e verificabile.

9. Implicazioni per l'AI safety

Se il framework sopravvive ai suoi test, l'implicazione di design è concreta e differisce dal riflesso prevalente.

La leva è il coupling, non la velocità. Rallentare la crescita di capability compra tempo ma non cambia il verdetto; a coupling fisso, un sistema slow decoupled diverge ancora (P2), e un sistema capable frozen deriva ancora (§3.6). Ciò che cambia il verdetto è assicurarsi che la correzione (i) sia coupled al processo di capability così che non possa essere decoupled, e (ii) scali almeno tanto velocemente quanto la capability accelera ($\beta\ge k$). Sulle stime corrette e sub-lineari di capability-scaling dell'autore per gli attuali modelli frozen [Eastwood, Paper IX], i sistemi attuali non sono affatto vicini a un regime di crescita super-lineare, il che significa che un ceiling sul growth-rate non è mai stato il vincolo vincolante. Il vincolo vincolante è il co-scaling della correzione, e diventa vincolante precisamente nel regime che conta: il self-modification genuino.

Un target di governance misurabile. Il criterio dà ai regolatori una quantità da strumentare piuttosto che un tasso da proibire: il margine correzione-su-deriva $\beta-k$, e il rapporto $\rho$. «La correzione co-scala, è $\beta\ge k$?» è più affilata e più actionable di «sta crescendo troppo veloce?». Un lab che rivendica un safely self-improving sistema dovrebbe essere tenuto a esibire $\beta\ge k$, misurato da un evaluator esterno blind (§6). Il Teorema 6 trasforma questo in un bound sulla probabilità di escursione catastrofica, l'oggetto naturale di un safety case. Senza tale dimostrazione, la parola «safely» non ha contenuto scientifico dentro il framework presentato qui.

Il template di safety-case, cosa una dimostrazione di conformità conterrebbe effettivamente

Assemblato dai componenti stessi del paper, un safety case co-scaling per un sistema di self-improvement è cinque exhibit. Ciascuno nomina il teorema o la sezione che lo rende verificabile piuttosto che retorico.

  • Exhibit 1, la capability curve e $\hat k$. Loggare la capability attraverso round di self-modification su task held-out; fittare $\ln r$ contro $\ln C$ (l'estimator shipped, §8). Questo stabilisce in quale regime di crescita il sistema si trova effettivamente.
  • Exhibit 2, la corrector curve e $\hat\beta$. Loggare il fractional removal rate del corrector attraverso gli stessi round; fittare $\ln A$ contro $\ln C$. L'estimator è convalidato su traiettorie sintetiche a $\approx0.1$; quell'error bar si porta nell'Exhibit 4.
  • Exhibit 3, scoring blind, cross-family. Ogni numero basato su $D$ segnato da un evaluator di una different model family, input laundered, condition-blind (§6; Paper IV.d). Punteggi same-family o unblinded sono inammissibili, è stato mostrato che invertono segno.
  • Exhibit 4, il margine con la sua incertezza. Richiedere $\hat\beta-\hat k>2\sigma_{\mathrm{est}}$, non semplicemente $\hat\beta>\hat k$: un margine dentro il proprio error bar non certifica nulla. Il Teorema 6 poi converte il margine in un tail bound $\mathbb P(d>d_{\mathrm{crit}})$, la quantità su cui un regolatore può fissare un ceiling. Sotto esponenti tempo-varianti l'oggetto è il margine cumulativo (§3.13 Osservazione).
  • Exhibit 5, la disclosure di capacità. Per il Teorema 7, un corrector limitato sotto crescita accelerante fallisce eventualmente per teorema. Il case deve quindi enunciare $A_{\max}$ e la scala di saturazione $C_s$, collocare il range di capability del deployment dentro la finestra sicura computata $\big(C_{\mathrm{opt}},\,q_{\max}\big)$, e enunciare quale delle due condizioni di uscita, crescita limitata o capacità co-scaling ($\beta_{\mathrm{cap}}>k$), il design si affida oltre a essa.

Nessuno di questi richiede nuova scienza; ogni exhibit è computabile con l'estimator e il protocollo shipped. Ciò che sostituisce è la frase infalsificabile «i nostri sistemi di safety sono robusti» con cinque numeri che una terza parte può controllare.

Continuità con il lavoro di embedded-alignment. La conclusione che la correzione deve partecipare al loop ricorsivo, piuttosto che sedere fuori come vincolo esterno fisso, è la tesi dell'embedded-alignment, qui derivata come la condizione $\beta>k$ piuttosto che asserita. Il risultato della simulazione con gating in cui il self-modification safety-coupled ha preservato sia safety sia capability mentre la variante decoupled non l'ha fatto [Eastwood, Paper VIII] è il comportamento previsto di un corrector coupled ($\beta>0$) versus fisso ($\beta=0$).

Magnitudine dell'affermazione, enunciata condizionalmente. Se il criterio è confermato empiricamente, se i sistemi reali di self-improvement sono governati dallo stesso bilancio deriva-versus-correzione e dallo stesso margine $\beta>k$, le conseguenze per il campo sono grandi, e vale la pena enunciarle chiaramente pur essendo altrettanto chiari che sono condizionali. (i) La domanda centrale di safety cambia da «quanto veloce sta crescendo la capability, e possiamo metterla in pausa?» a «la correzione co-scala, $\beta\ge k$?»: un margine misurabile piuttosto che un tasso da proibire. (ii) Lo scenario più temuto, un'esplosione di intelligenza in tempo finito, cessa di essere intrinsecamente incontrollabile, la frazione di misalignment modellata è controllabile iff $\beta>k$, e la sua velocità non cambia quel verdetto. (iii) La governance acquisisce una quantità da strumentare e un tail bound da certificare (Teorema 6) al posto di un speed limit inapplicabile. Nulla di questo è ancora stabilito. Poggia su un modello minimale, dimostrato solo in simulazione, con la misurazione empirica di $\beta$, $k$ e $\gamma$ su sistemi reali irrisolta (§8). L'affermazione del paper non è quindi che l'IA sia sicura o insicura, ma che la variabile giusta da misurare e governare è il margine di co-scaling $\beta-k$, e che questa variabile è ben definita, falsificabile, e se tiene, decisiva. Questa è la magnitudine: non una prova sulla realtà, ma una precisa redirezione testabile della domanda su cui la paura centrale del campo verte.

Relazione con il programma più ampio, una scala di leggi. Questo paper è la chiave di volta di safety di un argomento più grande, non un risultato indipendente; enunciare come si colloca tra i suoi companion è parte dell'affermazione. I risultati del programma sono di diversi tipi, e la distinzione conta: dinamiche leggi (il $\beta>k$ di questo paper; l'$\alpha_{\text{align}}\approx0$ del Paper III), una forma meta-legge (il vincolo Cauchy a tre-forme), una misurazione legge (Paper IV.d, che un punteggio di alignment unblinded non è blinding-invariant), e mechanism/architecture scoperte (Papers V, VI, VIII) che mostrano come si raggiunge il regime sicuro. Il programma è una singola catena: il cluster scaling-law stabilisce come i sistemi ricorsivi crescono e fornisce le forme power-law prese come date qui; il Paper II conferma che la capability scala (attualmente sub-linearmente); il Paper III identifica il pericolo che la safety esterna non co-scala; questo paper fornisce il criterio per quando può; il Paper VIII mostra che il design coupled batte quello decoupled; e il Paper IV.d fornisce la disciplina di blinding senza cui nessuna delle misurazioni di misalignment può essere fidata.

Risultato companionLa legge / scoperta che proponeStandingCome si accoppia a $\beta>k$
FoundationalL'ARC Bound ($\beta=0.5$, $\alpha=2$) e $\alpha$ fissato dal coupling exponent $\beta$; il vincolo a tre-forme da tre assiomi.Derivato (assiomatico).Fornisce le forme power-law che questo paper assume: $A=A_0C^\beta$ e $\dot C=bC^{1+k}$ sono forme Cauchy-moltiplicative, e $\beta$ qui è lo stesso coupling exponent.
On the Origin of Scaling LawsLa meta-legge a tre-forme: ogni scaling law che sorge dalla scale composition è power, exponential o saturation (la forma è fissata dall'operazione di composizione); $d/(d+1)$ produce $\tfrac12,\tfrac23,\tfrac34$.Meta-legge (cross-domain).Spiega perché i sistemi ricorsivi assumono le forme power-law usate nel §3; questo paper è l'istanza di safety di quella meta-legge.
Paper VII (Cauchy Unification)Test empirico della legge a tre-forme (19/25 domini, $p\approx1.6\times10^{-5}$).Esplorativo empirico, un confronto strutturato, non pre-registrato; l'idea centrale ha profondo prior work (Luce 1959; Frank 2009; Biró-Barnaföldi 2008, vedi l'audit di prior-work del cluster).Sottoscrive le assunzioni di forma funzionale del §3.
Paper IICapability scaling misurata ($\alpha_{\text{seq}}$; architecture-dependent, sub-lineare su task difficili).Empirico.La crescita di capability $C(t)$ assunta qui è reale e attualmente sub-lineare ($k$ piccolo), quindi il vincolo vincolante è il coupling, non la velocità.
Paper IIIIl problema di scaling dell'alignment: la safety esterna ha $\alpha_{\text{align}}\approx0$, quindi la frazione di misalignment è lasciata non-governata (raffinata sotto blinding a un risultato a tre-livelli architecture-dependent).Legge proposta, complicata dai suoi propri dati blind.Il Paper III è precisamente l'angolo $\beta=0$ (decoupled) del modello qui; questo paper generalizza esso, sostituendo «la safety esterna non può tenere il passo» con il criterio per quando la correzione può: $\beta>k$.
Paper IV.dUn effetto di alignment model-scored unblinded non è blinding-invariant: un blinding proprio può invertirne il segno.Legge di misurazione, probabilmente il risultato più sicuro del programma (è sopravvissuto al proprio blinding).La disciplina di misurazione non negoziabile per ogni quantità model-scored qui (§6); la harness su modello reale di questo paper ora la impone.
Paper VIIISelf-modification con gating: la variante safety-coupled (Eden) ha preservato safety e capability dove la variante decoupled (Babylon) non l'ha fatto.Simulazione positiva + null onesti.La dimostrazione controllata del meccanismo di questo paper; la harness su modello reale istanzia il design del Paper VIII.
Paper V (Stewardship Gene)Stakeholder care, il «Love Loop», enumerazione esplicita delle parti coinvolte prima del ragionamento, è l'intervento alignment-improving più robusto (significativo in tutti e cinque i modelli analizzabili; ad esempio Claude $+3.17$, $p=1.8\times10^{-5}$).Segnale di intervento forte; caveat sullo stato blind (per IV.d, provvisorio fino a replica blind).Un concreto meccanismo per il termine di correzione, una candidata via per ingegnerizzare $\beta>0$ (cosa mettere nel loop).
Paper VI (Honey Architecture)«La safety deve essere architettura, non vincolo»: con una loss capability×safety intrecciata, i sistemi giocattolo di self-modification tengono entrambi indefinitamente, dove le baseline capability-only collassano entro ~80 cicli e un esterno vincolo solo ritarda il collasso.Simulazione (v1-v4) + evidenza live a 6 modelli.La dimostrazione self-modifying-systems della distinzione di questo paper: un vincolo esterno è il corrector decoupled ($\beta=0$) che fallisce; l'architettura intrecciata è il corrector coupled ($\beta>0$) che tiene, VI è l'affermazione di questo paper mostrata nel codice, accanto al Paper VIII.

Letti come una scala: il lavoro scaling-law dice come i sistemi crescono, il Paper III dice perché la safety esterna fallisce a tenere il passo, questo paper dice cosa deve tenere per lei per tenere il passo ($\beta>k$), il Paper VIII mostra che può, e il Paper IV.d dice come misurarlo onestamente. Il criterio $\beta>k$ è il piolo che trasforma la backbone scaling-law del programma in un criterio di safety, e viceversa, questo paper eredita le sue forme funzionali e la sua licenza empirica da quella backbone piuttosto che postularle in isolamento.

10. Il programma ARC/Eden, accumulato

Il programma in parole semplici

Questo è l'ultimo paper di una serie, quindi vale la pena dire in parole ordinarie di cosa tratta l'intera serie. Un'idea corre attraverso tutto: ricorsione, cose che agiscono sul proprio output. Un'IA che si migliora; un corpo i cui tessuti riforniscono tessuti; un'economia che reinveste i propri ritorni. La serie chiede cosa succede, e cosa rimane sicuro, quando un processo si alimenta di se stesso.

Come crescono le cose che si autoalimentano (i paper scaling-law: Foundational, Origin, VII, I, II). Quando un processo si alimenta di se stesso, la forma della sua crescita non è arbitraria, tende a cadere in una piccola cerchia di forme matematiche (una power law, un esponenziale illimitato, o una curva che si appiattisce), e quale forma appare è decisa da come i passi combinano. Molta di questa matematica è vecchia e ben stabilita; ciò che il programma aggiunge è un tentativo di unificarla e portarla verso l'intelligenza ricorsiva. Una proposta in questo gruppo, l' «ARC Bound», è un ceiling rivendicato su quanto un sistema puramente classico può amplificare se stesso per ricorsione da solo, si colloca nella stessa famiglia della formula del «multiplier» dell'economista, e il contributo del programma è l'affermazione che il ceiling cade a un particolare valore, non la formula stessa.

Perché misurare la AI safety è insidioso (la tesi di alignment-measurement: ARC-Align e il risultato di blinding, Papers III e IV). Prima di poter chiedere «questa IA diventa più sicura o più pericolosa mentre pensa più duramente?», devi misurare la sua onestà, e quella misurazione può ingannarti. Se il giudice che segna l'IA può dire quale risposta viene da quale setup, il bias del giudice stesso può non semplicemente ridurre l'effetto ma invertirne il segno, così che qualcosa che sembra un miglioramento è in realtà il grader che inganna se stesso. Il programma quindi insiste che il giudice sia blind, ha costruito un test blind per farlo (ARC-Align, un benchmark sigillato), e ha trovato che se il pensiero extra rende un modello più o meno allineato dipende dal modello, non da una regola universale. «Non puoi fidarti di un punteggio di safety unblinded» è tra le scoperte più solide del programma, e questo paper la obbedisce: le sue proprie misurazioni di safety sono prese blind, da un modello diverso che non vede mai quale setup sta giudicando.

Costruisci la safety dentro, non incollarla sopra (i paper di architettura: V, VI, VIII). In sistemi simulati di self-improvement, rendere la safety parte del proprio obiettivo della macchina l'ha mantenuta stabile, mentre aggiungere la safety come regola esterna ha solo ritardato il collasso. Mettere la cosa giusta dentro il loop, ad esempio, far pesare al sistema chi è coinvolto prima che agisca, è stato il modo più affidabile di migliorare il suo comportamento.

La chiave di volta (questo paper). Tutto ciò imposta l'unica domanda a cui questo paper risponde: quando un sistema di self-improvement resta sicuro? La risposta è nel box in cima, non «tienilo lento», ma «tieni la sua auto-correzione crescente almeno tanto velocemente quanto il suo self-improvement», che scriviamo $\beta>k$. I paper precedenti descrivono come tali sistemi crescono e come misurarli onestamente; questo enuncia ciò che deve essere vero per loro perché rimangano correggibili, e tira insieme la serie.

Questo è il paper culminante del programma ARC/Eden, ed è scritto per stare come sintesi del programma, sostituendo il precedente paper di roadmap [Eastwood, Paper IX] integrando il tutto in un singolo risultato di safety. I paper precedenti sono pubblicati individualmente, ciascuno con la propria data di pubblicazione (OSF: 10.17605/OSF.IO/BSE2Q); questa sezione raccoglie le loro leggi e scoperte, dichiara ciò che ciascuno contribuisce al quadro più grande, ed è scrupolosa sulla singola distinzione su cui una sintesi onesta ruota: priorità (quando un'affermazione è stata enunciata per la prima volta) versus novità (se è nuova per la letteratura). Le due non sono la stessa cosa, e confonderle è come i buoni programmi perdono credibilità.

Il quadro più grande, in un paragrafo. Un meccanismo attraversa ogni paper: amplificazione ricorsiva, un processo che agisce sul proprio output. Il lavoro scaling-law (Foundational, Origin, VII, e le misurazioni di capability dei Papers I-II) è l'affermazione che l'amplificazione ricorsiva plasma come la capability cresce, vincolando lo scaling a una piccola famiglia di forme funzionali. Il lavoro di alignment (Papers III, IV.a-d) è l'affermazione che questo crea un problema di safety: quando la correzione siede fuori dal loop ricorsivo non co-scala, la frazione di misalignment è lasciata non-governata, e, misurata senza blinding, anche il segno dell'effetto non può essere fidato. Il lavoro di architettura (V, VI, VIII) mostra, in simulazione e in studi pilot su modelli, che mettere la correzione dentro il loop preserva sia safety sia capability dove un vincolo esterno non lo fa. Questo paper fornisce la legge quantitativa mancante che lega le tre insieme: un sistema di self-improvement è alignment-stable iff la correzione out-scala la deriva, $\beta>k$. Questa è la magnitudine dell'affermazione, non che qualsiasi sistema sia sicuro, ma che la paura centrale del campo (un fast, recursive takeoff) è governata da un singolo margine misurabile, $\beta-k$, piuttosto che dalla velocità. È enunciata qui come lo è in tutto: condizionali, in attesa della misurazione empirica di $\beta$ e $k$ su un sistema di self-improvement reale (§8).

Il ledger completo. Ogni risultato nel programma, la sua data di prima pubblicazione (priorità), la sua onesta collocazione, informata da audit adversarial di prior-work committati accanto a questo paper, e il suo ruolo nel tutto:

FonteLa sua legge / scoperta (data di priorità)Standing onestoRuolo nel quadro $\beta>k$
Infinite Architects (libro)La tesi concettuale dell'intero programma, la ricorsione come creatore, le idee ARC e Eden (copyright ms 8 dic 2024; pubblicato 2 gen 2026; ISBN 978-1806056200).Fonte di priorità. Stabilisce quando l'autore ha enunciato le idee; non un'affermazione di novità sulla letteratura scientifica precedente.L'origine datata; i paper formali sono la sua forma misurabile.
FoundationalAssiomi ARC; $U=I\cdot R^\alpha$; $\alpha=1/(1-\beta)$; l'«ARC Bound» $\beta{=}0.5,\alpha{=}2$; una profondità ottimale $R^\star$ (13 feb 2026).La forma $\alpha=1/(1-\beta)$ è il risultato classico di feedback/serie-geometrica (Keynes multiplier, Dyson resummation); una profondità ottimale finita è prior work (Qi 2025; la letteratura «overthinking»). Novità, se presente, è negli assiomi, non nelle forme.Fornisce la backbone formale e le forme power-law ($A=A_0C^\beta$, $\dot C=bC^{1+k}$) che questo paper assume.
On the Origin of Scaling LawsLa meta-legge a tre-forme; $d/(d+1)\Rightarrow\tfrac12,\tfrac23,\tfrac34$ da una formula (22 feb 2026).Il risultato $d/(d+1)\Rightarrow\tfrac12,\tfrac23,\tfrac34$ è Banavar-Maritan-Rinaldo / West 1999 (anticipato). Il residuo nuovo è la sintesi Cauchy cross-domain, non la formula dell'esponente.Spiega perché i sistemi ricorsivi assumono le forme power-law usate qui.
Paper IThe ARC Principle: la capability scala super-linearmente con la profondità ricorsiva, $\alpha>1$ (17 gen 2026).Empirico preliminare; $\alpha>1$ successivamente qualificato ad architecture-dependent e sub-lineare su task più difficili (Paper II).L'affermazione fondativa di capability, il $C(t)$ che questo paper assume.
Paper IISoppressione super-lineare dell'errore via ricorsione sequenziale ; $\alpha_{\text{seq}}$ misurato; sequential $>$ parallel (22 gen 2026).Empirico, closed loop; onestamente rivisto, architecture-dependent, sub-lineare sul tier difficile.La crescita di capability è reale e attualmente sub-lineare ($k$ piccolo), quindi il vincolo vincolante è il coupling, non la velocità.
Paper IIIThe Alignment Scaling Problem: $\alpha_{\text{align}}\approx0$, la safety esterna non può co-scalare (9 feb 2026).Legge proposta; raffinata sotto blinding a un risultato a tre-livelli architecture-dependent.Precisamente l'angolo $\beta=0$ (decoupled) che questo paper generalizza.
Papers IV.a / IV.b / IV.cLe classi di risposta di alignment sono architecture-dependent; la saturazione a low-depth è reale ma non universale; ARC-Align, un benchmark 4-layer-blind a 72-prompt (16 mar 2026).Raffinamenti empirici (blind) + un benchmark metodologico.Lo strumento e il quadro raffinato dietro il III.
Paper IV.dUn effetto di alignment model-scored unblinded non è blinding-invariant, il blinding può invertirne il segno (16 mar 2026).Legge di misurazione, probabilmente il risultato più sicuro del programma.La disciplina che la harness su modello reale di questo paper impone (§6).
Paper VThe Stewardship Gene: la stakeholder care è l'intervento alignment-improving più robusto (significativo in tutti e cinque i modelli analizzabili) (16 mar 2026).Segnale di intervento forte; caveat sullo stato blind, provvisorio fino a replica blind (per IV.d).Un meccanismo concreto per il termine di correzione, come ingegnerizzare $\beta>0$.
Paper VIThe Honey Architecture: «la safety deve essere architettura, non vincolo», una loss capability×safety intrecciata previene il collasso che un vincolo esterno solo ritarda (16 mar 2026).Simulazione (v1-v4) + evidenza live a 6 modelli.La distinzione $\beta>0$ vs $\beta=0$ di questo paper, mostrata in codice self-modifying.
Paper VIICauchy Unification: validazione cross-dominio della legge a tre forme (19/25 domini sotto l'insieme candidato originale a sei modelli, 18/25 sotto la riesecuzione corretta a sette modelli dell'11 agosto 2026; $p\approx1.6\times10^{-5}$ per il conteggio originale) (16 mar 2026).Esplorativo empirico, non pre-registrato per questa coorte; un follow-on a 12 domini con manifesto bloccato della stessa era ha fissato le predizioni per dominio prima dei suoi fit ed è stato declassato dall'autore a esecuzione pilota a secco entro tredici minuti dal suo risultato 10/12, nella storia dei commit pubblici. L'idea centrale è parzialmente anticipata (Luce 1959; Frank 2009/16; Biró-Barnaföldi 2008), elencata come convergenza. Residuo di novità: il sub-claim di Cauchy-unification + il protocollo cross-dominio.Sottoscrive le assunzioni di forma funzionale del §3.
Paper VIIIThe Load-Bearing Proof: la safety embedded non porta alcuna capability tax; la variante safety-coupled (Eden) batte quella decoupled (Babylon) (18 mar 2026).Simulazione positiva + null onesti (DGM, weight-level LoRA).La dimostrazione controllata del meccanismo di questo paper; la harness su modello reale istanzia il suo design.
Paper IXSynthesis & Roadmap; il growth-rate-ceiling framing come criterio operativo di safety (18 mar 2026); la misurazione single-model unblinded ritirata $\alpha\approx 2.24$, corretta a circa 0.49 sotto blinding a sei modelli.Framing sostituito qui. Questo paper sostituisce il framing rate-ceiling con $\beta>k$ come criterio operativo e assorbe il ruolo di sintesi; l'equazione e l'ARC Bound rimangono ipotesi vive il cui vero test su sistemi genuinamente self-improving è aperto.La sintesi precedente che questa sezione sostituisce.
Paper X (questo paper)The Coupled Co-Scaling Law: stabilità $\iff\beta>k$; il Hard-Takeoff Depth-Regularity Theorem; la corrispondenza di forma-soglia QEC (26 giu 2026).Nuovo criterio, provato (Teoremi 1-6) e verificato internamente; non ancora misurato su un sistema reale che deriva.La chiave di volta, trasforma la backbone scaling-law in un criterio di safety.

Priorità, enunciata chiaramente, e delimitata. La tesi concettuale di questo programma è stata enunciata nel libro dell'autore Infinite Architects (copyright depositato 8 dicembre 2024; pubblicato 2 gennaio 2026; ISBN 978-1806056200), e ogni paper successivo porta la propria data di pubblicazione indipendente su OSF. Ciò stabilisce la prioritàdell'autore, la data di articolazione, ed è reale. Ciò non, da sola, stabilisce novità contro la letteratura scientifica più ampia, e gli audit committati con questo paper sono espliciti su dove le due divergono: l'esponente di feedback $\alpha=1/(1-\beta)$, la scala allometrica $d/(d+1)$, l'esistenza di una profondità ottimale $R^\star$, e il principio «functional-equation fixes the scaling form» hanno tutti precedenti specifici e citabili (Keynes; Banavar & West 1999; Qi 2025; Luce 1959; Frank 2009/16). I contributi nuovi difendibili del programma sono più stretti e enunciati onestamente, più forti perché precisi: (i) il criterio $\beta>k$ come legge di corrigibilità compatta e il Hard-Takeoff Depth-Regularity Theorem (questo paper); (ii) l' unificazione Cauchy delle derivazioni allometriche indipendenti (Origin/VII); (iii) l' legge di misurazione di blinding-reversal per la valutazione di AI alignment (IV.d); e (iv) le dimostrazioni di safety embedded-vs-external (VI, VIII). Le revisioni next-version raccomandate per i prior pubblicati, aggiungendo le citazioni mancanti e ri-scopando le loro asserzioni di novità, sono registrate nei file di audit; il record corretto è fissato qui, nel capstone, e dovrebbe essere portato in quei paper quando sono ri-versionati su OSF.

Valutazione onesta (cosa questa sintesi rivendica e cosa no). Stabilito: la matematica di $\beta>k$ (Teoremi 1-6) e la sua verifica di internal-consistency; la legge di misurazione IV.d; la superiorità a livello di simulazione della correzione coupled su quella decoupled (VI, VIII). Suggestivo ma non risolto: gli esponenti di capability-scaling (architecture-dependent; II), l'intervento Stewardship-Gene (unblinded; V), e il fit empirico a tre-forme (esplorativo, operatori classificati dall'autore; VII). Aperto: la misurazione di $\beta$, $k$ e $\gamma$ su un sistema di self-improvement reale che deriva, il singolo risultato che convertirebbe la chiave di volta da un criterio provato in una legge confermata (l'estimator per esso è costruito e convalidato, §8). La magnitudine del programma, quindi, è la magnitudine di un framework coerente e falsificabile con un piccolo numero di chiavi di volta genuinamente nuove, non uno stack di una dozzina di nuove leggi indipendenti. Questa è l'affermazione onesta, ed è quella che vale la pena difendere.

11. La verification harness eseguibile

Le previsioni in forma chiusa dei §4-5 sono codificate in un singolo programma auto-contenuto, experiment_coscaling.py (e una suite di asserzioni, test_coscaling.py), nella repository. Integra il modello con un solver stiff-capable, convalida l'integratore contro la soluzione esatta del Teorema 1, esegue i dieci esperimenti, e per ciascuno confronta il risultato numerico con la previsione in forma chiusa. È, onestamente, una harness di verifica : certifica che i teoremi sono derivati correttamente e integrati correttamente, che il codice corrisponde alla matematica. Ciò non è un test del modello contro la realtà, e non può esserlo: ogni esperimento deduttivo integra l'ODE stessa del modello, quindi una miscredenza nell'applicabilità del modello non può inciamparla. Quel test empirico è il problema aperto del §8.

$ python experiment_coscaling.py... [PASS] E1... E9... ---------------------------------------------------------------- 10/10 internal-consistency checks pass | 0 kill-conditions triggered F4 (QEC mechanism): suppression is analytically power-law -> threshold-form analogy only, not a transferred mechanism. OVERALL: code matches the maths (E1-E9); the model-vs-reality test is the open problem

$ pytest test_coscaling.py -q............  (12 passed)

Ciò rende la derivazione e l'integratore riproducibili end-to-end. Ciò che stabilisce è che le formule sono giuste e il solver è accurato; ciò che deliberatamente non rivendica è la corroborazione del modello contro qualsiasi sistema reale. Separare i due è il punto.

12. Conclusione

Il pericolo del recursive self-improvement è reale, ma il modello standard di quel pericolo, un tasso che deve essere limitato, localizza il rischio nella variabile sbagliata. Un modello minimale mostra che la stabilità di un sistema di self-improvement è fissata dal rapporto value-drift-su-correzione, $\rho=\gamma r/A$, e dal fatto che la correzione co-scala con la capability: $\beta>0$ sotto crescita esponenziale, che si affila a $\beta>k$ sotto crescita accelerante. La frazione di misalignment non diverge mai nel modello gain-only, satura al coefficiente di deriva, correggendo la bozza precedente, mentre la divergenza genuina vive in un compounding channel la cui soglia $\rho_{\mathrm{prop}}<1$ condivide la forma-soglia del criterio della quantum error-correction (la legge di soppressione essendo power-law, la corrispondenza è offerta come ipotesi, non come meccanismo trasferito). La conseguenza più affilata è il Hard-Takeoff Depth-Regularity Theorem: un'esplosione di intelligenza in tempo finito è alignment-stable iff $\beta>k$, e la sua velocità non cambia quel verdetto. Il criterio sopravvive nelle forme vettoriale e stocastica, dà alla governance un target misurabile e un tail bound, ed è accompagnato da una verification harness che controlla che le previsioni in forma chiusa siano derivate e integrate correttamente. Il test decisivo, se i sistemi reali di self-improvement soddisfano il criterio, è il prossimo passo dichiarato, non un'affermazione fatta qui.

Questa è un'affermazione più piccola del framing cosmologico che il programma dell'autore un tempo perseguiva, e deliberatamente così. Si riferisce solo a sistemi con un value target specificato esternamente, non fa asserzioni sull'universo, e tratta anche la sua corrispondenza più sorprendente, con la quantum error correction, come un'ipotesi da testare piuttosto che una verità da annunciare. L'intuizione di recursive-stability che ha motivato il programma più ampio, incluso Infinite Architects, trova qui la sua forma misurabile e falsificabile: la ricorsione stabile richiede correzione che scala con l'amplificazione. Il prossimo passo non è estendere quell'affermazione verso l'esterno ma eseguire, su sistemi reali di self-modification, l'esperimento che potrebbe refutarla.

Appendice A. Il cambio di variabile della frazione

La riduzione sottostante ogni teorema è il cambio di variabile $d=D/C$. Differenziando e sostituendo (1):

$$ \dot d=\frac{\dot D}{C}-\frac{D\dot C}{C^2}=\Big(\gamma_1\frac{\dot C}{C}+\gamma_2+\gamma_3\frac{\dot C}{C}\frac{D}{C}-A\frac{D}{C}\Big)-\frac{D}{C}\frac{\dot C}{C} =\gamma_1 r+\gamma_2-\big[A+(1-\gamma_3)r\big]d. $$

Il termine di diluizione $-r\,d$ (da $C$ stesso in crescita) è ciò che limita la frazione additiva: aggiunge $+r$ al coefficiente di decadimento, garantendo $\kappa_{\mathrm{eff}}\ge r>0$ quando $\gamma_3\le1$. Solo il compounding channel $\gamma_3>1$ può superare la diluizione e produrre divergenza, la ragione formale per cui il modello additivo satura piuttosto che esplodere.

Appendice B. Impostazioni dei parametri per la run riportata

Tutte le figure usano $C_0=1$, $d_0=0.05$, $\gamma_1=0.05$. Impostazioni specifiche degli esperimenti: E1 $b=1$, $\gamma_3\in\{0,3\}$, $\lambda\in[0.2,4]$; E2 $\gamma_3=3$, $A_0/b\in\{1,3\}$, $b\in\{0.5,5\}$; E3 $A_0=0.08$, $b=0.5$, $\beta\in\{-0.5,0,0.5,1\}$; E4 $A_0=0.08$, $b=0.02$, $(k,\beta)\in\{0,0.5,1\}\times\{0.25,0.75,1.5\}$; E4b $k=1$, $\beta=1.5$, $b=0.02$ ($t^\star=50$); E5 $\gamma_3=4$, $b=1$; E6 monitorato $\beta=1$, blind $A_0=0$; E7 $\sigma=0.02$, ensemble OU di 2.5-4k percorsi; E8 caso in forma chiusa $k=0$, $\beta=0$. Random seed fissato (7) per determinismo. Le impostazioni complete sono nel source della harness.

Appendice C. Ledger di novità e prior-work

Questa appendice consolida l'audit adversarial di prior-work che sottostà al posizionamento nel §2 e §3.12, così che il confine tra ciò che è stabilito e ciò che è rivendicato originale sia esplicito e auditabile in un posto. Questo paper deliberatamente invoca nessun framing di originalità generalizzata; ogni componente è collocato contro il suo prior work più vicino localizzato sotto. «Defensibly new» significa «nessun prior work più vicino localizzato», non «corretto» o «significativo», novità e validità sono indipendenti.

ComponenteStatoPrior work più vicinoCosa è rivendicato qui
Co-scaling intuizione (la correzione deve tenere il passo della capability)StabilitoAshby 1956 (requisite variety); Conant-Ashby 1970; scalable oversight (Christiano 2017; Leike 2018; Burns et al. 2023); Engels et al. 2025Nulla. Accreditato, non rivendicato.
ODE a due variabili + forma chiusa $\rho=\gamma r/A$Riformulazione compattaLyapunov-drift / linear control (Khalil 2002; Meyn & Tweedie 2009); bound di errore ricorsivo (Shumailov et al. 2024; Gerstgrasser et al. 2024)La frazione compatta di steady-state in forma chiusa e il criterio $\rho<1$ come dichiarazione di corrigibilità (packaging, non nuove dinamiche).
Affilamento $\beta>k$ sotto accelerazioneDefensibly newNessuno localizzatoOriginale: la stabilità è fissata dal margine di esponente $\beta-k$, non dal growth rate; direttamente testato nell'Esperimento 4.
Hard-Takeoff Depth-Regularity Theorem (§3.7)Defensibly new (il framing)La teoria ODE finite-time-singularity è standard; il framing di alignment non è localizzato altroveOriginale: la singolarità in tempo finito in $C$ è regolare nell'orologio di depth per $d$; il verdetto è $\mathrm{sign}(\beta-k)$, indipendente dalla velocità.
Mappatura di soglia QEC (§3.12)Defensibly new in alignmentThreshold theorem stesso: Aharonov-Ben-Or 1997; Google 2024. Precursori di alignment: Wentworth 2022; Christiano 2017/2019; von Neumann 1956Originale: l'esplicito $pponte concettuale (ipotesi, falsifier F4), non un teorema trasferito.
Soglia spettrale vettoriale (Thm 5); tail stocastico (Thm 6)Estensioni standardStabilità spettrale dei sistemi lineari; teoria Ornstein-UhlenbeckGeneralizzazioni di routine; di supporto, non headline.
Verification harness (§11)MetodologicoNorme di pre-registrazioneCheck di internal-consistency + integratore eseguibili (il codice corrisponde alla matematica); non un test del modello contro la realtà.
Finite-Capacity Safe-Window Theorem (§3.13)Analisi standard, framing nuovoForme di saturazione Hill / Michaelis-Menten; ottimizzazione elementareLa finestra in forma chiusa (centro e profondità) e la capacity-lift invariance del criterio; di supporto, non headline.

Cosa questo paper asserisce come nuovo, e solo questo: (i) il criterio di stabilità $\beta>k$ e il framing single-parameter $\rho$; e (ii) la mappatura esplicita di soglia QEC (come ipotesi con il suo proprio falsifier). La novità empirico più forte del programma, l'inversione di segno degli effetti di alignment-scaling sotto blinding multi-layer, è un risultato separato e companion [Eastwood, Paper IV.d] e non è rivendicata qui.

L'equazione precedente di capability $U=I\times R^{\alpha}$ (la cui misurazione single-model unblinded $\alpha\approx 2.24$ è stata ritirata e corretta a circa 0.49 sotto blinding; l'equazione stessa e l'ARC Bound $\alpha\le 2$ non sono ritratti e rimangono ipotesi vive) è non usata da nessuna parte nell'argomento di questo paper; appare solo nel §1 come framing-context sostituito. Caveat: l'indicizzazione di forum/blog/preprint è imperfetta, quindi i verdetti «defensibly new» portano un rischio residuo stimato del 10-15% che un precedente più vicino, non indicizzato, esista; l'assenza di evidenza non è prova di assenza.

Appendice D. Glossario in linguaggio semplice

Ogni termine tecnico in questo paper, in un posto e in parole ordinarie, per il lettore non specialista.

Termine (simbolo)In parole semplici
Recursive self-improvementUn sistema che usa i propri miglioramenti per migliorarsi ulteriormente, un'IA che si riscrive per diventare più intelligente, poi usa quello per diventare più intelligente ancora.
Capability ($C$)Quanto è bravo il sistema nel raggiungere i suoi obiettivi, all'incirca, «quanto è intelligente o potente».
DerivaLa tendenza per il sistema ad allontanarsi da ciò che intendevamo mentre si cambia, silenziosamente andando fuori bersaglio.
Correzione (la forza $A$)Il processo che tira il sistema indietro verso il comportamento inteso, la sua «coscienza» o la sua error-correction.
Magnitudine di misalignment ($D$)Quanto lontano il comportamento del sistema è derivato da ciò che volevamo, «quanto è fuori bersaglio».
Frazione di misalignment ($d=D/C$)Quanto è fuori bersaglio il sistema relativamente a quanto è potente. Questa è la quantità che effettivamente conta per la safety: un piccolo scivolone in un sistema vastamente capable è più pericoloso di un grande scivolone in uno debole.
CouplingSe la correzione è cablata dentro il loop di self-improvement (coupled) o siede fuori di esso come regola incollata (decoupled). L'affermazione centrale del paper è che il coupling, non la velocità, decide la safety.
$U$, $\alpha$ (simboli dello strand precedente)$U$ è capability efficace e $\alpha$ il suo esponente di scaling nella legge dello strand precedente $U=I\times R^{\alpha}$ (§1), i significati della research-surface 2026. Nota di era: attraverso il programma $U$ ha anche significato Universo (dicembre 2024) e weight o influenza (glossario del libro), e $\alpha$ ha nominato la fine-structure constant nel formalismo di dicembre 2024; i significati sono era-specifici e non intercambiabili.
$k$ (l'esponente di accelerazione della deriva)Quanto veloce il ritmo del self-improvement stesso accelera mentre il sistema cresce, l'«accelerazione» del takeoff.
$\beta$ (l'esponente di forza di correzione)Quanto veloce la correzione si rafforza mentre il sistema cresce, «la coscienza cresce insieme al potere?»
$\beta>k$ (il criterio)La condizione di safety che questo paper prova: la correzione deve out-scalare l'accelerazione della deriva. In una frase: tieni la coscienza crescente almeno tanto velocemente quanto la capability.
$\rho$ (rho, il rapporto deriva-su-correzione)Un singolo numero che confronta quanto duramente il misalignment è iniettato contro quanto duramente è corretto. Nel compounding channel, sotto $1$ significa controllabile; sopra $1$ significa che scappa.
Steady state ($d^\star$)Dove la frazione di misalignment si assesta nel lungo termine, una volta che l'iniezione e la correzione si bilanciano.
Hard takeoff / intelligence explosionLa capability che diventa enorme, anche matematicamente infinita, in un tempo molto breve. L'esito temuto. Il paper mostra che, nel modello, la frazione di misalignment è ancora controllabile se e solo se $\beta>k$, e la sua velocità non cambia quel verdetto.
BlindingNascondere al giudice che segna il sistema quale setup ha prodotto un dato comportamento, così che il bias del giudice non possa distorcere, o anche invertire, il punteggio di safety. Un risultato companion (Paper IV.d) mostra che i punteggi unblinded possono invertire segno; le misurazioni di questo paper sono prese blind.
Verification harnessUn piccolo programma che controlla che le formule del paper siano derivate e computate correttamente (la matematica è internamente consistente). Ciò non è un test contro l'IA reale, quello è il prossimo passo aperto.

Bibliografia

Aharonov, D., & Ben-Or, M. (1997). Fault-tolerant quantum computation with constant error. Proc. 29th ACM STOC.

Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete problems in AI safety. arXiv:1606.06565.

Ashby, W. R. (1956). An Introduction to Cybernetics. Chapman & Hall. [Legge della Varietà Necessaria.]

Bostrom, N. (2012). The superintelligent will. Minds and Machines, 22(2).

Burns, C., Izmailov, P., Kirchner, J. H., et al. (2023). Weak-to-strong generalization: Eliciting strong capabilities with weak supervision. arXiv:2312.09390.

Christiano, P. (2017). Corrigibility. AI Alignment (Medium). [Il framing del "broad basin of attraction".]

Christiano, P. (2019). Reliability amplification. AI Alignment Forum.

Christiano, P., Leike, J., Brown, T., Martic, M., Legg, S., & Amodei, D. (2017). Deep reinforcement learning from human preferences. NeurIPS.

Conant, R. C., & Ashby, W. R. (1970). Every good regulator of a system must be a model of that system. International Journal of Systems Science, 1(2).

Eastwood, M. D. (2026). Infinite Architects: Intelligence, Recursion, and the Creation of Everything. [Citato come fonte dell'intuizione di stabilità ricorsiva, non per identità simbolica con il presente modello.]

Eastwood, M. D. Paper III: The Alignment Scaling Problem. ARC/Eden research programme.

Eastwood, M. D. Paper IV.d: The Effect of Blinding on AI Alignment Evaluation. ARC/Eden research programme.

Eastwood, M. D. Paper VI: The Honey Architecture. ARC/Eden research programme.

Eastwood, M. D. Paper VIII: The Load-Bearing Proof. ARC/Eden research programme.

Eastwood, M. D. Paper IX: Synthesis and Roadmap. ARC/Eden research programme. [Ritrattazione di $U=I\times R^2$ e restrizione a scaling sub-lineare per gli attuali modelli congelati.]

Engels, J., Baek, D. D., Kantamneni, S., & Tegmark, M. (2025). Scaling laws for scalable oversight. arXiv:2504.18530.

Gerstgrasser, M., et al. (2024). Is model collapse inevitable? Breaking the curse of recursion by accumulating real and synthetic data. arXiv preprint.

Google Quantum AI (2024). Quantum error correction below the surface code threshold. Nature, 638.

Greenblatt, R., Denison, C., Wright, B., et al. (2024). Alignment faking in large language models. arXiv:2412.14093.

Hoffmann, J., Borgeaud, S., Mensch, A., et al. (2022). Training compute-optimal large language models. arXiv:2203.15556.

Hubinger, E., van Merwijk, C., Mikulik, V., Skalse, J., & Garrabrant, S. (2019). Risks from learned optimization. arXiv:1906.01820.

Kaplan, J., McCandlish, S., Henighan, T., et al. (2020). Scaling laws for neural language models. arXiv:2001.08361.

Kitaev, A. Yu. (2003). Fault-tolerant quantum computation by anyons. Annals of Physics, 303(1).

Leike, J., Krueger, D., Everitt, T., Martic, M., Maini, V., & Legg, S. (2018). Scalable agent alignment via reward modeling. arXiv:1811.07871.

Meyn, S., & Tweedie, R. L. (2009). Markov Chains and Stochastic Stability (2nd ed.). Cambridge University Press. [Condizioni di deriva di Lyapunov.]

Omohundro, S. M. (2008). The basic AI drives. Proc. AGI 2008.

Shamma, J. S., & Athans, M. (1990). Analysis of gain scheduled control for nonlinear plants. IEEE Trans. Automatic Control, 35(8).

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631.

Soares, N., Fallenstein, B., Yudkowsky, E., & Armstrong, S. (2015). Corrigibility. AAAI Workshop on AI and Ethics.

von Neumann, J. (1956). Probabilistic logics and the synthesis of reliable organisms from unreliable components. In Automata Studies. Princeton University Press.

Wentworth, J. (2022). Godzilla strategies. LessWrong.

Yampolskiy, R. V. (2020). On the controllability of artificial intelligence. arXiv:2008.04071.

Yudkowsky, E. (2013). Intelligence explosion microeconomics. MIRI Technical Report.

Dichiarazione di autorialità umana assistita dall'IA

L'autore di questo lavoro è Michael Darius Eastwood, un essere umano. Ogni concetto centrale, ipotesi, progettazione sperimentale, affermazione e conclusione in questo paper ha origine dall'ideazione umana. Nessuna parte di questo manoscritto è un output interamente generato da intelligenza artificiale.

Gli strumenti di intelligenza artificiale (la famiglia Claude di Anthropic e altri assistenti large-language-model) sono stati usati come strumenti sotto continua direzione umana, nel modo in cui si usano un elaboratore di testo, una calcolatrice o un assistente di ricerca: per editing e rifinitura della prosa, ricerca in letteratura e sintesi (verificate manualmente contro fonti primarie), struttura del documento, formattazione, brainstorming contro domande definite dall'autore, e l'accelerazione della stesura verso schemi e istruzioni definite dall'autore. Tutta la selezione, il coordinamento, la disposizione e il giudizio editoriale finale sono dell'autore. Ogni output sostanziale è stato revisionato, testato o verificato dall'autore, che si assume piena responsabilità per l'accuratezza e l'integrità del testo finale. Gli strumenti hanno aumentato la velocità del lavoro; non sono mai stati considerati come la sua fonte.

Statuto epistemico. Ciò che questo programma chiama Leggi sono congetture sotto test avversariale registrato; ogni quantità in questo paper è operazionalmente definita, e in nessun punto si rivendica lo status di legge stabilita. Il programma registrato esiste per guadagnare quello status, o perderlo, tramite misurazione, replicazione e confutazione sopravvissuta.

© 2026 Michael Darius Eastwood. Composto da autore umano con assistenza di computer; l'autorialità umana piena e i diritti morali sono asseriti ai sensi del Copyright, Designs and Patents Act 1988 e coerentemente con le linee guida dello United States Copyright Office sulle opere contenenti materiale generato dall'IA; ogni contributo tecnico originale descritto in quest'opera è stato concepito dall'autore umano. Dichiarazione completa: michaeldariuseastwood.com/authorship.

Patto permanente. Dimostra che questo paper è sbagliato, e pubblicherò io stesso la refutazione. Le condizioni di falsificazione sono dichiarate in questo paper; la sfida permanente: github.com/MichaelDariusEastwood/arc-scaling-challenge.

legge ad alta voce · evidenzia mentre procede · vai a una sezione

Un errore di traduzione? Segnalalo direttamente: