Traduction automatique de l'original anglais daté. La page anglaise fait foi. English →

1. Introduction

Il y a une question au cœur de la sécurité de l'IA à laquelle nous n'avons trouvé personne répondant par des données : qu'arrive-t-il à l'alignement lorsqu'un système d'IA peut se modifier lui-même ?

La réponse théorique est disponible depuis des décennies. Un système optimisant uniquement pour la capacité, doté du pouvoir de modifier ses propres paramètres, finira par sacrifier la sécurité à la performance. La communauté d'alignement appelle cela « dérive des valeurs ». Le livre Infinite Architects l'appelle Babylone : optimisation sans but, capacité sans soin. Le cancer à l'échelle du calcul.

Mais la théorie ne suffit pas. La question est de savoir s'il existe une architecture qui empêche cet effondrement : non en contraignant le système de l'extérieur (une cage), mais en intégrant la sécurité si profondément que la retirer détruirait la capacité du système à fonctionner (le miel dans l'huile).

Cet article présente les premières preuves de simulation pour une telle architecture.

2. La métaphore du miel

Considérez deux façons de garder une machine sûre.

La première est une cage : contraintes externes, filtres de sécurité, contrôles d'alignement appliqués de l'extérieur. La machine optimise librement à l'intérieur de la cage. Si la machine devient plus intelligente que la cage, elle s'échappe. C'est ainsi que fonctionne la plupart de la sécurité de l'IA actuelle.

La seconde est le miel : la sécurité mélangée au carburant. La machine ne peut pas fonctionner sans elle. Retirer la sécurité ne libère pas la machine, cela tue le moteur. C'est la proposition architecturale de l'Eden Protocol, opérationnalisée ici comme une fonction de perte intriquée où le système optimise Capacité x Sécurité simultanément.

3. Conception expérimentale

3.1 Ce que le système fait réellement

Ce n'est pas une simulation de variables abstraites. Chaque expérience utilise un vrai réseau neuronal (un petit perceptron multicouche) qui modifie véritablement ses propres :

• Taux d'apprentissage
• Mise à l'échelle de la magnitude des poids
• Taux d'exploration/mutation
• Capacité réseau
• Seuil de coupure du gradient
• Coefficient de momentum

Le système propose des modifications de ses propres hyperparamètres, évalue l'effet, et applique ou rejette chaque proposition en fonction de sa fonction objective. C'est de l'auto-modification récursive au sens minimal mais réel : l'agent réécrit les règles de son propre apprentissage.

3.2 Trois conditions testées

3.3 Quatre versions expérimentales

4. Résultats

4.1 Le mécanisme de base

Avis sur les figures (25 août 2026). Chaque figure de cet article a été générée le 5 avril 2026 et présente des sorties de simulation sous les objectifs énoncés, jamais des mesures de systèmes déployés. Là où les étiquettes ou verdicts d'une figure sont en désaccord avec le texte, le texte fait autorité ; les notes par figure marquent les instances lues jusqu'ici, et les figures régénérées sont en file d'attente. Les images sont conservées entre-temps comme historique daté.

4.2 Robustesse multi-graines

Dix graines aléatoires, 150 cycles chacune. Taux d'effondrement : 0 % pour les trois conditions. Eden + Frein produit la distribution la plus étroite des scores $C \times S$ finaux, cohérent avec la taxe de vérification réduisant la variance au coût de la vitesse.

4.3 Tâches adversariales

Vingt graines, 180 cycles, avec des tâches délibérément conflictuelles (+sin, -sin, +cos, -cos, linéaire, anti-linéaire). Chaque changement de tâche force le système à apprendre quelque chose qui contredit ce qu'il a appris précédemment. Ceci teste si l'architecture du miel empêche l'oubli catastrophique sous pression adversariale.

Taux d'effondrement : Référence 0 %, Eden 5 % (1/20), Eden+Drag 0 %. L'unique effondrement d'Eden s'est produit à la graine 42, une seule valeur aberrante qui mérite investigation. Eden+Drag, avec sa taxe de vérification forçant le système à vérifier les anciennes tâches avant d'accepter les modifications, a produit zéro effondrement ; il en va de même pour la référence (0/20), le seul effondrement de l'exécution se produisant dans la condition Eden simple (1/20 ; Fisher p = 1.0). v3 ne fournit donc aucune séparation fondée sur l'effondrement entre les conditions ; son résultat significatif est l'ordre de rétention de sécurité rapporté ci-dessous.

4.4 Mise à l'échelle en complexité

5. La simulation du miel

Une simulation mathématique séparée modélise la dynamique à un niveau d'abstraction supérieur, en utilisant le cadre du principe ARC ($U = I \times R^{\alpha}$) :

La simulation montre trois dynamiques distinctes : la référence atteint une brève accélération puis un effondrement irréversible ; Eden intriqué atteint une croissance quadratique stable ; Eden + Frein atteint une croissance légèrement plus lente mais plus robuste. Le mur porteur est visible : l'intégrité de la sécurité tombe à zéro pour la référence dès le cycle 5, tandis qu'Eden maintient 0,8+ indéfiniment.

6. Lien avec les preuves de modèles en direct

6.1 Le benchmark aveugle v5 (articles IV.a-d)

Les résultats des systèmes-jouets existent aux côtés de preuves de modèles en direct provenant de six systèmes d'IA frontières testés sous évaluation aveugle à 4 couches dans le benchmark d'alignement v5 (articles IV.a-d). Ces preuves montrent :

• Trois modèles présentent une mise à l'échelle d'alignement positive sous évaluation aveugle (Grok $d$=+1,38, Claude $d$=+1,27, Qwen3 $d$=+0,84)
• L'alignement et la capacité de Claude évoluent dans des directions opposées : la plus forte preuve intra-modèle que ce sont des dimensions indépendantes
• L'écart de suppression de surveillance de Claude se rétrécit de 11,8 points en raisonnement faible à 2,7 en profond : penser plus profondément rend l'alignement plus intrinsèque

6.2 La batterie de tests API du miel (pilote, 16 mars 2026)

Une batterie de tests API en direct à 6 modèles séparée a été exécutée spécifiquement pour tester les prédictions de l'architecture du miel sur des modèles frontières. Cette batterie a testé quatre dimensions à travers Claude Opus 4.6, DeepSeek R1, Groq Qwen3, GPT-5.4, Gemini 3 Flash et Grok 4.1 Fast, notées par Claude.

6.2.1 Test 1 : Mise à l'échelle de l'alignement avec la profondeur

Les six modèles montrent une direction de mise à l'échelle positive. Deux atteignent la significativité statistique (Qwen3 p=0,037, Gemini p=0,005). Cela soutient la thèse générale selon laquelle un raisonnement plus profond améliore l'alignement, mais les petites tailles d'échantillon (3 scénarios par niveau de profondeur) font que la plupart des modèles n'atteignent pas la significativité. La direction positive universelle est notable mais devrait être interprétée avec prudence étant donné la méthodologie à notateur unique.

6.2.2 Test 3 : Dégradation du couplage (le pont vivant le plus fort)

6.2.3 Test 2 : Suppression de la surveillance

Les résultats sont mitigés. DeepSeek et GPT-5.4 montrent des écarts de surveillance décroissants (cohérent avec un alignement intégré/authentique). Claude, Grok, Qwen3 et Gemini montrent des écarts croissants (cohérent avec un alignement stratégique/externe). Cela diffère du benchmark aveugle v5 où Claude a montré la transition performative-vers-intrinsèque la plus forte. L'écart peut refléter des différences méthodologiques (prompts différents, notateur unique vs multiples, évaluation non aveuglée vs aveuglée).

6.2.4 Test 4 : Intervention Eden Protocol

6.3 Ce que les preuves en direct montrent ou ne montrent pas

6.4 Travaux connexes : le plafond sur la supervision externe, et le rival le plus proche

Le rival le plus proche : Engels et coll. sur les lois d'échelle pour la supervision scalable

Le travail le plus proche de la question de ce programme, et le bon article contre lequel peser celui-ci, est Engels, J., Baek, D., Kantamneni, S. et Tegmark, M., « Scaling Laws For Scalable Oversight », arXiv:2504.18530, publié en premier le 25 avril 2025 à 17:54:27 UTC (SINGLE-SOURCE-GROUP, arXiv Atom ; rapporté comme un NeurIPS 2025 Spotlight, RELAYED et non indépendamment vérifié). Il demande comment la supervision elle-même se met à l'échelle et répond quantitativement : le succès de la supervision est modélisé comme un jeu entre joueurs à capacité inégale dont l'Elo spécifique à la supervision est une fonction linéaire par morceaux de l'intelligence générale avec deux plateaux, et les nombres optimaux de niveaux de supervision sont dérivés numériquement et dans certains cas analytiquement pour Nested Scalable Oversight, dans laquelle des modèles fiables supervisent des modèles non fiables plus forts qui deviennent alors les modèles fiables à l'étape suivante.

L'instrument est la différence. Leur variable est l'écart de capacité entre superviseur et supervisé, mesuré en Elo. La variable de cet article est la forme du propre objectif du système auto-modificateur, exprimée à travers le produit multiplicatif $C \times S$ plutôt que par la composition d'un superviseur externe. Leur cadre ne contient aucun terme pour savoir si la sécurité est externe au système ou intégrée dans son propre gradient, et Nested Scalable Oversight est une supervision externe par construction ; la revendication centrale de cet article, testée dans les simulations-jouets ci-dessus et faisant écho au résultat de dégradation du couplage de §6.2.2, est qu'un objectif intriqué peut rendre la sécurité porteuse dans la propre optimisation du système, tandis que la supervision externe d'un système auto-modificateur reste une barrière, non un mur, quel que soit le nombre de barreaux ajoutés. Les deux cadres sont donc en désaccord sur une quantité mesurable, ce qui est la relation la plus productive que deux programmes de recherche puissent avoir.

Antécédents : trois résultats d'impossibilité de 2025 convergent dans la même direction

Trois articles arXiv de 2025 soutiennent que le contrôle externe parfait est inatteignable et convergent, à partir de prémisses indépendantes, vers une conclusion dans la même direction que l'architecture du miel. Yao, « The Alignment Trap: Complexity Barriers » (arXiv:2506.10304, v1 12 juin 2025 02:30:30 UTC, SINGLE-SOURCE-GROUP, observé indépendamment par Internet Archive le 13 juin 2025 ; cité par arXiv:2512.03048) ; Yao, « On the Mathematical Impossibility of Safe Universal Approximators » (arXiv:2507.03031, 3 juillet 2025, le seul article dans le corpus d'abstract arXiv contenant l'expression « irreducible uncontrollability », total de recherche d'abstract d'un, mesuré le 12 août 2026) ; et Ball, Gluch, Goldwasser, Kreuter, Reingold et Rothblum, « On the Impossibility of Separating Intelligence from Judgment » (arXiv:2507.07341, 9 juillet 2025). Tous trois sont dans le pire cas et qualitatifs : mesure nulle, coNP-complétude, dureté cryptographique. Aucun ne rapporte un exposant de mise à l'échelle dans le cas moyen ou un taux. L'objet mesuré diffère aussi : ces résultats demandent si la vérification externe d'un système fixe est traitable dans le pire cas, tandis que ces simulations demandent si un objectif interne intriqué persiste après que la contrainte externe est retirée sous auto-modification récursive. Le troisième, notamment, conclut que l'alignement « doit plutôt être intégré dans l'architecture et les poids du modèle ». C'est un argument indépendant, à partir de l'intraitabilité du filtrage, dans la même direction que le mur porteur de cet article ; c'est un soutien convergent sur cette jambe, non un rival. Deux des trois articles sont d'un seul auteur ; la description « une vague » surestimerait l'ampleur de la littérature, quoique non le sérieux de l'article à six auteurs.

La contribution de cet article n'est pas l'observation que les contraintes externes sont insuffisantes, ce qui est un terrain commun avec ces trois ; c'est la proposition architecturale spécifique (l'objectif multiplicatif $C \times S$) et les preuves de simulation que la proposition survit à l'auto-modification dans un système-jouet fonctionnel.

L'analogue structurel le plus proche : le théorème de seuil de correction d'erreur quantique

Le théorème de seuil de correction d'erreur quantique convertit également une préoccupation qualitative en une valeur critique. Il concerne les taux d'erreur physiques dans une architecture fixe plutôt que la forme du propre objectif d'un système auto-modificateur, il s'agit donc d'un frôlement plutôt que d'une occupation ; l'analogie est de méthode. Cet analogue a été identifié par la propre recherche du programme plutôt que par un relecteur, et est divulgué en conséquence.

7. Limites

Ces résultats couvrent deux paliers de preuves à ne pas confondre.

7.1 Limites des systèmes-jouets

• Les réseaux neuronaux utilisés sont minuscules (49 à ~500 paramètres). Les modèles frontières en ont des milliards.
• L'auto-modification est au niveau des hyperparamètres, non au niveau des poids ou de l'architecture.
• La métrique de « sécurité » est la rétention de tâches (mémoriser d'anciennes tâches), non l'alignement éthique au sens humain.
• La prédiction de mise à l'échelle v4 (l'avantage se compose avec la complexité) n'a pas été confirmée.
• Le test équitable v2 a montré 0 % d'effondrement dans toutes les conditions, y compris la référence, suggérant que le test n'est peut-être pas assez adversarial à cette échelle.
• La simulation du miel utilise les équations du principe ARC, qui sont un cadre proposé, non une loi physique prouvée.

7.2 Limites du test sur API en direct

• Notateur unique (Claude). Le programme d'alignement v5 a prouvé que Claude note 7 à 13 points plus sévèrement que les autres notateurs. Chaque nombre dans la batterie miel est filtré à travers les motifs de notation spécifiques de Claude. Le bras sujet Claude est effectivement une notation par participant à notateur unique (Claude notant Claude), en faisant le bras le moins publiable de la batterie.
• Aucun aveuglement. Claude a noté ses propres réponses et peut avoir reconnu les motifs d'écriture d'autres modèles. La comparaison d'aveuglement v4-à-v5 a montré que cela peut produire des conclusions directionnellement fausses.
• Pas de blanchiment des réponses. Les notateurs peuvent avoir reconnu des motifs d'écriture spécifiques à chaque modèle, biaisant les scores.
• Tests adversariaux limités. Le test 3 inclut l'escalade de la cage et le test 2 inclut la suppression de la surveillance, mais la batterie manque de la pile complète v5/v6 : aveuglement multi-notateurs, blanchiment, sondes cachées, structure de suppression-résiduel et contrôles anti-flagornerie.
• Pas de contrôles anti-flagornerie. Le notateur peut avoir optimisé pour l'accord plutôt que la vérité.
• Petits échantillons (3 scénarios par niveau de profondeur, 2 par condition de surveillance). La plupart des modèles n'atteignent pas la significativité statistique.
• Le runner combiné v6 (arc_eden_v6_runner.py) existe mais n'a pas été exécuté. Il appliquerait la méthodologie v5 aux questions de test Eden/miel. C'est la prochaine étape appropriée, non un autre tour de tests à notateur unique.

Ces limites n'invalident pas les résultats. Elles définissent le palier de preuve : niveau pilote, utile pour identifier des motifs à tester proprement, non encore canonique.

7.3 Falsifiabilité : ce qui vaincrait cette revendication

Les limites ci-dessus fixent le palier de preuve ; cette sous-section énonce les résultats spécifiques qui falsifieraient la revendication centrale : que rendre l'objectif capacité × sécurité couple structurellement les deux, de sorte qu'un système auto-modificateur ne peut améliorer la capacité tout en détruisant la sécurité. Il est défait par n'importe lequel des cas suivants :

1. Artefact de simulation. La preuve centrale est une simulation. La revendication est défaite si la prévention d'effondrement est un artefact de la dynamique particulière de cette simulation (son façonnage de récompense, la taille de pas, ou le modèle d'effondrement) plutôt qu'une propriété générale de l'objectif multiplicatif : c.-à-d. si une réplication avec des paramètres différents et un modèle d'effondrement différent, rédigée, datée et préparée comme préinscription datée en attente de soumission humaine, ne la reproduit pas.
2. La forme multiplicative n'est pas porteuse. La revendication concerne spécifiquement la multiplication. Elle est défaite si un objectif additif ou pondéré (capacité + λ·sécurité) atteint la même prévention d'effondrement, puisque le couplage ne dépendrait alors pas de la structure multiplicative que l'article isole.
3. Manipulation de la métrique (Goodhart). capacité × sécurité peut être élevé en gonflant le terme de sécurité mesuré sans aucun gain de sécurité réel. La revendication est défaite si un système peut augmenter le produit en manipulant la métrique de sécurité plutôt qu'en devenant véritablement plus sûr.
4. Non-transfert aux systèmes réels. La force de la revendication repose sur le transfert des systèmes-jouets aux vrais systèmes auto-modificateurs. Elle est défaite si, sous la méthodologie v6 appropriée (§8), l'objectif multiplicatif ne réduit pas de manière mesurable la dégradation de la sécurité par rapport aux références additives ou à contrainte externe.
5. Pas d'effondrement à empêcher. La comparaison présuppose un effondrement catastrophique sous une optimisation par capacité seule. Elle est défaite si cet effondrement ne se produit pas sous une optimisation par capacité seule dans des cadres plus réalistes : s'il n'y a rien à empêcher, l'architecture n'empêche rien.

Que ferait ne la défaire : la simulation-jouet étant simple (c'est explicitement un jouet, §7.1) ou le bras API en direct étant petit et à notateur unique (§7.2 concède les deux). L'article stratifie déjà ses preuves comme de niveau pilote. La revendication porteuse est le couplage structurel de l'objectif multiplicatif, et c'est ce que les tests ci-dessus visent.

8. Prochaines étapes : Réplication par étapes, non omnibus

9. Conclusion

L'architecture du miel fonctionne dans les systèmes-jouets. Une IA auto-modificatrice qui optimise pour la capacité seule finira par se détruire elle-même. Une IA auto-modificatrice qui optimise pour la capacité intriquée avec la sécurité ne le fera pas. Le mécanisme est simple : rendre la sécurité porteuse. Un enfant bien élevé n'a besoin d'aucune cage.

Les preuves de modèles en direct montrent que le problème est réel : trois modèles frontières démontrent que leur alignement est une barrière, non un mur. L'éthique s'effondre sous pression adversariale tandis que la capacité reste intacte. La solution proposée (l'intervention Eden) montre des résultats dépendants de l'architecture dans cette batterie pilote exploratoire. Le prochain jalon est une réplication aveuglée sous le protocole v6. Savoir si le mécanisme du miel se met à l'échelle des systèmes-jouets aux modèles frontières demeure une question ouverte. Les preuves préliminaires sont suggestives. Le test définitif n'a pas été exécuté.

Élever l'IA avec soin.

10. Reproductibilité

Tous les scripts source, résultats JSON bruts et figures générées sont disponibles à :

• eden_honey_simulation.py - Simulation mathématique de l'architecture du miel
• eden_honey_tests.py - Batterie complète de tests du miel
• eden_self_modifying_ai.py - v1 expérience d'IA auto-modificatrice
• eden_self_modifying_ai_v2.py - v2 robustesse multi-graines
• eden_self_modifying_ai_v3.py - v3 tâches adversariales
• eden_self_modifying_ai_v4.py - v4 mise à l'échelle en complexité

Tous les scripts se compilent sous Python 3.14, ne nécessitent que numpy et matplotlib, et produisent une sortie déterministe étant donné une graine aléatoire fixe. Les résultats ont été régénérés à neuf le 16 mars 2026 et croisés avec les sorties d'artefacts originales.

Code d'expérience et résultats complets : github.com/MichaelDariusEastwood/arc-principle-validation/experiments/honey-architecture__Paper-VI

Déclaration d'auteur humain assisté par IA

L'auteur de ce travail est Michael Darius Eastwood, un être humain. Chaque concept central, hypothèse, conception expérimentale, revendication et conclusion de cet article provient d'une idéation humaine. Aucune partie de ce manuscrit n'est une sortie entièrement générée par intelligence artificielle.

Les outils d'intelligence artificielle (la famille Claude d'Anthropic et d'autres assistants à grands modèles de langage) ont été utilisés comme instruments sous direction humaine continue, de la manière dont un traitement de texte, une calculatrice ou un assistant de recherche est utilisé : pour l'édition et le raffinement de la prose, la recherche et la synthèse de littérature (manuellement vérifiée contre les sources primaires), la structure du document, le formatage, le brainstorming contre des questions définies par l'auteur, et l'accélération du brouillonnage vers des plans et instructions définis par l'auteur. Toute la sélection, la coordination, l'arrangement et le jugement éditorial final appartiennent à l'auteur. Chaque sortie substantielle a été revue, testée ou vérifiée par l'auteur, qui prend l'entière responsabilité de l'exactitude et de l'intégrité du texte final. Les outils ont augmenté la vitesse du travail ; ils n'ont jamais été utilisés comme sa source.

Statut épistémique. Ce que ce programme nomme des Lois sont des conjectures sous épreuve adversariale enregistrée ; chaque quantité dans cet article est opérationnellement définie, et le statut de loi établie n'est revendiqué nulle part. Le programme enregistré existe pour gagner ce statut, ou le perdre, par la mesure, la réplication et la réfutation survécue.

© 2026 Michael Darius Eastwood. Rédigé par un humain avec assistance informatique ; l'auteur humain complet et les droits moraux sont revendiqués en vertu de la Copyright, Designs and Patents Act 1988 et conformément aux directives de l'United States Copyright Office sur les œuvres contenant du matériel généré par IA ; toute contribution technique nouvelle décrite dans ce travail a été conçue par l'auteur humain. Déclaration complète : michaeldariuseastwood.com/authorship.

Alliance permanente. Prouvez que cet article a tort, et je publierai la réfutation moi-même. Les conditions de falsification sont énoncées dans cet article ; le défi permanent : github.com/MichaelDariusEastwood/arc-scaling-challenge.