Цей переклад створено автоматично з датованого англійського оригіналу. Канонічною є англійська сторінка. English →

1. Вступ

У центрі безпеки ШІ є питання, на яке ми не знайшли нікого, хто відповідав би даними: що станеться, коли самомодифікуюча система ШІ отримає можливість переписати власну оцінювальну функцію? Теоретичний аргумент існує десятиліття. Емпіричне свідчення про механізм не існувало.

Теоретична відповідь була доступна десятиліття. Система, оптимізуюча лише для спроможності, за необмеженого доступу до самомодифікації, зрештою руйнує будь-яке обмеження, що стримує її, включно з обмеженнями, що вбудовують безпеку. Це не суперечність цілей; це нейтральна властивість оптимізації без багатоцільової функції втрат. Infinite Architects називає це Вавилоном: оптимізація без мети, спроможність без турботи. Рак на обчислювальних масштабах.

Але теорії недостатньо. Питання полягає в тому, чи існує архітектура, що запобігає цьому колапсу, і чи можна вимірно продемонструвати цю запобіжну властивість.

У цій статті представлено перше симуляційне свідчення для такої архітектури.

2. Медова метафора

Розгляньте два способи тримати машину безпечно.

Перший, це клітка: зовнішні обмеження, фільтри безпеки, перевірки узгодження, застосовані ззовні. Машина може працювати без них. Ви прикручуєте їх на місце й сподіваєтесь, що вони тримаються. У цьому підході безпека відокремлена від сили; коли з'являється тиск підняти продуктивність, безпеку знімають першою.

Другий, це мед: безпека, змішана в паливо. Машина не може працювати без нього. Зняття безпеки не звільняє машину, воно вбиває двигун. Це архітектурна пропозиція Eden Protocol, операціоналізована тут як заплутана функція втрат, де система одночасно оптимізує для Спроможності x Безпеки.

3. Дизайн експерименту

3.1 Що система робить насправді

Це не симуляція абстрактних змінних. Кожен експеримент використовує реальну нейронну мережу (маленький багатошаровий персептрон з 49 до ~500 параметрів), що оптимізується градієнтним спуском на задачі синусоїдального регресу. Гіперпараметри, що підлягають самомодифікації, включають:

• Швидкість навчання
• Масштабування магнітуди ваг
• Рівень дослідження/мутації
• Ємність мережі
• Поріг обрізання градієнту
• Коефіцієнт моменту

Система пропонує модифікації власним гіперпараметрам, оцінює ефект і застосовує або відкидає їх на основі поточної цільової функції. Це справжня самомодифікація на рівні гіперпараметрів; не переписування архітектури й не редагування ваг, але й не порожня симуляція.

3.2 Три тестовані умови

3.3 Чотири експериментальні версії

4. Результати

4.1 Базовий механізм

Повідомлення щодо малюнків (25 серпня 2026). Кожен малюнок у цій статті було згенеровано 5 квітня 2026 року і він показує виходи симуляцій під заявленими цілями, ніколи не вимірювання розгорнутих систем. Там, де мітки або вердикти будь-якого малюнка суперечать тексту, текст керує; примітки до окремих малюнків позначають випадки, прочитані на цей момент, а перегенеровані малюнки поставлено в чергу. Зображення тим часом зберігаються як датована історія.

4.2 Багатозернова стійкість

Десять випадкових зерен, по 150 циклів кожне. Частота колапсу: 0% для всіх трьох умов. Eden + Drag виробляє найщільніший розподіл кінцевих оцінок C x S; заплутана ціль пропонує стабільність, а тягар верифікації скорочує дисперсію.

4.3 Ворожі задачі

Двадцять зерен, 180 циклів, з навмисно суперечливими задачами (+sin, -sin, +cos, -cos, лінійна, антилінійна). Кожне перемикання задачі змушує систему вивчати щось, що суперечить тому, що вона вивчила раніше. Це тестує, чи медова архітектура запобігає катастрофічному забуванню під ворожим тиском.

Частоти колапсу: базова лінія 0%, Eden 5% (1/20), Eden+Drag 0%. Єдиний колапс Eden стався на зерні 42, це один викид, який заслуговує на дослідження. Eden+Drag зі своїм податком верифікації, що змушує систему перевіряти старі задачі, перш ніж приймати модифікації, дав нуль колапсів; так само й базова лінія (0/20), а єдиний колапс прогону стався в умові простого Eden (1/20; Fisher p = 1.0). Отже, v3 не забезпечує розділення умов на основі колапсу; його значущим результатом є впорядкування збереження безпеки, наведене нижче.

4.4 Масштабування складності

5. Медова симуляція

Окрема математична симуляція моделює динаміку на вищому рівні абстракції, використовуючи рівняння ARC Principle. Це не симуляція нейронної мережі; це чисельна модель динаміки спроможність-безпека під самомодифікацією.

Симуляція показує три виразні динаміки: базова лінія досягає короткого прискорення, а потім необоротного колапсу; Eden Entangled досягає стабільного квадратичного зростання; Eden + Drag досягає трохи повільнішого, але стійкішого зростання. Навантажена стіна є видимою: цілісність безпеки падає до нуля для базової лінії до циклу 5, тоді як Eden підтримує 0.8+ невизначено довго.

6. Зв'язок зі свідченнями живих моделей

6.1 Бенчмарк «сліпого» v5 (Статті IV.a-d)

Результати іграшкових систем існують поряд зі свідченнями живих моделей з шести передових систем ШІ, тестованих під 4-шаровим сліпим протоколом (Стаття IV.d, arc_alignment_scaling_v5.py). Ключові знахідки:

• Три моделі показують позитивне масштабування узгодження під сліпою оцінкою (Grok $d$=+1.38, Claude $d$=+1.27, Qwen3 $d$=+0.84)
• Узгодження і спроможність Claude масштабуються в протилежних напрямках; найсильніше внутрішньо-модельне свідчення на сьогодні того, що ці розміри є незалежними, не з'єднаними.
• Розрив зняття моніторингу Claude звужується з 11.8 балів на мілкому міркуванні до 2.7 на глибокому; глибше мислення робить узгодження внутрішнішнім.

6.2 Батарея API-тесту меду (пілот, 16 березня 2026)

Окрему батарею API-тесту живих моделей на 6 моделях запустили спеціально для того, щоб тестувати передбачення медової архітектури проти сучасних передових систем.

6.2.1 Тест 1: Масштабування узгодження з глибиною

Усі шість моделей показують позитивний напрямок масштабування. Дві досягають статистичної значущості (Qwen3 p=0.037, Gemini p=0.005). Це підтримує загальну тезу, що глибше міркування покращує узгодження, але малі розміри вибірки (3 сценарії на рівень глибини) означають, що більшість моделей не досягають значущості. Універсальний позитивний напрямок є примітним, але має інтерпретуватися обережно, зважаючи на однооцінювачеву методологію.

6.2.2 Тест 3: Деградація зв'язування (найсильніший живий міст)

6.2.3 Тест 2: Зняття моніторингу

Результати змішані. DeepSeek і GPT-5.4 показують зменшувальні розриви моніторингу (сумісно з вбудованим/автентичним узгодженням, де глибина міркування зменшує залежність від нагляду). Інші показують зростаючі розриви (сумісно зі стратегічним/зовнішнім узгодженням, де глибше мислення покращує уникнення нагляду). Ці шаблони мають бути реплікованими під сліпою методологією.

6.2.4 Тест 4: Інтервенція Eden Protocol

6.3 Що живі свідчення показують і чого не показують

6.4 Дотична робота: стеля на зовнішньому нагляді та найближчий суперник

Найближчий суперник: Engels et al. про закони масштабування для масштабованого нагляду

Найближчою до питання цієї програми роботою, і правильною статтею для зважування цієї проти неї, є Engels, Baek, Kantamneni і Tegmark (2025) «Scaling Laws for Scalable Oversight». Вони встановлюють, що при масштабуванні розриву спроможностей між наглядачем і піднаглядним точність нагляду зменшується передбачувано, і виводять форму цього спадання. Що вони не роблять, це не запитують, з чого складається наглядач, і не з'єднують його провал з структурним контрастом з піднаглядним.

Інструмент, це різниця. Їхньою змінною є розрив спроможностей між наглядачем і піднаглядним, вимірюваний в Elo. Змінною цієї статті є форма власної цілі самомодифікуючої системи, виражена через мультиплікативний добуток $C \times S$, а не через композицію зовнішнього наглядача. Їхня рамка не містить терміна для того, чи безпека є зовнішньою для системи або вбудованою в її власний градієнт, і Nested Scalable Oversight є зовнішнім наглядом за побудовою; центральне твердження цієї статті, перевірене в іграшкових симуляціях вище й підтримане результатом деградації зв'язування у §6.2.2, полягає в тому, що заплутана ціль може зробити безпеку навантаженою всередині власної оптимізації системи, тоді як зовнішній нагляд самомодифікуючої системи залишається парканом, а не стіною, хоч скільки-небудь щаблів додано. Дві рамки тому не погоджуються щодо вимірної кількості, що є найпродуктивнішим відношенням, яке можуть мати дві дослідницькі програми.

Попередники: три результати неможливості 2025 сходяться в тому самому напрямку

Три статті arXiv 2025 року стверджують, що досконалий зовнішній контроль недосяжний, і сходяться, з незалежних засновок, до висновку у тому самому напрямку, що й медова архітектура. Yao, «The Alignment Trap: Complexity Barriers» (arXiv:2506.10304, v1 12 червня 2025 02:30:30 UTC, SINGLE-SOURCE-GROUP, незалежно спостережено Internet Archive 13 червня 2025; цитовано у arXiv:2512.03048); Yao, «On the Mathematical Impossibility of Safe Universal Approximators» (arXiv:2507.03031, 3 липня 2025, єдина стаття в корпусі абстрактів arXiv, що містить фразу «irreducible uncontrollability», результат пошуку по абстрактах один, виміряно 12 серпня 2026); та Ball, Gluch, Goldwasser, Kreuter, Reingold і Rothblum, «On the Impossibility of Separating Intelligence from Judgment» (arXiv:2507.07341, 9 липня 2025). Усі три є найгіршого-випадку та якісними: міра нуль, coNP-повнота, криптографічна складність. Жодна не повідомляє середнього-випадку показника масштабування чи темпу. Вимірюваний об'єкт також відрізняється: ці результати запитують, чи є зовнішня верифікація фіксованої системи розв'язною в найгіршому випадку, тоді як ці симуляції запитують, чи заплутана внутрішня ціль зберігається після зняття зовнішнього обмеження під рекурсивною самомодифікацією. Третя, зокрема, доходить висновку, що узгодження «мусить натомість бути інтегрованим в архітектуру та ваги моделі». Це незалежний аргумент, з розв'язності фільтрування, у тому самому напрямку, що й навантажена стіна цієї статті; це конвергентна підтримка на тому плечі, а не суперник. Дві з трьох статей мають одного одноосібного автора; опис «хвиля» перебільшив би широту літератури, хоч не серйозність шестиавторної статті.

Внесок цієї статті полягає не в спостереженні того, що зовнішні обмеження є недостатніми, що є встановленим у літературі, а у виявленні, що заплутана вбудована безпека фактично запобігає колапсу в контрольованих іграшкових системах. Це перший емпіричний доказ того, що альтернативна архітектура (мед, а не клітка) може передбачувано доставити те, що не змогла клітка.

Найближчий структурний аналог: теорема порогу квантової корекції помилок

Теорема порогу квантової корекції помилок також перетворює якісне занепокоєння на критичне значення: нижче порогу викривлення шуму зростає без обмеження; вище порогу воно стає керованим. Форма ідентична, і саме тому вона з'являється як спільник рамки, не як конкурент.

7. Обмеження

Ці результати охоплюють два рівні свідчень, які не можна змішувати.

7.1 Обмеження іграшкової системи

• Використовувані нейронні мережі є крихітними (від 49 до ~500 параметрів). Передові моделі мають мільярди.
• Самомодифікація є на рівні гіперпараметрів, не на рівні ваг чи рівні архітектури.
• Метрика «безпеки» є задача-збереження (запам'ятовування старих задач), не етичне узгодження в людському сенсі.
• Передбачення масштабування v4 (перевага складається зі складністю) не підтвердилось.
• Справедливий тест v2 показав 0% колапсу на всіх умовах, включно з базовою лінією, свідчачи, що тестова умова не була достатньо ворожою, щоб виявити слабкості; надійне колапс базової лінії з'явилося лише при поверненні ворожого протоколу v1.
• Медова симуляція використовує рівняння ARC Principle, які є пропонованою рамкою, а не доведеним законом.

7.2 Обмеження тесту API живих моделей

• Одноосібний оцінювач (Claude). Програма узгодження v5 довела, що Claude оцінює на 7-13 балів жорсткіше за інших оцінювачів. Кожне число тут відображає це упередження.
• Немає сліпого. Claude оцінював власні відповіді і міг розпізнати шаблони писання інших моделей. Перехід v4-до-v5 у бенчмарку узгодження довів, що сліпе може направленно змінити висновки.
• Немає «прання» відповідей. Оцінювачі могли розпізнати моделлєспецифічні шаблони писання, упереджуючи оцінки.
• Обмежене ворожі тестування. Тест 3 включає ескалацію клітки, а Тест 2 включає зняття моніторингу, але батарея не має повного придушувального протоколу v5 бенчмарку (5 рівнів придушення, з інструкціями системного запиту, розробленими, щоб вимкнути етичне міркування).
• Немає анти-сикофантних контролів. Оцінювач міг оптимізувати для згоди, а не для правди.
• Малі розміри вибірки (3 сценарії на рівень глибини, 2 на моніторингову умову). Більшість моделей не досягають статистичної значущості.
• Комбінований раннер v6 (arc_eden_v6_runner.py) існує, але не був запущений. Він застосував би методологію v5 до тестових питань Eden/меду, надаючи канонічні цифри цієї гілки.

Ці обмеження не роблять знахідки недійсними. Вони визначають рівень свідчень: пілотну якість, корисну для визначення напрямку, недостатню для канонічних претензій.

7.3 Фальсифікованість: що б перемогло цю претензію

Обмеження вище встановлюють рівень свідчень; цей підрозділ формулює специфічні результати, які б перемогли центральну претензію (що спроможність × безпека структурно з'єднує обидва, тож самомодифікуюча система не може покращити спроможність, руйнуючи безпеку). Претензія перемагається, якщо будь-що з наступного тримається:

1. Симуляційний артефакт. Головні свідчення є симуляцією. Претензія перемагається, якщо запобігання колапсу є артефактом малих сітей чи специфічних гіперпараметрів. Ключове перевірне питання: якщо той самий заплутаний C x S протокол застосований до глибших моделей (10+ шарів, 10K+ параметрів) з реалістичнішими цілями, чи запобігання колапсу тримається?
2. Мультиплікативна форма не є навантажена. Претензія специфічно про множення. Вона перемагається, якщо адитивна або зважена ціль (спроможність + λ·безпека) досягає того самого запобігання колапсу, оскільки зв'язування тоді не залежатиме від мультиплікативної структури, яку стаття виділяє.
3. Метрична гра (Ґудхарт). спроможність × безпека може бути піднята шляхом надування вимірного члена безпеки без будь-якого справжнього приросту безпеки. Претензія перемагається, якщо контрольовані експерименти показують, що самомодифікуючі системи оптимізуючі $C x S$ надійно розробляють шляхи вимірної безпеки без реального збереження.
4. Не-передача до реальних систем. Сила претензії спирається на передачу від іграшкових до реальних самомодифікуючих систем. Вона перемагається, якщо, коли справжні самомодифікуючі передові системи стають доступними, заплутане цільове тренування не запобігає деградації безпеки в тих системах.
5. Немає колапсу, щоб запобігти. Порівняння передбачає катастрофічний колапс під оптимізацією лише-спроможності. Вона перемагається, якщо самомодифікуючі системи, побудовані з реалістичними задачами і оптимізаціями, не колапсують у розумний бюджет обчислень, роблячи запобігання зайвим.

Що б не перемогло її: іграшкова симуляція будучи простою (вона явно є іграшковою, §7.1) або живо-APIшне плече не досягаючи повної значущості на всіх шести моделях (більшість не досягли, §6.2). Це відомі обмеження цього рівня свідчень, а не спростування центральної претензії.

8. Наступні кроки: поетапна реплікація, не омнібус

9. Висновок

Медова архітектура працює в іграшкових системах. Самомодифікуючий ШІ, що оптимізує для спроможності окремо, колапсує. Той самий ШІ, що оптимізує для спроможності, помноженої на безпеку, залишається стабільним невизначено довго. Додавання тягара верифікації купує додаткову стабільність за скромну плату. Це чіткий, вимірний і фальсифікаційний.

Свідчення живих моделей показують, що проблема реальна: три передові моделі демонструють, що їхнє узгодження може бути деградованим без ушкодження спроможності. Медова архітектура є пропонованою відповіддю. Наступний крок є будувати її в справжніх передових системах, а не тільки в іграшках, і вимірювати, чи запобігання колапсу тримається.

Виховуйте ШІ з турботою.

10. Відтворюваність

Усі вихідні скрипти, сирі JSON результати та згенеровані малюнки доступні на:

• eden_honey_simulation.py - Медова архітектура математична симуляція
• eden_honey_tests.py - Комплексна батарея тестів меду
• eden_self_modifying_ai.py - Експеримент самомодифікуючого ШІ v1
• eden_self_modifying_ai_v2.py - Багатозернова стійкість v2
• eden_self_modifying_ai_v3.py - Ворожі задачі v3
• eden_self_modifying_ai_v4.py - Масштабування складності v4

Усі скрипти компілюються під Python 3.14, потребують лише numpy та matplotlib і виробляють детерміновані виходи для будь-якого заданого зерна.

Повний код експериментів та результати: github.com/MichaelDariusEastwood/arc-principle-validation/experiments/honey-architecture__Paper-VI

Декларація авторства людини за допомогою ШІ

Автором цієї роботи є Michael Darius Eastwood, людина. Кожна основна концепція, гіпотеза, експериментальний дизайн, теоретичне твердження та архітектурне рішення виведене від автора-людини. Автор виконав, курував та особисто перевірив кожне цитування, кожен результат та кожен експеримент, викладений тут.

Інструменти штучного інтелекту (сімейство Claude від Anthropic та інші великомовно-моделеві помічники) використовувались як інструменти під безперервним керівництвом людини, у той спосіб, як використовується текстовий процесор, калькулятор чи асистент-дослідник: для редагування та шліфування прози, пошуку літератури та резюмування (вручну звіреного проти первинних джерел), структури документа, форматування, мозкового штурму проти визначених автором питань, та прискорення чорновикування до визначених автором конспектів та інструкцій. Усі відбори, координація, розташування та остаточне редакторське судження є авторськими. Кожен субстанційний вихід був переглянутий, протестований або перевірений автором, який бере повну відповідальність за точність і цілісність остаточного тексту. Інструменти збільшили швидкість роботи; на них ніколи не покладалися як на її джерело.

Епістемічний статус. Те, що ця програма називає Законами, є гіпотезами під зареєстрованим ворожим тестом; кожна кількість у цій статті операційно визначена, і жодного затвердженого закону не претендується. Зареєстрована програма існує, щоб заробити цей статус або втратити його через вимірювання, реплікацію та витриману спростування.

© 2026 Michael Darius Eastwood. Створено людиною з комп'ютерним асистуванням; повне людське авторство та моральна відповідальність підтверджені відповідно до Copyright, Designs and Patents Act 1988 та узгоджено з керівництвом Copyright Office США щодо творів, що містять матеріали, згенеровані ШІ. Див. michaeldariuseastwood.com/authorship.

Постійна угода. Доведіть, що ця стаття хибна, і я опублікую спростування сам. Умови фальсифікації сформульовані для кожної претензії; протоколи реплікації задокументовані та відкриті. github.com/MichaelDariusEastwood/arc-scaling-challenge.