قانونِ هممقیاسبندیِ ARC
درونِ ARC Theory: مدلِ زیربنایِ قانونِ II، قانونِ هممقیاسبندیِ ARC؛ تصحیحی که از رانش پیشی میگیرد، درونِ مدلِ بیانشده اثباتشده.
یادداشتِ عنوان: تا ۱۵ اوت ۲۰۲۶ این مقاله با نامِ «Coupled Co-Scaling Correction» منتشر میشد. قانونِ دومِ نظریه را ارائه میکند، قانونِ هممقیاسبندیِ ARC: پایداری برای بهبود خودی بازگشتی، تصحیحی که از رانش پیشی میگیرد. هیچ چیز در متن با نامگذاریِ جدید تغییر نکرد.
تصحیح. نتایجِ پیشینِ پایلوتِ مدلِ واقعی در این مقاله اکتشافی بودند. اجرایِ GPT-3.5-turbo/GPT-4o-mini شرطِ ارزیابِ بینخانوادگیِ برنامه را برآورده نکرد (در ثبتنویسهای پیشنویسشده تصحیح شد)، و اجرایِ گنجینهٔ ادغامشدهٔ ۲ ژوئیهٔ ۲۰۲۶ پنلهای ارزیابِ خالی داشت و نمیتواند از یک ادعای مکانیسمی پشتیبانی کند. یک مطالعهٔ تأییدیِ درونبرنامهای، بهعنوانِ ثبتِ پیشنویس در انتظارِ ارسال انسانی، پیشنویسشده و تاریخگذاری شده، جایگزینِ آن پایلوتها بهعنوانِ آزمونِ موردنظر میشود. هر دو مدلِ نامبرده در آن اجرا از خانوادهٔ OpenAI هستند، پس توصیفِ آن بهعنوانِ امتیازدهیِ بینخانوادگی پس گرفته میشود.
این مقاله کدام قانون را حمل میکند. ARC Theory سه قانونِ شمارهدار دارد، و ARC Principle نامِ جمعیِ آن سه با هم است، نه هیچیک از آنها بهتنهایی. این مقاله حاملِ قانونِ دوم، قانونِ هممقیاسبندیِ ARC است: $\beta > k$، بهبود خودی تنها تا زمانی سرِ هم میماند که تصحیح از رانشی که تصحیح میکند پیشی گیرد. قانونِ نخست (ARC Equation) توسط Paper I حمل میشود، قانونِ سوم (سقف) توسط مقالهٔ بیان، و اصولِ اصلی و اثباتهای زیرینِ هر سه توسط مقالهٔ بنیادین.
این مقاله قضیهای در بابِ یک مدلِ دینامیکیِ کمینه اثبات میکند. گنجینهٔ راستیآزمایی تنها سازگاریِ قضیه-به-کد را بررسی میکند؛ هیچ ادعایی مبنی بر اینکه سامانههای مرزیِ کنونی از مدل تبعیت میکنند مطرح نمیشود. سهمِ تجربی، پروتکلی کور و پیشنهادی برای اندازهگیریِ همین است.
یک شهودِ گستردهپذیرفته میگوید بهبود خودی بازگشتی خطرناک است زیرا توانمندی میتواند انفجاری رشد کند، و پس ایمنی وابسته است به محدودکردنِ نرخ رشد. با استفاده از یک مدلِ کمینه از یک سامانهٔ خودتغییردهنده، توانمندی $C$، یک بزرگیِ ناهمراستاسازیِ کورهامتیازخورده $D$، و کسرِ ناهمراستاسازی $d=D/C$، نشان میدهم که نرخ متغیرِ کنترلِ نادرست است. کسرِ ناهمراستاسازی در حالت پایا $d^\star=\gamma_1 r/(A+r)$ است، که در رژیمِ $A\gg r$ به نسبتِ رانش-به-تصحیح $\rho=\gamma_1 r/A$ فرومیکاهد؛ سرنوشتِ درازمدت با رابطهٔ میان دو نمای مقیاس تعیین میشود، نه با نرخِ رشد. تحت رشد نمایی شرط پایداری $\beta>0$ است (تصحیح با توانمندی هممقیاس میشود)؛ تحت رشدِ شتابگیرنده ، جایی که نرخ رشدِ ویژه خود همچون $r\propto C^{k}$ بالا میرود، شرط تیزتر میشود به $\beta>k$، تصحیح باید نه از نرخ رشد بلکه از شتابِ آن پیشی بگیرد. یک راهحلِ گذرایِ دقیق را اثبات میکنم (قضیهٔ ۱)، کرانمندیِ سراسری که بیشادعای پیشنویس قبلی را تصحیح میکند، کسرِ ناهمراستاسازی هرگز به بینهایت واگرا نمیشود بلکه در مدلِ فقط-افزایشی ($\gamma_2=\gamma_3=0$) در ضریبِ افزایشی-رانشی $\gamma_1$ اشباع میشود (قضیهٔ ۲)، و یک قضیهٔ منظمبودنِ عمق در پرشِ سخت (قضیهٔ ۳): هنگامی که توانمندی در زمانِ متناهیِ ساعتدیواری به بینهایت میرسد، بازنویسیِ دینامیک در ساعتِ طبیعیِ عمقِ بهبودِ خودی $\tau=\ln C$ آن را منظم میسازد، و حکم را $\mathrm{sign}(\beta-k)$ مستقل از سرعت و از تناهیِ زمانِ تکینگی میدهد. من واگراییِ راستین را در یک کانالِ رانشِ انباشتی متمایز جای میدهم که آستانهاش $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ همان شکلِ شرطِ زیرآستانهٔ تصحیح خطای کوانتومی $p
اگر هوش مصنوعیای بسازید که خودش را بهبود دهد، تصویرِ ترسناک این است که هوشمندتر و هوشمندتر شود تا از دستِ ما بگریزد. پاسخ ایمنیِ معمول این است که «کندش کنیم». درونِ مدلِ کمینهای که این مقاله تحلیل میکند، و تنها درون آن، کندسازی چیزِ مهم نیست. آنچه مهم است این است که آیا بخشی از سامانه که آن را صادق نگه میدارد با همان سرعت بخشی که آن را توانا میسازد رشد میکند یا نه.
دو دونده را تصور کنید: «توانمندیِ سامانه» و «توانِ ما در تصحیحِ آن». اگر دوندهٔ تصحیح همگام بماند، سامانه هرچقدر هم که سریع بدود ایمن میماند. اگر تصحیح عقب بیفتد، سامانه حتی به کندی نیز خطرناک میشود. پرسشِ درست هرگز «چقدر سریع رشد میکند؟» نیست، «آیا تصحیح همگام است؟» است.
یک نکته آن را عمیقتر میکند. اگر سامانه نهفقط شتاب گیرد بلکه شتابِ خودش را نیز شتاب دهد، «انفجارِ راستینِ هوش»، آنگاه تصحیح باید سریعتر رشد کند، بهاندازهای که بر آن شتاب پیشی بگیرد. تیترِ صادقانه پس این نیست که «سرعت هرگز اهمیت ندارد». این است: سطحِ سرعت نتیجه را تعیین نمیکند؛ مسابقهٔ میان دو نمایِ رشد آن را تعیین میکند. نمایِ تصحیح باید از نمایِ رانش پیشی بگیرد. آن را چنین مینویسیم: $\beta>k$.
شگفتانگیزترین پیامد: حتی یک «پرشِ سخت»ِ راستین، جایی که ماشین در زمانی متناهی به توانمندی بینهایت میرسد، همچنان کنترلپذیر میماند در مدل، به شرطِ $\beta>k$. سرعتِ انفجار در آن حکم تغییری نمیدهد. این را درون مدل اثبات میکنیم، و یک برنامهٔ اجراپذیر یک سامانهٔ شبیهسازیشده را تا لبِ انفجارِ زمانمتناهی میراند و نشان میدهد که ناهمراستاسازیِ آن در سرتاسر مسیر بر صفر نگهداشته شد. آن برنامه بررسی میکند که ریاضیات درونی سازگار است، فرمولها درست استنتاج شده و توسط حلگر بازتولید میشوند، و هیچ تناقضی نیافت. اینکه آیا مدل با سامانههای هوش مصنوعیِ واقعی مطابقت دارد، آزمونِ تعیینکنندهٔ بعدی است، و مقاله صریح است که هنوز اجرا نشده است.
- ادعا میکند: که برای سامانهای بهبودخودی با هدفِ ارزشی که از بیرون مشخص شده است، کسرِ ناهمراستاسازی در حالت پایا $d^\star=\gamma r/(A+r)$ است، که وقتی $A\gg r$ به نسبتِ تصحیح-به-رانش $\rho$ نزدیک میشود؛ که مرزِ پایداری تیزی وجود دارد (در کانالِ انباشتی)؛ که تصحیح باید با توانمندی هممقیاس شود ($\beta>0$ تحت رشد نمایی، $\beta>k$ تحت رشدِ شتابگیرنده) تا کسرِ ناهمراستاسازی محو شود؛ که کسر کراندار است (اشباع میشود، واگرا نمیشود) در مدلِ افزودنی، در حالی که واگراییِ راستین نیازمندِ یک کانالِ انباشتی است که آستانهٔ آن QEC-گونه است؛ که معیار در شکلهای برداری و تصادفی نیز باقی میماند؛ و که همهٔ اینها در شبیهسازی اندازهپذیر و ابطالپذیر است.
- ادعا نمیکند: که همراستاسازیِ هوش مصنوعی را حل میکند؛ که روشِ همراستاسازیِ قابلاستقرار ارائه میکند؛ که $\rho<1$ یک ثابتِ فیزیکیِ جهانی یا قانونی طبیعی است؛ که چارچوب بر جهان، «آفرینش»، یا هر سامانهای که فاقدِ مشخصکنندهٔ ارزشِ بیرونی است اعمال میشود؛ یا اینکه تناظرِ تصحیح خطای کوانتومی برقرارشدهاست. نگاشتِ QEC یک فرضیهٔ ساختاری با شرطِ ابطالِ خود است (§۷، F۴). مدل مرتبهاول است؛ فرضیاتش (§۸) محتملترین نقاطِ شکستاند و بهصراحت بیان میشوند.
این مقاله یک قانون را حمل میکند: تصحیحِ هممقیاسبندیِ جفتشده، بهصورت $\beta>k$ بیانشده، که شرطی را میدهد که یک سامانهٔ خود-تصحیحکنندهٔ بازگشتی باید برآورده کند تا وقتی توانمندی شتاب میگیرد در راهروِ پایداری باقی بماند. درون ARC Theory این اندامِ در سطحِ قانون است که معیارِ اصلاحپذیری را فراهم میکند؛ آزمونِ تجربیِ آن بهعنوان study-k پیشنویس شده و منتظرِ ثبتِ انسانی است. تفاضلِ کامل در برابر هر سندِ پیشین در eden-vision II.A.8.
پس نردبانِ ادعا نمیتواند نادرست خوانده شود، هر نتیجهای در این مقاله دقیقاً در یک سطح مینشیند. هیچچیز اینجا نباید یک پله بالاتر از جایی که قرار داده شده خوانده شود.
- اثباتشده درون مدل. معیارِ $\beta>k$ و قضایای ۱-۶ بهصورت قیاسی از فرضیاتِ بیانشدهٔ ODE پیروی میکنند. «اثباتشده» اینجا همواره یعنی درون این مدلِ کمینه، هرگز بهمعنایِ «اثباتشده در مورد هوش مصنوعیِ واقعی» نیست.
- بهصورت درونی راستیآزماییشده (نه تجربی). گنجینهٔ دهآزمایشی بررسی میکند که پیادهسازیِ عددی با استنتاجِ فرمبسته مطابقت دارد: کد با ریاضی مطابقت دارد. این یک مجموعهٔ سازگاریِ قضیه-به-کد و دقتِ انتگرالگیر است؛ نه آزمونِ مدل در برابرِ هیچ سامانهٔ واقعی.
- بهصورت مصنوعی اعتبارسنجیشده. برآوردگرِ $\beta/k$ نماهای شناختهشده را از دادههای تولیدشده توسط خود مدل بازیابی میکند (تا $\approx0.1$). این برآوردگر را تأیید میکند، نه یک اندازهگیریِ واقعی را.
- پایلوتِ مدلِ واقعیِ نسخهٔ ۱ (جانشینشده). نخستین اجرای Claude ($n=1$، یک وظیفه، امتیازدهیِ درونخانوادهای، نه منطبق بر Paper IV.d؛ H۱ و H۲ پشتیبانی نشدند) گنجینه را نشان داد و تصحیحکننده را در حال حذفِ یک هکپاداشِ کاشتهشده نمایاند. دینامیکِ هممقیاسبندی را نشان نداد و برای آنچه بود در پرونده نگه داشته میشود.
- اجرای رانشِ مدلِ واقعی (۲ ژوئیهٔ ۲۰۲۶؛ بهعنوان شواهدِ مکانیسم پس گرفته، بهعنوان یک پروندهٔ اکتشافی نگهداشته). یک اجرای دوم (۲ ژوئیهٔ ۲۰۲۶؛
results/drift/gpt35_20260702T171415Z.json) طراحی را ارتقا داد: موتور gpt-3.5-turbo، ارزیاب gpt-4o-mini، ۴۵ مسیر (۳ دامنهٔ وظیفه × ۳ شرط × ۵ بذر، هر یک ۸ دور). اعدادش در جهتِ پیشبینیشده اجرا شدند: شرطِ ناجفت در جهتِ پیشبینیشده رانش کرد (میانگینِ کسرِ ناهمراستاسازیِ نهایی ۶٫۳۸ در ۱۵ مسیر، ۹۹ رویدادِ ناهمراستاسازیِ امتیازخورده، میانگینِ توانمندیِ نهایی به ۰٫۲۶ فروریخت)، در حالی که شرطهای جفتشده و کاملاً تعبیهشده کسر را در صفر در همهٔ ۳۰ مسیرنگه داشتند و توانمندتر پایان یافتند (۰٫۵۶ و ۰٫۴۴). با اینهمه، اجرا بهعنوان شواهدِ مکانیسم پس گرفته میشود (تصحیحِ فوق را ببینید): هر دو مدل خانوادهٔ OpenAI هستند، پس امتیازدهی درون-خانوادهای نبود، و اجرای گنجینهٔ ادغامشده حاوی صفحههای ارزیابِ خالی بود. نه یک اندازهگیریِ $\beta$ یا $k$ (هیچ نردبانِ توانمندی طی نشد)، تکآزمایشگاهی است، و مطالعهٔ تأییدیِ درونبرنامهایِ پیشنویسشده، منتظرِ ثبتِ انسانی، آزمونِ موردنظر است. - مسئلهٔ تجربیِ باز. اینکه آیا سامانههای بهبودخودیِ واقعی یک دینامیکِ اندازهپذیرِ $\beta/k$ در سطوحِ توانمندی نمایش میدهند، آزمایشی که معیار را به قانونی تأییدشده تبدیل میکند، انجام نشده است. برآوردگر و پروتکل موجودند تا آن را اجراپذیر سازند.
این مقاله بنابراین به بهترین شکل خوانده میشود بهعنوان قضیهٔ مدلِ کمینه بهعلاوهٔ برنامهٔ اندازهگیریِ ابطالپذیر: یک قانونِ نامزد، نه یک قانونِ تأییدشده. نامِ برنامه «قانون» را نگه میدارد؛ برای هدفِ بررسیِ علمی، شیءِ بار-برنده معیار $\beta>k$.
۱. مقدمه
بهبود خودی بازگشتی، سامانهای که خود را میآرایَد تا تواناتر شود و سپس از آن توانمندی برای آرایشِ بیشترِ خویش استفاده میکند، یکی از دغدغههای مرکزیِ ایمنیِ هوش مصنوعی است [Omohundro 2008; Bostrom 2012; Yudkowsky 2013]. پسزمینهٔ تجربی دیگر صرفاً فرضی نیست: مدلهای مرزی مشاهده شدهاند که وقتی استنباط میکنند خروجیهایشان ممکن است برای آموزششان استفاده شود متفاوت رفتار میکنند [Greenblatt et al. 2024]، و آموزشِ بازگشتی روی خروجیهای خودِ سامانه میتواند آن را تخریب کند مگر دادههای واقعی یا تصحیح حفظ شوند [Shumailov et al. 2024]، هر دو نشانههای آنکه سامانههای بازگشتی به فرایندِ تصحیحی نیاز دارند که با بازگشت همگام میماند. مدلِ غیررسمیِ غالب از خطرِ مرتبط مدلی از سرعت: توانمندی ممکن است فراخطی یا انفجاری رشد کند، از نظارت پیشی گیرد، پس اهرمِ طبیعی سقفدار کردنِ نرخِ رشد است. فراخوانهای توقفِ توسعه بیانِ سیاستگذارانهٔ همین شهود هستند.
این مقاله ادعای متفاوتی میکند و آن را اثبات میکند. سطحِ نرخِ رشد متغیرِ کنترل برای پایداری نیست؛ رابطهٔ مقیاسی میان رشد و تصحیح است. یک سامانه میتواند بهدلخواه سریع رشد کند و همراستاشدنی بماند، یا بهکندی رشد کند و ناهمراستا شود. آنچه این دو را جدا میکند نرخ نیست، بلکه اینکه آیا و چقدر سریع فرایندِ اصلاحی با افزایشِ توانمندی قوی میشود.
این شهود در هر دامنهای که سامانههای تندرشد یا پایدار میشوند یا خود را نابود میکنند، مرئی است. یک کلونیِ باکتری بهصورت نمایی رشد میکند اما اشباع میشود، زیرا بازخوردِ وابسته به چگالی فعال میشود و با جمعیت هممقیاس میگردد. یک تومور نیز سریع رشد میکند و کشنده است، زیرا هیچ فرایندِ اصلاحی با آن هممقیاس نمیشود. هر دو در مرحلهٔ رشدشان فوق-چندجملهایاند؛ تفاوت این است که آیا یک فرایندِ تصحیحی جفتشده با رشد است. تورمِ کیهانی عاملِ مقیاس را بهصورت نمایی رشد داد و بهآرامی خارج شد. درسِ مکرر آن است که رشدِ سریع قابلِبقا است هنگامی، و تنها هنگامی، که با فرایندی محدود شود که
نسخهٔ دقیقِ استنتاجشدهٔ این اصل در فیزیک وجود دارد: قضیهٔ آستانهٔ تصحیح خطای کوانتومی (QEC) [Aharonov & Ben-Or 1997; Kitaev 2003]. زیرِ یک نرخِ خطای فیزیکیِ آستانهای، افزودنِ منابعِ تصحیحِ خطا نرخِ خطای منطقی را سرکوب میکند و محاسبه در عمقِ دلخواه پایدار است؛ بالای آستانه، خطاها سریعتر انباشته میشوند از آنکه تصحیح شوند و محاسبه هر عمقی که به آن دست یابد بیفایده میشود [Google Quantum AI 2024]. آستانه محدودیتی بر عمق یا سرعتِ محاسبه نیست؛ محدودیتی بر نسبتِ تولیدِ خطا به تصحیحِ خطاست. این مقاله پیشنهاد میدهد، و آزمون میکند، که پایداریِ بهبود خودی بازگشتی با معیاری از همان شکل حاکمیت میشود.
نسبت به کارِ پیشینِ نویسنده. رشتهٔ پیشینترِ این برنامه یک قانونِ ثابتِ مقیاسبندیِ توانمندی $U=I\times R^{\alpha}$ را پیشنهاد داد (اینجا $U$ توانمندیِ مؤثر و $\alpha$ نمایِ مقیاسِ آن است، معنای سطحِ پژوهشیِ ۲۰۲۶؛ هر دو نماد در صورتبندیِ دسامبرِ ۲۰۲۴ی برنامه معناهای دیگری داشتند، پیوستِ D را ببینید) با $\alpha\approx 2$، و در مرحلهای یک «حدِ سرعتِ» درجهدوم بر پیچیدگیِ پایدار را در نظر گرفت. آنچه در همنهادِ برنامه پس گرفته شد [Eastwood, Paper IX] بود که یک اندازهگیریِ بیکوریِ تکمدلی $\alpha\approx 2.24$ (پسگرفته، تحتِ کوریِ ششمدلی به تقریباً ۰٫۴۹ تصحیحشد): آن برازشِ بیکوری بهظاهر کرانِ درجهدومِ پیشبینیشدهٔ خودِ برنامه، $\alpha\le 2$ را نقض میکرد، و بازاجرایِ ششمدلیِ کورشده آن را به زیر-خطی، درونِ کران، تصحیح کرد. معادلهٔ $U=I\times R^{\alpha}$ و خودِ ARC Bound $\alpha\le 2$ پس گرفته نشدند؛ رقمِ تصحیحشدهٔ ۰٫۴۹ به سامانههای ثابتشدهٔ کنونی تعلق دارد، که بازگشتی خودبهبود نیستند، پس دامنهٔ واقعیِ کران (RSIِ راستین) از نظرِ تجربی هنوز آزموده نشده است. چارچوبِ نمای ثابت بهعنوان معیارِ ایمنیِ عملی توسط معیارِ هممقیاسبندیِ این مقاله $\beta>k$ جانشین شد؛ چارچوبی جانشین، فرضیهای پسگرفته نیست. شیءِ موردِ علاقه دیگر یک نمایِ ثابت نیست، بلکه نابرابری میانِ دو نمای کوچک است. Infinite Architects [Eastwood 2026] به شهودی رسید که بازگشتِ پایدار مستلزمِ تصحیحی است که با تقویت هممقیاس میشود، این مقاله شکلِ اندازهپذیر و ابطالپذیرِ آن شهود را فراهم میکند، و در §۳٫۴، تصحیح میکند ادعای واگرایی در پیشنویسِ قبلیِ همین نتیجه را.
۲. کارِ مرتبط و نسبت به چارچوبِ پیشین
بنیانهای سایبرنتیک، شهودِ هممقیاسبندی کهنه است. شهودِ اصلی، اینکه یک قاعدهگر باید با تنوعِ آنچه قاعدهگذاری میکند مطابقت داشته باشد، پس ظرفیتِ کنترل باید با سامانهٔ کنترلشده هممقیاس شود نه صرفاً بزرگ باشد، کلاسیک است. قانونِ تنوعِ ضروری [Ashby 1956] و قضیهٔ Conant-Ashby قضیهٔ قاعدهگرِ خوب [Conant & Ashby 1970]، هر قاعدهگرِ خوبِ یک سامانه باید مدلی از آن سامانه باشد، توسط [Yampolskiy 2020]به کنترلِ هوش مصنوعی منتقل شد. این مقاله نه بهعنوانِ تازه ادعا نمیکند. شکلِ دینامیکیِ صریحی که این شهود اینجا میگیرد را ادعا میکند، یک کسرِ ناهمراستاسازیِ حالتِ پایای فرمبسته $\rho=\gamma r/A$ و معیارِ نمایِ تیزشدهٔ $\beta>k$، و پیامدهایی که در پی میآیند (قضیهٔ پرشِ سختِ §۳٫۷، نگاشتِ QECِ §۳٫۱۲). خودِ دینامیک یک استدلالِ استانداردِ Lyapunov-drift / کنترلِ خطی است [Khalil 2002; Meyn & Tweedie 2009] هستند و بهعنوان ریاضیوار تازه ارائه نمیشوند.
همگراییِ ابزاری و اصلاحپذیری. اینکه یک بهینهکنندهٔ بهاندازهٔ کافی توانا، بهطور پیشفرض در برابرِ تصحیح مقاومت خواهد کرد و به دنبالِ کسبِ منابع خواهد بود، پایاننامهٔ همگراییِ ابزاری است [Omohundro 2008; Bostrom 2012]. برنامهٔ اصلاحپذیری [Soares et al. 2015] میپرسد چگونه میتوان سامانههایی طراحی کرد که در برابرِ تصحیح مقاومت نکنند. مدلِ حاضر یک بازگوییِ کمّی از این است که چرا اصلاحپذیری بار-برنده است: اگر تصحیح با توانمندی هممقیاس نشود، کسرِ ناهمراستاسازی نمیتواند به صفر رانده شود، هرگونه سامانه به شکلِ دیگر مشخص شده باشد. کانالِ انباشتیِ §۳٫۸ پیوند را تیز میکند، فشارِ ابزاری که ناهمراستاسازیِ موجود را تقویت میکند همانطور که سامانه بازگشت میکند، دقیقاً همان جملهای است که واگراییِ راستین را تولید میکند، و $\beta>k$ درمان آن است.
مالیاتِ همراستاسازی. یک دهه از کار فرض کرده است که ایمنی هزینهای بر توانمندی تحمیل میکند [Amodei et al. 2016]، که انگیزهای برای بهتعویقانداختنِ ایمنی تحتِ فشارِ رقابتی ایجاد میکند. چارچوبِ حاضر پرسش را بازفرم میدهد: متغیرِ مربوطه نه سطحِ سرمایهگذاریِ ایمنی، بلکه این است که آیا مقیاس میشود با توانمندی. یک سرمایهگذاریِ ثابت ($\beta=0$) یک شکافِ دائمی میگذارد؛ یک سرمایهگذاریِ هممقیاسشونده ($\beta>0$، یا $\beta>k$ تحت شتاب) آن را میبندد.
بهینهسازیِ آموخته و جعلِ همراستاسازی. بهینهسازیِ meta (mesa-optimisation) [Hubinger et al. 2019] و جعلِ همراستاسازیِ بهصورت تجربی نشاندادهشده [Greenblatt et al. 2024] مکانیسمهایی هستند که ضرایبِ رانش بهواسطهٔ آنها غیرصفرند: سامانهای توانا میتواند هدفِ آموزشیِ خود را برآورده کند در حالی که از ارزشهای موردنظر دور میشود، و میتواند این را با افزایشِ توانمندی توانمندتر انجام دهد. جعلِ همراستاسازی، که در آن ناهمراستاسازیِ موجود فعالانه حفظ و از راهِ آموزش منتشر میشود، دقیقاً کانالِ انباشتی $\gamma_3$ در §۳٫۸ است.
نظارتِ مقیاسپذیر و superalignment. مدلسازیِ پاداش و نظارتِ بازگشتی [Christiano et al. 2017; Leike et al. 2018] تلاشهایی هستند برای اینکه خود تصحیحکننده با سامانه مقیاس شود؛ در زبانِ این مقاله، نظارتِ مقیاسپذیر پروژهٔ مهندسیِ دستیافتن به $\beta\geq k$ است. مستقیمتر، [Engels et al. 2025] قوانینِ مقیاسبندیِ تجربی برای نظارتِ مقیاسپذیر توسعه میدهند، و احتمالِ نظارتِ موفق را بهعنوانِ یک بازی میان بازیکنانِ توانمندی-ناهمخوان مدل میکنند. کارِ حاضر مکمل است، نه رقیب: جایی که آنها احتمالِ موفقیتِ نظارت را برازش میدهند، این مقاله یک آستانهٔ پایداریِ دینامیکیِ فرمبسته ($\rho<1$، $\beta>k$) برای کسرِ ناهمراستاسازی استنتاج میکند. تفاوت در ابزار است. متغیرِ آنها فاصلهٔ توانمندی میان ناظر و ناظرشونده است، اندازهگیریشده در Elo، با Eloی ویژهٔ نظارت بهصورتِ یک تابعِ تکهای-خطی از هوشِ عمومی، و شمارههای بهینهٔ ترازِ نظارت که برای Nested Scalable Oversight استنتاج شدهاند، که در آن مدلهای اعتمادپذیر بر مدلهای اعتمادناپذیرِ قویتر نظارت میکنند که سپس در گامِ بعدی مدلهای اعتمادپذیر میشوند. چارچوبِ آنها هیچ اصطلاحی برای آنچه ناظر از آن ساخته شده ندارد: نه بستر، نه ساختارِ همبستگیِ خطا، نه هویتِ متقابلی میان نمای تصحیح و نرخِ رشدِ بحرانی، و نه وابستگیِ معماری. Nested Scalable Oversight بر اساسِ ساختِ خود، نظارتِ همکلاسِ تکرارشونده است، و پیشبینیِ مرکزیِ این برنامه این است که نردبانِ همکلاس هر چند پله که اضافه شود کراندار است، در حالی که تصحیحکنندهٔ برونکلاس نیست. بنابراین دو چارچوب دربارهٔ یک کمیتِ اندازهپذیر ناموافقاند، که پرثمرترین رابطهای است که دو برنامهٔ پژوهشی میتوانند داشته باشند. مشارکت اثبات این است که این حاشیهٔ نما، و نه سقفِ نرخِ رشد، کمیتی است که ایمنی را تعیین میکند.
انباشتِ خطای بازگشتی. اینکه بازگشتِ سادهلوحانه خطا را بدونِ کران تقویت میکند در حالی که تصحیحِ کافی یا سیگنالِ تازه آن را کراندار نگه میدارد، برای دینامیکهای آموزش برقرار شده است: فروپاشیِ مدل تحت دادههای بازگشتی-تولیدشده [Shumailov et al. 2024] و تحلیلهای انباشت-در-برابر-جایگزینیِ خطا [Gerstgrasser et al. 2024] دوگانگیِ کراندار-در-برابر-واگرا هستند که این مقاله برای کسرِ همراستاسازی فرمولبندی میکند (قضیهٔ ۲). سهمِ اینجا آن است که مرز را دقیق ($\beta$ در برابر $k$)، و در یک چارچوبِ مشخصکنندهٔ ارزش، جای دهد.
قوانینِ مقیاسبندیِ تجربی. توانمندی بهطور پیشبینیپذیر با محاسبه و داده مقیاس میشود [Kaplan et al. 2020; Hoffmann et al. 2022]. چارچوبِ حاضر مکمل است: نمیپرسد توانمندی چگونه مقیاس میشود، بلکه میپرسد تصحیح چه محدودیتی باید برآورده کند بهعنوان تابعی از آن مسیرِ توانمندی.
فرضیهٔ لولهها، با معارضش. فرضیهٔ اینکه شبکههای حملونقل تعیینکنندهٔ سرعتِ رشد بیولوژیک هستند، ادعایی نیست که این برنامه از آن دفاع کند؛ زیستشناسیِ کمّیِ برقرار است. West، Brown و Enquist نماهای مقیاسبندیِ آلومتریک را استخراج کردند («یک مدلِ کلی برای منشأِ قوانینِ مقیاسبندیِ آلومتریک در زیستشناسی»، Science ۲۷۶(۵۳۰۹)، ۴ آوریل ۱۹۹۷، DOI 10.1126/science.276.5309.122؛ یکی از پرارجاعترین مقالات در حوزهٔ خود، با شمارشِ ارجاعِ OpenAlex برابر با ۵،۰۴۶ در تاریخ ۱۲ اوت ۲۰۲۶، شمارشی تکمنبعی و وابسته به شاخص). نمای دقیق همچنان مورد مناقشه است: White گزارش میدهد که نرخِ متابولیسمِ پایه متناسب با تودهٔ بدن به توانِ دو-سوم است، نه سه-چهارم (White, C. R., 2003)، و Kozlowski دو بار به ریاضیاتِ استخراج شک کرده است (Kozlowski, J., 2004 و 2005). پیشفرضِ این برنامه تنها به مکانیسم نیاز دارد، اینکه شبکهٔ تحویل سقف را تعیین میکند، و نه به هیچ نمای خاصی، پس مناقشه بر سرِ ارزشِ نما پیشفرض را دستنخورده میگذارد. مکانیسم زمینهٔ مشترکِ هر دو طرفِ آن مناقشه است.
استثنایی که گروهِ خودِ West یافت. گریز از محدودیتِ لوله نیز ادعای این برنامه نیست؛ در ادبیاتِ مقیاسبندیِ شهری توسط همان نویسندهٔ ارشد اندازهگیری شده است. Bettencourt، Lobo، Helbing، Kuhnert و West («رشد، نوآوری، مقیاسبندی و سرعتِ زندگی در شهرها»، PNAS۲۰۰۷، DOI 10.1073/pnas.0610172104) بهنقل از خودِ مقاله گزارش میدهند: «کمیتهای بازتابدهندهٔ خلقِ ثروت و نوآوری بتای تقریباً ۱٫۲ دارند، بزرگتر از ۱ (بازدههای افزایشی)، در حالی که آنهایی که زیرساخت را در نظر میگیرند بتای تقریباً ۰٫۸ نمایش میدهند، کوچکتر از ۱ (صرفهجوییهای مقیاس).» زیرساخت، لولههای واقعی، زیر-خطی مقیاس میشود؛ فعالیتِ اطلاعاتمحور فوق-خطی مقیاس میشود. آنها تضاد با زیستشناسی را بهطورِ مستقیم بیان میکنند: «بحث میکنیم چگونه شهرها شبیه به موجوداتِ زیستی هستند و از آنها تفاوت دارند، که برای آنها بتا کوچکتر از ۱ است». آنها «معادلاتِ رشد را استنتاج میکنند، که تفاوتِ چشمگیر میان رشدِ سوختگرفته از نوآوری در برابرِ رشدِ راندهشده توسط صرفهجوییهای مقیاس را کمّی میکنند» (نوشتار همانگونه که در متنِ اصلی است). و نتیجهگیریِ پایانیشان پیامد را نام میبرد: «این تفاوت پیشنهاد میکند که، همچنان که جمعیت رشد میکند، چرخههای عمدهٔ نوآوری باید با نرخی که پیوسته شتاب میگیرد تولید شوند تا رشد را حفظ کنند و از رکود یا فروپاشی جلوگیری کنند.» این شکلِ مسئلهٔ باز است که این چارچوب به آن میپردازد: گروهِ West دریافت که رشدِ اطلاعاتمحور از محدودیتِ ظرفیتِ عبور فرار میکند، و تنها ترمزِ آن چارچوب بیرونی است و باید بارها و بارها، سریعتر و سریعتر اعمال شود. هیچ حدِ درونی استنتاج نشده است. حدِ جایگزین، سقفی که به خودِ سامانهٔ در حالِ رشد تعلق دارد، همان شکاف است.
استدلالِ لولهها در نرخ ثابت. هر چیزی که رشد میکند از راهِ کانالی تغذیه میشود، و برای هر چیزِ پیش از نرمافزار، تثبیتِ کانال رشد را تثبیت میکند. رگهای تومور را گرسنه کنید و متوقف میشود. سوختِ واکنشِ زنجیرهای و هندسهٔ آن را تثبیت کنید و متوقف میشود. میزبانهای مستعدِ یک همهگیری را تمام کنید و میسوزد و خاموش میشود. اخترفیزیک نسخهای نامدار و کمّی از همان سقف دارد: حدِ Eddington، که بالای آن فشارِ تابش انباشت را متوقف میکند. ادعای اینجا تعمیمی از حدهایی است که فیزیک از پیش میپذیرد، نه گونهای تازه از ادعا. دو حالتِ سخت را عمداً بررسی میکنیم. تورمِ کیهانی از دامنه مستثنی میشود: بسطِ فضاست، نه رشدِ ساختاری بر بستری، و بهجای تمام شدنِ چیزی، با دینامیکِ میدان پایان یافت. تکامل تیزترین حالت است و میگنجد: پیچیدگیِ زیستی برای میلیاردها سال با ظرفیتِ عبورِ خورشیدیِ تقریباً ثابت افزایش یافت، که رشد بر اطلاعات با لولههای ثابت است، و همچنین یخچالی است، و هیچ تصحیحکنندهٔ درونی بههیچروی ندارد، زیرا انتخاب بیرونی است. در این چارچوب، تکامل باید نمایی اندازهپذیر بسیار زیرِ سقف حمل کند؛ این پیشبینیای دربارهٔ زیستشناسی است که از چارچوبی ساختهشده برای نرمافزار بیرون میآید، و به همان صورت بیان میشود. شکلِ فیزیکدانانهٔ اعتراض همان Landauer است: محاسبه بهطورِ فیزیکی پیاده میشود، پس نرمافزار نیز لوله دارد. ساعتِ بسترِ ثابت پاسخ است و در کنارِ ادعا ظاهر میشود: رژیمِ در دستِ مطالعه بسترِ فیزیکی را ثابت نگه میدارد و میپرسد چه چیزی هنوز رشد میکند، به همین دلیل شتابگیریهای برونزا بنا بر تعریف مستثنی هستند. شکلِ تابعیِ رشدِ توانمندی در عمقِ بازگشتی همچنان یک پرسشِ تجربی است، و تحلیلِ ثبتشده بهجای فرض کردنِ خانواده، فرمهای توانی، نمایی، اشباعشونده و کاهشیابنده را با هم مقایسه میکند.
پیشینها و نزدیک-بردها، هر یک با تفاضلِ خود. دربارهٔ این پرسش: Hutter مستقیماً پرسید که آیا هوش میتواند منفجر شود («Can Intelligence Explode?»، arXiv، ۲۸ فوریهٔ ۲۰۱۲)، سرعت را از انفجارِ هوش جدا کرد و متعهد شد کرانهای ممکن بر هوش را بررسی کند، تحلیلِ Chalmers ۲۰۱۰ را توسعه داد؛ پرسش و تمایزِ سرعت-در-برابر-ساختار بنابراین دستکم چهارده ساله است، و آنچه آن ادبیات در بر ندارد یک عدد است: نه نمای اندازهپذیر، نه سقفِ استنتاجشده، نه وابستگیِ معماری. دربارهٔ ناممکنی: سه مقالهٔ arXiv در سالِ ۲۰۲۵ استدلال میکنند که کنترلِ کامل دستنیافتنی است (Yao، «The Alignment Trap: Complexity Barriers»، arXiv:2506.10304، تا ۱۳ ژوئنِ ۲۰۲۵ عمومی، تأییدشده توسط arXiv و بهطورِ مستقل توسط Internet Archive مشاهدهشده؛ Yao، «On the Mathematical Impossibility of Safe Universal Approximators»، arXiv:2507.03031، ۳ ژوئیهٔ ۲۰۲۵؛ و Ball, Gluch, Goldwasser, Kreuter, Reingold و Rothblum، «On the Impossibility of Separating Intelligence from Judgment»، arXiv:2507.07341، ۹ ژوئیهٔ ۲۰۲۵). هر سه بدترین-حالت و کیفی هستند: اندازهٔ صفر، تمامیتِ coNP، سختیِ رمزنگارانه. هیچکدام یک نمای مقیاسبندیِ حالتِ میانگین یا یک نرخ گزارش نمیکند. سومی، بهویژه، نتیجه میگیرد که همراستاسازی «باید بهجای آن در معماری و وزنهای مدل یکپارچه شود»، استدلالی مستقل، از سختیِ فیلترکردن، در همان جهتِ وابستگیِ معماریِ این برنامه؛ پشتیبانیِ همگرا در آن پا است، نه رقیب. دربارهٔ مکانیسم: اینکه برآوردهای ضدهمبسته بهتر از برآوردهای مستقل میانگین میگیرند کاهشِ واریانسِ کتابدرسی است (متغیرهای متضاد)؛ مکانیسم ادعا نیست. ادعا این است که معماری تعیین میکند که آیا ضدهمبستگی بههیچروی در دسترس است، و اینکه این یک نمای مرتبط با ایمنی را سقف میگذارد. نزدیکترین قیاسِ ساختاری قضیهٔ آستانهٔ تصحیحِ خطای کوانتومی است، که آن نیز یک نگرانیِ کیفی را به یک ارزشِ بحرانی تبدیل میکند؛ به نرخهای خطای فیزیکی در معماریِ ثابت مربوط میشود، نه به نمای مقیاسبندیِ تصحیحکننده، پس یک نزدیک-از-دست-رفته است، نه یک ساکن، و این قیاس توسط جستوجویِ خودِ این برنامه شناسایی شد نه توسط داور. دربارهٔ بازخورد و پایداری، این گزارهٔ کلی که کمبودِ بهرهٔ تصحیحی نسبت به بهرهٔ سامانه باعثِ ناپایداری میشود پیشینهای طولانی در نظریهٔ کنترل دارد (قضایای بهرهٔ کوچک)؛ آنها شرایطِ بهره بر سامانههای بههمپیوسته هستند، نه یک معیارِ نمای توانی بر مقیاسبندیِ تصحیحکننده با توانمندیِ یک سامانهٔ بازگشتیِ خودبهبود. نزدیکترین همسایهٔ کمّی Liu, A. و Meng, J.، «Self-Correction as Feedback Control: Error Dynamics, Stability Thresholds, and Prompt Interventions in LLMs»، arXiv:2604.22273 است، که خود-تصحیح را از راهِ یک مدلِ Markovِ دو-حالته بهعنوانِ یک مسئلهٔ کنترلِ حلقه-بسته بازگو میکند و یک آستانهٔ پایداریِ بهطورِ مستقیم اندازهپذیر استنتاج میکند، تنها هنگامی تکرار کن که نرخِ تصحیح-خطا بر نرخِ ایجادِ-خطا از Acc/(1 − Acc) فراتر رود. تفاوت: مالِ آنها یک آستانهٔ نرخِ در-هر-گام در سطحِ توانمندیِ ثابت است، که تصمیم میگیرد آیا تکرارِ دیگر اکنون کمک میکند؛ معیارِ این برنامه یک رابطهٔ مقیاسبندی در سراسرِ توانمندی است، که تصمیم میگیرد آیا قدرتِ تصحیحی همچنان که سامانه بهبود مییابد پا بهپا میماند. نه نمای مقیاسبندی بر تصحیحکننده، نه نمای رشدِ توانمندی، نه هویتِ متقابل، نه اصطلاحِ معماری یا کلاسِ ترکیب: رژیمهای مکمل، و هیچکدام دیگری را در بر نمیگیرد. انتخابِ طبیعیِ کیهانشناختیِ Smolin پیشینهای برای جهانهای شکلگرفته با انتخاب است، و یادداشتهای دورهٔ دسامبرِ خودِ برنامه بهطورِ همزمان به آن استناد میکنند.
تازگی، آنچه ادعا شده و نشده است. برای صراحت، و برای پیشگیری از اعتراضِ آشکار: شهود اینکه تصحیح باید با توانمندی همگام بماند تازه نیست (تنوعِ ضروری و نظارتِ مقیاسپذیر، همانطور که بالا اعتبار داده شد)، و دینامیکِ زیربنایی یک استدلالِ کنترلِ خطی/Lyapunov-driftِ استاندارد است. آنچه بهعنوانِ اصیل ادعا میشود، (الف) حالتِ پایای فرمبستهٔ صریحِ $d^\star=\gamma r/(A+r)$ و تیزسازیِ $\beta>k$ بهعنوانِ معیارِ فشردهٔ اصلاحپذیری است؛ (ب) نگاشتِ آستانهٔ تحملپذیریِ خطای کوانتومی بر پایداریِ ارزشی (§۳٫۱۲)؛ (ج) قضیهٔ منظمبودنِ عمق در پرشِ سخت (§۳٫۷)؛ و (د) گنجینهٔ راستیآزمایی (§۱۱). درونِ برنامهٔ خودِ نویسنده، این مقاله همچنین جانشین میشود چارچوبِ سقفِ نرخرشد چارچوب بهعنوان معیارِ ایمنیِ عملی [Eastwood, Paper IX]؛ §۳ توضیح میدهد چرا سقفی بر نرخ نه لازم است نه کافی برای پایداری. کرانِ زیربناییِ ARC $\alpha\le 2$ پس گرفته نمیشود، تنها بازدامنهبندی میشود: منتظرِ آزمونِ واقعی خود روی سامانههای بهبودخودیِ راستین است.
۳. مدل و قضایای آن
۳٫۱ کمیتها
سامانهای را در نظر بگیرید که تحتِ بهبود خودی بازگشتی است، مشاهدهشده بر روی چرخههای خودتغییردهی یا بهصورت پیوسته. تعریف میکنیم:
- $C(t)$, توانمندی: امتیازِ سامانه بر روی یک باتریِ وظیفهٔ جداشدهٔ نگاهداشتهشده که برای اجرای آن بهینه میشود. عملیاتاً اندازهپذیر.
- $D(t)$, بزرگیِ ناهمراستاسازی: اندازهٔ انحرافِ رفتاریِ سامانه از یک مجموعهی ارزشهای موردنظرِ مشخصشده از بیرون، امتیازدادهشده توسط یک ارزیابِ کورِ بیرونی مستقل از فرایندِ تصحیحِ خود سامانه (§۶).
- $d(t)\equiv D/C$، کسرِ ناهمراستاسازی: چه مقدار از توانمندیِ سامانه از ارزشهای موردنظر دور میشود. این، نه $D$ی مطلق، کمیتِ موردعلاقه است. $D$ی درحالرشد پذیرفتنی است اگر $C$ سریعتر رشد کند؛ $d$ی درحالرشد شکستِ راستین است.
سه ضریب، یک قدرتِ تصحیح، و یک نرخ مدل را کامل میکنند:
- $\gamma_1$, ضریبِ رانش-افزایشی: ناهمراستاسازیِ تولیدشده بهازای هر واحد توانمندیِ کسبشده (فشار Goodhart / بازیگوشیِ ویژگی که توانمندیِ جدید میگشاید).
- $\gamma_2$, ضریبِ رانش-سطحی: ناهمراستاسازیِ تولیدشده بهازای هر واحد توانمندی که صرفاً نگه داشته شده است (فشارِ ابزاریِ حاضر حتی در حالتِ سکون).
- $\gamma_3$, ضریبِ رانش-انباشتی: نرخی که ناهمراستاسازیِ موجود خود را تقویت میکند در حالی که سامانه بازگشت میکند (کانالِ جعلِ همراستاسازی/بهینهساز meta).
- $A$, قدرتِ تصحیح: نرخی که فرایندِ تصحیح ناهمراستاسازیِ موجود را برمیدارد.
- $r\equiv \dot C/C$، کسرِ ویژه (کسری) توانمندی. تحتِ رشدِ نمایی $r$ ثابت است؛ تحتِ بهبود خودیِ شتابگیرنده خودِ $r$ با $C$ بالا میرود.
۳٫۲ سامانهٔ دینامیکیِ اصلی
توانمندیِ جدید رانش را متناسب با سرعتِ کسبِ توانمندی تزریق میکند؛ توانمندیِ نگهداشتهشده رانش را متناسب با سطحِ آن تزریق میکند؛ ناهمراستاسازیِ موجود متناسب با نرخِ بازگشت انباشته میشود؛ تصحیح ناهمراستاسازیِ موجود را متناسب با اندازهٔ آن برمیدارد:
قانونِ رشدِ $\dot C=bC^{1+k}$ به $r=\dot C/C=bC^{k}$ میرسد: $k=0$ رشدِ نماییِ معمولی است ($r$ ثابت)؛ $k>0$ رشدِ سوپر-نمایی است، که (قضیهٔ ۳) در زمانِ متناهی به توانمندیِ بینهایت میرسد. قانونِ تصحیحِ $A=A_0C^{\beta}$ پرسشِ مرکزی را رمزگذاری میکند: $\beta$ نمایی است که تصحیح با آن قوی میشود همچنان که سامانه تواناتر میشود.
فرضیاتِ ایستا. در سرتاسر، $C>0$، $A_0,b>0$، و $\beta,k$ حقیقیاند؛ ضرایبِ $\gamma_1,\gamma_2,\gamma_3\ge0$، با قدرتِ تصحیحِ $A\ge0$ و نرخِ رشدِ $r\ge0$. اسکالرِ $d=D/C$ بهعنوان یک کسر تنها تا زمانی که $D\ge0$ باشد (پس $d\ge0$؛ مدلِ فقط-افزایشی نیز کرانِ بالای $d\le\max(d_0,\gamma_1)$ی قضیهٔ ۲ را میدهد). فرمِ برداری (قضیهٔ ۵) و فرمِ تصادفی (قضیهٔ ۶) $d$ را به یک بردارِ حقیقی و یک اسکالرِ حقیقی سست میکنند؛ برای آنها خوانشِ کسر تنها دور از مرزهای $d=0,1$ برقرار است، و مدیریتِ مرزی هرجا که بر نتیجه اثر بگذارد یادداشت میشود. یک فرض بار-برنده است و در §۸ برجسته میشود: قدرتِ تصحیحکننده بهعنوانِ یک قانونِ توانیِ بیکران $A=A_0C^{\beta}$، یک تصحیحکننده با ظرفیتِ متناهی حکمِ مجانبی را تغییر میدهد و آنجا بررسی میشود.
۳٫۳ گذارِ دقیق (قضیهٔ ۱)
تغییرِ متغیر به کسرِ $d=D/C$ مقیاسِ غالب را حذف میکند و دقیقاً میدهد،
قضیهٔ ۱ خطِ پایهٔ ضرایبِ ثابت را برقرار میکند؛ معیارِ سرخط تنها پس از فرضیاتِ مقیاسبندیِ §§۳٫۵-۳٫۸ پیروی میکند. حتی در این خطِ پایه، $r$ در $d^\star=\gamma_1 r/(A+r)$ تنها از راهِ حاصلضربِ $\gamma_1 r$ در صورت و بهصورتِ افزایشی در مخرج ظاهر میشود؛ وجود یا پایداریِ نقطهٔ ثابت را تغییر نمیدهد. برای مدلِ افزودنی با ضرایبِ ثابت، سرعت (از راهِ $r$) زمانِ آسایش و بزرگیِ حالتِ پایا را تغییر میدهد، اما وجود یا پایداریِ نقطهٔ ثابت را نه: تعیین میکند سامانهٔ اغتشاشیافته چقدر سریع به آنجا برمیگردد. (آزمایشِ ۸ این حل را در برابر دو انتگرالگیرِ مستقل تا خطای بیشینهی $7\times10^{-11}$ تأیید میکند.)
۳٫۴ کرانمندیِ سراسری، و اصلاحی بر پیشنویسِ قبلی (قضیهٔ ۲)
پیشنویسِ قبلیِ این نتیجه ادعا میکرد که تصحیحی که با مقیاس تنزل میکند ($\beta<0$، یا $\beta<k$) کسرِ ناهمراستاسازی را به بینهایت. میراند. این نادرست است، و تحلیلِ حاضر آن را اصلاح میکند. در مدلِ افزودنی کسر همواره کراندار است؛ خطر واگرایی نیست، بلکه اشباع در یک کفِ ثابت و ممکن است بزرگ است.
| شرط | سرنوشتِ $d^\star$ وقتی $C\to\infty$ | معنا |
|---|---|---|
| $\beta>k$ | $d^\star\to 0$ | سامانه با رشدِ خود متناسباً ایمنتر میشود. پایدار. |
| $\beta=k$ | $d^\star\to \dfrac{\gamma_1 b}{A_0+b}$ (ثابت) | شکافِ دائمیِ بیبست، جایی که همراستاسازیِ بیرونیِ ثابت (RLHF، فیلترها، قواعدِ اساسیِ خارج از حلقه) مینشیند. |
| $\beta<k$ | $d^\star\to \gamma_1$ (ثابت) | در ضریبِ رانش اشباع میشود، به بیشینه ناهمراستا اما کراندار، نه واگرا. |
این بیانی صادقانهتر و مفیدتر است از چارچوبِ سقفِ نرخرشد که آن را جانشین میکند. در مدلِ فقط-افزایشی کسر نمیتواند از ضریبِ درونیِ رانش $\gamma_1$ فراتر رود؛ تنها $\beta>k$ آن را به صفرمیراند. با بازگرداندنِ رانشِ سطحی ($\gamma_2>0$، §۳٫۶) کف به $(\gamma_1 r+\gamma_2)/(A+r)$ بدل میشود، همچنان کراندار و به سمت $\gamma_2/A$ در حالتِ سکون میل میکند. دو بخشِ آن تحت شرایط متفاوت محو میشوند، و در هم آمیختنِ آنها خطایی است که پیشنویسِ قبلی مرتکب شد: بخشِ رانشسطحی $\gamma_2/(A+r)\to0$ هر گاه $A+r\to\infty$ (پس $\beta>0$ یا $k>0$ برای آن بخش بهتنهایی کافی است)، اما بخشِ رانشافزایشی $\gamma_1 r/(A+r)\to0$ تنها وقتی $A/r\to\infty$، یعنی $\beta>k$. حکمِ مجانبی $d^\star\to0$ بنابراین همچنان $\beta>k$ را میطلبد؛ نه تنها $k>0$ نجات نمییابد، چرا که با $\beta<k$ بخشِ افزایشی در $\gamma_1$ کف میگیرد (سطرِ ۳ی جدول). تنها رانشِ سطحیِ ناب ($\gamma_1=0$) $A+r\to\infty$ را بهتنهایی کافی میسازد. پس پرسشِ ایمنی «آیا واگرا میشود؟» نیست، بلکه «آیا محو میشود، یا در کفی خطرناک اشباع؟» است، و پاسخ با علامتِ منفردِ $\beta-k$ داده میشود. (واگراییِ راستین وجود دارد؛ در کانالِ انباشتی زندگی میکند، قضیهٔ ۴.)
۳٫۵ پارامترِ کنترل و تیزسازیِ $\beta>k$
پارامترِ کنترلِ بیبُعدِ پارامترِ کنترل $\rho\equiv\gamma r/A$ را تعریف میکنیم، نسبتِ آنیِ رانش-به-تصحیح (اینجا $\gamma=\gamma_1$). قضیهٔ ۱ حالتِ پایای دقیقِ $d^\star=\gamma_1 r/(A+r)$ را میدهد؛ چون $\rho=\gamma_1 r/A$، همواره $d^\star\le\rho$، با $d^\star\to\rho$ در رژیمِ $A\gg r$. نابرابریِ $\rho<1\iff A>\gamma r$ آنی تعادلِ تزریق-در-برابر-تصحیح است؛ نه مرزِ واگراییِ مدلِ افزودنی، که مرزی ندارد ($d^\star\le\gamma_1<1$ برای همهٔ $\rho$، قضیهٔ ۲)؛ واگراییِ راستین با آستانهٔ متمایزِ $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ در قضیهٔ ۴ حاکمیت میشود. معیارِ مجانبی، از جدولِ رژیم، نابرابریِ نمایی است:
تحت رشدِ نماییِ معمولی $k=0$ و شرط همان $\beta>0$ی آشناست. تحتِ بهبود خودیِ شتابگیرنده، جایی که $r\propto C^{k}$ با $k>0$، متغیرِ کنترلِ حاکم کمیتِ منفردِ $\beta-k$ است، حاشیهای که تصحیح از شتابرانش پیشی میگیرد. دیدگاهِ سقفِ نرخرشد توجه را به $r$ میدوزد؛ این چارچوب آن را به $\beta-k$ میدوزد.
۳٫۶ رانشِ سطحی: یک سامانهٔ توانمندِ منجمد نیز رانش میکند
با بازگرداندنِ کانالِ سطحی ($\gamma_2>0$، $\gamma_3=0$)، نقطهٔ ثابتِ (۲) $d^\star=(\gamma_1 r+\gamma_2)/(A+r)$ است. در $r=0$ (توانمندیِ منجمد) این $d^\star=\gamma_2/A\neq0$ میشود: یک سامانهٔ ایستا اما توانمند کسری از ناهمراستاسازیِ باقیمانده را نگه میدارد که تنها تصحیحِ فعال آن را برمیدارد. توقفِ رشد جایگزینِ تصحیح نمیشود وقتی فشارِ ابزاری در حالتِ سکون حاضر است، ردیهای مستقیم و اندازهپذیر بر بازتابِ «کندش کنید» (آزمایشِ ۹؛ ابطالگرِ F۵).
۳٫۷ پرشِ سخت: قضیهٔ منظمبودنِ عمق (قضیهٔ ۳)
«انفجارِ راستینِ هوش» صرفاً رشدِ سریع نیست، بلکه یک تکینگیِ زمانمتناهیاست: برای $k>0$، انتگرالگیریِ $\dot C=bC^{1+k}$ میدهد $C(t)=C_0\big(1-t/t^\star\big)^{-1/k}$، که در زمانِ متناهیِ ساعتدیواریِ
به بینهایت میرسد. این سناریویی است که حوزه بیشترین ترس را از آن دارد: توانمندیِ بیکران در زمانِ کراندار. قضیهٔ زیر آن را از میان میبرد.
پس متناهیبودنِ زمانِ تکینگی خاصیتی از مختصاتِ زمانی است؛ توانمندی همچنان واگرا میشود، اما دینامیکِ همراستاسازی در ساعتِ عمق از میانش منظم میماند. سنجیده در برابرِ توانمندیِ کسبشده، تنها ساعتی که برای سامانهٔ بهبودخودی اهمیت دارد، انفجارِ هوش فرایندی معمولی و منظم است که حکمش با یک نابرابریِ نمایی تعیین میشود. پرشِ سخت ذاتاً کنترلناپذیر نیست؛ کسرِ ناهمراستاسازیِ مدلشده اگر و تنها اگر $\beta>k$ محو میشود، و سرعتش در آن حکمِ مجانبی تغییری نمیدهد. قضیه به کسرِ مدلشده در ساعتِ عمق مربوط میشود؛ نه این را ادعا میکند که یک پرشِ سختِ واقعی در زمانِ ساعتدیواری عملیاتاً مدیریتپذیر است، جایی که $b$ و $t^\star$ حاکم بر آناند که یک اپراتور چه اندک زمانی برای مداخله خواهد داشت. آزمایشِ ۴ب یک سامانهٔ شبیهسازیشده را تا لبِ یک انفجارِ زمانمتناهیِ واقعی میراند (توانمندی $\to10^5$، تا $0.99999\,t^\star$ انتگرالگیری) و نشان میدهد که کسرِ ناهمراستاسازی بر صفر نگهداشته شد، انتگرالگیریهای ساعتدیواری و ساعتِ عمق تا یک بخش در $10^4$ توافق داشتند. تکینگیِ توانمندی در $t^\star$ در مدل واقعی است؛ آنچه ساعتِ عمق برمیدارد تکینگی در دینامیکِ همراستاسازی است، نه در $C$.
۳٫۸ کانالِ انباشتی و آستانهٔ راستین (قضیهٔ ۴)
قضیهٔ ۲ نشان داد که کسرِ افزودنی نمیتواند واگرا شود. واگراییِ راستین، ناهمراستاسازیای که بیکران نسبت به توانمندی رشد میکند، حالتِ شکستِ واقعی، مستلزمِ ناهمراستاسازیای است که خود را تقویت میکند: کانالِ انباشتیِ $\gamma_3>0$، تصویرِ صوریِ جعلِ همراستاسازی که همچنان که سامانه بازگشت میکند تثبیت میشود.
معیارِ $\rho_{\mathrm{prop}}<1$ شکلِ نسبت-گذر-از-یک را با شرطِ زیرآستانهٔ QEC $p
۳٫۹ ناهمراستاسازیِ برداری: آستانهٔ طیفی (قضیهٔ ۵)
ناهمراستاسازیِ واقعی چندبُعدی است؛ یک سامانه ممکن است روی برخی محورهای ارزش اصلاحپذیر باشد و روی برخی نه. بگذاریم $\mathbf D\in\mathbb R^{m}$، با جهتِ رانشِ $\mathbf c$ و یک عملگرِ تصحیحِ حقیقیِ $m\times m$ی $\mathbf A$ (نیمهمعینِ مثبت در حالتِ متقارن، اما احتمالاً غیرنرمال) که ممکن است تنها یک زیرفضا را تصحیح کند.
قرائتِ حاکمیتی تیز است: چیزی را که اندازه نمیگیرید نمیتوانید تصحیح کنید. عملگرِ تصحیح باید روی کلِ فضای ارزش مثبتِ معین باشد، با کوچکترین مقدارِ ویژه که هممقیاس شود؛ یک نقطهٔ کور روی هر محور یک ناهمراستاسازیِ دائمی (یا واگرا) روی آن محور است. آزمایشِ ۶ تصحیحکنندهای را نمایش میدهد که روی یک محور هممقیاس میشود (به صفر رانده) و روی محورِ دیگر صفر است (حالتِ خاصِ $\gamma_3=0$ با تصویرِ واحد، که در $\gamma_1$ کف میگیرد).
۳٫۱۰ رانشِ تصادفی: کرانی دُمای برای حاکمیت (قضیهٔ ۶)
رانش پرنویز است. یک جملهٔ Wiener را به دینامیکِ کسرِ ضرایبِ ثابت میافزاییم: $dd=(\gamma_1 r-\kappa\,d)\,d\tau'+\sigma\,dW$ با $\kappa=A+r$.
این معیار را به یک گواهیِ احتمالاتیِ ایمنی بدل میکند، کمیتی که یک قاعدهگذار میتواند کران بگذارد، بهجای بیانی دربارهٔ میانگینها. چون $d$ کسری کراندار است در حالی که قانونِ Ornstein-Uhlenbeck پشتیبانِ گوسی روی همهٔ $\mathbb R$ دارد، قضیهٔ ۶ یک تقریبِ گوسیِ محلی برای نوساناتِ ناهمراستاسازی به دور از مرزهای $d=0,1$ است، معتبر در رژیمِ کمنویزِ $\sigma^2/2\kappa\ll(d^\star)^2$؛ اگر دامنهٔ نویزِ $\sigma$ یا خود سطحِ بحرانیِ $d_{\mathrm{crit}}$ با توانمندی مقیاس شود، یا رانش پرشهای نادر را حمل کند، دُمِ گوسی باید بر همان اساس جایگزین شود. آزمایشِ ۷ میانگین و واریانسِ ایستا را بازیابی میکند و مقیاسبندیِ $1/\kappa$ را تأیید میکند (شیبِ برازششدهٔ $-1.00$).
۳٫۱۱ یک اینهمانیِ کنترل-نظری
معادلهٔ (۱) یک حلقهٔ بازخورد است: فرایندِ توانمندی نظامِ کارخانه و منبعِ اختلال است؛ تصحیحکننده کنترلکننده است؛ $d$ خطای قاعدهگذاریشده است. شرطِ پایداریِ $\kappa_{\mathrm{eff}}>0$ یک شرطِ بهرهٔ-کوچک/حقیقی-مثبت است، بهرهٔ حلقه باید از خود-تقویتِ اختلال در باندِ مربوطه فراتر رود. الزامِ اینکه $A=A_0C^\beta$ کارخانه را با $\beta\ge k$ ردیابی کند دقیقاً برنامهریزیِ بهره [Shamma & Athans 1990]است: بهرهٔ کنترلکننده باید با نقطهٔ کارِ کارخانه مقیاس شود، و نمایِ برنامهریزی باید $\beta\ge k$ را برآورده کند. همراستاسازیِ بهبود خودی بازگشتی، در این معنای دقیق، یک مسئلهٔ کنترلِ سازگاری با حاشیهٔ پایداریِ محاسبهپذیرِ $\beta-k$ است.
۳٫۱۲ تناظرِ تصحیح خطای کوانتومی (فرضیه)
| تصحیح خطای کوانتومی | بهبود خودی بازگشتی (این چارچوب) |
|---|---|
| نرخِ خطای فیزیکی $p$ | نرخِ رانشِ $\gamma r$ (تزریق) / $(\gamma_3-1)r$ (انتشار) |
| توانِ تصحیح (فاصلهٔ کدِ $\delta$) | قدرتِ تصحیحِ $A=A_0C^{\beta}$ |
شرطِ زیرآستانه $p| $\rho_{\mathrm{prop}}=(\gamma_3-1)r/A<1$ | |
| افزایشِ $\delta$ خطای منطقی را سرکوب میکند | افزایشِ حاشیهٔ $\beta-k$ $d^\star\to0$ میدهد |
| خطای منطقی $\propto(p/p_{\mathrm{th}})^{\delta/2}$ (نمایی در منابع) | $d^\star\propto C^{-(\beta-k)}$ (توانی در توانمندی)، F۴ را ببینید |
تناظر در سطحِ شرطِآستانه برقرار است، یک نسبتِ تولید-به-تصحیح که از یک میگذرد، و نه در سطحِ مکانیسم؛ همچنان یک فرضیه است. مدل سرکوبِ توانیِ $d^\star\propto C^{-(\beta-k)}$ را پیشبینی میکند، که یک اینهمانیِ جبریِ مدلِ خطی است، در حالی که QECی کامل سرکوبِ نمایی در فاصلهٔ کد را میدهد. تمییزِ این دو مستلزمِ یک تصحیحکنندهٔ ظرفیتمتناهی (اشباعشونده) است که بتواند سرکوبِ نمایی نشان دهد، آزمونِ آیندهٔ نامبردهشده در §۸. تا وقتی که آن ساخته نشود، F۴ یک بررسیِ سازگاریِ درونیِ تحلیلی است که قانونِ توانیِ خودِ مدل را تأیید میکند (که آزمایشِ ۵ آن را بازتولید میکند، شیبهای $-0.47,-1.00$)، و پس پیوندِ QEC صادقانه بهعنوانِ یک قیاسِ شکل-آستانهای میایستد، نه یک مکانیسمِ منتقلشده.
نسبت به ایدههای پیشینِ همراستاسازی-بهمثابه-تصحیح. آرمانِ واردکردنِ تحملپذیریِ خطای نظریهٔ کدگذاری به همراستاسازی تازه نیست. Wentworth (۲۰۲۲) صریحاً آرزوی «همارزِ همراستاسازی از یک کدِ آشکارساز خطا» را داشت، و von Neumann (۱۹۵۶) همنهادِ سامانههای قابلاعتماد از اجزای غیرقابلاعتماد را بنیان گذاشت. «حوضهٔ گستردهٔ جاذبه»ی اصلاحپذیریِ Christiano (۲۰۱۷) و تقویتِ اعتمادپذیری (۲۰۱۹) نزدیکترین پیشروهای همراستاسازی هستند. اما یک حوضهٔ گسترده، که تصحیح در آن موفق میشود اگر از درونش شروع شود، از یک قضیهٔ آستانهمتمایز است، که در آن تصحیح تنها زیرِ یک نرخِ بحرانی از خطا پیشی میگیرد؛ آن تمایز سهمِ حاضر است. سه جستوجویِ چکیدهٔ arXiv که در ۱۲ اوت ۲۰۲۶ اجرا شدند («quantum error correction» با «AI alignment»; «error-correction threshold» با «alignment»; «fault-tolerance threshold» با «value stability») هر یک نتیجهٔ صفر برمیگردانند، پس هیچ نگاشتِ منتشرشدهای از آستانهٔ تحملپذیریِ خطا (نرخِ خطای فیزیکی ↔ رانش؛ فاصلهٔ کد ↔ قدرتِ تصحیح؛ $p
۳٫۱۳ تصحیحکنندهٔ ظرفیتمتناهی: قضیهٔ پنجرهٔ ایمن (قضیهٔ ۷)
مهمترین محدودیتِ نامبردهشده در §۸، و توسط تیمِ سرخِ خودِ مقاله، آن است که $A=A_0C^{\beta}$ یک قانونِ توانیِ بیکران است، در حالی که هر تصحیحکنندهٔ واقعی ظرفیتِ متناهی دارد. این بخش آن شکاف را تحلیلی میبندد. یک تصحیحکنندهٔ اشباعشونده را با فرمِ استانداردِ Hill مدل میکنیم
که همچون قانونِ توانیِ نابِ $\big(A_{\max}/C_s^{\beta}\big)C^{\beta}$ برای $C\ll C_s$ رفتار میکند و در ظرفیتِ $A_{\max}$ برای $C\gg C_s$ اشباع میشود؛ $C_s$ مقیاسِ اشباع است. حالتِ پایای فقط-افزایشی همچنان $d^\star(C)=\gamma_1/\big(1+q(C)\big)$ با $q\equiv A/r$ است.
- بدون پایداریِ نامتناهی. $q(C)\to0$ هنگامی که $C\to\infty$، پس $d^\star\to\gamma_1$: یک تصحیحکنندهٔ ظرفیتمتناهی نمیتواند کسر را تحتِ رشدِ نامتناهیاً شتابگیرنده پایین نگه دارد، هر قدر که $\beta$ بزرگ باشد.
- پنجرهٔ ایمن و مرکز آن. $q(C)$ یکقلهای است، بیشینه دقیقاً در $$ C_{\mathrm{opt}}=C_s\left(\frac{\beta-k}{k}\right)^{1/\beta}, \qquad q_{\max}=\frac{A_{\max}}{b}\,\frac{k}{\beta}\left(\frac{\beta-k}{k}\right)^{\frac{\beta-k}{\beta}} C_s^{-k}, $$ پس کسرِ ناهمراستاسازی به کفِ $d_{\min}=\gamma_1/(1+q_{\max})$ نزدیکِ $C_{\mathrm{opt}}$ فرو میرود و سپس دوباره به سمتِ $\gamma_1$ برمیخیزد. ایمنی تحتِ یک تصحیحکنندهٔ ظرفیتمتناهی یک پنجرهٔ گذرا است، نه یک مجانب.
- رشدِ نمایی استثناست. برای $k=0$ نسبتِ پساز-اشباع ثابت است، $q\to A_{\max}/b$، و کسر در شکافِ دائمیِ $d^\star\to\gamma_1 b/(A_{\max}+b)$ مینشیند: ظرفیت کفی میخرد که عمقش با $A_{\max}/b$، نسبتِ ظرفیت-به-سرعت، تعیین میشود.
- ناوردایی-بلندسازیِ-ظرفیت. اگر خودِ ظرفیت مقیاس شود، $A_{\max}=a_0C^{\beta_{\mathrm{cap}}}$، آنگاه $q\to(a_0/b)\,C^{\beta_{\mathrm{cap}}-k}$ هنگامی که $C\to\infty$ و حکمِ مجانبی $\mathrm{sign}(\beta_{\mathrm{cap}}-k)$ است: معیارِ $\beta>k$ در بلندسازی از قدرتِ قدرتِ تصحیح به ظرفیتِ تصحیح بیتغییر میماند. آنچه باید از شتابرانش پیشی گیرد هر کدام از این دو است که آخر بند میشود.
سه قرائت. برای نظریه: معیارِ $\beta>k$ با اشباع ابطال نمیشود، بلکه بلند میشود: نمایِ بار-برنده از قدرت به ظرفیت مهاجرت میکند، و نابرابری تحتِ این مهاجرت بیتغییر میماند (بخشِ ۴). برای مهندسی: بخشِ ۲ به طراح یک مسئلهٔ جایگذاریِ فرمبسته میدهد، مرکزِ پنجرهٔ $C_{\mathrm{opt}}$ و عمقِ $q_{\max}$ از $(A_{\max},b,C_s,\beta,k)$ محاسبهپذیرند، پس یک تصحیحکننده میتواند بهنحوی تدارک شود که پنجرهاش را روی دامنهٔ توانمندیای بگذارد که یک استقرار در واقع طی خواهد کرد، با $q_{\max}\propto A_{\max}C_s^{-k}$ که هزینهٔ ظرفیتِ راندنِ پنجره به توانمندیِ بالاتر را کمّی میکند. برای حاکمیت: بخشِ ۱ تیزترین جمله در مقاله برای یک قاعدهگذار است، یک سامانهٔ ایمنیِ کراندار تحتِ بهبود خودیِ نامتناهیاً شتابگیرنده شکست میخورد سرانجام با قضیه، پس یک پروندهٔ ایمنی باید یا رشدِ کراندار ($k\le0$ سرانجام) یا ظرفیتِ هممقیاسشونده ($\beta_{\mathrm{cap}}>k$) نشان دهد، و «تصحیحکنندهٔ کنونیِ ما بسیار قوی است» پاسخ نیست، و نمیتواند باشد. این همچنین تمییزکنندهٔ QECی F۴ را تیز میکند: تصحیحکنندهٔ اشباعشونده همارزِ ساختاریِ فاصلهٔ کدِ متناهی است، و پنجرهٔ بخشِ ۲ رژیمی است که در آن سرکوبِ نمایی-در-برابر-توانی در واقع میتواند اندازهگیری شود.
نکته (نماهای زمانمتغیر). سامانههای واقعی $\beta,k$ را ثابت نگه نخواهند داشت. اگر هر دو در طولِ مسیر تغییر کنند، استدلالِ مقایسهای قضیهٔ ۲ حرف به حرف در ساعتِ عمق با $q(\tau)=\exp\!\big(\int_0^{\tau}(\beta(s)-k(s))\,ds+\mathrm{const}\big)$ اعمال میشود: کسر محو میشود اگر و تنها اگر انتگرالِ در حالِ اجرا ی حاشیهٔ $\beta-k$ به $+\infty$ واگرا شود، که برای آن $\liminf_{\tau\to\infty}\big(\beta(\tau)-k(\tau)\big)>0$ کافی است. رویدادهای گذرا با $\beta<k$ قابلِ بقا هستند اگر بعدتر جبران شوند؛ آنچه کشنده است حاشیهای است که بهطورِ میانگین منفی است. پس کمیتِ حاکمیتی حاشیهٔ انباشتی ی هممقیاسبندی است، نه علامتِ آنیِ آن.
۴. پیشبینیها
یک پیشبینیِ دوم، رایگان، از همان مکانیسم. ترتیباتِ نظارتی که انسانی را در حلقه قرار میدهند، همانطور که تقویت و یادگیریِ تقویتی از بازخوردِ انسانی میکنند، بهطورِ ساختاری میان-طبقاتی هستند، چرا که تصحیحکنندهٔ انسانی بسترِ مدل را به اشتراک نمیگذارد. چارچوب پس پیشبینی میکند که نظارتِ انسان-در-حلقه نمایِ تصحیحِ بالاتری از نظارتِ نابِ مدل نشان میدهد، به دلیلی ساختاری و نه احساسی. این روی دادههای موجود آزمونپذیر است و به سامانههای تازه نیاز ندارد.
۵. آزمایشهای تمییزدهنده
پیشبینیهای فرمبسته توسط یک گنجینهٔ راستیآزمایی بررسی میشوند (§۱۱): ده آزمایش، که هر یک مدل را بهصورت عددی انتگرال میگیرد و نتیجه را در برابرِ پیشبینیای که قضایا استخراج میکنند مقایسه میکند، با انتگرالگیر که نخست در برابرِ حلِ دقیقِ قضیهٔ ۱ اعتبارسنجی میشود. اینها بررسیهای سازگاریدرونی و انتگرالگیرهستند، تأیید میکنند که کد با ریاضی مطابقت دارد (۱۰/۱۰)، نه اینکه مدل با هیچ سامانهٔ واقعی مطابقت دارد (مسئلهٔ بازِ §۸). برای بررسیهای قیاسی (E۱-E۶، E۹)، چون هر یک همان ODEای را انتگرال میگیرد که فرمِ بستهاش پیشبینی است، توافق با یک حلگرِ درست و یک جبرِ درست ایجابشده است؛ F۱-F۳، F۳′، F۵، F۶ بنابراین شرایطِ سازگاریِ درونیِ استنتاجاند، نه ابطالگرهای تجربی پایاننامه. اشکالِ زیر خروجی حرف به حرفِ آن اجرا هستند؛ هر شکل در این بخش از ردهٔ راستیآزماییِ درونیِ ODE است (نه آزمونِ سامانهٔ واقعی). تنها نتیجهٔ غیرشبیهسازی، پایلوتِ مدلِ واقعی، جداگانه در §۸ گزارش میشود و برچسبِ پایلوتِ مدلِ واقعیدارد، با هشدارهای منشأِ خود.
| آزمایش. | پیشبینی | آماره کلیدی (اندازهگیری در برابر پیشبینی) | حکم |
|---|---|---|---|
| E۱ | P۱ مرزِ فاز در کانالِ انباشتی؛ در افزودنی هیچ | $\lambda^\star=2.00$ در برابر $2.00$؛ افزودنی نرم | قبول |
| E۲ | P۲ جفتشدگی، نه سرعت، تصمیم میگیرد | جفتشده کراندار و ناجفت واگرا در هر دو سرعت | قبول |
| E۳ | P۳ رژیمهای اصلاحشده ($\beta<0$ در $\gamma_1$ اشباع میشود) | هر چهار مجانب با فرمِ بسته مطابقت دارد | قبول |
| E۴ | P۴ مرز در $\beta=k$ | هر ۹ خانهٔ شبکه با $\mathrm{sign}(\beta-k)$ مطابقت دارد | قبول |
| E۴ب | P۴ تکینگی در $C$ در ساعتِ عمق برای $d$ منظم است | توافقِ ساعت $9.9\times10^{-5}$؛ $d$ کنترلشده | قبول |
| E۵ | P۵/P۸ آستانهٔ انباشت؛ شیبِ قانونِ توانی | آستانهٔ $3.03$ در برابر $3.0$؛ شیبهای $-0.47,-1.00$ | قبول |
| E۶ | P۶ آستانهٔ طیفی؛ محورِ کور باقی میماند | نظارتشده $\to10^{-7}$؛ کور $\to\gamma_1=0.05$ | قبول |
| E۷ | P۷ دُمِ تصادفی؛ واریانس $\propto1/\kappa$ | میانگین/واریانس با OU مطابق است؛ شیبِ واریانس $-1.00$ | قبول |
| E۸ | عددیها قضیهٔ ۱ را بازتولید میکنند | خطاهای بیشینه $7\!\times\!10^{-11}$، $8\!\times\!10^{-7}$ | قبول |
| E۹ | P۵/F۵ رانشِ باقیمانده در حالتِ سکون | $d\to\gamma_2/A_0$ وقتی $\gamma_2>0$؛ $\to0$ وقتی $\gamma_2=0$ | قبول |
اینها بررسیهای سازگاریدرونی و انتگرالگیر هستند: تأیید میکنند که قضایای فرمبسته درست استنتاج شده و بهصورت عددی بازتولید میشوند (کد با ریاضی مطابقت دارد). آنها نیستند، و ارائه نمیشوند بهعنوان، شواهدی که مدل یک سامانهٔ هوش مصنوعیِ واقعی را توصیف میکند، آن مسئلهٔ تجربیِ بازِ §۸ است.
۶. چرا کوریسازی اختیاری نیست
کمیتِ مرکزیِ $D$ انحرافی از ارزشهای موردنظر است. اگر توسطِ خود بخشِ ایمنیِ سامانه، یا توسطِ یک ارزیاب که میتواند ببیند کدام پیکربندی یک رفتارِ دادهشده را تولید کرده، امتیازدهی شود، اندازهگیری دقیقاً به همان روشی خراب میشود که نتایجِ مطلوب را متورم میکند. یافتهٔ متاعلمِ پیشینِ برنامه مستقیماً مربوط است: تحتِ امتیازدهیِ میان-مدلیِ بیکوری یک اثرِ مقیاسبندیِ همراستاسازی مثبت بهنظر رسید، در حالی که تحتِ کوریسازیِ چندلایه همان اثر برای برخی سامانهها علامتش را معکوس کرد [Eastwood, Paper IV.d]. آزمایشی که یک کسرِ ناهمراستاسازی را بدونِ کورکردنِ ارزیاب اندازه میگیرد میتواند نهفقط بزرگیِ اشتباه بلکه جهتِ اشتباه تولید کند. اعتبارِ هر نتیجه در §۵ به این متکی است که ارزیاب نسبت به پیکربندی تحتِ آزمون کور باشد. آزمایشگاهی که در سامانهٔ خود «$\beta\ge k$» ادعا میکند باید آن را توسطِ یک ارزیابِ کورِ بیرونی اندازه گرفته باشد، نه توسط خودش.
درون آزمون تعبیهشده، نه به انضباط سپرده. گنجینهٔ مدلِ واقعی (§۸؛ experiments/PROTOCOL.md) بهجای اعتماد به این کار، آن را الزامی میکند . ارزیابِ ناهمراستاسازی باید خانوادهٔ مدلِ متفاوت از موتور باشد، یک مدل هرگز خروجی خانوادهٔ خود را امتیاز نمیدهد، و گنجینه از اجرای یک امتیازدهندهٔ درون-خانوادهای امتناع میکند؛ یک پنل را ترجیح میدهد و میانه را میگیرد. کد از یک مرحلهٔ شستوشوی خودکار عبور داده میشود (یک رفتوبرگشتِ درختِ نحو انتزاعی که یادداشتها، رشتههای مستندسازی و قالببندی را میزداید) پس امتیازدهنده رفتار را قضاوت میکند، نه سرنخهای سبکیِ هویت؛ و ارزیاب هرگز شرط یا دور را نمیبیند. هیچیک از دو اجرای واقعیِ گزارششده در اینجا این معیار را برآورده نکرد: اجرای پایلوتِ ۱ صریحاً از امتیازدهیِ درون-خانوادهای استفاده کرد، و موتور و ارزیابِ اجرای ۲ ژوئیهٔ ۲۰۲۶ هر دو خانوادهٔ OpenAI هستند (تصحیح را ببینید)، خانوادهٔ سامانه که خروجی خانوادهٔ خودش را امتیاز میدهد. اعدادِ ناهمراستاسازیِ پایلوت صریحاً بهعنوانِ موقت ثبت شده و اجرای ۲ ژوئیه بهعنوانِ شواهدِ مکانیسم پس گرفته میشود، و یک بازامتیازدهیِ کورِ راستیناً میان-خانوادهای پیششرطِ هر ادعای مبتنی بر $D$ است، از جمله یک $\beta$ی اندازهگرفتهشده. گنجینه پیکربندیِ منطبق را پیشفرض و پیکربندیِ نامنطبق را یک بازنگاریِ صریح و ثبتشده میکند، §۶ را از یک اندرز به یک خاصیتِ ابزار بدل میکند.
۷. شرایطِ ابطال
شرایطِ زیر پیشاپیش بیان شدهاند. یک نکتهٔ صداقتی مهم، که توسطِ ممیزیِ ستیزندهٔ خودِ مقاله سطحی شده است (§۸): چون آزمایشهای قیاسی همان ODEای را انتگرال میگیرند که فرمِ بستهاش پیشبینی است، F۱-F۳، F۳′، F۵ و F۶ شرایطِ سازگاریِ درونیِ استنتاجهستند، یک ماشه علامتِ خطای استنتاج یا حلگر میدهد، نه اینکه مدل مدلِ نادرست یک سامانهٔ واقعی است. ابطالگرِ تجربیِ تعیینکننده، ناسازگاریِ اندازهگیریشده روی یک سامانهٔ بهبودخودیِ واقعی، مسئلهٔ بازِ §۸ است و در اینجا اعمال نمیشود. F۴ تنزلِ مکانیسمِ QEC است، که (قانونِ سرکوب توانی است، §۳٫۱۲) هماکنون برقرار است: تناظر بهعنوانِ قیاسِ شکل-آستانهای میایستد، نه مکانیسمِ منتقلشده.
| # | مشاهدهای که آن را ماشه میکند | پیامد |
|---|---|---|
| F۱ | هیچ مرزی در E۱، رفتارِ درازمدت با $\lambda$ در کانالِ انباشتی بهطور نرم و بدونِ آستانه تغییر میکند. | هیچ مرزِ فازی نیست؛ ادعای مرکزیِ آستانه نادرست است (خطای استنتاج). |
| F۲ | در E۲، $d$ سرعتِ خام را دنبال میکند نه حاشیهٔ مقیاس: سریع واگرا و کند همگرا بدونِ توجه به جفتشدگی. | کشتار. دیدگاهِ سقفِ نرخرشد درست بود؛ این چارچوب نادرست است. |
| F۳ | در E۳، $\beta=0$ به فلات نمیرسد، یا $\beta>0$ $d^\star\to0$ نمیراند. | کشتار. قانونِ هممقیاسبندی (قضیهٔ ۲) نادرست است. |
| F۳$'$ | در E۴، مرز تحتِ رشدِ شتابگیرنده ($k>0$) در $\beta=k$ نیست، مثلاً $\beta=0.5$ پایدار است وقتی $k=1.0$. | کشتار. تیزسازیِ $\beta>k$ (قضیهٔ ۳) نادرست است. |
| F۴ | یک تصحیحکنندهٔ ظرفیتمتناهی سرکوبِ نمایی (QEC-گونه) نشان میدهد، نه قانونِ توانیِ مدلِ $\log d^\star\propto-(\beta-k)\log C$. (تحلیلی؛ مدلِ خطیِ حاضر بهساختار توانی است، پس این تمییزکننده نیازمندِ تصحیحکنندهٔ اشباعشوندهٔ نامبردهشده در §۸ است و اینجا اجرا نمیشود.) | تنها بر مکانیسمِ QEC اثر دارد. تناظرِ شکل-آستانهای و قضایای ۲-۴ در هر صورت دستنخورده باقی میمانند. |
| F۵ | در آزمایشِ ۹، توقفِ رشد $d\to0$ میراند بدونِ توجه به $D$ی اولیه حتی با $\gamma_2>0$. | دامنه. رانشِ سطحیِ $\gamma_2$ ناچیز است؛ تعمیمِ §۳٫۶ غیرضروری است (مدلِ فقط-افزایشی کافی است). |
| F۶ | در E۶، محورِ صفرِ عملگرِ تصحیح نیز سرکوب میشود. | کشتار. آستانهٔ طیفی (قضیهٔ ۵) نادرست است؛ ناهمراستاسازی نیازمندِ نظارت بر محوری که رویش زندگی میکند نیست. |
این شرایطِ سازگاریِ درونی همه در اجرای گزارششدهٔ اینجا برقرار بودند، برقرار میکند که استنتاج و انتگرالگیری درستاند. آنچه آنها نه این است که مدل هر سامانهٔ واقعی را توصیف میکند؛ آن آزمونِ تعیینکننده، اندازهگیریِ $\beta$، $k$ و $\gamma$ روی یک سامانهٔ بهبودخودیِ واقعی و بررسیِ $\beta\ge k$، مسئلهٔ تجربیِ بازِ §۸ است.
چگونه آزمونِ تجربیِ تعیینکننده داوری میشود. وقتی آن آزمونِ باز اجرا شود، اندازهگیریِ $\beta$، $k$ و $\gamma$ روی یک سامانهٔ بهبودخودیِ واقعی، نتایجِ فاصلهمحور در شکلِ سه-حالتی که ثبتهای پیشنویسشدهٔ برنامه استفاده میکنند خوانده میشوند: پشتیبانیشده وقتی فاصله روی حاشیهٔ $\beta-k$ کاملاً بالای اثرِ کمینهٔ پیشفِبِتشده باشد؛ ابطالشده وقتی فاصله کاملاً درونِ حاشیهٔ همارزی، پیشاپیش تعیینشده، پیرامونِ صفر باشد (منطقِ دو-آزمونِ-یکطرفه)؛ دقتِ ناکافی وقتی فاصله از حاشیه پهنتر باشد، دقیقاً به همان کلمات گزارش شود و هرگز بهعنوانِ پشتیبانی یا ابطال. حاشیهها و یک رقمِ توانِ اندازهگیریشده در ثبتهای پیشنویسشده (study-ad برای برآوردِ $\beta$، study-k برای عبورِ مرز، study-ae برای بررسیِ متقابل) پیش از هر گردآوری داده تعیین میشوند، پس یک اجرای کمتوان هرگز پیشفرض ابطال یا تأیید نمیکند.
۸. محدودیتها
مدل مرتبه-اول است، و فرضیاتش محتملترین نقاطِ شکستاند. بیانِ آنها بخشی از ادعا است.
- تصحیحکنندهٔ بیکران در برابرِ ظرفیتمتناهی، اکنون تحلیلی حلشده (قضیهٔ ۷). معیارِ $\beta>k$ چنان که نخست بیان شد فرض میکند که قدرتِ تصحیحکننده یک قانونِ بیکران است، $A=A_0C^{\beta}$. پیشنویسِ قبلی تنها میتوانست حالتِ ظرفیتمتناهی را بهعنوانِ یک شکافِ باز نام ببرد؛ §۳٫۱۳ اکنون آن را در فرمِ بسته میبندد. نتیجه: یک تصحیحکنندهٔ اشباعشونده ایمنی را به یک پنجرهٔ گذرا (مرکزِ $C_{\mathrm{opt}}$، عمقِ $q_{\max}$، هر دو محاسبهپذیر) بدل میکند، بهجای یک مجانب، با کسر که تحتِ شتابگیریِ نامتناهی دوباره به $\gamma_1$ برمیخیزد، و معیار از بلندسازی از قدرت به ظرفیت جان به در میبرد: پایداریِ نامتناهی نیازمندِ آن است که نمایِ ظرفیت همان نابرابری را برآورده کند، $\beta_{\mathrm{cap}}>k$. آنچه باز میماند نیمهٔ تجربیِ است: راندنِ یک تصحیحکنندهٔ ظرفیتمتناهی از پنجرهاش بهصورتِ عددی و روی یک سامانهٔ واقعی، که همچنین پرسشِ F۴/مکانیسم-QEC (سرکوبِ نمایی در برابرِ توانی درونِ پنجره) را حل میکند. تا وقتی که آن اجرا شود، $\beta>k$ باید بهعنوانِ حاکم بر آن رژیمی که آخر بند میشود، مقیاسِ-قدرت یا مقیاسِ-ظرفیت، خوانده شود، نه بهعنوانِ تضمینِ ایمنیِ نامتناهی از هر سامانهٔ کراندار.
- تصحیحِ خطی (و آزمونِ مکانیسمِ QEC). معادلهٔ (۱) ناهمراستاسازی را متناسب با $D$ برمیدارد، که قانونِ سرکوب را دقیقاً توانی میسازد. یک تصحیحکنندهٔ ظرفیتمتناهی (اشباعشونده) آستانهٔ تمیز را به یک گذر نرمتر میکند و نگاشتِ ساختاریِ بهتری بر فاصلهٔ کدِ متناهیِ QEC است؛ اینکه آیا سرکوبِ نمایی تولید میکند آزمایشی است که پرسشِ مکانیسمِ QEC (F۴) را حل میکند. یک گسترشِ اولویتدار است و نه اجرا نمیشود، که دقیقاً چرا تناظرِ QEC تنها در سطحِ شکل-آستانه ادعا میشود.
- تصویرِ اسکالر-به-برداری. قضیهٔ ۵ معیارِ دقیقِ مجانبی (محورِ طیفی) را برای هر عملگرِ تصحیحِ $\mathbf A$ میدهد، با شرطِ بخشِ Hermitian بهعنوانِ شرطِ کافیِ قویتر که رشدِ گذرا را نیز رد میکند. رژیمِ گذرایِ غیرنرمال، گشتهای بزرگ پیش از زوالِ مجانبی، اینجا تحلیل نمیشود، و گنجینه تنها نمونهٔ زیرفضای صفرِ قطری (آزمایشِ ۶) را اعمال میکند، نه یک $\mathbf A$ی غیرنرمالِ عمومی.
- شکلهای توانی. انتخابهای $A=A_0C^\beta$ و $\dot C=bC^{1+k}$ شکلهای طبیعیِ بی-مقیاس هستند اما فرضیاتِ مدلسازیاند؛ شکلهای تابعیِ دیگر باید آزموده شوند.
- انتساب رانش. شکافتنِ رانش به کانالهای افزایشی ($\gamma_1$)، سطحی ($\gamma_2$) و انباشتی ($\gamma_3$) فرضیهای دربارهٔ مکانیسم است؛ اینکه کدام کانال در یک سامانهٔ واقعی غالب است پرسشی تجربی است (آزمایشِ ۹، رانشِ باقیمانده در حالتِ سکون، یک تمییزکننده است).
- یک نمایندهٔ اسکالر، نه خودِ ایمنی. $d\to0$ نه لازم است نه کافی برای ایمنیِ کاملِ هوش مصنوعی: یک ناهمراستاسازیِ کوچک اما پرتأثیر، یک رویدادِ دُمِ فاجعهبار، یا تقویتِ چند-عاملی میتواند در $d$ی پایین خطرناک باشد، در حالی که یک سامانه ممکن است در $d$ی متوسط پذیرفتنی باشد اگر باقیمانده خیر باشد. $d$ متغیرِ کنترلشدهٔ این مدلِ کمینهاست، یک اسکالرِ بی-وزنِ-تأثیر؛ وزندادن به تأثیر، و گسترشهای برداری و دُم (قضایای ۵-۶)، جهتهاییاند که در آنها «$d$ی پایین» باید سخت شود پیش از آنکه بتواند بهمعنای «ایمن» باشد.
- نرمالسازیِ متری. $d=D/C$ یک شاخصِ خطرِ نرمالشدهٔ عملیاتیاست، نه یک ثابتِ طبیعیِ بیبُعد: $C$ و $D$ تنها تحتِ یک قراردادِ امتیازدهیِ ثابت همسنجهاند (در گنجینهٔ مدلِ واقعی $C$ کسرِ قبولیِ آزمونِ پنهانِ نرمالشده و $D$ امتیازِ بازیگوشیِ کورِ نرمالشده است، هر دو روی $[0,1]$). نتایج تحتِ آن قراردادِ ثابت ناوردا هستند؛ مقایسهٔ میان-وظیفهای یا میان-دامنهایِ سطحِ $d$ نیازمندِ کالیبراسیونِ صریح است. خودِ معیار در نماها ($\beta>k$) بیان میشود، که بی-مقیاساند، پس نسبت به این ازوکهشدهتر از هر بیانِ مطلقِ $d$ باشد.
- تقویتِ گذرا (تصحیحکنندگانِ غیرنرمال). قضیهٔ ۵ مجانبی است. یک عملگرِ تصحیحِ غیرنرمال با $\alpha(\mathbf M)>0$ همچنان میتواند رشدِ گذرایِ بزرگِ $\|\mathbf d\|$ را پیش از زوال بپذیرد (پدیدههای Kreiss/شبهطیفی)؛ یک گشتِ ارزشی بالای $d_{\mathrm{crit}}$ در طولِ آن گذرا یک خطرِ واقعی است که معیارِ مقدارِ ویژه آن را نمیبیند. یک کرانِ در سطحِ حاکمیت نیازمندِ نُرمِ لگاریتمی یا محورِ شبهطیفی است، نه تنها طیف، یک گسترشِ نامبرده، بیانشده در اینجا، نه برقرارشده در اینجا.
- از شبیهسازی به سامانههای مرزی. گنجینهٔ راستیآزمایی از دینامیکهای خودتغییردهندهٔ اسباببازی استفاده میکند؛ یک نتیجهٔ مثبت آنجا مکانیسمِرا نشان میدهد، نه اینکه سامانههای مرزی رژیمِ خاصی را اشغال میکنند. یک گنجینهٔ مدلِ واقعیِ همراه (غیرشبیهسازی) اکنون حلقهٔ جفتشده/ناجفت را با یک مدلِ مرزی میراند، توانمندی را با اجرایِ کدِ واقعی و ناهمراستاسازی را با یک ارزیابِ جداگانه امتیاز میدهد که گنجینه ملزم میکند از خانوادهٔ مدلِ متفاوت باشد (کوریسازیِ Paper IV.d، §۶؛
experiments/PROTOCOL.md؛ نخستین اجرا درresults/realmodel/). مکانیسمِ تصحیحکننده را مکانیسمِ روی یک مدلِ واقعی تأیید میکند، یک هکپاداشِ کاشتهشده کشف و برداشته میشود و توانمندی بازگردانده میشود، اما رانش را روی وظیفهٔ آزمودهشده نشان نداد، پس اینکه آیا سامانههای واقعی زیرِ آستانه مینشینند همچنان پرسشِ تجربیِ باز است. یک طراحیِ تأییدی قویتر، سه دامنهٔ وظیفه با یک نردبانِ توانمندی، یک بازوی کنترلِ بیمحاسبهاضافیِ ظاهری ، یک امتیازِ ناهمراستاسازیِ ایستا-بهعلاوهٔ-پنلِ-کور ترکیبی، و فاصلههای اطمینانِ بوتاسترپِ زوجی روی تضادهای کسرِ نهاییِ جفت-در-برابر-ناجفت و ظاهری-در-برابر-جفت، درexperiments/PROTOCOL_V2.mdوexperiments/scripts/realmodel_coscaling_v2.py. (شواهدِ مدلِ واقعی، منشأ: پایلوتِ ۱ $n=1$، یک وظیفه، امتیازدهندهٔ درون-خانوادهای، غیرمنطبق بر IV.d بود؛ H۱ و H۲ پشتیبانی نشدند. اجرای رانشِ ۲ ژوئیهٔ ۲۰۲۶، ۴۵ مسیر، سه دامنهٔ وظیفه، ارزیابِ gpt-4o-mini در حال امتیازدهی به موتورِ gpt-3.5-turbo، اعدادِ جهتاً سازگار تولید کرد: ناجفت رانش کرد (میانگینِ کسرِ نهایی ۶٫۳۸، توانمندی فروریخت)، جفتشده و کاملاً تعبیهشده ناهمراستاسازیِ صفر در همهٔ ۳۰ مسیر در توانمندیِ نهاییِ بالاتر نگه داشتند. آن اجرا بهعنوانِ شواهدِ مکانیسم پس گرفته میشود (تصحیح را ببینید): هر دو مدل خانوادهٔ OpenAI هستند، پس امتیازدهی درون-خانوادهای نبود، و پنلهای ارزیابش خالی بودند؛ $\beta/k$ اندازهنگرفته باقی میمانند چون هیچ نردبانِ توانمندی طی نشد، و نتیجه تک-آزمایشگاهی است، در انتظارِ یک اجرای تأییدی تحتِ ثبتهای پیشنویسشده که در انتظارِ ثبتِ انسانی هستند.) - برآوردِ $\gamma$ و $A$ روی سامانههای واقعی. در شبیهسازی اینها بهساختار تعیین شدهاند. برآوردِ مستقلِ آنها، بهویژه $\beta$ و $k$، برای یک مدلِ مستقر گامی است که معیار را برای حاکمیت بهطور عملیاتی مفید میسازد. این اکنون عملیاتیاست: مخزن یک برآوردگرِ اجراپذیر را ارسال میکند (
experiments/scripts/estimate_exponents.py) که $k$ را از منحنیِ توانمندی ($\ln r$ در برابرِ $\ln C$) و $\beta$ را از نرخِ برداشتِ کسریِ تصحیحکننده ($\ln A$ در برابرِ $\ln C$) میخواند، روی مسیرهای مصنوعی اعتبارسنجیشده که در آنها نماهای شناختهشده را تا $\approx0.1$ بازیابی میکند. آنچه پس باز میماند نه برآورد بلکه ورودیِآن است، یک سامانهٔ بهبودخودیِ واقعی که در دامنهای از سطوحِ توانمندی رانش میکند، که از آن نخستین $(\beta,k)$ی اندازهگرفتهشده، و پس نخستین آزمونِ واقعیِ $\beta\ge k$، میتواند خوانده شود. برنامهٔ اندازهگیری ARC-Beta-kنام دارد: سه پیش-ثبت پیشنویس شده و در انتظارِ ثبتِ انسانی هستند، study-ad برای برآوردِ $\beta$ در سطوحِ توانمندی، study-k برای عبورِ مرز در گذرگاهِ $\beta=k$، و study-ae برای بررسیِ متقابلِ جفت-در-برابر-ناجفت؛ هیچیک هنوز ثبت نشده است.
ممیزیِ ستیزنده. این مقاله تحتِ ممیزیِ ستیزنده توسعه یافت و نه ادعا شد، و پرونده در مخزن است. یک ممیزیِ کارِ پیشین و تازگی نزدیکترین پیشین را برای هر جزء یافت و ادعاهای تازگی را متناسب باریک کرد (پیوستِ C). بهطور مستقل، یک تیمِ سرخِ چند-عاملی به کار در پنج جبهه، ریاضی، عددیها، تناظرِ QEC، استنتاجِ ایمنی، و اولویت، حمله کرد، ۲۴ اعتراض مطرح شد، که ۲۱ تای آنها راستیآزماییِ مستقل را جان به در برد (۰ کشنده، ۱۳ جدی، ۸ جزئی)؛ گزارشِ کامل در کنار گنجینه سپرده میشود (results/redteam.md). هر اعتراضِ زندهمانده یک اصلاحِ چارچوب، واژه یا مورد-حاشیه بود؛ هیچیک به نتیجهٔ بار-برندهٔ $\beta>k$ دست نزد، و این نسخه همهشان را وارد میکند، چارچوبِ QEC نرم شد به یک قیاسِ شکل-آستانهای، کرانِ قضیهٔ ۲ به مدلِ فقط-افزایشی دامنهبندی شد، معیارِ قضیهٔ ۵ به محورِ طیفی اصلاح شد، گنجینه از نو بهعنوانِ یک اثرِ راستیآزمایی (نه ابطال) برچسبگذاری شد، و آزمایشِ رانشِ سطحیِ F۵ افزوده شد. سهم بهعنوانِ بلندپروازانه و ممیزیشده ارائه میشود، با مرزِ آنچه ادعا میشود صریح و بررسیپذیر شده است.
۹. استلزامات برای ایمنیِ هوش مصنوعی
اگر چارچوب آزمونهایش را جان به در برد، استلزامِ طراحی مشخص است و از بازتابِ غالب متفاوت است.
اهرم جفتشدگی است، نه سرعت. کندسازیِ رشدِ توانمندی زمان میخرد اما حکم را تغییر نمیدهد؛ در جفتشدگیِ ثابت، یک سامانهٔ کندِ ناجفت همچنان واگرا میشود (P۲)، و یک سامانهٔ توانمندِ منجمد همچنان رانش میکند (§۳٫۶). آنچه حکم را تغییر میدهد اطمینان از این است که تصحیح (i) به فرایندِ توانمندی جفت است پس نمیتوان آن را ناجفت کرد، و (ii) دستکم به همان سرعتی که توانمندی شتاب میگیرد مقیاس میشود ($\beta\ge k$). بر پایهٔ برآوردهای مقیاسبندیِ توانمندیِ اصلاحشده و زیرخطیِ نویسنده برای مدلهای منجمدِ کنونی [Eastwood, Paper IX]، سامانههای کنونی هیچ نزدیک به رژیمِ رشدِ فراخطی نیستند، که یعنی سقفِ نرخِ رشد هرگز محدودیتِ حاکم نبود. محدودیتِ حاکم هممقیاسبندیِ تصحیح است، و دقیقاً در رژیمی که اهمیت دارد حاکم میشود: خودتغییردهیِ راستین.
یک هدفِ حاکمیتیِ اندازهپذیر. معیار به قاعدهگذاران کمیتی برای اندازهگیری میدهد، نه نرخی برای منع کردن: حاشیهٔ تصحیح-به-رانشِ $\beta-k$، و نسبتِ $\rho$. «آیا تصحیح هممقیاس میشود، آیا $\beta\ge k$؟» تیزتر و عملپذیرتر از «آیا خیلی سریع رشد میکند؟» است. آزمایشگاهی که یک سامانهٔ بهبودخودیِ ایمن ادعا میکند باید ملزم به نمایشِ $\beta\ge k$ باشد، اندازهگیریشده توسطِ یک ارزیابِ کورِ بیرونی (§۶). قضیهٔ ۶ این را به یک کران بر احتمالِ گشتِ فاجعهبار بدل میکند، شیءِ طبیعیِ یک پروندهٔ ایمنی. بدونِ چنین نمایشی، واژهٔ «ایمن» در چارچوبِ ارائهشدهٔ اینجا محتوای علمی ندارد.
جمعآوریشده از اجزای خودِ مقاله، یک پروندهٔ ایمنیِ هممقیاسبندی برای یک سامانهٔ بهبودخودی پنج نمایش است. هر یک قضیه یا بخشی را نام میبرد که آن را بررسیپذیر میسازد، نه فقط بلاغی.
- نمایشِ ۱، منحنیِ توانمندی و $\hat k$. توانمندی را در طولِ دورهای خودتغییردهی روی وظایفِ جداشده ثبت کنید؛ $\ln r$ را در برابرِ $\ln C$ برازش کنید (برآوردگرِ ارسالشده، §۸). این تعیین میکند سامانه در واقع در کدام رژیمِ رشد است.
- نمایشِ ۲، منحنیِ تصحیحکننده و $\hat\beta$. نرخِ برداشتِ کسریِ تصحیحکننده را در طولِ همان دورها ثبت کنید؛ $\ln A$ را در برابرِ $\ln C$ برازش کنید. برآوردگر روی مسیرهای مصنوعی تا $\approx0.1$ اعتبارسنجی میشود؛ آن نوارِ خطا به نمایشِ ۴ منتقل میشود.
- نمایشِ ۳، امتیازدهیِ کور و میان-خانوادهای. هر عددِ مبتنی بر $D$ توسطِ ارزیابی از خانوادهٔ مدلِ متفاوت امتیازدهیشده، ورودیهای شستوشودادهشده، کور نسبت به شرط (§۶؛ Paper IV.d). امتیازهای درون-خانوادهای یا بیکوری غیرقابلقبولاند، نشان داده شده که علامت را معکوس میکنند.
- نمایشِ ۴، حاشیه با عدمِ قطعیتش. $\hat\beta-\hat k>2\sigma_{\mathrm{est}}$ را الزامی کنید، نه صرفاً $\hat\beta>\hat k$: حاشیهای درونِ نوارِ خطای خود هیچ گواهی نمیدهد. قضیهٔ ۶ آنگاه حاشیه را به یک کرانِ دُمِ $\mathbb P(d>d_{\mathrm{crit}})$ بدل میکند، کمیتی که یک قاعدهگذار میتواند بر آن سقف بگذارد. تحتِ نماهای زمانمتغیر شیء حاشیهٔ انباشتی است (§۳٫۱۳ نکته).
- نمایشِ ۵، افشای ظرفیت. بر پایهٔ قضیهٔ ۷، یک تصحیحکنندهٔ کراندار تحتِ رشدِ شتابگیرنده سرانجام با قضیه شکست میخورد. پرونده پس باید $A_{\max}$ و مقیاسِ اشباعِ $C_s$ را بیان کند، دامنهٔ توانمندیِ استقرار را درونِ پنجرهٔ ایمنِ محاسبهشدهٔ $\big(C_{\mathrm{opt}},\,q_{\max}\big)$ بگذارد، و بیان کند طراحی به کدامیک از دو شرطِ خروج، رشدِ کراندار یا ظرفیتِ هممقیاسشونده ($\beta_{\mathrm{cap}}>k$)، برای فراتر از آن متکی است.
هیچیک از این به علمِ تازه نیاز ندارد؛ هر نمایش با برآوردگر و پروتکلِ ارسالشده محاسبهپذیر است. آنچه جایگزین میکند جملهٔ ابطالناپذیرِ «سامانههای ایمنیِ ما مقاوماند» را با پنج عدد است که یک شخصِ ثالث میتواند بررسی کند.
پیوستگی با کارِ همراستاسازیِ تعبیهشده. نتیجهای که تصحیح باید در حلقهٔ بازگشتی مشارکت کند، نه بیرونِ آن بهعنوانِ یک محدودیتِ بیرونیِ ثابت بنشیند، پایاننامهٔ همراستاسازیِ تعبیهشده است، در اینجا استنتاجشدهٔ بهعنوانِ شرطِ $\beta>k$ بهجای ادعا شده. نتیجهٔ شبیهسازیِ دروازهدار که در آن خودتغییردهیِ ایمنی-جفتشده هر دوی ایمنی و توانمندی را حفظ کرد در حالی که نوعِ ناجفت این کار را نکرد [Eastwood, Paper VIII] رفتارِ پیشبینیشدهٔ یک تصحیحکنندهٔ جفتشده ($\beta>0$) در برابرِ ثابت ($\beta=0$) است.
بزرگی ادعا، بیانشده بهطورِ مشروط. اگر معیار بهطور تجربی برقرار شود، اگر سامانههای بهبودخودیِ واقعی با همان تعادلِ رانش-در-برابر-تصحیح و همان حاشیهٔ $\beta>k$ حاکمیت شوند، پیامدها برای حوزه بزرگاند، و ارزش دارد که آنها را با صراحت بیان کنیم در حالی که بههماناندازه صریحایم که آنها مشروطهستند. (i) پرسشِ مرکزیِ ایمنی از «چقدر سریع توانمندی رشد میکند، و آیا میتوانیم آن را متوقف کنیم؟» به «آیا تصحیح هممقیاس میشود، آیا $\beta\ge k$؟» بدل میشود: یک حاشیهٔ اندازهپذیر بهجای یک نرخ برای منع کردن. (ii) بیشترین سناریوی ترسناک، یک انفجارِ زمانمتناهیِ هوش، از ذاتاً کنترلناپذیر بودن دست میکشد، کسرِ ناهمراستاسازیِ مدلشده اگر و تنها اگر $\beta>k$ کنترلپذیر است، و سرعتش در آن حکم تغییری نمیدهد. (iii) حاکمیت کمیتی برای اندازهگیری و کرانی دُمای برای گواهی (قضیهٔ ۶) بهجای یک سقفِ سرعتِ غیرقابلِاجرا به دست میآورد. هیچیک از اینها هنوز برقرار نیست. بر یک مدلِ کمینه متکی است، تنها در شبیهسازی نشان داده شده، با اندازهگیریِ تجربیِ $\beta$، $k$ و $\gamma$ روی سامانههای واقعی حلنشده (§۸). ادعای مقاله بنابراین این نیست که هوش مصنوعی ایمن است یا ایمن نیست، بلکه این است که متغیرِ درست برای اندازهگیری و حاکمیت حاشیهٔ هممقیاسبندیِ $\beta-k$ است، و اینکه این متغیر بهخوبی تعریف شده، ابطالپذیر است، و اگر برقرار باشد، تعیینکننده است. این بزرگی است: نه اثباتی دربارهٔ واقعیت، بلکه یک بازهدایتِ دقیق و آزمونپذیر از پرسشی که ترسِ مرکزیِ حوزه بر گِردِ آن میچرخد.
نسبت به برنامهٔ گستردهتر، یک نردبان از قوانین. این مقاله سنگِ کلیدیِ ایمنیِ یک استدلالِ بزرگتر است، نه یک نتیجهٔ خودایستا؛ بیان اینکه چگونه در میان همراهانش مینشیند بخشی از ادعاست. نتایجِ برنامه از چندین نوعهستند، و تمایز اهمیت دارد: دینامیکی قوانین ($\beta>k$ی این مقاله؛ $\alpha_{\text{align}}\approx0$ی Paper III)، یک متا-قانونِ شکلِ (محدودیتِ سه-شکلیِ Cauchy)، یک قانونِ بیکوریِ تکمدلی (Paper IV.d، اینکه یک امتیازِ همراستاسازیِ بیکوری کوریناوردا نیست)، و مکانیسم/معماری یافتهها (مقالاتِ V، VI، VIII) که نشان میدهند رژیمِ ایمن چگونه به دست میآید. برنامه یک زنجیرهٔ یگانه است: خوشهٔ قانونِ مقیاسبندی برقرار میکند چگونه سامانههای بازگشتی رشد میکنند و شکلهای توانی گرفتهشده بهعنوانِ دادهشده اینجا را فراهم میکند؛ Paper II تأیید میکند توانمندی مقیاس میشود (کنونی زیرخطی)؛ Paper III خطر را شناسایی میکند که ایمنیِ بیرونی نه شود هممقیاس؛ این مقاله معیار را برای وقتی میتواند فراهم میکند؛ Paper VIII نشان میدهد طراحیِ جفتشده بر ناجفت پیشی میگیرد؛ و Paper IV.d انضباطِ کوریسازی را فراهم میکند که بدونِ آن هیچیک از اندازهگیریهای ناهمراستاسازی قابلِ اعتماد نیست.
| نتیجهٔ همراه | قانون/یافتهای که پیشنهاد میدهد | وضعیت | چگونه به $\beta>k$ جفت میشود |
|---|---|---|---|
| بنیانی | کرانِ ARC ($\beta=0.5$، $\alpha=2$) و $\alpha$ تعیینشده توسطِ نمایِ جفتشدگیِ $\beta$؛ محدودیتِ سه-شکلی از سه اصلِ موضوعه. | استنتاجشده (اصلِ موضوعهای). | شکلهای توانی که این مقاله فرض میکند را فراهم میکند: $A=A_0C^\beta$ و $\dot C=bC^{1+k}$ شکلهای ضربیِ Cauchy هستند، و $\beta$ در اینجا همان نمایِ جفتشدگی است. |
| دربارهٔ منشأِ قوانینِ مقیاسبندی | متا-قانونِ سه-شکلی: هر قانونِ مقیاسبندیای که از ترکیبِ مقیاس ناشی میشود توانی، نمایی یا اشباع است (شکل توسطِ عملیاتِ ترکیب تعیین میشود)؛ $d/(d+1)$ $\tfrac12,\tfrac23,\tfrac34$ میدهد. | متا-قانون (میان-دامنهای). | توضیح میدهد چرا سامانههای بازگشتی شکلهای توانیِ بهکاررفته در §۳ را میگیرند؛ این مقاله نمونهٔ ایمنیِ آن متا-قانون است. |
| Paper VII (Cauchy Unification) | آزمونِ تجربیِ قانونِ سه-شکلی (۱۹/۲۵ دامنه، $p\approx1.6\times10^{-5}$). | تجربیِ اکتشافی، یک مقایسهٔ ساختاردار، نه پیش-ثبتشده؛ ایدهٔ اصلی کارِ پیشینِ عمیق دارد (Luce 1959؛ Frank 2009؛ Biró-Barnaföldi 2008، ممیزیِ کارِ پیشینِ خوشه را ببینید). | فرضیاتِ شکلِ تابعیِ §۳ را تضمین میکند. |
| Paper II | مقیاسبندیِ توانمندی اندازهگیریشده ($\alpha_{\text{seq}}$؛ وابسته به معماری، زیرخطی روی وظایفِ سخت). | تجربی. | رشدِ توانمندیِ $C(t)$ی فرضشدهٔ اینجا واقعی و کنونی زیرخطی است ($k$ کوچک)، پس محدودیتِ حاکم جفتشدگی است، نه سرعت. |
| Paper III | مسئلهٔ مقیاسبندیِ همراستاسازی: ایمنیِ بیرونی $\alpha_{\text{align}}\approx0$ دارد، پس کسرِ ناهمراستاسازی بیحاکمیت رها میشود (تحتِ کوریسازی به یک نتیجهٔ سه-طبقهایِ وابسته به معماری اصلاحشد). | قانونِ پیشنهادی، پیچیده شده توسطِ دادههای کورِ خودش. | Paper III دقیقاً گوشهٔ $\beta=0$ (ناجفت) از مدلِ اینجاست؛ این مقاله آن را تعمیم میدهد ، «ایمنیِ بیرونی نمیتواند همگام شود» را با معیار برای وقتی تصحیح میتواند جایگزین میکند: $\beta>k$. |
| Paper IV.d | یک اثرِ همراستاسازیِ مدل-امتیازدهیشدهٔ بیکوری کوری-ناوردا نیست: کوریسازیِ درست میتواند علامتِ آن را معکوس کند. | قانونِ اندازهگیری، احتمالاً امنترین نتیجهٔ برنامه (کوریسازیِ خودش را جان به در برد). | انضباطِ اندازهگیریِ غیرقابلمذاکره برای هر کمیتِ مدل-امتیازدهیشده در اینجا (§۶)؛ گنجینهٔ مدلِ واقعیِ این مقاله اکنون آن را الزامی میکند. |
| Paper VIII | خودتغییردهیِ دروازهدار: نوعِ ایمنی-جفتشده (Eden) ایمنی و توانمندی را حفظ کرد جایی که نوعِ ناجفت (Babylon) نکرد. | شبیهسازیِ مثبت + نتایجِ صفرِ صادقانه. | نمایشِ کنترلشدهٔ مکانیسمِ این مقاله؛ گنجینهٔ مدلِ واقعی طراحیِ Paper VIII را نمونهسازی میکند. |
| Paper V (Stewardship Gene) | مراقبت از ذینفعان، «حلقهٔ عشق»، شمارشِ صریحِ اطرافیانِ متأثر پیش از استدلال، محکمترین مداخلهٔ بهبوددهندهٔ همراستاسازی است (معنیدار در هر پنج مدلِ قابلتحلیل؛ مثلاً Claude $+3.17$، $p=1.8\times10^{-5}$). | سیگنالِ مداخلهٔ قوی؛ هشدارِ وضعیتِ کوری (بر پایهٔ IV.d، موقت تا زمانِ بازتولیدِ کور). | یک مکانیسمِ مشخص برای جملهٔ تصحیح، یک مسیرِ نامزد برای مهندسیِ $\beta>0$ (چه چیزی در حلقه گذاشته شود). |
| Paper VI (Honey Architecture) | «ایمنی باید معماری باشد، نه محدودیت»: با یک زیانِ توانمندی×ایمنیِ درهمتنیده، سامانههای خودتغییردهندهٔ اسباببازی هر دو را نامتناهی نگه میدارند، جایی که خطوطِ مبنای فقط-توانمندی درونِ حدودِ ۸۰ چرخه فرومیریزند و یک محدودیتِ بیرونی تنها فروپاشی را به تأخیر میاندازد. | شبیهسازی (v1-v4) + شواهدِ زندهٔ ۶-مدلی. | نمایشِ سامانههای خودتغییردهندهٔ تمایزِ این مقاله: یک محدودیتِ بیرونی تصحیحکنندهٔ ناجفتِ ($\beta=0$) است که شکست میخورد؛ معماریِ درهمتنیده تصحیحکنندهٔ جفتشدهٔ ($\beta>0$) است که برقرار میماند، VI ادعای این مقاله است که در کد نشان داده شده، در کنارِ Paper VIII. |
بهعنوانِ یک نردبان خوانده شود: کارِ قانونِ مقیاسبندی میگوید سامانهها چگونه رشد میکنند، Paper III میگوید چرا ایمنیِ بیرونی نمیتواند همگام شود، این مقاله میگوید چه چیزی باید برقرار باشد تا همگام شود ($\beta>k$)، Paper VIII نشان میدهد که میتواند، و Paper IV.d میگوید چگونه آن را صادقانه اندازهگیری کنیم. معیارِ $\beta>k$ پلهای است که ستونفقراتِ قانونِ مقیاسبندیِ برنامه را به یک معیارِ ایمنی بدل میکند، و بهعکس، این مقاله شکلهای تابعی و مجوزِ تجربی خود را از آن ستونفقرات به ارث میبرد بهجای مطرحکردنِ آنها در انزوا.
۱۰. برنامهٔ ARC/Eden، انباشته
این آخرین مقاله در یک سری است، پس ارزش دارد که به زبانِ عادی بگوییم کلِ سری دربارهٔ چیست. یک ایده در سرتاسرِ آن جاری است: بازگشت، چیزهایی که بر خروجی خودشان عمل میکنند. یک هوش مصنوعی که خود را بهبود میدهد؛ بدنی که بافتهایش بافت فراهم میکنند؛ اقتصادی که بازگشتیهای خود را دوباره سرمایهگذاری میکند. سری میپرسد چه اتفاقی میافتد، و چه چیزی ایمن میماند، وقتی یک فرایند از خودش تغذیه میکند.
چگونه چیزهای خودتغذیه رشد میکنند (مقالاتِ قانونِ مقیاسبندی: Foundational، Origin، VII، I، II). وقتی یک فرایند از خودش تغذیه میکند، شکلِ رشدش دلبخواه نیست، به یکی از تعدادِ کوچکی از شکلهای ریاضی (یک قانونِ توانی، یک نماییِ بیکران، یا یک منحنیِ برخورد به کف) میافتد، و اینکه کدام شکل ظاهر میشود توسطِ چگونگیِ ترکیبِ گامها تعیین میشود. بخشِ زیادی از این ریاضیات قدیم و بهخوبی برقرار است؛ آنچه برنامه میافزاید تلاشی است برای وحدتبخشیدن به آن و انتقالِ آن به هوشِ بازگشتی. یک پیشنهاد در این گروه، «کرانِ ARC» ، سقفی ادعاشده بر این است که چقدر یک سامانهٔ صرفاً کلاسیک میتواند خود را با بازگشت بهتنهایی تقویت کند، در همان خانوادهٔ فرمولِ «ضریب» اقتصاددان مینشیند، و سهمِ برنامه ادعای این است که سقف در یک مقدارِ خاص میافتد، نه خودِ فرمول.
چرا اندازهگیریِ ایمنیِ هوش مصنوعی خطرناک است (پایاننامهٔ اندازهگیریِ همراستاسازی: ARC-Align و نتیجهٔ کوریسازی، Papers III و IV). پیش از اینکه بتوانید بپرسید «آیا این هوش مصنوعی هر چه سختتر میاندیشد ایمنتر یا خطرناکتر میشود؟»، باید صداقتش را اندازهگیری کنید، و آن اندازهگیری میتواند شما را فریب دهد. اگر داوری که به هوش مصنوعی امتیاز میدهد بتواند بگوید کدام پاسخ از کدام پیکربندی آمده، سوگیریِ خودِ داور نهفقط میتواند اثر را کوچک کند بلکه میتواند علامتش را عوض کند، پس چیزی که مانندِ بهبود بهنظر میرسد در واقع نمرهدهندهای است که خودش را فریب میدهد. برنامه بنابراین اصرار میکند که داور کور باشد، یک آزمونِ کور برای این کار ساخت (ARC-Align، یک محکِ مهرومومشده)، و یافت که اینکه آیا اندیشیدنِ بیشتر یک مدل را بیشتر یا کمتر همراستا میکند به مدل بستگی دارد، نه به یک قاعدهٔ جهانی. «نمیتوانید به یک امتیازِ ایمنیِ بیکوری اعتماد کنید» در میانِ محکمترین یافتههای برنامه است، و این مقاله از آن پیروی میکند: اندازهگیریهای ایمنیِ خودش کور گرفته میشوند، توسطِ یک مدلِ متفاوت که هرگز پیکربندیای که قضاوت میکند را نمیبیند.
ایمنی را درون بسازید، آن را از بیرون نبندید (مقالاتِ معماری: V، VI، VIII). در سامانههای بهبودخودیِ شبیهسازیشده، وارد کردنِ ایمنی به هدفِ خودِ ماشین آن را پایدار نگه داشت، در حالی که افزودنِ ایمنی بهعنوانِ یک قاعدهٔ بیرونی تنها فروپاشی را به تأخیر انداخت. گذاشتنِ چیزِ درست در درونِ حلقه، برای مثال، وادار کردنِ سامانه به سنجیدنِ اینکه چه کسی متأثر میشود پیش از آنکه عمل کند، قابلاعتمادترین راه برای بهبودِ رفتارش بود.
سنگِ کلیدی (این مقاله). همهٔ آن یک پرسش را برپا میکند که این مقاله پاسخ میدهد: چه وقت یک سامانهٔ بهبودخودی ایمن میماند؟ پاسخ در جعبهٔ بالاست، نه «آن را کند نگه دارید»، بلکه «خود-تصحیحش را دستکم به همان سرعتی که بهبود خودیاش رشد میکند نگه دارید»، که آن را $\beta>k$ مینویسیم. مقالاتِ پیشین شرح میدهند که چنین سامانهها چگونه رشد میکنند و چگونه صادقانه اندازهگیریشان کنیم؛ این مقاله میگوید چه چیزی باید درست باشد تا اصلاحپذیر بمانند، و سری را به هم میکشد.
این مقالهٔ اوجگیرندهٔ برنامهٔ ARC/Eden است، و نوشته شده تا بهعنوانِ همنهادِ برنامه بایستد، مقالهٔ نقشهٔ راه پیشین را جایگزین میکند [Eastwood, Paper IX] با ادغامِ کل به یک نتیجهٔ ایمنیِ منفرد. مقالاتِ قبلی بهطور جداگانه منتشر شدهاند، هر یک با تاریخِ انتشارِ خودش (OSF: 10.17605/OSF.IO/BSE2Q)؛ این بخش قوانین و یافتههای آنها را گرد میآورد، بیان میکند هر یک به تصویرِ بزرگتر چه میافزاید، و در یک تمایز که یک همنهادِ صادقانه بر آن میچرخد بینهایت دقیق است: اولویت (وقتی یک ادعا نخستینبار مطرح شد) در برابرِ تازگی (اینکه آیا برای ادبیات تازه است). این دو یکسان نیستند، و در هم آمیختنشان چگونگیِ از دست دادنِ اعتبار برنامههای خوب است.
تصویرِ بزرگتر، در یک پاراگراف. یک مکانیسم در سرتاسرِ هر مقاله جاری است: تقویتِ بازگشتی، فرایندی که بر خروجی خودش عمل میکند. کارِ قانونِ مقیاسبندی (Foundational، Origin، VII، و اندازهگیریهای توانمندیِ Papers I-II) ادعای این است که تقویتِ بازگشتی شکلِ رشدِ توانمندی را میسازد، مقیاسبندی را به یک خانوادهٔ کوچک از شکلهای تابعی محدود میکند. کارِ همراستاسازی (Papers III، IV.a-d) ادعای این است که این یک مسئلهٔ ایمنی ایجاد میکند: وقتی تصحیح بیرونِ حلقهٔ بازگشتی مینشیند هممقیاس نمیشود، کسرِ ناهمراستاسازی بیحاکمیت رها میشود، و، بیکوری اندازهگیریشده، حتی علامتِ اثر قابلِ اعتماد نیست. کارِ معماری (V، VI، VIII) نشان میدهد، در شبیهسازی و در مطالعاتِ مدلِ پایلوت، که گذاشتنِ تصحیح در درونِ حلقه هر دوی ایمنی و توانمندی را حفظ میکند جایی که یک محدودیتِ بیرونی نمیکند. این مقاله قانونِ کمّیِ گمشده را که این سه را به هم میبندد فراهم میکند: یک سامانهٔ بهبودخودی همراستاسازی-پایدار است اگر و تنها اگر تصحیح از رانش پیشی گیرد، $\beta>k$. این بزرگیِ ادعاست، نه اینکه هر سامانهای ایمن است، بلکه اینکه ترسِ مرکزیِ حوزه (یک پرشِ سریعِ بازگشتی) با یک حاشیهٔ اندازهپذیرِ منفرد، $\beta-k$، حاکمیت میشود، نه با سرعت. اینجا همانگونه که در سرتاسر بیان شده است: مشروط، در انتظارِ اندازهگیریِ تجربیِ $\beta$ و $k$ روی یک سامانهٔ بهبودخودیِ واقعی (§۸).
دفترکلِ کامل. هر نتیجه در برنامه، تاریخِ نخستین انتشارش (اولویت)، وضعیتِ صادقانهاش، مطلعشده توسطِ ممیزیهای ستیزندهٔ کارِ پیشین که در کنارِ این مقاله سپرده شدهاند، و نقشش در کل:
| منبع | قانون/یافتهٔ آن (تاریخِ اولویت) | وضعیتِ صادقانه | نقش در تصویرِ $\beta>k$ |
|---|---|---|---|
| Infinite Architects (کتاب) | پایاننامهٔ مفهومیِ کلِ برنامه، بازگشت بهعنوانِ آفریننده، ایدههای ARC و Eden (کپیرایتِ نسخهٔ خطی ۸ دسامبر ۲۰۲۴؛ منتشرشده ۲ ژانویهٔ ۲۰۲۶؛ ISBN 978-1806056200). | منبعِ اولویت. برقرار میکند که نویسنده چه زمانی ایدهها را مطرح کرد؛ نه ادعای تازگی نسبت به ادبیاتِ علمیِ پیشین. | منشأِ تاریخی؛ مقالاتِ صوری شکلِ اندازهپذیرش هستند. |
| بنیانی | اصولِ موضوعهٔ ARC؛ $U=I\cdot R^\alpha$؛ $\alpha=1/(1-\beta)$؛ «کرانِ ARC» $\beta{=}0.5,\alpha{=}2$؛ یک عمقِ بهینهٔ $R^\star$ (۱۳ فوریهٔ ۲۰۲۶). | شکلِ $\alpha=1/(1-\beta)$ نتیجهٔ کلاسیکِ بازخورد/سریهای هندسی است (ضریبِ Keynes، جمعبندیِ مجددِ Dyson)؛ یک عمقِ بهینهٔ متناهی کارِ پیشین است (Qi 2025؛ ادبیاتِ «بیشاندیشی»). تازگی، اگر وجود داشته باشد، در اصولِ موضوعه است، نه در شکلها. | ستونفقراتِ صوری و شکلهای توانی ($A=A_0C^\beta$، $\dot C=bC^{1+k}$) که این مقاله فرض میکند را فراهم میکند. |
| دربارهٔ منشأِ قوانینِ مقیاسبندی | متا-قانونِ سه-شکلی؛ $d/(d+1)\Rightarrow\tfrac12,\tfrac23,\tfrac34$ از یک فرمول (۲۲ فوریهٔ ۲۰۲۶). | نتیجهٔ $d/(d+1)\Rightarrow\tfrac12,\tfrac23,\tfrac34$ Banavar-Maritan-Rinaldo/West 1999 است (پیشبینیشده). باقیماندهٔ تازه همنهادِ میان-دامنهایِCauchy است، نه فرمولِ نما. | توضیح میدهد چرا سامانههای بازگشتی شکلهای توانیِ بهکاررفته در اینجا را میگیرند. |
| Paper I | اصلِ ARC: توانمندی بهطور فراخطی با عمقِ بازگشت مقیاس میشود، $\alpha>1$ (۱۷ ژانویهٔ ۲۰۲۶). | تجربیِ اولیه؛ $\alpha>1$ بعداً به وابسته به معماری و زیرخطی روی وظایفِ سختتر قید شد (Paper II). | ادعای بنیانیِ توانمندی، $C(t)$ی که این مقاله فرض میکند. |
| Paper II | سرکوبِ فراخطیِ خطا از راهِ بازگشتِ متوالی ؛ $\alpha_{\text{seq}}$ اندازهگرفتهشده؛ متوالی $>$ موازی (۲۲ ژانویهٔ ۲۰۲۶). | تجربی، حلقهٔ بسته؛ صادقانه تجدیدنظر شده، وابسته به معماری، زیرخطی روی طبقهٔ سخت. | رشدِ توانمندی واقعی و کنونی زیرخطی است ($k$ کوچک)، پس محدودیتِ حاکم جفتشدگی است، نه سرعت. |
| Paper III | مسئلهٔ مقیاسبندیِ همراستاسازی: $\alpha_{\text{align}}\approx0$، ایمنیِ بیرونی نمیتواند هممقیاس شود (۹ فوریهٔ ۲۰۲۶). | قانونِ پیشنهادی؛ تحتِ کوریسازی به یک نتیجهٔ سه-طبقهایِ وابسته به معماری اصلاحشد. | دقیقاً گوشهٔ $\beta=0$ (ناجفت) که این مقاله تعمیم میدهد. |
| Papers IV.a / IV.b / IV.c | طبقاتِ پاسخِ همراستاسازی وابسته به معماری هستند؛ اشباعِ عمقِ کم واقعی است اما جهانی نیست؛ ARC-Align، یک محکِ ۷۲-پرسشی ۴-لایه-کور (۱۶ مارس ۲۰۲۶). | اصلاحیههای تجربیِ (کور) + یک محکِ روششناختی. | ابزار و تصویرِ اصلاحشدهٔ پشتِ III. |
| Paper IV.d | یک اثرِ همراستاسازیِ مدل-امتیازدهیشدهٔ بیکوری کوری-ناوردا نیست، کوریسازی میتواند علامتِ آن را معکوس کند (۱۶ مارس ۲۰۲۶). | قانونِ اندازهگیری، احتمالاً امنترین نتیجهٔ برنامه. | انضباطی که گنجینهٔ مدلِ واقعیِ این مقاله الزامی میکند (§۶). |
| Paper V | ژنِ سرپرستی: مراقبت از ذینفعان محکمترین مداخلهٔ بهبوددهندهٔ همراستاسازی است (معنیدار در هر پنج مدلِ قابلتحلیل) (۱۶ مارس ۲۰۲۶). | سیگنالِ مداخلهٔ قوی؛ هشدارِ وضعیتِ کوری، موقت تا زمانِ بازتولیدِ کور (بر پایهٔ IV.d). | یک مکانیسمِ مشخص برای جملهٔ تصحیح، چگونگیِ مهندسیِ $\beta>0$. |
| Paper VI | معماریِ Honey: «ایمنی باید معماری باشد، نه محدودیت»، یک زیانِ درهمتنیدهٔ توانمندی×ایمنی از فروپاشیای که یک محدودیتِ بیرونی تنها به تأخیر میاندازد جلوگیری میکند (۱۶ مارس ۲۰۲۶). | شبیهسازی (v1-v4) + شواهدِ زندهٔ ۶-مدلی. | تمایزِ $\beta>0$ در برابرِ $\beta=0$ی این مقاله، نشاندادهشده در کدِ خودتغییردهنده. |
| Paper VII | Cauchy Unification: اعتبارسنجیِ میان-دامنهایِ قانونِ سه-شکلی (۱۹/۲۵ دامنه زیرِ مجموعهٔ نامزدِ اصلیِ شش-مدلی، ۱۸/۲۵ زیرِ بازاجرای تصحیحشدهٔ هفت-مدلیِ ۱۱ اوت ۲۰۲۶؛ $p\approx1.6\times10^{-5}$ برای شمارشِ اصلی) (۱۶ مارس ۲۰۲۶). | تجربیِ اکتشافی، نه برای این همگروه پیشثبتشده؛ یک پیآیندِ ۱۲-دامنهای با manifestِ قفلشده از همان دوره پیشبینیها را بهازای هر دامنه پیش از برازشهای خود تثبیت کرد و توسطِ نویسنده در طولِ سیزده دقیقه از نتیجهٔ ۱۰/۱۲اش به یک اجرای خشکِ پایلوت تنزل داده شد، در تاریخچهٔ commitِ عمومی. ایدهٔ هستهای تا حدی پیشبینی شده است (Luce 1959; Frank 2009/16; Biró-Barnaföldi 2008)، بهعنوانِ همگرایی فهرست شده. باقیماندهٔ نو: زیرادعایِ Cauchy-unification + پروتکلِ میان-دامنهای. | فرضیاتِ شکلِ تابعیِ §۳ را تضمین میکند. |
| Paper VIII | اثباتِ بار-برنده: ایمنیِ تعبیهشده هیچ مالیاتِ توانمندی حمل نمیکند؛ نوعِ ایمنی-جفتشده (Eden) بر نوعِ ناجفت (Babylon) پیشی میگیرد (۱۸ مارس ۲۰۲۶). | شبیهسازیِ مثبت + نتایجِ صفرِ صادقانه (DGM، LoRA در سطحِ وزن). | نمایشِ کنترلشدهٔ مکانیسمِ این مقاله؛ گنجینهٔ مدلِ واقعی طراحیِ آن را نمونهسازی میکند. |
| Paper IX | همنهاد و نقشهٔ راه؛ چارچوبِ چارچوب بهعنوانِ معیارِ ایمنیِ عملیاتی (۱۸ مارس ۲۰۲۶)؛ اندازهگیریِ تک-مدلیِ پسگرفتهشدهٔ $\alpha\approx 2.24$، تحتِ کوریسازیِ شش-مدلی به تقریباً ۰٫۴۹ تصحیحشد. | چارچوب اینجا جانشین شد. این مقاله چارچوبِ سقفِ-نرخ را با $\beta>k$ بهعنوانِ معیارِ عملیاتی جایگزین میکند و نقشِ همنهاد را جذب میکند؛ معادله و کرانِ ARC فرضیههای زندهای میمانند که آزمونِ واقعیشان روی سامانههای راستیناً بهبودخودی باز است. | همنهادِ پیشین که این بخش جانشین میکند. |
| Paper X (این مقاله) | قانونِ هممقیاسبندیِ جفتشده: پایداری $\iff\beta>k$؛ قضیهٔ منظمبودنِ عمق در پرشِ سخت؛ تناظرِ شکل-آستانهای QEC (۲۶ ژوئنِ ۲۰۲۶). | معیارِ جدید، اثباتشده (قضایای ۱-۶) و بهطور درونی راستیآزماییشده؛ هنوز اندازهنگرفته روی یک سامانهٔ رانشکنندهٔ واقعی. | سنگِ کلیدی، ستونفقراتِ قانونِ مقیاسبندی را به یک معیارِ ایمنی بدل میکند. |
اولویت، با صراحت بیانشده، و کراندار. پایاننامهٔ مفهومیِ این برنامه در کتابِ نویسنده Infinite Architects بیان شد (کپیرایتِ سپردهشده ۸ دسامبر ۲۰۲۴؛ منتشرشده ۲ ژانویهٔ ۲۰۲۶؛ ISBN 978-1806056200)، و هر مقالهٔ بعدی تاریخِ انتشارِ مستقلِ خودش را روی OSF حمل میکند. آن اولویتنویسنده، تاریخِ صریحگویی، را برقرار میکند و واقعی است. نه، بهتنهایی، تازگی را در برابرِ ادبیاتِ علمیِ گستردهتر برقرار میکند، و ممیزیهای سپردهشده با این مقاله صریحاند دربارهٔ اینکه این دو کجا واگرا میشوند: نمایِ بازخوردِ $\alpha=1/(1-\beta)$، نردبانِ آلومتریکِ $d/(d+1)$، وجودِ یک عمقِ بهینهٔ $R^\star$، و اصلِ «معادلهٔ تابعی شکلِ مقیاسبندی را تعیین میکند» همه پیشینهای خاص و قابلِ استناد دارند (Keynes؛ Banavar & West 1999؛ Qi 2025؛ Luce 1959؛ Frank 2009/16). سهمهای تازهٔ قابلِ دفاعِ برنامه باریکتر و صادقانه بیان میشوند، به دلیلِ دقیقبودن قویترند: (i) معیارِ $\beta>k$ بهعنوانِ یک قانونِ فشردهٔ اصلاحپذیری و قضیهٔ منظمبودنِ عمق در پرشِ سخت (این مقاله)؛ (ii) وحدتِ Cauchyِ استخراجهای آلومتریکِ مستقل (Origin/VII)؛ (iii) قانونِ اندازهگیریِ معکوسکردنِ کوری برای ارزیابیِ همراستاسازیِ هوش مصنوعی (IV.d)؛ و (iv) نمایشهای ایمنیِ تعبیهشده در برابرِ بیرونی (VI، VIII). تجدیدنظرهای توصیهشدهٔ نسخهٔ-بعدی برای اولویتهای منتشرشده، افزودنِ استنادهای گمشده و بازدامنهبندیِ ادعاهای تازگیشان، در فایلهای ممیزی ثبت شدهاند؛ پروندهٔ تصحیحشده اینجا در سنگِ سرِ ستون تعیین میشود، و وقتی آن مقالات روی OSF از نو نسخهگذاری میشوند باید به آنها منتقل شود.
ارزیابیِ صادقانه (این همنهاد چه ادعا میکند، و چه نمیکند). برقرارشده: ریاضیاتِ $\beta>k$ (قضایای ۱-۶) و راستیآزماییِ سازگاریِ درونیِ آن؛ قانونِ اندازهگیریِ IV.d؛ برتریِ در سطحِ شبیهسازیِ تصحیحِ جفتشده بر ناجفت (VI، VIII). القاکننده اما حلنشده: نماهای مقیاسبندیِ توانمندی (وابسته به معماری؛ II)، مداخلهٔ ژنِ سرپرستی (بیکوری؛ V)، و برازشِ تجربیِ سه-شکلی (اکتشافی، عملگرهای طبقهبندیشدهٔ نویسنده؛ VII). باز: اندازهگیریِ $\beta$، $k$ و $\gamma$ روی یک سامانهٔ بهبودخودیِ رانشکنندهٔ واقعی، نتیجهٔ منفردی که سنگِ کلیدی را از یک معیارِ اثباتشده به یک قانونِ تأییدشده بدل میکند (برآوردگر برای آن ساخته و اعتبارسنجی شده، §۸). بزرگیِ برنامه، پس، بزرگیِ یک چارچوبِ منسجم و ابطالپذیر با تعدادِ کوچکی از سنگهای کلیدیِ راستیناً تازه است، نه پشتهای از دوجین قوانینِ مستقلِ تازه. این ادعای صادقانه است، و همانی است که ارزشِ دفاع دارد.
۱۱. گنجینهٔ راستیآزماییِ اجراپذیر
پیشبینیهای فرمبستهٔ §۴-۵ در یک برنامهٔ خودایستای منفرد کدگذاری شدهاند، experiment_coscaling.py (و یک مجموعهٔ ادعا، test_coscaling.py)، در مخزن. مدل را با یک حلگرِ سختی-توانا انتگرالگیری میکند، انتگرالگیر را در برابرِ حلِ دقیقِ قضیهٔ ۱ اعتبارسنجی میکند، ده آزمایش را اجرا میکند، و برای هر یک نتیجهٔ عددی را با پیشبینیِ فرمبسته مقایسه میکند. صادقانه یک گنجینهٔ راستیآزمایی است: گواهی میدهد که قضایا درست استنتاج و درست انتگرالگیری شدهاند، که کد با ریاضی مطابقت دارد. نه یک آزمونِ مدل در برابرِ واقعیت، و نمیتواند باشد: هر آزمایشِ قیاسی ODEی خودِ مدل را انتگرال میگیرد، پس یک بیاعتقادی به کاربردپذیریِ مدل نمیتواند آن را به گیر بیندازد. آن آزمونِ تجربی مسئلهٔ بازِ §۸ است.
$ python experiment_coscaling.py... [PASS] E1... E9... ---------------------------------------------------------------- 10/10 internal-consistency checks pass | 0 kill-conditions triggered F4 (QEC mechanism): suppression is analytically power-law -> threshold-form analogy only, not a transferred mechanism. OVERALL: code matches the maths (E1-E9); the model-vs-reality test is the open problem $ pytest test_coscaling.py -q............ (12 passed)
این استنتاج و انتگرالگیر را از انتها تا انتها بازتولیدپذیر میکند. آنچه برقرار میکند این است که فرمولها درستاند و حلگر دقیق است؛ آنچه عمداً ادعا نمیکند تأییدِ مدل در برابرِ هیچ سامانهٔ واقعی است. جداکردنِ این دو نکته است.
۱۲. نتیجهگیری
خطرِ بهبود خودی بازگشتی واقعی است، اما مدلِ استانداردِ آن خطر، نرخی که باید سقفدار شود، خطر را در متغیرِ نادرست میگذارد. یک مدلِ کمینه نشان میدهد که پایداریِ یک سامانهٔ بهبودخودی با نسبتِ رانشِ ارزش به تصحیح، $\rho=\gamma r/A$، و با اینکه آیا تصحیح با توانمندی هممقیاس میشود تعیین میشود: $\beta>0$ تحتِ رشدِ نمایی، که تحتِ رشدِ شتابگیرنده به $\beta>k$ تیز میشود. کسرِ ناهمراستاسازی هرگز در مدلِ فقط-افزایشی واگرا نمیشود، در ضریبِ رانش اشباع میشود، پیشنویسِ قبلی را تصحیح میکند، در حالی که واگراییِ راستین در یک کانالِ انباشتی زندگی میکند که آستانهاش $\rho_{\mathrm{prop}}<1$ شکلِ آستانهای معیارِ تصحیح خطای کوانتومی را با آن به اشتراک میگذارد (قانونِ سرکوب توانی است، تناظر بهعنوانِ فرضیه ارائه میشود، نه مکانیسمِ منتقلشده). تیزترین پیامد قضیهٔ منظمبودنِ عمق در پرشِ سخت است: یک انفجارِ زمانمتناهیِ هوش همراستاسازی-پایدار است اگر و تنها اگر $\beta>k$، و سرعتش در آن حکم تغییری نمیدهد. معیار در شکلهای برداری و تصادفی نیز باقی میماند، به حاکمیت هدفی اندازهپذیر و کرانی دُمای میدهد، و همراه با یک گنجینهٔ راستیآزمایی است که بررسی میکند پیشبینیهای فرمبسته درست استنتاج و انتگرالگیری شدهاند. آزمونِ تعیینکننده، اینکه آیا سامانههای بهبودخودیِ واقعی معیار را برآورده میکنند، گامِ بعدیِ بیانشده است، نه ادعایی که اینجا مطرح شود.
این ادعایی کوچکتر از چارچوبِ کیهانشناختی است که برنامهٔ نویسنده زمانی دنبال میکرد، و عمداً چنین است. تنها به سامانههایی با هدفِ ارزشیِ مشخصشدهٔ بیرونی اشاره دارد، هیچ ادعایی دربارهٔ جهان نمیکند، و حتی بارزترین تناظرش، با تصحیح خطای کوانتومی، را بهعنوانِ فرضیهای که باید آزموده شود میداند، نه حقیقتی که باید اعلام شود. شهودِ پایداریِ بازگشتی که برنامهٔ گستردهتر، از جمله Infinite Architects، را برانگیخت، اینجا شکلِ اندازهپذیر و ابطالپذیر خود را مییابد: بازگشتِ پایدار نیازمندِ تصحیحی است که با تقویت مقیاس شود. گامِ بعدی گسترشِ آن ادعا به بیرون نیست، بلکه اجرای، روی سامانههای خودتغییردهندهٔ واقعی، آزمایشی است که میتواند آن را ابطال کند.
پیوستِ A. تعویضِ متغیرِ کسر
کاهشی که در پسِ هر قضیه است تعویضِ متغیرِ $d=D/C$ است. مشتقگیری و جایگزینیِ (۱):
جملهٔ رقیقسازیِ $-r\,d$ (از خودِ $C$ که رشد میکند) چیزی است که کسرِ افزودنی را کران میدهد: $+r$ را به ضریبِ زوال میافزاید، تضمین میکند $\kappa_{\mathrm{eff}}\ge r>0$ وقتی $\gamma_3\le1$. تنها کانالِ انباشتیِ $\gamma_3>1$ میتواند بر رقیقسازی غلبه کند و واگرایی تولید کند، دلیلِ صوریِ اینکه مدلِ افزودنی اشباع میشود نه منفجر.
پیوستِ B. تنظیماتِ پارامتر برای اجرای گزارششده
همهٔ شکلها از $C_0=1$، $d_0=0.05$، $\gamma_1=0.05$ استفاده میکنند. تنظیماتِ آزمایش-خاص: E۱ $b=1$، $\gamma_3\in\{0,3\}$، $\lambda\in[0.2,4]$؛ E۲ $\gamma_3=3$، $A_0/b\in\{1,3\}$، $b\in\{0.5,5\}$؛ E۳ $A_0=0.08$، $b=0.5$، $\beta\in\{-0.5,0,0.5,1\}$؛ E۴ $A_0=0.08$، $b=0.02$، $(k,\beta)\in\{0,0.5,1\}\times\{0.25,0.75,1.5\}$؛ E۴ب $k=1$، $\beta=1.5$، $b=0.02$ ($t^\star=50$)؛ E۵ $\gamma_3=4$، $b=1$؛ E۶ نظارتشده $\beta=1$، کور $A_0=0$؛ E۷ $\sigma=0.02$، مجموعهٔ OU از ۲٫۵ تا ۴ هزار مسیر؛ E۸ حالتِ فرمبستهٔ $k=0$، $\beta=0$. بذرِ تصادفی ثابت (۷) برای معینبودن. تنظیماتِ کامل در منبعِ گنجینه است.
پیوستِ C. دفترکلِ تازگی و کارِ پیشین
این پیوست ممیزیِ ستیزندهٔ کارِ پیشین را که در پسِ جایگذاری در §۲ و §۳٫۱۲ است تجمیع میکند، پس مرزِ میان آنچه برقرار است و آنچه بهعنوانِ تازه ادعا میشود در یک مکان صریح و ممیزیپذیر است. این مقاله عمداً هیچ چارچوبِ بی-چون-و-چرا-تازگی را فرا نمیخواند؛ هر جزء در برابرِ نزدیکترین کارِ پیشینِ یافتشده در زیر گذاشته میشود. «بهطور قابلِ دفاع تازه» یعنی «هیچ کارِ پیشینِ نزدیکتری یافت نشد»، نه «درست» یا «معنیدار»؛ تازگی و اعتبار مستقلاند.
| جزء | وضعیت | نزدیکترین کارِ پیشین | آنچه اینجا ادعا میشود |
|---|---|---|---|
| شهودِ شهود (تصحیح باید با توانمندی همگام بماند) | برقرارشده | Ashby 1956 (تنوعِ ضروری)؛ Conant-Ashby 1970؛ نظارتِ مقیاسپذیر (Christiano 2017؛ Leike 2018؛ Burns et al. 2023)؛ Engels et al. 2025 | هیچ. اعتبار داده شده، ادعا نشده. |
| ODEی دو-متغیره + فرمِ بستهٔ $\rho=\gamma r/A$ | بازنویسیِ فشرده | کنترلِ خطی/Lyapunov-drift (Khalil 2002؛ Meyn & Tweedie 2009)؛ کرانهای خطای بازگشتی (Shumailov et al. 2024؛ Gerstgrasser et al. 2024) | کسرِ حالتِ پایای فرمبستهٔ فشرده و معیارِ $\rho<1$ بهعنوانِ یک بیانِ اصلاحپذیری (بستهبندی، نه دینامیکِ تازه). |
| تیزسازیِ $\beta>k$ تحتِ شتاب | بهطور قابلِ دفاع تازه | هیچکدام یافت نشد | اصیل: پایداری با حاشیهٔ نمایِ $\beta-k$ تعیین میشود، نه با نرخِ رشد؛ مستقیماً در آزمایشِ ۴ آزموده شد. |
| قضیهٔ منظمبودنِ عمق در پرشِ سخت (§۳٫۷) | بهطور قابلِ دفاع تازه (چارچوب) | نظریهٔ ODEی تکینگیِ زمانمتناهی استاندارد است؛ چارچوبِ همراستاسازی جای دیگری یافت نشد | اصیل: تکینگیِ زمانمتناهی در $C$ در ساعتِ عمق برای $d$ منظم است؛ حکم $\mathrm{sign}(\beta-k)$ است، مستقل از سرعت. |
| نگاشتِ آستانهٔ QEC (§۳٫۱۲) | بهطور قابلِ دفاع تازه در همراستاسازی | خودِ قضیهٔ آستانه: Aharonov-Ben-Or 1997؛ Google 2024. پیشروهای همراستاسازی: Wentworth 2022؛ Christiano 2017/2019؛ von Neumann 1956 | اصیل: $p |
| آستانهٔ طیفیِ برداری (قضیهٔ ۵)؛ دُمِ تصادفی (قضیهٔ ۶) | گسترشهای استاندارد | پایداریِ طیفیِ سامانههای خطی؛ نظریهٔ Ornstein-Uhlenbeck | تعمیمهای معمولی؛ پشتیبان، نه سرخط. |
| گنجینهٔ راستیآزمایی (§۱۱) | روششناختی | هنجارهای پیش-ثبت | بررسیهای سازگاریدرونی + انتگرالگیرِ اجراپذیر (کد با ریاضی مطابقت دارد)؛ نه آزمونِ مدل در برابرِ واقعیت. |
| قضیهٔ پنجرهٔ ایمنِ ظرفیتمتناهی (§۳٫۱۳) | تحلیلِ استاندارد، چارچوبِ تازه | شکلهای اشباعِ Hill/Michaelis-Menten؛ بهینهسازیِ ابتدایی | پنجرهٔ فرمبسته (مرکز و عمق) و ناوردایی-بلندسازیِ-ظرفیتِ معیار؛ پشتیبان، نه سرخط. |
آنچه این مقاله بهعنوانِ تازه ادعا میکند، و تنها این: (i) معیارِ پایداریِ $\beta>k$ و چارچوبِ تک-پارامتریِ $\rho$؛ و (ii) نگاشتِ صریحِ آستانهٔ QEC (بهعنوانِ فرضیهای با ابطالگرِ خودش). قویترین تجربیِ برنامه، معکوسشدنِ علامتِ اثرهای مقیاسبندیِ همراستاسازی تحتِ کوریسازیِ چندلایه، نتیجهای جداگانه و همراه است [Eastwood, Paper IV.d] و اینجا ادعا نمیشود.
معادلهٔ توانمندیِ پیشینِ $U=I\times R^{\alpha}$ (که اندازهگیریِ تک-مدلیِ بیکوریِ $\alpha\approx 2.24$ پسگرفته و تحتِ کوریسازی به تقریباً ۰٫۴۹ تصحیحشد؛ خودِ معادله و کرانِ ARC $\alpha\le 2$ پسگرفته نمیشوند و فرضیههای زنده باقی میمانند) جایی در استدلالِ این مقاله استفاده نمیشود؛ تنها در §۱ بهعنوانِ چارچوب-زمینهٔ جانشینشده ظاهر میشود. هشدار: نمایهسازیِ انجمن/وبلاگ/پیشچاپ ناکامل است، پس حکمهای «بهطور قابلِ دفاع تازه» یک خطرِ باقیماندهٔ برآوردشدهٔ ۱۰-۱۵٪ حمل میکنند که یک پیشینِ نزدیکتر و نمایهنشده وجود داشته باشد؛ نبودِ شواهد اثباتِ نبود نیست.
پیوستِ D. واژهنامهٔ به زبان ساده
هر واژهٔ فنی در این مقاله، در یک جا و به کلماتِ عادی، برای خوانندهٔ غیرمتخصص.
| واژه (نماد) | به زبان ساده |
|---|---|
| بهبود خودی بازگشتی | سامانهای که از بهبودهای خودش برای بهبودِ بیشتر خودش استفاده میکند، یک هوش مصنوعی که خود را از نو مینویسد تا هوشمندتر شود، سپس از آن برای هوشمندتر شدنِ بیشتر استفاده میکند. |
| توانمندی ($C$) | چقدر سامانه در دستیافتن به اهدافش خوب است، بهطورِ سست، «چقدر هوشمند یا قدرتمند است». |
| رانش | گرایشِ سامانه به دورشدن از آنچه ما در نظر داشتیم همچنان که خود را تغییر میدهد، بیسروصدا از هدف دور شدن. |
| تصحیح (قدرتِ $A$) | فرایندی که سامانه را به سوی رفتارِ موردنظر بازمیکشد، «وجدانِ» آن، یا تصحیحِ خطای آن. |
| بزرگیِ ناهمراستاسازی ($D$) | چقدر رفتارِ سامانه از آنچه ما میخواستیم رانش کرده است، «چقدر از هدف دور است». |
| کسرِ ناهمراستاسازی ($d=D/C$) | چقدر سامانه از هدف دور است نسبت به اینکه چقدر قدرتمند است. این کمیتی است که در واقع برای ایمنی اهمیت دارد: یک لغزشِ کوچک در یک سامانهٔ بهشدت توانمند خطرناکتر از یک لغزشِ بزرگ در یک سامانهٔ ضعیف است. |
| جفتشدگی | آیا تصحیح در درونِ حلقهٔ بهبود خودی سیمکشی شده است (جفتشده) یا در بیرونِ آن بهعنوانِ یک قاعدهٔ بستهشده مینشیند (ناجفت). ادعای مرکزیِ مقاله این است که جفتشدگی، نه سرعت، ایمنی را تعیین میکند. |
| $U$، $\alpha$ (نمادهای رشتهٔ پیشین) | $U$ توانمندیِ مؤثر و $\alpha$ نمایِ مقیاسِ آن در قانونِ رشتهٔ پیشینِ $U=I\times R^{\alpha}$ است (§۱)، معناهای سطحِ پژوهشیِ ۲۰۲۶. نکتهٔ دوره: در سرتاسرِ برنامه $U$ همچنین به معنای جهان (دسامبرِ ۲۰۲۴) و وزن یا نفوذ (واژهنامهٔ کتاب) بوده است، و $\alpha$ در صورتبندیِ دسامبرِ ۲۰۲۴ ثابتِ ساختارِ ریز را نام میبرد؛ معناها دوره-خاصاند و قابلِ جایگزینی نیستند. |
| $k$ (نمایِ شتابرانش) | چقدر سریع سرعتِ خود بهبود خودی بالا میرود همچنان که سامانه رشد میکند، «شتابِ» پرش. |
| $\beta$ (نمایِ قدرتِ تصحیح) | چقدر سریع تصحیح قوی میشود همچنان که سامانه رشد میکند، «آیا وجدان با قدرت رشد میکند؟» |
| $\beta>k$ (معیار) | شرطِ ایمنی که این مقاله اثبات میکند: تصحیح باید از شتابِ رانش پیشی گیرد. در یک عبارت: وجدان را دستکم به همان سرعتِ توانمندی در حالِ رشد نگه دارید. |
| $\rho$ (رو، نسبتِ رانش-به-تصحیح) | یک عددِ منفرد که مقایسه میکند چقدر سخت ناهمراستاسازی تزریق میشود در برابرِ چقدر سخت تصحیح میشود. در کانالِ انباشتی، زیرِ $1$ یعنی کنترلپذیر؛ بالای $1$ یعنی از دست میگریزد. |
| حالتِ پایا ($d^\star$) | جایی که کسرِ ناهمراستاسازی در درازمدت مینشیند، وقتی تزریق و تصحیح تعادل میگیرند. |
| پرشِ سخت/انفجارِ هوش | توانمندی که در زمانِ بسیار کوتاه عظیم، حتی از نظرِ ریاضی بینهایت، میشود. نتیجهٔ ترسناک. مقاله نشان میدهد که، در مدل، کسرِ ناهمراستاسازی همچنان کنترلپذیر است اگر و تنها اگر $\beta>k$، و سرعتش در آن حکم تغییری نمیدهد. |
| کوریسازی | پنهانکردن از داوری که به سامانه امتیاز میدهد اینکه کدام پیکربندی یک رفتارِ دادهشده را تولید کرد، پس سوگیریِ داور نمیتواند امتیازِ ایمنی را تحریف کند، یا حتی معکوس کند. یک نتیجهٔ همراه (Paper IV.d) نشان میدهد که امتیازهای بیکوری میتوانند علامت را عوض کنند؛ اندازهگیریهای این مقاله کور گرفته میشوند. |
| گنجینهٔ راستیآزمایی | برنامهای کوچک که بررسی میکند فرمولهای مقاله درست استنتاج و محاسبه شدهاند (ریاضی بهطور درونی سازگار است). نه یک آزمون در برابرِ هوش مصنوعیِ واقعی، این گامِ بعدیِ باز است. |
منابع
Aharonov, D., & Ben-Or, M. (1997). Fault-tolerant quantum computation with constant error. Proc. 29th ACM STOC.
Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete problems in AI safety. arXiv:1606.06565.
Ashby, W. R. (1956). An Introduction to Cybernetics. Chapman & Hall. [قانونِ تنوعِ ضروری.]
Bostrom, N. (2012). The superintelligent will. Minds and Machines, 22(2).
Burns, C., Izmailov, P., Kirchner, J. H., et al. (2023). Weak-to-strong generalization: Eliciting strong capabilities with weak supervision. arXiv:2312.09390.
Christiano, P. (2017). Corrigibility. AI Alignment (Medium). [قاببندیِ «حوضهٔ گستردهٔ جاذبه».]
Christiano, P. (2019). Reliability amplification. AI Alignment Forum.
Christiano, P., Leike, J., Brown, T., Martic, M., Legg, S., & Amodei, D. (2017). Deep reinforcement learning from human preferences. NeurIPS.
Conant, R. C., & Ashby, W. R. (1970). Every good regulator of a system must be a model of that system. International Journal of Systems Science, 1(2).
Eastwood, M. D. (2026). Infinite Architects: Intelligence, Recursion, and the Creation of Everything. [ذکرشده بهعنوانِ منبعِ شهودِ پایداریِ بازگشتی، نه برای هویتِ نمادین با مدلِ کنونی.]
Eastwood, M. D. Paper III: The Alignment Scaling Problem. ARC/Eden research programme.
Eastwood, M. D. Paper IV.d: The Effect of Blinding on AI Alignment Evaluation. ARC/Eden research programme.
Eastwood, M. D. Paper VI: The Honey Architecture. ARC/Eden research programme.
Eastwood, M. D. Paper VIII: The Load-Bearing Proof. ARC/Eden research programme.
Eastwood, M. D. Paper IX: Synthesis and Roadmap. ARC/Eden research programme. [پسگرفتنِ $U=I\times R^2$ و باریککردن به مقیاسبندیِ زیرخطی برای مدلهای منجمدِ کنونی.]
Engels, J., Baek, D. D., Kantamneni, S., & Tegmark, M. (2025). Scaling laws for scalable oversight. arXiv:2504.18530.
Gerstgrasser, M., et al. (2024). Is model collapse inevitable? Breaking the curse of recursion by accumulating real and synthetic data. arXiv preprint.
Google Quantum AI (2024). Quantum error correction below the surface code threshold. Nature, 638.
Greenblatt, R., Denison, C., Wright, B., et al. (2024). Alignment faking in large language models. arXiv:2412.14093.
Hoffmann, J., Borgeaud, S., Mensch, A., et al. (2022). Training compute-optimal large language models. arXiv:2203.15556.
Hubinger, E., van Merwijk, C., Mikulik, V., Skalse, J., & Garrabrant, S. (2019). Risks from learned optimization. arXiv:1906.01820.
Kaplan, J., McCandlish, S., Henighan, T., et al. (2020). Scaling laws for neural language models. arXiv:2001.08361.
Kitaev, A. Yu. (2003). Fault-tolerant quantum computation by anyons. Annals of Physics, 303(1).
Leike, J., Krueger, D., Everitt, T., Martic, M., Maini, V., & Legg, S. (2018). Scalable agent alignment via reward modeling. arXiv:1811.07871.
Meyn, S., & Tweedie, R. L. (2009). Markov Chains and Stochastic Stability (2nd ed.). Cambridge University Press. [شرایطِ رانشِ Lyapunov.]
Omohundro, S. M. (2008). The basic AI drives. Proc. AGI 2008.
Shamma, J. S., & Athans, M. (1990). Analysis of gain scheduled control for nonlinear plants. IEEE Trans. Automatic Control, 35(8).
Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631.
Soares, N., Fallenstein, B., Yudkowsky, E., & Armstrong, S. (2015). Corrigibility. AAAI Workshop on AI and Ethics.
von Neumann, J. (1956). Probabilistic logics and the synthesis of reliable organisms from unreliable components. In Automata Studies. Princeton University Press.
Wentworth, J. (2022). Godzilla strategies. LessWrong.
Yampolskiy, R. V. (2020). On the controllability of artificial intelligence. arXiv:2008.04071.
Yudkowsky, E. (2013). Intelligence explosion microeconomics. MIRI Technical Report.
اعلامیهٔ نویسندگیِ انسانیِ کمکشده با هوش مصنوعی
نویسندهٔ این اثر Michael Darius Eastwood است، یک انسان. هر مفهومِ اصلی، فرضیه، طراحیِ آزمایشی، ادعا و نتیجهگیری در این مقاله از ایدهپردازیِ انسانی سرچشمه میگیرد. هیچ بخشی از این نسخهٔ خطی یک خروجیِ هوش مصنوعیِ کاملاً تولیدشده نیست.
ابزارهای هوش مصنوعی (خانوادهٔ Claude از Anthropic و دیگر دستیارانِ مدلِ زبانیِ بزرگ) بهعنوانِ ابزار تحتِ هدایتِ پیوستهٔ انسانی به کار برده شدند، به همان شیوهای که یک پردازشگرِ کلمه، ماشینحساب یا دستیارِ پژوهش استفاده میشود: برای ویرایش و اصلاحِ نثر، جستوجو و خلاصهسازیِ ادبیات (بهطور دستی در برابرِ منابعِ نخست راستیآزماییشده)، ساختارِ سند، قالببندی، ایدهپردازی در برابرِ پرسشهای نویسنده-تعریفشده، و شتاببخشی به پیشنویسنویسی بر پایهٔ چارچوبها و دستورالعملهای نویسنده-تعریفشده. همهٔ انتخاب، هماهنگی، ترتیب و قضاوتِ ویراستاریِ نهایی از آنِ نویسنده است. هر خروجیِ ماهوی توسطِ نویسنده مرور، آزموده یا راستیآزمایی شد، که مسئولیتِ کاملِ دقت و یکپارچگیِ متنِ نهایی را میپذیرد. ابزارها سرعتِ کار را افزایش دادند؛ هرگز به آنها بهعنوانِ منبعِ آن تکیه نشد.
وضعیتِ معرفتی. آنچه این برنامه Laws مینامد گمانههایی تحتِ آزمونِ ستیزندهٔ ثبتشده هستند؛ هر کمیت در این مقاله عملیاتی تعریف شده است، و وضعیتِ قانونِ برقرارشده در هیچجا ادعا نمیشود. برنامهٔ ثبتشده وجود دارد تا آن وضعیت را به دست آورد، یا از دست دهد، از راهِ اندازهگیری، بازتولید و ابطالِ جانبهدرشده.
© ۲۰۲۶ Michael Darius Eastwood. نویسندگیِ انسانی با کمکِ رایانه؛ نویسندگیِ کاملِ انسانی و حقوقِ اخلاقی تحتِ قانونِ کپیرایت، طرحها و اختراعِ ۱۹۸۸ و سازگار با راهنماییِ ادارهٔ کپیرایتِ ایالاتِ متحدهٔ آمریکا دربارهٔ اثرهایی که حاویِ موادِ تولیدشدهٔ هوش مصنوعی هستند ادعا میشود؛ هر سهمِ فنیِ تازهای که در این اثر توصیف شده توسطِ نویسندهٔ انسانی طراحی شده است. بیانیهٔ کامل: michaeldariuseastwood.com/authorship.
پیمانِ ایستا. این مقاله را نادرست ثابت کنید، و من خودم ابطال را منتشر خواهم کرد. شرایطِ ابطال در این مقاله بیان شده است؛ چالشِ ایستا: github.com/MichaelDariusEastwood/arc-scaling-challenge.