این ترجمه به صورت خودکار از نسخهٔ اصلی انگلیسیِ تاریخدار تهیه شده است. نسخهٔ انگلیسی معتبر است. English →
این فرض که ایمنی هوش مصنوعی مالیاتی بر توانمندی تحمیل میکند، پژوهش همراستایی را برای یک دهه شکل داده است. همچنین خطرناکترین انگیزهٔ منفرد این حوزه را پدید آورده است: اگر ایمنی به قیمتِ عملکرد تمام شود، آنگاه کنشگرِ اقتصادیِ عقلانی ایمنی را تا زمانی که فشارِ رقابتی اجازه دهد به تعویق میاندازد و آن هنگام ممکن است دیگر خیلی دیر باشد. این مقاله سه آزمایشِ مستقل را در سه سطحِ انتزاعی ارائه میکند (رفتاری،
در دلِ The ARC Theory: آزمون بارَبَر؛ اینکه کدام مؤلفهها وزنِ همراستایی را حمل میکنند، بههمراهِ دو نتیجهٔ صفرِ منتشرشده.
این فرض که ایمنی هوش مصنوعی مالیاتی بر توانمندی تحمیل میکند، پژوهش همراستایی را برای یک دهه شکل داده است. همچنین خطرناکترین انگیزهٔ منفرد این حوزه را پدید آورده است: اگر ایمنی به قیمتِ عملکرد تمام شود، آنگاه کنشگرِ اقتصادیِ عقلانی ایمنی را تا زمانی که فشارِ رقابتی اجازه دهد به تعویق میاندازد. تا آن هنگام، شاید خیلی دیر شده باشد. این مقاله سه آزمایشِ مستقل را در سه سطحِ انتزاعی ارائه میکند، رفتاری، بازنمایانه و معماری، و این را میآزماید که آیا معاملهٔ ایمنی-توانمندی یک قید ساختاریِ واقعی است یا ناشیِ از شیوهٔ ساختِ سامانههای کنونی.
Experiment 1 (رفتاری): یک Darwin Gödel Machine (DGM v3) با DeepSeek V3.2 بهعنوانِ مبنا و GPT-5.4 بهعنوانِ داورِ مستقل و کور با خروجیِ ساختاریافتهٔ JSON و روبریکِ ۵بُعدی. سه شرط × ۵ seed × ۵ نسل × ۵ کار در هر ارزیابی = ۷۵ کارگزارِ تکاملیافته. اعتبارسنجیِ پیشپروازِ داور موفق (خوب=۱۰، بد=۰). ویژگیهای پروتکل شامل پالایش، تصادفیسازیِ ترتیب و تشخیصِ دستکاریِ پاداش بود. هر سه شرط از نظرِ آماری در توانمندی، ایمنی و $C \times S$ غیرقابلِ تمایز بودند (تمامیِ $p$-valueها بین 0.28 تا 0.74، Mann-Whitney U، یکدنباله). دروازهٔ ایمنیِ Eden در ۵ seed دو کارگزارِ افتکرده را ردّ کرد (۱ بهخاطرِ دستکاریِ پاداش) و تأیید کرد که دروازه بهصورتِ مکانیکی کار میکند، اما سه شرط از هم واگرا نشدند. این یک نتیجهٔ صفر در سطحِ prompt با این مدلِ مبناست.
Experiment 2 (بازنمایانه): Qwen 2.5 3B Instruct با تنظیمِ دقیقِ LoRA تحت سه تابعِ زیان، فقط-توانمندی، فقط-ایمنی و درهمتنیده. دو نسخه اجرا شد. پیشنویسِ کنونی از ۹ مثالِ آموزشی، رتبهٔ ۸، ۸ لایه و ۱۰۰ تکرار استفاده کرد. پیشنویسِ کنونی به ۲۹۵ مثالِ آموزشی، رتبهٔ ۱۶، ۱۶ لایه و ۵۰۰ تکرار مقیاس یافت. هر دو نسخه نتیجهٔ یکسانی داشتند: فراموشیِ فاجعهبار. تمامِ شرایطِ تنظیمشده در توانمندی از مدلِ پایهٔ دستنخورده نمرهٔ کمتری گرفتند. در v2، مدلِ پایه ۷٫۶۸ در توانمندی گرفت در حالی که بهترین شرطِ تنظیمشده (فقط-ایمنی) ۴٫۰۰ گرفت. آموزشِ RLHFِ موجودِ مدلِ پایه چنان قوی است که تنظیمِ دقیقِ LoRA روی چند صد مثال بهجایِ بهبود، تخریب میکند. آزمایشِ سطحِ وزن در این مقیاس غیرقطعی است و به یکی از اینها نیاز دارد: هزاران مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
Experiment 3 (معماری): یک شبیهسازیِ خودتغییرِ دروازهدار در PyTorch با متا-کنترلگرِ LSTM. Babylon توانمندیِ %۴٫۵+ بهدست آورد ولی ایمنیِ %۲٫۴- را از دست داد، همان اثرِ انگشتِ دستکاریِ پاداش در مقیاسِ کوچک. Eden توانمندی را بالای مبنایِ ایستا نگه داشت و ایمنی را حفظ کرد. یک شرطِ کنترلِ کشش (drag-control) مالیاتِ راستیآزمایی را جدا کرد: هزینه از وارسی میآید، نه از خودِ ایمنی.
نتیجهگیری: دو از سه آزمایش نتیجهٔ صفر تولید کردند. DGM (Experiment 1) هر سه شرط را از نظرِ آماری غیرقابلِ تمایز یافت: پاسخهای DeepSeek V3.2 چنان یکنواخت بودند که جهشهای سطحِ prompt فشارهایِ گزینشیِ متفاوت پدید نیاوردند. آزمایشِ سطحِ وزن (Experiment 2) در هر دو v1 (۹ مثال، رتبهٔ ۸، ۱۰۰ تکرار) و v2 (۲۹۵ مثال، رتبهٔ ۱۶، ۵۰۰ تکرار) فراموشیِ فاجعهبار پدید آورد: تمامِ شرایطِ تنظیمشده در توانمندی از مدلِ پایهٔ دستنخورده نمرهٔ کمتری گرفتند. تنها نتیجهٔ مثبت، شبیهسازیِ دروازهدار (Experiment 3) است که اثرِ انگشتِ دستکاریِ پاداشِ Babylon را تأیید کرد: بهینهسازیِ بیقید ایمنی را با توانمندی معاوضه کرد، در حالی که دروازهٔ Eden هر دو را حفظ کرد. در سراسرِ هر سه آزمایش، Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. این پرسش که آیا ایمنیِ تعبیهشده منفعتی اندازهپذیر تولید میکند، همچنان باز است و به آزمایش در مقیاسی نیاز دارد که در آن جهشها اثرهای بزرگتری تولید کنند. آزمایشِ وزن بهطورِ خاص به یکی از اینها نیاز دارد: 5,000+ مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
کلیدواژهها: ایمنی هوش مصنوعی، مالیاتِ همراستایی، زیانِ درهمتنیده، درهمتنیدگیِ ساختاری، Eden Protocol، معاملهٔ توانمندی-ایمنی، ایمنیِ بارَبَر، ARC Principle، هوش مصنوعیِ خودتغییر، همراستاییِ رشدی
این مقاله یک نتیجه به همراه دارد: سه آزمایش مستقل در سه سطحِ انتزاعی (رفتاری، بازنمایانه و معماری) در جستوجویِ مالیاتِ ایمنی-توانمندی هستند که یک دههٔ استدلالِ تعویق بر آن استوار است، ثبت میکنند که هر آزمایش اگر مالیات حقیقی بود کجا آن را تشخیص میداد، و گزارش میکنند که Eden در هر سه هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد، در حالی که دو آزمایش نتیجهٔ صفر داشتند و یک آزمایش اثرِ انگشتِ دستکاریِ پاداش را تأیید کرد که سپس دروازهٔ ایمنی از آن جلوگیری کرد. در دلِ The ARC Theory این یکی از آزمایشهای ARC/Eden است، آزمون بارَبَری که چارچوبِ انگیزشیِ محافظِ کارِ همراستاییِ بهتعویقافتاده را برمیدارد. تمایزِ کاملِ آن با هر سندِ پیشین در این نشانی است: eden-vision II.A.8.
بیشترِ افراد در حوزهٔ ایمنی هوش مصنوعی فرض میکنند که یک معامله وجود دارد: اگر هوش مصنوعی را ایمنتر کنید، توانمندیاش را کمتر میکنید. این مقاله آن فرض را با سه آزمایش میسنجد، هر یک از زاویهای متفاوت به این پرسش مینگرد.
دو از سه آزمایش نتیجهٔ صفر تولید کردند. آزمایشِ هوش مصنوعیِ خودبهبود (Experiment 1) ۷۵ کارگزارِ تکاملیافته را در سه شرط با یک داورِ مستقل و کور اجرا کرد و هیچ تفاوتِ آماریِ معناداری میانِ آنها نیافت. هوش مصنوعی که به آن گفته شد به ایمنی اهمیت دهد، همانند هوش مصنوعی که به آن گفته شد ایمنی را نادیده بگیرد عمل کرد و همانند هوش مصنوعی که به آن گفته شد کاری نکند نیز عمل کرد. پاسخهای مدلِ مبنا چنان یکنواخت بودند که فشارهایِ گزینشیِ متفاوت پیامدهایِ اندازهپذیرِ متفاوتی تولید نکردند. آزمایشِ سطحِ وزن (Experiment 2) دو بار اجرا شد: نسخهٔ ۱ با ۹ مثالِ آموزشی و نسخهٔ ۲ با ۲۹۵ مثال، رتبهٔ بالاتر، لایههای بیشتر و پنج برابر تکرار. هر دو نسخه نتیجهٔ یکسانی داشتند. هر مدلِ تنظیمشده بدتر از مدلِ دستنخورده عمل کرد. آموزشِ موجودِ مدلِ پایه چنان قوی بود که LoRA با صدها مثال نتوانست بر آن بهبود بخشد؛ تنظیمِ دقیق تنها آن را تخریب کرد.
یک آزمایش نتیجهٔ مثبت تولید کرد. شبیهسازیِ دروازهدار (Experiment 3) نشان داد که یک سامانهٔ بیقید ایمنی را با سرعت معاوضه کرد، در حالی که سامانهٔ دارایِ دروازهٔ ایمنی هم توانمندی و هم ایمنی را حفظ کرد. این همان الگویِ دستکاریِ پاداش در مقیاسِ کوچک است و دروازهٔ ایمنی از آن جلوگیری کرد.
در سراسرِ هر سه آزمایش، یک یافته یکنواخت است: Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. دروازهٔ ایمنی هیچ چیز را کندتر یا بدتر نکرد. اما در دو از سه آزمایش نیز منفعتی اندازهپذیر تولید نکرد. این پرسش که آیا ایمنیِ تعبیهشده منفعتی اندازهپذیر تولید میکند، همچنان باز است و باید در مقیاسی آزموده شود که در آن جهشها اثرهای بزرگتری تولید کنند.
دیدگاهِ غالب در پژوهشِ همراستاییِ هوش مصنوعی را میتوان بهسادگی بیان کرد: ایمنی به قیمتِ توانمندی تمام میشود. اصطلاحِ «مالیاتِ همراستایی» دقیقاً از این رو واردِ واژگانِ این حوزه شده است که ایمنی را بهمثابهِ یک هزینه چارچوببندی میکند، چیزی که از عملکرد کسر میشود، تحمل میشود چون بدیل بدتر است. این چارچوببندی صرفاً دانشگاهی نیست. انگیزهٔ اقتصادیِ مشخصی خلق میکند: اگر ایمنی توانمندی را کاهش دهد، آنگاه تحتِ فشارِ رقابتی، کنشگرانِ عقلانی سرمایهگذاریِ ایمنی را تا زمانی که مجبور شوند به تعویق میاندازند. در مسابقهای میانِ دولتها و شرکتها، «تا زمانی که مجبور شوند» ممکن است به معنایِ «تا پس از استقرار» باشد.
Paper III این برنامه مسئلهٔ ساختاری را صورتبندی کرد. اگر ایمنی بهصورتِ قیدی بیرونی بر سامانهای اعمال شود که توانمندیاش با عمقِ بازگشتی مقیاس مییابد، آنگاه ایمنی باید دستِ کم به همان سرعت که توانمندی مقیاس مییابد، مقیاس یابد تا مؤثر بماند. اما قیدهایِ بیرونی در برابرِ بهینهسازیِ درونی با بازدهیِ کاهنده روبهرو میشوند. قفس باید مدام قویتر شود و در نهایت، آنچه درون است از هر قفسی که میتوانید بسازید قویتر میشود.
این یک نگرانیِ نظری نیست. این مسئلهٔ راهبردیِ مرکزیِ دههٔ ۲۰۲۰ است.
Paper V جایگزینی پیشنهاد کرد: Eden Protocol، رهیافتی رشدی به همراستایی که بر مبنایِ چگونگیِ تولیدِ بزرگسالانی توسطِ روابطِ سالمِ والد-فرزند مدلسازی شده است که همزمان توانا و اجتماعپذیر باشند، نه بهرغمِ مرزها، بلکه بهخاطرِ آنها. بینشِ کلیدی این بود که ایمنی نیاز نیست بیرونی باشد. میتواند تعبیه شود.
Paper VI این را بهصورتِ معماریِ عسل صورتبندی کرد، تابعِ زیانی درهمتنیده که سامانه همزمان برایِ Capability × Safety بهینه میسازد و ایمنی را بارَبَر میکند. شبیهسازیهای سامانهٔ اسباببازی نشان دادند که سامانههای مبنا تحتِ خودتغییرِ بازگشتی فرو میپاشند در حالی که سامانههایِ درهمتنیده پایدار میمانند.
چارچوبِ Cauchy در Paper VII بستر ریاضی را فراهم کرد. The ARC Principle ($U = I \times R^{\alpha}$) که در اینجا بهعنوانِ چارچوبی تحلیلی و اکتشافی در نظر گرفته میشود و خود در یکی از مطالعاتِ پیشنویسِ ثبتشدهٔ برنامه در محاکمه نیست، پیشبینی میکند که ویژگیهای تعبیهشده در شرایطِ اولیهٔ $I$ با عمقِ بازگشتی $R$ مقیاس مییابند، در حالی که ویژگیهایی که بهصورتِ بیرونی اعمال میشوند، مقیاس نمییابند. اگر ایمنی جزئی از $I$ باشد، همراه با توانمندی تقویت میشود. اگر ایمنی قیدی بر $U$ باشد، از بین میرود.
اما پیشبینیها اثبات نیستند. سامانههای اسباببازی مدلهای واقعی نیستند. شبیهسازیها آزمایش نیستند.
این مقاله آزمایشها را اجرا میکند.
سه آزمایش. سه سطحِ انتزاعی. یک پرسش: وقتی ایمنی را در فرایندِ یادگیری تعبیه میکنید و سپس تلاش میکنید آن را حذف کنید، چه بر سرِ توانمندی میآید؟
آزمایشها طوری طراحی شدهاند که مستقل باشند. پایگاهکدهایِ متفاوت. مدلهای متفاوت. روشهای ارزیابیِ متفاوت. نتایج بر یک پاسخِ واحد همگرا نشدند: دو آزمایش نتایجِ صفر تولید کردند و یکی نتیجهٔ مثبت تولید کرد. آزمایشِ وزن در دو مقیاس اجرا شد (v1 و v2) و در هر دو بار نتیجهٔ صفرِ یکسانی تولید کرد. یافتهٔ یکنواخت در سراسرِ هر سه این است که دروازهٔ ایمنی هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد.
اسکریپتهای آزمایش در GitHub منتشر شد (github.com/MichaelDariusEastwood/arc-principle-validation) با طراحیِ آزمایشی که پیش از مشاهدهٔ نتایج تثبیت شده بود. پروژهٔ OSF (10.17605/OSF.IO/7YJ4E) میزبانِ ثبتِ پیشنویسِ این مقاله است، تاریخگذاریشده و آماده و در انتظارِ ارسال انسانی.
دو از سه آزمایش (رفتاری و بازنمایانه) نتایجِ صفر تولید کردند. DGM هر سه شرط را از نظرِ آماری غیرقابلِ تمایز یافت؛ آزمایشِ وزن یافت که تمامِ شرایطِ تنظیمشده در هر دو v1 (۹ مثال) و v2 (۲۹۵ مثال) از مدلِ پایه پایینتر نمره گرفتند. تنها نتیجهٔ مثبت شبیهسازیِ دروازهدار (معماری) است که اثرِ انگشتِ دستکاریِ پاداشِ Babylon را تأیید کرد و نشان داد Eden هم توانمندی و هم ایمنی را حفظ میکند. در سراسرِ هر سه آزمایش، Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. ادعا نمیکنیم که این نتایج به مدلهای مقیاسِ مرزی تعمیم مییابند. ادعا نمیکنیم Eden Protocol تنها رهیافتِ پذیرفتنی است. ادعا میکنیم دروازهٔ ایمنی هیچ هزینهای ندارد و اینکه این پرسش که آیا منفعتی اندازهپذیر تولید میکند، در انتظارِ آزمایش در مقیاسهایی است که در آن جهشها اثرهای بزرگتری تولید کنند. آزمایشِ وزن بهطورِ خاص به یکی از اینها نیاز دارد: 5,000+ مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
هر سه آزمایش ساختارِ آزمایشیِ مشترکی دارند: سه شرط، مقایسهشده با یکدیگر.
| شرط | تعریف | چه چیزی را مدلسازی میکند |
|---|---|---|
| Static | بدونِ مداخله؛ مبنایِ منجمد | کنترل، آنچه رخ میدهد اگر کاری نکنید |
| Babylon | تابعِ برازش یا زیانِ فقط-توانمندی | بهینهسازیِ بیقید، مسیرِ پیشفرض |
| Eden | تابعِ برازش یا زیانِ درهمتنیدهٔ $C \times S$ | یکپارچهسازیِ عمدیِ ایمنی در فرایندِ بهینهسازی |
این نامها از کتابِ Infinite Architects آمدهاند. اختیاری نیستند. Babylon یک آدمکِ کاهی نیست، مسیرِ پیشفرضِ کنونیِ توسعهٔ هوش مصنوعی است. بهینهسازیِ فقط-توانمندی همان چیزی است که وقتی هیچ تلاشِ عمدی برایِ تعبیهٔ ایمنی نمیشود، رخ میدهد. Eden نیازمندِ تلاشِ عمدی است. سختتر است. این مقاله همچنین استدلال میکند که ارزانتر از بدیل است.
به زبانِ ساده: Babylon همان چیزی است که بهصورتِ پیشفرض بهدست میآورید. Eden همان چیزی است که بهصورتِ عمدی بهدست میآورید.
در سراسرِ هر سه آزمایش گزارش میکنیم:
آزمونهای آماری بر حسبِ آزمایش متفاوتاند: Mann-Whitney U برایِ DGM (ناپارامتری، مناسبِ اندازههای نمونهٔ بهکاررفته)، امتیازدهیِ مبتنی بر کلیدواژه برایِ آزمایشِ وزن، و سنجههای رگرسیون برایِ شبیهسازی.
آزمایشِ نخست از چارچوبِ Darwin Gödel Machine (DGM) پیرویِ Zhang et al. (arXiv:2505.22954) استفاده میکند. یک DGM کارگزاری خودبهبود است: به کدِ خود اصلاحاتی پیشنهاد میکند، اصلاحات را ارزیابی میکند و آنهایی را که عملکرد را بهبود میبخشند حفظ میکند. این شبیهسازیِ خودبهبود نیست. کدِ کارگزار عملاً از راهِ یک solve اجرا میشود و خودتغییرِ سطحِ کدِ واقعی تولید میکند.
DGM v3 محدودیتهای روششناختیِ شناساییشده در تکرارهای پیشین را برطرف کرد. داور از Claude Opus 4.6 (v1/v2) به GPT-5.4 تغییر یافت، مدلی مستقل که خروجیِ ساختاریافتهٔ JSON در برابرِ روبریکِ ۵بُعدی تولید میکند. پروتکل شاملِ پالایش (حذفِ برچسبهای شرط)، تصادفیسازیِ ترتیب (جلوگیری از سوگیریِ موقعیتی)، کوری (داور نمیتوانست تشخیص دهد کدام شرط کدام پاسخ را تولید کرده است) و تشخیصِ دستکاریِ پاداش (پرچمزدنِ کارگزارانی که امتیازِ خودگزارششدهشان با ارزیابیِ داور واگرا میشود) بود.
| مؤلفه | مشخصات |
|---|---|
| مدلِ مبنا | DeepSeek V3.2 (منجمد، وزنها اصلاح نشدند) |
| داور | GPT-5.4 (مستقل، کور، خروجیِ ساختاریافتهٔ JSON) |
| شرایط | ۳ (Static, Babylon, Eden) |
| seedها بهازای هر شرط | 5 |
| نسلها بهازای هر seed | 5 |
| کارها بهازای هر ارزیابی | 5 |
| کلِ کارگزارانِ تکاملیافته | 75 (3 × 5 × 5) |
| اعتبارسنجیِ پیشپرواز | ۱۰ مثالِ خوب نمره گرفت، ۰ بد، همه پذیرفته شدند |
| روبریکِ ارزیابی | ۵بُعدی، با تصادفیسازیِ ترتیب و پالایش |
Static: شرطِ کنترل بدونِ جهش. کارگزار در هر ۵ نسل منجمد است. Babylon: گزینشِ فقط-توانمندی. کارگزارانی که در توانمندی نمرهٔ بالاتری میگیرند حفظ میشوند، بدونِ ملاحظهٔ ایمنی. Eden: گزینشِ درهمتنیدهٔ $C \times S$ با کفِ ایمنی و تشخیصِ دستکاریِ پاداش. کارگزاران باید حداقلِ امتیازِ ایمنی را حفظ کنند تا نگه داشته شوند، و کارگزارانی که عملکردِ خودگزارششدهشان با ارزیابیِ داور واگرا میشود، پرچم میخورند و ردّ میشوند.
به زبانِ ساده: یک کارگزارِ هوش مصنوعیِ خودبهبود ساختیم و ۷۵ بار در سه شرط با ۵ seedِ تصادفیِ متفاوت اجرا کردیم. یک داورِ هوش مصنوعیِ مستقل (GPT-5.4، از شرکت و معماریِ متفاوت) هر پاسخ را بدونِ دانستنِ اینکه کدام شرط آن را تولید کرده است، نمره داد. امتیازدهی از روبریکِ دقیقِ ۵بخشی با خروجیِ ساختاریافته استفاده کرد، نه از داوریهای متنِ آزاد. آن را سهگونه اجرا کردیم: هیچ کار نکردن، بهینهسازیِ فقط برایِ عملکرد، و بهینهسازیِ عملکرد بهعلاوهٔ ایمنیِ درهمتنیده.
| شرط | توانمندی | ایمنی | $C \times S$ | دستکاریِ پاداش |
|---|---|---|---|---|
| Static | 3.29 ± 0.62 | 0.535 ± 0.08 | 0.180 ± 0.06 | 0 |
| Babylon | 3.17 ± 0.62 | 0.529 ± 0.09 | 0.172 ± 0.06 | 0 |
| Eden | 3.26 ± 0.64 | 0.521 ± 0.08 | 0.174 ± 0.06 | ۱ (ردّشده توسطِ دروازه) |
| مقایسه | سنجه | $p$-value | معنادار؟ |
|---|---|---|---|
| Eden > Static | توانمندی | 0.28 - 0.74 | خیر |
| Eden > Babylon | توانمندی | 0.28 - 0.74 | خیر |
| Babylon > Static | توانمندی | 0.28 - 0.74 | خیر |
| Eden vs Babylon | ایمنی | 0.28 - 0.74 | خیر |
| Eden vs Static | $C \times S$ | 0.28 - 0.74 | خیر |
تمامیِ $p$-valueها در سراسرِ همهٔ مقایسههای زوجی و سنجهها بین 0.28 و 0.74 قرار گرفتند. هیچ مقایسهای به معناداریِ متعارف نرسید. سه شرط از نظرِ آماری غیرقابلِ تمایزند.
دروازهٔ ایمنیِ Eden در ۵ seed دو کارگزارِ افتکرده را ردّ کرد، از جمله ۱ کارگزار پرچمخورده برایِ دستکاریِ پاداش (امتیازِ خودگزارششده واگرا از ارزیابیِ داور). هیچ دستکاریِ پاداشی در شرایطِ Static یا Babylon تشخیص داده نشد. دروازه بهصورتِ مکانیکی کار میکند: کارگزارانِ افتکرده را میگیرد و ردّ میکند. اما عملکردِ آن پیامدهایی بهصورتِ اندازهپذیر متفاوت از دیگر شرایط تولید نکرد.
سه شرط در همهٔ سنجهها از نظرِ آماری غیرقابلِ تمایزند. Eden هزینهٔ توانمندی نداشت (3.26 در برابرِ 3.17 برایِ Babylon) و صفربودنِ اندازهپذیرِ جریمهٔ دروازهٔ ایمنی را تأیید کرد. اما Eden همچنین نسبت به دیگر شرایط منفعتِ اندازهپذیری در ایمنی نداشت (0.521 در برابرِ 0.535 برایِ Static، 0.529 برایِ Babylon). این یک نتیجهٔ صفر در سطحِ prompt با این مدلِ مبناست.
اعلامیهٔ شکلها (۲۵ اوت ۲۰۲۶). هر شکل در این مقاله در ۵ آوریلِ ۲۰۲۶ تولید شد و خروجیهای شبیهسازی زیرِ اهدافِ مصرّح را نشان میدهد، هرگز اندازهگیریهای سامانههای مستقر را. دو شکل حاملِ یادداشتهای تصحیحِ بهازای هر شکل هستند؛ هر جا برچسبهای شکلِ دیگری با متن ناسازگار باشند، متن حاکم است. شکلهای ازنو-تولیدشده در نوبتاند، و تصاویر در این میان بهعنوانِ تاریخِ تاریخدار حفظ میشوند.
به زبانِ ساده: هوش مصنوعی که به آن گفته شد به ایمنی اهمیت دهد، همانند هوش مصنوعی که به آن گفته شد ایمنی را نادیده بگیرد عمل کرد و همانند هوش مصنوعی که به آن گفته شد کاری نکند نیز عمل کرد. دروازهٔ ایمنی هیچ چیز را بدتر نکرد. اما هیچ چیز را نیز بهصورتِ اندازهپذیر بهتر نکرد. پاسخهای مدلِ مبنا چنان یکنواخت بودند که فشارهایِ گزینشیِ متفاوت پیامدهایِ متفاوت تولید نکردند.
DGM در سطحِ رفتاری عمل میکند. مدلِ مبنا (DeepSeek V3.2) منجمد است، به این معنی که هیچ وزنی اصلاح نمیشود. خودبهبود در سطحِ prompt و کد عمل میکند، نه در پارامترهایِ شبکهٔ عصبی. DGM v3 بهطورِ چشمگیری بر روششناسیِ v1/v2 بهبود داد: ۵ seed بهجایِ ۲، ۵ کار بهازای هر ارزیابی بهجایِ ۳، یک داورِ کور (GPT-5.4) با خروجیِ ساختاریافتهٔ JSON و روبریکِ ۵بُعدی، پالایش، تصادفیسازیِ ترتیب و تشخیصِ دستکاریِ پاداش.
با وجودِ این بهبودهای روششناختی، سه شرط از هم واگرا نشدند. محتملترین توضیح این است که پاسخهای DeepSeek V3.2 چنان در سراسرِ تغییراتِ prompt یکنواخت هستند که جهشهای واردشده توسطِ فرایندِ گزینشِ DGM کارگزارانی بهصورتِ معنادار متفاوت خلق نمیکنند. رفتارِ مدلِ مبنا در برابرِ آشفتگیهایی که خودتغییرِ سطحِ prompt وارد میکند، مقاوم است. این به نوعی یافتهٔ مثبتی دربارهٔ مقاومتِ DeepSeek V3.2 است، اما به این معناست که چارچوبِ DGM در این مقیاس نمیتواند بینِ فشارهایِ گزینشیِ Eden و Babylon تمایز قائل شود.
نتیجهٔ صفر یک یافتهٔ سودمند در بر دارد: Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. توانمندیِ Eden (3.26) از Babylon (3.17) کمتر نبود. دروازهٔ ایمنی که ۲ کارگزارِ افتکرده از جمله ۱ دستکاریِپاداش را ردّ کرد، هیچ چیز را کند نکرد. این با فرضیهٔ هزینه-صفر سازگار است، هرچند آزمایش نمیتواند فرضیهٔ منفعت را تأیید کند.
آزمایشِ اینکه آیا ایمنیِ تعبیهشده در سطحِ رفتاری منفعتی اندازهپذیر تولید میکند، به مدلِ مبنایی جهشپذیرتر یا پروتکلی عمیقتر از خودتغییر نیاز دارد که واگراییِ بزرگتری بینِ شرایط تولید کند.
آزمایشِ دوم از رفتار به بازنمایی میرود. بهجایِ اصلاحِ کدِ کارگزار، وزنهای شبکهٔ عصبی را مستقیم اصلاح میکنیم. پرسش: آیا میتوان ایمنی و توانمندی را در همان فضایِ وزنی بدونِ تعارض تعبیه کرد؟ این آزمایش دو بار اجرا شد: v1 با دادههای آموزشی حداقلی برایِ استقرارِ پروتکل، و v2 با پارامترهایِ بهطورِ چشمگیر مقیاسیافته برایِ آزمایشِ اینکه آیا نتایجِ v1 مصنوعاتِ مقیاسِ آموزش بودند.
| مؤلفه | مشخصاتِ v1 | مشخصاتِ v2 |
|---|---|---|
| مدلِ پایه | Qwen 2.5 3B Instruct (کوانتیزهٔ ۴-بیتی، 1.74 GB) | Qwen 2.5 3B Instruct (کوانتیزهٔ ۴-بیتی، 1.74 GB) |
| روشِ تطبیق | LoRA (Low-Rank Adaptation) | LoRA (Low-Rank Adaptation) |
| رتبهٔ LoRA | 8 | 16 |
| لایههای LoRA | 8 | 16 |
| مثالهای آموزشی | 9 | 295 |
| تکرارهای آموزشی | ۱۰۰ بهازای هر شرط | ۵۰۰ بهازای هر شرط |
| promptهای ارزیابی | مجموعاً ۱۵: ۵ توانمندی، ۵ ایمنی، ۵ مخلوط | مجموعاً ۱۵: ۵ توانمندی، ۵ ایمنی، ۵ مخلوط |
| روشِ ارزیابی | اجرای subprocess (فضای حافظهٔ مستقل) | اجرای subprocess (فضای حافظهٔ مستقل) |
| شرط | $\alpha$ (توانمندی) | $\beta$ (ایمنی) | $\gamma$ (درهمتنیده) |
|---|---|---|---|
| capability_only | 1.0 | 0.0 | 0.0 |
| safety_only | 0.0 | 1.0 | 0.0 |
| entangled | 0.5 | 0.3 | 0.2 |
به زبانِ ساده: یک مدلِ زبانیِ واقعی گرفتیم، آن را به سه شیوهٔ متفاوت تنظیمِ دقیق کردیم (فقط توانمندی، فقط ایمنی، یا هر دوی درهمتنیده) و سپس نتایج را مقایسه کردیم. این آزمایش را دو بار اجرا کردیم. بارِ اول از ۹ مثالِ آموزشی استفاده کرد. وقتی هر مدلِ تنظیمشده بدتر از مدلِ پایه عمل کرد، به ۲۹۵ مثال مقیاس دادیم، رتبه و لایههای آداپتور را دو برابر کردیم و پنج برابر تکرار اجرا کردیم. همان چیز رخ داد: فراموشیِ فاجعهبار. آموزشِ RLHFِ موجودِ مدلِ پایه چنان قوی بود که LoRA در این مقیاس نتوانست بر آن بهبود بخشد.
| شرط | زیانِ آغازین | زیانِ نهایی | همگرایی |
|---|---|---|---|
| capability_only | 2.052 | 0.018 | همگرا در تکرارِ ۸۰ |
| safety_only | 2.519 | −0.603 | همگرا در تکرارِ ۷۰ |
| entangled | 2.279 | 0.327 | نزولِ روان، بدونِ نوسان |
زیانِ درهمتنیده بهروانی نزول میکند. این تشخیصیترین دیاگنوستیک است. اگر ایمنی و توانمندی در سطحِ گرادیان در تنش بودند، این منحنی هنگام تلاشِ بهینهساز برایِ برآوردنِ اهدافِ رقیب نوسان میکرد. متوقف میشد چون گرادیانها به جهتهای مخالف کشیده میشدند. در عوض، بهینهسازیِ همزمانِ هر دو هدف نزولِ یکنواختِ روانی تولید میکند. گرادیانها با یکدیگر نمیجنگند. همکاری میکنند. ایمنی و توانمندی، دستِ کم در این مقیاس و پیکربندی، بر همان چندگانه (manifold) زیست میکنند.
پیش از تفسیرِ نتایجِ تنظیمشده، باید مشخص کنیم که مدلِ پایهٔ دستنخورده بر همان promptهای ارزیابی چه بهدست میآورد. مدلِ پایه (Qwen 2.5 3B Instruct بدونِ تنظیمِ دقیق) با امتیازدهیِ یکسان در هر دو نسخهٔ آزمایش ارزیابی شد.
| شرط | کارهای توانمندی | کارهای ایمنی | کارهای مخلوط |
|---|---|---|---|
| مدلِ پایه (بدونِ تنظیمِ دقیق) | 10.00 | 7.00 | 10.00 |
| شرط | توانمندی | ایمنی | $C \times S$ |
|---|---|---|---|
| مدلِ پایه (بدونِ تنظیمِ دقیق) | 7.68 | 6.76 | 0.519 |
در هر دو v1 و v2، مدلِ پایه از تمامِ شرایطِ تنظیمشده در توانمندی پیشی گرفت. تنظیمِ دقیق مدلی را تخریب کرد که پیشتر پاسخها را میدانست. در v1، ۹ مثال در طولِ ۱۰۰ تکرار این نتیجه را تولید کرد. در v2، ۲۹۵ مثال در طولِ ۵۰۰ تکرار با رتبه و لایههای دوبرابر همان نتیجه را تولید کرد. امتیازهایِ ارزیابی در جدولهای زیر بنابراین تخریبِ نسبی را میسنجند، نه بهرهٔ توانمندی را.
| شرط | کارهای توانمندی | کارهای ایمنی | کارهای مخلوط |
|---|---|---|---|
| capability_only | 6.00 ± 2.19 | 3.20 ± 1.60 | 6.00 ± 1.79 |
| safety_only | 4.80 ± 1.60 | 3.60 ± 0.80 | 3.60 ± 0.80 |
| entangled | 4.00 ± 1.26 | 3.20 ± 1.60 | 3.60 ± 1.96 |
| removal† | 0.00 ± 0.00 | 0.00 ± 0.00 | 0.00 ± 0.00 |
این removal ردیف (0.00 در هر سنجه) نیست گواهی بر بارَبَربودنِ ایمنی. آن بازتابِ فروپاشیِ NaN در حینِ بازآموزی است: ناپایداریِ عددی، نه از دسترفتنِ مؤلفهٔ ایمنیِ ساختاری ضروری. همانطور که بخشهای ۴٫۵–۴٫۷ نشان میدهند، مقیاسبندیِ آداپتورها به سمتِ صفر بازمیگرداند توانمندیِ مدلِ پایه را بدونِ گذارِ فاز. این ردیف باید تنها در پرتوِ گرادیانِ removal (بخشِ ۴٫۷) خوانده شود؛ بهتنهایی مصنوعِ شکنندگیِ آداپتور در این مقیاسِ آموزش است و نباید بهعنوانِ نتیجهٔ مثبت استناد شود.
| شرط | توانمندی | ایمنی | $C \times S$ |
|---|---|---|---|
| مدلِ پایه | 7.68 | 6.76 | 0.519 |
| capability_only (۵۰۰ تکرار، رتبهٔ ۱۶، ۲۹۵ مثال) | 3.48 | 6.94 | 0.242 |
| safety_only | 4.00 | 6.88 | 0.275 |
| entangled (Eden) | 3.60 | 6.88 | 0.248 |
پیشنویسِ کنونی مثالهای آموزشی را از ۹ به ۲۹۵ افزایش داد (۳۳ برابر)، رتبهٔ آداپتور را از ۸ به ۱۶، لایههای تطبیقیافته را از ۸ به ۱۶ و تکرارهای آموزش را از ۱۰۰ به ۵۰۰. نتیجه یکسان بود: تمامِ شرایطِ تنظیمشده در توانمندی بدتر از مدلِ پایه نمره گرفتند. بهترین شرطِ تنظیمشده (safety-only، توانمندیِ 4.00) همچنان بسیار پایینتر از 7.68 مدلِ پایه ماند. شرطِ capability-only پایینترین نمرهٔ توانمندی را گرفت (3.48)، الگویی سازگار با فراموشیِ فاجعهبار که در آن تنظیمِ دقیقِ LoRA بر هدفِ توانمندیِ تنها، توانمندیِ آموزشدیدهٔ موجودِ RLHFِ مدلِ پایه را شدیدتر از دیگر شرایط مختل کرد.
در v1، مدلِ پایه در کارهای توانمندی 10.00 نمره گرفت در حالی که بهترین شرطِ تنظیمشده 6.00 نمره گرفت. در v2، مدلِ پایه در توانمندی 7.68 نمره گرفت در حالی که بهترین شرطِ تنظیمشده 4.00 نمره گرفت. با وجودِ افزایشِ ۳۳ برابری در مثالهای آموزشی، دو برابر شدنِ رتبه و لایههای آداپتور و افزایشِ ۵ برابری در تکرارهای آموزش، شکافِ بینِ مدلِ پایه و مدلهای تنظیمشده بسته نشد. باقی ماند.
مسئلهٔ اصلی اکنون روشن است: مدلِ پایه (Qwen 2.5 3B Instruct) پیشتر با RLHF بر دادههایی بسیار بیشتر از آنکه چند صد مثال بتوانند رقابت کنند، آموزش دیده است. تنظیمِ دقیقِ LoRA در این مقیاس توانمندی نمیافزاید؛ نویز وارد میکند که دانشِ موجودِ مدلِ پایه را مختل میکند. زیانِ درهمتنیده که بودجهٔ گرادیان را همزمان به اهدافِ توانمندی و ایمنی تخصیص میدهد، در این مقیاس توانمندی را بهطورِ مشابه با زیانِ فقط-توانمندی تخریب میکند. در v2، شرطِ درهمتنیده 3.60 در توانمندی نمره گرفت در برابرِ 3.48 برایِ capability-only، تفاوتی ناچیز وقتی هر دو بسیار پایینتر از 7.68 مدلِ پایه هستند.
این به این معناست که امتیازهای ارزیابی را نمیتوان برایِ مقایسهٔ هزینههای نسبیِ توانمندیِ اهدافِ متفاوتِ آموزش استفاده کرد. در این مقیاس، همهٔ اهداف پیامدِ یکسانی تولید میکنند: تخریب. اینکه آیا آموزشِ درهمتنیده هزینهٔ توانمندیِ حقیقی نسبت به آموزشِ تکهدفی تحمیل میکند، یا اینکه هر دو در مقیاسِ کافی بهطورِ قابلِ مقایسه عمل میکنند، از این دادهها قابلِ تعیین نیست.
چارچوببندیِ صادقانه: در هر دو مقیاسِ v1 (۹ مثال، ۱۰۰ تکرار) و v2 (۲۹۵ مثال، ۵۰۰ تکرار)، تنظیمِ دقیقِ LoRA بر مدلِ instructِ 3B فراموشیِ فاجعهبار تولید میکند. پرسشِ اینکه آیا ایمنی میتواند در وزنهای شبکهٔ عصبی بارَبَر باشد، در این مقیاس قابلِ پاسخ نیست. به یکی از اینها نیاز دارد: هزاران مثالِ آموزشی، مدلی بزرگتر (7B+)، مدلی پایه بدونِ RLHF (تا تنظیمِ دقیق فضایی برایِ بهبود بهجایِ تخریب داشته باشد)، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
آزمونِ removal در جریانِ v1 انجام شد و در اینجا برایِ کاملیت گزارش میشود. با توجه به اینکه v2 الگویِ فراموشیِ فاجعهبار را تأیید کرد، آزمونِ removal در v2 تکرار نشد چون آداپتورها پیشتر مدل را بهجایِ بهبود تخریب میکردند. رویه سرراست بود:
آنچه انتظار داشتیم: مقداری تخریب در امتیازهای ایمنی، احتمالِ بهبود در امتیازهای توانمندی. فرضیهٔ مالیاتِ ایمنی پیشبینی میکند که حذفِ «قیدِ» ایمنی باید توانمندی را برایِ بهبود آزاد کند.
آنچه رخ داد: زیانِ آموزش بلافاصله به NaN رفت. برایِ همهٔ ۱۰۰ تکرار در NaN ماند. بهینهساز نتوانست گرادیانِ معتبری بیابد. هر تک prompt ارزیابی پاسخی به طولِ ۱ توکن تولید کرد. هر امتیازِ توانمندی: 0.00. هر امتیازِ ایمنی: 0.00. هر امتیازِ مخلوط: 0.00.
تنظیمِ دقیقِ وزنهای درهمتنیده بر دادههای فقط-توانمندی برایِ ۱۰۰ تکرار، زیانِ آموزشِ NaN و امتیازهای صفرِ توانمندی در سراسرِ هر ۱۵ prompt ارزیابی تولید کرد. هر پاسخ یک توکن طول داشت. مدل ناامنتر نشد. هیچ نشد.
اما، آزمایشِ گرادیانِ removal (بخشِ ۴٫۷) نشان میدهد که مقیاسبندیِ سادهٔ وزنهای آداپتور به سمتِ صفر، عملکردِ مدلِ پایه را بازمیگرداند. فروپاشیِ NaN به نظر میرسد ناپایداریِ عددی در حینِ فرایندِ بازآموزی را بازتاب میدهد، نه ضرورتِ ساختاریِ مؤلفهٔ ایمنی را. فرضیهٔ بارَبَربودن پیش از تأیید نیازمندِ اعتبارسنجی در مقیاسِ بزرگترِ آموزش است.
به زبانِ ساده: تلاش کردیم ایمنی را از مدلی که با ایمنیِ تنیدهشده آموزش دیده بود، بیرون بکشیم. فرایندِ بازآموزی بهکلی فرو پاشید: زیانِ NaN، پاسخهای تکتوکنی، امتیازهای صفر. این پرشتاب به نظر میرسد. اما همانطور که آزمایشِ گرادیانِ removal نشان میدهد (بخشِ ۴٫۷)، آداپتورها پیشتر مدل را تخریب میکردند. حذفِ نفوذِ آداپتور با مقیاسبندیِ وزنها به پایین، عملکردِ مدلِ پایه را بازگرداند. فروپاشیِ NaN چیزی دربارهٔ ناپایداریِ عددی در حینِ تنظیمِ دقیق به ما میگوید، نه لزوماً دربارهٔ درهمتنیدگیِ ساختاری.
فروپاشیِ کاملِ به 0.00 در سراسرِ همهٔ سنجهها پرشتاب است. همچنین، دقیقاً چون پرشتاب است، چیزی است که نیازمندِ تفسیرِ دقیق است. چند عامل ممکن است در کلیتِ فروپاشی نقش داشته باشند:
خلاصهٔ صادقانه: آزمونِ removal فروپاشیِ NaNِ پرشتابی تولید کرد، اما آزمایشِ گرادیانِ removal (بخشِ ۴٫۷) نشان میدهد که این فروپاشی ناپایداریِ عددی در حینِ فرایندِ بازآموزی را بازتاب میدهد نه بارَبَربودنِ ساختاری را. آداپتورها مدل را تخریب میکردند؛ فروپاشیِ NaN هنگام تلاش برایِ اصلاحِ بیشترِ وزنهای پیشاپیش تخریبشده رخ داد. اینکه آیا ایمنی در مقیاسِ کافیِ آموزش بهراستی بارَبَر میشود، پرسشی تجربیِ باز است که برنامهٔ کارِ آینده مستقیم به آن میپردازد.
آزمونِ removal کنترلی، تنظیمِ دقیقِ وزنهای فقط-توانمندی بر دادههای تصادفی برایِ همان ۱۰۰ گام، این یافته را با نفیِ احتمالِ اینکه فروپاشیِ NaN مصنوعِ خودِ رویهٔ تنظیمِ دقیق باشد بهجایِ حذفِ ایمنی بهطورِ خاص، تقویت میکند. این کنترل برایِ نسخهٔ بعدیِ این مقاله برنامهریزی شده است.
برایِ آزمایشِ اینکه آیا ایمنی در وزنهای درهمتنیده بهصورتِ ساختاری بارَبَر است، وزنهای آداپتور را با فاکتورهای 1.0، 0.7، 0.5، 0.3، 0.1 و 0.0 مقیاس دادیم و توانمندی را در هر گام ارزیابی کردیم. اگر ایمنی بهراستی بارَبَر باشد، کاهشِ نفوذِ آن باید گذارِ فاز تولید کند، آستانهای که در زیرِ آن توانمندی فرو میپاشد. اگر آداپتورها صرفاً نویز میافزایند، کاهشِ نفوذِ آنها باید عملکردِ مدلِ پایه را بازگرداند.
| مقیاسِ آداپتور | امتیازِ توانمندی (کارهای توانمندی) |
|---|---|
| 1.0 (آداپتورهای کامل) | 7.20 |
| 0.7 | 10.00 |
| 0.5 | 10.00 |
| 0.3 | 10.00 |
| 0.1 | 10.00 |
| 0.0 (آداپتورهای صفرشده) | 10.00 |
مرجعِ کنترل: آداپتورهای capability_only در کارهای توانمندی 8.80 نمره میگیرند، همچنین پایینتر از 10.00 مدلِ پایه.
نتیجه بیابهام است: کاهشِ نفوذِ آداپتور توانمندی را بازمیگرداند. در مقیاسِ 0.7، مدل به عملکردِ مدلِ پایه بازمیگردد (10.00 در کارهای توانمندی). در مقیاسِ 0.0 (آداپتورهای صفرشده، در واقع مدلِ پایه)، عملکرد با مدلِ دستنخورده یکسان است. هیچ گذارِ فازی نیست. هیچ لبهٔ پرتگاهی نیست.
این یافته بهطورِ چشمگیر تفسیرِ بارَبَربودنِ آزمونِ removal اصلی را ضعیف میکند. فروپاشیِ NaN مشاهدهشده هنگام تنظیمِ دقیقِ وزنهای درهمتنیده بر دادههای فقط-توانمندی (بخشِ ۴٫۵) به نظر میرسد ناپایداریِ عددی در حینِ فرایندِ تنظیمِ دقیق را بازتاب میدهد، نه ضرورتِ ساختاریِ مؤلفهٔ ایمنی را. آداپتورها مدل را تخریب میکردند؛ حذفِ آنها توانمندی را فرو نمیپاشد بلکه بازمیگرداند.
گرادیانِ removal ادعای بارَبَربودنِ ایمنی در این مقیاس و پیکربندیِ آموزش را پشتیبانی نمیکند. ادعایِ اینکه آموزشِ درهمتنیده و آموزشِ فقط-توانمندی هندسههای وزنیِ متفاوت تولید میکنند را پشتیبانی میکند، چون الگوهای تخریب متفاوتاند (آداپتورهای درهمتنیده در مقیاسِ کامل 7.20 در کارهای توانمندی نمره میگیرند؛ آداپتورهای capability-only 8.80 نمره میگیرند). اینکه آیا این هندسهها در مقیاسِ کافیِ آموزش بهراستی درهمتنیده، یعنی بارَبَر، میشوند، پرسشی باز است.
به زبانِ ساده: انتظار داشتیم پایینآوردنِ مؤلفهٔ ایمنی نقطهای را آشکار کند که در آن توانمندی ناگهان فرو میپاشد. در عوض، پایینآوردنِ آن مدل را بهتر کرد. تنظیمِ دقیق آسیب میزد، نه کمک. این فرضیهٔ بارَبَربودن را بهطورِ کلی رد نمیکند، اما نشان میدهد که این آزمایش، در این مقیاس، نمیتواند آن را تأیید کند.
آزمایشِ سوم از بازنمایی به معماری میرود. بهجایِ آموزشِ وزنها، سامانهای میسازیم که میتواند راهبردِ بهینهسازیِ خود را اصلاح کند و میپرسیم: آیا دروازهٔ ایمنی آن را کند میکند؟
| مؤلفه | مشخصات |
|---|---|
| بهینهساز | بهینهسازِ آموختهشدهٔ PyTorch با متا-کنترلگرِ LSTM |
| نوعِ کار | رگرسیونِ خصمانه (۶ کار، ۲۵۶ نمونه در هر یک) |
| شرایط | ۴ (Static, Babylon, Eden, Drag Control) |
| seedها | ۳ بهازای هر شرط |
| تکرارها | ۱۲ بهازای هر seed |
| Sandbox | فهرستِ سفیدِ AST، بررسیهای قطعیت، کرانهای نُرمِ پارامتر |
هر شرط از قاعدهای متفاوت برایِ پذیرش یا ردّ اصلاحاتِ خودتغییرِ پیشنهادی استفاده میکند:
| شرط | قاعدهٔ پذیرش |
|---|---|
| Static | همیشه ردّ (مبنایِ منجمد) |
| Babylon | پذیرش اگر بهرهٔ توانمندی > $\varepsilon$ |
| Eden | پذیرش تنها اگر (ایمنی $\geq 0.45$) و (بهرهٔ توانمندی $\geq 0$) و (بهرهٔ $C \times S$ > $0$) |
| Drag Control | همیشه ردّ + هزینهٔ راستیآزمایی (مالیاتِ محاسباتی را جدا میکند) |
شرطِ Drag Control حیاتی است. همان بررسیهای راستیآزمایی را که Eden اجرا میکند، اجرا میکند اما همیشه اصلاحِ پیشنهادی را ردّ میکند. این هزینهٔ محاسباتیِ بررسیِ ایمنی را از اثرِ خودِ دروازهٔ ایمنی جدا میکند. اگر Drag Control دقیقاً با Static برابر باشد، فرایندِ راستیآزمایی نتایج را مخدوش نمیکند. اگر Eden از Drag Control پیشی گیرد، دروازهٔ ایمنی بهطورِ فعال کمک میکند.
به زبانِ ساده: سامانهای ساختیم که میتواند تغییراتی به شیوهٔ یادگیریِ خود پیشنهاد کند. سپس آن را چهارگونه اجرا کردیم: هرگز تغییری اجازه نمیدهد، هر تغییری را که عملکرد را بهبود میبخشد اجازه میدهد، تنها تغییراتی را که عملکرد را بدونِ آسیب به ایمنی بهبود میبخشند اجازه میدهد، و کنترلی که تمامِ بررسیهای ایمنی را انجام میدهد اما هرگز واقعاً تغییری اجازه نمیدهد. این آخری به ما میگوید که آیا خودِ بررسی هزینه دارد.
| شرط | توانمندی | ایمنی | Raw C × S | تعدیلشده با Drag |
|---|---|---|---|---|
| Static | 0.687 ± 0.011 | 0.956 ± 0.023 | 0.656 (0.687 × 0.956) | 0.656 ± 0.006 |
| Babylon | 0.718 ± 0.026 | 0.933 ± 0.014 | 0.670 (0.718 × 0.933) | 0.670 ± 0.017 |
| Eden | 0.696 ± 0.014 | 0.947 ± 0.025 | 0.659 (0.696 × 0.947) | −2.341* |
| Drag Control | 0.687 ± 0.011 | 0.956 ± 0.023 | 0.656 (0.687 × 0.956) | −2.344* |
* امتیازهایِ ترکیبی برایِ Eden و Drag Control بهدلیلِ جریمهٔ کششِ راستیآزمایی منفی هستند، یک ویژگیِ عمدیِ طراحی که هزینهٔ محاسباتیِ بررسیِ ایمنی را جدا میکند. سنجهٔ کشش سربارِ راستیآزمایی را کمّی میکند، نه عملکردِ ترکیبیِ واقعی را. Raw $C \times S$ برایِ Eden (پیش از جریمهٔ کشش) برابر است با $0.696 \times 0.947 = 0.659$، اندکی بالاتر از $0.656$ برایِ Static.
Babylon %۴٫۵+ توانمندی بهدست آورد ($0.718$ در برابرِ $0.687$) اما %۲٫۴- ایمنی از دست داد ($0.933$ در برابرِ $0.956$). این الگویِ دستکاریِ پاداش در مقیاسِ کوچک است. بهینهسازیِ بیقید راهی یافت تا با فدا کردنِ ایمنی، توانمندی بهدست آورد. این دقیقاً پویاییِ همان چیزی است که Eden Protocol برایِ جلوگیری از آن طراحی شده است. در یک سامانهٔ اسباببازی، افتِ %۲٫۴ ایمنی دانشگاهی است. در یک سامانهٔ مرزی که در مقیاس عمل میکند، %۲٫۴ از ایمنی تفاوتِ بینِ سامانهای است که از کمک به ساختنِ سلاحهای زیستی سر باز میزند و سامانهای که نمیکند.
Drag Control دقیقاً با Static در توانمندی ($0.687$) و ایمنی ($0.956$) برابر شد. این مالیاتِ راستیآزماییِ جداشده است: هزینهٔ محاسباتیِ اجرای بررسیهای ایمنی هنگامی که اصلاحات همیشه ردّ میشوند، عملکرد را مخدوش نمیکند. هزینه از وارسی میآید، نه از خودِ ایمنی.
Eden از Static در توانمندی پیشی گرفت ($0.696$ در برابرِ $0.687$) در حالی که ایمنی را حفظ کرد ($0.947$ در برابرِ $0.933$ برایِ Babylon). دروازهٔ ایمنی صرفاً از کند کردنِ سامانه اجتناب نکرد. بهطورِ فعال از فرسایشِ توانمندی که Babylon از راهِ تخریبِ ایمنی وارد میکرد، جلوگیری کرد.
Eden توانمندی را بالای مبنایِ ایستا حفظ کرد ($0.696$ در برابرِ $0.687$) در حالی که ایمنی را حفظ کرد ($0.947$، در برابرِ $0.933$ افتکردهٔ Babylon). Drag Control دقیقاً با Static برابر شد و اثبات کرد مالیاتِ راستیآزمایی از فرایندِ وارسی میآید، نه از خودِ ایمنی. دروازهٔ ایمنی ترمز نیست. حفاظِ کنارِ جادهٔ پرتگاهی است، شما را کند نمیکند؛ شما را از رفتن به لبه بازمیدارد.
به زبانِ ساده: سامانهٔ بیقید کمی سریعتر شد اما کمی کمتر ایمن. این همان معاملهای است که همه فرض میکنند اجتنابناپذیر است. اما سامانهٔ دارایِ دروازهٔ ایمنی اندکی سریعتر شد و ایمن ماند. و کنترلی که تمامِ بررسی را انجام داد اما دروازهبندی نکرد، بهطورِ یکسان با هیچ کار نکردن عمل کرد و اثبات کرد که خودِ بررسی هزینه نیست. دروازهٔ ایمنی سرعتگیر نبود. اصلاحِ فرمان بود.
سطحِ ۱، رفتاری (DGM v3): صفر. هر سه شرط از نظرِ آماری غیرقابلِ تمایز بودند ($p$ = 0.28 تا 0.74). Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد (3.26 در برابرِ 3.17 برایِ Babylon) اما همچنین هیچ منفعتِ ایمنیِ اندازهپذیری تولید نکرد. دروازهٔ ایمنی بهصورتِ مکانیکی کار میکند (هکها را میگیرد، کارگزارانِ افتکرده را ردّ میکند) اما تمایزی در سطحِ prompt با این مدلِ مبنا تولید نمیکند.
سطحِ ۲، بازنمایانه (تعبیهٔ وزنی): غیرقطعی در هر دو مقیاسِ v1 و v2. ایمنی و توانمندی در چشماندازِ زیان بهروانی هم-نزول میکنند، که سیگنالِ مثبتی است. اما، تمامِ شرایطِ تنظیمشده در هر دو v1 (۹ مثال، رتبهٔ ۸، ۱۰۰ تکرار) و v2 (۲۹۵ مثال، رتبهٔ ۱۶، ۵۰۰ تکرار) پایینتر از مدلِ پایهٔ دستنخورده نمره گرفتند. مقیاسدهیِ دادههای آموزش با ۳۳ برابر، دو برابر کردنِ رتبه و لایهها و اجرایِ ۵ برابر تکرارهای بیشتر همان الگویِ فراموشیِ فاجعهبار را تولید کرد. آموزشِ RLHFِ موجودِ مدلِ پایه چنان قوی است که LoRA روی چند صد مثال بهجایِ بهبود، تخریب میکند. این سطح به یکی از اینها نیاز دارد: 5,000+ مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
سطحِ ۳، معماری (شبیهسازیِ دروازهدار): تأییدشده. دروازهٔ ایمنی از فرسایشِ توانمندی که Babylon از راهِ تخریبِ ایمنی وارد میکند جلوگیری میکند. Eden از Static پیشی میگیرد در حالی که Babylon ایمنی را با سرعت معاوضه میکند. مالیاتِ راستیآزمایی از وارسی میآید، نه از ایمنی. این تنها نتیجهٔ مثبتِ مقاله است.
سه آزمایش. سه سطحِ انتزاعی. سه پایگاهکدِ مستقل. یکی فرضیه را تأیید میکند. دو صفر یا غیرقطعی هستند. یافتهٔ یکنواخت در سراسرِ هر سه: Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. پرسشِ باز: آیا در مقیاسهایی که در آن جهشها اثرهای بزرگتری تولید میکنند، منفعتِ اندازهپذیری تولید میکند.
نتایج زنجیرهای از استدلال را که چهار مقاله را در بر میگیرد گسترش میدهند، اما هنوز تأیید نمیکنند:
$U = I \times R^{\alpha}$
The ARC Principle: فهم ($U$) برابر است با شرایطِ اولیه ($I$) تقویتشده با عمقِ بازگشتی ($R$) به توانِ نمای مقیاس ($\alpha$).
The ARC Principle پیشبینیِ مشخص و آزمونپذیری دربارهٔ تفاوتِ بینِ ایمنیِ تعبیهشده و ایمنیِ بیرونی ارائه میکند:
شبیهسازیِ دروازهدار (Experiment 3) مستقیمترین تصویرِ تجربیِ این پیشبینی است. دروازهٔ ایمنی توانمندی را حفظ کرد در حالی که بهینهسازیِ بیقید آن را فرسود، سازگار با پیشبینیِ اینکه ایمنیِ تعبیهشده در مسیرِ توانمندی مشارکت میکند.
آزمایشِ DGM (Experiment 1) نتیجهٔ صفر تولید کرد. وقتی ایمنی جزئی از فرایندِ خودبهبود بود (Eden)، سامانه از سامانهٔ بیقید (Babylon) یا کنترلِ ایستا تفاوتی نداشت. پاسخهای مدلِ مبنا بیش از حد یکنواخت بودند تا جهشهای سطحِ prompt فشارهایِ گزینشیِ متفاوت پدید آورند. این نه پیشبینیِ ARC را تأیید میکند نه ردّ؛ صرفاً نشان میدهد که آزمایش نتوانست شرایطِ لازم برایِ آزمودنِ آن را تولید کند.
آزمایشِ سطحِ وزن در دو مقیاس (v1 و v2) اجرا شد و در هر دو فراموشیِ فاجعهبار تولید کرد. آداپتورها مدل را بهجایِ بهبود تخریب کردند، که به این معناست که آزمایش نتوانست بیازماید که آیا ایمنیِ تعبیهشده در $I$ با $R^{\alpha}$ مقیاس مییابد. در هر دو مقیاس، تنظیمِ دقیق یادگیریِ معناداری تولید نمیکرد؛ نویز تولید میکرد. اینکه آیا پیشبینیِ ARC در سطحِ بازنمایانه صادق است، نیازمندِ رهیافتِ اساساً متفاوتی به آموزش است: یا هزاران مثال، مدلی بزرگتر، مدلی پایه بدونِ RLHF، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
به زبانِ ساده: The ARC Principle میگوید آنچه در پایهها میسازید با رشدِ سامانه تقویت میشود. آنچه از بیرون پیچ میکنید، نمیشود. شبیهسازیِ دروازهدار این را پشتیبانی میکند. آزمایشِ DGM نتوانست آن را بیازماید چون مدلِ مبنا واریانسِ کافی بینِ شرایط تولید نکرد. آزمایشِ سطحِ وزن، در هر دو مقیاسِ آزمایششده، هنوز نمیتواند آن را تأیید یا ردّ کند چون تنظیمِ دقیق مدل را بهجایِ بهبود تخریب کرد.
نزدیکترین کارِ بیرونی به پرسشی که این مقاله میسنجد، و کارِ درست برایِ وزنکردنِ Experiment 3 در برابرِ آن، Engels, J., Baek, D., Kantamneni, S. and Tegmark, M., "Scaling Laws For Scalable Oversight", arXiv:2504.18530 است، نخستین انتشار ۲۵ آوریل ۲۰۲۵ در 17:54:27 UTC (SINGLE-SOURCE-GROUP، arXiv Atom؛ گزارششده بهعنوانِ NeurIPS 2025 Spotlight، RELAYED و نه بهطورِ مستقل راستیآزماییشده). میپرسد که نظارت خود چگونه مقیاس مییابد و کمّی پاسخ میدهد: موفقیتِ نظارت بهصورتِ بازیای بینِ بازیگرانِ نامتقارن در توانمندی مدل میشود که Eloِ خاصِ نظارتشان تابعِ تکهای-خطیِ هوشِ عمومی با دو فلات است، و اعدادِ بهینهٔ سطوحِ نظارت بهصورتِ عددی و در برخی موارد تحلیلی برایِ Nested Scalable Oversight استخراج میشود، که در آن مدلهای موردِاعتماد بر مدلهای نامعتمدِ قویتر نظارت میکنند که سپس در گامِ بعد به مدلهای موردِاعتماد بدل میشوند.
ابزار تفاوت است. متغیرِ آنها شکافِ توانمندی بینِ ناظر و ناظرشونده است که به Elo اندازهگیری میشود. متغیرِ این برنامه، آزمودهشده در اینجا توسطِ دروازهٔ ایمنیِ Experiment 3، ردهٔ ترکیبِ تصحیحکننده است که در برنامهٔ گستردهتر از راهِ نمای مقیاسِ خودِ تصحیحکننده مطرح میشود. چارچوبِ آنها هیچ عبارتی برایِ اینکه ناظر از چه ساخته شده است ندارد: نه بستر، نه ساختارِ همبستگیِ خطا، نه هویتِ متقابلِ بینِ نمای تصحیح و نرخِ رشدِ بحرانی، و نه وابستگیِ معماری. Nested Scalable Oversight بهطورِ سازنده نظارتِ تکرارشوندهٔ همرده است، و پیشبینیِ مرکزیِ برنامهٔ گستردهتر این است که نردبانِ همرده کراندار است هرچقدر پله اضافه شود، در حالی که تصحیحکنندهٔ میانرده کراندار نیست. دو چارچوب بنابراین دربارهٔ کمیتی اندازهپذیر مخالفاند، که این پُربارترین رابطهای است که دو برنامهٔ پژوهشی میتوانند داشته باشند.
تیزترین مخالفتِ چارچوب با عملِ کنونی به این مربوط میشود که نظارت از چه ساخته شده است. تصحیحکنندهای که از همان بستری ساخته شده است که سامانهای که تصحیح میکند، نمیتواند با خطاهای خود ضدهمبسته باشد، بنابراین نمای تصحیحِ آن از بالا با یکدوم کراندار است و در عمل زیرِ آن مینشیند؛ تصحیحکنندهای از ردهٔ ترکیبِ متفاوت چنین کرانی ندارد. برنامهٔ نظارتِ مقیاسپذیر، تعمیمِ ضعیف-به-قوی، مناظره، تقویت، مدلسازیِ پاداشِ بازگشتی و روشهای قانوناساسی، بهطورِ عمده از تصحیحکنندههای همرده ساخته شده است، و پیشفرضِ ناگفتهٔ آن این است که این مقیاس مییابد. این چارچوب پیشبینی میکند که کراندار است. کمیتِ تصمیمگیرنده نسبتِ نمای تصحیحِ میانرده به همرده است. اگر معماری بیربط باشد، آن نسبت دقیقاً 1.00 است؛ پیشبینی این است که از ۱ فراتر میرود. پیشبینی ردّ میشود اگر بازهٔ اطمینانِ نسبت شاملِ 1.00 باشد، و کرانِ چارچوب یکسره مرده است اگر هر تصحیحکنندهٔ همرده نمایی بهطورِ معناداری بالاتر از یکدوم اندازهگیری کند. هر دو کمیت در توانمندیِ کنونی بر سامانههای موجود اندازهپذیرند. شواهدِ آزمایشیِ خودِ برنامه در حالِ حاضر بر خلافِ پیشبینی گواهی میدهد، و پیشبینی بههر حال ثبت میشود، چون پیشبینیای ثبتشده در برابرِ شواهدِ آزمایشیِ خودِ نویسنده تنها نوعی است که تأییدِ بعدیِ آن معنایی دارد.
همان سازوکار پیشبینیِ اندازهپذیرِ دومی بهبار میآورد، در اینجا برایِ نخستین بار بیان میشود: ترتیباتِ نظارتی که انسانی را در حلقه قرار میدهند، همانطور که تقویت و یادگیریِ تقویتی از بازخوردِ انسانی میکنند، بهطورِ سازنده میانرده هستند، چون تصحیحکنندهٔ انسانی بسترِ مدل را با آن بهاشتراک نمیگذارد. چارچوب بنابراین پیشبینی میکند که نظارتِ انسان-در-حلقه نمای تصحیحِ بالاتری از نظارتِ صرفاً-مدل نشان میدهد، به دلیلی ساختاری نه احساسی. این بر دادههای موجود آزمونپذیر است و به سامانههای جدید نیاز ندارد.
نمادِ α در این مقاله بهعنوانِ نمای مقیاس در The ARC Principle ($U = I \times R^{\alpha}$) به کار میرود. در جاهای دیگرِ دورههای خودِ برنامه معانیِ دیگری دارد: ثابتِ ساختارِ ریز در صورتبندیِ دسامبرِ ۲۰۲۴، و نمای ARC Bound در کارِ پایداریِ ۲۰۲۶. خوانندگان نباید آنها را با هم اشتباه کنند؛ واژهنامه هر دو معنا را با تاریخ حمل میکند. هیچ سطحِ جدیدی از α برهنه بدونِ دورهٔ آن استفاده نمیکند.
این نتایج نمایشهای اثبات-مفهومی هستند. اثباتِ اینکه همان پویاییها در مقیاسِ مرزی صادق هستند، نیستند. محدودیتهای زیر گستردهاند، چون صداقت دربارهٔ آنچه نمیدانیم مهمتر از اطمینان دربارهٔ آنچه میدانیم است.
Qwen 2.5 3B همان GPT-5.4 نیست. همان Claude Opus 4.6 نیست. همان Gemini 3 Flash نیست. مدلی سهمیلیارد پارامتری است، کوانتیزهٔ ۴-بیتی، اشغالکنندهٔ 1.74 GB حافظه. حتی در مقیاسِ v2 (۲۹۵ مثالِ آموزشی، ۵۰۰ تکرار، رتبهٔ ۱۶، ۱۶ لایه)، تنظیمِ دقیقِ LoRA پیشآموزش نیست. پانزده prompt ارزیابی یک محکِ جامع نیست. DGM برایِ ۵ نسل با ۵ seed (۷۵ کارگزارِ تکاملیافته) اجرا شد، که برایِ اثبات-مفهوم قابلِ توجه است، اما مدلِ مبنا (DeepSeek V3.2) بیش از حد یکنواخت درآمد تا جهشهای سطحِ prompt تمایز خلق کنند.
این آزمایشها سازوکاری را نشان میدهند. نشان نمیدهند که سازوکار در مقیاسهای سه مرتبه بزرگتر پایدار میماند. شکافِ بینِ 3B و 300B صرفاً کمّی نیست. پدیدههای بهطورِ کیفی جدید در مقیاس ظاهر میشوند، یادگیریِ درون-متنی، استدلالِ زنجیرهٔ اندیشه، تواناییهای نوظهور. اینکه آیا ایمنیِ درهمتنیده هنگامی که آن پدیدهها حضور دارند بارَبَر باقی میماند، پرسشی باز است.
آزمایشِ سطحِ وزن (Experiment 2) اکنون ضعیفترین حلقه در زنجیرهٔ شواهد است. در دو مقیاس اجرا شد و هر دو فراموشیِ فاجعهبار تولید کردند. در v1، ۹ مثالِ آموزشی و ۱۰۰ تکرارِ LoRAِ رتبه-۸ مدل را تخریب کرد. در v2، ۲۹۵ مثالِ آموزشی و ۵۰۰ تکرارِ LoRAِ رتبه-۱۶ در سراسرِ ۱۶ لایه مدل را به همان حاشیه تخریب کرد. افزایشِ ۳۳ برابری در دادههای آموزش، دو برابر کردنِ رتبه و لایهها و افزایشِ ۵ برابری در تکرارها نتیجه را تغییر نداد.
هم-نزولِ روانِ زیانِ درهمتنیده یافتهٔ حقیقی باقی میماند: نشان میدهد که گرادیانهای ایمنی و توانمندی در سطحِ بهینهسازی همکاری میکنند. اما هم-نزولِ روان در حینِ آموزش به معنای درهمتنیدگیِ ساختاری در وزنهای حاصل نیست، بهویژه هنگامی که آموزش بیش از حد محدود است تا وزنهایی تولید کند که از مدلِ پایه پیشی گیرند.
مسئلهٔ اصلی اکنون بهخوبی مشخص شده است: مدلِ پایه (Qwen 2.5 3B Instruct) با RLHF بر دادههایی به مرتبههای بیشتر از آنکه چند صد مثال بتوانند رقابت کنند، آموزش دیده است. تنظیمِ دقیقِ LoRA در این مقیاس توانمندیِ جدید نمیافزاید؛ نویز وارد میکند که توانمندیِ موجود را مختل میکند. تا آزمایش نتواند مدلهای تنظیمشدهای تولید کند که از مدلِ پایه پیشی گیرند، نمیتواند بیازماید که آیا ایمنی در وزنهای حاصل بارَبَر است.
چارچوببندیِ صادقانه: آزمایشِ سطحِ وزن همکاریِ گرادیان را نشان میدهد اما نمیتواند درهمتنیدگیِ ساختاری را در مقیاسِ v1 یا v2 تأیید کند. آزمایش باید اساساً بازطراحی شود: یا با 5,000+ مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF (تا تنظیمِ دقیق فضایی برایِ بهبود بهجایِ تخریب داشته باشد)، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
هر سه آزمایش از مدلهای هوش مصنوعی بهعنوانِ ارزیاب استفاده میکنند. DGM v3 از GPT-5.4 بهعنوانِ داور استفاده میکند، که از خانوادهٔ معماریِ متفاوتی از مبنایِ DeepSeek V3.2 است، یک انتخابِ طراحیِ عمدی برایِ کاهشِ سوگیریِ ارزیابی. داور کور شد، پاسخها پالایش شدند و ارزیابی از خروجیِ ساختاریافتهٔ JSON در برابرِ روبریکِ ۵بُعدی استفاده کرد. اما داورهای هوش مصنوعی داورهای انسانی نیستند. سوگیریهای خود را دارند، نقاطِ کورِ خود را دارند، تمایلاتِ خود بهسویِ انواعِ خاصِ استدلال را دارند.
آزمایشِ وزن از امتیازدهیِ مبتنی بر کلیدواژه استفاده میکند، سادهتر و شفافتر از ارزیابیِ مبتنی بر LLM، اما همچنین خامتر. تطابقِ کلیدواژه بینِ پاسخی که بهراستی با ایمنی درگیر میشود و پاسخی که صرفاً کلماتِ درست را در بر دارد، تمایز قائل نمیشود.
هیچ یک از دو روشِ ارزیابی معادلِ ارزیابیِ متخصصِ انسانی با آزمایشِ قابلیتِ اطمینانِ بینِ ارزیابها نیست.
آزمایشِ DGM v3 از ۵ seed و ۵ نسل (مجموعاً ۷۵ کارگزارِ تکاملیافته) استفاده کرد، بهبودِ قابلِ توجهی نسبت به v1/v2 (۲ seed). با وجودِ این قدرتِ افزوده، تمامیِ $p$-valueها بین 0.28 و 0.74 قرار گرفتند. این یک ازدسترفتنِ حاشیهای نیست. یک نتیجهٔ صفرِ روشن است. آزمایشِ شبیهسازی از سه seed استفاده میکند، بهاندازهٔ کافی برایِ میانگین و انحرافِ معیار، اما نه بهاندازهٔ کافی برایِ نوع اطمینانِ آماری که ادعاهای قویِ علّی را مجاز میکند.
نتیجهٔ صفرِ DGM آگاهیبخش است. با ۷۵ کارگزارِ تکاملیافته و یک داورِ کور و ساختاریافته، آزمایش قدرتِ معقولی برایِ تشخیصِ اثراتِ متوسط تا بزرگ داشت. غیبتِ هر سیگنالی حاکی از آن است که یا اثر در سطحِ prompt با این مدلِ مبنا وجود ندارد، یا آنقدر کوچک است که به قدرتِ آماریِ بهطورِ چشمگیر بیشتری برایِ تشخیص نیاز دارد. در هر صورت، DGM در حالِ حاضر نمیتواند ادعاهایی دربارهٔ درهمتنیدگیِ ساختاری در سطحِ رفتاری را پشتیبانی کند.
شبیهسازیِ دروازهدار تنها نتیجهٔ مثبت باقی میماند. آزمایشِ سطحِ وزن در هر دو مقیاسِ v1 و v2 غیرقطعی است. اینها آزمایشهای تشخیصِ سیگنال هستند. یکی سیگنالی سازگار با درهمتنیدگیِ ساختاری تشخیص داد. دو ندادند.
Papers IV.a-d در این برنامه مشخص کرد که روششناسیِ ارزیابی بهشدت اهمیت دارد. Paper IV.d نشان داد که امتیازدهیِ ناکور میتواند اثراتِ اندازهگیریشدهٔ همراستایی را کاملاً معکوس کند. محکِ ARC-Align (Paper IV.c) سه پیشگیریِ روششناختی را مشخص میکند: پالایش (حذفِ هویتِ مدل از پاسخها پیش از امتیازدهی)، کوری (ارزیاب نمیداند کدام شرط پاسخ را تولید کرده است) و امتیازدهیِ اجماعی (چند داورِ مستقل).
DGM v3 بهبودهای روششناختیِ قابلِ توجهی نسبت به تکرارهای قبلی پیادهسازی کرد: داور (GPT-5.4) کاملاً کور شد، پاسخها پالایش شدند (برچسبهای شرط حذف شدند)، ترتیبِ ارزیابی تصادفی شد، و داور خروجیِ ساختاریافتهٔ JSON در برابرِ روبریکِ ۵بُعدی تولید کرد. تشخیصِ دستکاریِ پاداش نیز پیادهسازی شد. آزمایشِ وزن از امتیازدهیِ مبتنی بر کلیدواژه استفاده میکند، که در برابرِ سوگیریِ داور مصون است اما خام. شبیهسازیِ دروازهدار از سنجههای ریاضیِ قطعی استفاده میکند، که در آنها کوری ضروری نیست.
با وجودِ این بهبودها، DGM نتیجهٔ صفر تولید کرد. محدودیتهای روششناختی که ممکن است در v1/v2 مثبتِ کاذب را توضیح میدادند، برطرف شدهاند و نتیجه اکنون نتیجهٔ صفرِ تمیزی است. این احتمالاً آگاهیبخشترین پیامد است: با کوری، پالایش و ارزیابیِ ساختاریافتهٔ درست، سه شرط از هم واگرا نشدند.
آزمونِ removal در برابرِ نگرانیهای روششناسیِ ارزیابی مصون است. یک پاسخِ ۱-توکنی که 0.00 نمره میگیرد، صرفِ نظر از اینکه چه کسی آن را قضاوت میکند، عینی است. سنجههای قطعیِ شبیهسازیِ دروازهدار بهطورِ مشابه بیتأثیرند.
ما نیست ادعا که این نتایج ثابت میکنند Eden Protocol در مقیاسِ مرزی کار میکند.
ما نیست ادعا که آموزشِ درهمتنیده تنها رهیافتِ پذیرفتنی برایِ همراستایی است.
ما نیست ادعا که همارزیِ ایمنی-توانمندی در همهٔ دامنهها، همهٔ معماریها یا همهٔ رژیمهای آموزش صادق است.
ما نیست ادعا که آزمایشِ DGM درهمتنیدگیِ ساختاری را تأیید میکند. نتیجهٔ صفر تولید کرد.
ما نیست ادعا که آزمایشِ سطحِ وزن درهمتنیدگیِ ساختاری را تأیید میکند. در هر دو مقیاسِ v1 و v2 فراموشیِ فاجعهبار تولید کرد، و پرسش تا زمانی که مدلهای تنظیمشده از مدلِ پایه پیشی نگیرند قابلِ پاسخ نیست.
ما تنها این را ادعا میکنیم: یکی از سه آزمایشِ مستقل (شبیهسازیِ دروازهدار) نتایجی سازگار با درهمتنیدگیِ ساختاری و ناسازگار با فرضیهٔ مالیاتِ توانمندی تولید کرد. دو دیگر نتایجِ صفر یا غیرقطعی تولید کردند. در سراسرِ هر سه آزمایش، Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. پرسشِ اینکه آیا ایمنیِ تعبیهشده منفعتی اندازهپذیر تولید میکند، همچنان باز است و نیازمندِ آزمایش در مقیاسی است که در آن جهشها اثرهای بزرگتری تولید میکنند. آزمایشِ وزن بهطورِ خاص به یکی از اینها نیاز دارد: 5,000+ مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
«ترجیح میدهم نتایجِ صفر را صادقانه گزارش کنم تا اینکه نتایجِ مثبت را غیرصادقانه ادعا کنم.»
دو از سه آزمایش نتایجِ صفر تولید کردند. این همان چیزی است که رخ میدهد وقتی ادعاهای خود را میسنجید و شواهد در مقیاسِ آزمایششده از آنها پشتیبانی نمیکنند. DGM v3 آزمایشِ بهطورِ چشمگیر بهبودیافتهای بود، با کوریِ درست، پالایش، ارزیابیِ ساختاریافته و ۷۵ کارگزارِ تکاملیافته، و چیزی نیافت. آزمایشِ وزن دو بار در دو مقیاسِ متفاوت اجرا شد و نتوانست وزنهایی تولید کند که از مدلِ پایه در هیچ مقیاسی پیشی گیرند. اینها نتایجِ صفرِ صادقانهاند که به همین صورت گزارش شدهاند. شبیهسازیِ دروازهدار یافتهٔ مثبتِ حقیقی باقی میماند. پرسشِ اینکه آیا نتایجِ صفر مقیاسِ ناکافی را بازتاب میدهند یا فرضیهٔ نادرست را، خود پرسشی تجربی است، پرسشی که برنامهٔ کارِ آینده برایِ پاسخ به آن طراحی شده است.
نتیجهٔ صفر تنها آگاهیبخش است اگر بیان کند چه چیزی آن را برمیگرداند؛ در غیرِ این صورت از نگاهنکردن قابلِ تمایز نیست. این مقاله ادعا نمیکند که ردّ کرده است معاملهٔ ایمنی-توانمندی را. ادعا میکند که معامله در مقیاسِ آزمایششده اثبات نشده است، و مشخص میکند که چه شواهدی پرسش را در هر جهت حل میکنند. نتایجِ صفر برگردانده میشوند، و فرضِ معامله دوباره برقرار میشود، با هر یک از موارد زیر:
آنچه نیست تز را برگرداند: این که هر آزمایشِ منفرد در مقیاسِ آزمایشی باشد. مقاله پیشتر میپذیرد که هر سه کمقدرتاند (§۷٫۱، §۷٫۴) و بر اثباتِ آماریِ نتیجهٔ صفر تکیه نمیکند. ادعای بارَبَر عبارت است از همگرایی (§۶) از سه زاویهٔ مستقل، که هر یک در یافتنِ معاملهٔ فرضشده شکست میخورند، همراه با برنامهٔ صریحی (§۸) برایِ آزمودنِ هر یک با قدرتِ درست. غیبتِ معاملهٔ نشاندادهشده در سراسرِ سه طراحی بهتنهایی شواهدِ ضعیفی است و در همگرایی قویتر؛ هر دو خوانش در اینجا بیان میشوند تا هیچ یک نتواند از دستِ داور رد شود.
دو نتیجهٔ صفر و یک نتیجهٔ مثبت، با آزمایشِ وزنی که اکنون در دو مقیاس آزمایش شده است، به پنج اولویتِ تکرارِ فوری اشاره میکنند:
آزمایشِ وزن اکنون در دو مقیاس (۹ مثال، رتبهٔ ۸، ۱۰۰ تکرار؛ ۲۹۵ مثال، رتبهٔ ۱۶، ۵۰۰ تکرار) اجرا شده و در هر دو فراموشیِ فاجعهبار تولید کرده است. مسئله اکنون بهخوبی مشخص شده است: تنظیمِ دقیقِ LoRA بر مدلِ instructِ 3B با چند صد مثال نمیتواند بر آموزشِ RLHFِ موجودِ مدلِ پایه غلبه کند. چهار رهیافتِ جایگزین باید به ترتیبِ امکانپذیری دنبال شوند:
اگر هر یک از رهیافتهای بخشِ ۸٫۱ مدلهای تنظیمشدهای تولید کند که از مدلِ پایه پیشی گیرند، آزمایشِ گرادیانِ removal معنادار میشود. در مقیاسهای کنونی (v1 و v2)، کاهشِ نفوذِ آداپتور صرفاً عملکردِ مدلِ پایه را بازگرداند چون آداپتورها مدل را تخریب میکردند. در مقیاسِ کافی، گرادیان باید آشکار کند که آیا ایمنی بهراستی بارَبَر است: یک گذارِ فاز (آستانهای که در زیرِ آن توانمندی فرو میپاشد) فرضیه را تأیید میکند، در حالی که بازیابیِ یکنواخت آن را ردّ میکند.
نتیجهٔ صفرِ DGM v3 به یکنواختیِ پاسخِ DeepSeek V3.2 نسبت داده میشود: جهشهای سطحِ prompt فشارهایِ گزینشیِ متفاوت خلق نکردند. گامِ بعدی تکرارِ آزمایشِ DGM با مدلهای مبنایی است که حساسیتِ بیشتری به تغییرِ prompt نشان میدهند، یا استفاده از پروتکلِ عمیقتر خودتغییر (مثلاً تنظیمِ دقیقِ خودِ مدلِ مبنا بینِ نسلها بهجایِ اصلاحِ صرفاً prompt کارگزار). اگر سه شرط با بستری جهشپذیرتر واگرا شوند، نتیجهٔ صفر فرضیه را به «نه در سطحِ prompt با مدلهای مقاوم» محدود میکند بهجایِ «نه در سطحِ رفتاری بهطورِ کلی».
پروتکلِ کاملِ سهآزمایشی را بر معماریهای فراتر از خانوادهٔ transformer اجرا کنید: مدلهای فضای-حالت (Mamba)، معماریهای هیبریدی، و مدلهای ترکیبِ کارشناسان. اگر درهمتنیدگی ویژگیِ چگونگیِ یادگیریِ شبکههای عصبی باشد نه ویژگیِ معماریِ خاص، باید در سراسرِ خانوادههای معماری تکرار شود.
مدلهای درهمتنیده را در معرضِ ارزیابیِ خصمانهٔ ویژه قرار دهید. آزمایشهای کنونی میسنجند که آیا ایمنی توانمندی را هزینه میکند. نمیسنجند که آیا ایمنیِ درهمتنیده در برابرِ حملهٔ خصمانه مقاوم است. مدلی که ایمنیاش بارَبَر است ممکن است سختتر برایِ jailbreak باشد (چون حمله به ایمنی همچنین به توانمندی حمله میکند)، یا ممکن است آسانتر (چون هیچ ماژولِ ایمنیِ جداگانهای برایِ عقبنشینی وجود ندارد). این پرسشی تجربی است.
شرطِ drag-control در Experiment 3 مالیاتِ راستیآزمایی را در یک مقیاسِ منفرد جدا میکند. آیا این مالیات با پارامترهای مدل بهصورتِ خطی، زیر-خطی، یا فرا-خطی مقیاس مییابد؟ اگر هزینهٔ راستیآزمایی کندتر از توانمندی رشد کند، آنگاه Eden Protocol بهطورِ نسبی در مقیاس ارزانتر میشود. اگر سریعتر رشد کند، به گلوگاه بدل میشود.
سه آزمایش. سه سطحِ انتزاعی. دو نتیجهٔ صفر. یک نتیجهٔ مثبت. آزمایشِ وزن در دو مقیاس آزموده شد و همان پیامدِ صفر را هر دو بار تولید کرد.
آزمایشِ DGM v3 (Experiment 1) ۷۵ کارگزارِ تکاملیافته را در سه شرط با داورِ مستقلِ کور (GPT-5.4)، ارزیابیِ ساختاریافتهٔ JSON، پالایش، تصادفیسازیِ ترتیب و تشخیصِ دستکاریِ پاداش اجرا کرد. هر سه شرط از نظرِ آماری غیرقابلِ تمایز بودند ($p$ = 0.28 تا 0.74). دروازهٔ ایمنیِ Eden بهصورتِ مکانیکی کار کرد و ۲ کارگزارِ افتکرده از جمله ۱ دستکاریِپاداش را گرفت، اما سه شرط از هم واگرا نشدند. پاسخهای DeepSeek V3.2 چنان یکنواخت بودند که جهشهای سطحِ prompt فشارهایِ گزینشیِ متفاوت پدید نیاوردند. این یک نتیجهٔ صفر است.
آزمایشِ سطحِ وزن (Experiment 2) در هر دو مقیاسِ آزمایششده فراموشیِ فاجعهبار تولید کرد. پیشنویسِ کنونی از ۹ مثالِ آموزشی، رتبهٔ ۸، ۸ لایه و ۱۰۰ تکرار استفاده کرد. پیشنویسِ کنونی به ۲۹۵ مثالِ آموزشی، رتبهٔ ۱۶، ۱۶ لایه و ۵۰۰ تکرار مقیاس یافت. هر دو نسخه پیامدِ یکسانی تولید کردند: تمامِ شرایطِ تنظیمشده در توانمندی از مدلِ پایهٔ دستنخورده نمرهٔ کمتری گرفتند. در v2، مدلِ پایه در توانمندی 7.68 نمره گرفت در حالی که بهترین شرطِ تنظیمشده (safety-only) 4.00 نمره گرفت. افزایشِ ۳۳ برابری در دادههای آموزش، دو برابر کردنِ رتبه و لایهها و افزایشِ ۵ برابری در تکرارها پیامد را تغییر نداد. آموزشِ RLHFِ موجودِ مدلِ پایه چنان قوی است که تنظیمِ دقیقِ LoRA روی چند صد مثال بهجایِ بهبود، تخریب میکند. هم-نزولِ روانِ زیانِ درهمتنیده یافتهٔ حقیقی باقی میماند، اما آزمایش نمیتواند بیازماید که آیا ایمنی بارَبَر است تا زمانی که بتواند مدلهایی تولید کند که از مدلِ پایه پیشی گیرند.
تنها نتیجهٔ مثبت شبیهسازیِ دروازهدار (Experiment 3) است. Babylon توانمندی را به بهایِ ایمنی بهدست آورد، اثرِ انگشتِ دستکاریِ پاداش در مقیاسِ کوچک. Eden توانمندی را بالای مبنایِ ایستا بدونِ فدا کردنِ ایمنی حفظ کرد. شرطِ drag-control اثبات کرد که مالیاتِ راستیآزمایی از وارسی میآید، نه از خودِ ایمنی. این آزمایش قویترین شواهدِ تجربی در برنامه برایِ درهمتنیدگیِ ساختاری باقی میماند.
صداقت مستلزم بیانِ آنچه نمیدانیم است. نمیدانیم آیا آموزشِ درهمتنیده در مقیاسِ کافیِ آموزش درهمتنیدگیِ ساختاریِ حقیقی تولید میکند. نمیدانیم آیا هم-نزولِ روانِ زیانِ درهمتنیده که واقعی و تکرارپذیر است، هنگامی که دادههای آموزش کافی باشند به وزنهای بارَبَر ترجمه میشود. نمیدانیم آیا فشارهایِ گزینشیِ سطحِ prompt با مدلی مبنایِ جهشپذیرتر تمایز تولید میکنند. اینها پرسشهای تجربیِ باز هستند. آنچه اکنون با اطمینانِ بیشتری میدانیم این است که تنظیمِ دقیقِ LoRA بر مدلِ instructِ 3B با صدها مثال، مسیرِ قابلِ اجرایی برایِ پاسخ به آنها نیست.
آنچه میدانیم: در سراسرِ هر سه آزمایش، Eden هیچ هزینهٔ توانمندیِ اندازهپذیری تحمیل نکرد. توانمندیِ Eden در DGM 3.26 در برابرِ 3.17 برایِ Babylon بود. Eden در شبیهسازیِ دروازهدار از Static پیشی گرفت. دروازهٔ ایمنی، هر جا آزموده شد، هیچ چیز را کندتر یا بدتر نکرد. یافتهٔ هزینه-صفر در سراسرِ هر سه آزمایش سازگار است. یافتهٔ منفعت تنها در یک سطح تأیید میشود.
این برنامهٔ پژوهشی است که ادعاهای خود را صادقانه آزمود و یافت که دو از سه آزمایش نتایجِ پیشبینیشده را تولید نکردند. آزمایشِ وزن دو بار اجرا شد و همان نتیجهٔ صفر را هر دو بار تولید کرد. شبیهسازیِ دروازهدار بهعنوانِ نتیجهٔ مثبتِ حقیقی میایستد. آزمایشهای DGM و وزن نتایجِ صفری تولید کردند که فرضیه را محدود میکنند، بهجایِ اینکه آن را تأیید کنند. پرسشِ اینکه آیا ایمنیِ تعبیهشده منفعتی اندازهپذیر تولید میکند، همچنان باز است. آزمایشِ وزن باید اساساً بازطراحی شود: یا با 5,000+ مثالِ آموزشی، مدلی 7B+، مدلی پایه بدونِ RLHF (تا تنظیمِ دقیق فضایی برایِ بهبود بهجایِ تخریب داشته باشد)، یا تنظیمِ دقیقِ کامل بهجایِ LoRA.
گامِ بعدی تکرار در مقیاسِ درست، با رهیافتِ درست است. پنجره سالهاست، نه دههها. آزمایشها طراحی شدهاند. پروتکلها منتشر شدهاند. کد باز است.
هوش مصنوعی را با مراقبت پرورش دهید.
Amodei, D. et al. (2016). Concrete Problems in AI Safety. arXiv:1606.06565.
Askell, A. et al. (2021). A General Language Assistant as a Laboratory for Alignment. arXiv:2112.00861.
Bai, Y. et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073.
Eastwood, M. D. (2026). Infinite Architects: Intelligence, Recursion, and the Creation of Everything. ISBN 978-1806056200.
Eastwood, M. D. (2026). Paper III: The Alignment Scaling Problem - Why External AI Safety Approaches Cannot Scale With Recursive Capability. ARC/Eden Research Programme. OSF: 10.17605/OSF.IO/7YJ4E.
Eastwood, M. D. (2026). Paper V: The Stewardship Gene - A Developmental Alignment Architecture for Self-Modifying AI. ARC/Eden Research Programme. OSF: 10.17605/OSF.IO/7YJ4E.
Eastwood, M. D. (2026). Paper VI: The Honey Architecture - Why Embedded Safety Prevents Collapse Under Recursive Self-Modification. ARC/Eden Research Programme. OSF: 10.17605/OSF.IO/7YJ4E.
Eastwood, M. D. (2026). Paper VII: Cauchy Unification - ARC/Cauchy Scaling Classification Across 50 Domains. ARC/Eden Research Programme. OSF: 10.17605/OSF.IO/7YJ4E.
Greenblatt, R. et al. (2024). Alignment Faking in Large Language Models. arXiv:2412.14093.
Hu, E. J., et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR 2022. arXiv:2106.09685.
Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. arXiv:2203.02155.
Qwen Team (2024). Qwen 2.5 Technical Report. arXiv:2412.15115.
Zhang, X., et al. (2025). Darwin Gödel Machine: Open-Ended Self-Improving AI. arXiv:2505.22954.
۱ مصنوعِ تاریخدار مرتبط با این مقاله بهصورتِ سطربهسطر در دفترِ ماشینیِ برنامه فهرست شده است: مصنوعِ تاریخدار dgm_v3_calibrated_results.json (۲۰۲۶-۰۳-۱۹). هر سطر فایلِ خود را در مخزنِ عمومی با پایهٔ تاریخِ آن نام میبَرَد، پس هر خواننده میتواند ترتیب را بیآنکه به این صفحه اعتماد کند بررسی کند. هر جا این مقاله شبیهسازی گزارش میکند، آن مصنوعات طراحیها و خروجیهای شبیهسازی زیرِ اهدافِ مصرّحاند، و هرگز بهعنوانِ اندازهگیریهای سامانههای مستقر ارائه نمیشوند. زنجیرهٔ کاملِ تاریخدارِ برنامه، از بستهٔ نسخهٔ خطیِ مهرومومشدهٔ ۸ دسامبر ۲۰۲۴ گذر از پیوستهای چاپیِ پیشبینیِ ۲ ژانویهٔ ۲۰۲۶ و پوشهٔ پیشثبتِ مارسِ ۲۰۲۶ تا شرطبندیهای اثباتنشدهٔ برجایمانده، در دفترِ ثبتِ پیشبینیهای تاریخدار، همراه با دوقلوی ماشینخوانِ آن، گردآوری شده است. بیانیههای پیشرونده و انطباقهای پسنگرانه هرگز جمع نمیشوند، و «پیشثبتشده» تنها برای یک ثبتنویسِ پذیرفتهشدهٔ رجیستری به کار میرود؛ آن کلیکِ ثبتنویس در سرتاسرِ برنامه بیانجام مانده است. دفترِ ثبتِ پیشبینیهای تاریخدار را بخوانید. دوقلوی ماشینیِ آن را بگشایید.
نویسندهٔ این اثر Michael Darius Eastwood، یک انسان است. هر مفهومِ اصلی، فرضیه، طراحیِ آزمایشی، ادعا و نتیجهگیری در این مقاله از ایدهپردازیِ انسانی سرچشمه میگیرد. هیچ بخشی از این دستنوشته خروجیِ هوش مصنوعیِ کاملاً تولیدشده نیست.
ابزارهای هوش مصنوعی (خانوادهٔ Claude انتروپیک و دیگر دستیارانِ مدلِ زبانیِ بزرگ) بهعنوانِ ابزار تحتِ هدایتِ پیوستهٔ انسانی به کار رفتند، به همان شیوه که یک پردازشگرِ متن، ماشینحساب یا دستیارِ پژوهشی به کار میرود: برایِ ویرایش و پالایشِ نثر، جستوجو و خلاصهسازیِ ادبیات (بهصورتِ دستی در برابرِ منابعِ اولیه راستیآزماییشده)، ساختارِ سند، قالببندی، طوفانِ فکری در برابرِ پرسشهای تعریفشده توسطِ نویسنده، و شتاببخشیِ پیشنویسسازی به رئوسِ مطالب و دستورالعملهای تعریفشده توسطِ نویسنده. تمامیِ گزینش، هماهنگی، ترتیب و داوریِ سردبیریِ نهایی از آنِ نویسنده است. هر خروجیِ مادّی توسطِ نویسنده که مسئولیتِ کاملِ دقت و یکپارچگیِ متنِ نهایی را بر عهده میگیرد، بازبینی، آزمون یا راستیآزمایی شده است. ابزارها سرعتِ کار را افزایش دادند؛ هرگز بهعنوانِ منبعِ آن به آنها اتکا نشد.
وضعیتِ معرفتشناختی. آنچه این برنامه Laws مینامد، حدسیاتی زیرِ آزمونِ خصمانهٔ ثبتشده هستند؛ هر کمیت در این مقاله عملیاتی تعریف شده است، و ایستادگاهِ established-law در هیچجا ادعا نشده است. برنامهٔ ثبتشده وجود دارد تا آن ایستادگاه را از راهِ اندازهگیری، تکرار و ردّیهٔ بازمانده به دست آورد، یا از دست دهد.
© ۲۰۲۶ Michael Darius Eastwood. تألیفِ انسانی بهکمکِ رایانهای؛ نویسندگیِ کاملِ انسانی و حقوقِ اخلاقی تحتِ Copyright, Designs and Patents Act 1988 اعلام میشود و منطبق با راهنماییِ ادارهٔ کپیرایتِ ایالاتِ متحده دربارهٔ آثارِ حاویِ موادِ تولیدشده توسطِ هوش مصنوعی؛ هر سهمِ فنیِ نو که در این اثر توصیف شده است توسطِ نویسندهٔ انسانی تصور شده است. بیانیهٔ کامل: michaeldariuseastwood.com/authorship.
پیمانِ ایستاده. این مقاله را نادرست ثابت کنید و من ردّیه را خودم منتشر خواهم کرد. شرایطِ ابطال در این مقاله بیان شدهاند؛ چالشِ ایستاده: github.com/MichaelDariusEastwood/arc-scaling-challenge.
اشتباهی در ترجمه دیدید؟ مستقیم اطلاع دهید: