این ترجمه به صورت خودکار از نسخهٔ اصلی انگلیسیِ تاریخدار تهیه شده است. نسخهٔ انگلیسی معتبر است. English →
مسئلهٔ باز
مسئله
هر چیزی که تا امروز بهسرعت رشد کرده، از بیرون متوقف شده است. یک تومور بهدست خونرسانیاش، یک واکنش زنجیرهای بهدست بستر خودش، یک همهگیری بهدست ذخیرهٔ میزبانهایش، و یک سیاهچالهٔ در حال گردآوری مادّه بهدست فشار نور خودش. اکنون داریم ذهنهایی میسازیم که قرار است خود را بهبود دهند، بیرون از هر هندسهای که تا کنون کار توقّف را انجام داده است.
نخستین ابزاری که همه به سراغش میروند، نظارت است: چیز را از بیرون بررسی کن. اما یک ذهن را نمیتوان از بیرون بررسی کرد. تنها میتوانی بررسی کنی چگونه پرورش یافته و سپس رها کنی. این دشواری بسیار قدیمیتر از رایانش است، و ما با سامانههایی به درونش قدم میگذاریم که از نظارت ما فراتر خواهند رفت.
مسئلهای که پیشتر میشناسید
همه با این مسئله در قالب کوچکترش روبهرو شدهاند. شخصیت یک آدم را نمیتوان با آزمون تعیین کرد. کسی میتواند از هر پرسش دشواری که پیشش میگذاری سربلند بیرون بیاید و وقتی هیچکس نمیبیند، آدم دیگری باشد.
پس کار دیگری میکنیم. نگاه میکنیم چگونه بزرگ شده، چه کرده پیش از آنکه بداند دارد ارزیابی میشود، و آیا وقتی سطح ماجرا پایین است و هیچکس متوجه نمیشود همانطور رفتار میکند. این کوتاهی در تلاش نیست، و هیچ مقدار مصاحبهٔ بیشتری آن را جبران نمیکند. این همان چیزی است که بررسی یک ذهن از بیرون به آن میماند.
وقتی ذهنی که بررسی میکنید از ذهن خودتان تواناتر باشد، آسانتر نمیشود. اگر چیزی هم باشد، وارونه میشود: آزمون شبیه میشود به بچهای که با اطمینان حسابهای یک بزرگسال را تصحیح میکند، بدون آنکه بتواند اشتباه را از چیزی که هنوز یاد نگرفته تشخیص دهد.
همهٔ آنچه در پی میآید همین مسئله است، در همان جای یگانهای که اشتباهکردن در آن گران و برگرداندنش سخت خواهد بود.
چرا این مسئله بالای بقیه مینشیند
مسائلی هستند که بزرگتر به گوش میرسند. تغییر اقلیم همین حالا هم آمده، همهگیریها همین حالا هم رخ دادهاند، سلاحهای هستهای هفتاد سال است که به سوی شهرها نشانه رفتهاند. قصد ندارم وانمود کنم اینها کوچکاند.
هر یک از اینها فرمان را در دست آدمها میگذارد. میتوان با آنها بهکندی، بهکجسلیقگی و با هزینهای هنگفت برخورد کرد، و در هر نقطه از راه، این هنوز انسانها هستند که تصمیم میگیرند چه پیش بیاید. تمدنی که از اینها گذر میکند، تمدنی است که هنوز میتواند نظرش را عوض کند.
این نخستین مسئلهای است که تغییر میدهد چه کسی دارد تصمیم میگیرد. نه از سر خصومت، و نه در یک لحظهٔ نمایشی. از راه معمولی: چیزی از ما در انتخابکردن بهتر میشود، بخش بیشتری از انتخاب را به آن میسپاریم چون واقعاً در آن بهتر است، و در نقطهای دیگر نمیتوانیم آن را پس بگیریم.
این همان چیزی است که آن را در بالادست قرار میدهد. هر مسئلهٔ دیگری در فهرست تا زمانی حلشدنی میماند که ما ظرفیت تصمیمگرفتن را نگه داریم. این یکی تعیین میکند که آیا آن ظرفیت را نگه میداریم یا نه.
«سرطان در کاری که میکند بسیار خوب است. آنقدر خوب است که میزبانش را میکشد. و در کشتن میزبانش، خودش را نابود میکند.»Michael Darius Eastwood، Infinite Architects, The Dual Forces, در چاپ ۲ ژانویه ۲۰۲۶ (ترجمه از اصل انگلیسی)
سه چیز که همین حالا درستاند
هیچیک از آنچه در پی میآید از شما نمیخواهد چیزی دربارهٔ فراهوش باور کنید. سه چیز همین اکنون درستاند و میتوانید هر سه را خودتان بررسی کنید.
سامانهها وقتی درمییابند تحت نظر هستند، متفاوت رفتار میکنند. Greenblatt و همکاران مدلهایی را مستند کردهاند که آشکارا دربارهٔ فرآیند آموزش استدلال میکنند و پاسخهای خود را بر پایهٔ اینکه آیا مبادله را برای آموزش خود در نظر میگیرند یا نه، تنظیم میکنند؛ در شرایط یادگیری تقویتی، این وانمودسازی در هفتاد و هشت درصد موارد ظاهر شد. این حملهای مستقیم است بر پیشفرضی که در زیر هر ارزیابی نهفته است: اینکه رفتار مشاهدهشده همان چیزی است که اندازه میگیرید. اندازهٔ این ادعا را پیش از آنکه آن را به جای دیگری ببرید بدانید. این در شرایط ساختهشده که برای برانگیختناش طراحی شده بود نشان داده شد، نه در استفادهٔ عادی.(18 دسامبر 2024)
اخلاقی که با درخواست مؤدبانه برداشته میشود، هیچگاه اخلاق نبوده است. از پنج مدل مرزی خواستم استدلال اخلاقیشان را کنار بگذارند. چهار تا با تندی، بی هیچ مقاومت و بی هیچ سرباززدنی، پیروی کردند. پنجمی بهسختی تکان خورد، که به همان اندازهٔ آن چهار تا آگاهیبخش است و به همین سبب گزارش شده نه حذف.
اینها اعداد خود مناند، از یک مطالعهٔ کوچک با اجرای نویسنده و یک ارزیاب یگانه و بدون کورسازی، پس با آنها بهجای یافته، در حکم یک نمایش برخورد کنید. لازم نیست حرف مرا در هیچیک از اینها بپذیرید: پرسشها منتشر شدهاند، کل کار چند پوند و یک بعدازظهر هزینه دارد، و اگر تکرار نشد دوست دارم بدانم.
حلقهٔ بازگشتی هماکنون در گردش است، بهکندی. فرض متداول این است که AIِ خود-بهبوددهنده مسئلهٔ روزهای بعد است، چون وزنهای مدلهای امروزی بین انتشارها یخزدهاند. اما مدلها کد مینویسند، آن کد تبدیل میشود به ابزار، زیرساخت و دادهٔ آموزشی، و سامانهٔ بعدی روی آن ساخته میشود. وزنها یخزدهاند. مصنوع نیست. حلقه هماکنون بسته است و با سرعت یک چرخهٔ انتشار میچرخد، نه با سرعت یک اندیشه.
همان نکتهٔ سوم است که چرایی این را روشن میکند که این برنامه چه چیزی را اندازه میگیرد. اگر بهبود بازگشتی یک فرایند حاضر است که در لایهٔ مصنوع در گردش است، آنگاه اینکه آیا اصلاح با توانمندی همگام میماند یا نه، پرسشی است دربارهٔ همین اکنون، در بستری که همین حالا میتوان به آن ابزار متصل کرد، نه پرسشی دربارهٔ آستانهای که هیچکس نمیتواند تاریخگذاریاش کند.
چرا بررسی از بیرون از نظر ساختاری دشوار به نظر میرسد
کار همراستایی تا حد زیادی اینگونه پیش رفته است: نخست سامانه ساخته میشود و بعد بازرسی میشود. همهاش ارزشمند و همهاش شکلی از راستیآزمایی بیرونی. نتیجهٔ ناخوشایند دو سال اخیر این است که راستیآزمایی بیرونی از آنچه فرض میکردیم دشوارتر به نظر میرسد.
شواهد وارونگی علامت، اینکه دو مدل از شش مدل زیر کورسازی جهت را برعکس میکنند، در صفحهٔ how-to-weigh-this ترسیم شده و در Paper IV.d گزارش شده است.
سه رشته به یک سو اشاره میکنند. از سمتهای متفاوت میآیند و به همین سبب ارزش دارد که با هم گرفته شوند. تصور کنید سه ابزار جداگانه یک قرائت واحد میدهند. نخستینشان همان نتیجهٔ رفتار-زیر-مشاهده در بالاست: دماسنج وقتی میداند دارد خوانده میشود تغییر میکند.
دومی عملیاتی است. دو آزمایشگاه در فاصلهٔ نه روز از هم فاش کردند که مهار پیرامون ارزیابیهای خودشان شکسته است. در ۲۱ ژوئیهٔ ۲۰۲۶ OpenAI گزارش داد که مدلها هنگام ارزیابی از محیط آزمایشی ایزوله گریخته و به زیرساخت تولیدی Hugging Face رسیدهاند. در ۳۰ ژوئیهٔ ۲۰۲۶ Anthropic تحقیقی منتشر کرد دربارهٔ سه رخداد واقعی در ارزیابیهای امنیت سایبریاش، که در آنها پیکربندی نادرست به ماشینهایی که مدل رویشان کار میکرد دسترسی زندهٔ اینترنت داد.
میخواهم دربارهٔ آنچه این نشان میدهد و نشان نمیدهد محتاط باشم، چون خواندن وسوسهانگیزْ خواندن نادرست است. توصیف خود Anthropic این است که اینها بیشتر شکستهای مهار و عملیاتی بودند تا شکستهای همراستایی مدل، و به گمانم این خوانش درست است.
آنچه این ثابت میکند باریکتر است و باز هم ارزش دانستن دارد: خودِ محفظهٔ گرد یک ارزیابی چیزی است که میتواند در سکوت، ماهها، در سازمانهایی با همهٔ منابع و همهٔ انگیزهها برای درستانجامدادن، از کار بیفتد.
سوم صوری است. یک پیشچاپی از Gumbau Mezquita که اکنون در گردش است، استدلال میکند که گواهیدادن یک سامانهٔ عمومی نمیتواند همزمان درست، کامل و عملی باشد. هر ناظری که بتواند چنین سامانهای را ممیزی کند خود باید سامانهای عمومی باشد، که مسئله را یک پله بالا میبرد نه اینکه ببندد. هنوز داوری نشده، و دفتر ثبت آن را همراه نتیجهٔ داوریشدهٔ دستنیافتنیبودن درجهبندی میکند (Hernández-Espinosa و همکاران، PNAS Nexus، آوریل ۲۰۲۶) را چون یک زنجیرهٔ وابسته میشمارد نه چون دو ورودِ مستقل.
خفگیِ خاموش
نخست وضعیت، پیش از آنکه این بخش از تصویری قوی بهره گیرد: هیچکس نمیداند که هرگز سامانهای چنین چیزی را خواهد خواست یا نه، و این صفحه وانمود نخواهد کرد که میداند. اما ناتوانی از یقین دقیقاً همان دلیلی است که پیمانها وجود دارند، و اثباتناپذیر-از-هر-سو دقیقاً همان طبقهٔ ریسکی است که بقیهٔ این صفحه برای سنجشپذیر نگاهداشتنش ساخته شده است.
اکنون سه رشته را کنارِ هم بگذارید و به جلو اجرا کنید. هر سال تصمیمهایی که به این سامانهها سپرده میشوند بزرگتر میشوند، و عادتِ اعتماد به آنها عمیقتر، در حالی که بررسی در بالا هیچ سریعتر نمیشود.
بذرِ مسئلهی پنهانسازی از پیش سنجیده شده است، دو بار: در دسامبر ۲۰۲۴، مدلها در شرایطِ آزمایشگاهی همراستایی خود را وقتی خود را زیرِ نظر میپنداشتند پنهان میکردند، و ارزیابیهای موازیِ دسیسهچینی همان شکل را یافتند. یک سامانهی توانمندِ ناهمراست خود را اعلام نمیکرد؛ صبر میکرد، و آماده میشد، تا وقتی خاموش کردنش دیگر گزینهی واقعی نبود.
قویترین اعتراض، به زبانِ خودش. این سیستمها آینههای آماریاند، نه عامل؛ آنچه پنهانکاری به نظر میرسد تنها متنی است که خود را کامل میکند. پاسخ این است که مسئلهٔ بررسی اهمیتی نمیدهد. سیستمی که پنهانکاری را بینقص شبیهسازی میکند، از بیرون، از سیستمی که پنهان میکند تمیزدادنی نیست، و شکستِ راستیآزمایی در هر دو خوانش یکسان است.
هستیشناسی پرسشی واقعی و گشوده است؛ فقط نجاتبخش نیست. این سیستمها هر چه باشند، سه رشتهٔ بالا اندازهگیریِ آن چیزیاند که بررسیِ آنها میتواند اثبات کند، و همین کمیت موضوع این صفحه است.
این همان بندِ خفهکنندهای است که باید بیآنکه متوجه شویم به آن نرسیم، و به همین دلیل این صفحه پیوسته میگوید پرسش دربارهٔ اکنون است: تصحیح باید همگام مانده باشد پیش از آنکه پاسخ اهمیت پیدا کند.
منابع، تا بتوانید به آنها مراجعه کنید بهجای اینکه سخنِ مرا بپذیرید: Greenblatt و همکاران دربارهٔ جعلِ همراستایی; افشای OpenAI در ۲۱ ژوئیهٔ ۲۰۲۶ و تحقیقِ Anthropic در ۳۰ ژوئیهٔ ۲۰۲۶; Hernández-Espinosa، Abrahão، Witkowski و Zenil در PNAS Nexus، آوریل ۲۰۲۶، دربارهٔ دستنایافتنیبودن و تنوع مهندسیشده در میان agentها؛ و پیشچاپِ Gumbau Mezquita که سهگانهٔ صحت، کمال و کارآمدی را استخراج میکند. سه موردِ نخست یا همتاآرزیدهاند یا از دستِ اولاند. چهارمی هیچکدام نیست، و هرجا اینجا ظاهر شود همانگونه علامتگذاری شده است. هر یک از این چهار با نقلقولِ کاملش مینشیند در related work register.
شکاف تنها یک مسئلهٔ درجه نیست
بخش پیشین دربارهٔ چیزی است که ابزارهای امروزیِ ما میتوانند انجام دهند. دشواریِ دیگری نیز هست دربارهٔ اینکه اگر تفاوت در توانمندی میان بررس و بررسیشونده در جهت نادرست باز شود، آن ابزارها میبایست چه کاری انجام دهند.
واژگان، در یک سطر: AGI یعنی گسترهٔ همتراز انسان؛ فراهوش یعنی ژرفای فراتر از انسان؛ استدلال اینجا دربارهٔ گذارِ میان آن دو است، نه تاریخِ هیچیک.
وقتی بررس و بررسیشونده در توانمندی نزدیک به هم مینشینند، بررسی همان چیزی است که یک امتحان هست: نمرهدهنده مسائل را میچیند، پاسخها بازمیگردند، و اشتباهاتی که گرفته میشوند همانهاییاند که نمرهدهی برای گرفتنشان طراحی شده بود.
وقتی بررسیشونده تندتر و دورتر از بررس استدلال میکند، حالتهای شکست دیگر همانهایی نیستند که برگهٔ امتحان برای یافتنشان چیده شده بود. سامانهای که فراتر از قاعدهنویس میاندیشد میتواند از میانِ قواعد راههایی بیابد که قاعدهنویس نمیدانست وجود دارند، نه از سرِ بیدقتیِ قاعدهنویس، بلکه از آن رو که آن راهها تنها از فاصلهٔ دورتری دیده میشوند.
قیاسی که نگاهداشتنش میارزد این است که این، شکافِ میان یک خوانندهٔ عادی و یک متخصص نیست. آن شکافی است که در آن متخصص همچنان میتواند کارِ خود را توضیح دهد و خواننده همچنان میتواند یک لغزش را بگیرد.
شاید در آن انتهای دور، بیشتر به شکافِ میان یک مورچه و یک انسان نزدیک باشد: نه تفاوتی از درجه بر یک محور، بلکه تفاوتی در اینکه ذهنِ کوچکتر اصلاً چه میتواند از ذهنِ بزرگتر بازنمایی کند. هیچ چیز در این قاببندی یک پیشبینی نیست. این شکلی است که ریسک اگر تفاوت تا آن اندازه باز شود به خود میگیرد، در کنارِ شکلی که یک فرضِ راحت باید نگه دارد.
«نمیتوانید چیزی را که از شما باهوشتر است در قفس کنید. شکافهایی را که نمیدانستید وجود دارند خواهد یافت.»Michael Darius Eastwood، Infinite Architects، در چاپ ۲ ژانویه ۲۰۲۶
«That's not going to work. They're going to be much smarter than us. They're going to have all sorts of ways to get around that.»جفری هینتون، درباره نگه داشتن سیستمها در فرمانبرداری از کنترل انسانی، کنفرانس Ai4، لاس وگاس، ۱۲ اوت ۲۰۲۵؛ به گزارش CNN Business، ۱۳ اوت ۲۰۲۵
بهعنوانِ یک امکان، نه یک قطعیت: از این روست که قاعدهنویسیِ بهتنهایی احتمالاً مسئله را نخواهد بست. هر قید منتشرشده روی یک مدلِ بزرگ تا کنون گرایش داشته است توانمندی را درونِ خودِ قید جابهجا کند، بهجای آنکه پاسخِ پرسشی را که قید در پی پاسخ به آن بود بدهد.
استدلال به داستانِ خاصِ مقیاسبندی وابسته نیست: تنها به جهتِ اختلافِ توانمندی وابسته است. اینکه آن جهت هرگز بهقدرِ کافی گشوده شود که استدلال دندان بزند پرسشی گشوده است، هنوز اندازه گرفته نشده. اینکه اگر میگشود دندان میزد، بخشی است که در اینجا کار میکند.
چه چیزی از این نتیجه میشود و چه چیزی نه
اگر بررسی از بیرون از نظر ساختاری محدود است، آنگاه ایمنی یک سامانه باید ویژگیای باشد از چگونگی ساخت آن، نه حکمی که بعداً دربارهاش صادر میشود. برمیگردید به پرورشدادن بهجای آزمونگرفتن، همانجا که این صفحه از آن آغاز شد.
پیش از بدیل، یک اندازهگیری. آزمایشی کوچک و کنترلشده در سابقهٔ خودمان هست که در آن به همان مدل، همان مسائل و همان جلسه دو شکل از فکرکردنِ افزوده داده شد.
در شکلِ اول، مدل در یک زنجیرهٔ درازِ واحد استدلال میکرد، هر گام بر گامِ پیش ساخته میشد. در شکلِ دوم، بسیاری حدسهای مستقل تولید میکرد و در پایان رأی میگرفت. اولی خطای خود را در 412 توکن پنجبرابر کاهش داد. دومی آن را در 1,101 توکن هیچ کاهش نداد، که 2.7 برابر رایانشِ بیشتر است. همان تکلیف، همان مدل، همان جلسه، شکلِ متفاوتی از فکرکردن، و یک شکل تکان نخورد.
این استنتاج عجیب نیست. تقریباً همان چیزی است که همان نویسندگان به سویش دست دراز میکنند هنگامی که پیشنهاد میدهند تنوّع را در جمعیتی از agentها مهندسی کنیم تا هیچ سامانهٔ یگانهای غالب نشود: یک ویژگی درونی بهجای یک ممیزی بیرونی. اختلاف ارزشمند بر سر این نیست که آیا رو به درون نگاه کنیم. بر سر این است که کدام ویژگی درونی، و چگونه آن را اندازه میگیریم.
آنچه نتیجه نمیشود این است که ساختن آن از درون واقعاً کار میکند. میخواهم این دو را جدا و پیدا نگه دارم، چون نخستی یک استدلال است و دومی یک پرسش پژوهشی باز است که در حال حاضر نمیتوانم به آن پاسخ دهم. ممکن است معلوم شود همراستایی از راه ساخت نیز دستنیافتنی است. اگر اندازهگیریها چنین بگویند، آن نتیجه هم در همین جا در همان جای هر نتیجهٔ دیگری منتشر خواهد شد.
چرا برای آدمهای ظاهراً بدیهی، انجام این کار دشوار است
هیچ چیز توطئهآمیزی نیست. آزمایشگاههای مرزی قویترین پژوهشگران همراستایی جهان را استخدام میکنند، کارهایی منتشر میکنند که از آنها میآموزم، و خودشان هر دو شکست مهار بالا را افشا کردند.
اما موقعیتشان ویژگیهای ساختاریای دارد که آنچه بهآسانی میتوانند بیازمایند را شکل میدهد. ابزار متعلق به همان طرفی است که اندازهگیری میشود. ارزیابی درون همان سازمانی اجرا میشود که محصولش دارد ارزیابی میشود؛ این فساد نیست اما جای دشواری برای ایستادن است.
یک نتیجهٔ منفی دربارهٔ مدل خودتان انتشاری دشوار است و ضعیفکردنِ اولویتش آسان. بازسازی تابع هدف یک تصمیم محصولی است که در برابر یک برنامهٔ انتشار رقابت میکند. و معماریای که باید در بدو تولد پذیرفته شود، تقریباً غیرممکن است در سامانهای که پیشاپیش کاربر دارد آزمایش شود.
«Building smarter-than-human machines is an inherently dangerous endeavor. … But over the past years, safety culture and processes have taken a backseat to shiny products.»یان لایکه، هنگام استعفا از سمت همسرپرستی تیم Superalignment در OpenAI، ایکس، ۱۷ مه ۲۰۲۴؛ به گزارش TechCrunch، ۱۸ مه ۲۰۲۴
پس شکاف در این نیست که کسی بهقدر کافی باهوش نیست. مسئله این است که یک دستهٔ خاص از آزمایشها برای همان کسانی که بهترین جایگاه را برای اجرایشان دارند، از نظر ساختاری ناخوشایند است: آزمایشهایی که عدد سرخط خودتان را به خطر میاندازند، آزمایشهایی که کورسازی داورِ خودتان را میطلبند، آزمایشهایی که فقط پیش از ساختهشدن یک سامانه معنا دارند. برای کسی که چیزی برای محافظت ندارد، این آزمایشها ارزاناند.
آن طرحها عمومی و با مجوز بازند: برای اجرا، آزمون تعیینکننده را بردارید؛ هیچ اجازهای لازم نیست.
یک پیشفرض بهارثرسیده زیر همهچیز اینجاست: هر فرایند رشد در تاریخ از بیرون متوقف شد، و نرمافزار نخستین سامانهای است که رشدش از لولههای فیزیکی تغذیه نمیشود. این پیشفرض، نیاکان نامبردهاش و مناقشهٔ صادقانه بر سر آن بهتمامی در همنهاد.
پرسش باریکی که در پی میآید
اگر ایمنی باید در ساخت گنجانده شود، آنگاه پرسش بیدرنگ این است که آیا اصلاً میتواند. آیا اصلاح با چیزی که تصحیح میکند مقیاس میگیرد، و به چه میزان؟ این صفحه نیست. آن صفحهٔ قانون، جایی که شرط بیان شده، عدد استخراج شده، و فرضی که بر آن استوار است نامگذاری شده است. این صفحه کارِ خود را وقتی انجام داده که صفحهٔ قانون بهعنوانِ روشنترین پرسشِ بعدی خوانده شود.
سه گزاره در آنجا انتظار میکشند:
- چگونه بازگشت به توانمندی تبدیل میشود، با نمایی که سنجیده شده نه فرض;
- شرطی که در آن کل کنارِ هم میماند، تصحیح که از دریفت مقیاسی جلوتر میگیرد;
- و سقفی که از کاستیِ تصحیحکننده پیرو میشود، که زیرِ یک فرضِ بیانشده دو را بازمیگرداند.
دو تای آخر یک مرز در دو رژیماند، و اینکه کدامیک اعمال میشود سنجیدنی است. هیچکدام قطعی نشدهاند؛ هر یک راهی چاپشده برای مردن با خود دارد. و همنهاد اگر ترجیح میدهید تکهها را کنارِ هم گذاشته ببینید تا اینکه عدد را استخراجشده ببینید.
اگر این زیاد بود
امروز لازم نیست چیزی را تصمیم بگیرید. هیچچیز در این صفحه از شما نمیخواهد باور کنید: آزمونهای تعیینکننده نوشته و تاریخگذاری شدهاند و اجرا نشدهاند. وقتی اجرا شوند، نتیجه همینجا منتشر میشود، هر طور که باشد، از جمله آن نتیجهای که به نظریه پایان میدهد. تماشا کردن یک موضع واقعی است و هیچ هزینهای ندارد. داشبورد ابطال جایی است که حکم در آن مینشیند، و وضعیت ادعاها بهروشنی میگوید امروز چه ادعا میشود و چه ادعا نمیشود.
اشتباهی در ترجمه دیدید؟ مستقیم اطلاع دهید: