تشویق مدل به فکر کردن بیشتر، تنها با اضافه کردن Wait به دستور!

محققان دانشگاه استنفورد یک روش جدید برای بهینه‌سازی مدل‌های زبانی معرفی کردن. این روش که s1 نام داره، با استفاده از فقط ۱۰۰۰ نمونه آموزشی و یک تکنیک ساده به نام budget forcing تونسته عملکردی مشابه مدل‌های بزرگ OpenAI مثل o1 به دست بیاره. نکته مهم اینجاست که اکثر مدل‌های موفق در این حوزه مثل DeepSeek r1 از داده‌های آموزشی خیلی بیشتری (حدود ۸۰۰ برابر) استفاده می‌کنن.

محققان استنفورد برای انتخاب این ۱۰۰۰ نمونه از سه معیار اصلی استفاده کردن: کیفیت (داده‌های با فرمت مناسب و بدون خطا)، سختی (مسائلی که مدل‌های پایه نمی‌تونن حل کنن) و تنوع (پوشش حوزه‌های مختلف از ریاضیات تا فیزیک و علوم کامپیوتر). این انتخاب هوشمندانه باعث شده که با وجود حجم کم داده‌های آموزشی، مدل بتونه عملکرد خوبی داشته باشه.

تکنیک budget forcing که در این تحقیق معرفی شده، یک روش ساده اما موثر برای کنترل زمان فکر کردن مدل هست. این تکنیک به دو روش عمل می‌کنه: اول اینکه اگر مدل بیش از حد مشخصی فکر کنه، به طور خودکار پردازش متوقف می‌شه و مدل مجبور به ارائه پاسخ می‌شه. دوم اینکه اگر بخوایم مدل بیشتر فکر کنه، با اضافه کردن کلمه "Wait" به زنجیره استدلال، مدل تشویق می‌شه تا بیشتر روی مسئله تمرکز کنه.

در آزمون‌های مختلف، مدل s1-32B عملکرد قابل توجهی داشته. برای مثال در آزمون‌های ریاضی AIME24 به دقت ۵۶.۷ درصد و در MATH500 به دقت ۹۳ درصد رسیده. همچنین در سوالات علمی سطح دکترا (GPQA Diamond) به دقت ۵۹.۶ درصد دست پیدا کرده که نشون می‌ده این مدل می‌تونه با مدل‌های بزرگ‌تر رقابت کنه.

نکته جالب دیگه اینه که کل فرآیند آموزش این مدل فقط ۲۶ دقیقه روی ۱۶ کارت H100 طول کشیده که در مقایسه با مدل‌های مشابه که نیاز به روزها و هفته‌ها آموزش دارن، بسیار کمتره. این نشون می‌ده که با روش‌های هوشمندانه می‌شه به جای افزایش حجم داده و زمان محاسبات، به نتایج مشابه یا حتی بهتری رسید.

محققان همچنین نشون دادن که با افزایش زمان فکر کردن مدل در زمان استفاده (test-time)، دقت پاسخ‌ها بهبود پیدا می‌کنه. برای مثال در AIME24، وقتی به مدل اجازه داده شد تا ۶ بار بیشتر فکر کنه، دقت از ۵۰ درصد به ۵۷ درصد افزایش پیدا کرد. این نشون می‌ده که حتی بعد از آموزش هم می‌شه با تنظیم پارامترهای اجرا، عملکرد مدل رو بهبود داد.

نسخه کامل این مقاله رو میتونید از اینجا مشاهده کنید.

@aipulse24

کاربران ایفون در اروپا حالا میتونن از اولین اپ پورن "تایید شده" توسط اپل استفاده کنن!

اپل تا پیش از این هیچ اپ مختص پورنی رو در اپ استور راه نمیداد ولی به لطف قوانین اتحادیه اروپا مبنی بر امکان نصب فروشگاه های ثانویه دانلود اپ، کاربران ایفون در اروپا میتونن چنین اپهایی رو از فروشگاه های ثانویه دانلود کنن.

این اپ جدید Hot Tub نام داره و از فروشگاه دانلود اپ AltStore PAL قابل دانلود هست که به کاربران امکان دیدن محتوای پورن از منابع مختلف رو در یک اپ رو مهیا میکنه و تبلیغات و popupهای مزاحم هم نداره. این اپ به طور پیش فرض در این فروشگاه نمایش داده نمیشه بلکه کاربر باید به طور دستی امکان نمایش اون رو فعال کنه.

اپل از این موضوع راضی نیست و گفته چنین اپی رو ما هیچ وقت تایید نمیکنیم ولی اپل تمام اپهای موجود در فروشگاه های ثانویه رو از طریق فرایندی به اسم Notarization از نظر امنیتی و غیره بررسی میکنه و در صورت نداشتن مشکل خاصی، اونهارو تایید میکنه تا از این فروشگاه ها قابل دانلود باشن.

علاوه بر این اپل حتی در هنگام عرضه فروشگاه های ثانویه در اروپا از اپهای پورن به عنوان مثالی برای اپهایی که اجازه دارن در این فروشگاه ها عرضه بشن یاد کرده و گفته در حالی که این اپها در اپ استور مجاز نیستن ولی برای دانلود از فروشگاه های ثانویه تایید میشن.

🔎 techcrunch

📍 @TechTube

اسپاتیفای، بزرگترین سرویس استریم موزیک در جهان، اعلام کرده برای اولین بار در 19 سال اخیر موفق شده یک سال کامل سودده باشه!

این شرکت تا پیش از این فقط یک فصل تونسته بود سود بده ولی در کل این سالها عملا ضررده بود و هزینه های اون بیشتر از درامدش بوده.

اما در سال 2024 این شرکت 15.6 میلیارد یورو درامد داشته که 18 درصد رشد رو نشون میده و 1.1 میلیارد یوروی اون سود بوده در حالی که سال گذشته 500 میلیون یورو ضرر داده بود.

یکی از دلایل این افزایش درامد، اپل هست که بعد از جریمه 2 میلیارد دلاری، بالاخره به اسپاتیفای اجازه میده که قیمت واقعی اشتراک بدون سود اپل رو به کاربرانش نشون بده و کاربران رو به سایت برای پرداخت هدایت کنه تا نیازی به پرداخت کارمزد اپل نداشته باشن.

تعداد کاربران اسپاتیفای هم 35 میلیون افزایش داشته و به 675 میلیون کاربر رسیده که 263 میلیون کاربر از اونها اشتراک پریمیوم دارن.

🔎 variety

📍 @TechTube