البته بنچ مارک‌هایی که خودشون گزارش میدن، معمولاً دچار مشکلاتی مثل انتخاب گزینشی، overfiting تست و سایر سوگیری‌ ها میشن و تصویر بهتری از واقعیت نشون میدن، ممکنه در مواجه شدن با داده های واقعی نتونه برای اکثر کاربردها جای R1 رو بگیره.

با این حال، فقط ۳۲ میلیارد پارامتر داره، پس حتی اگه به R1 کامل ۶۱۷ میلیارد پارامتری MoE نرسه و صرفا حتی بهش نزدیک شده باشه یه برد بزرگه! برخلاف R1، نسخه کوانتیزه شده QwQ باید روی کارت‌های گرافیک شخصی به خوبی اجرا شه، پس بهتره قبل از دانلود مدل منتظر بنچ مارک های کاربران عادی موند!

Qwen
این نسخه رو به مجموعه مدل های خودش اضافه کرد و هم اکنون در آدرس زیر قابل دسترسه.

https://chat.qwen.ai/

توضیح بسیار شفاف و بصری طراحی kv cache و اینکه Deepseek چطور این فرایند رو به شکل بسیار کارامدی بهینه کرد .

https://youtu.be/0VLAoVGf_74?feature=shared

فناوری EUV به دلیل نقش حیاتیش در تولید تراشه‌ های پیشرفته، اهمیت ژئوپلیتیکی بالایی داره و به همین دلیل به عنوان یه عامل بازدارنده در اختلافات سیاسی مطرح میشه.

فقط یه شرکت در دنیا به نام ASML می‌تونه این دستگاه‌های EUV رو بسازه. این دستگاه‌ ها برای تولید تراشه‌های پیشرفته ضروری هستن و به همین دلیل، ASML نقش بسیار مهمی در صنعت الکترونیک داره. در واقع این دستگاه با استفاده از فرایند لیتوگرافی الگوهای بسیار ریز ترانزیستورها با استفاده از نور فرابنفش  EUV روی ویفرهای سیلیکونی حک می‌کنه که فرایند بسیار پیچیده ای هست.

شرکت تایوانی TSMC با استفاده از دستگاه‌های ASML، تراشه‌های پیشرفته تولید میکنه. این موضوع باعث شده که تایوان از نظر فناوری بسیار قدرتمند شه و به نوعی، از حمله احتمالی چین محافظت شه!

چین حالا در یک قدمی تولید این دستگاه هست و موفقیتش، تأثیر زیادی بر دنیای فناوری و جغرافیای سیاسی و البته هوش مصنوعی خواهد گذاشت، به عبارتی دستیابی چین به چنین فناوری می‌تونه اون رو به زنجیره تامین نیمه رساناها تبدیل کنه!

https://www.techpowerup.com/333801/china-develops-domestic-euv-tool-asml-monopoly-in-trouble

هر چه به جلو پیش میریم این تجلی نظریه اینترنت مرده (Dead internet theory) برامون ملموس‌تر میشه، وضعیتی که در اون تمایز دادن کاربر انسانی از کاربر جعلی، امری محال خواهد بود!

کم کم به جایی میرسیم که AI Agents همچون انسان‌ها عمل میکنن، هرگاه اراده کنن اظهار نظر میکنن و در اینترنت به جست‌وجو میپردازن.

بهتون پیام‌ خصوصی میدن، تصاویر طنزآمیز می‌فرستن، و این موارد تنها بخش کوچکی از قابلیت‌های اونها خواهد بود.

با این تفاسیر، این دو سال آتی، آخرین فرصت‌هایی هستند که با قطعیت بالا میتونیم بفهمیم که شاید در حال تعامل با انسان‌های واقعی هستیم

یافته جدید OpenAI در مورد زنجیره تفکر COT قابل تامل هست اما بخش جالب اینجاست که اعلام می‌کنه طراحی ساختارهای پاداشی که ناخواسته موجب تشویق رفتارهای نادرست در مدل های زبانی نشن، کاری بسیار دشواریه!

این موضوع فقط مختص مدل های زبانی نیست، به عنوان مثال اگه بچه‌ هاتون به‌ خاطر دروغ گفتن تنبیه کنید، درواقع جلو دروغ گفتنشون رو نگرفتین، فقط باعث شدین اونها یاد بگیرن چطوری ماهرانه تر و مخفی‌ تر دروغ بگن!

در مدل‌های پیشرفته‌ی استدلال، معمولا هدف و نیت اونها به‌ روشنی در زنجیره‌ ی تفکرشون نمایان میشه. 

اوپن ای آی با استفاده از یه مدل زبانی دیگه، مسیر استدلال رو زیر نظر میگیره تا رفتارهای ناهنجار رو تشخیص بده، اما این قابلیت پایش‌ پذیری مسیر فکری بسیار شکننده ست، چون اگه نظارت سخت‌ گیرانه‌ تری بر زنجیره‌ی تفکر اعمال شه، این مدل‌ها یاد میگیرن که نیت خود شون رو پنهان کنن و همچنان به رفتار نادرست ادامه بدن!


https://openai.com/index/chain-of-thought-monitoring/

بعد از معرفی QWQ32B حالا یه مدل با قابلیت استدلال و سرعت بسیار بالا ۲۱ میلیارد پارامتری متن باز به نام Reka منتشر شد.

مدل Reka Flash 3 یک مدل زبان چندوجهی با ۲۱ میلیارد پارامتره که توسط شرکت Reka توسعه یافته. این مدل به‌ صورت چندوجهی عمل میکنه و قادر به پردازش و استدلال بر روی ورودی‌های متنی، تصویری، ویدئویی و صوتی هست.

این مدل عملکردی رقابتی با مدل‌های اختصاصی مثل OpenAI o1-mini داره و به عنوان بهترین مدل متن‌ باز در اندازه خودش محسوب میشه. 

میتونید در لینک زیر قابلیت هاشو در نسخه دمو چک کنید ، خصوصا قابلیت های برنامه نویسش:

https://space.reka.ai/

دانلود مدل:

https://www.reka.ai/news/introducing-reka-flash

🔹انتشار Google Gemma 3:

گوگل نسخه جدید مدل‌های Gemma 3 را معرفی کرد که از 1B تا 27B پارامتر دارند. این مدل‌ها از متن و تصویر پشتیبانی می‌کنند (برای نسخه‌های 4B به بالا) و ظرفیت 128K توکن دارند. با بهینه‌سازی توکنایزر و پردازش 140+ زبان، عملکرد بهتری نسبت به نسل قبل ارائه می‌دهند. نسخه instruction-tuned 4B حتی از مدل 27B نسل قبلی قوی‌تر است!


🔗 جزئیات بیشتر در Hugging Face

جزییات معماری

مدل ۲۷ میلیارد پارامتری هم اکنون در گوگل AI Studioدر دسترسه

https://aistudio.google.com/

اجرای Gemma 3 1B بر روی اندروید، البته نسخه 4B به مراتب بهتر هست

ابتدا نصب Chatter UI

https://github.com/Vali-98/ChatterUI/releases/tag/v0.8.6-beta5

نسخه مورد نظر Gemma از لینک زیر

https://huggingface.co/collections/unsloth/gemma-3-67d12b7e8816ec6efa7e4e5b

برای تنظیم قالب متن خروجی در منوی formatting
گزینه

Use local formatting غیر فعال کنید

و فرمت اصلی رو به Gemma 2 تغییر بدین

مدل 32 میلیارد پارامتری OLMo 2، اولین مدل کاملا متن‌ بازه که عملکرد بهتری از GPT 3.5 و نسخه کوچک GPT 4o داره.

تمام اجزای این مدل به صورت متن باز منتشر شده شامل کد آموزش، داده‌های آموزشی و ...

https://allenai.org/blog/olmo2-32B

قابلیت های ویرایش و تولید تصویر Gemini 2.0 Flash's experimental واقعا خوبه. گوگل این قابلیت رو به صورت رایگان در aistudio قرار داده!

جزییات:

https://developers.googleblog.com/en/experiment-with-gemini-20-flash-native-image-generation/

به طور کلی، در حوزه مدل‌ های زبانی، دو رویکرد اصلی وجود داره: مدل‌های Autoregressive و مدل‌های Diffusion

مدل‌های Autoregressive متون رو بصورت کلمه به کلمه تولید میکنن، مثل مدل های رایج زبانی کنونی، این روش باعث میشه متن‌های روان و مرتبطی تولید شه، اما سرعت تولید اونها پایینه. در مقابل، مدل‌های Diffusion، ابتدا یک متن پر از نویز تولید میکنن و سپس با حذف تدریجی نویز، به یک متن قابل فهم میرسن. این روش امکان تولید موازی کلمات رو فراهم میکنه، اما در تولید متن‌های طولانی و دقیق و همچنین تخمین احتمال متن، ضعف دارن.

برای رفع این مشکلات، این مقاله مدل Block Diffusion معرفی کرده که مزایای هر دو رویکرد قبلی رو با هم ترکیب میکنه. این مدل مانند مدل‌ های Diffusion، ابتدا متن پر از نویز رو تولید میکنه، اما اون رو به بخش‌ های کوچک ‌تر (بلوک‌ها) تقسیم میکنه و سپس نویز هر بخش رو به صورت جداگانه حذف میکنه. این کار باعث میشه هم سرعت تولید متن بالا بره و هم دقت اون افزایش پیدا کنه. در واقع، مدل‌ Block Diffusion ، هم در کنار افزایش سرعت تولید متن کیفیت متن تولیدی رو افزایش داده


https://arxiv.org/abs/2503.09573

Anonymous access to popular AI models, including GPT-4o mini, Claude 3, and open-source Llama 3.3 and Mistral Small 3.

http://Duck.ai

شرکت LG هم وارد گود ساخت مدل های زبانی شده!

مرکز تحقیقات LG سری مدل‌های استدلال EXAONE با اندازه‌های 2.4 میلیارد، 7.8 میلیارد و 32 میلیارد پارامتر، برای وظایف استدلالی از جمله ریاضی و کدنویسی ارایه کرد.

نتایج مقاله نشون میده که این مدل ها توانایی‌ های برتر در وظایف استدلالی مختلف، از جمله بنچ مارک های ریاضی و کدنویسی، از 2.4 میلیارد تا 32 میلیارد پارامتر دارن!

 مدل2.4 میلیارد پارامتری، از سایر مدل‌های با اندازه مشابه عملکرد بهتری داره

مدل 7.8 میلیارد پارامتری، نه تنها از مدل‌های متن‌ باز با مقیاس مشابه، بلکه از مدل استدلالی اختصاصی OpenAI با نام o1-mini نیز عملکرد بهتری داره!

مدل 32 میلیارد پارامتری، عملکرد رقابتی در برابر مدل‌های متن‌ باز پیشرو داره

https://arxiv.org/abs/2503.12524

https://huggingface.co/collections/LGAI-EXAONE/exaone-deep-67d119918816ec6efa79a4aa

https://github.com/LG-AI-EXAONE/EXAONE-Deep

ضمن قبولی طاعات و عبادات، به مناسبت فرا رسیدن نوروز، کلاس‌ویژن برای همراهان گرامی تخفیف ویژه‌ای در نظر گرفته است. شما می‌توانید با استفاده از کد تخفیف nowruz404 از ۴۰٪ تخفیف بر روی تمامی دوره‌های آموزشی ما بهره‌مند شوید.

این فرصت استثنایی را از دست ندهید و مهارت‌های خود را در سال جدید ارتقا دهید.

برای استفاده از این تخفیف، کافیست در هنگام ثبت‌نام کد nowruz404 را وارد نمایید.

https://class.vision

nowruz404

سال نو مبارک!

نوروز، نه فقط نو شدن طبیعت، که فرصتی برای بازآفرینی "خود" هست. همونطور که محمد نوری میخونه، "جان جهان در گذر است"، پس بیاییم در این گذر، نو شیم. نوروزتان پیروز
🌺🌺

آهنگ رو توسط مدل های زبانی تولید کردم امیدوارم خوب در اومده باشه

NotebookLM can now generate Mind Maps, and studying will never be the same

https://www.xda-developers.com/notebooklm-generate-mind-maps/