چرا با اینکه بیش از 70 ساله هوش مصنوعی وجود داره ولی این سال های اخیر معروف شده؟
سال 2017 گوگل یه مقاله برگریزون برای معرفی ترنسفورمر ها داد ( t داخل chatgpt هم یعنی ترنسفورمر)؛ تیتر مقاله این بود
Attention Is All You Need
گوگل میگفت بابا RNN و LSTM رو بزارید کنار ما یه فرمول خیلی خفن پیدا کردیم... که چهار پنج سال بعد یهویی با مدل هایی که شرکت ها باهاش ساختن و آپگریدش کردن حسابی ترکوند.
ترنسفورمر به صورت ساده فرقش با روش های قدیمی اینه که Self-Attention یا مکانیسم توجه به خود داره در واقع این بخش کمک میکنه مدل بفهمه تو جمله هر کلمه، چقدر به بقیه کلمات ربط داره! مثلا جمله زیرو در نظر بگیر:
"من امروز کتاب جدیدی خریدم."
حالا توی مدل ترنسفورمر وقتی میخواد بفهمه کلمهی "کتاب" چه نقشی تو جمله داره، به جای اینکه فقط به همون کلمه نگاه کنه، میره و تمام کلمات دیگه جمله رو هم نگاه میکنه و وزن هر کدوم رو بر اساس اهمیتش نسبت به "کتاب" حساب میکنه.
@Linuxor
سال 2017 گوگل یه مقاله برگریزون برای معرفی ترنسفورمر ها داد ( t داخل chatgpt هم یعنی ترنسفورمر)؛ تیتر مقاله این بود
Attention Is All You Need
گوگل میگفت بابا RNN و LSTM رو بزارید کنار ما یه فرمول خیلی خفن پیدا کردیم... که چهار پنج سال بعد یهویی با مدل هایی که شرکت ها باهاش ساختن و آپگریدش کردن حسابی ترکوند.
ترنسفورمر به صورت ساده فرقش با روش های قدیمی اینه که Self-Attention یا مکانیسم توجه به خود داره در واقع این بخش کمک میکنه مدل بفهمه تو جمله هر کلمه، چقدر به بقیه کلمات ربط داره! مثلا جمله زیرو در نظر بگیر:
"من امروز کتاب جدیدی خریدم."
حالا توی مدل ترنسفورمر وقتی میخواد بفهمه کلمهی "کتاب" چه نقشی تو جمله داره، به جای اینکه فقط به همون کلمه نگاه کنه، میره و تمام کلمات دیگه جمله رو هم نگاه میکنه و وزن هر کدوم رو بر اساس اهمیتش نسبت به "کتاب" حساب میکنه.
@Linuxor
2
یه روش باحال برای استارتاپ، کپی کاری از استارتاپ های موفق + جایگزینی بزرگ ترین مشکل اون استارتاپ موفقه.
مثلا یه دیجی کالا بسازی که هزینه ارسالش رایگان باشه؛ از اون طرف هم با یه خرپول هماهنگ کنی که پول ارسال رو پرداخت کنه ولی عکسش روی همه جنسا چسبیده بشه😂 به احتمال 99 درصد این جای دیجی کالا رو میگیره، البته این ایده رو شوخی کردم با این هدف که ایده رو یکم مسخره جلو ببرید چون احتمالا شانس زیادی برای مقابله با استارتاپ های بزرگ رو ندارین پس باید کاری کنید که اونا جرات انجامش رو نداشته باشن. چاقو زیر گردن مدیر دیجی کالا بزارید به همچین کاری تن نمیده.
(با احترام به اقای مسعود طباطبایی مدیر عامل دیجی کالا)
@Linuxor
مثلا یه دیجی کالا بسازی که هزینه ارسالش رایگان باشه؛ از اون طرف هم با یه خرپول هماهنگ کنی که پول ارسال رو پرداخت کنه ولی عکسش روی همه جنسا چسبیده بشه😂 به احتمال 99 درصد این جای دیجی کالا رو میگیره، البته این ایده رو شوخی کردم با این هدف که ایده رو یکم مسخره جلو ببرید چون احتمالا شانس زیادی برای مقابله با استارتاپ های بزرگ رو ندارین پس باید کاری کنید که اونا جرات انجامش رو نداشته باشن. چاقو زیر گردن مدیر دیجی کالا بزارید به همچین کاری تن نمیده.
(با احترام به اقای مسعود طباطبایی مدیر عامل دیجی کالا)
@Linuxor
چند ساله داره این اتفاق تکرار میشه هر زبانی که بهش حمله میشه یعنی پول توشه...پارسال هم چند نفر هی بد پی اچ پی رو میگفتن چند ماه بعدش با سوییچ ماشیین و خونه عکس گذاشتن، خلاصه یه پولی تو پایتون هست نمیدونم کجاشه گول نخوریدا.
- ستاد جلوگیری از ورود پایتون کارا به بقیه حوزه ها.
@Linuxor
- ستاد جلوگیری از ورود پایتون کارا به بقیه حوزه ها.
@Linuxor
ساخت یه وب اپلیکشین بزرگ تیمی سخته؟ Ember یه راهحل قدیمی ولی کارآمده، وقتی همه اعضای تیم دارن با یه سری الگو و ابزار مشخص کار میکنن، دیگه لازم نیست بابت تفاوت سبک کدنویسی سختی بکشی. Ember با معماری opinionatedش این هماهنگی رو بهصورت طبیعی ایجاد میکنه. شرکت هایی مثل نتفلیکس، مایکروسافت، لینکدین و اپل ازش استفاده میکنن
ابزارهایی مثل Ember Inspector و testing داخلی کمک میکنن راحتتر باگ بگیری و توسعه رو پایدارتر پیش ببری یه خط فرمان هم داره باهاش میشه کد تولید کرد.
راهنما :
guides.emberjs.com/release/getting-started
@Linuxor
ابزارهایی مثل Ember Inspector و testing داخلی کمک میکنن راحتتر باگ بگیری و توسعه رو پایدارتر پیش ببری یه خط فرمان هم داره باهاش میشه کد تولید کرد.
راهنما :
guides.emberjs.com/release/getting-started
@Linuxor
فکر میکنی مانیتورینگ فقط متریک CPU و رم گرفتن از سروره؟ SkyWalking میگه نه، باید بفهمی سرویس A چرا دیر جواب داد، کدوم کال ازش رد شد و چطور به سرویس C رسید. اینجاست که tracing و dependency mapش به کارت میاد.
یه ابزار لازم برای هرکسی که با معماری سرویسمحور (microservices) زیاد سرو کله میزنه، خیلی جالبه آپاچی انقدر ابزار هاش زیاده من تازه اینو دیدم :)
دانلود :
skywalking.apache.org
@Linuxor
یه ابزار لازم برای هرکسی که با معماری سرویسمحور (microservices) زیاد سرو کله میزنه، خیلی جالبه آپاچی انقدر ابزار هاش زیاده من تازه اینو دیدم :)
دانلود :
skywalking.apache.org
@Linuxor
آموزش هوش مصنوعی دیدی ولی هنوز نمیدونی چرا Random Forest اینقدر خوب کار میکنه؟ یا فرق SVM و KNN چیه دقیق؟ این ریپو دونهبهدونه الگوریتمها رو با کد پایتون خام پیاده کرده، برای دانشجوها، معلمها، یا کسایی که میخوان مصاحبه ML بدن، یه مرجع واقعی و سادهفهمه.
github.com/eriklindernoren/ML-From-Scratch
@Linuxor
github.com/eriklindernoren/ML-From-Scratch
@Linuxor
تا حالا شده چند روز درگیر تیون کردن یه مدل یادگیری عمیق باشی و آخرش هم نتیجه نگیری؟ حس میکنی داری شانسی پارامترها رو عوض میکنی و هیچ روش مشخصی نداری؟ این مشکل خیلی از ماهاست. انگار داریم توی تاریکی دنبال کلید میگردیم و فقط وقت و پول (هزینه پردازش) رو هدر میدیم.
گوگل یه "پلیبوک" یا دفترچه راهنما منتشر کرده که دقیقاً برای همین ساخته شده. به جای آزمون و خطای بیهدف، یه فرآیند علمی و قدمبهقدم برای تیون کردن مدل بهت میده. از کجا شروع کنی، اول کدوم هایپرپارامتر رو تغییر بدی و چطور نتایج رو تحلیل کنی تا به جواب برسی.
github.com/google-research/tuning_playbook
@Linuxor
گوگل یه "پلیبوک" یا دفترچه راهنما منتشر کرده که دقیقاً برای همین ساخته شده. به جای آزمون و خطای بیهدف، یه فرآیند علمی و قدمبهقدم برای تیون کردن مدل بهت میده. از کجا شروع کنی، اول کدوم هایپرپارامتر رو تغییر بدی و چطور نتایج رو تحلیل کنی تا به جواب برسی.
github.com/google-research/tuning_playbook
@Linuxor
ایده هاتون رو بیشتر مواقع با بقیه به اشتراک بزارید؛ ایده های پیاده نشده واقعا آنچنان ارزش ندارن؛ ولی ممکنه زود تر به این نتیجه برسید که ایده اشتباهه. یه جوری مثل Bloom Filter هستش ... شاید تضمینی برای تایید کسی بهتون نده ولی تضمین رد دقیقی ممکنه بگیرید.
بلوم فیلتر : یه چیزیه که توی دیتابیسا استفاده میکنن برای اینکه سریع بفهمن یه داده وجود نداره؛ اما اگه بگه وجود داره ممکنه اشتباه باشه.
@Linuxor
بلوم فیلتر : یه چیزیه که توی دیتابیسا استفاده میکنن برای اینکه سریع بفهمن یه داده وجود نداره؛ اما اگه بگه وجود داره ممکنه اشتباه باشه.
@Linuxor
بچه ها امیدوارم که تبلیغ هایی که میزارم اذیتتون نکنه هرچند خیلیاشو فیلتر میکنم و بیشتر اون مفیدهارو میزارم؛ این چند وقت اخیر بخاطر اینکه تمام وقت آزاد نیستم، بیکارم و هیچ کاری ندارم کل درآمد من همین 5 الی 10 تومن ماهیانه کانال هستش. دارم روی استارتاپ جدیدم کار میکنم و این مشکلات اینترنت هی عقبش میندازه، اگه موفق شد تجربه هاشم میگم بهتون :) اگه تبلیغ دیدید تو کانال نگید اه اینو نگاه کن حالمونو بهم زد...
@Linuxor
@Linuxor
12
بزرگترین ترس یه Developer چیه؟ اینکه کدی که با کلی زحمت نوشته، فقط روی یه پلتفرم خاص (مثلا AWS یا Azure) کار کنه و نشه راحت جابجاش کرد. Dapr با یه ایده هوشمندانه این مشکل رو حل کرده. این ابزار یه لایه انتزاعی (abstraction layer) روی سرویسهای مختلف مثل صف پیام (message queues) و دیتابیسها میکشه. یعنی تو کد خودت رو فقط برای Dapr مینویسی، و Dapr خودش با هر سرویسی که زیرش باشه (مثل RabbitMQ یا Redis) ارتباط برقرار میکنه.
این یعنی اگه امروز از سرویسهای AWS استفاده میکنی و فردا خواستی بری سراغ گوگل کلاد، لازم نیست حتی یه خط از کد اصلی اپلیکیشنت رو تغییر بدی. فقط کافیه کانفیگ Dapr رو عوض کنی. این یعنی آزادی عمل واقعی و جلوگیری از قفل شدن روی یک تکنولوژی خاص. برای تیمهایی که میخوان زیرساختشون رو در آینده راحت تغییر بدن، این ویژگی یه برگ برنده است.
مستندات و توضیحات بیشتر :
dapr.io
@Linuxor
این یعنی اگه امروز از سرویسهای AWS استفاده میکنی و فردا خواستی بری سراغ گوگل کلاد، لازم نیست حتی یه خط از کد اصلی اپلیکیشنت رو تغییر بدی. فقط کافیه کانفیگ Dapr رو عوض کنی. این یعنی آزادی عمل واقعی و جلوگیری از قفل شدن روی یک تکنولوژی خاص. برای تیمهایی که میخوان زیرساختشون رو در آینده راحت تغییر بدن، این ویژگی یه برگ برنده است.
مستندات و توضیحات بیشتر :
dapr.io
@Linuxor
1
گوگل امروز توی وبلاگش، یه روش یادگیری فعال جدید برای گردآوری دادههای با کیفیت بالا ارائه داده که نیازهای دادههای آموزشی برای فاین-تیون LLMها رو به میزان قابل توجهی (حدود 10 هزار برابر کمتر) کاهش میده.
اینجا کاملش رو بخونید :
research.google/blog/achieving-10000x-training-data-reduction-with-high-fidelity-labels
@Linuxor
اینجا کاملش رو بخونید :
research.google/blog/achieving-10000x-training-data-reduction-with-high-fidelity-labels
@Linuxor
جدیدا یه چارچوب جالب ساختن به اسم R-zero که بدون نیاز به هیچ داده ای که انسان برچسب گذاشته باشه مدل استدلال میکنه؛ مدل های فعلی برای یادگیری نیاز به دیتای برچسب شده انسان دارن اما R-Zero خودش داده آموزشی تولید میکنه؛ یه مدل Challenger (چالشگر) و یه Solver (حلکننده) داره که Challenger مسئله هایی در حد Solver طرح میکنه و Solver حلشون میکنه. توی Qwen 3 ازش استفاده شد و خیلی تاثیر خوبی داشت.
توضیحات بیشتر :
huggingface.co/papers/2508.05004
@Linuxor
توضیحات بیشتر :
huggingface.co/papers/2508.05004
@Linuxor
توی جاوا اسکریپت دیگه هیچ کس از alert دیفالت استفاده نمیکنه از بس که زشته، با این لایبری میتونید alert های حرفه ای و کاستومایز شده بسازید
sweetalert.js.org
@Linuxor
sweetalert.js.org
@Linuxor
1