این هم paper اصلی WGAN-GP هست

کانتنت های این چنل یوتیوب خیلی مفید بودن.
و ویدیو آموزش GAN هم از ایشون بود.

ازش نهایت استفاده رو ببرید.

Aladdin Persson - YouTube

اگر دنبال این هستید که ریاضیاتتون رو برای فهم تئوری Machine Learning و Deep Learning قوی کنید. یه منبع خیلی خوبی که میتونید باهاش شروع کنید khan academy هست.

چیزایی که باید روشون تمرکز کنید. این سه تا هست:
Precalculus / Calculus
Linear Algebra
Statistics and Probability

لینک سایتش اینه:
https://www.khanacademy.org/

این وبسایت محتوا های خوبی راجب سریع‌تر کردن کد پایتون میزاره.
آموزش‌های async, multi-threading و multi-processing اش خیلی خوبه.

https://superfastpython.com/

یه ریفرنس خوب دیگه برای Deep Learning هست که گفتم به اشتراک بزارم.
همراه با کد و کاربردی هست و تو دانشگاه مطرح جهان تدریس میشه.

Dive into Deep Learning

Transposed Convolution

یا کانولوشن های معکوس تو DCGAN ها و هر GAN که از Convolution استفاده میکنه رایج هست.

در واقع برعکس Convolution هست.
تو Convolution تصویر اصلی کوچک و به فرم یا نماینده فشرده ای تبدیل شده و ويژگی های دیتاست رو یاد گرفته میشه.

تو Transposed Convolution یه نویز یا عدد رندوم رو با استفاده از ويژگی هایی که یاد گرفته شده به یک تصویر تبدیل میکنن.

ولی خب درک پروسه Transposed Convolution پیچیده هست.
این مقاله بهتون میگه که چرا بهش Transposed Convolution میگن.

Understand Transposed Convolutions

ولی خب کوتاه بخوام بگم.
عملیات Convolution به صورت ضرب ماتریس در میاد و به همین دلیل سریع انجام میشه.
و با transpose کردن (تغییر دادن طول و عرض) همون عملیات رو برعکس انجام میشه داد.

ولی خب فقط این دو نیستن.
ما dilation هم داریم.
که یه دسته دیگه از Convolution هارو تشکیل میدن.

توش ابعاد kernel یکسان هست ولی ناحیه پوشش بیشتری داره چون با فاصله از هم روی دیتا رد میشن.

مقاله بعدی که میفرستم راجب انواع Convolution ها صحبت میکنه.

An Introduction to different Types of Convolutions in Deep Learning

این مخزن هم یکسری انیمیشن هایی راجب Convolution و مثال های مختلف میده.

https://github.com/vdumoulin/conv_arithmetic

نمیدونم چرا archive شده ولی داکیومنت PyTorch اینجا رو ریفرنس کرده بود.

تو پست های پایین هم یکسری GIF هایی همراه با پارامتر ها از عملیات Convolution رو براتون میفرستم.

2D Convolution

Input: Down
Output: Up

kernel size: 3x3
dilation: 1
stride: 1
padding: 1

2D dilated convolution

Input: Down
Output: Up

kernel size: 3
dilation: 2
stride: 1
padding: 0

2D Transposed convolution

Input: Up
Output: Down

kernel size: 3
dilation: 1
stride: 2
padding: 0

انگار که GIF روی telegram-web و telegram-desktop اوکیه ولی روی Telegram X به صورت فایل نمایش میداد.

خلاصه GIF های بالا رو به فرمت ویدیویی با ffmpeg انکود کردم و اوکی شد.

Python Concurrency with asyncio

سرفصل هاشو چک کردم و میتونم بگم کتاب خیلی خوبی برای asyncio هست (جدا از خود داکیومنت پایتون که دیگه معلومه و همتون میدونید).

Build a Large Language Model (From Scratch)

از نویسنده و محقق معروف Sebastian Raschka.
این کتاب راجب صفر تا صد LLM ها صحبت میکنه. من نخوندمش ولی رفتم و سر فصل هاشو بررسی کردم و منبع کاملی هست برای این موضوع. از Trasnformer ها شروع میکنه و تا ساخت مدل GPT و train کردنش و بهینه سازی هاش و کلی چیزایه دیگه.

قطعا مرجع مهمی برای LLM ها.

Sebastian Raschka
نویسنده این کتاب هم هست.

که تو پست های قبل تر بهتون معرفی کردم.

Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow | Concepts, Tools, and Techniques to Build Intelligent Systems | 3rd Edition

اگر با Tensorflow میخواید کار کنید. این مرجع و کتاب خیلی مهمی هست.
دو بخش داره.

بخش اولش کلا با الگوریتم های کلاسیک ML مثل Random Forest, SVM, Decision Trees k-means و ...

بخش دومش هم راجب شبکه های عصبی و یادگیری عمیق هست.

وقتی این کتابو تو اینترنت جستجو میکنید معمولا نسخه دوم کتاب رو میبینید ولی نسخه سومش هست که جدیدترینشه.

سال ۲۰۲۲ منتشر شده و گفتم بزارم اینجا که ساده بهش دسترسی داشته باشید.

درود به تمامی دوستان کانال TECH STASH.

خواستم که سال نو رو خدمت شما پیشاپیش تبریک بگم.
امیدوارم که سالی پر از موفقیت، سلامتی، آرامش و خوشحالی رو داشته باشید و در تمامی عرصه های علمی پیشرفت چشمگیری داشته باشید.

سالی با جیب های پر از پول و ذهنی خالی از ناراحتی.

ارادتمند شما.
− ارشیا (A.R.S)

چشم انداز کانال تو سال بعدی به این صورت هست.

1. میخوام این کانال تبدیل به مرجع و جایی پر از منابع مفید برای حوزه یادگیری ماشین باشه. و میخوام که دوستانی که میخوان به منابع با کیفیت دسترسی داشته باشن بتونن از این کانال برای پیدا کردن همچنین منابعی استفاده کنن.

2. مطالب و توضیحات تخصصی بیشتر بشه. همونطور که میدونید این فیلد خیلی سنگینی هست و بنده همچنان خیلی فاصله دارم تا تسلط نسبتا خوبی داشته باشم. ولی تو سال آینده میخوام که مطالب رو تخصصی تر و عمیق تر کنم.

3. کانال رو فقط به مطالب یادگیری ماشین/عمیق محدود نمیکنم. به عنوان کاربر لینوکس و دوستدار نرم افزار آزاد و همچنین کسی که به مهندسی نرم افزار نیز خیلی علاقه داره قطعا مطالب مرتبطی راجب این موضوعات خواهم گذاشت، هرچند که تمرکز بنده در حال حاضر در حوزه یادگیری ماشین/عمیق هست.

ممنونم که تا الان همراه من بودید.