گزارشی از سری ویدیوهای آموزشی یادگیری عمیق

امروز، اعلام می‌کنم که ۴۰ ویدیو به پلی‌لیست یوتیوبم اضافه شده‌اند که در مجموع حدود ۱۱ ساعت محتوای ویدیویی را تشکیل می‌دهند.


همان‌طور که قبلاً قول داده بودم، هدف این سری از آموزش‌ها، ضبط بیش از ۱۰۰ ویدیوی باکیفیت است تا مجموعه‌ای ماندگار برای شما ارائه دهم.

این دوره آموزشی، هم مباحث نظری یادگیری عمیق را پوشش می‌دهد و هم با پروژه‌های عملی، شما را در پیاده‌سازی همراهی می‌کند. تمامی اسلایدها و کدهای پروژه‌ها در گیت‌هاب منتشر شده‌اند تا بتوانید همزمان با تماشای ویدیوها، کدها را نیز اجرا کنید.

@golemcourse

در این کانال، بارها کتاب‌هایی از انتشارات منینگ (Manning) را برای خواندن پیشنهاد کرده‌ام.

اگر قبلاً کتاب‌های این انتشارات را خوانده باشید، متوجه خواهید شد که چقدر کیفیت بالایی دارند.

در این پست، قصد دارم دلیل با کیفیت بودن کتاب‌های این انتشارات را توضیح دهم، چرا که خودم در چند ماه گذشته کاملاً درگیر آن بوده‌ام.

هر کتاب باید یک فرآیند داوری سختگیرانه را طی کند تا در نهایت منتشر شود.

کتاب به جای اینکه یکباره آماده شود، در سه مرحله توسط افراد مختلف داوری می‌شود. معمولاً در نهایت، بین سی تا چهل نفر هر کتاب را داوری می‌کنند.

در هر مرحله، تعدادی داور (reviewer) دعوت می‌شوند تا پیش‌نویس فصل‌هایی که آماده شده‌اند را داوری کنند. نکته این است که مطابق دستور العمل ادیتور، داور نباید به مطالب ویرایشی و سطح زبان انگلیسی متن بپردازد. آن موارد به صورت جداگانه توسط تیم ادیتور بررسی می‌شوند. بلکه هر داور باید بازخوردهای عملی در رابطه با محتوای متن کتاب ارائه دهد.

داوری‌ها تحت سیستم آنلاین لایو‌بوک (livebook) که توسط منینگ توسعه یافته، صورت می‌گیرد. داورها می‌توانند به ازای هر جمله، پارگراف یا یک بخش (section) نظر ثبت کنند. به علاوه، داورها می‌توانند به هر بخش، شکل و جدول امتیاز بدهند (قرمز/زرد/سبز). امکان امتیازدهی بین یک تا پنج به هر فصل هم وجود دارد.

در انتهای فرآیند، داورها باید یک پرسشنامه (معمولاً با بیش از ۱۵ سوال) را تکمیل کنند. مثلاً یکی از سوالات پرسشنامه با این مضمون است:
اگر بخواهید به این کتاب از یک تا پنج نمره بدهید، چه نمره‌ای می‌دهید؟ اگر نمره‌تان پنج نیست، لطفاً دلیل آن را توضیح دهید. نویسندگان باید چه کاری انجام دهند تا نظر شما از نمره فعلی به پنج تغییر کند؟

@golemcourse

ترنسفورمرها (Transformers) نقش مهمی در شکل‌گیری مدل‌های زبانی بزرگ (LLM) مانند ChatGPT داشتند. مقاله ترنسفورمر تا به امروز نزدیک به ۱۳۰ هزار بار ارجاع داده شده است.


به همین خاطر، در کانال یوتیوبم در درس یادگیری عمیق، شش ویدیو به توضیح آن اختصاص داده‌ام.


- ویدیو بخش اول ترنسفورمر، جلسه ۴۸، (لینک)
- ویدیو بخش دوم ترنسفورمر، جلسه ۴۹، (لینک)
- ویدیو بخش سوم ترنسفورمر، جلسه ۵۰، (لینک)
- ویدیو بخش چهارم ترنسفورمر، جلسه ۵۱، (لینک)
- ویدیو بخش پنجم ترنسفورمر، جلسه ۵۲، (لینک)
- ویدیو بخش ششم ترنسفورمر، جلسه ۵۳، (لینک)

اسلایدهایی که به همین منظور برای تدریس ترنسفورمرها آماده کرده‌ام، به صورت جداگانه در پیام بعدی ارسال می‌کنم.

@golemcourse

اسلایدهای آموزش ترنسفورمر

@golemcourse

در صورتجلسه چه بنویسیم؟

صورتجلسه به معنای ثبت رسمی محتوای جلسه است.

تنظیم صورتجلسه چندین فایده دارد. اول اینکه، نکات مهم بحث‌شده، تصمیمات گرفته‌شده و اقداماتی که باید انجام شود را در برمی‌گیرد و در آینده می‌توانیم به آن ارجاع دهیم. دوم اینکه، مسئول انجام وظایف تعیین‌شده را مشخص می‌کند و سبب شفافیت و اطمینان از مسئولیت‌پذیری افراد می‌شود. سوم اینکه، اگر افرادی به هر دلیل در جلسه شرکت نداشتند، می‌توانند با خواندن آن نسبت به بحث‌ها و تصمیم‌های گرفته‌شده آشنا شوند.

چند نکته هنگام تنظیم صورتجلسه را پیشنهاد می‌کنم حتماً رعایت کنید:

۱. ثبت زمان برگزاری جلسه: کمک می‌کند تا تاریخچه‌ای از روند شکل‌گیری تصمیم‌ها در آینده داشته باشیم و اگر بعداً نیاز به ارجاع بود، بدانیم چه موقع چه بحثی و چه تصمیمی گرفته شده است.

۲. ثبت حاضرین و غائبین: باعث می‌شود تا هم شفافیت افزایش پیدا کند و هم عواقب عدم مشارکت مشخص شود.

۳. دستور جلسه: خوب است که دستور جلسه هم در گزارش صورتجلسه آورده شود تا یکجا هم به دستور کار و هم محتوای جلسه دسترسی داشته باشیم.

۴. شرح جلسه و مصوبات: ثبت جزئیات گفت‌وگوهای شکل‌گرفته در جلسه. مثلاً آقای فلان در مورد موضوع بهمان گفت که .... همچنین اگر رأی‌گیری صورت گرفت و تصمیمی گرفته شد، اینجا بیان می‌کنیم. این‌گونه در آینده بهتر متوجه می‌شویم که چه مفروضاتی وجود داشته، چه بحث‌هایی شکل گرفته تا یک تصمیم حاصل شده است. این کار در آینده برای مدیریت تعارض نیز مفید است.

۵. موارد قابل پیگیری: یک سری وظایف باید در آینده انجام شود. در این قسمت وظایف به همراه مسئول انجام آن‌ها نوشته می‌شود. خیلی مهم است که مشخص باشد چه کسی مسئول پیگیری تحقق وظایف است و تا چه تاریخی مهلت انجام وظایف است. مثلاً یکی از وظایف می‌تواند این باشد: ارسال مستندات به دپارتمان مالی برای ...

۶. امضاء حاضرین: این بستگی دارد که جلسه چقدر رسمی باشد. بعضی جلسات از لحاظ حقوقی اهمیت دارند و همچنین باید حداقلی از افراد در جلسه شرکت کرده باشند تا برخی تصمیم‌ها رسمیت داشته باشد.

در پست بعدی یک قالب برای تنظیم صورتجلسه پیوست می‌کنم.

@golemcourse

یک قالب تنظیم صورتجلسه که می‌توانید از آن استفاده کنید.

@golemcourse

دوره آنلاین "معاملات الگوریتمی براساس یادگیری ماشین"
Machine Learning-based Algorithmic Trading

زمان:
از 15 شهریور تا 20 مهر
پنجشنبه‌ها: 16:30 تا 19
جمعه‌ها: 17:30 تا 20
طول دوره:
30 ساعت
امکان برگزاری جلسات تکمیلی و رفع اشکال بدون هزینه اضافی وجود دارد. این امکان به دلیل گستردگی مباحث و ذات بین رشته‌ای دوره ایجاد شده است.
مشاهده سرفصل‌ها و ثبت‌نام: Link
ظرفیت محدود
اولین اطلاع رسانی در همین کانال هست و تعداد محدودی بلیط با قیمت پایین‌تر برای ثبت نام زودهنگام وجود دارد.

برای جزئیات بیشتر لطفاً کانال محمد را چک کنید:
https://news.1rj.ru/str/deeptimeai

یک توصیه دوستانه


همیشه، چه در محیط کاری و چه در محیط دانشگاهی، یک سند از تمام فعالیت‌ها و کارهایی که انجام داده‌اید را مانند یک دفترچه خاطرات داشته باشید. در انگلیسی به این سند Career Journal یا Professional Development Log می‌گویند.


فایده این کار چیست؟ فرض کنید سه سال گذشته و می‌خواهید رزومه‌تان را به‌روزرسانی کنید. به جای آن که به حافظه‌تان اکتفا کنید تا سه چهار بولت‌پوینت برای آن موقعیت شغلی بنویسید یا در کاور لتر در یک یا دو پاراگراف کاری که کرده‌اید را توصیف کنید، می‌توانید به آن سند مراجعه کنید. در واقع، این سند خاطرات شما، منبع دانش شما از فعالیت حرفه‌ای‌تان است.


یک مزیت دیگر هم دارد. پیشرفت خودتان را در طول مسیر مشاهده می‌کنید. می‌بینید که چقدر کار کرده‌اید، چقدر یاد گرفته‌اید و چقدر باعث بهبود وضعیت موجود شده‌اید.

@golemcourse

مسیر شغلی (Career Ladder) چیست و چگونه در شرکت‌مان پیاده‌سازی کنیم؟


وقتی در یک شرکت کار می‌کنیم، دوست داریم یک مسیر پیشرفت شغلی برایمان تعریف شده باشد. مثل یک نردبان. هر چقدر که تجربه بیشتری کسب می‌کنیم، از پله‌های نردبان بالاتر می‌رویم. در پله‌های بعدی این نردبان، اثرگذاری‌مان در شرکت بیشتر می‌شود و قرار است مسائل پیچیده‌تری را حل کنیم و احتمالاً افرادی را هم مدیریت کنیم. طبیعتاً حقوق بیشتری هم دریافت می‌کنیم.


در واقع، مسیر شغلی جایگاه شما را در سلسله مراتب تأثیرگذاری نشان می‌دهد و یک نوع انگیزه است تا در شرکت بمانیم و ارتقا پیدا کنیم.


شاخص‌های ارتقا نیز باید به صورت شفاف در این مسیر شغلی تعریف شود. یک فرد باید بداند که اگر چه اتفاقی بیافتد از جایگاه فعلی یک پله بالاتر می‌رود.


این مسیر شغلی را چگونه طراحی کنیم؟ اول از همه، قرار نیست چرخ را از ابتدا اختراع کنیم. اگر شرکت خیلی کوچک باشد، احتمالاً با عنوان‌های جونیور و سینیور قبلاً برخورد کرده‌اید. اما این برای شرکت‌هایی که از یک حدی بزرگتر می‌شوند جوابگو نیست. مثلاً گوگل صرفاً برای بخش فنی (مهندسین نرم‌افزار) ۱۰ سطح L1 تا L10 تعریف کرده است.


یک نقطه شروع خوب برای این که ایده بگیرید، سایت progression.fyi است. این سایت مسیر شغلی 75 شرکت از جمله Medium، Amazon، و Dropbox را یکجا جمع کرده است.


بگذارید یک مثال بزنم. شرکت Medium پنج سطح دارد که هر سطح به سه سطح ریزدانه‌تر تقسیم می‌شود. به عنوان نمونه، در سطح سوم، مسیر شغلی را برای تیم فنی نرم‌افزار این‌گونه تعریف کرده است:

Level 3: Designs standalone systems of moderate complexity, or major new features in existing systems
L3.1: Act as a primary maintainer for existing critical systems
L3.2: Designs moderately complex systems
L3.3: Makes major version upgrades to libraries

@golemcourse

اسلاید‌های GANs


در کانال یوتیوب، از جلسه ۶۴ تا ۷۱ مدل‌های GANs را آموزش داده‌ام. اسلاید‌هایی را که برای این آموزش‌ها تهیه کرده بودم، برایتان پیوست می‌کنم.

@golemcourse

بچه‌ها اگه می‌خواید یه مدرک رایگان راجع به Generative AI و LLM Agents از دانشگاه Berkeley بگیرید این دوره‌ای که دارن برگزار می‌کنن رو شرکت کنید. فیلماش ضبط میشه رو یوتیوب می‌ذارن.واسه هر جلسه یه آزمون داره، همه‌رو تموم کنید مدرکش رو میدن بهتون.
https://llmagents-learning.org/f24

@DevTwitter

اسلاید‌های Normalizing Flows را که برای کانال یوتیوب تهیه کرده بودم، برایتان پیوست کردم.


یک گزارشی هم از روند پلی‌لیست یادگیری عمیق بدهم. همان طور که قول داده بودم، این پلی‌لیست در نهایت بیش از ۱۰۰ ویدیو خواهد داشت. تا الان حدود ۸۰ ویدیو با ۲۱ ساعت محتوا ضبط کردم. سه مبحث باقی مانده که باید ویدیو برایش ضبط کنم:

Diffusion Models
Graph Neural Networks
Reinforcement Learning

@golemcourse

احتمالاً با استفاده از ابزارهای هوش مصنوعی تصاویری با ظاهر بسیار واقعی تولید کرده‌اید. تئوری پشت این ابزارها diffusion models است. در کانال یوتیوب، ویدیوهای شماره ۸۱ تا ۸۹ از پلی لیست یادگیری عمیق را به این موضوع اختصاص داده‌ام. اسلایدهایی را که به همین منظور آماده کرده بودم، برایتان پیوست کرده‌ام.

@golemcourse

#معرفی_کتاب


دو کتاب مرجع در سال ۲۰۲۴ برای یادگیری عمیق (deep learning) منتشر شده‌اند:

1. Understanding Deep Learning, Simon J.D. Prince
2. Deep Learning: Foundations and Concepts, Christopher M.Bishop



تا جایی که من اطلاع دارم، هر دو کتاب به عنوان مرجع درس در دانشگاه خودمان (صنعتی شریف) استفاده می‌شوند. کتاب اول توسط دکتر سلیمانی و کتاب دوم توسط دکتر بیگی به عنوان یکی از منابع درسی استفاده می‌شوند.



هر دو کتاب واقعاً خوب نوشته شده‌اند و ارزش خواندن دارند. تقریباً ۹۰ درصد سرفصل‌های این دو کتاب با هم مشترک است. اگر بخواهم از تفاوت‌های بین سرفصل‌ها بگویم، کتاب دوم یک فصل را به نمونه‌گیری (sampling) اختصاص داده است، در حالی که کتاب اول یک فصل در مورد یادگیری تقویتی (reinforcement learning) دارد.



نقطه قوت کتاب اول به نظر من تصاویر و شکل‌های بصری فوق‌العاده آن است، به خصوص فصل شبکه‌های کانولوشنی. از طرفی، نمادهایی که کتاب دوم برای بیان تئوری ریاضی مباحث انتخاب کرده (notation)، بیشتر مورد پسند من است. همچنین، فصل transformer کتاب دوم به نظرم بهتر از کتاب اول است.



پیشنهاد من این است که هر دو کتاب را در کنار هم بخوانید. اگر بخشی از یک مبحث را متوجه نشدید، به کتاب دیگر مراجعه کنید تا دو نحوه آموزش متفاوت را یکجا ببینید و راحت‌تر مطلب را یاد بگیرید.


@golemcourse

مبحث شبکه‌های عصبی مبتنی بر گراف (GNN) را در کانال یوتیوب پوشش دادم. ویدیوهای شماره ۹۰ تا ۹۷ از پلی‌لیست یادگیری عمیق مربوط به این موضوع است. اسلایدهایی که به همین خاطر تهیه کرده‌ بودم، برایتان پیوست کردم.

@golemcourse

الوعده وفا!

بالاخره تمام شد. ۹ ماه پیش زمانی که ضبط دوره یادگیری عمیق را شروع کردم، قول دادم که بیش از ۱۰۰ ویدیو برای آن ضبط خواهم کرد. امروز تمام ویدیوها را می‌توانید از پلی‌لیست یوتیوب تماشا کنید. در مجموع حدود ۲۶ ساعت محتوا است و مباحث زیر را پوشش دادم:


Optimization Algorithm (SGD, Momentum, Nesterov, Adam, ...)
Deep Neural Networks
Convolutional Neural Networks
Residual Neural Networks
Transformer and Large Language Models
Autoencoder
Variational Autoencoder (VAEs)
Generative Adversarial Networks (GAEs)
Normalizing Flows
Diffusion Models
Graph Neural Networks (GNNs)
Reinforcement Learning

@golemcourse

🎥 آموزش کوبرنتیز (Kubernetes)

کوبرنتیز یک بستر متن‌باز برای مدیریت کانتینرها در محیط عملیاتی است که به توسعه‌دهندگان و تیم‌های فنی کمک می‌کند برنامه‌هایشان را با مقیاس‌پذیری، پایداری و انعطاف بالا مستقر کنند.

در حال تهیه یک پلی‌لیست آموزشی جامع داخل کانال یوتیوب در این زمینه هستم. تا الان ۶ ویدیو ضبط کردم و تخمین می‌زنم این دوره در نهایت به حدود ۸۰ ویدیو برسد.

کدهای استفاده‌شده در آموزش‌ها را هم روی گیتهاب قرار دادم تا بتوانید از آن‌ها استفاده کنید.

🎬 مشاهده پلی‌لیست آموزشی در یوتیوب

💻 دسترسی به کدها در گیتهاب

@golemcourse

تفاوت فیدبک (بازخورد) و ریمارک (نکته)

Feedback vs. Remark

من این بحث رو قبلاً به شکل دیگه‌ای و در چارچوب متفاوتی در فایل صوتی گفتگوهای دشوار گفته‌ام.

اما احساس کردم خوبه یادآوری بشه.

دربارهٔ فیدبک در فضای کسب‌وکار بعداً یه پیام صوتی جدا می‌ذارم.

#هایلایت_کلمات #منبر

دوستان پرسیده بودند کتاب برای یادگیری کوبرنتیز چی پیشنهاد می‌کنم؟

بین منابعی که خواندم و بررسی کردم، به نظرم دو مورد از بقیه بهتر آمدند:

1. Learn Kubernetes in a Month of Lunches
2. Kubernetes for Developers

همزمان می‌توانید ویدیوهای مرا هم تماشا کنید. تا الان ۴ ساعت ضبط کردم (۱۶ ویدیو) و همچنان ادامه داره.

@golemcourse

در قرن نوزدهم میلادی، کارگران صنعت نساجی در انگلستان سلسله شورش‌هایی را در اعتراض به ورود ماشین‌آلات ترتیب دادند. این کارگران که به جنبش لادایت‌ها (Luddite) مشهور شدند، معتقد بودند که ماشین‌آلات با خودکارسازی فرآیندها، به کاهش و تعدیل نیروی کار منجر می‌شوند. نام لادایت از نِد لود، یکی از کارگران انگلیسی، برگرفته شده است که حوالی سال ۱۷۷۹ میلادی ماشین بافندگی را خرد کرد.


واژه‌ی لادایت بعدها به فرهنگ لغات اضافه شد. دیکشنری کمبریج این واژه را این‌گونه تعریف کرده است:

a person who is opposed to the introduction of new working methods, especially new machines

معادل فارسی این واژه را می‌توان «فرد ضد تکنولوژی» یا «فرد تجددستیز» در نظر گرفت.


نمونه‌ی امروزی لادایت‌ها را می‌توان در افرادی یافت که نگران‌اند هوش مصنوعی جایگزین شغل آن‌ها شود و به همین دلیل خواستار اعمال محدودیت‌های شدید در توسعه این فناوری هستند یا از دولت‌ها می‌خواهند برای جلوگیری از استفاده از این فناوری در حوزه‌ی کاری آن‌ها مداخله کنند.


@golemcourse