🌸برای مهندسین
بن بستی وجود ندارد،
آنان یا راهی
خواهنـد یافت
یا راهی خواهند ساخت🌸


🌺روز مهندس رو به تمامی مهندسین عزیز تبریک عرض میکنیم 🌺

@cvision

#نصب #keras #gpu
یک نکته که ممکنه تو نصب کراس مواجه شوید اینه که اگر قبل از نصب کراس تنسورفلوی GPU رو نصب کرده باشید و بعد کراس رو نصب کنید، ممکنه خودش تنسور فلوی CPU رو نصب کنه!
درواقع نسخه GPU رو پاک می‌کنه و لازمه بعدش دوباره نسخه GPU رو نصب کرد.

راه حل این مشکل استفاده از پرچم no-deps-- موقع نصب کراس هست.

🙏Thanks to: @MH_Sattarian

#کورس #منبع #آموزش #ویدیو

ویدیوها و اسلایدهای کورس جدید یادگیری بدون ناظر عمیق دانشگاه برکلی.
اسلایدها و ویدیوها هفتگی اضافه میشود.

CS294-158 Deep Unsupervised Learning Spring 2019
https://sites.google.com/view/berkeley-cs294-158-sp19/home

Tentative Schedule / Syllabus
Week 1 (1/30)

Lecture 1a: Logistics

Lecture 1b: Motivation

Lecture 1c: Likelihood-based Models Part I: Autoregressive Models
Week 2 (2/6)

Lecture 2a: Likelihood-based Models Part I: Autoregressive Models (ctd)

Lecture 2b: Lossless Compression

Lecture 2c: Likelihood-based Models Part II: Flow Models
Week 3 (2/13)

Lecture 3a: Likelihood-based Models Part II: Flow Models (ctd)

Lecture 3b: Latent Variable Models - part 1
Week 4 (2/20)

Lecture 4a: Latent Variable Models - part 2

Lecture 4b: Bits-Back Coding
Week 5 (2/27)

Lecture 5: Implicit Models / Generative Adversarial Networks
Week 6 (3/6)

Lecture 6: Non-Generative Representation Learning
Week 7 (3/13)

Lecture 7a: Non-Generative Representation Learning (ctd)

Lecture 7b: Semi-supervised Learning
Week 8 (3/20)

Lecture 8: Representation Learning + Other Problems
Spring Break Week (3/27)

you are on your own :)
Week 9 (4/3)

Lecture 9a: Unsupervised Distribution Alignment

Lecture 9b: Guest Lecture: Ilya Sutskever
Week 10 (4/10)

Lecture 10a: Unsupervised Distribution Alignment (ctd)

Lecture 10b: Guest Lecture: Durk Kingma
Week 11 (4/17)

Lecture 11: Language Models (Alec Radford)
Week 12 (4/24)

Lecture 12a: Unsupervised RL

Lecture 12b: Guest Lecture Alyosha Efros
Week 13 (5/1)

Lecture 13a: TBD

Lecture 13b: Guest Lecture Aaron van den Oord
Week 14 (5/8)

RRR week: no lecture
Week 15 (5/15)

Final Project Presentations

#منبع #کتاب #آموزش
Dive into Deep Learning

An interactive deep learning book with code, math, and discussions

http://www.d2l.ai/

#mxnet

#منبع #کورس

کورس جدید andrew ng که از دو روز دیگر شروع خواهد شد.
این کورس ظاهرا تکنیکال نیست.
AI For Everyone will launch on February 28th! This non-technical course will teach you the language of AI, how to drive AI adoption in your company, and AI’s potential impact on society.

https://www.coursera.org/learn/ai-for-everyone

#آموزش

سمت چپ مدل Xception مقاله است و سمت راست پیاده سازی با Functional API در Keras.

همان طور که می‌دانید سه روش اصلی در کراس برای پیاده سازی شبکه ها وجود دارد.
sequential - functional - model subclassing.

در این تصویر به خوبی ایده پیاده سازی با روش دوم که انعطاف بیشتری نسبت به sequential دارد را درک میکنید.

https://twitter.com/fchollet/status/1100169756953346048

#keras #functional_api

#خبر #مقاله

روش جدیدی برای تشخیص حرکت عابرین پیاده تا فاصله 45 متری از خودرو

AI Algorithm for Autonomous Machines Can Predict Human Movement

#bio_LSTM neural network on the PedX dataset

“The proposed network is able to predict poses and global locations for multiple pedestrians simultaneously for pedestrians up to 45 meters from the cameras,”

paper: https://arxiv.org/pdf/1809.03705.pdf
🙏Thanks to: @vahidreza01

#pedestrian #nvidia #Movement #autonomous

#آموزش #سورس_کد

دو آموزش جدید تنسرفلو برای Gradient Boosted Trees
حتما اگر با کتابخانه #XGBoost کار کرده باشید این الگوریتم را میشناسید. یک روش یادگیری ماشین انعطاف پذیر محبوب در سالهای اخیر که در مسائل رگرسیون، طبقه بندی و رنکینگ میتونه استفاده بشه. در چالش های کگل برنده های زیادی از این روش استفاده کرده اند.



How to train Boosted Trees models in TensorFlow
https://www.tensorflow.org/tutorials/estimators/boosted_trees

Gradient Boosted Trees: Model understanding
https://www.tensorflow.org/tutorials/estimators/boosted_trees_model_understanding

#Gradient_Boosted_Trees #tensorflow

#مقاله

One pixel attack for fooling deep neural networks

در این مقاله تنها با تغییر یک پیکسل از تصویر موفق شده adversarial attack انجام بده وشبکه را فریب بده!

https://arxiv.org/abs/1710.08864

#adversarial

استفاده هر چه آسانتر از دیتاست های مابلیک با قابلیت جدید تنسرفلو

The brand new TensorFlow Datasets, make it super easy to load a variety of public datasets into #TensorFlow programs in both tf.​data and NumPy format!

https://medium.com/tensorflow/introducing-tensorflow-datasets-c7f01f7e19f3

اخبار مرتبط:
https://news.1rj.ru/str/cvision/939

#tensorflow #dataset

#خبر #تنسربورد

پشتیبانی jupyter notebook از تنسربورد تنسرفلو با magic command ها ( کامندهایی که در اول آن علامت % قرار میدهیم و فقط در نوت بوک معتبر بوده و اجرا میشود.)

Good news! TensorBoard now works in Jupyter Notebooks, via magic commands "%" that match the command line.

https://colab.research.google.com/github/tensorflow/tensorboard/blob/master/docs/r2/tensorboard_quickstart.ipynb

#jupyter #tensorboard

بررسی دقت و سرعت دو الگوریتم معروف تشخیص موقعیت بدن

Pose Detection comparison : #wrnchAI vs #OpenPose
https://www.learnopencv.com/pose-detection-comparison-wrnchai-vs-openpose/?ck_subscriber_id=314337074
#pose

#سورس_کد #مقاله
Make music with GANs!

GANSynth is a new method for fast generation of high-fidelity audio.

🎵 Examples: http://goo.gl/magenta/gansynth-examples
⏯ Colab: http://goo.gl/magenta/gansynth-demo
📝 Paper: http://goo.gl/magenta/gansynth-paper
💻 Code: http://goo.gl/magenta/gansynth-code
⌨️ Blog: http://magenta.tensorflow.org/gansynth

🙏Thanks to: @ArtificialIntelligenceArticles

#music #gan

#خبر

دانشگاه کالیفرنیا از عضویت Elsevier خارج شد تا همگان به نتایج تحقیقات این دانشگاه رایگان دسترسی داشته باند.

The University of California system just unsubscribed from Elsevier, one of the world's largest publishers of academic journals. UC wants people to have open access to its research.

https://www.universityofcalifornia.edu/press-room/uc-terminates-subnoscriptions-worlds-largest-scientific-publisher-push-open-access-publicly

#آموزش #سورس_کد
اسلایدها، نوت بوک ها و ویدیوهای فارسی بازشناسی و تطبیق چهره با یادگیری عمیق
https://github.com/Alireza-Akhavan/deep-face-recognition


One-shot & low-shot learning
Siamese network
What is metric learning & Face embedding?
Face Verification and Identification Challanges: Lfw, Megaface
Facenet Triplet Loss, Center Loss, Sphere Face, Amsoftmax, Arcface
How align a face with MTCNN Landmarks

#مقایسه
#GPU 1080 ti Vs p5000

https://medium.com/initialized-capital/benchmarking-tensorflow-performance-and-cost-across-different-gpu-options-69bd85fe5d58

#مقایسه
#GPU 1080 ti Vs p5000

https://stackoverflow.com/questions/34715055/choosing-between-geforce-or-quadro-gpus-to-do-machine-learning-via-tensorflow

#مقایسه
#GPU

#Quadro vs #GeForce GPUs for training neural networks

If you’re choosing between Quadro and GeForce, definitely pick GeForce. If you’re choosing between Tesla and GeForce, pick GeForce, unless you have a lot of money and could really use the extra RAM.

http://deeplearning.lipingyang.org/2017/04/02/quadro-vs-geforce-gpus-for-training-neural-networks/

#مقایسه
#GPU

سوال؟
آیا اگر یک GPU ی Nvidia هم از لحاظ تعداد هسته ی CUDA، هم از لحاظ رم، و هم قیمت! بالاتر از مدل دیگه بود لزوما برای کار دیپ لرنینگ بهتره؟

پاسخ: به هیچ وجه.
اول توصیه میکنم این سه لینکو ببنید:

https://news.1rj.ru/str/cvision/1071
https://news.1rj.ru/str/cvision/1072
https://news.1rj.ru/str/cvision/1073

در گام بعدی داستانی که همین اخیرا اتفاق افتاده را خدمتتان عرض میکنم.
یکی از دانشجوها به واسطه پروژه هاش تو دو شرکت مختلف با دو GPUی Quadro P6000 و GeForce 1080-Ti برای کارهای یادگیری عمیق با تنسرفلو مدل آموزش داده بود.
خب GPUی p6000 تعداد هسته هاش 256 تا بیشتره و از لحاظ رم کارت گرافیکی هم 24 گیگ رم داره، که بیش از دو برابر 1080ti که 11 گیگ م داره و از لحاظ قیمتی بیش از 3 یا 4 برابره. کلا GPUی خیلی قوی به حساب میاد!
با این حساب توقع میره که خیلی برای آموزش مدل بهتر باشه.
اما این دوست عزیز بهم گفت که یا 1080ti زودتر مدلم آموزش میبینه! من اولش فکر کردم یا ایشون اشتباه میکنه یا گلوگاه سیستم چیز دیگه ای مثل هارد شده!
تا اینکه تو مشورت با همکارا و جست و جو تو اینترنت به این نتیجه رسیدم که بله! هر چه قدر 1080ti انتخاب خوبیه در عوض کلا سری Quadro خیلی انتخاب بدیه برای دیپ!
چرا که هسته ها یا همون CUDA Core های این سری برای کارهای محاسبات علمی مناسب نیست و این سری مخصوص کارهایی مثل CAD هستش و به خاطر کلاک پایینش توی کارهای دیپ فوق العاده بدتر از سری هایی مثل GeForce عمل میکنه.

پس به سری و معماری کارت گرافیک دقت کنید و هر کارت گرافیکی که صرفا cuda support بود و compute capability مورد نظرمون را داشت را برای کار دیپ نخریم. لزوما صرف هزینه بیشتر باعث نمیشه سرعت بیشتری تو آموزش مدل داشته باشیم.

با تشکر از @AM_Ghoreyshi بابت مطرح کردن این مساله

#سورس_کد

همان طور که می‌دانید سه روش اصلی در کراس برای پیاده سازی شبکه ها وجود دارد.
sequential - functional - model subclassing.

در این نوت بوک پیاده سازی مدل Deeplab_v3 با روش دوم و سوم که انعطاف بیشتری نسبت به sequential دارد را آنلاین و در کولب بررسی خواهید کرد.

Implementing Deeplab_v3 in TF2.0
functional API in tf.keras

https://colab.research.google.com/drive/1uMAQTf6RegzqkaUVtshMFCBwRjLvtabA#scrollTo=K6zOZEOe0bWa


مرتبط با : https://news.1rj.ru/str/cvision/1060 و https://news.1rj.ru/str/cvision/1018 و https://news.1rj.ru/str/cvision/1000

#keras #functional_api #model_subclassing

#سورس_کد #آموزش

57 نوت بوک یادگیری عمیق و بینایی ماشین

مباحث ویژه ی 1و 2 مقطع کارشناسی دانشگاه شهید رجایی با موضوع مقدمت بینایی کامپیوتر و یادگیری ژرف مقدماتی و پیشرفته بود و در ترم بهمن 96 و مهر 97 برگزار شد.
با تشکر از آقای ستاریان @MH_Sattarian که لینک های اسلایدهای مرتبط و فیلمهای مرتبط هر نوت بوک را فعلا برای مباحث مباحث ویژه 1 در گیت هاب طبقه بندی کردند. به زودی این لیست تکمیل می‌شود.

https://github.com/Alireza-Akhavan/class.vision

#opencv #keras #tensorflow #deep_learning