با سلام خدمت همه دوستان شرکت کننده در دوره مقدماتی،
کدها و اسلایدهای ارائه مهندس اخوان پور داخل گیت هاب مرکز تحقیقات هوش پارت قرار گرفت.
https://github.com/partdpai/Part-2018-Deep-Learning-School

مرکز تحقیقات هوش پارت

https://news.1rj.ru/str/partdpai

#مقاله
Group Normalization
مقاله محققان فیس بوک
همان طور که میدانیدBatch Normalization یا BN یک تکنیک مناسب برای آموزش شبکه های شبکه های عمیق است. اما این تکنیک برای Batch های کوچک خطای بالایی دارد. که معمولا برای کاربردهای object detection و ... مجبوریم سایز batch کوچکی نظیر 2، 4 یا 8 استفاده کنیم.
در این مقاله محققان فیس بوک با اراپه Group Normalization این مشکل را حل کردند.

On ResNet-50 trained in ImageNet, GN has 10.6% lower error than its BN counterpart when using a batch size of 2; when using typical batch sizes, GN is comparably good with BN and outperforms other normalization variants.

https://arxiv.org/abs/1803.08494

#normalization #batch_norm #group_norm #facebook

#پیاده_سازی مقاله ی #group_norm
https://news.1rj.ru/str/cvision/683

در #tensorflow و #keras

در تنسرفلو
https://www.tensorflow.org/api_docs/python/tf/contrib/layers/group_norm
در کراس
https://github.com/titu1994/Keras-Group-Normalization
https://github.com/shaoanlu/GroupNormalization-keras

#normalization #batch_norm #group_norm #facebook

با سلام خدمت همه دوستان شرکت کننده در دوره مقدماتی، تمامی کدها و اسلایدهای مباحث مطرح شده در دوره در آدرس گیت هاب مرکز تحقیقات هوش پارت قرار گرفت.

https://github.com/partdpai/Part-2018-Deep-Learning-School



مرکز تحقیقات هوش پارت

https://news.1rj.ru/str/partdpai
https://ble.im/partdpai
sapp.ir/partdpai
https://partdp.ai/

پیروزی انسان بر هوش مصنوعی ✌🏻
چندی پیش خبر پیروزی بات های OpenAI (که با استفاده از یادگیری عمیق تقویتی فعالیت می کنند) بر تیمی از بازیکن های حرفه ای بازی محبوب Dota 2 منتشر شد.
بعد از این دستاورد مهم OpenAI تصمیم گرفت که هوش مصنوعی خود را در مقابل تیمی از بهترین بازیکنان این بازی در جشنواره The International در 3 مسابقه به امتحان بگذارد.
در مسابقه اول که دو روز پیش برگزار شد تیمی از بازیکن های حرفه ای برزیلی با اقتدار توانستند بات های OpenAI را شکست دهند.
در مسابقه دوم که دیشب بین بات ها و تیمی از چین برگزار شد هر چند که در ابتدا تیم بات های OpenAI از تیم انسان ها پیشی گرفته بود اما در انتها باز هم انسان ها پیروز این مسابقه شدند تا در نهایت انسان ها فارغ از مسابقه سوم برنده این جدال شوند.

فیلم مسابقه اول
https://www.youtube.com/watch?v=dYXIgOaU1zw

فیلم مسابقه دوم
https://www.youtube.com/watch?v=ejC67PsvVS4

دوره پیشرفته یادگیری عمیق مرکز تحقیقات هوش پارت در تاریخ 8 و 9 شهریور برگزار خواهد شد و در این دوره مباحث زیر را مطرح خواهیم کرد:
* one-shot learning: Face Verification & Recognition - علیرضا اخوان پور
* یادگیری عمیق تقویتی - مهندس بادنوا
* آموزش کتابخانه یادگیری عمیق پایتورچ (Pytorch)- مهندس مسعود پوررضا
* آموزش کتابخانه یادگیری عمیق تنسورفلو (TensorFlow) - مهندس مهدی زاده

برای ثبت نام و مشاهده سرفصل های این دوره به آدرس زیر مراجعه کنید:
https://evand.com/events/part-dlss/

مهلت ثبت نام تا پایان روز دوشنبه 5 شهریور خواهد بود و تمدید نخواهد شد.

مرکز تحقیقات هوش پارت
@partdpai

کد تخفیف برای ثبت نام در دوره مقدماتی: tensorflow
کد تخفیف برای ثبت نام در دوره پیشرفته: tensorflow_a

Accelerating Large-Scale Object Detection with TensorRT

https://hk.saowen.com/a/d62b68ebd0ae5dd1f7c35a141c50582620c3f9dbb1ec98a8c88703b55ece6b33

#tensortRT #object_detection

#سورس_کد
MTCNN C++ implementation with NVIDIA TensorRT Inference accelerator SDK
https://github.com/PKUZHOU/MTCNN_TensorRT

This project can run Pnet and Rnet, the speed is very fast. Just using cmake to build this project

مرتبط با https://news.1rj.ru/str/cvision/249

#face #face_detection #face_alignment #MTCNN
#deep_learning #cnn #convolutional_neutral_network
#tensortRT

#مقاله #ویدیو
Everybody Dance Now

محققان دانشگاه برکلی با استفاده از شبکه های #GAN حرکات بدن یک فرد مبدا را به فرد هدف انتقال دادند، خروجی بی نظیر است...


https://arxiv.org/pdf/1808.0737

#مقاله
SynRhythm: Learning a Deep Heart Rate Estimator
from General to Specific

تشخیص ضربان قلب از فریم های ویدیو!

http://vipl.ict.ac.cn/uploadfile/upload/2018071916431195.pdf

#آموزش
مروری بر روش های بهینه سازی Gradient descent

http://ruder.io/optimizing-gradient-descent/

#Momentum
#Nesterov_accelerated_gradient
#Adagrad
#Adadelta
#RMSprop
#Adam
#AdaMax
#Nadam
#AMSGrad

🙏Thanks to : @MohsenF91

#آموزش

تبدیل مدل کراس به تنسورفلو
How to convert your #Keras models to #Tensorflow

https://medium.com/@pipidog/how-to-convert-your-keras-models-to-tensorflow-e471400b886a

#خبر

محققان علوم رایانه با بالاترین میزان استنادات اخیر

سه نفر اول این لیست همه از سرشناسان یادگیری عمیق هستند. به ترتیب
Yoshua Bengio با متوسط ۱۳۱ استناد در روز
Geoffrey Hinton با متوسط ۱۲۷ استناد در روز
Yann LeCun با متوسط ۶۲ استناد در روز
در سال ۲۰۱۸ هستند.


http://www.iro.umontreal.ca/~bengioy/citation-rate-CS-1sept2018.html

#deep_learning #scholar #hindex

#خبر
تعداد مقالات منتشر شده یادگیری عمیق و GAN در کنفرانس های معتبر در سال های اخیر

#آموزش

Summer school on Deep Learning and Bayesian Methods
August 27th – September 1st 2018, Moscow, Russia


ویدیوها:
https://www.youtube.com/playlist?list=PLe5rNUydzV9Q01vWCP9BV7NhJG3j7mz62
اسلایدها:
https://drive.google.com/drive/folders/1rJ-HTN3sNTvhJXPoXEEhfGlZWtjNY26C?usp=sharing
تمارین و کدها:
https://github.com/bayesgroup/deepbayes-2018

صفحه مربوط به این مدرسه تابستانی:
http://deepbayes.ru/

توئیت نویسنده کتابخانه keras...
https://twitter.com/fchollet/status/1039176548719312896

آغاز ماه محرم ، ماه سوگواری آل الله را خدمت دوستان عزیز تسلیت و تعزیت عرض می نمائیم .

#مقاله
پیدا کردن بهترین learning rate برای مساله و شبکه:
Cyclical Learning Rates for Training Neural Networks
https://arxiv.org/abs/1506.01186

پیدا کردن بهترین learning rate

Cyclical Learning Rates for Training Neural Networks

https://medium.com/@lipeng2/cyclical-learning-rates-for-training-neural-networks-4de755927d46
در کراس:
https://github.com/bckenstler/CLR/blob/master/clr_callback_tests.ipynb

در تنسرفلو یکی pull request کرده اما هنوز merge نشده - اما میشه کدشو دید:
https://github.com/tensorflow/tensorflow/pull/20785/commits/e1b30b2c50776fc1e660503d07451a6f169a7ff9

در کتابخانه fast.ai هم که خود کتابخانه پشتیبانی میکنه:
https://github.com/fastai/fastai/tree/master/fastai

مرتبط با مقاله ی
https://news.1rj.ru/str/cvision/701

#learning_rate #keras #tensorflow #fastai