#سورس_کد #آموزش
پیاده سازی مقاله Fast-SCNN با تنسرفلو 2 + توضیحات
Fast Segmentation Convolutional Neural Network (Fast-SCNN)


Fast-SCNN explained and implemented using Tensorflow 2.0
https://medium.com/deep-learning-journals/fast-scnn-explained-and-implemented-using-tensorflow-2-0-6bd17c17a49e

مقاله اصلی:
https://arxiv.org/abs/1902.04502

#segmentation

Cutting Edge TensorFlow: New Techniques (Google I/O'19)
تاریخ انتشار 9 می 2019 (دیروز)

This session will take you through 4 of the hottest from #Hyperparameter_Tuning with #Keras_Tuner to Probabilistic Programming to being able to rank your data with learned ranking techniques and TF-Ranking. Finally, you will look at TF-Graphics that brings 3D functionalities to #TensorFlow.

مرتبط با : https://news.1rj.ru/str/cvision/1231

#اسلاید #keras

Slides of the Keras Tuner presentation at #io19

مرتبط با https://news.1rj.ru/str/cvision/1230

#Keras_Tuner

#خبر
پیدا کردن هایپرپارامتر بهینه در keras با Keras Tuner یکی از قابلیت جدید معرفی شده در Google I/O 2019 دیروز


دیروز 9 می 2019 در کنفرانس و Google I/O'19 در نشست Cutting Edge TensorFlow چهار ویژگی جدید تنسرفلو معرفی شد.
اولین معرفی این نشست به Keras Tuner اختصاص داشت.
پیدا کردن بهترین کارایی و مدل بهینه کار آسونی نیست، پیدا کردن سایز مینی بچ، پیدا کرن lr مناسب، تعداد لایه ها و ...
این فریم ورک که تازه معرفی شده و هنوز رسما منتشر نشده و در فاز آلفا است به منظور تسهیل در پیدا کردن هایپرپارامترهای شبکه در #Keras است.

فیلم این نشست را از اینجا https://news.1rj.ru/str/cvision/1230
و اسلاید مرتبط با Keras Tuner و نمونه کدها را از اینجا https://news.1rj.ru/str/cvision/1231 مشاهده کنید.

#Keras_Tuner

#Keras_Tuner
مرتبط با:
https://news.1rj.ru/str/cvision/1232

#آموزش

Computer graphics pioneer @AndrewGlassner's overview of Deep Learning is three hours well spent. (link: https://youtu.be/tAOlJ-jcVIY) youtu.be/tAOlJ-jcVIY)

🙏 Thanks to: @MH_Sattarian

#خبر

Startups Are Racing to Commercialize DeepFakes’ Powerful, Internet-Breaking AI
https://medium.com/fast-company/startups-are-racing-to-commercialize-deepfakes-powerful-internet-breaking-ai-141e405e9447



مرتبط با مطالب:

ویدئوی جعلی از باراک اوباما
https://news.1rj.ru/str/cvision/532

تبدیل حالات چهره توسط یادگیری عمیق (#virtual_talking)
https://news.1rj.ru/str/cvision/349
https://news.1rj.ru/str/cvision/350

تبدیل صوت شما به صوت فرد دیگر با یادگیری عمیق!
https://news.1rj.ru/str/cvision/377

Handling Imbalanced Datasets in Deep Learning

#آموزش
دو روش مرسوم در با دیتابیس هایی که تعداد نمونه ها در کلاس های مختلف به شدت متفاوت است و اصطلاحا با imbalanced data مواجهیم به کار میبریم.

روش نخست Weight balancing
روش دوم Over sampling و under sampling
است.

قبلا در این پست نمونه کد Weight balancing برای مواجه با imbalance data را در keras آورده بودیم:
https://news.1rj.ru/str/cvision/937


اگر میخواهید این دو روش را بخوانید پست زیر را ببنید:
https://towardsdatascience.com/handling-imbalanced-datasets-in-deep-learning-f48407a0e758

#imbalance

توئیت توسعه دهنده کراس در مورد #keras_tuner

#Keras_Tuner is a new hyperparameter optimization framework for Keras models, made at Google, with a hosted service for visualization & analysis. You can sign up now!

https://services.google.com/fb/forms/kerastuner/

مطلب مرتبط + اسلاید + فیلم:
https://news.1rj.ru/str/cvision/1232

#آموزش
Extreme Rare Event Classification using Autoencoders in Keras

قبلا در https://news.1rj.ru/str/cvision/1236 در مورد unbalanced dataset ها بحث شد،
اما در دیتابیسهایی مثل حالت هایی که دنبال anomaly هستیم، تو شرایط خیلی بحرانی کلاس مثبت ممکنه ۱ درصد کل داده را تشکیل بده و همه نمونه ها منفی باشه،
در این کار یک #autoencoder روی داده های منفی آموزش داده، و روی خطای reconstruction دیتا، یک طبقه بند برای تشخیص anomaly آموزش داده...

https://towardsdatascience.com/extreme-rare-event-classification-using-autoencoders-in-keras-a565b386f098

#خبر
IEEE RAS International Summer School on Deep Learning for Robot Vision

Santiago & Rancagua, Chile – December 9-13, 2019

http://robotvision2019.amtc.cl/

#چالش جالب و عجیب جدید kaggle

بر اساس تصویر چهره، داشتن یا نداشتن نسبت خونی را تشخیص دهید!

https://www.kaggle.com/c/recognizing-faces-in-the-wild/

#face

#مقاله #سورس_کد
#Adabound
یک optimizer جدید که به خوبی SGD و به سریعی Adam است.
در حال حاضر پیاده سازی pytorch آن است، و ذکر کردند که به زودی نسخه تنسرفلو راهم منتشر میکنند...

An optimizer that trains as fast as Adam and as good as SGD.

https://github.com/Luolc/AdaBound

paper: Adaptive Gradient Methods with Dynamic Bound of Learning Rate
https://openreview.net/forum?id=Bkg3g2R9FX

#optimizer

هرس کردن وزن های شبکی عصبی در تنسرفلو و کراس

این ابزار اکنون قسمتی از Tensorflow Optimization Toolkit و قابل استفاده در #keras است.

در این روش وزنهای نزدیک به ۰ ، ۰ در نظر گرفته میشود، و به تنسورهای sparse میرسند، و علاوه بر کاهش حجم مدل، حافظه مصرفی در زمان اجرا هم کاهش میابد.
در یک آزمایش یک مدل ۱۲ مگابایتی با بهره گیری از این روش در طول آموزش مدلی معادل با ۲ مگ حجم را خروجی داد، و در نهایت با روشهای quantization بعد از آموزش مدل نهایی ۰.۵ مگ شد!!

Keras-based weight pruning API

import tensorflow_model_optimization as tfmot

model = build_your_model()

pruning_schedule = tfmot.sparsity.keras.PolynomialDecay(
initial_sparsity=0.0, final_sparsity=0.5,
begin_step=2000, end_step=4000)

model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude(model, pruning_schedule=pruning_schedule)

...

model_for_pruning.fit(...)

https://medium.com/tensorflow/tensorflow-model-optimization-toolkit-pruning-api-42cac9157a6a

#آموزش ذخیره و لود کردن داده با فرمت #tfrecord در #keras
+کولب نوت بوک

https://codelabs.developers.google.com/codelabs/keras-flowers-data/#4

نکاتی در این مورد از توئیتهای نویسنده نوت بوک، @martin_gorner

The TFRecord format is a way of batching training data into large files. This helps when reading from GCS (Google Cloud Storage). GCS is really fast when reading in parallel from multiple large files. Not good at opening hundreds of thousands of individual files though.

Reading / writing TFRecords is additional work but when using fast accelerators like GPU clusters or TPUs, it pays off.
TFRecord code is less confusing if you remember that
1) in Tensorflow, tf.string is a byte array, not a text string
2) The helper tf.train.FloatList expect lists of floats. But the ill-named tf.train.BytesList expects a list of byte arrays, not bytes.
3) You can store and read variable-length lists of data items in TFRecords but reading from these fields will give you a sparse tensor. (link: http://tf.sparse.to) tf.sparse.to_dense to the rescue.

#آموزش #keras


Usage of endpoint layers in the Functional API

اگر بخواهید در کراس loss یا metric جدید تعریف کنید، این الگو که توسط Chollet مبدع فریم ورک کراس مطرح شده انعطاف بالایی برای اینکار بهتون میده، حتی برای مواقعی که loss شما از امضای رایج
fn(y_true, y_pred, sampl_weight)
پیروی نمیکند...


سلسله توئیت مرتبط:
https://twitter.com/fchollet/status/1128407332520546305

در کولب ببینید:

https://colab.research.google.com/drive/1zzLcJ2A2qofIvv94YJ3axRknlA6cBSIw

#مقاله #سورس_کد
تشخیص چهره با دقت خیره کننده ۲!

RetinaFace

پیاده سازی نفر اول چالش Wider منتشر شد.
مهمترین ویژگی این مدل این است که همچون MTCNN پنج landmark را بر میگرداند که همان طور که در این ارائه مرتبط با چهره گفتم میتواند در افزایش دقت تطبیق و بازشناسی چهره میتواند بسیار موثر باشد.

پیاده سازی:
کمتر از ۲ هفته است که سورس کد مقاله با فریم ورک MXNet منتشر شده است.

دقت:
در حال حاضر این مدل بالاترین دقت را در چالش wider دارد و از تمام مقالات و مدلهای قبلی از جمله MTCNN و DSFD بالاتر است.

سرعت:
RetinaFaceResNet-152
is designed for highly accurate face localisation,
running at 13 FPS for VGA images (640 × 480).
By contrast, RetinaFace-MobileNet-0.25 is designed for
highly efficient face localisation which demonstrates considerable
real-time speed of 40 FPS at GPU for 4K images
(4096 × 2160), 20 FPS at multi-thread CPU for HD images
(1920 × 1080), and 60 FPS at single-thread CPU for VGA
images (640 × 480). Even more impressively, 16 FPS at
ARM for VGA images (640 × 480) allows for a fast system
on mobile devices.

مقاله:
https://arxiv.org/pdf/1905.00641.pdf

سورس کد پیاده سازی:
https://github.com/deepinsight/insightface/tree/master/RetinaFace


__
پست های مرتبط:
تشخیص چهره با دقت خیره کننده!


DSFD: Dual Shot Face Detector!
https://news.1rj.ru/str/cvision/1167

MTCNN
https://news.1rj.ru/str/cvision/249

Finding Tiny Faces (CVPR 2017)
https://news.1rj.ru/str/cvision/569

اسلایدها، نوت بوک ها و ویدیوهای فارسی بازشناسی و تطبیق چهره با یادگیری عمیق

https://news.1rj.ru/str/cvision/1070

#face #face_detection #RetinaFace

درخواست برای تغییر مکان برگزاری کنفرانس های علوم کامپیوتر از امریکا به دیگر نقاط دنیا جهت دسترسی همه محققین
در صورت امکان لطفا امضا کنید
https://www.change.org/p/conference-organizers-abandon-united-states-as-the-venue-for-computer-science-conferences-4187daa3-e4f2-42a1-85dc-fe49641c4026?recruiter=false&utm_source=share_petition&utm_medium=twitter&utm_campaign=psf_combo_share_initial&utm_term=share_petition&recruited_by_id=0a1dae20-6dbb-11e9-9fac-5b67a3a1a8bb&share_bandit_exp=initial-15283214-en-US&share_bandit_var=v1

#مقاله
few-shot learning
ICLR 2019: Overcoming limited data

https://towardsdatascience.com/iclr-2019-overcoming-limited-data-382cd19db6d2

🙏Thanks to: https://news.1rj.ru/str/irandeeplearning/230

#خبر
شغلهای برتر سال 2019 ...
سه شغل از 4 شغل برتر امسال متعلق به حوزه های مرتبط با یادگیری ماشین، علم داده و بینایی ماشین است!
همچنین نیمی از 10 شغل نخست امسال کامپیوتری است

Here are the top ten “best” jobs ranked in order of base salary, together with the position’s historical job growth:
1. Machine learning engineer: $136,241 with 166% growth

2. Data scientist: $132,915 with 106% growth

3. Optometrist: $131,692 with 118% growth

4. Computer vision engineer: $131,297 with 169% growth

5. Development operations engineer: $125,714 with 91% growth

6. Agile coach: $120,142 with 80% growth

7. Chief estimator: $116,848 with 101% growth

8. Full stack developer: $111,640 with 198% growth

9. Head of sales: $108,788 with 42% growth

10. Staff pharmacist: $107,584 with 42% growth

https://howmuch.net/articles/there-are-the-hottest-jobs-in-us-2018-lots-of-opening-and-dream-salaries

#خبر
در حال حاضر با به روز رسانی اخیر وب تلگرام میتوانید بدون نصب تلگرام، و بدون نیاز به لاگین بودن، مطالب کانال را در مروگر خود و از طریق لینک زیر مشاهده کنید:
https://news.1rj.ru/str/s/cvision