Tensorflow(@CVision) – Telegram
Tensorflow(@CVision)
15.3K subscribers
1.29K photos
310 videos
81 files
2.53K links
اخبار حوزه یادگیری عمیق و هوش مصنوعی
مقالات و یافته های جدید یادگیری عمیق
بینایی ماشین و پردازش تصویر

TensorFlow, Keras, Deep Learning, Computer Vision

سایت:
http://class.vision

👨‍💻👩‍💻پشتیبان دوره ها:
@classvision_support

لینک گروه:
@tf2keras
Download Telegram
Handling Imbalanced Datasets in Deep Learning

#آموزش
دو روش مرسوم در با دیتابیس هایی که تعداد نمونه ها در کلاس های مختلف به شدت متفاوت است و اصطلاحا با imbalanced data مواجهیم به کار میبریم.

روش نخست Weight balancing
روش دوم Over sampling و under sampling
است.

قبلا در این پست نمونه کد Weight balancing برای مواجه با imbalance data را در keras آورده بودیم:
https://news.1rj.ru/str/cvision/937


اگر میخواهید این دو روش را بخوانید پست زیر را ببنید:
https://towardsdatascience.com/handling-imbalanced-datasets-in-deep-learning-f48407a0e758

#imbalance
توئیت توسعه دهنده کراس در مورد #keras_tuner

#Keras_Tuner is a new hyperparameter optimization framework for Keras models, made at Google, with a hosted service for visualization & analysis. You can sign up now!

https://services.google.com/fb/forms/kerastuner/

مطلب مرتبط + اسلاید + فیلم:
https://news.1rj.ru/str/cvision/1232
#آموزش
Extreme Rare Event Classification using Autoencoders in Keras

قبلا در https://news.1rj.ru/str/cvision/1236 در مورد unbalanced dataset ها بحث شد،
اما در دیتابیسهایی مثل حالت هایی که دنبال anomaly هستیم، تو شرایط خیلی بحرانی کلاس مثبت ممکنه ۱ درصد کل داده را تشکیل بده و همه نمونه ها منفی باشه،
در این کار یک #autoencoder روی داده های منفی آموزش داده، و روی خطای reconstruction دیتا، یک طبقه بند برای تشخیص anomaly آموزش داده...

https://towardsdatascience.com/extreme-rare-event-classification-using-autoencoders-in-keras-a565b386f098
#خبر
IEEE RAS International Summer School on Deep Learning for Robot Vision

Santiago & Rancagua, Chile – December 9-13, 2019

http://robotvision2019.amtc.cl/
#چالش جالب و عجیب جدید kaggle

بر اساس تصویر چهره، داشتن یا نداشتن نسبت خونی را تشخیص دهید!

https://www.kaggle.com/c/recognizing-faces-in-the-wild/

#face
#مقاله #سورس_کد
#Adabound
یک optimizer جدید که به خوبی SGD و به سریعی Adam است.
در حال حاضر پیاده سازی pytorch آن است، و ذکر کردند که به زودی نسخه تنسرفلو راهم منتشر میکنند...

An optimizer that trains as fast as Adam and as good as SGD.

https://github.com/Luolc/AdaBound

paper: Adaptive Gradient Methods with Dynamic Bound of Learning Rate
https://openreview.net/forum?id=Bkg3g2R9FX

#optimizer
هرس کردن وزن های شبکی عصبی در تنسرفلو و کراس

این ابزار اکنون قسمتی از Tensorflow Optimization Toolkit و قابل استفاده در #keras است.

در این روش وزنهای نزدیک به ۰ ، ۰ در نظر گرفته میشود، و به تنسورهای sparse میرسند، و علاوه بر کاهش حجم مدل، حافظه مصرفی در زمان اجرا هم کاهش میابد.
در یک آزمایش یک مدل ۱۲ مگابایتی با بهره گیری از این روش در طول آموزش مدلی معادل با ۲ مگ حجم را خروجی داد، و در نهایت با روشهای quantization بعد از آموزش مدل نهایی ۰.۵ مگ شد!!

Keras-based weight pruning API

import tensorflow_model_optimization as tfmot

model = build_your_model()

pruning_schedule = tfmot.sparsity.keras.PolynomialDecay(
initial_sparsity=0.0, final_sparsity=0.5,
begin_step=2000, end_step=4000)

model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude(model, pruning_schedule=pruning_schedule)

...

model_for_pruning.fit(...)


https://medium.com/tensorflow/tensorflow-model-optimization-toolkit-pruning-api-42cac9157a6a
#آموزش ذخیره و لود کردن داده با فرمت #tfrecord در #keras
+کولب نوت بوک

https://codelabs.developers.google.com/codelabs/keras-flowers-data/#4

نکاتی در این مورد از توئیتهای نویسنده نوت بوک، @martin_gorner

The TFRecord format is a way of batching training data into large files. This helps when reading from GCS (Google Cloud Storage). GCS is really fast when reading in parallel from multiple large files. Not good at opening hundreds of thousands of individual files though.

Reading / writing TFRecords is additional work but when using fast accelerators like GPU clusters or TPUs, it pays off.
TFRecord code is less confusing if you remember that
1) in Tensorflow, tf.string is a byte array, not a text string
2) The helper tf.train.FloatList expect lists of floats. But the ill-named tf.train.BytesList expects a list of byte arrays, not bytes.
3) You can store and read variable-length lists of data items in TFRecords but reading from these fields will give you a sparse tensor. (link: http://tf.sparse.to) tf.sparse.to_dense to the rescue.
#آموزش #keras


Usage of endpoint layers in the Functional API

اگر بخواهید در کراس loss یا metric جدید تعریف کنید، این الگو که توسط Chollet مبدع فریم ورک کراس مطرح شده انعطاف بالایی برای اینکار بهتون میده، حتی برای مواقعی که loss شما از امضای رایج
fn(y_true, y_pred, sampl_weight)
پیروی نمیکند...


سلسله توئیت مرتبط:
https://twitter.com/fchollet/status/1128407332520546305

در کولب ببینید:

https://colab.research.google.com/drive/1zzLcJ2A2qofIvv94YJ3axRknlA6cBSIw
#مقاله #سورس_کد
تشخیص چهره با دقت خیره کننده ۲!

RetinaFace

پیاده سازی نفر اول چالش Wider منتشر شد.
مهمترین ویژگی این مدل این است که همچون MTCNN پنج landmark را بر میگرداند که همان طور که در این ارائه مرتبط با چهره گفتم میتواند در افزایش دقت تطبیق و بازشناسی چهره میتواند بسیار موثر باشد.

پیاده سازی:
کمتر از ۲ هفته است که سورس کد مقاله با فریم ورک MXNet منتشر شده است.

دقت:
در حال حاضر این مدل بالاترین دقت را در چالش wider دارد و از تمام مقالات و مدلهای قبلی از جمله MTCNN و DSFD بالاتر است.

سرعت:
RetinaFaceResNet-152
is designed for highly accurate face localisation,
running at 13 FPS for VGA images (640 × 480).
By contrast, RetinaFace-MobileNet-0.25 is designed for
highly efficient face localisation which demonstrates considerable
real-time speed of 40 FPS at GPU for 4K images
(4096 × 2160), 20 FPS at multi-thread CPU for HD images
(1920 × 1080), and 60 FPS at single-thread CPU for VGA
images (640 × 480). Even more impressively, 16 FPS at
ARM for VGA images (640 × 480) allows for a fast system
on mobile devices.

مقاله:
https://arxiv.org/pdf/1905.00641.pdf

سورس کد پیاده سازی:
https://github.com/deepinsight/insightface/tree/master/RetinaFace


__
پست های مرتبط:
تشخیص چهره با دقت خیره کننده!


DSFD: Dual Shot Face Detector!
https://news.1rj.ru/str/cvision/1167

MTCNN
https://news.1rj.ru/str/cvision/249

Finding Tiny Faces (CVPR 2017)
https://news.1rj.ru/str/cvision/569

اسلایدها، نوت بوک ها و ویدیوهای فارسی بازشناسی و تطبیق چهره با یادگیری عمیق

https://news.1rj.ru/str/cvision/1070

#face #face_detection #RetinaFace
Forwarded from Python_Labs🐍 (Alireza Akhavan)
#خبر
شغلهای برتر سال 2019 ...
سه شغل از 4 شغل برتر امسال متعلق به حوزه های مرتبط با یادگیری ماشین، علم داده و بینایی ماشین است!
همچنین نیمی از 10 شغل نخست امسال کامپیوتری است

Here are the top ten “best” jobs ranked in order of base salary, together with the position’s historical job growth:
1. Machine learning engineer: $136,241 with 166% growth

2. Data scientist: $132,915 with 106% growth

3. Optometrist: $131,692 with 118% growth

4. Computer vision engineer: $131,297 with 169% growth

5. Development operations engineer: $125,714 with 91% growth

6. Agile coach: $120,142 with 80% growth

7. Chief estimator: $116,848 with 101% growth

8. Full stack developer: $111,640 with 198% growth

9. Head of sales: $108,788 with 42% growth

10. Staff pharmacist: $107,584 with 42% growth

https://howmuch.net/articles/there-are-the-hottest-jobs-in-us-2018-lots-of-opening-and-dream-salaries
#خبر
در حال حاضر با به روز رسانی اخیر وب تلگرام میتوانید بدون نصب تلگرام، و بدون نیاز به لاگین بودن، مطالب کانال را در مروگر خود و از طریق لینک زیر مشاهده کنید:
https://news.1rj.ru/str/s/cvision
Advanced Keras — Accurately Resuming a Training Process

در این آموزش میبینیم که طریقه صحیح لود کردن متغیر هایی که در callbackها استفاده میشوند پس از توقف مدل و از سرگیری مجدد فرآیند چیست؟ آیا خود #Keras راهکاری دارد؟

https://towardsdatascience.com/resuming-a-training-process-with-keras-3e93152ee11a
#خبر
کتاب Deep learning with Python نویسنده کتابخانه کراس، Chollet اواخر این سال میلادی منتشر خواهد شد.

https://twitter.com/fchollet/status/1129539752464531456
#مقاله، رویکرد جالب به حذف occlusion با شبکه ترکیبی segmentation و GAN

SeGAN: Segmenting and Generating the Invisible

http://openaccess.thecvf.com/content_cvpr_2018/papers/Ehsani_SeGAN_Segmenting_and_CVPR_2018_paper.pdf
🔸کتابخانه Auto-Keras

🔹 Auto-Keras is an open source software library for automated machine learning (AutoML) and Deep Learning . alternative to Google’s AutoML !!

🔹example :

import autokeras as ak
clf = ak.ImageClassifier()
clf.fit(x_train, y_train)
results = clf.predict(x_test)


Repo github: https://github.com/keras-team/autokeras

#کراس #پایتون #یادگیری_عمیق #یادگیری_ماشین
#keras
🙏Thanks to: @AI_Python
#آموزش #دوره_آموزشی #ویدئو
فیلم دوره آموزشی 12 ساعته مقدمات یادگیری عمیق با #Keras که توسط انجمن علمی کامپیوتر دانشگاه تربیت دبیر شهید رجایی تهیه شده است برای فروش در دسترس قرار گرفت.
فیلم مدرس و کپچر صفحه مدرس تدوین شده است.

برای اطلاعات بیشتر و خرید:
http://class.vision/deeplearning-keras/

مباحث:
بخش اول: مقدمه ای بر یادگیری ماشین و کار با تصویر در پایتون
بخش دوم: شبکه های عصبی
بخش سوم: پیاده سازی شبکه های عصبی در
Kerasبخش چهارم: طبقه بندی اعداد دست نویس فارسی
بخش پنجم: شبکه های کانولوشنالی – تئوری
بخش ششم: شبکه های کانولوشنالی – عملی
بخش هفتم: شبکه عصبی های کانولوشنال عمیق حائز رتبه و معروف
بخش هشتم: انتقال یادگیری
بخش نهم: رگرسیون - مدلهای چند ورودی/چند خروجی در کراس - functional API در کراس

مدرس: علیرضا اخوان پور
برگزار کننده: انجمن علمی کامپیوتر دانشگاه شهید رجایی
کدها و اسلایدهای دوره برای عموم در دسترس است:
https://github.com/Alireza-Akhavan/SRU-deeplearning-workshop/


#keras #deeplearning