🔵یادگیری ژرف نیازمند داده های زیادی برای آموزش است. این یکی از دلایل اصلی موفقیت یادگیری ژرف است. زمانی که داده های موجود برای آموزش شبکه کم باشد الگوریتم به خوبی آموزش نمی بیند. بنابراین سه راه حل برای مواجه با تعداد داده های کم وجود دارد:
1- استفاده از روش های غیر ژرف
2- جمع آوری داده که برخی موارد شاید سخت یا غیر ممکن باشد
3- استفاده از روش هایی برای تولید داده با استفاده از داده های موجود
🌿🌿🌿🌿🌿🌿🌿🌿🌿🌿
در زیر تعداد مجموعه داده در کاربردهای مختلف که در مقالات با استفاده از یادگیری ژرف به جواب های خوبی رسیده اند خدمت شما معرفی می گردد. بهتر است در کارهای تحقیقاتی خود از این داده های استاندارد استفاده شود.
👎👎👎👎👎👎👎👎👎👎

🔵Music Datasets

Piano-midi.de: classical piano pieces (http://www.piano-midi.de/)
Nottingham : over 1000 folk tunes (http://abc.sourceforge.net/NMD/)
MuseData: electronic library of classical music scores (http://musedata.stanford.edu/)
JSB Chorales: set of four-part harmonized chorales (http://www.jsbchorales.net/index.shtml)
FMA: A Dataset For Music Analysis (https://github.com/mdeff/fma)
👎👎👎👎👎👎👎👎👎👎👎
https://news.1rj.ru/str/MachineLearningDeep

🔵Natural Images

MNIST: handwritten digits (http://yann.lecun.com/exdb/mnist/)
NIST: similar to MNIST, but larger
Perturbed NIST: a dataset developed in Yoshua’s class (NIST with tons of deformations)
CIFAR10 / CIFAR100: 32×32 natural image dataset with 10/100 categories ( http://www.cs.utoronto.ca/~kriz/cifar.html)
Caltech 101: pictures of objects belonging to 101 categories (http://www.vision.caltech.edu/Image_Datasets/Caltech101/)
Caltech 256: pictures of objects belonging to 256 categories (http://www.vision.caltech.edu/Image_Datasets/Caltech256/)
Caltech Silhouettes: 28×28 binary images contains silhouettes of the Caltech 101 dataset
STL-10 dataset is an image recognition dataset for developing unsupervised feature learning, deep learning, self-taught learning algorithms. It is inspired by the CIFAR-10 dataset but with some modifications. http://www.stanford.edu/~acoates//stl10/
The Street View House Numbers (SVHN) Dataset – http://ufldl.stanford.edu/housenumbers/
NORB: binocular images of toy figurines under various illumination and pose (http://www.cs.nyu.edu/~ylclab/data/norb-v1.0/)
Imagenet: image database organized according to the WordNethierarchy (http://www.image-net.org/)
Pascal VOC: various object recognition challenges (http://pascallin.ecs.soton.ac.uk/challenges/VOC/)
Labelme: A large dataset of annotated images, http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php
COIL 20: different objects imaged at every angle in a 360 rotation(http://www.cs.columbia.edu/CAVE/software/softlib/coil-20.php)
COIL100: different objects imaged at every angle in a 360 rotation (http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php)

👎👎👎👎👎👎👎👎👎👎👎
https://news.1rj.ru/str/MachineLearningDeep

🔴Artificial Datasets

Arcade Universe – An artificial dataset generator with images containing arcade games sprites such as tetris pentomino/tetromino objects. This generator is based on the O. Breleux’s bugland dataset generator.
A collection of datasets inspired by the ideas from BabyAISchool:
BabyAIShapesDatasets : distinguishing between 3 simple shapes
BabyAIImageAndQuestionDatasets : a question-image-answer dataset
Datasets generated for the purpose of an empirical evaluation of deep architectures (DeepVsShallowComparisonICML2007):
MnistVariations : introducing controlled variations in MNIST
RectanglesData : discriminating between wide and tall rectangles
ConvexNonConvex : discriminating between convex and nonconvex shapes
BackgroundCorrelation : controlling the degree of correlation in noisy MNIST backgrounds

👎👎👎👎👎👎👎👎👎👎👎
https://news.1rj.ru/str/MachineLearningDeep

🔴Faces

Labelled Faces in the Wild: 13,000 images of faces collected from the web, labelled with the name of the person pictured (http://vis-www.cs.umass.edu/lfw/)
Toronto Face Dataset
Olivetti: a few images of several different people (http://www.cs.nyu.edu/~roweis/data.html)
Multi-Pie: The CMU Multi-PIE Face Database (http://www.multipie.org/)
Face-in-Action (http://www.flintbox.com/public/project/5486/)
JACFEE: Japanese and Caucasian Facial Expressions of Emotion (http://www.humintell.com/jacfee/)
FERET: The Facial Recognition Technology Database (http://www.itl.nist.gov/iad/humanid/feret/feret_master.html)
mmifacedb: MMI Facial Expression Database (http://www.mmifacedb.com/)
IndianFaceDatabase: http://vis-www.cs.umass.edu/~vidit/IndianFaceDatabase/)
(e.g. The Yale Face Database (http://vision.ucsd.edu/content/yale-face-database) and The Yale Face Database B (http://vision.ucsd.edu/~leekc/ExtYaleDatabase/ExtYaleB.html)).

👎👎👎👎👎👎👎👎👎👎👎
https://news.1rj.ru/str/MachineLearningDeep

⚫️Text

20 newsgroups: classification task, mapping word occurences to newsgroup ID (http://qwone.com/~jason/20Newsgroups/)
Reuters (RCV*) Corpuses: text/topic prediction (http://about.reuters.com/researchandstandards/corpus/)
Penn Treebank : used for next word prediction or next character prediction (http://www.cis.upenn.edu/~treebank/)
Broadcast News: large text dataset, classically used for next word prediction (http://www.ldc.upenn.edu/Catalog/CatalogEntry.jsp?catalogId=LDC97S44)
Wikipedia Dataset
Multidomain sentiment analysis dataset: http://www.cs.jhu.edu/~mdredze/datasets/sentiment/

👎👎👎👎👎👎👎👎👎👎👎
https://news.1rj.ru/str/MachineLearningDeep

🔵Speech

TIMIT Speech Corpus: phoneme classification (http://www.ldc.upenn.edu/Catalog/CatalogEntry.jsp?catalogId=LDC93S1)
Aurora : Timit with noise and additional information

🔴Recommendation Systems

MovieLens: Two datasets available from http://www.grouplens.org. The first dataset has 100,000 ratings for 1682 movies by 943 users, subdivided into five disjoint subsets. The second dataset has about 1 million ratings for 3900 movies by 6040 users.
Jester: This dataset contains 4.1 million continuous ratings (-10.00 to +10.00) of 100 jokes from 73,421 users.
Netflix Prize: Netflix released an anonymised version of their movie rating dataset; it consists of 100 million ratings, done by 480,000 users who have rated between 1 and all of the 17,770 movies.
Book-Crossing dataset: This dataset is from the Book-Crossing community, and contains 278,858 users providing 1,149,780 ratings about 271,379 books.
Misc

🔴“Musk” dataset

CMU Motion Capture Database: (http://mocap.cs.cmu.edu/)
Brodatz dataset: texture modeling (http://www.ux.uis.no/~tranden/brodatz.html)
Million Song dataset: http://labrosa.ee.columbia.edu/millionsong/
Merck Molecular Activity Challenge – http://www.kaggle.com/c/MerckActivity/data

👎👎👎👎👎👎👎👎👎👎👎
https://news.1rj.ru/str/MachineLearningDeep

✳️جدول محاسبه امتیاز مصاحبه دکتری این جدول معمولا ثابته پس اگر قصد شرکت در آزمون دکتری را دارید با تقویت ایتم های جدول فوق به سمت موفقیت گام بردارید.

🔴نیازمندی های سخت افزاری سوال میکنن روز به روز افزایش پیدا میکند
🌑اتفاقی که در شبکه های یادگیری عمیق رخ میدهد چیزی جز یکسری محاسبات ریاضی و بطور خاص ماتریسی در مقیاس زیاد نیست. به همین دلیل استفاده عملی از یک شبکه عصبی عمیق اگر با پردازند ه های معمولی انجام شود تقریبا غیر ممکن خواهد بود. به همین دلیل هم شما در تمامی کتابخونه ها و چارچوب های معتبر مشاهده میکنید که پردازش ها تحت کارتهای گرافیک انجام می شود. البته همه این کتابخونه ها پیاده سازی مبتنی بر CPU رو دارند که معمولا برای آشنایی و اجرای دموها و اشکال زدایی ها مورد استفاده قرار می گیرد.

🌎اوائل شروع یادگیری عمیق اجرای پردازش ها محدود به استفاده از کارتهای گرافیک بود. اما طی یکسال اخیر فعالیتهایی در جهت استفاده از سیستم های توزیع شده هم صورت گرفته که در کفی میشه به SparkCaffe و در جاوا به DeepLearning4J و احتمالا معروف تر از همه Tensorflow اشاره کرد. ذکر این نکته ضروریست که یک کارت گرافیک با قیمت متوسط مثل GTX960 یا حتی GTX1060 از یک سرور با پردازنده xeon هم به مراتب قوی تر است.

🌕در حال حاضر شرکت Nvidia برنده بی چون و چرای این حوزه است. تمامی کتابخونه ها و چارچوبها بدون استثنا از کارتهای انویدیا پشتیبانی میکنند و مبتنی بر Cuda و cudnn هستند. پشتیبانی از کارتهای AMD/Intel و متنفرقه یا مبتنی بر OpenCL یا وجود نداره و یا بشدت ضعیف هست بعنوان مثال AMD برنچی از کفی رو به OpenCL پورت کرد اما خیلی زود هم آن را کنار گذاشت و پشتیبانی از آن را قطع کردند. هرچند در حال حاضر یک برنچ مبتنی بر OpenCL در کفی وجود دارد . کسانی که کارت گرافیک AMD و یا Intel دارن میتوانند از آن استفاده کنند اما از لحاظ سرعت و بروز رسانی قابل قیاس با ورژن اصلی و مبتنی بر Cuda/cudnn نیست.

🌓با هر کارتی امکان آموزش شبکه های عمیق رو شما ندارید (البته اگر منظور استفاده از کتابخونه ها/فریم ورکهای معتبر باشه اگر خودتون بخوایید برنامه نویسی کنید که دستتون بازه) . در اینجا چند نکته است که باید بهش توجه بشه.

🌚شما ار هر کتابخونه و یا چارچوبی که قراره استفاده کنید باید به نیازمندی های سخت افزاری اون توجه کنید. بعنوان مثال اگر از کفی میخوایید استفاده کنید باید حتما کارت گرافیک شما compute capability 2.1 به بالا داشته باشه. اگر ار تنسورفلو میخوایید استفاده کنید (پکیج های آماده اش) باید حتما کارت گرافیک شما compute capability 3 به بالا داشته باشه. این قضیه برای torch هم صادقه.

🌻توصیه ها برای گرافیک مناسب:
TitanXp Pascal-12Gig*
TitanX Pascal-12Gig
GTX 1080 TI -11Gig*
TitanX Maxwell-12Gig
GTX 1080–8Gig
GTX 1070–8Gig
GTX 980 TI-6Gig
GTX 1060–6Gig
GTX 980-4Gig
GTX 960-4Gig
GTX 950-4Gig


مطالب برگرفته از سایت deeplearning است.

🌎 یادداشتی از محمود سریع القلم در عصر ایران
🌕دوستی آرشیتکت، این جملات را نقل می‌کرد: شخصی با ریشۀ‌ خاورمیانه‌ای در آمریکا بدون اینکه مجوز شهرداری اخذ کند، اتاقی به منزل خود اضافه کرد. بعد از مدتی کوتاه شهرداری مطلع شد و جرایم سنگینی را وضع نمود. اما شهرداری چگونه متوجه زرنگی این فرد شد؟ شهرداری توسط عکس‌های ماهواره‌ای که هر چند ماه یکبار گرفته می‌شود متوجه تغییرات در املاک می‌شود. نرم‌افزاری این عکس‌ها را مقایسه می‌کند. هر قدر مربع‌های عکس (Pixel) کوچک تر باشد، شفافیت آن بالاتر می‌رود. این فرد قانون شکن غافل بود که عکس‌ هوایی منزل او به وضوح نشان می‌دهد که مربع‌های عکس تغییر کرده‌اند. وقتی مسئولین شهرداری، به فایل این ملک مراجعه کردند، متوجه شدند مجوز جدیدی در کار نیست. سپس سراغ او آمدند.
🌑موضوع دیگری: FedEx یک شرکت تحویل نامه، پاکت و بسته در عرض ۲۴ ساعت است. ۴۶ سال است که کار می‌کند و سال گذشته ۶/۱ میلیارد دلار درآمد داشته است. این شرکت ۶۵۰ هواپیما دارد که از نظر تعداد هواپیما رتبه چهارم جهانی است. نکته حائز اهمیت در مورد این شرکت اینست که از تمام نقاط دنیا، بسته‌ها و نامه‌ها به ۱۶ فرودگاه تا ساعت ۸ شب وارد شده و پس از دسته‌بندی تا ۳ صبح با پروازهای جدید به مقاصد خود ارسال می‌شوند. در روز بعد، نامه‌ها و بسته‌ها تا ظهر یا بعد از ظهر تحویل داده می‌شوند. فقط در فرودگاه Memphis (ایالت تنسی) حدوداً ۱/۵ میلیون بسته تا ساعت ۸ شب وارد می‌شود و با حدود ۱۰۰ هواپیما به مقاصد خود در داخل و بیرون آمریکا حرکت می‌کنند. در ایام کریسمس و سال نو، تا ۳/۵ میلیون بسته نیز این شرکت در ۲۴ ساعت در تمام دنیا تحویل می‌دهد. در داخل آمریکا، این شرکت در Memphis و Oakland (کالیفرنیا) دو مرکز (یا Hub) دارد. در مرکز فرماندهی جهانی این شرکت (Global Command Center) در Memphis، یک نقشه عظیم دیواری حرکت ۶۵۰ هواپیما را هدایت و مدیریت می‌کند.
🌴یک نکته مشترک در این دو مثال وجود دارد: مدیریت در دنیای امروز با دانش، سیستم دیجیتالی و قاعده‌مندی است. نظارت از طریق دانش و سیستم دیجیتالی است. تصور کنید اگر مدیریت ۱۶ Hub داخلی و بین‌المللی شرکت FedEx را به "مدیریت افراد" و به سطح حوصله، دقت و نظم بشری می‌سپردند که در آن‌ها هزاران خطا متصور است چه هرج و مرجی می‌شد و بسته‌ها نه در ۲۴ ساعت بلکه در ۲۴ روز هم به مقصد نمی‌رسیدند. وزارت خزانه‌داری آمریکا در همه بانک‌ها، نرم‌افزاری تعبیه کرده که از انتقال پولی بالای ده هزار دلار اتوماتیک به آن وزارت خانه گزارش داده می‌شود. این در کنار صد‌ها نرم‌افزاری است که در سیستم مالیاتی به کارگرفته می‌شود.
🌳اگر نظام دیجیتالی در جهان امروز را مبنا قرار دهیم، مدیریت در کشور عموماً حالت توصیه‌ای، تلفنی، فردی، نصیحتی، حجره‌ای و رفاقتی است. در دنیای امروز، خطا را نرم‌افزار تشخیص می‌دهد و نه افراد. بی دلیل نیست که حقوق سالیانۀ یک مهندس نرم‌افزار در آمریکا که حدود ۲۳-۲۲ سال سن دارد از ۱۵۰ هزار دلار شروع می‌شود. در چین ۷۰۰ میلیون نفر به هیچ وجه از اسکناس استفاده نمی‌کنند و تمام پرداخت‌ها از طریق موبایل انجام می‌گیرد. حتی متکدیان در چین در ته کاسه‌ای، بارکُد حساب بانکی خود را چسبانده‌اند و شهروندان از طریق موبایل به حساب شخص متکدی، پول پرداخت می‌کنند.
🍀دولت و حاکمیت آلمان، اقتصادی بالغ بر چهار تریلیون دلار تولید ناخالص داخلی و رتبه چهارم جهانی (بعد از آمریکا، چین و ژاپن) را مدیریت می‌کنند. آلمان حدود ۳/۱ تریلیون دلار در سال صادرات دارد. مسئولین آلمانی همه ساعت پنج بعد از ظهر از محل کار رفته و زندگی می‌کنند. تعداد جلسات مدیران در این کشور بسیار محدود است. سیستمی منسجم، دیجیتالی و منظم کار می‌کند. مدیران به این سیستم وفادار هستند و نه به افراد.
🐲اگر قرار باشد کشور پیشرفت کند، راه‌حل‌ها بسیار شفاف و ساده هستند: مدیریت نرم‌افزاری بر سیستم بانکی، مالیاتی، گمرکی و ده‌ها مورد دیگر. اگر کشور دیجیتالی نشود، همچنان باید در رابطه با بانکداری، گمرک و غیره همایش برگزار شود، چند وزیر و استاد دانشگاه و کارشناس سخنرانی کنند و در نهایت، اظهار امیدواری بر اصلاح امور کنند.

☝☝☝☝☝☝☝☝☝☝
🔴دغدغه ی جدید دانشمندان:
آيا ممكن است جهان مارا هم ارتعاش يك موسيقى بوجود آورده باشد؟

مقایسه CPU , GPU

🌎سایت گمپانی داده سایتی بسیار عالی برای آموزش پردازش داده در پایتون،R و یادگیری عمیق در این دو نرم افزار می باشد
https://www.datacamp.com/home
🌑این سایت دارای بیش از 75 ویدیوی رایگان در زمینه یادگیری ماشین می باشد.

مجله ماشین بینایی و پردازش تصویر، دارای اعتبار علمی - پژوهشی
http://jmvip.sinaweb.net/

🔴پروفسور لطفعلی عسگر‌زاده مشهور به «لطفی‌زاده»،بنیانگذار «منطق فازی» ودانش ‌آموخته دانشگاه تهران،در 97 سالگی دار فانی را وداع گفت