⭕️ مشکل One Pixel Attack؛ ضعف مدل‌های هوش مصنوعی!

حمله یک پیکسل یکی از جالب‌ترین و در عین حال خطرناک‌ترین روش‌های حمله به شبکه‌های عصبی است. در این روش، تنها با تغییر مقدار یک پیکسل در تصویر ورودی، مدل هوش مصنوعی کاملاً گیج شده و خروجی اشتباهی ارائه می‌دهد.

برای مثال، مدلی که با اطمینان ۹۷٪ یک تصویر را به‌عنوان "قورباغه" تشخیص داده، با تغییر یک پیکسل ممکن است همان تصویر را به‌عنوان "گربه" شناسایی کند! این نوع حملات نشان‌دهنده حساسیت شدید شبکه‌های عصبی به تغییرات کوچک در داده‌های ورودی است.

🔸 چطور این حمله کار می‌کند؟
حمله یک پیکسل اغلب با استفاده از الگوریتم‌های بهینه‌سازی مانند تکامل تفاضلی (Differential Evolution Algorithm) اجرا می‌شود. این الگوریتم تلاش می‌کند پیکسلی را پیدا کند که با کوچک‌ترین تغییر، بیشترین تاثیر را بر تصمیم‌گیری مدل داشته باشد.

ادامه در پست بعد.

▫️ چرا این حمله مهم است؟
1. امنیت مدل‌ها: این حمله نشان می‌دهد که حتی مدل‌های قدرتمند یادگیری عمیق هم می‌توانند آسیب‌پذیر باشند.
2. بررسی استحکام: محققان از این روش برای ارزیابی و مقاوم‌سازی شبکه‌های عصبی استفاده می‌کنند.
3. کاربرد در حملات دنیای واقعی: چنین ضعف‌هایی ممکن است در سیستم‌های امنیتی مانند تشخیص چهره، خودروهای خودران یا حتی سامانه‌های بانکی سوءاستفاده شود.

⁉️ راه‌حل چیست؟
برای مقابله با چنین حملاتی، روش‌هایی مانند افزایش داده (Data Augmentation)، مقاوم‌سازی مدل (Adversarial Training) و استفاده از الگوریتم‌های جدید برای کاهش حساسیت مدل‌ها به تغییرات جزئی پیشنهاد شده است.

در مقاله زیر هم در مورد همین مشکل توضیحاتی داده.

https://arxiv.org/pdf/1710.08864.pdf

بازی جالبیه، یسری تصویر بهتون نشون میده و باید حدس بزنید اون شخص قاتل سریالیه یا مخترع یه زبان برنامه‌نویسی :)
I scored 8 out of 10! Can you tell a coder from a cannibal? 💻🔪
https://vole.wtf/coder-serial-killer-quiz/

ML Beginners Should Read Papers

این مقاله می‌گه که خوندن مقالات علمی یادگیری ماشین برای تازه‌کارها خیلی مهمه. مقاله با عنوان "مبتدیان باید مقالات یادگیری ماشین بخوانند" تاکید داره که این کار برای افرادی که تازه وارد این زمینه شده‌اند ضروریه. این مقالات مثل یه سخنرانی فشرده روی یه موضوع خاص هستن. نویسنده پیشنهاد می‌ده که مبتدی‌ها بر روی مقالاتی که 2 تا 7 سال پیش منتشر شدن تمرکز کنن.

خوندن مقالات بهت کمک می‌کنه تا مفاهیم جدید رو بفهمی، تفکر انتقادی‌ات رو تقویت کنی و مهارت‌های پژوهشی و کدنویسیت رو بهتر کنی. مبتدی‌ها باید مقالات رو بر اساس علاقه خودشون انتخاب کنن و با مقالات از کنفرانس‌ها و نشریات معتبر ارتباط برقرار کنن.

از سختی‌های اول کار نترس و از این منابع برای یادگیری و پیشرفت استفاده کن! 📚

#blog
#ML
#paper

@lifeAsASerice

توی این ویدیو دستیار صوتی Chat GPT رو امتحان کردم و چقدر جالب بود! در مورد تکنیک‌های پردازش تصویر کلاسیک و دیپ لرنینگی و همینطور Template matching صحبت کردیم و توضیحات خوبی داد. به عنوان اولین تجربه برام خیلی جذاب بود.

کدام یک از گزینه‌های زیر در مورد استنتاج در منطق مرتبه اول (First Order Logic) صحیح است؟

1) برای یک پایگاه دانش KB و یک جمله α، میتوان الگوریتمی یافت که مشخص میکند آیا α از KB نتیجه میشود یا خیر؟
2) هر آنچه که توسط الگوریتم استنتاج طبیعی (Natural Deduction) در منطق مرتبه اول قابل اثبات است، با کمک الگوریتم resolution نیز قابل اثبات اس.
3) برای استنتاج در منطق مرتبه اول، ابتدا همه جملات بایستی به فرم منطق گزاره ای (propositional logic) تبدیل شوند.
4) برای استنتاج در منطق مرتبه اول به کمک الگوریتم resolution ابتدا همه جملات بایستی به فرم کلازال منطق گزاره ای (Clausal propositional logic) تبدیل شوند.