امروز داشتم با دوستم در مورد "ماچین لرنینگ" (به قول استاد اونا) صحبت میکردم و اینکه چقدر من دید ابزاری دارم به ماشین لرنینگ.

تا اینجا متن احتمالا این طوری باشید که هوی! ماچین لرنینگ حرمت داره نه لذت، که خب باید خدمتتون عرض کنم که لعنت به شما جاجوها، اجازه بدید تا توضیح بدم.

منظورم از این صحبت این بود که ماشین لرنینگ و به طور کلی یادگیری آماری دیگه امروزه با توجه به اینکه برای خیلی از کاربردها داده وجود داره و یا به آسونی میشه داده رو بدست آورد یکی از روش‌های حل انواع مسئله هاست، مثال هاش خیلی زیاده تقریبا تو هر رشته‌ای که باشید میتونید ازش استفاده کنید(از شیمی و فیزیک گرفته تا مکانیک و برق و هر چی خلاصه). طبیعتا مثل روش‌های دیگه‌ی حل مسئله بدی‌ها و خوبی‌های خاص خودش رو هم داره. یعنی یه سری‌جاها خیلی خوب کار میکنه و یه سری‌جاها بد نیست و یه سری‌جاها بده.

اگه بخوام مثلا در مقام مقایسه بگم قبل مَچین لرنینگ😂 ما روشای عددی داشتیم که سعی میکردیم چیزایی که قبل از اون سعی می‌شده تحلیلی حل کنیم و موفق نبودیم رو عددی حل کنیم. خب روشای حل عددی خیلی جاها استفاده میشده و خب خیلی وقتا جوابای خوبی هم میگرفته و خیلی جاها هم جواب خوبی نداشته.

خلاصه به نظرم خوبه که ماشین لرنینگ یاد بگیریم؟ آره چرا که نه. کلی کار باحال میشه کرد باهاش تو حوزه‌های مختلف.

آیا "فقط" بریم ماشین لرنینگ یاد بگیریم کافیه؟ به نظرم نه. یعنی شما در صورت موفقیت یه ابزار یاد میگیری تا باهاش مسائل رو حل کنی. خب نکته مهم اینه که مسئله‌ات چیه؟

بله درسته خود روش‌های یادگیری ماشین رو میشه بهبود داد ولی به نظر میاد برای چنین کاری هم دانش خوبی در آمار، جبرخطی و سایر بخش‌های ریاضی و یا بقیه علوم پایه(فیزیک، شیمی و حتی نوروساینس) میتونه خیلی کمک کننده باشه.

این متن رو پس از خوندن این متن از سایت سیتپور نوشتم، حال داشتید اونم بخونید:
http://sitpor.org/2023/01/coding/


پ.ن: دوست دارم نظر شما رو هم در مورد این بحث بدونم، اگه خواستید کامنت بذارید.

#note
@SingularThinker

🧠 Could One Physics Theory Unlock the Mysteries of the Brain?

یه ویدئو فوق‌العاده و کوتاه درباره‌ی مسئله مرموز بحرانیت (Criticality)، اهمیتش و احتمال وجودش در مغز. به شدت پیشنهادش می کنم.

اگر هم موضوع براتون جذاب شد و خواستید بیشتر درباره‌ش بدونید این مقاله رو پیشنهاد می کنم:
Being critical of criticality in the brain

@SingularThinker

به مناسبت روز داروین، توصیه می‌کنم که اگر با زندگی این آدم که واقعا میشه جهان رو به قبل و بعد نظریه‌اش تقسیم کرد، آشنا نیستید لیست زیر از پادکست ها رو حتما نگاه کنید.


🔹 پرونده‌ی "صرفا یک نظریه - Just a theory" از پادکست پرسه - عباس سیدین - اپیزود ۲۱ و ۲۲ و ۲۳
🔗 لینک

🔸اپیزود "کافر یا دانشمند| داستان زندگی داروین" - پادکست رخ - امیر سودبخش - اپیزود سه
🔗لینک

🔺اپیزود "خلاصه‌ی کتاب ایده‌ی خطرناک داروین- Darwin's dangerous Idea" - پادکست بی‌پلاس- علی بندری- اپیزود ۲۱
🔗لینک
#podcast
@SingularThinker

🔸 AGI is near...?

وسط اخبار ChatGPT و جنگ LLM ها اینم ببینید خیلی جالب بود. مدل جدید DeepMind هستن که تسک‌های RL انجام میدن.

ویژگی خاصش هم توانایی و سرعت عجیب غریبش تو یاد گرفتن تسک های جدیده. بزرگوار تو یکی دو trial تسکی رو یاد میگیره که همین خوندن قوانینش چند دقیقه طول میکشه! (حالا ما هم یه شب تا صب باید صبر می‌کردیم بلکه مدلمون زحمت بکشن اون بیلبیلک CartPole رو بالانس کنن)

اطلاعات بیشتر: AdA: an AI that adapts as fast as humans

@SingularThinker

راستی گفتم ChatGPT، دلم نیومد اینم نذارم اینجا...

♟ نبرد اساطیری ChatGPT رو مشاهده می‌کنید با StockFish (یه ربات مخصوص شطرنج).
#language_modeling
@SingularThinker

🔴 توی رشتوی زیر در مورد اینکه ChatGPT چه طور کار میکنه، به زبان کاملا غیرتخصصی و ساده شهود کار رو توضیح داده شده(قطعا از کلی پیچیدگی‌ها صرف نظر شده)

🔗 لینک

پ.ن: با تشکر از علیرضا بابت اشتراک گذاری.

#language_modeling
@SingularThinker

🔵 در همین فضا یه سری از ملت پاشدن و رفتن Petition درست کردن که AI رو خاموش کنن . گویا تو نسخه‌ای که بینگ از ChatGPT منتشر کرده در بعضی از مواقع ChatGPT قاطی کرده و عصبانی شده و در نتیجه مردم هم رد دادن.

بحث جالبی داره میشه به نظرم. بعد یه سری هایپ های بزرگی مثل ChatGPT یه چنین معضلات و دعواهایی منطقیه و نباید بذاریمشون زیر فرش. باید شفاف کرد واقعا مسئله رو.

🔗 لینک پتیتشن

#language_modeling
@SingularThinker

راستش چیزی ندارم بگم رو این، فقط ببینید به نظرم حداقل چند دقیقه اولشو:

https://youtu.be/ZwuxE7ZrpF4

@SungularThinker

به مناسبت روز مهندس :)

پادکست Brain Inspired یه پادکست جالب مصاحبه‌ایه در زمینه‌ی Computational neuroscience.

حالا سازنده‌ی این پادکست هم‌یه دوره‌ی Neuro-AI درست کرده که به نظر جالب میاد. دوره قراره روی مسئله‌ی intelligence تمرکز کنه با در نظر گرفتن هر دو زمینه‌ی AI و نوروساینس. دوره تا اینجا دو تا ماژول داره که به نظر ماژول اول بیشتر مربوط به AI و مفاهیم ابتدایی تر میشه و ماژول دوم که درباره‌ی Learning هست قراره تاپیک‌های پیچیده‌تر (و جذاب‌تری) رو بحث کنه.

من این دوره رو چند وقت پیش گرفته بودم و دیدم الان فرصت خوبیه که ببینمش. سعی می کنم هر چند وقت یه بار یه قسمت ببینم و اینجا هم بذارمش.

مطالب مربوط به این دوره رو با هشتگ #Brain_Inspired می‌ذارم که پیدا کردنشون راحت باشه

توضیحات دوره: https://braininspired.co/neuro-ai

@SingularThinker

Module 1 Lesson 1: The Zoo of Networks

این قسمت بیشتر یه مقدمه‌ی خیلی کوتاه از تاریخچه‌ی neural network هاست. نکات جالبی داشت راجع به اینکه اون موقع‌ها چجوری فکر می‌کردن راجع به شبکه‌های عصبی و چه چالش هایی داشتن.
تو این قسمت به چند تا مقاله‌ی خیلی جالب هم اشاره می کنه که اونا رو هم این پایین می‌ذارم.

🔸 پوستر The neural networks zoo
🔸 یه مطلب خوب درباره.ی نورون‌های McCulloch-Pitts
#Brain_Inspired #podcast
@SingularThinker

توی سه گانه ی سلاح های شیمیایی توی #پادکست چیزکست به آزمایشات انسانی که ارتش چین که روی اسیر های جنگیشون انجام میداده اشاره میکنه ولی خب زیاد زوم نمیکنه. برام جالب بود که مگه چقدر میتونه رذالت بار باشه و یکم سرچ کردم گزارش هارو خوندم. یکی از این گزارش ها که ۴ صفحه بود و نسبت به بقیه کمتر وحشتناکه رو اینجا میذارم اگه حوصله داشتید بخونید و برگ های درختان منطقه ی خود را بریزانید. :))
واقعا وحشتناکه.
https://allthatsinteresting.com/unit-731

⚠️ توجه: هر گونه شباهتی بین پست‌ها و شرایط کنونی تصادفی است.

🔗 لینک پادکست چیز کست - سلاح‌های شیمیایی
#podcast
@SingularThinker

شاید تا به حال فکر کرده باشید که رفتارهای اخلاقی و مفهوم اخلاق از کجا میاد؟
ایا قوانین‌ دینی مرز‌های اخلاق رو مشخص می‌کنند؟ یا مثلا روش علمی تعیین می‌کنه که چه چیزی اخلاقی و چه چیزی غیراخلاقیه؟
آیا اساسا نیاز به اصول بیرونی برای تعیین و تبیین اخلاق هست؟
آیا نظریه تکامل میتونه رفتارهای اخلاقی رو توضیح بده؟
مرز اخلاق و ادب کجاست؟


اگر این‌ دست سوال‌ها براتون جالبه پیشنهاد میکنم حتما پرونده‌ی ریشه‌های اخلاق رو از پادکست پرسه از اینجا یا هر جایی که خودتون میدونید گوش بدید.
این نوع سوال‌ها و این نوع پادکست‌ها به نظرم به شدت فضای گفتگو ایجاد می‌کنن با دوستاتون.


#podcast #game_theory
@SingularThinker

در ادامه‌ی داستان criticality اگر واستون جالب بود این ویدئو رو هم حتما ببینید:
https://www.youtube.com/watch?v=vwLb3XlPCB4

این ویدئو بیشتر وارد بحث میشه و با یه زبان خیلی ساده و جذاب مفاهیم مربوط به criticality و وجودش در مغز رو بررسی می‌کنه.

کیفیت کارش واقعا عالیه 👌

رادیوگیک برگشته با گزارشی نسبتا خوب از چت جی پی تی :))

https://youtu.be/3VULmrB7qTU

#podcast
@SingularThinker

خب OpenAI قراره امشب (ساعت ۱۱:۳۰ ایران) تو این لایو از GPT4 رونمایی کنه: https://www.youtube.com/live/outcGtbnMuQ?feature=share

فیچرهای مهم زیادی داره از جمله مجهز شدن به Visual Transformer ها و content window های بزرگ‌تر (تا حداکثر ۳۲k توکن که حدود ۵۲ صفحه متن میشه!). هزینش هم همون طور که حدس زده میشد خیلی گرون تره (۳۰ تا ۶۰ برابر GPT3.5-turbo یا همون ChatGPT)

حقیقتا دارن با سرعت بیشتری از اون چیزی که انتظار داشتم مدل بیرون میدن. البته دسترسیش هم طبق معمول همه‌ی عن بازی های OpenAI در سال های اخیر قراره به مرور باز بشه و از الان می تونید واسه Waitlist شون ثبت نام کنید.

اطلاعات بیشتر راجع به این مدل: https://openai.com/product/gpt-4