The Simplest Math Problem No One Can Solve - Collatz Conjecture

We are stupid, aren't we?

This simple problem has some sort of magic and as always Vertasium narrated it aweosmely.

Watch the video here.

#video #math
@SingualrThinker

Can you answer this question?

🔗 Link
@SingularThinker

#meme :)))))
@SingularThinker

I decided to share more with you in order to interact more with each other and enjoy the following discussion. Hopefully, this will work out well. I will write mostly in English, but feel free to write in Persian or English.

For the beginning, let's start with this tweet. What do you think? Do you agree with that?

P.S: Check the mentions.
🔗 The Bitter Lesson Blog by Rich Sutton link

#Tweet
@SingularThinker

Can LLMs Separate Instructions From Data? And What Do We Even Mean By That?

I saw this thread on X and get very excited.
I didn't go through the paper, but I liked the way of thinking and modeling the problem with information theory. It was inspirational. In addition, imo the main problem is very related to the Godel Incompleteness theorem and/or the halting problem. In a nutshell, the system could interpret a sentence both as an instruction and data, which is the underlying cause of many self-referential paradoxes. Interesting idea for doing research.

#language_modeling #tweet
@SingularThinker

💥Don't miss this.

Have you ever thought about what exactly is the meaning of matrix?
A box of numbers? Multiple column/row vectors? A way of representing linear transformation? and maybe all/none is true.

But Have you ever tried to visualize a matrix in your mind at most for 2*2 ones? Watch this 4 episode exciting series, SEE Matrix, on YouTube if you haven't already.

⚠️Spoiler Alert:

In the first chapter, it visualizes different types of matrices. In the second, it visualizes how one can decompose a symmetric matrix by using spectral decomposition. Ultimately, we'll see how any matrix can be decomposed into four interpretable transformations.

#math #video
@SingularThinker

LLMs attain better scores than humans in exams. Does it mean that they are more intelligent?

If you asked the above question to Francois Chollet, he would say no. But anyway, what is the meaning of intelligence? He explained his idea in this paper.

#language_modeling
@SingularThinker

Modern deep learning models often consist of many model parameters, which are more than the number of training data points and therefore over-parameterized. These over-parameterized models can be trained to overfit the training data (achieving close to 100% training accuracy). It is called benign overfitting when their predictions on unseen test data are so accurate. If they perform poorly on test data, it is known as harmful overfitting which is the classical viewpoint about overfitting.

This was part of the paper, Benign Overfitting in Two-layer Convolutional Neural Networks, which Yuan Cao presented in the One World Seminar Series on the Mathematics of Machine Learning. Complement to this the one world seminars on probability, Information, Signals, and Data (MINDS), methods for arbitrary data sources (MADS), and imaging and inverse problems (IMAGINE).

So if you are interested in any of these directions check their webpages.

#neural_networks
@SingularThinker

Did you know that you can have access to Github Copilot for free?

Github provided a GitHub Student Developer Pack which gives you access some real-world tools and education. You just need to verify you are student(university or school). Check this out.

#tools
@SingularThinker

آیا فرض وجود اعداد حقیقی در جهان بیرون با باور به اینکه خدا آفریننده جهان و موجودات هست و آفریننده‌ای نداره به هم مرتبطه؟

یه چیزی که تو صحبت‌های جادی همیشه برام جالب بوده اینه که لابلای صحبتش در مورد اخبار کامپیوتر سوال‌ها یا باورهای بنیادینی که تو زندگی داره رو با بقیه هم به اشتراک میذاره و در موردشون حرف میزنه. من همیشه از کودکی خیلی برام جالب بوده که بتونم در مورد این چیزا حرف بزنم و تا چند سال پیش خیلی وقتا به صورت مستقیم و صریح این مدل سوال‌ها رو با خیلیا مطرح میکردم ولی چند وقتی میشه که یکم از این کار فاصله گرفتم و هنوز دلیلش رو نمیدونم و مثلا اینجا هم در این موارد چیزی ننوشتم هنوز.

ولی من اینجا در مورد جادی حرف نمی‌زنم. امیر اصغری در پروژه‌ی #آدم‌ها_و_ریاضیات با و حتی درباره‌ی زندگی آدم‌هایی که ارتباطی با ریاضی دارن مصاحبه کنه و سعی می‌کنه که در حین گفتگو خیلی کم مداخله کنه و اجازه بده آدم‌ها داستان زندگی‌شون رو تا حد ممکن طوری که خودشون میخوان روایت کنن ولی باز هم میشه رگه‌هایی از باورهاشو تو نحوه پرسیدن سوال‌ها و در کانالش دید و البته اگر جایی بحث بطلبه از صحبت در مورد باورهای بنیادین خودش و بقیه هراسی نداره که این خیلی خوبه.

پس از این مقدمه نسبتا طولانی باید بگم که در آخرین قسمت از این پروژه امیر اصغری با مجتبی مجتهدی صحبت می‌کنه که استاد دانشگاه تهران بودن (یا هستن؟!) که به هر حال بخاطر اعتراضات پس از قتل مهسا امینی برخورد بدی باهاشون شد و از ایران خارج شدند. ماجرای مجبتی مجتهدی و دنیای ریاضی خیلی جالب و از روی یه سوال فلسفی که در دنیای کودکی ذهنش رو مشغول کرده بود آغاز میشه که "اگر همه چیز رو خدا آفریده، پس خدا رو کی آفریده؟" و بعد به سمت فلسفه و بعدش ریاضی کشیده میشه. با توجه به همین گرایش، به سمت منطق و ریاضی ساخت‌گرایانه میره که من خودم با این قسمت از ریاضیات خیلی آشنا نبودم. خلاصه اگر تا اینجای این متن براتون جالب بود برید حتما مصاحبه رو گوش کنید.

⚠️Spoiler Alert:

مجتبی مجتهدی تو مصاحبه میگه که هنوز جوابی برای سوالش در فلسفه پیدا نکرده و به پیدا کردنش هم اصلا امیدوار نیست اما تو این مسیر باورمند میشه به خدا و اسلام. مواجه امیر اصغری به عنوان یه ‌بی‌دین و نحوه پرسشگری و هدایت بحثش برام جالب بود. به طور کلی‌تری این مسئله که چطور باید در مورد چیزها بحث کرد و با چه ذهنیتی وارد بحث شد سوالیه که این روزها دارم بیشتر بهش فک میکنم و شاید بیشتر نوشتم در موردش.

فارغ از این‌ نکته، اینکه یه آدم ۱۰-۱۱ سال از بهترین سال‌های زندگیش رو صرف کار کردن رو سوال به این بزرگی بکنه و هی ادامه بده مخصوصا با شرایطی که تو ایران هست واقعا بعد جالب دیگه‌ی این مصاحبه بود برام. چیزی که خودم هنوز تکلیفم باهاش روشن نشده که من هم میخوام و میتونم چنین کاری رو بکنم یا نه. خلاصه مصاحبه جالبی بود و منم امروز پرحرفی‌ام اومده بود مرسی اگر‌ تا اینجا خوندید‌.

اگر هر نظر یا پیشنهادی دارید میتونید که شناس(بیو) یا ناشناس بهم بگید. اگر هم به نظرتون این محتوا میتونه برای کسایی جالب باشه براش بفرستید.

#podcast #math
@SingularThinker