رپویی برای آشنایی با سیستم‌۲

هوش مصنوعی در طول این ۴۰-۵۰ سال اخیر خودش، در هر بازه‌ای درگیر حل یک مساله‌ای بوده. مساله که اخیرا یکی از هات‌ترین موانع پیش روی هوش مصنوعی برای رسیدن به AGI (یا همون هوش جامع مصنوعی) هست، دسته مسائلیه که ازشون به عناوین reasoning یا system2 نام‌برده می‌شه. این مسائل، مسائلی هستند که حلشون گاها نیاز به تصمیم‌گیری‌های چند مرحله‌ای داره (در مقابل مسائل سیستم‌۱ که بیشتر مسائل شهودی هستند) و جزو محدوده‌ای هست که در اون هوش مصنوعی فعلی هنوز به قدرت پردازش انسانی نرسیده. دسته مسائلی مثل مثلا حل کردن سوالات ریاضی یا استدلال کردن از این دست هستند. البته که حوزه ریسرچ هوش مصنوعی هم در این سمت هنوز تعریف فرمالیزیشن درست و حسابی و بنچمارک‌های قاطع و مشخصی براش وجود نداره و یک سوال تقریبا باز محسوب میشه. چند وقت پیش دیدم که یک رپو در گیتهاب اومده سعی کرده کارهای مختلف (اعم از مقاله و کتاب و بلاگ پست و ورکشاپ‌ها) مربوط به این حوزه رو یک جا جمع کنه. چیز تمیز و کاملی نیست ولی یک نقطه شروع خوبه.

لینک:
https://github.com/open-thought/system-2-research

در مجموعه روزنامه شریف، یک خانم پیدا نمی‌شد که بعد از ۱۵ ساعت، این اشتباه رو کشف کنه؟

گذشته از اون ولی عجیب که شخصی که داشته متن رو می‌نوشته و شخصی که متن رو خونده تایید کرده تا پست بشه اصلا در ناخودآگاهشون نبوده که طرف غیر از آقای مهندس می‌توانسته چیز دیگری هم باشه.

لینک پست:
https://news.1rj.ru/str/sharifdaily/16450

پی‌نوشت:
در ساعت ۱۵:۳۷ سرانجام تغییرش دادند :)

قمارباز داستایفسکی

دیشب کتاب قمارباز داستایفسکی را بالاخره خواندم. قبل از صحبت در مورد خود قمارباز، داستان خود نوشتنش را باید شنید. ماجرا این است که گویا داستایفسکی که خودش معتاد به قمار بوده، تحت فشار مالی بوده و در همین اثنا با ناشر آثارش قمار می‌کند که ظرف ۲۶ روز، تا یک نوامبر، یک رمانی رو آماده کنه و اگر نه، حق انتشار تمام آثارش بدون هیچ گونه پرداختی به ناشرش برسه. داستایفسکی در همین ۲۶ روز کتاب رو به خانم آنا نامی که منشی‌اش بوده دیکته می‌کنه. در نهایت در روز ۳۰ اکتبر (که تولد داستایفسکی هم بوده) کار تقریر کتاب تموم می‌شه و داستایفسکی می‌ره کتاب رو به ناشر بده. اما ناشر گویا شهر رو ترک کرده بوده که داستا نتونه شرط رو ببره. داستا هم در نهایت کتاب رو به یک دفتر ثبت اسناد محلی می‌بره و اونجا ثبت می‌کنه و قمار رو می‌بره.

کتاب در کل جزو کتاب‌هاییه که با خوندنش آدم آن چنان گذر زمان رو حس نمی‌کنه (اگر چه جاهاییش دیالوگ‌های خیلی طولانی داره). ویژگی اصلیش اما شاید توانایی داستایفسکی در به تصویر کشیدن حس گناه قمار و القای اون به مخاطبه. طوری که خود شما هم حس اعتیاد به قمار رو می‌چشید. قبلا هم شنیده بودم که یکی از ویژگی‌های داستایفسکی اینه که در داستان‌هاش همه مریض‌اند و از اونور هم داستایفسکی به خوبی احساسات مریض اینها در مغز خواننده تزریق می‌کنه.

استعاره‌ای که در انتها در ذهن من شکل گرفت این بود که قمار فقط صرفا محدود به کازینو رولت و اینها نیست. قمار هر امیدی به تغییر سرنوشته.

صبح و دوباره سکانس ابتدایی چرا بیدار شویم اصلا. خواب نیز لذتی فراهم نمی‌آورد. آرزو نه خوابیدن بود که بیدار نگردیدن. نهایتا بیدار شدم. توییتر را باز کردم و دیدم یکی از بت‌هایم در شرکت توییت زده و اظهار ناراحتی کرده که چرا به جایی نرسیده. با خود گفتم اگر او خویشتن را ناکافی داند، پس مرا وجودی نباشد. ناشی از همین احساسات خراب صبحگاهی و البته نوسانات ارز تصمیم گرفتم با تاکسی به دانشگاه بروم. هر وقت که قیمت ارز بالا می‌‌رود و ارزش داشته‌های فعلی و آینده‌ام پایین می‌آیند، حس می‌گیرم حالا پولم را نگه دارم که چه؟ حداقل امروز به قیمت امروز خرجش کنم تا فردا نشده. باری،‌ سوار تپسی که شدم، بعد از حدود ۲۰ ثانیه راننده شروع کرد به سوال پرسیدن: دانشجویی؟ ناگهان یادم افتاد که دارم دانشگاه می‌روم. هر زمان که این مقصد در پیش باشد، چنین مکالمات تکراری پیش می‌آید. پاسخ دادم بله. پرسید چه رشته‌ای. گفتم کامپیوتر. پرسید چه مقطعی؟ گفتم فلان. خوشبختانه یا متاسفانه به کار وارد بود و از گرایشم پرسید و من هم پاسخ دادم. اینجا بود که شروع کرد به همان حرف‌های تکراری همیشگی آزاردهنده روی دور افتاد. این قدر برایم آزاردهنده است که نمی‌توانم بنویسم. کمی جلوتر که رفتیم، آقای راننده که خودمانی‌تر شده بود گفت می‌خواهم ازت سوالی بپرسم ببینم بلدی یا نه. فرق اینتر با اونتر در چیست؟ داشتم فکر می‌کردم یحتمل باید اینتر را به میلان ربط دهم مگر پاسخی داشته باشد. آقای راننده گفت می‌خواهی تا آخر مسیر فکر کنی و بعد پاسخ بدهی؟ با خودم گفتم نمی‌ارزد تا پایان مسیر، فلذا با بی‌میلی خواهش کردم پاسخ را بگوید. آقای راننده گفت که وقتی به این می‌گوییم اینتر پس به آن هم باید بگوییم اونتر و زد زیر خنده. فکر کردم تمام شده که سوال دوم را پرسید. حالا چرا دو تا اینتر داریم؟ کم کم حس کردم بزرگوار شوخی نداشته و واقعا یک چیزی هست. گفتم دو تا اینتر؟ گفت بله. توضیح داد و فهمیدم که منظورش از اونتر،‌ آن اینتر قسمت نامپد است (که البته اکنون دیگر در کیبوردها نیست). الان که فکر می‌کنم می‌بینم حرفش بی منطق هم نبود. منتهی شاید اینتر کوچولو یا اینترک واژه بهتری می‌نمود تا اونتر. کار هنوز تموم نشده بود و داستان هنوز به اوجش نرسیده بود.آقای راننده در ادامه پرسید ازدواج کرده‌ای؟ گفتم نه. با تعجب پرسید چند سالت است؟ گفتم چند می‌خورد؟ گفت ۳۷-۳۸. انگار با مشت زده باشند در صورتم. بزرگوار ده سال من را پیرتر تخمین زد. باقی مسیر کم کم داشت شبیه تراپی می‌شد. او در نقش تراپیست و من در نقش بیمار. هر وقت به این سوال می‌رسند که چرا نرفتی؟ چرا نمی‌روی؟ در دانشگاه چه کار می‌کنید؟ آدم با گناهانش چطور می‌تواند کنار بیاید. زمان گذشت و رسیدیم. موقع پیاده شدن فکر کردم آقای راننده آدم بدی نبود که اتفاقا خیلی هم آدم خوش مشربی می‌نمود. از ته دل برایش روز خوبی را آرزو کردم.

دانشگاه مثل همیشه. بعضی چیزها همیشگی‌اند و بعضی چیزها دوامشان مانند دوام برگ سبز روی شاخه درخت است. مصیب افسوس می‌خورد که چرا تعداد نفراتی که با آن‌ها سلام می‌کند کاهش پیدا کرده‌اند. این مدعی روابط اجتماعی و کانشکن‌زدن در نهایت خود مقهور گذر زمان شد. با زمان نتوانست کانکشن بزند. زمان امروز هم گذشت. آخر روز گوشه‌ای از لابی، در موقعیتی که ببینم ولی دیده نشوم، نشسته بودم. ناگهان دیدم یک آقایی با سن بالای ۳۰ سال در حال آمدن به سمتم است. یهو شروع کرد سلام کردن و تشکر کردن بابت مطالب به اشتراک گذاری مطالب کانال (منظورش آن یکی کانالم بود). بعد یکباره به طرزی رندوم پرسید کی دفاع می‌کنی؟ اگر خودم هم می‌خواستم روی متن، داستان بچینم این چنین رندوم نمی‌شد. یکسری اتفاقات دیگری هم در طول روز افتاد که قابل بحث نیست. چون پرده‌ی شب بر شهر فرو افتاد، با مراد به گفتگو نشستیم و او گفت: آنچه در سال‌هایی پیوسته ناکرده‌ای، چگونه از عهده‌ی چندی معدود برآید؟. و به حق بود آنچه گفت.

#روزمرگی

موس و کی‌برد را دور بیاندازید

انتروپیک تو آخرین آپدیت سری مدل‌های کلاد، قابلیت computer use رو اضافه کرده. به این معنی که LLM رو آموزش داده چطور با کامپیوتر کار کنه و از اونور هم به LLM دسترسی وررفتن با کامپیوتر خودتون رو بهش میدید. بعد مثلا بهش می‌گید برام فلان کن خودش کنترل کامپیوتر رو به دست می‌گیره و انجام می‌ده. هنوز کار داره (جالبه که انتروپیک گفته زیاد بهش دسترسی ندید اصلا تو vm بالا بیارینش:)) ولی همین الان هم دموهای جذابی ازش هست و هم این که تازه آغازشه. عجیبه که گاه یک چیزی در یک کانتکس و نیاز دیگه‌ای کار شگفت‌انگیزی می‌کنه حالا می‌خواد مدل باشه، آدم باشه یا ...

https://www.anthropic.com/news/3-5-models-and-computer-use

جنگ بر سر برده نبود، کیک بود

چراز در نیمچه قسمت آخرش که حدود ده دقیقه است، درباره جنگ داخلی آمریکا از منظر اقتصادی صحبت کرده. از نظر چراز، دلیل اصلی جنگ داخلی آمریکا بین ایالت‌های شمالی و جنوبی، تفاوت مدل و کیک اقتصادی این دو ناحیه بوده. جنوبی‌ها متکی به کشاورزی مزارع پنبه‌ و صادرات پنبه به اروپا بودند و برای همین به برده‌ها نیاز داشتند. در حالی‌ که شمالی‌ها به علت آب و هوای و زمین نامناسب، بیشتر صنعتی بودند و به نیروی کار باسواد نیاز داشتند. در این حین، دولت‌های فدرال آمریکا هم برای تامین بودجه‌شون دست به وضع تعرفه روی واردات و صادرات گذاشتند. محصولات جنوبی‌ها اکثرا صادر می‌شد ولی محصولات شمالی‌ها داخل خود آمریکا مصرف می‌شود و سیاست‌های حمایتی دولت فدرال از تولیدات هم باعث این می‌شد که روی صادرات جنوبی‌ها تعرفه وضع بشه و دچار ضرر بشن. از اون ور هم روی واردات کالا‌های رقبای شمالی تعرفه وضع بشه و به نفع شمالی‌ها بشه. در این حین، شمالی‌ها تونستند ایالت‌های تازه پیوسته به آمریکا رو هم به خودشون ملحق کنند و جنوبی‌ها در چنین شرایطی دیدند که در سیستم الکترال دیگه شانسی برای برتری بر شمالی‌ها ندارند، پس دست به شورش زدند. به عقیده چراز، شورش جنوبی‌ها نه به خاطر آزادی یا ممنوعیت برده داری که به خاطر همین سیاست‌های تعرفه‌ای بوده. جایی که لینکن در ابتدای جنگ حتی می‌گه حاضره که برده‌داری در جنوب همچنان قانونی باشه اما دست از سیاست تعرفه برنمی‌داره. نهایت جنگ پس از چهار سال با پیروزی شمالی‌ها و کشته‌شدن ۲.۵ درصد از جمعیت آمریکا تموم می‌شه. نکته جالب این که هیچ کدام از سربازان و حتی فرماندهان جنوبی بعد از جنگ، به اعدام یا حتی زندان محکوم نمی‌شن.

https://www.youtube.com/watch?v=xjKEdOFdJtw

هنر انتخاب نقش

یک اصطلاحی هست که مثلا می‌گن فلان بازیگر نقش‌هاش رو با دقت و وسواس انتخاب می‌کنه و به هر نقشی بله نمی‌گه. این مفهوم حالا محدود به بازیگری نمی‌شه بلکه به بقیه حوزه‌ها مثل موقعیت‌های شغلی و پژوهشی و سیاسی و سایر روابط هم کشیده می‌شه. ممکنه خیلی‌ها بخوان شما رو در یک نقشی ببینند اما فیلم تموم که بشه هیچ کی بابت نقش شما به اندازه خودتون تحت تاثیر تبعاتش قرار نمی‌گیره. نه تهیه کننده، نه کارگردان، نه بقیه بازیگرها و نه تماشاچی‌ها. به این سادگی‌ها اعتماد نکنید.
مرتبط با همین عزیزی دیشب می‌گفت تا جایی که زورت می‌رسه هر چیزی رو قبول نکن وگرنه ریسک‌های تصمیم‌گیری دیگران روی دوش تو می‌افته.

#تجارب

بارها شده گذرم افتاده به مرحوم چامسکی به خاطر چیزی‌، سرچش می‌کنم بعد می‌رم ببینم کی فوت کرده می‌بینم عه تاریخ فوت نداره، هنوز زنده است. می‌ترسم روزی برسه که من هم نباشم ولی بزرگوار هنوز زنده باشه.

وقتی سرعت موج، از موج‌سوار‌ها بیشتره

یادی کنیم از استارتاپ Wordtune. این wordtune یک استارتاپ اسرائیلی هوش مصنوعی بود که دستیار نوشتن بود و به شما کمک می‌کرد متن‌هاتون رو بازنویسی کنید. در موقعی هم که به تازگی اومده بود بسیار خفن می‌نمود و تا چند وقت ترند بود. منتها در گذر زمان، پیشرفت chat-gpt باعث شد تا عملا wordtune بی‌فایده بشه. اتفاقی که شاید برای دیگر استارتاپ‌های هوش مصنوعی هم در سالهای آینده رقم بخوره.

درام داستان این جاست که wordtune بر موج پیشرفت‌های هوش مصنوعی سوار شد، اما سرعت قطار هوش مصنوعی این قدر سریع بود که از خود wordtune هم رد شد.

فلیکم کجایی؟

من طرفدار بارسلونا نیستم و از بارسا هم خوشم نمی‌آيد. راستش از فلیک هم خیلی خوشم نمی‌آید. با این وجود برد این هفته‌شان برابر بایرن ناخودآگاه من را یاد این حکایتی انداخت که هر از گاهی در اینستا و توییتر دست به دست می‌شود:

در نبرد سپاه نادر علیه اشرف افغان دیدند پیرمردی شجاعانه می جنگید و یک تنه با ده ها نفر مقابله می کرد.
نادر با تعجب و تحسین به او گفت؛ مرد شجاع تو کجا بودی که هفت سال قبل سپاه محمود افغان توانست تا اصفهان پیش آید؟
پیرمرد پاسخ داد ما همه بودیم اما نادر نبود

و بله. تیم بارسایی هم که امروز این چنین بایرن را شکست می‌دهد، تقریبا همان نفرات تیم مضمحل سال‌های قبل‌اند، با این تفاوت که آن موقع فلیک نبود. نه این که صرف وجود یک لیدر خوب کافی باشد، اما تاثیر یک لیدر خوب از زمین تا آسمان است. بعد از گذشت این سال‌ها و دیدن حوادث فکر می‌کنم یکی از مشکلات اساسی ما در ایران این است که مدیران خوبی نداریم. بازیگر و بازیکن خوب زیاد دیدم ولی هر چه از سطح تکنیک بالاتر می‌رود و نیاز به کسی داریم که کارها و آدم‌ها را جمع ‌کند، نیستیم و نداریم.

پی‌نوشت: راستی امروز سالروز سقوط اصفهان است.

من چه بجنگم چه نجنگم، کل این بازی رو باختم

به یه ساعت فکر راحت از بابک جهانبخش گوش بسپارید.