در چند روز گذشته مدل text-to-image به نام Flux در سه نسخه schnell و dev و pro رونمایی شده که دوتای اول اوپن سورس هستند و خیلی سریع هم عکس تولید میکنه. کیفیت مدل جوریه که تو توییتر دارن بحث میکنن میتونه خطری برای midjourney محسوب بشه. گرچه به نظر من هنوز از نظر compositionality مدل bing تو سطح دیگهایه
در دل نهفتم آه بیتاثیر را
دیدمش در دل نهفتم آه بیتأثیر را
در کمان از بس که دزدیدم شکستم تیر را
پای رفتن نیست زین بزمم که در بیرون در
بخت دارد در کمین هجر گریبان گیر را
خوشدل از غیرم که در بزم وصال او نیافت
ذوق درد اضطراب و لذت تغییر را
از کمند دادی گر آزارم خجل از من مباش
کرده ام خاطرنشان خویش صد تقصیر را
گشته دل پامال حسرت عشوه در کارش مکن
قلب زراندود ما ضایع کند اکسیر را
از نگاهی شد «نظیری » صید و من در انفعال
زان که آن وحشی نمی ارزد بهای تیر را
نظیری نیشابوری
دیدمش در دل نهفتم آه بیتأثیر را
در کمان از بس که دزدیدم شکستم تیر را
پای رفتن نیست زین بزمم که در بیرون در
بخت دارد در کمین هجر گریبان گیر را
خوشدل از غیرم که در بزم وصال او نیافت
ذوق درد اضطراب و لذت تغییر را
از کمند دادی گر آزارم خجل از من مباش
کرده ام خاطرنشان خویش صد تقصیر را
گشته دل پامال حسرت عشوه در کارش مکن
قلب زراندود ما ضایع کند اکسیر را
از نگاهی شد «نظیری » صید و من در انفعال
زان که آن وحشی نمی ارزد بهای تیر را
نظیری نیشابوری
Out of Distribution
در دل نهفتم آه بیتاثیر را دیدمش در دل نهفتم آه بیتأثیر را در کمان از بس که دزدیدم شکستم تیر را پای رفتن نیست زین بزمم که در بیرون در بخت دارد در کمین هجر گریبان گیر را خوشدل از غیرم که در بزم وصال او نیافت ذوق درد اضطراب و لذت تغییر را از کمند دادی…
این شعر رو به LLM ای دادم و ازش خواستم معنی کنه خروجی زیر رو تولید کرد، عملکردش با این که عالی نیست ولی قابل توجهه:
۱. دیدمش در دل نهفتم آه بیتأثیر را
در کمان از بس که دزدیدم شکستم تیر را
دیدمش: شاعر معشوق را دیده و ناگهان مدهوش و مسحور زیبایی او شده است.
- در دل نهفتم آه بیتأثیر را: آه در ادبیات فارسی نماد عشق پنهانی و راز نگه داشته است. شاعر با دیدن معشوق از شدت عشق و هیجان، آهی میکشد اما این آه را در دل پنهان میکند. چرا که میداند که عشقش بیپاسخ است.
- در کمان از بس که دزدیدم شکستم تیر را: "دزدیدن تیر" کنایه از نگاه دزدانه به معشوق است. شاعر آنقدر پنهانی و با احتیاط به معشوق نگاه کرده (تیر دزدیده) که گویا نیرویی برای ابراز عشق و بیان احساساتش (تیر انداختن) ندارد و گویا تیر نگاهش، در کمان شکسته است.
۲. پای رفتن نیست زین بزمم که در بیرون در
بخت دارد در کمین هجر گریبانگیر را
- پای رفتن نیست زین بزمم: شاعر به اجبار در مجلسی حضور دارد که معشوق نیز در آنجاست. اما رفتن از این مجلس برایش غیرممکن است.
- بخت دارد در کمین هجر گریبانگیر را: او معتقد است که اگر از این مجلس بیرون رود، بخت و سرنوشت با جدایی و دوری از معشوق گریبانش را خواهد گرفت.
۳. خوشدل از غیرم که در بزم وصال او نیافت
ذوق درد اضطراب و لذت تغییر را
- خوشدل از غیرم: شاعر با وجود عذاب عشق و رنج هجران، احساس رضایت و خرسندی دارد.
- که در بزم وصال او نیافت ذوق درد اضطراب و لذت تغییر را: دلیل این رضایت و شادی درونی شاعر این است که، رقیبان عشقی او (غیر) هرگز نمیتوانند طعم شیرین درد عشق و لذت اضطراب و بیقراری ناشی از آن را بچشند.
- لذت تغییر: تغییر در اینجا به معنای تغییر و تحولی است که عشق در وجود عاشق ایجاد میکند. عشقی که با درد و رنج همراه است اما همین رنج برای عاشق نوعی لذت و شیرینی به همراه دارد.
۴. از کمند دادی گر آزارم خجل از من مباش
کرده ام خاطرنشان خویش صد تقصیر را
- از کمند دادی: "کمند" نماد زلف معشوق است که همچون دامی، عاشق را به دام عشق میاندازد.
- از کمند دادی گر آزارم خجل از من مباش: شاعر خطاب به معشوق میگوید اگر از دلباختگی من و اسیر زلف تو بودن، رنجی به تو میرسد و یا آزاری به تو میدهم، شرمنده من نباش.
- کرده ام خاطرنشان خویش صد تقصیر را: چون که من صدها بار در راه عشق تو خطا کردهام و خودم مسئول عواقب آن هستم.
۵. گشته دل پامال حسرت عشوه در کارش مکن
قلب زراندود ما ضایع کند اکسیر را
- گشته دل پامال حسرت عشوه در کارش مکن: شاعر خطاب به معشوق بیوفا میگوید دل من در اثر بیاعتنایی و ناز و عشوههای تو پایمال و شکسته شده است و دیگر طاقت ناز و اداهای تو را ندارد و از او میخواهد که دردش را بیشتر نکند.
- قلب زراندود ما ضایع کند اکسیر را: "زراندود" استعاره از دلی است که با عشق ارزشمند شده است و "اکسیر" کنایه از محبت و توجه معشوق است که مانند اکسیر میتواند دل زخم خورده شاعر را درمان کند. شاعر در این بیت میگوید قلبی که با عشق تو ارزشمند شده است ناز و ادا و بیاعتنایی تو آن را از بین میبرد.
۶. از نگاهی شد «نظیری » صید و من در انفعال
زان که آن وحشی نمیارزد بهای تیر را
- از نگاهی شد «نظیری » صید و من در انفعال: شاعر "نظیری" با یک نگاه اسیر و صید معشوق شده است و خود را در مقابل او، ناتوان میبیند.
- زان که آن وحشی نمیارزد بهای تیر را: شاعر در پایان معشوق را به آهویی وحشی تشبیه میکند که شکار آن ارزش تلاش و زحمت ندارد. چرا که معشوق هم مانند آهویی گریزپا و بیوفا است.
Out of Distribution
این شعر رو به LLM ای دادم و ازش خواستم معنی کنه خروجی زیر رو تولید کرد، عملکردش با این که عالی نیست ولی قابل توجهه: ۱. دیدمش در دل نهفتم آه بیتأثیر را در کمان از بس که دزدیدم شکستم تیر را دیدمش: شاعر معشوق را دیده و ناگهان مدهوش و مسحور زیبایی او شده است.…
منظور نظیری این بود؟
یکبار دیگه و این بار از طریق Chain of Thought سعی کردم از LLM معنی بگیرم چنین شد:
در واقع عاشق، صید معشوق شده اما حالا در جایگاه شکارچی نمیتونه تیر موثری بندازه و به طرف ابراز کنه.
یکبار دیگه و این بار از طریق Chain of Thought سعی کردم از LLM معنی بگیرم چنین شد:
غزل نظیری، روایتی از شکارِ بیرمق و صیدی گریزپااز صبح داشتم فکر میکردم چرا بیت آخر به بیت اول نمیخوره و معنیش چه میشه. الان اما با همین تفسیر آخر شاید بتونم حدسی بزنم. حدسم اینه که شاعر پنهانی عاشق کسی شده و هر بار با دیدنش وسوسه میشه که باهاش چشم تو چشم بشه اما نگاهش رو میدزده هر بار و نمیکنه. باقی ابیات شرح عشقشه تا بیت آخر. در بیت آخر میگه که با یک نگاه صید معشوق شده اما منفعله. چرا که فکر میکنه معشوقش به سان یک آهویی هست که غیرقابل شکاره و تیرانداختنش ارزش نداره و به جایی نمیرسه.
نظیری در این غزل، ما را به تماشای شکارگاهی عاطفی دعوت میکند؛ شکارگاهی که صیاد، اسیر نگاه شکار شده و تیری برای پرتاب ندارد.
بیت اول:
دیدمش در دل نهفتم آه بیتأثیر را / در کمان از بس که دزدیدم شکستم تیر را
در همان نگاه اول، تیر خلاص بر پیکرهی جان شاعر مینشیند. آهی از سر عشق و حسرت، نهفته در سینه، تنها سلاح اوست؛ سلاحی بیاثر در برابر صیدی گریزپا. شاعر، نگاهش را به دامان معشوق میدزدد، نگاهی پر از اشتیاق اما مملو از احتیاط. گویی میترسد نگاهش، معشوق را از او دورتر کند. تکرار "دزدیدن تیر" نشان از ضعف این تیر است. تیری که از شدت مراقبت و پنهان کاری، در کمان شکسته است و قدرت رها شدن و به هدف خوردن را ندارد.
بیت دوم:
پای رفتن نیست زین بزمم که در بیرون در / بخت دارد در کمین هجر گریبانگیر را
پاهای شاعر، توان جدایی از این محفل عشقی را ندارد. گویی میلی در وجودش، او را به سوی معشوق میکشد و اجازهی ترک معشوق را به او نمیدهد. او ماندن را بر رفتن ترجیح میدهد حتی اگر این ماندن، به قیمت تحمل رنج جدایی در آینده تمام شود. چرا که میداند "بخت" و سرنوشت، در بیرون از این مجلس، دام هجران و جدایی را برایش پهن کردهاند.
بیت سوم:
خوشدل از غیرم که در بزم وصال او نیافت / ذوق درد اضطراب و لذت تغییر را
درد عشق برای شاعر، لذتی خاص به همراه دارد. لذتی توام با اضطراب، بیقراری و تغییر. شاعر با وجود اینکه از بیمهری معشوق رنج میبرد، از اینکه رقیبانش هرگز نمیتوانند این درد شیرین را تجربه کنند، احساس رضایت میکند. گویی همین درد عاشقانه، او را از دیگران متمایز میسازد.
بیت چهارم:
از کمند دادی گر آزارم خجل از من مباش / کرده ام خاطرنشان خویش صد تقصیر را
"کمند زلف" نمادی از جذابیت و گیرایی معشوق است. شاعر، خطاب به معشوق میگوید اگر به خاطر اینکه اسیر کمند تو هستم و یا به خاطر وابستگی من رنجی به تو میرسد، شرمنده من نباش. گویی شاعر، خود را مسئول این اسارت میداند و تمامی تقصیرات را به عهده میگیرد.
بیت پنجم:
گشته دل پامال حسرت عشوه در کارش مکن / قلب زراندود ما ضایع کند اکسیر را
دل شاعر، زیر بار ناز و اداهای معشوق له شده و دیگر طاقت ندارد. معشوق قلب شاعر را با عشق خود، چنان گرانبها کرده است که گویی با زر پوشانده شده است. اما "اکسیر" محبت و توجه معشوق، تنها چیزی است که میتواند این قلب زراندود را از بین ببرد. اینجا "اکسیر" به معنای دوای درمان نیست بلکه به معنای چیزی است که باعث از بین رفتن ارزش و اعتبار قلب زراندود شاعر میشود.
بیت ششم:
از نگاهی شد «نظیری» صید و من در انفعال / زان که آن وحشی نمیارزد بهای تیر را
"نظیری" تنها با یک نگاه به دام عشق افتاده در حالی که شاعر، خود را در مقابل معشوق، کاملا ناتوان میبیند. او با تلخی معشوق را به "آهویی وحشی" تشبیه میکند که شکار او ارزش تلاش و از دست دادن "تیر" را ندارد.
در پایان:
نظیری در این غزل تصویری زیبا و در عین حال تلخ از عشق یک طرفه ارائه میدهد. عشقی که در آن عاشق، صیادی ناتوان است و معشوق، آهویی گریزپا و بیاعتنا
در واقع عاشق، صید معشوق شده اما حالا در جایگاه شکارچی نمیتونه تیر موثری بندازه و به طرف ابراز کنه.
کشاورزی اوپن سورس
امروز از طریق توییت آندرهآ کارپثی با این FarmBot آشنا شدم. به طور خلاصه فارمبات یک سیستم رباتیک و متنباز برای کشاورزیه که کارها رو خودکار میکنه و تو کشت مواد غذایی کمک میکنه. با این سیستم، دیگه نیازی به کار زیاد نیست چون یه بازوی رباتیک داره که بذرها رو میکار و آب میده و صرفا کافیه براش برنامه و پلن تعریف کرد، این که مثلا آقا هویج ها رو با چه پترنی بکار و به اون یکی ها به چه میزان آب بده و ... میتونید این ربات رو مطابق نیاز خودتون شخصیسازی کنید و با استفاده از حسگرها و دوربینها، وضعیت گیاهها و خاک رو بررسی کنید تا به بهترین نتیجه برسید. همه چیز هم از طریق یه رابط کاربری آنلاین کنترل میشه، پس میتونید از هر جایی برنامهریزی و نظارت کنید. در واقع فارم بات یک باغچه کوچولو هست که روش یک بازوی روباتیک با کلی ابزار هست که قابل برنامهریزی و شخصیسازی اتوماتیکه (از کاشتن گیاه گرفته تا آب دادنش و حتی سوزوندن علفهای هرز!! و ...) و در ضمن کمک میکنه با نهایت دقت عملیات کشت گیاه انجام بشه. قیمت نسخه پروش هم ۴۳۰۰ دلاره که به نظر میارزه. اگر خارج بودم میتونستم میخریدمش.
ویدئو برای آشنایی بیشتر:
https://www.youtube.com/watch?v=qwSbWy_1f8w
سایتشون:
https://farm.bot/
امروز از طریق توییت آندرهآ کارپثی با این FarmBot آشنا شدم. به طور خلاصه فارمبات یک سیستم رباتیک و متنباز برای کشاورزیه که کارها رو خودکار میکنه و تو کشت مواد غذایی کمک میکنه. با این سیستم، دیگه نیازی به کار زیاد نیست چون یه بازوی رباتیک داره که بذرها رو میکار و آب میده و صرفا کافیه براش برنامه و پلن تعریف کرد، این که مثلا آقا هویج ها رو با چه پترنی بکار و به اون یکی ها به چه میزان آب بده و ... میتونید این ربات رو مطابق نیاز خودتون شخصیسازی کنید و با استفاده از حسگرها و دوربینها، وضعیت گیاهها و خاک رو بررسی کنید تا به بهترین نتیجه برسید. همه چیز هم از طریق یه رابط کاربری آنلاین کنترل میشه، پس میتونید از هر جایی برنامهریزی و نظارت کنید. در واقع فارم بات یک باغچه کوچولو هست که روش یک بازوی روباتیک با کلی ابزار هست که قابل برنامهریزی و شخصیسازی اتوماتیکه (از کاشتن گیاه گرفته تا آب دادنش و حتی سوزوندن علفهای هرز!! و ...) و در ضمن کمک میکنه با نهایت دقت عملیات کشت گیاه انجام بشه. قیمت نسخه پروش هم ۴۳۰۰ دلاره که به نظر میارزه. اگر خارج بودم میتونستم میخریدمش.
ویدئو برای آشنایی بیشتر:
https://www.youtube.com/watch?v=qwSbWy_1f8w
سایتشون:
https://farm.bot/
YouTube
FarmBot - Take Back Control
#FarmBot is humanity's open-source CNC farming machine designed for small-scale automated food production. Take back control of the food system at https://farm.bot
Out of Distribution
خودمان را بیکار میکنیم هفتهای که گذشت، سرم شلوغ بود و هفته نسبتا پرکامیتی بود. سوال این که کامیت به چه زبانی و در چه فریمورکی؟ پایتون؟ خیر، زبان فارسی! در واقع بارها سعی کردم که به یک LLM چیزی را به زبان فارسی بفهمانم، و بارها راهحلهای مختلف رو تست کردم،…
پیشبینی kaplan از آینده مهندسی نرمافزار:
آقای Kaplan که سابقا ریسرچر استنفورد و دانشمند یادگیری ماشین در تسلا بوده و الان هم رییس یک استارتاپ در زمینه استفاده از AI برای مهندسی نرم افزار هست تو رشتویی راجع به آینده مهندسی نرمافزار پیشبینیهایی رو انجام داده که جالبه:
- میگه که اولا به زودی مدلها در زمینه کد بسیار بهتر میشن و توجه و سرمایهگذاری روی این حوزه بیشتر میشه.
- کاپلان به یک اهمیت مهم در کدزنی نسبت به بقیه کاربردهای احتمالی هوش مصنوعی اشاره میکنه و اون هم قابلیت Self Play هست. یعنی مدل میتونه کد بزنه و خودش اجراش کنه و بعد واسش تست بنویسه و نهایتا خودش چک کنه ببینه که آیا درست کار کرده یا نه. کاپلان به این خاصیت میگه automatic supervision و میگه که در اکثر دامینهای دیگه ممکن نیست ولی در کد زنی ممکنه.
- در نتیجه این تحولات، مفهوم مهندس نرمافزار تغییر میکنه و بیشتر شبیه به engineering manager میشه. جایی که هر نفر برای خودش انگار لشکری از اینترنهای مجازی خواهد داشت و وظیفه عامل انسانی بیشتر روی فهمیدن نیازمندیها، معماری سیستم و تصمیمگیری روی این که چی باید ساخت متمرکز میشه.
- بعدش با این امکانات سرعت ساخت نرمافزار دهها برابر بیشتر میشه و تعداد مهندسان نرمافزار هم بیشتر میشه ولی با یک تفاوت: بیشتر انگلیسی مینویسن و کمتر کد میزنن. و همانطور که در طی زمانی دولوپرها از اسمبلی به پایتون موو کردند، این تحول هم رخ میده.
لینک رشتو:
https://x.com/russelljkaplan/status/1820460524460802256
آقای Kaplan که سابقا ریسرچر استنفورد و دانشمند یادگیری ماشین در تسلا بوده و الان هم رییس یک استارتاپ در زمینه استفاده از AI برای مهندسی نرم افزار هست تو رشتویی راجع به آینده مهندسی نرمافزار پیشبینیهایی رو انجام داده که جالبه:
- میگه که اولا به زودی مدلها در زمینه کد بسیار بهتر میشن و توجه و سرمایهگذاری روی این حوزه بیشتر میشه.
- کاپلان به یک اهمیت مهم در کدزنی نسبت به بقیه کاربردهای احتمالی هوش مصنوعی اشاره میکنه و اون هم قابلیت Self Play هست. یعنی مدل میتونه کد بزنه و خودش اجراش کنه و بعد واسش تست بنویسه و نهایتا خودش چک کنه ببینه که آیا درست کار کرده یا نه. کاپلان به این خاصیت میگه automatic supervision و میگه که در اکثر دامینهای دیگه ممکن نیست ولی در کد زنی ممکنه.
- در نتیجه این تحولات، مفهوم مهندس نرمافزار تغییر میکنه و بیشتر شبیه به engineering manager میشه. جایی که هر نفر برای خودش انگار لشکری از اینترنهای مجازی خواهد داشت و وظیفه عامل انسانی بیشتر روی فهمیدن نیازمندیها، معماری سیستم و تصمیمگیری روی این که چی باید ساخت متمرکز میشه.
- بعدش با این امکانات سرعت ساخت نرمافزار دهها برابر بیشتر میشه و تعداد مهندسان نرمافزار هم بیشتر میشه ولی با یک تفاوت: بیشتر انگلیسی مینویسن و کمتر کد میزنن. و همانطور که در طی زمانی دولوپرها از اسمبلی به پایتون موو کردند، این تحول هم رخ میده.
لینک رشتو:
https://x.com/russelljkaplan/status/1820460524460802256
خاتمهناپذیری یا Open-Endedness برای هوش مصنوعی:
پیپری از گوگل دیپمایند در icml 2024 با عنوان Open-Endedness is Essential for Artificial Superhuman Intelligence اومده راجع به مفهومی به نام Open-Endedness در هوش مصنوعی صحبت کرده. حالا یعنی چی؟ میگه که این راهی که ما داریم میریم تهش به AGI یا همون Artificial General Intelligence هست و نهایتا عاملهای هوش مصنوعی خواهیم داشت که هوششون اندازه انسانه (چرا که نهایتا حجم دیتایی که میتونیم بهشون بخورونیم فراتر از حجم دیتای دست خودمون نیست) اما آیا میتونیم عاملهایی داشته باشیم که هوششون فراتر از انسان باشه (ASI)؟ بعد سر این بحث کرده که این فراتر از هوش انسان بودن یعنی چی. در همین راستا میاد این خاصیت Open-Endedness رو به صورت فرمال تعریف میکنه.
تعریف فرمالش اینه:
خود این تعریف نیازمند تعریف واژههای توشه. درکی که من از این خاتمهناپذیری گرفتم یک جورایی به سوالم درباره با این که خلاقیت چی هست پاسخ داد. برای این که تعریف خاتمهناپذیری واضحتر بشه پس با یک مثال از همین سمت خلاقیت هم ناظر و هم novel بودن و هم learnable بودن رو توضیح میدم.
فرض کنید یک عامل A داریم که این در هر روز یک نقاشی متمایز از یک شی دلبخواهی که بخواد (مثل گربه، فیل، منظره و ...) میکشه و در مقابلش هم یک عامل ناظر O داریم که نقاشی این رو میبینه و بایستی بگه که نقاشی عامل A راجع به چه شیای هست، از روی توزیع احتمال خروجی عامل O و همچنین لیبل واقعی نقاشی A میتونیم یک لاس داشته باشیم.
حالا این سیستم novel هست اگر که به ازای هر روز x، یک روز yای در آینده وجود داشته باشه که لاس روز y نسبت به لاس روز x بیشتر باشه. یعنی چی؟ یعنی انگار برای هر روزی، یک روز در آینده هست که باعث میشه عامل O شگفتی براش به وجود بیاره.
و این سیستم learnable هست اگر که به ازای هر روز xای، هر چه قدر تاریخچه و داده آموزشی از روزهای قبلی به عامل O بدیم در اون صورت لاس عامل O در روز x کمتر و کمتر بشه. یعنی چی؟ یعنی انگار هر چه قدر بیشتر عامل O ما تجربه به دست بیاره نسبت به خروجیهای عامل A بهتر میتونه پیشبینی کنه.
بودن این دو خاصیت learnability و novelty باعث میشه که آرتیفکتهای مدل A هم باعث سورپرایزشدن باشن و هم قبال حدسزدن باشن. برای مثال در تاریخ هنر، ما وقتی هر از چند گاهی با سبک مختلف نقاشی مواجه میشیم با این که برامون سورپرایز داره و در ابتدا سخته برامون حدس زدن این که دقیقا چه چیزی رو نقاشی کرده ولی هر چه قدر که تجربه بیشتری داشته باشیم بهتر میتونیم با سبک وفق بگیریم. به نظرم خلاقیت یعنی همین وجهه خاتمهناپذیری در تسکهای generation.
حالا این آرتیفکتهای مدل لازم نیست حتما در بعد generation باشه بلکه میتونه در بعد discrimination یا تولید تسک هم باشه که مقاله بهش اشاره کرده. مثلا مقاله خودش مثالش رو با در نظر گرفتن انواع فیزیک به عنوان آرتیفکتهای سیستم انسانی درنظر گرفته: فیزیک نیوتنی، فیزیک همیلتونی، فیزیک نسبیت، فیزیک کوانتوم و ...
لینک مقاله:
https://arxiv.org/abs/2406.04268
پیپری از گوگل دیپمایند در icml 2024 با عنوان Open-Endedness is Essential for Artificial Superhuman Intelligence اومده راجع به مفهومی به نام Open-Endedness در هوش مصنوعی صحبت کرده. حالا یعنی چی؟ میگه که این راهی که ما داریم میریم تهش به AGI یا همون Artificial General Intelligence هست و نهایتا عاملهای هوش مصنوعی خواهیم داشت که هوششون اندازه انسانه (چرا که نهایتا حجم دیتایی که میتونیم بهشون بخورونیم فراتر از حجم دیتای دست خودمون نیست) اما آیا میتونیم عاملهایی داشته باشیم که هوششون فراتر از انسان باشه (ASI)؟ بعد سر این بحث کرده که این فراتر از هوش انسان بودن یعنی چی. در همین راستا میاد این خاصیت Open-Endedness رو به صورت فرمال تعریف میکنه.
تعریف فرمالش اینه:
از نگاه یک ناظر، یک سیستم خاتمهناپذیر هست اگر و فقط اگر دنباله مصنوعات (artifact)هایی که تولید میکنه، برای اون ناظر هم novel باشن و هم learnable.
خود این تعریف نیازمند تعریف واژههای توشه. درکی که من از این خاتمهناپذیری گرفتم یک جورایی به سوالم درباره با این که خلاقیت چی هست پاسخ داد. برای این که تعریف خاتمهناپذیری واضحتر بشه پس با یک مثال از همین سمت خلاقیت هم ناظر و هم novel بودن و هم learnable بودن رو توضیح میدم.
فرض کنید یک عامل A داریم که این در هر روز یک نقاشی متمایز از یک شی دلبخواهی که بخواد (مثل گربه، فیل، منظره و ...) میکشه و در مقابلش هم یک عامل ناظر O داریم که نقاشی این رو میبینه و بایستی بگه که نقاشی عامل A راجع به چه شیای هست، از روی توزیع احتمال خروجی عامل O و همچنین لیبل واقعی نقاشی A میتونیم یک لاس داشته باشیم.
حالا این سیستم novel هست اگر که به ازای هر روز x، یک روز yای در آینده وجود داشته باشه که لاس روز y نسبت به لاس روز x بیشتر باشه. یعنی چی؟ یعنی انگار برای هر روزی، یک روز در آینده هست که باعث میشه عامل O شگفتی براش به وجود بیاره.
و این سیستم learnable هست اگر که به ازای هر روز xای، هر چه قدر تاریخچه و داده آموزشی از روزهای قبلی به عامل O بدیم در اون صورت لاس عامل O در روز x کمتر و کمتر بشه. یعنی چی؟ یعنی انگار هر چه قدر بیشتر عامل O ما تجربه به دست بیاره نسبت به خروجیهای عامل A بهتر میتونه پیشبینی کنه.
بودن این دو خاصیت learnability و novelty باعث میشه که آرتیفکتهای مدل A هم باعث سورپرایزشدن باشن و هم قبال حدسزدن باشن. برای مثال در تاریخ هنر، ما وقتی هر از چند گاهی با سبک مختلف نقاشی مواجه میشیم با این که برامون سورپرایز داره و در ابتدا سخته برامون حدس زدن این که دقیقا چه چیزی رو نقاشی کرده ولی هر چه قدر که تجربه بیشتری داشته باشیم بهتر میتونیم با سبک وفق بگیریم. به نظرم خلاقیت یعنی همین وجهه خاتمهناپذیری در تسکهای generation.
حالا این آرتیفکتهای مدل لازم نیست حتما در بعد generation باشه بلکه میتونه در بعد discrimination یا تولید تسک هم باشه که مقاله بهش اشاره کرده. مثلا مقاله خودش مثالش رو با در نظر گرفتن انواع فیزیک به عنوان آرتیفکتهای سیستم انسانی درنظر گرفته: فیزیک نیوتنی، فیزیک همیلتونی، فیزیک نسبیت، فیزیک کوانتوم و ...
لینک مقاله:
https://arxiv.org/abs/2406.04268
arXiv.org
Open-Endedness is Essential for Artificial Superhuman Intelligence
In recent years there has been a tremendous surge in the general capabilities of AI systems, mainly fuelled by training foundation models on internetscale data. Nevertheless, the creation of...
راجع به ردهبندی الو و LMSYS Chatbot Arena و Gemini و اینها
گوگل پس از چندی خفت و خواری در زمینه LLMها، سرانجام هفته پیش یک اتفاق مهم، یک اتفاق شاد رو تجربه کرد. اون اتفاق هم این بود که مدل Gemini-1.5-Pro سرانجام تونست صدرنشین بنچمارک LMSYS بشه و بالاتر از GPT-4o قرار بگیره. بنچمارک LMSYS Chatbot Arena حالا چی هست؟ این شکلیه که کاربران به سایتش رجوع میکنند و یک پرامپت رو مینویسن. از اونور دو تا LLM به رندوم در حالی که هویتشون مخفی از کاربر هست جواب این پرامپت رو برمیگردونن و در نهایت کاربر که هویت LLMها برش پنهان هست، تعیین میکنه جواب کدوم LLM بهتر بوده. اینطوری در نهایت یک جدول خواهیم داشت که نشون میده هر مدل با کدوم مدل چه قدر بازی کرده و چند تا رو برده یا باخته. اما از اونجایی که فرمت این مسابقات دو به دو، لیگ کامل نیست و ممکنه دو تا مدل بیشتر با هم بازی کنند پس چطوری امتیازات و رنکینگ نهاییشون حساب میشه؟ در واقع مساله اینه که فرض کنید یک تعداد بازیکن داریم که دو به دو با هم بازی میکنند چطور میتونیم اینها رو رنک کنیم؟
این مساله، مساله رایجی در شطرنج به حساب میاد و LMSYS هم از یکی از راهحلهایی که برای اونجا ارائه شده استفاده کرده. این راهحل Elo rating system هستش. به صورت خلاصه این شکلی هست که فرض میشه هر بازیکنی یک امتیازی داره. وقتی دو تا عامل قراره با هم بازی کنن، از روی امتیازاتشون یک احتمال برد یا بهتر بگم یک احتمال امتیازگیری برای هر عامل حساب میشه و بعد بر حسب نتیجه بازی و این احتمال پیش از بازی، به ریتینگ برنده اضافه و از ریتینگ بازنده کم میشه و این طوری میشه از بازیکنها یک رنک کلی به دست آورد. این طوری مثلا اگر یک بازیکن قوی یک بازیکن ضعیف رو ببره بابتش امتیاز کمی میگیره و بازیکن ضعیف امتیاز کمی ازش کم میشه. برعکس اگر یک بازیکن ضعیف یک بازیکن قوی رو ببره امتیاز زیادی بهش اضافه میشه و امتیاز زیادی از بازیکن قوی کم میشه.
لینک بنچمارک:
https://arena.lmsys.org/
لینک راجع به ردهبندی الو:
https://en.wikipedia.org/wiki/Elo_rating_system
گوگل پس از چندی خفت و خواری در زمینه LLMها، سرانجام هفته پیش یک اتفاق مهم، یک اتفاق شاد رو تجربه کرد. اون اتفاق هم این بود که مدل Gemini-1.5-Pro سرانجام تونست صدرنشین بنچمارک LMSYS بشه و بالاتر از GPT-4o قرار بگیره. بنچمارک LMSYS Chatbot Arena حالا چی هست؟ این شکلیه که کاربران به سایتش رجوع میکنند و یک پرامپت رو مینویسن. از اونور دو تا LLM به رندوم در حالی که هویتشون مخفی از کاربر هست جواب این پرامپت رو برمیگردونن و در نهایت کاربر که هویت LLMها برش پنهان هست، تعیین میکنه جواب کدوم LLM بهتر بوده. اینطوری در نهایت یک جدول خواهیم داشت که نشون میده هر مدل با کدوم مدل چه قدر بازی کرده و چند تا رو برده یا باخته. اما از اونجایی که فرمت این مسابقات دو به دو، لیگ کامل نیست و ممکنه دو تا مدل بیشتر با هم بازی کنند پس چطوری امتیازات و رنکینگ نهاییشون حساب میشه؟ در واقع مساله اینه که فرض کنید یک تعداد بازیکن داریم که دو به دو با هم بازی میکنند چطور میتونیم اینها رو رنک کنیم؟
این مساله، مساله رایجی در شطرنج به حساب میاد و LMSYS هم از یکی از راهحلهایی که برای اونجا ارائه شده استفاده کرده. این راهحل Elo rating system هستش. به صورت خلاصه این شکلی هست که فرض میشه هر بازیکنی یک امتیازی داره. وقتی دو تا عامل قراره با هم بازی کنن، از روی امتیازاتشون یک احتمال برد یا بهتر بگم یک احتمال امتیازگیری برای هر عامل حساب میشه و بعد بر حسب نتیجه بازی و این احتمال پیش از بازی، به ریتینگ برنده اضافه و از ریتینگ بازنده کم میشه و این طوری میشه از بازیکنها یک رنک کلی به دست آورد. این طوری مثلا اگر یک بازیکن قوی یک بازیکن ضعیف رو ببره بابتش امتیاز کمی میگیره و بازیکن ضعیف امتیاز کمی ازش کم میشه. برعکس اگر یک بازیکن ضعیف یک بازیکن قوی رو ببره امتیاز زیادی بهش اضافه میشه و امتیاز زیادی از بازیکن قوی کم میشه.
لینک بنچمارک:
https://arena.lmsys.org/
لینک راجع به ردهبندی الو:
https://en.wikipedia.org/wiki/Elo_rating_system
سوسیال دموکراسی در سوئد به روایت چراز
چراز در قسمت ۱۲ روز پیش خودش به این پرداخته که آیا واقعا سوسیال دموکراسی و ایده دولت رفاه ملی سبب بهبود و رشد وضع اقتصادی و رفاهی کشورهای اسکاندیناوی شده یا نه؟ در این مساله به طور خاص تاریخچه دولت سوئد رو با جزییات بررسی کرده. مطالب مهم این قسمت:
- شاخصههای دولت رفاه ملی یعنی خدمات رایگان از دولت برای ملت، مثل آموزش رایگان، درمان رایگان و حتی دادن درآمد بیکاری به افرادنیازمند
- اولین بار بیسمارک در ۱۸۹۰ ایده دولت رفاه ملی رو در پروس (آلمان امروزی) اجرا کرد. ناشی از ترس امکان کشیدهشدن شعلههای اتفاقات فرانسه به آلمان که البته موفق هم بود و پروس رو حفظ کرد.
- بعدها باز هم کشورهای مختلفی ایده دولت رفاه ملی رو اجرا کردند که خیلیهاشون ناموفق بودند. چرا که ایده دولت رفاه نیازمند هزینههای سنگینه و حتی با صرف این هزینه زیاد هم باز نتونستن مشکل فقر رو حل کنند. در بعضی موارد حتی این ایده سبب کسری بودجه دولت و افزایش تورم و بدترشدن اوضاع شده.
- کشورهای اسکاندیناوی ویژگیهای خاص خودشون رو دارن: کوچک هستند، در عین حال همگن هستند (از نظر مذهب و قومیت و فرهنگ و زبان)، سرمایه انسانی مناسبی دارند و تحت درگیری خشونتبار نیستند (یک گوشه ای دنیا هستند برای خودشون با خرسهای قطبی فوقش درگیر بشن) بنابراین نمیشه تجربیاتشون رو در کشورهای دیگه به امید رسیدن به سطح برابری اونها تکرار کرد.
- ثروت کشورهای اسکاندیناوی از کجا اومده؟ چراز اول نشون میده که شاخص آزادی اقتصادی در اسکاندیناوی از آمریکا و انگلیس هم بیشتره و اینها نسبت به آمریکا و انگلیس کاپیتالیستتر هستند. بعد در توضیح این پدیده استناد میکنه به تحلیل ماکس وبر و میگه که اخلاق پروتستانی کار در کشورهای اسکاندیناوی قویه. به این معنی که کسب ثروت فضیلت هست. بر خلاف کلیسای کاتولیک که تجارت رو حقیر میدونست و بهترین کار رو کشاورزی میدونست و برای همین هم بزرگترین زمینداران اروپای قرون وسطی بودند. بعد میگه که در سال ۱۸۳۰ نرخ باسوادی در سوئد ۷۵ درصد بوده!! که این هم ناشی از عدم انحصار دانش در دست کلیسا بوده. سوئدیها تحت تاثیر همین نرخ بالا با اندیشههای کاپیتالیستی آشنا میشن و در یک فرآیند صد ساله تا سال ۱۹۵۰ تبدیل به یک دولت ثروتمند میشن (داستان جالب روزنامه افتون بلادت بیست و ششم که نقش جالبی در قضیه آزادی مطبوعات هم داشته قابل خوندنه)
- حزب سوسیال دموکرات در سال ۱۹۵۲ قدرت رو برای اولین بار در سوئد به دست میگیره. سیاستهاش بهداشت و درمان رایگان، آموزش رایگان و درآمد بیکاری بود. اینها چنان مالیات میگرفتن که وقتی درآمد یک شخص از یک حدی بیشتر میشد مالیاتی که روش میبستن بیشتر از ۱۰۰ درصد میشد!
- سال ۱۹۸۲ حتی طرحی رو اجرا میکنن که کارخونهها و شرکتها بخشی از درآمدشون رو بریزن تو صندوقی و بعد با پول همین صندوق سهام اون کارخونه ها خریداری بشه و به کارگران اون کارخونه داده بشه. همین اتفاق باعث بروز بزرگترین تظاهرات تاریخ سوئد میشه.
- پس از سقوط شوروی بحران اقتصادی اروپا رو میگیره و سوئد دچار تورم بالا میشه طوری که یک سال نرخ بهره رو ۵۰۰ درصد میکنن تا کرون سقوط نکنه. از اون سال به بعد هر ساله محبوبیت دولت سوئد نزد مردمش کاهش پیدا کرد تا این که در آخرین انتخابات سرانجام باختند و دولت رو به احزاب دیگه سپردند و الان هم سیاستهای سوئد در حال تغییره.
در نهایت چراز مطرح میکنه که دولت رفاه ملی چیز قشنگیه ولی نیاز به هزینه داره و پرسش اصلی نه اجرا کردن یا نکردن دولت رفاه ملی که فراهم کردن این هزینه بدون ضربه زدن به اقتصاده. چراز معتقده که فرصتهای برابر باید برای همه افراد وجود داشته باشه اینجوری نباشه که وقتی کسی رشد کرد به زور چماق استفاده کنه تا بقیه ثروتمند نشن. دولت باید زمین بازی رو عادلانه طراحی کنه و از زمین بازی محافظت کنه.
لینک:
https://www.youtube.com/watch?v=nARmarorjoE
چراز در قسمت ۱۲ روز پیش خودش به این پرداخته که آیا واقعا سوسیال دموکراسی و ایده دولت رفاه ملی سبب بهبود و رشد وضع اقتصادی و رفاهی کشورهای اسکاندیناوی شده یا نه؟ در این مساله به طور خاص تاریخچه دولت سوئد رو با جزییات بررسی کرده. مطالب مهم این قسمت:
- شاخصههای دولت رفاه ملی یعنی خدمات رایگان از دولت برای ملت، مثل آموزش رایگان، درمان رایگان و حتی دادن درآمد بیکاری به افرادنیازمند
- اولین بار بیسمارک در ۱۸۹۰ ایده دولت رفاه ملی رو در پروس (آلمان امروزی) اجرا کرد. ناشی از ترس امکان کشیدهشدن شعلههای اتفاقات فرانسه به آلمان که البته موفق هم بود و پروس رو حفظ کرد.
- بعدها باز هم کشورهای مختلفی ایده دولت رفاه ملی رو اجرا کردند که خیلیهاشون ناموفق بودند. چرا که ایده دولت رفاه نیازمند هزینههای سنگینه و حتی با صرف این هزینه زیاد هم باز نتونستن مشکل فقر رو حل کنند. در بعضی موارد حتی این ایده سبب کسری بودجه دولت و افزایش تورم و بدترشدن اوضاع شده.
- کشورهای اسکاندیناوی ویژگیهای خاص خودشون رو دارن: کوچک هستند، در عین حال همگن هستند (از نظر مذهب و قومیت و فرهنگ و زبان)، سرمایه انسانی مناسبی دارند و تحت درگیری خشونتبار نیستند (یک گوشه ای دنیا هستند برای خودشون با خرسهای قطبی فوقش درگیر بشن) بنابراین نمیشه تجربیاتشون رو در کشورهای دیگه به امید رسیدن به سطح برابری اونها تکرار کرد.
- ثروت کشورهای اسکاندیناوی از کجا اومده؟ چراز اول نشون میده که شاخص آزادی اقتصادی در اسکاندیناوی از آمریکا و انگلیس هم بیشتره و اینها نسبت به آمریکا و انگلیس کاپیتالیستتر هستند. بعد در توضیح این پدیده استناد میکنه به تحلیل ماکس وبر و میگه که اخلاق پروتستانی کار در کشورهای اسکاندیناوی قویه. به این معنی که کسب ثروت فضیلت هست. بر خلاف کلیسای کاتولیک که تجارت رو حقیر میدونست و بهترین کار رو کشاورزی میدونست و برای همین هم بزرگترین زمینداران اروپای قرون وسطی بودند. بعد میگه که در سال ۱۸۳۰ نرخ باسوادی در سوئد ۷۵ درصد بوده!! که این هم ناشی از عدم انحصار دانش در دست کلیسا بوده. سوئدیها تحت تاثیر همین نرخ بالا با اندیشههای کاپیتالیستی آشنا میشن و در یک فرآیند صد ساله تا سال ۱۹۵۰ تبدیل به یک دولت ثروتمند میشن (داستان جالب روزنامه افتون بلادت بیست و ششم که نقش جالبی در قضیه آزادی مطبوعات هم داشته قابل خوندنه)
- حزب سوسیال دموکرات در سال ۱۹۵۲ قدرت رو برای اولین بار در سوئد به دست میگیره. سیاستهاش بهداشت و درمان رایگان، آموزش رایگان و درآمد بیکاری بود. اینها چنان مالیات میگرفتن که وقتی درآمد یک شخص از یک حدی بیشتر میشد مالیاتی که روش میبستن بیشتر از ۱۰۰ درصد میشد!
- سال ۱۹۸۲ حتی طرحی رو اجرا میکنن که کارخونهها و شرکتها بخشی از درآمدشون رو بریزن تو صندوقی و بعد با پول همین صندوق سهام اون کارخونه ها خریداری بشه و به کارگران اون کارخونه داده بشه. همین اتفاق باعث بروز بزرگترین تظاهرات تاریخ سوئد میشه.
- پس از سقوط شوروی بحران اقتصادی اروپا رو میگیره و سوئد دچار تورم بالا میشه طوری که یک سال نرخ بهره رو ۵۰۰ درصد میکنن تا کرون سقوط نکنه. از اون سال به بعد هر ساله محبوبیت دولت سوئد نزد مردمش کاهش پیدا کرد تا این که در آخرین انتخابات سرانجام باختند و دولت رو به احزاب دیگه سپردند و الان هم سیاستهای سوئد در حال تغییره.
در نهایت چراز مطرح میکنه که دولت رفاه ملی چیز قشنگیه ولی نیاز به هزینه داره و پرسش اصلی نه اجرا کردن یا نکردن دولت رفاه ملی که فراهم کردن این هزینه بدون ضربه زدن به اقتصاده. چراز معتقده که فرصتهای برابر باید برای همه افراد وجود داشته باشه اینجوری نباشه که وقتی کسی رشد کرد به زور چماق استفاده کنه تا بقیه ثروتمند نشن. دولت باید زمین بازی رو عادلانه طراحی کنه و از زمین بازی محافظت کنه.
لینک:
https://www.youtube.com/watch?v=nARmarorjoE
YouTube
تاریخچه دولت رفاه در کشورهای اسکاندیناوی
آیا اقتصاد اسکاندیناوی واقعاً سوسیالیستی است یا آزاد؟ در این ویدئو، به بررسی تاریخچه اقتصادی کشورهای اسکاندیناوی از دوران وایکینگها تا به امروز میپردازیم. از تفاوتها و شباهتهای اسکاندیناوی و نوردیک گرفته تا نقش و تاثیر سوسیالدموکراسی و اقتصاد بازار آزاد…
تاریخ فلسفه به روایت برایان مگی
خیلیها به فلسفه غرب علاقه مند میشن و دوست دارن مطالعه بیشتری داشته باشند. معروفترین و پرفروشترین کتاب در اینباره دنیای سوفی هست که تحت یک داستان و رمان سعی داره مخاطب رو به سیر تاریخ فلسفه آغشته کنه. حالا اگه کسی بخواد از نردبان بالاتر بره، یا باید بره شروع به خواندن آثار خاص فیلسوفها بکنه که در این صورت سخته که براش از قبل دونسته باشه با کدام فیلسوف بیشتر حال میکرده یا این که بره مثلا کتابهای تاریخ فلسفه نظیر کاپلستون یا راتلج رو بخونه. مشکل کاپلستون و راتلج هم البته اینه که اولا با ادبیات و اصطلاحات خاصی نوشته شدند و نمیشه فهمیدشون و هم این که مثلا فقط یک جلد برای فلسفه یونان اختصاص داده شده و اون حس و حال فهمیدن کلی داستان سیر فلسفه رو نمیدن. در میان این گپ فاصله بین علاقه به فلسفه تا پلههای بالاتر اما کتاب "The Story of Philosophy" برایان مگی به مثابه یک پله میانی مناسبه که تحت دو عنوان سرگدشت فلسفه توسط نشر نی و داستان فلسفه توسط نشر اختران ترجمه شده. کتاب در عین این که ۲۴۰ صفحه است کلیت خوبی داره و سیر مساله فلسفه رو به خوبی توضی میده و نه جایی کم میذاره و نه بیش از حد وارد جزییات میشه. نحوه روایتش هم ساده است طوری که حتی خوندن مسائل شناختشناسیاش رو هم مطابق میل و رغبت میکنه. کتاب صفحه آرایی جذابی داره و شامل باکسهای اطلاعاتی و البته تصاویر مرتبط رنگارنگه. همین تصاویر رنگارنگ البته احتمالا کاری کردند که چاپ کتاب گلاسه بشه (چرا واقعا) اما خب نسخه دیجیتالیش هم در فیدبو و طاقچه موجوده. من در این یک هفته ازش لذت بردم و شاید شما هم لذت ببرید. چند نکته جالبی که از دیدن سریع سیر فلاسفه برام جالب بود به یادگار اینها بودند:
- بسیاری از فیلسوفهای ماندگار در تاریخ کسانی بودند که بر خلاف هم عصرانشون، بیشترین تاثیر و نفوذشون تازه بعد از مرگشون حاصل شده و خودشون چه بسا از شهرت خودشون خبردار نشدند.
- بسیاری از این بندگان خدا، زندگی عادی نداشتند. خیلیهاشون در فقر زندگی رو گذراندند و خیلیهاشون هم هرگز ازدواج نکردند. خیلیهاشون هم بداخلاق و غیرقابل تعامل بودند. خییهاشون پایهگذار مسیر فکری شدند که خودشون مایل و متصور به ادامه اون مسیر نبودن.
- یک جمله از فیخته در کتاب ذکر شده بود که برای من جالب بود: "این که شخص چه نوع فلسفهای را انتخاب میکند بستگی دارد به این که چه نوع آدمی است"
نوتهایم قسمت اول:
https://telegra.ph/%DA%A9%D8%AA%D8%A7%D8%A8-%D8%B3%D8%B1%DA%AF%D8%B0%D8%B4%D8%AA-%D9%81%D9%84%D8%B3%D9%81%D9%87-%D8%A8%D8%B1%D8%A7%DB%8C%D8%A7%D9%86-%D9%85%DA%AF%DB%8C-08-23
نوتهایم قسمت دوم:
https://telegra.ph/%DA%A9%D8%AA%D8%A7%D8%A8-%D8%B3%D8%B1%DA%AF%D8%B0%D8%B4%D8%AA-%D9%81%D9%84%D8%B3%D9%81%D9%87-%D8%A8%D8%B1%D8%A7%DB%8C%D8%A7%D9%86-%D9%85%DA%AF%DB%8C-%D9%82%D8%B3%D9%85%D8%AA-%D8%AF%D9%88%D9%85-09-21
خیلیها به فلسفه غرب علاقه مند میشن و دوست دارن مطالعه بیشتری داشته باشند. معروفترین و پرفروشترین کتاب در اینباره دنیای سوفی هست که تحت یک داستان و رمان سعی داره مخاطب رو به سیر تاریخ فلسفه آغشته کنه. حالا اگه کسی بخواد از نردبان بالاتر بره، یا باید بره شروع به خواندن آثار خاص فیلسوفها بکنه که در این صورت سخته که براش از قبل دونسته باشه با کدام فیلسوف بیشتر حال میکرده یا این که بره مثلا کتابهای تاریخ فلسفه نظیر کاپلستون یا راتلج رو بخونه. مشکل کاپلستون و راتلج هم البته اینه که اولا با ادبیات و اصطلاحات خاصی نوشته شدند و نمیشه فهمیدشون و هم این که مثلا فقط یک جلد برای فلسفه یونان اختصاص داده شده و اون حس و حال فهمیدن کلی داستان سیر فلسفه رو نمیدن. در میان این گپ فاصله بین علاقه به فلسفه تا پلههای بالاتر اما کتاب "The Story of Philosophy" برایان مگی به مثابه یک پله میانی مناسبه که تحت دو عنوان سرگدشت فلسفه توسط نشر نی و داستان فلسفه توسط نشر اختران ترجمه شده. کتاب در عین این که ۲۴۰ صفحه است کلیت خوبی داره و سیر مساله فلسفه رو به خوبی توضی میده و نه جایی کم میذاره و نه بیش از حد وارد جزییات میشه. نحوه روایتش هم ساده است طوری که حتی خوندن مسائل شناختشناسیاش رو هم مطابق میل و رغبت میکنه. کتاب صفحه آرایی جذابی داره و شامل باکسهای اطلاعاتی و البته تصاویر مرتبط رنگارنگه. همین تصاویر رنگارنگ البته احتمالا کاری کردند که چاپ کتاب گلاسه بشه (چرا واقعا) اما خب نسخه دیجیتالیش هم در فیدبو و طاقچه موجوده. من در این یک هفته ازش لذت بردم و شاید شما هم لذت ببرید. چند نکته جالبی که از دیدن سریع سیر فلاسفه برام جالب بود به یادگار اینها بودند:
- بسیاری از فیلسوفهای ماندگار در تاریخ کسانی بودند که بر خلاف هم عصرانشون، بیشترین تاثیر و نفوذشون تازه بعد از مرگشون حاصل شده و خودشون چه بسا از شهرت خودشون خبردار نشدند.
- بسیاری از این بندگان خدا، زندگی عادی نداشتند. خیلیهاشون در فقر زندگی رو گذراندند و خیلیهاشون هم هرگز ازدواج نکردند. خیلیهاشون هم بداخلاق و غیرقابل تعامل بودند. خییهاشون پایهگذار مسیر فکری شدند که خودشون مایل و متصور به ادامه اون مسیر نبودن.
- یک جمله از فیخته در کتاب ذکر شده بود که برای من جالب بود: "این که شخص چه نوع فلسفهای را انتخاب میکند بستگی دارد به این که چه نوع آدمی است"
نوتهایم قسمت اول:
https://telegra.ph/%DA%A9%D8%AA%D8%A7%D8%A8-%D8%B3%D8%B1%DA%AF%D8%B0%D8%B4%D8%AA-%D9%81%D9%84%D8%B3%D9%81%D9%87-%D8%A8%D8%B1%D8%A7%DB%8C%D8%A7%D9%86-%D9%85%DA%AF%DB%8C-08-23
نوتهایم قسمت دوم:
https://telegra.ph/%DA%A9%D8%AA%D8%A7%D8%A8-%D8%B3%D8%B1%DA%AF%D8%B0%D8%B4%D8%AA-%D9%81%D9%84%D8%B3%D9%81%D9%87-%D8%A8%D8%B1%D8%A7%DB%8C%D8%A7%D9%86-%D9%85%DA%AF%DB%8C-%D9%82%D8%B3%D9%85%D8%AA-%D8%AF%D9%88%D9%85-09-21
Telegram
stuff
بیکارشدن آکادمی با AI؟
دنیای علم و ریسرچ و آکادمی، با وجود تمام جذابیتهاش ولی وقتی تبدیل به یک بازار و صنعت و زمین بازی میشه و بروکراسی پیدا میکنه تبدیل به یک ابتذال میشه. عده زیادی شغلشون این میشه که باید مقالهای بنویسن که نوآوری داشته باشه ولو به درد نخوره، از اون ور هم عدهای شغلشون این میشه که این پیپرها رو ریویو کنند و توش گیر پیدا کنند و به همین ترتیب نظمی شکل میگیره که تو اون در هر حوزه سالانه تعداد خیلی زیادی مقاله چاپ میشن بدون این که نه کاربردی داشته باشند و نه حتی دید جدیدی بدن و واقعا نوآوری داشته باشند. حالا چرخ این نظم رو چطور میشه متوقفش کرد؟ با ارزونکردن و سپس اتوماتکردن کل این فرآیند. مرتبط با همین موضوع، امروز پیپری منتشر شده که در اون مدلی به نام AI Scientist پیشنهاد شده. هدف این مدل اینه که بتونه ریسرچ اتوماتیک انجام بده و اتوماتیک هم پیپرش رو بنویسه. معماری AI Scientist خودش چهار بخش داره:
- بخشی که مسئول طرح ایده است و خروجیش ایده است.
- بخشی که مسئول طراحی و کدنویسی و اجرای experiment ها از روی ایده مرحله قبله و خروجیاش نتایجه.
- بخشی که مسئول نوشتن متن مقاله از روی نتایج دو بخش قبلیه.
- و البته یک عامل paper reviewer هم توسعه دادند که پیپر رو میخونه و امتیازدهی میکنه و اینجوری میتونه یک لوپ فیدبک شکل بده.
هر کدوم از این مراحل AI Scientist شامل زیربخشها جزییتر میشن و در اونها از LLM استفاده شده. چند نمونه پپیر هم خودشون در زمینههای Diffusion Model و Transformerو Dynamical System ها جنریت کردند و هزینه هر مقاله هم حدود ۱۵ دلار دراومده. کیفیت AI Scientist جالبه و در ظاهر نمیشه تشخیص داد که پیپری که تولید شده توسط AI هست و نمرهای که توسط ai paper reviewer خودشون هم دریافت کردند نزدیک به پیپرهای عادی و اکسپت شده است ولی قاعدتا در حد AGI هم نمیشه ازش انتظار داشت. نکته مهم اما پایپلاین کلشه که میتونه امیدبخش باشه. پایپلاینی که صفر تا صد از تولید ایده تا کدنویسی و نوشتن متن مقاله و نهایتا ریویوش رو خودش انجام میده. میشه انتظار داشت که مثلا در طی ۵ سال آینده استارتاپهایی داشته باشیم که با گرفتن موضوع بیان و یک پیپر برای اون موضوع جنریت کنند، چیزی معادل بیکار کردن سفارش گیرنده های مقاله خیابون انقلاب!
اما در مورد چیزی که ازش به عنوان automatic scientific discovery نام برده میشه، احتمالا ما هنوز عنصر خلاقیت رو کم داریم که قبلا راجع به openendedness صحبت کرده بودیم. در واقع پیپرهای تولیدشده توسط AI Scientist احتمالا و شاید یک جور interpolation بین مجموعه ایدهها و افکار حال حاضر دنیا باشن. کاری که البته همین الانش هم ۹۹.۹ درصد آکادمی همون کار رو میکنه.
لینک:
https://sakana.ai/ai-scientist/
پینوشت: Generative AI پتانسیلها زیادی در حوزههای مختلف داره که هنوز مورد کاوش قرار نگرفتند. در واقع هر مدل generativeای به عنوان یک ابزار میتونه در یک معماری بزرگتر قرار بگیره و نهایتا فرآیندهای مختلفی که به ذهن ما نمیرسه رو ارزان کنه. برای این کار لازم نیست که حتما اون مدل به تنهایی در نقش AGI قرار بگیره بلکه کافیه که با یک ترکیب درست در کنار سایر چیزهای لازم قرار داشته باشه.
دنیای علم و ریسرچ و آکادمی، با وجود تمام جذابیتهاش ولی وقتی تبدیل به یک بازار و صنعت و زمین بازی میشه و بروکراسی پیدا میکنه تبدیل به یک ابتذال میشه. عده زیادی شغلشون این میشه که باید مقالهای بنویسن که نوآوری داشته باشه ولو به درد نخوره، از اون ور هم عدهای شغلشون این میشه که این پیپرها رو ریویو کنند و توش گیر پیدا کنند و به همین ترتیب نظمی شکل میگیره که تو اون در هر حوزه سالانه تعداد خیلی زیادی مقاله چاپ میشن بدون این که نه کاربردی داشته باشند و نه حتی دید جدیدی بدن و واقعا نوآوری داشته باشند. حالا چرخ این نظم رو چطور میشه متوقفش کرد؟ با ارزونکردن و سپس اتوماتکردن کل این فرآیند. مرتبط با همین موضوع، امروز پیپری منتشر شده که در اون مدلی به نام AI Scientist پیشنهاد شده. هدف این مدل اینه که بتونه ریسرچ اتوماتیک انجام بده و اتوماتیک هم پیپرش رو بنویسه. معماری AI Scientist خودش چهار بخش داره:
- بخشی که مسئول طرح ایده است و خروجیش ایده است.
- بخشی که مسئول طراحی و کدنویسی و اجرای experiment ها از روی ایده مرحله قبله و خروجیاش نتایجه.
- بخشی که مسئول نوشتن متن مقاله از روی نتایج دو بخش قبلیه.
- و البته یک عامل paper reviewer هم توسعه دادند که پیپر رو میخونه و امتیازدهی میکنه و اینجوری میتونه یک لوپ فیدبک شکل بده.
هر کدوم از این مراحل AI Scientist شامل زیربخشها جزییتر میشن و در اونها از LLM استفاده شده. چند نمونه پپیر هم خودشون در زمینههای Diffusion Model و Transformerو Dynamical System ها جنریت کردند و هزینه هر مقاله هم حدود ۱۵ دلار دراومده. کیفیت AI Scientist جالبه و در ظاهر نمیشه تشخیص داد که پیپری که تولید شده توسط AI هست و نمرهای که توسط ai paper reviewer خودشون هم دریافت کردند نزدیک به پیپرهای عادی و اکسپت شده است ولی قاعدتا در حد AGI هم نمیشه ازش انتظار داشت. نکته مهم اما پایپلاین کلشه که میتونه امیدبخش باشه. پایپلاینی که صفر تا صد از تولید ایده تا کدنویسی و نوشتن متن مقاله و نهایتا ریویوش رو خودش انجام میده. میشه انتظار داشت که مثلا در طی ۵ سال آینده استارتاپهایی داشته باشیم که با گرفتن موضوع بیان و یک پیپر برای اون موضوع جنریت کنند، چیزی معادل بیکار کردن سفارش گیرنده های مقاله خیابون انقلاب!
اما در مورد چیزی که ازش به عنوان automatic scientific discovery نام برده میشه، احتمالا ما هنوز عنصر خلاقیت رو کم داریم که قبلا راجع به openendedness صحبت کرده بودیم. در واقع پیپرهای تولیدشده توسط AI Scientist احتمالا و شاید یک جور interpolation بین مجموعه ایدهها و افکار حال حاضر دنیا باشن. کاری که البته همین الانش هم ۹۹.۹ درصد آکادمی همون کار رو میکنه.
لینک:
https://sakana.ai/ai-scientist/
پینوشت: Generative AI پتانسیلها زیادی در حوزههای مختلف داره که هنوز مورد کاوش قرار نگرفتند. در واقع هر مدل generativeای به عنوان یک ابزار میتونه در یک معماری بزرگتر قرار بگیره و نهایتا فرآیندهای مختلفی که به ذهن ما نمیرسه رو ارزان کنه. برای این کار لازم نیست که حتما اون مدل به تنهایی در نقش AGI قرار بگیره بلکه کافیه که با یک ترکیب درست در کنار سایر چیزهای لازم قرار داشته باشه.
sakana.ai
Sakana AI
The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery
دنیای واقعی بر خلاف بنچمارکهای آکادمیک، flexibility میخواهد
امروز یک پیپر ساده و تقریبا بدون نوآوری ولی جالب خوندم. تسک image classification رو به عنوان تسک هدف در نظر گرفته و بحث رو این طوری شروع میکنه که شما وقتی یک شبکه عصبی رو برای این تسک آموزش میدید بعد که فرآیند آموزش تموم شد، دستکاری و ویرایش دانش اون شبکه عصبی تقریبا نشدنیه. مثلا فرض کنید یک مدل دارید که از روی عکس تشخیص میده اون عکس چیه دو روز دیگه بخواید دستهای رو به اون دستهبند اضافه کنید یا دادهای رو ازش unlearn کنید سخت و نشدنیه. پیشنهادی که میده اینه که رپرزنتیشن باید از تصمیمگیری به کمک داشتن یک visual memory جدا بشه. یعنی مثلا به کمک مدلهای clip یا dino-v2 بیایم از تصاویر یک دیتاست رپرزنتیشن بگیریم و به مثابه یک دیتابیس بزرگ ذخیره کنیم بعد موقع کوئری زدن و اینفرنس گرفتن ببینیم رپرزنتیشن این کوئری به کدوم تصاویر اون visual memory نزدیکه و تصمیم بگیریم برچسب این تصویر چیه. ایدهاش همونطور که گفتم هیچ گونه نوآوری نداره و صرفا مدلهای clip و dinov2 با knn هست (به جز این که یک تابع رایگیری جدید معرفی کرده و البته یک جایی هم از مدل Gemini در حکم رایگیرنده استفاده کرده، این طوری که مثلا ده تا نمونه نزدیک به کوئری رو به همراه تصویر داده به Gemini گفته که بگو به نظرت لیبل این تصویر چیه و نشون داده که عملکرد نسبت به هر کدوم از حالتها بدون Gemini و بدون instance بهتر شده).
نکته خوب پیپر بحث و دعواش روی flexibility هست. میگه که فقط در دنیای آکادمی هست که شما با یک سری دیتاست استاتیک ثابت مواجهاید که صرفا باید دقت بالاتر روی اونها ثبت کنید. چالش اصلی که در دنیای واقعی وجود داره همین امکان قابلیت انعطاف مدل هست و استفاده از memory در کنار مدلها میتونه یک جور ماژولاریتی به قضیه اضافه کنه و امکان انعطاف رو هم به ما بده. تو اکسپریمنتهای طراحی شدهاش هم اومده اینها رو بررسی کرده این شیوه هم قابلیت اضافهشدن داده و دسته جدید داره، هم قابلیت حذف داده و دسته رو داره و هم این که تفسیرپذیرتره.
لینک پیپر:
https://arxiv.org/abs/2408.08172
پینوشت ۱: چیزی که باعث شده این مقاله بتونه آزمایشاتش رو سوار کنه ظهور مدلهایی مثل clip و dino-v2 هستند که رپرزنتیشنهای با کیفیت خیلی خوب تولید میکنند.
امروز یک پیپر ساده و تقریبا بدون نوآوری ولی جالب خوندم. تسک image classification رو به عنوان تسک هدف در نظر گرفته و بحث رو این طوری شروع میکنه که شما وقتی یک شبکه عصبی رو برای این تسک آموزش میدید بعد که فرآیند آموزش تموم شد، دستکاری و ویرایش دانش اون شبکه عصبی تقریبا نشدنیه. مثلا فرض کنید یک مدل دارید که از روی عکس تشخیص میده اون عکس چیه دو روز دیگه بخواید دستهای رو به اون دستهبند اضافه کنید یا دادهای رو ازش unlearn کنید سخت و نشدنیه. پیشنهادی که میده اینه که رپرزنتیشن باید از تصمیمگیری به کمک داشتن یک visual memory جدا بشه. یعنی مثلا به کمک مدلهای clip یا dino-v2 بیایم از تصاویر یک دیتاست رپرزنتیشن بگیریم و به مثابه یک دیتابیس بزرگ ذخیره کنیم بعد موقع کوئری زدن و اینفرنس گرفتن ببینیم رپرزنتیشن این کوئری به کدوم تصاویر اون visual memory نزدیکه و تصمیم بگیریم برچسب این تصویر چیه. ایدهاش همونطور که گفتم هیچ گونه نوآوری نداره و صرفا مدلهای clip و dinov2 با knn هست (به جز این که یک تابع رایگیری جدید معرفی کرده و البته یک جایی هم از مدل Gemini در حکم رایگیرنده استفاده کرده، این طوری که مثلا ده تا نمونه نزدیک به کوئری رو به همراه تصویر داده به Gemini گفته که بگو به نظرت لیبل این تصویر چیه و نشون داده که عملکرد نسبت به هر کدوم از حالتها بدون Gemini و بدون instance بهتر شده).
نکته خوب پیپر بحث و دعواش روی flexibility هست. میگه که فقط در دنیای آکادمی هست که شما با یک سری دیتاست استاتیک ثابت مواجهاید که صرفا باید دقت بالاتر روی اونها ثبت کنید. چالش اصلی که در دنیای واقعی وجود داره همین امکان قابلیت انعطاف مدل هست و استفاده از memory در کنار مدلها میتونه یک جور ماژولاریتی به قضیه اضافه کنه و امکان انعطاف رو هم به ما بده. تو اکسپریمنتهای طراحی شدهاش هم اومده اینها رو بررسی کرده این شیوه هم قابلیت اضافهشدن داده و دسته جدید داره، هم قابلیت حذف داده و دسته رو داره و هم این که تفسیرپذیرتره.
لینک پیپر:
https://arxiv.org/abs/2408.08172
پینوشت ۱: چیزی که باعث شده این مقاله بتونه آزمایشاتش رو سوار کنه ظهور مدلهایی مثل clip و dino-v2 هستند که رپرزنتیشنهای با کیفیت خیلی خوب تولید میکنند.
پارسا حقیقی
امروز صبح دیدم یکی از بچهها بعد از مدتها پیام داده، چتش را باز کردم: "ظاهرا یه اتفاق برای پارسا حقیقی افتاده، خبر داری؟" من هم نوشتم "نه چه اتفاقی؟". از آن جا که میدانستم در پروسه رفتن است فکر کردم شاید مشکلی برای ویزایش پیش آمده یا چیز مربوط دیگری. پیام و عکس جدیدی در چت آمد. باز کردم دانلود شود و .... ! در چند صد میلی ثانیه اول که مغز آدم هنوز کامل به تصمیم گیری نرسیده سوالم این بود که عکس پارسا در آگهی ترحیم چه میکند و نه بابا اصلا آگهی ترحیم کجا بود. در کمتر از یک ثانیه تازه دوزاریام جا افتاد. وقتی خبر فوت یک نفر را میشنوی اولین سوالی که ذهنت میآید این است که یعنی واقعا من واقعا تا ابد دیگر این فرد را نمیبینم؟ دیگر نمیتوانم با او حرف بزنم؟ و فکت عجیبی است. مرگهای ناگهانی به مانند تمام چیزهای گسسته دیگرند. بیرحمند.
بخواهم توصیفش کنم، پارسا حقیقی، به تعبیر امین، آدم حقیقتا خوش قلبی بود. کسی را آزار نمیداد. نیرنگ در کارش نمیکرد. در عین حال هم شجاع بود و حرفش را میزد. اجتماعی هم بود. راحت با آدمهای دیگر گرم میگرفت و تعامل با او تکلفی نداشت. از آن مذهبیهای داغ محسوب نمیشد ولی خیلی به مفهوم توکل باور داشت (چیزی که من وامانده بین جبر و اختیار برایم ادراکنکردنی است). کما این که بیو تلگرام هم "وَمَن يَتَّقِ ٱلله يَجعَل له مَخرَجا" مانده و خیلی خیلی امیدوار بود. دست تقدیر ولی عجیب بود که آخر چند ماه بعد از عقدش و چند روز قبل از پروازش به آن ور مرزها، این چنین پروازش داد. لحن و نوع صحبت کردنش جذاب بود، طوری که آدم از شنیدنش خسته نمیشد. آخرین باری که با هم صحبت کردیم حدود یک ماه قبل و بین دور اول و دوم انتخابات بود. در گروه دانشکده بحث میکرد و من بهش پیام دادم چه حوصلهای داری حاجی. یک چند پیامی بینمان رد و بدل شد. امروز رفتم دیدم که آخرین پیام را او داده بود و سوالی کرده بود و من یادم رفته بود ادامه دهم. حسرت بر دلم ماند چرا مکالمه را ادامه ندادم. آن پرسش همیشگی بعد از فوت آدمها، دوباره به سراغ آدم میآید. یعنی من دیگر این شخص را تجربه نخواهم کرد؟ هر وقت که عزیزی میمیرد و آدم با رفتن آنها مواجه میشود با خود میگوید کاش دنیای دیگری باشد. نه برای بهشت و جهنمش که برای حداقل خداحافظی با کسانی که دوستشان داشتیم ...
پینوشت: چند ماه پیش صحبت میکردیم، پارسا شعری را به این مدلهای تصویرساز داد. امروز که پیام را دیدم ماندم چه قدر عجیب. پیام بعدی آن را به یادگار از پارسا فوروارد میکنم.
امروز صبح دیدم یکی از بچهها بعد از مدتها پیام داده، چتش را باز کردم: "ظاهرا یه اتفاق برای پارسا حقیقی افتاده، خبر داری؟" من هم نوشتم "نه چه اتفاقی؟". از آن جا که میدانستم در پروسه رفتن است فکر کردم شاید مشکلی برای ویزایش پیش آمده یا چیز مربوط دیگری. پیام و عکس جدیدی در چت آمد. باز کردم دانلود شود و .... ! در چند صد میلی ثانیه اول که مغز آدم هنوز کامل به تصمیم گیری نرسیده سوالم این بود که عکس پارسا در آگهی ترحیم چه میکند و نه بابا اصلا آگهی ترحیم کجا بود. در کمتر از یک ثانیه تازه دوزاریام جا افتاد. وقتی خبر فوت یک نفر را میشنوی اولین سوالی که ذهنت میآید این است که یعنی واقعا من واقعا تا ابد دیگر این فرد را نمیبینم؟ دیگر نمیتوانم با او حرف بزنم؟ و فکت عجیبی است. مرگهای ناگهانی به مانند تمام چیزهای گسسته دیگرند. بیرحمند.
بخواهم توصیفش کنم، پارسا حقیقی، به تعبیر امین، آدم حقیقتا خوش قلبی بود. کسی را آزار نمیداد. نیرنگ در کارش نمیکرد. در عین حال هم شجاع بود و حرفش را میزد. اجتماعی هم بود. راحت با آدمهای دیگر گرم میگرفت و تعامل با او تکلفی نداشت. از آن مذهبیهای داغ محسوب نمیشد ولی خیلی به مفهوم توکل باور داشت (چیزی که من وامانده بین جبر و اختیار برایم ادراکنکردنی است). کما این که بیو تلگرام هم "وَمَن يَتَّقِ ٱلله يَجعَل له مَخرَجا" مانده و خیلی خیلی امیدوار بود. دست تقدیر ولی عجیب بود که آخر چند ماه بعد از عقدش و چند روز قبل از پروازش به آن ور مرزها، این چنین پروازش داد. لحن و نوع صحبت کردنش جذاب بود، طوری که آدم از شنیدنش خسته نمیشد. آخرین باری که با هم صحبت کردیم حدود یک ماه قبل و بین دور اول و دوم انتخابات بود. در گروه دانشکده بحث میکرد و من بهش پیام دادم چه حوصلهای داری حاجی. یک چند پیامی بینمان رد و بدل شد. امروز رفتم دیدم که آخرین پیام را او داده بود و سوالی کرده بود و من یادم رفته بود ادامه دهم. حسرت بر دلم ماند چرا مکالمه را ادامه ندادم. آن پرسش همیشگی بعد از فوت آدمها، دوباره به سراغ آدم میآید. یعنی من دیگر این شخص را تجربه نخواهم کرد؟ هر وقت که عزیزی میمیرد و آدم با رفتن آنها مواجه میشود با خود میگوید کاش دنیای دیگری باشد. نه برای بهشت و جهنمش که برای حداقل خداحافظی با کسانی که دوستشان داشتیم ...
پینوشت: چند ماه پیش صحبت میکردیم، پارسا شعری را به این مدلهای تصویرساز داد. امروز که پیام را دیدم ماندم چه قدر عجیب. پیام بعدی آن را به یادگار از پارسا فوروارد میکنم.
Telegram
stuff
Forwarded from Parsa Haghighi
«به کجا چنین شتابان؟»
گَوَن از نسیم پرسید
«دلِ من گرفته زینجا
هوس سفر نداری
ز غبار این بیابان؟»
«همه آرزویم، اما
چه کنم که بسته پایم...»
«به کجا چنین شتابان؟»
«به هر آن کجا که باشد به جز این سرا سرایم»
«سفرت به خیر! اما، تو و دوستی، خدا را
چو ازین کویرِ وحشت به سلامتی گذشتی
به شکوفه ها به باران
برسان سلامِ ما را»
گَوَن از نسیم پرسید
«دلِ من گرفته زینجا
هوس سفر نداری
ز غبار این بیابان؟»
«همه آرزویم، اما
چه کنم که بسته پایم...»
«به کجا چنین شتابان؟»
«به هر آن کجا که باشد به جز این سرا سرایم»
«سفرت به خیر! اما، تو و دوستی، خدا را
چو ازین کویرِ وحشت به سلامتی گذشتی
به شکوفه ها به باران
برسان سلامِ ما را»
رسوایی پیامهای ناشناس و چند سوال فلسفی
دیشب یک عده هکر کلاه سفید مدعی شدند که چند بات پیام ناشناس تلگرام رو هک کردند و فهمیدند که صاحبان این باتهای پیام ناشناس، پیامهای مردم رو (از متنها گرفته تا صوت و تصویر و فیلمها) رو ذخیره میکردند. ۱۴ میلیون یوزر، ۴۵۰ میلیون چت، ۱۱ میلیون عکس و ۳ میلیون ویدئو مقیاس این دادههای احتمال بسیار حساس بودند! متاسفانه و یا خوشبختانه این هکرها اطلاعات رو نه به صورت فروشی و نه به صورت رایگان منتشر نکردند و از مردم هم خواستند که دیگه به این باتها اعتماد نکنند. اما حالا فرض کنید اگر میومدن و این دادهها رو اوپن سورس میکردند و در اختیار همه قرار میدادند، چه اتفاقی رخ میداد؟ :))) با یک بحران ملی مواجه میشدیم! هر کسی احتمالا میرفت چک میکرد که چه کسانی بهش پیام دادند و کسایی که میشناختتشون به چه کسانی پیام داده. نتیجتا آبروی بسیاری به باد میرفت و حجم زیادی دشمنی و بیاعتمادی بین افراد وجود میومد. فکر میکنم که اگر قرار بود نولان، dark knight اش رو در این دهه میساخت یکی از سناریو فعالیتهای محتمل جوکر قطعا چنین چیزی بود: پابلیککردن بخشی از صورتهای واقعی مردم به روی همدیگه! و بنگ! چه قدر جذاب میشد.
اما حالا بیایید این سناریو رو در دو حالت اکستریمتر بررسی کنیم. اگر دنیایی داشتیم که در اون همه کارها و نیات افراد برای همه افراد پابلیک بود چه اتفاقی میافتاد؟ شفافیت کامل باعث میشد افراد به سمت تقابل و شکستن کمتر قانون و هنجار برن یا برعکس، با شفاف شدن همه چیز افراد فارغ از هر نوع نگرانی تمام سعی و تلاششون رو برای رقابت و به دست آوردن چیزی که میخوان به کار میبستن؟ نیت افراد چه؟ عوض میشد؟ مثلا من نسبت به یکی از دوستانم نظر منفی داشته باشم و بخوام اون رو ضایع کنم، در صورتی که بدونم نیتم توسط بقیه خونده میشه ناچارا نیتم عوض میشه یا نهایتا دوباره روی همین نیتم میمونم؟ آیا چنین دنیایی، دنیای مطلوب هست؟ (رسیدن به چنین دنیایی اون قدرها هم از ما دور نیست، همین الان دولت چین سطح بالایی اطلاعات از هر کدوم از شهروندانش داره، هر کدام از پلتفرمهای اینترنتی شناختشون از ما بهتر از نزدیکترین دوست و خویشاوندمون هست میدونن چه میخوایم دنبال چه هستیم و چه میکنیم اما این که همه این اطلاعات در اختیار همه افراد قرار بگیره پیچیدگی عجیبی به ماجرا اضافه میکنه).
و بر عکس، اگر هیچ اطلاعاتی نسبت به اعمال افراد برای سایر افراد وجود نداشت چه اتفاقی میافتاد؟ سناریویی رو فرض کنید که افراد هر روز به سان یک مهمانی بالماسکه، یک ماسک جدید به خودشون میزنن و بدون هویت زندگی میکنن و دست به اکشن میزنن. زندگی در چنین دنیایی که هیچ گونه شفافیتی نیست، به چه وضعی منتهی میشه؟
برای پاسخ به این سوالات شاید قبلش باید پاسخ بدیم هر کدام از ما چه هستیم و دنبال چه چیزی هستیم. هویت خیلی از ما انگار محدود به چیزی شده که دیگران ما رو به اون میشناسن نه آن چیزی که واقعا هستیم.
پینوشت: ای کاش واقعا همه چیز اوپن سورس میشد اون وقت میدیدیم دنیا چه شکلی میشد.
پینوشت ۲: شاید واقعا حقیقت گاها ارزشش را نداشته باشد. شاید بخشی از علتهای که ما توانستهایم تمدن انسانی بسازیم همین توانایی دروغ گفتنمان به همدیگر است. بدون دروغ گفتن اعتماد کردن شکل نمیگرفت. بدون اعتمادکردن هم همکاریهایمان به جایی نمیرسید. شاید هم اگر واقعا برای همدیگر کاملا شفاف بودیم نظم و تمدن کاملا متفاوتتری میساختیم.
دیشب یک عده هکر کلاه سفید مدعی شدند که چند بات پیام ناشناس تلگرام رو هک کردند و فهمیدند که صاحبان این باتهای پیام ناشناس، پیامهای مردم رو (از متنها گرفته تا صوت و تصویر و فیلمها) رو ذخیره میکردند. ۱۴ میلیون یوزر، ۴۵۰ میلیون چت، ۱۱ میلیون عکس و ۳ میلیون ویدئو مقیاس این دادههای احتمال بسیار حساس بودند! متاسفانه و یا خوشبختانه این هکرها اطلاعات رو نه به صورت فروشی و نه به صورت رایگان منتشر نکردند و از مردم هم خواستند که دیگه به این باتها اعتماد نکنند. اما حالا فرض کنید اگر میومدن و این دادهها رو اوپن سورس میکردند و در اختیار همه قرار میدادند، چه اتفاقی رخ میداد؟ :))) با یک بحران ملی مواجه میشدیم! هر کسی احتمالا میرفت چک میکرد که چه کسانی بهش پیام دادند و کسایی که میشناختتشون به چه کسانی پیام داده. نتیجتا آبروی بسیاری به باد میرفت و حجم زیادی دشمنی و بیاعتمادی بین افراد وجود میومد. فکر میکنم که اگر قرار بود نولان، dark knight اش رو در این دهه میساخت یکی از سناریو فعالیتهای محتمل جوکر قطعا چنین چیزی بود: پابلیککردن بخشی از صورتهای واقعی مردم به روی همدیگه! و بنگ! چه قدر جذاب میشد.
اما حالا بیایید این سناریو رو در دو حالت اکستریمتر بررسی کنیم. اگر دنیایی داشتیم که در اون همه کارها و نیات افراد برای همه افراد پابلیک بود چه اتفاقی میافتاد؟ شفافیت کامل باعث میشد افراد به سمت تقابل و شکستن کمتر قانون و هنجار برن یا برعکس، با شفاف شدن همه چیز افراد فارغ از هر نوع نگرانی تمام سعی و تلاششون رو برای رقابت و به دست آوردن چیزی که میخوان به کار میبستن؟ نیت افراد چه؟ عوض میشد؟ مثلا من نسبت به یکی از دوستانم نظر منفی داشته باشم و بخوام اون رو ضایع کنم، در صورتی که بدونم نیتم توسط بقیه خونده میشه ناچارا نیتم عوض میشه یا نهایتا دوباره روی همین نیتم میمونم؟ آیا چنین دنیایی، دنیای مطلوب هست؟ (رسیدن به چنین دنیایی اون قدرها هم از ما دور نیست، همین الان دولت چین سطح بالایی اطلاعات از هر کدوم از شهروندانش داره، هر کدام از پلتفرمهای اینترنتی شناختشون از ما بهتر از نزدیکترین دوست و خویشاوندمون هست میدونن چه میخوایم دنبال چه هستیم و چه میکنیم اما این که همه این اطلاعات در اختیار همه افراد قرار بگیره پیچیدگی عجیبی به ماجرا اضافه میکنه).
و بر عکس، اگر هیچ اطلاعاتی نسبت به اعمال افراد برای سایر افراد وجود نداشت چه اتفاقی میافتاد؟ سناریویی رو فرض کنید که افراد هر روز به سان یک مهمانی بالماسکه، یک ماسک جدید به خودشون میزنن و بدون هویت زندگی میکنن و دست به اکشن میزنن. زندگی در چنین دنیایی که هیچ گونه شفافیتی نیست، به چه وضعی منتهی میشه؟
برای پاسخ به این سوالات شاید قبلش باید پاسخ بدیم هر کدام از ما چه هستیم و دنبال چه چیزی هستیم. هویت خیلی از ما انگار محدود به چیزی شده که دیگران ما رو به اون میشناسن نه آن چیزی که واقعا هستیم.
پینوشت: ای کاش واقعا همه چیز اوپن سورس میشد اون وقت میدیدیم دنیا چه شکلی میشد.
پینوشت ۲: شاید واقعا حقیقت گاها ارزشش را نداشته باشد. شاید بخشی از علتهای که ما توانستهایم تمدن انسانی بسازیم همین توانایی دروغ گفتنمان به همدیگر است. بدون دروغ گفتن اعتماد کردن شکل نمیگرفت. بدون اعتمادکردن هم همکاریهایمان به جایی نمیرسید. شاید هم اگر واقعا برای همدیگر کاملا شفاف بودیم نظم و تمدن کاملا متفاوتتری میساختیم.
YouTube
خوندن چتهای ناشناس تلگرام
۱۰ روز پیش امیر به ۳ تا از باتهای ناشناس نفوذ کرد و صحنههایی دیدیم که شکه شدیم، از ۱۴ میلیون یوزر، ۴۵۰ میلیمون چت، ۱۱ میلیون عکس و ۳ میلیون ویدیو ذخیره شده بود! اصلا باورمون نمیشد، بات یه فیچر داشت که یه یوزر رو فلگ میکرد، یعنی هر موقع پیغامی به شخص ارسال…
Out of Distribution
راجع به ردهبندی الو و LMSYS Chatbot Arena و Gemini و اینها گوگل پس از چندی خفت و خواری در زمینه LLMها، سرانجام هفته پیش یک اتفاق مهم، یک اتفاق شاد رو تجربه کرد. اون اتفاق هم این بود که مدل Gemini-1.5-Pro سرانجام تونست صدرنشین بنچمارک LMSYS بشه و بالاتر…
سیب یا پرتقال
دیشب بیاعصاب، مضطرب و بیحوصله بودم و همه اینها باعث شدند آخر بشینم کمی با کد ور برم. از خیلی قبلترها دوست داشتم یک رابط کاربری Elo rating system بزنم و دیشب با gradio سعی کردم همچین کاری بکنم. نتیجه چیز مینیمالیستی راضیکنندهای برای خودم شد. این شکلیه که هر سری دو تا آیتم (که اینجا میوه هستند) به کاربر نشون داده میشه و کاربر یکیشون رو انتخاب میکنه و بعد بر حسب elo rating امتیازاتشون محاسبه و آپدیت میشه و در نهایت بر حسب همین رقابتهای جزیی بین آیتمها، یک رنکینگ براشون به وجود میاد. در دو تب دیگه اش نتایج امتیازات کلی آیتمها و نتایج دو به دو رقابتشون اومده (تقریبا یک چیز مندلک سادهای مثل لیدربورد chatbot arena شد) الان میشه بازش کرد بین دو میوه رندوم هر سری انتخاب کرد و رو ریتینگ تاثیر گذاشت.
لینک:
http://193.36.85.39:7866/
دیشب بیاعصاب، مضطرب و بیحوصله بودم و همه اینها باعث شدند آخر بشینم کمی با کد ور برم. از خیلی قبلترها دوست داشتم یک رابط کاربری Elo rating system بزنم و دیشب با gradio سعی کردم همچین کاری بکنم. نتیجه چیز مینیمالیستی راضیکنندهای برای خودم شد. این شکلیه که هر سری دو تا آیتم (که اینجا میوه هستند) به کاربر نشون داده میشه و کاربر یکیشون رو انتخاب میکنه و بعد بر حسب elo rating امتیازاتشون محاسبه و آپدیت میشه و در نهایت بر حسب همین رقابتهای جزیی بین آیتمها، یک رنکینگ براشون به وجود میاد. در دو تب دیگه اش نتایج امتیازات کلی آیتمها و نتایج دو به دو رقابتشون اومده (تقریبا یک چیز مندلک سادهای مثل لیدربورد chatbot arena شد) الان میشه بازش کرد بین دو میوه رندوم هر سری انتخاب کرد و رو ریتینگ تاثیر گذاشت.
لینک:
http://193.36.85.39:7866/