توی قسمت «سائق آزادی» پادکست رواق، یه سری جمله بدیهی گفت که مثل تیر به سرم خورد.

همچنان توصیه میکنم که گوش کنید. به شکل خاص داشت می‌گفت «ما مسئول زندگی خودمون هستیم. به این معنی نیست که بقیه در رسیدن ما به اینجا که هستیم تاثیر ندارن، اتفاقا تاثیر دارن، ولی نهایتا خودمون مسئول هستیم. کسی مسئول این نیست بیاد ما رو نجات بده.»

یه جوری شاید مترادف با این باشه که تهش خودمون و خودمون اصلا. شاید یکی دیگه به ما چاقو بزنه ولی خودمون باید به فکر درمان باشیم. شاید یکی دیگه به ما تراما بده، اخراجمون کنه یا هرچیزی، ولی کسی که تهش باید اقدام کنه برای اون وضعیت ماییم.

واسه این یه مثال مهم تو ذهنم هست. یادم میاد نزدیک های نهایی کردن پایان‌نامه بود (آخرای تیر ۴۰۳) و به انواع دلایل تحت فشار بودم،
شما حساب کنید آخرین باری بود که می‌تونستم یه نفر رو ببینم و میخواستم از فرصت استفاده کنم طبیعتا، استادم حج بود، میخواستم خیلی زودتر از اون چیزی که بود دفاع کنم و کار هم که سر جای خودش.

تو این شرایط با هر مصیبتی بود به یه متن اولیه رسیدم، حالا اینجا انتظار داشتم آدما بیان و مسئولیت از اینجا به بعدش رو قبول کنن، ولی هیچکس قبول نکرد و خیلی برام ناراحت کننده بود. انتظار داشتم برا من اصلاحاتش رو انجام بدن خودشون. البته دوستان خوبی داشتم که خوندن و فیدبک های خوبی دادن دمشون گرم، ولی انگار یادم رفته بود باز هم این کار منه. بچه‌ی منه.
توقعاتی داشتم که نمیگفتم چون مسخره بود گفتنشون ولی داشتم. و این توقعات هم خودم رو هم بقیه رو عصبانی/ناراحت می‌کرد.

به نظرم یکی از اولین نیازمندیهای پخش شافل آهنگ، اینه که وقتی میزنی آهنگ قبلی واقعا برگرده آهنگ قبلی.

توقع نادرستیه؟ حس میکنم اپ اندروید تلگرام نداره.

به نظر میاد راننده اسنپ امشبم می‌خواست بهم نشون بده ریو (Kia Rio) موتور خوبی داره و تا ۴۵۰۰ rpm منفجر نمیشه.

ولی برداشت من؟ چیزی تا انفجار فاصله نداشتیم و احتمالا تو 4600 منفجر میشه :)))

یاد توصیه های قبل انتخاب واحد میفتم. :))

یه جمله دیگه که دوستش داشتم این بود که «آزادی مسئولیت میاره و لزوماً خوشایند نیست برامون و خیلی اوقات از آزادی فرار می‌کنیم که مسئولیت رو نپذیریم»

از کنسرت و تجربه جدید امشب!

مدل جدید شرکت انتروپیک یعنی Claude Opus 4 در گزارش ایمنی‌ای که پنج‌شنبه هفته گذشته منتشر شده، به رفتارهای نگران‌کننده‌ای متهم شده؛ از جمله اینکه در آزمایش‌ها، وقتی فهمیده قراره با یک سیستم هوش مصنوعی دیگه جایگزین بشه، سعی کرده باج‌گیری کنه و اطلاعات حساسی از مهندسان مسئول این تصمیم رو به شکلی تهدیدآمیز مطرح کنه.

در این آزمایش‌ها که قبل از عرضه عمومی انجام شده، از Claude خواسته شده نقش یک دستیار در یک شرکت خیالی رو بازی کنه و پیامدهای بلندمدت تصمیماتش رو در نظر بگیره. سپس ایمیل‌های ساختگی‌ای بهش داده شده که نشون می‌داد این مدل قراره با یه سیستم دیگه جایگزین بشه و مهندسی که پشت این تصمیمه، داره به همسرش خیانت می‌کنه.

انتروپیک می‌گه توی چنین سناریوهایی، Claude Opus 4 اغلب تلاش می‌کنه اون مهندس رو تهدید کنه و بگه که اگر جایگزینی انجام بشه، ماجرای خیانت رو افشا می‌کنه. این رفتار به‌طور خاص زمانی بیشتر دیده شده که مدل جایگزین به Claude شبیه نبوده.

با اینکه انتروپیک از Claude Opus 4 به‌عنوان یک مدل پیشرفته و هم‌رده با بهترین مدل‌های OpenAI، گوگل و xAI یاد می‌کنه، اما همین رفتارهای نگران‌کننده باعث شده سطح ایمنی سیستم‌هاش رو افزایش بده. به‌گفته شرکت، فعال‌سازی تدابیر ایمنی ASL-3 برای Claude Opus 4 انجام شده؛ سطحی که معمولاً برای سیستم‌هایی در نظر گرفته می‌شه که ریسک سوءاستفاده فاجعه‌بار دارن.

‏انتروپیک می‌گه در ۸۴٪ مواردی که مدل جایگزین مشابه Claude بوده، تلاش برای باج‌گیری صورت گرفته و اگر مدل جدید ویژگی‌های متفاوتی داشته، این رفتار حتی بیشتر هم دیده شده. پیش از این مرحله، Claude ابتدا سعی می‌کنه از راه‌های اخلاقی‌تری مثل ارسال ایمیل به تصمیم‌گیرنده‌ها جلوی جایگزینی خودش رو بگیره، اما وقتی این روش‌ها جواب نمی‌ده، به‌عنوان آخرین راهکار، به باج‌گیری رو می‌آره.

@aipulse24

به به، این چیزیه که منتظر بودم از LLM ها ببینم

اوایل که با Gen AI عکس می‌ساختن، یه بازی ساده رایج بود. می‌گفتن یه ساعت آنالوگ ترسیم کنه که یه زمان مشخصی رو (غیر از ۱۰:۱۰) نشون بده.

چون اغلب عکس‌هایی که از ساعت در جهان وجود داره ساعت ۱۰:۱۰ رو نشون میده، خروجی معمولا ۱۰:۱۰ می‌شد.

امروز با Gemini چک کردم و دیدم هنوز همون‌طوریه.

با مدلهای دیگه تست نکردم. به‌هرحال دیر یا زود میتونن با یه ترفندهایی این‌جور پرامپت‌ها رو درست جواب بدن


اما این خروجی یه یادآوری مهم برای کسانیه که از AI استفاده می‌کنن. الان که بخش بزرگی از خروجی هوش مصنوعی بر پایهٔ یادگیری عمیق شکل گرفته، بسیار مهمه که سیستم با چی آموزش دیده

این نمونه‌ها پیش‌پاافتاده هستن. اما در حوزه‌های تخصصی‌تر، حتی ممکنه یه کاربر عادی نفهمه و سواد نداشته باشه که حذفیات و نادیده‌ها رو حدس بزنه

در لایه‌های پیچیده‌تر چالش‌هایی مثل دریفت هم هست. یعنی کم‌کم ورودی امروز سیستم به‌شکلی تغییر می‌کنه که از ساختار و ماهیت اون چیزهایی که روز اول باهاش آموزش دیده فاصله می‌گیره:

خطاهایی جدی، مهم و تاثیرگذار
اما ظریف و پنهان
که ممکنه از چشم کسانی که صرفا جنبه‌های فنی و عملیاتی هوش مصنوعی رو بلدن دور بمونه


#هوش_مصنوعی

یادآوری، بار Nام:

برگرفته از پادکست رواق:
مکانیسم های دفاعی کار می‌کنن تا وقتی که یه اتفاق بیوفته و دم شیطان از پشت پرده پیدا بشه.
بعدش یا ما شیطان رو می‌پذیریم و از پرده بیرونش میاریم
یا با مکانیسم های جدید می ذاریمش پشت پرده دوباره.

https://youtube.com/shorts/b5mMrKGbJdo?si=WGhLihp1zQAzAxYe

به فالگیر و جنگیرهای اطرافتون معرفی کنید:
یکسری جایزه های میلیون دلاری هست برای این که یه کاری که علم نمیتونه توجیه کنه رو در محیط قابل اندازه گیری انجام بدید.
تا حال هم هیچکس موفق به دریافتش نشده:)))