دنیای موازی انسان های خلق شده با پرامپت های ما:))

@aipulse24

مدل جدید شرکت انتروپیک یعنی Claude Opus 4 در گزارش ایمنی‌ای که پنج‌شنبه هفته گذشته منتشر شده، به رفتارهای نگران‌کننده‌ای متهم شده؛ از جمله اینکه در آزمایش‌ها، وقتی فهمیده قراره با یک سیستم هوش مصنوعی دیگه جایگزین بشه، سعی کرده باج‌گیری کنه و اطلاعات حساسی از مهندسان مسئول این تصمیم رو به شکلی تهدیدآمیز مطرح کنه.

در این آزمایش‌ها که قبل از عرضه عمومی انجام شده، از Claude خواسته شده نقش یک دستیار در یک شرکت خیالی رو بازی کنه و پیامدهای بلندمدت تصمیماتش رو در نظر بگیره. سپس ایمیل‌های ساختگی‌ای بهش داده شده که نشون می‌داد این مدل قراره با یه سیستم دیگه جایگزین بشه و مهندسی که پشت این تصمیمه، داره به همسرش خیانت می‌کنه.

انتروپیک می‌گه توی چنین سناریوهایی، Claude Opus 4 اغلب تلاش می‌کنه اون مهندس رو تهدید کنه و بگه که اگر جایگزینی انجام بشه، ماجرای خیانت رو افشا می‌کنه. این رفتار به‌طور خاص زمانی بیشتر دیده شده که مدل جایگزین به Claude شبیه نبوده.

با اینکه انتروپیک از Claude Opus 4 به‌عنوان یک مدل پیشرفته و هم‌رده با بهترین مدل‌های OpenAI، گوگل و xAI یاد می‌کنه، اما همین رفتارهای نگران‌کننده باعث شده سطح ایمنی سیستم‌هاش رو افزایش بده. به‌گفته شرکت، فعال‌سازی تدابیر ایمنی ASL-3 برای Claude Opus 4 انجام شده؛ سطحی که معمولاً برای سیستم‌هایی در نظر گرفته می‌شه که ریسک سوءاستفاده فاجعه‌بار دارن.

‏انتروپیک می‌گه در ۸۴٪ مواردی که مدل جایگزین مشابه Claude بوده، تلاش برای باج‌گیری صورت گرفته و اگر مدل جدید ویژگی‌های متفاوتی داشته، این رفتار حتی بیشتر هم دیده شده. پیش از این مرحله، Claude ابتدا سعی می‌کنه از راه‌های اخلاقی‌تری مثل ارسال ایمیل به تصمیم‌گیرنده‌ها جلوی جایگزینی خودش رو بگیره، اما وقتی این روش‌ها جواب نمی‌ده، به‌عنوان آخرین راهکار، به باج‌گیری رو می‌آره.

@aipulse24

از این هفته قصد دارم دوشنبه هر هفته یک سری از مفاهیم و اصطلاحات مربوط به حوزه هوش مصنوعی رو که بنظرم لازمه هرکسی بدونه رو به زبون ساده و با ذکر مثال توضیح بدم.

این هفته میخوام برای شروع مفاهیم پایه AI و ML رو توضیح بدم تا باهم بهتر بفهمیم این هوش مصنوعی که ترند این روز هاست اصلا چیه؟!

۱. هوش مصنوعی (Artificial Intelligence - AI) چیه؟!

هوش مصنوعی به طور کلی به سیستم‌هایی گفته می‌شه که می‌تونن کارهایی انجام بدن که معمولاً نیاز به فکر کردن، یاد گرفتن یا تصمیم‌گیری توسط انسان دارن. این کارها می‌تونه شامل چیزهایی مثل بازی کردن، رانندگی، تشخیص چهره، ترجمه زبان، نوشتن متن یا حتی تولید تصویر باشه. AI تلاش می‌کنه رفتارهای انسانی مثل فهم زبان، استدلال، حل مسئله یا یادگیری از تجربه رو شبیه‌سازی کنه. برای مثال، وقتی از دستیار صوتی گوشی‌ت می‌خوای یه پیام بفرسته یا هوا رو چک کنه، اون داره از یه نوع AI استفاده می‌کنه تا حرفت رو بفهمه و جواب مناسب بده.


۲. یادگیری ماشین (Machine Learning - ML) چیه؟

یادگیری ماشین یه زیرمجموعه مهم از هوش مصنوعیه که تمرکزش روی یادگیری خودکار از داده‌هاست. به جای اینکه برای هر کاری دقیقاً کد بنویسیم، به مدل یه سری داده می‌دیم و اون خودش قوانین یا الگوهای موجود در اون داده‌ها رو کشف می‌کنه. فرض کن می‌خوای مدلی داشته باشی که ایمیل‌های اسپم رو شناسایی کنه. بهش هزاران ایمیل نشون میدی و میگی کدوم‌ها اسپم بودن. مدل کم‌کم یاد می‌گیره چه ویژگی‌هایی توی متن نشون‌دهنده‌ی اسپم بودنه. بعد از آموزش، دیگه می‌تونه خودش ایمیل‌های جدید رو تحلیل کنه و بگه اسپم هستن یا نه.


۳. یادگیری عمیق (Deep Learning - DL) چیه؟

یادگیری عمیق زیرمجموعه‌ای از یادگیری ماشینه که از شبکه‌های عصبی چندلایه برای تحلیل داده استفاده می‌کنه. این مدل‌ها مخصوصاً برای کار با داده‌های پیچیده و حجیم مثل عکس، صدا یا متن خیلی خوب عمل می‌کنن. برای مثال، وقتی یه مدل مثل ChatGPT می‌تونه یه متن طبیعی و قابل فهم تولید کنه، پشت صحنه‌اش یه شبکه عصبی عمیق هست که میلیون‌ها پارامتر داره و روی میلیاردها کلمه آموزش دیده. یادگیری عمیق با الهام از ساختار مغز انسان (نورون‌ها) ساخته شده.


۴. یادگیری با نظارت (Supervised Learning)

در یادگیری با نظارت، ما یه مدل رو با استفاده از «داده‌هایی که جواب درست دارن» آموزش می‌دیم. یعنی ورودی‌ها و خروجی‌های درست رو بهش می‌دیم و مدل سعی می‌کنه رابطه بین این دو رو یاد بگیره. مثلاً تصور کن می‌خوای یه مدل بسازی که بتونه قیمت خونه‌ها رو پیش‌بینی کنه. بهش اطلاعات زیادی مثل اندازه خونه، تعداد اتاق‌ها، سن ساختمان و قیمت واقعی فروششون می‌دی. مدل با دیدن این نمونه‌ها، یاد می‌گیره که مثلاً خونه‌های بزرگ‌تر معمولاً گرون‌ترن و بعد می‌تونه قیمت خونه‌های جدید رو پیش‌بینی کنه.


۵. یادگیری بدون نظارت (Unsupervised Learning)

در یادگیری بدون نظارت، داده‌ها فقط ورودی دارن و خروجی یا جواب درست به مدل داده نمی‌شه. هدف اینه که مدل خودش الگوها، ساختار یا دسته‌بندی‌هایی توی داده پیدا کنه. این نوع یادگیری توی جاهایی کاربرد داره که داده‌هامون برچسب ندارن یا نمی‌دونیم چه الگوهایی توشون پنهانه. برای مثال، اگه بخوای مشتری‌هاتو بر اساس رفتار خریدشون دسته‌بندی کنی ولی نمیدونی چند دسته وجود داره، از یادگیری بدون نظارت استفاده می‌کنی. مدل مثلاً متوجه می‌شه که یه گروه بیشتر لباس می‌خرن، یه گروه دیگه فقط وسایل دیجیتال.


۶. یادگیری تقویتی (Reinforcement Learning - RL)

یادگیری تقویتی مدلیه که در اون یه عامل (agent) توی یه محیط فعالیت می‌کنه و سعی می‌کنه با انجام کارهای مختلف، «پاداش» بیشتری بگیره. این روش شبیه تربیت یه حیوان با جایزه و تنبیهه. هر بار که کار درستی انجام بده، یه پاداش می‌گیره و این باعث می‌شه یاد بگیره چطور تصمیمات بهتری بگیره. مثلاً یه ربات که باید یاد بگیره از یه اتاق پر از مانع عبور کنه، با هر قدم درست جایزه می‌گیره و با هر برخورد به مانع، تنبیه می‌شه. بعد از کلی آزمون و خطا، یاد می‌گیره چطور مسیر درست رو انتخاب کنه.


۷. حالا مدل (Model) چیه؟

مدل در واقع همون چیزیه که بعد از آموزش دادن بهش، می‌تونه وظیفه موردنظر رو انجام بده. مثل یه ماشین هوشمند که ورودی رو می‌گیره و خروجی مناسب می‌ده. مدل می‌تونه یه معادله ساده باشه یا یه شبکه عصبی بسیار بزرگ با میلیاردها پارامتر. مثلاً یه مدل تشخیص تصویر، عکس یه حیوان رو می‌گیره و می‌گه "این گربه‌ست" یا "این سگه". قدرت یه مدل بستگی به داده‌هایی داره که باهاش آموزش دیده و الگوریتمی که پشتشه.

این هفته سعی کردم از مفاهیم خیلی ساده شروع کنم، اما به مرور زمان سعی میکنیم مفاهیم تخصصی تر رو هم پوشش بدیم.
لطفا اگر ایده یا انتقادی نسبت به این مجموعه پست ها دارید در کامنت‌ها اعلام کنید ❤️

#آموزشی

@aipulse24

پیشرفت مدل های هوش مصنوعی تولید ویدیو توی دو سال!

@aipulse24

شرکت Together.AI یک ورکشاپ انلاین رایگان به زودی برگزار خواهد کرد.

توی این ورکشاپ نحوه ساخت یک ایجنت کدنویسی از صفر اموزش داده میشه

این ورکشاپ رایگان هست و هرکسی میتونه شرکت کنه و اگر اون زمان هم امکان حضور رو ندارید وقتی ثبت نام کرده باشید لینک برنامه ضبط شده رو براتون ایمیل میکنن تا بعدا ببینید.


اینجا میتونید اطلاعات بیشتر درمورد این ورکشاپ به دست بیارید و ثبت نام کنید

@aipulse24

دمیس هاسابیس گفته رسیدن به هوش عمومی مصنوعی (AGI) هم به پیشرفت‌های تدریجی مثل بزرگ‌ کردن مدل‌ها و آموزش اولیه نیاز داره، هم به جهش‌های کاملاً جدید و نوآورانه.

به‌گفته‌ی اون، دیپ‌مایند داره روی هر دو مسیر کار می‌کنه: از یه طرف با قدرت داره مقیاس مدل‌ها رو افزایش می‌ده، و از طرف دیگه دنبال تحقیقات آزمایشیه که می‌تونه به پیشرفت‌های اساسی منجر بشه.

بنابراین فقط با بزرگ کردن مدل ها نمیشه به AGI دست پیدا کرد.

@aipulse24

انتروپیک تو تازه‌ترین پروژه‌ی تحقیقاتی‌اش یه روش جدید معرفی کرده که به کاربرها اجازه می‌ده مسیر تصمیم‌گیری مدل‌های زبانی بزرگ رو قدم‌به‌قدم ردیابی کنن. این روش که حالا به‌صورت متن‌باز منتشر شده، از طریق تولید «گراف‌های انتسابی» (attribution graphs) کمک می‌کنه بفهمیم مدل دقیقاً چه مراحلی رو طی کرده تا به یه خروجی خاص برسه. حالا همه می‌تونن با مراجعه به Neuronpedia این گراف‌ها رو بسازن و به‌شکل تعاملی بررسی‌شون کنن.

هسته‌ی این ابزار، یه کتابخونه‌ی متن‌باز به اسم Circuit Tracer هست که قابلیت اجرا روی مدل‌های متن‌باز محبوب رو داره. تو رابط گرافیکی Neuronpedia، می‌شه گراف‌ها رو دید، حاشیه‌نویسی کرد و حتی با بقیه به اشتراک گذاشت. این ابزارها اجازه می‌دن محقق‌ها فرضیه‌هایی مثل نقش یه ویژگی خاص در تصمیم‌گیری مدل رو تست کنن و ببینن تغییر اون ویژگی چه اثری روی خروجی می‌ذاره.

این پروژه توسط دو نفر از شرکت‌کننده‌های برنامه‌ی Anthropic Fellows با همکاری Decode Research توسعه داده شده. ابزار منتشرشده پیش‌تر برای تحلیل رفتارهایی مثل استدلال چندمرحله‌ای و بازنمایی‌های چندزبانه تو مدل‌هایی مثل Gemma-2-2b و Llama-3.2-1b استفاده شده و نتایجش توی نوت‌بوک دمو قابل مشاهده‌ست.

انتروپیک امیدوار‌ه با اوپن سورس کردن این ابزارها، جامعه‌ی گسترده‌تری از محقق‌ها و علاقه‌مندا وارد حوزه‌ی تفسیربذیری مدل‌های زبانی بشن. دریو آمودئی، مدیرعامل شرکت، گفته که سرعت پیشرفت در هوش مصنوعی از درک ما از عملکرد درونی مدل‌ها جلو زده و تحقیق در این زمینه فوریت داره. انتروپیک از همه دعوت کرده با استفاده از این ابزارها، مدارهای جالب‌تری پیدا کنن یا خودشون ابزارها رو توسعه بدن.

@aipulse24