خب chartGPT هم وارد میشود حالا دیگه با توضیحاتی راجب هدف مسئله خود اقدام به رسم اشکال مختلف مسئله نمایید.
chartgpt.dev
#خبر #هوش_مصنوعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
chartgpt.dev
#خبر #هوش_مصنوعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
Forwarded from Meysam
آیا جی پی تی میتونه معماری مدل یادگیری عمیق پیدا کنه؟
تو این مقاله اومدن یه روش ارایه دادن که خود جیپی تی مدلها رو پیدا میکنه و پیشنهاد میده.
https://arxiv.org/pdf/2304.10970v1.pdf
@ai_person
تو این مقاله اومدن یه روش ارایه دادن که خود جیپی تی مدلها رو پیدا میکنه و پیشنهاد میده.
https://arxiv.org/pdf/2304.10970v1.pdf
@ai_person
👍1
گویا میدجورنی پولی شده! و خیلی از دوستان سوال کردن که چطوری میشه ازش استفاده کرد این سایتها جایگزین میدجورنی میتونه بشه و رایگانه
1. craiyon.com
2. app.leonardo.ai/
3. ai-generationspixlr.com/x/#generator
4. dreamstudio.ai/
5. generateplaygroundai.com
6. bing.com/images/create
#خبر #هوش_مصنوعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
1. craiyon.com
2. app.leonardo.ai/
3. ai-generationspixlr.com/x/#generator
4. dreamstudio.ai/
5. generateplaygroundai.com
6. bing.com/images/create
#خبر #هوش_مصنوعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍1
Forwarded from Django Expert (Majid A.M)
✔️بدترین تجربه مصاحبه کاری من به عنوان یک برنامه نویس توسعهدهنده وب:
اول اسم شرکت رو بگم خدمتتون اسم شرکت "نقش اول کیفیت" (ناک) هست که خودشون رو بزرگترین کارگزار(وندور) همراه اول معرفی میکنند
من بعد از یک جلسه مصاحبه hr آنلاین دعوت به مصاحبه حضوری شدم و بعد از مراجعه به ساختمان این شرکت به من گفته شد که به دلیل اشتباه در تنظیمات تقویم فردی که در بخش نیروی انسانی مشغول به کار هست (hr محترم بدون هیچ گونه عذرخواهی این کلمات رو بیان کردند) یک ساعت دیرتر این مصاحبه قرار هست شکل بگیره بعد از اعتراض بنده به موضوع گفتند که فرد مصاحبه کننده فنی (که از دفتر همراه اول قرار بود تشریف بیاورند و این پروژه به صورت کامل برای همراه اول و در دفتر مرکزی این شرکت بود گفته های من بر اساس اطلاعاتی هست که به بنده حین تماس تلفنی برای دعوت به مصاحبه منتقل کردند) در راه هستند و ۲۰ دقیقه دیگه مصاحبه انجام میشه و اگر قصد دارم مصاحبه رو انجام ندم به ایشان اطلاع بدم با قبول طرفین نسبت به این موضوع بنده رفتم یه میان وعده ای بخورم و برگردم
بعد از مراجعت مجدد من به ساختمان اصلی و بعد از ۵ دقیقه از زمان تعیین شده (یعنی ۲۵ دقیقه انتظار من) بنده تماس گرفتم و این فرد محترم به من گفتند که مصاحبه کنسل شده و من مجدداً اعتراض کردم و پرسیدم آیا به نظر شما این رفتار حرفه ای هست؟ ایشون بدون هیچ گونه عذر خواهی تلفن رو قطع کردند.
حالا شاید جالب باشه چرا مصاحبه کنسل شده؟ به دلیل عدم هماهنگی بین پرسنل خوده ناک یا شرکت نقش اول کیفیت (یا همون بزرگترین وندور همراه اول 😅)
به عنوان کسی که بیشتر از ۲۰۰ مصاحبه رفته و مصاحبه بخشی از روتین ماهانه اش هست و همچنین بیشتر از ۵۰ تا مصاحبه گرفته (در هر دو پوزیشن تجربه داشته به نظرم این دلیل ابدا قابل قبول نیست)
و کسی که تجربه کار ریموت/داخلی /بین المللی/ پروژهای/ سازمانی(سازمانهای بیشتر از پانصد نفر) میتونم بگم بدترین تجربه من از دعوت به مصاحبه در این شرکت رخ داده
پینوشت: من با دفتر مدیریت این شرکت تماس گرفتم و اعتراض مجدد خودم رو به این رفتار غیر حرفه ای و عدم حسن انجام کار و همچنین ندونستن الفبای رفتار حرفه ای سازمانی اعلام کردم، نه به امید دعوت به مصاحبه مجدد که دیکه هرگز پام رو در دفتر هیچ وندوری از همراه اول و حتی خوده همراه اول هم نخواهم گذاشت بلکه به امید رفع این مشکلات در خور توجه.
امیدوارم انتشار این پست کمکی کنه به سایر دوستان فنی کنه تا مسیر شغلی خودشون رو بهتر دنبال کنند و از رخ دادن تجربه های این چنین توسط این شرکت جلوگیری کنه
ارادتمند همیشگی شما: مجید آقامحمد
™️ @DjangoEx
〰〰〰〰〰〰〰〰
© @DjangoIR
اول اسم شرکت رو بگم خدمتتون اسم شرکت "نقش اول کیفیت" (ناک) هست که خودشون رو بزرگترین کارگزار(وندور) همراه اول معرفی میکنند
من بعد از یک جلسه مصاحبه hr آنلاین دعوت به مصاحبه حضوری شدم و بعد از مراجعه به ساختمان این شرکت به من گفته شد که به دلیل اشتباه در تنظیمات تقویم فردی که در بخش نیروی انسانی مشغول به کار هست (hr محترم بدون هیچ گونه عذرخواهی این کلمات رو بیان کردند) یک ساعت دیرتر این مصاحبه قرار هست شکل بگیره بعد از اعتراض بنده به موضوع گفتند که فرد مصاحبه کننده فنی (که از دفتر همراه اول قرار بود تشریف بیاورند و این پروژه به صورت کامل برای همراه اول و در دفتر مرکزی این شرکت بود گفته های من بر اساس اطلاعاتی هست که به بنده حین تماس تلفنی برای دعوت به مصاحبه منتقل کردند) در راه هستند و ۲۰ دقیقه دیگه مصاحبه انجام میشه و اگر قصد دارم مصاحبه رو انجام ندم به ایشان اطلاع بدم با قبول طرفین نسبت به این موضوع بنده رفتم یه میان وعده ای بخورم و برگردم
بعد از مراجعت مجدد من به ساختمان اصلی و بعد از ۵ دقیقه از زمان تعیین شده (یعنی ۲۵ دقیقه انتظار من) بنده تماس گرفتم و این فرد محترم به من گفتند که مصاحبه کنسل شده و من مجدداً اعتراض کردم و پرسیدم آیا به نظر شما این رفتار حرفه ای هست؟ ایشون بدون هیچ گونه عذر خواهی تلفن رو قطع کردند.
حالا شاید جالب باشه چرا مصاحبه کنسل شده؟ به دلیل عدم هماهنگی بین پرسنل خوده ناک یا شرکت نقش اول کیفیت (یا همون بزرگترین وندور همراه اول 😅)
به عنوان کسی که بیشتر از ۲۰۰ مصاحبه رفته و مصاحبه بخشی از روتین ماهانه اش هست و همچنین بیشتر از ۵۰ تا مصاحبه گرفته (در هر دو پوزیشن تجربه داشته به نظرم این دلیل ابدا قابل قبول نیست)
و کسی که تجربه کار ریموت/داخلی /بین المللی/ پروژهای/ سازمانی(سازمانهای بیشتر از پانصد نفر) میتونم بگم بدترین تجربه من از دعوت به مصاحبه در این شرکت رخ داده
پینوشت: من با دفتر مدیریت این شرکت تماس گرفتم و اعتراض مجدد خودم رو به این رفتار غیر حرفه ای و عدم حسن انجام کار و همچنین ندونستن الفبای رفتار حرفه ای سازمانی اعلام کردم، نه به امید دعوت به مصاحبه مجدد که دیکه هرگز پام رو در دفتر هیچ وندوری از همراه اول و حتی خوده همراه اول هم نخواهم گذاشت بلکه به امید رفع این مشکلات در خور توجه.
امیدوارم انتشار این پست کمکی کنه به سایر دوستان فنی کنه تا مسیر شغلی خودشون رو بهتر دنبال کنند و از رخ دادن تجربه های این چنین توسط این شرکت جلوگیری کنه
ارادتمند همیشگی شما: مجید آقامحمد
™️ @DjangoEx
〰〰〰〰〰〰〰〰
© @DjangoIR
👍8❤1
توی این مقاله راحلی برای چت بات ها پیشنهاد دادند که پاسخگویی هوشمندتر و هدفمندتری به ترجیحات یورز اعمال میکند از جمله روشی که مورد توجه قرار گرفته است خودداری از دروغ ،توهین و رفتارهای نامطلوب را از پیش به مدل چگونه میشود آموزش داد و در این مقاله چندین هدف در چند مرحله مورد بازبینی قرار گرفته است که مدل دقت بیشتری پیدا کند.
Pretraining Language Models with Human Preferences
https://arxiv.org/abs/2302.08582
#مقاله #ایده_جذاب
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
Pretraining Language Models with Human Preferences
https://arxiv.org/abs/2302.08582
#مقاله #ایده_جذاب
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍1
توی این مقاله مدل BLIP-2 معرفی شده که به این سوال جواب داده است که :
آیا مدلهای LLMs قادر به فهمیدن و خواندن عکس ها هستند یا خیر؟
در این ابزار از روش های representation learning and generative learning جهت کاراتر کردن مدل استفاده کردند هرچند قبل تر در مقاله ای مشابه مدل Flamingo اقدامی چشم گیر صورت گرفته ولی ابزار حلشون تا قبل معرفی این مدل بهتر بود ولی بعد image-to-text بایستی این مقاله بیشتر مورد توجه پژوهشگران قرار بگیرد.
🔸 BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
🔸 BLIP-2
#مقاله #ایده_جذاب #پردازش_زبان_طبیعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
آیا مدلهای LLMs قادر به فهمیدن و خواندن عکس ها هستند یا خیر؟
در این ابزار از روش های representation learning and generative learning جهت کاراتر کردن مدل استفاده کردند هرچند قبل تر در مقاله ای مشابه مدل Flamingo اقدامی چشم گیر صورت گرفته ولی ابزار حلشون تا قبل معرفی این مدل بهتر بود ولی بعد image-to-text بایستی این مقاله بیشتر مورد توجه پژوهشگران قرار بگیرد.
🔸 BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models
🔸 BLIP-2
#مقاله #ایده_جذاب #پردازش_زبان_طبیعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
❤1
Forwarded from Meysam
چه زمانی و چه کسی پرامپت انجینرینگ رو اختراع کرد؟
https://www.linkedin.com/posts/meysam-ac_prompt-engineering-was-invented-in-2018-activity-7056498328930250752-B20x?utm_source=share&utm_medium=member_android
سال ۲۰۱۸ ایده اولیه رو دادند.
https://www.linkedin.com/posts/meysam-ac_prompt-engineering-was-invented-in-2018-activity-7056498328930250752-B20x?utm_source=share&utm_medium=member_android
سال ۲۰۱۸ ایده اولیه رو دادند.
DeepMind AI Expert
با این ابزارهای هوش مصنوعی در وقت خود صرفه جویی کنید 1. Alicent.ai Supercharged ChatGPT 2. Tldrthis.com Summarize online content 3. 10web.io AI website builder 4. Explainlikeimfive.io Personal tutor on anything 5. Codesquire.ai Turn your thoughts into…
چند ابزار هوش مصنوعی برای سهولت کارها:
1. http://Humata.ai - ChatGPT for your files
2. http://Perplexity.ai - ChatGPT on steroids
3. http://Durable.co - Build websites with AI
4. http://Stockimg.ai - Create images with AI
5. http://Kickresume.com - AI resume builder
6. http://Cohesive.so - Create magical content
7. http://Decktopus.com - AI presentation generator
8. http://SnackPrompt.com - The best ChatGPT prompts
#خبر #هوش_مصنوعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
1. http://Humata.ai - ChatGPT for your files
2. http://Perplexity.ai - ChatGPT on steroids
3. http://Durable.co - Build websites with AI
4. http://Stockimg.ai - Create images with AI
5. http://Kickresume.com - AI resume builder
6. http://Cohesive.so - Create magical content
7. http://Decktopus.com - AI presentation generator
8. http://SnackPrompt.com - The best ChatGPT prompts
#خبر #هوش_مصنوعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍1
Forwarded from Meysam
کامیونیتی بودن خوبه، ولی بهتره کانالهای شخصی باشه و هرکس بتونه مطالبی که میخواد رو بزنه.
یک سری از دوستان خوب (ادمینهای همین گروهها) یک سری کانال زدند که خیلی خوشحال میشم بهتون معرفی کنم:
کانال دکتر نورمحمدی عزیز (افتخار همکاری علمی داشتم باهاشون و مقاله دادیم باهم):
https://news.1rj.ru/str/Machinelearning_Kartal
کانال مهندس زهتاب (با ایشون هم همکاری علمی داشتیم و مقاله دادیم، کار هم کردیم باهم):
https://news.1rj.ru/str/lython
فرزاد هم دیگه نیاز به توضیح ندارد خدمتتون، همه میشناسید:
https://news.1rj.ru/str/AI_Deepmind
مهندس مجید عزیز که افتخار همکاری نداشتم ولی میشناسمشون:
https://news.1rj.ru/str/djangoex
سلطان مهندسین، دوست خوبم محمد عباسی، همیشه مشکل فنی داشتم رفتم پیشش:
https://news.1rj.ru/str/pyHints
بقیه دوستانی که کانال دارند و علاقه نداشتند پابلیک شناخته بشند رو نزدم. اگه چیزی از قلم افتاد بگید میزنم.
یک سری از دوستان خوب (ادمینهای همین گروهها) یک سری کانال زدند که خیلی خوشحال میشم بهتون معرفی کنم:
کانال دکتر نورمحمدی عزیز (افتخار همکاری علمی داشتم باهاشون و مقاله دادیم باهم):
https://news.1rj.ru/str/Machinelearning_Kartal
کانال مهندس زهتاب (با ایشون هم همکاری علمی داشتیم و مقاله دادیم، کار هم کردیم باهم):
https://news.1rj.ru/str/lython
فرزاد هم دیگه نیاز به توضیح ندارد خدمتتون، همه میشناسید:
https://news.1rj.ru/str/AI_Deepmind
مهندس مجید عزیز که افتخار همکاری نداشتم ولی میشناسمشون:
https://news.1rj.ru/str/djangoex
سلطان مهندسین، دوست خوبم محمد عباسی، همیشه مشکل فنی داشتم رفتم پیشش:
https://news.1rj.ru/str/pyHints
بقیه دوستانی که کانال دارند و علاقه نداشتند پابلیک شناخته بشند رو نزدم. اگه چیزی از قلم افتاد بگید میزنم.
👍1
Meysam
کامیونیتی بودن خوبه، ولی بهتره کانالهای شخصی باشه و هرکس بتونه مطالبی که میخواد رو بزنه. یک سری از دوستان خوب (ادمینهای همین گروهها) یک سری کانال زدند که خیلی خوشحال میشم بهتون معرفی کنم: کانال دکتر نورمحمدی عزیز (افتخار همکاری علمی داشتم باهاشون و مقاله…
در این کانال میثم هرچیزی از نظر خودش جالب باشه در هر زمینه ای منتشر میکنه علاقه داشتید دنبال کنید.
https://news.1rj.ru/str/ai_person
https://news.1rj.ru/str/ai_person
👍2👏1
DeepMind AI Expert
کسایی که قصد فراگیری NLP دارند و مشخصا قضد فهمیدن و درک اهمیت Tranformersها را دارند این مقاله بهترین رفرنس یادگیری است. ▪️ چرا این مقاله مهم است؟ چون شما را با معماری و قابلیتهاش آشنا میکند. اینکه چطور شد به مدلهایی مانند BERT و GPT رسیدند. ▪️ هدف این مقاله…
تا حالا شاید براتون سوال شده باشه که چرا در LLMsها Transformersها خوب کار میکنند در این تاک که توسط دکتر Felix Hill محقق DeepMind توضیح میده، که چطور معماری Transformers با مدلهای زبانی تطابق زیادی داره .
https://www.youtube.com/watch?v=8zAP2qWAsKg&feature=youtu.be
قبلتر یک مقاله معرفی کرده بودم تحت عنوان
🔸Attention Is All You Need
کنکاش بیشتری راجب این موضوع انجام گرفته بود.
در لینک زیر کلا جزییات بیشتری راجب ترنسفورمرها ارایه شده است
https://news.1rj.ru/str/AI_Deepmind/114
#مقاله #ایده_جذاب #مبتدی #منابع
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
https://www.youtube.com/watch?v=8zAP2qWAsKg&feature=youtu.be
قبلتر یک مقاله معرفی کرده بودم تحت عنوان
🔸Attention Is All You Need
کنکاش بیشتری راجب این موضوع انجام گرفته بود.
در لینک زیر کلا جزییات بیشتری راجب ترنسفورمرها ارایه شده است
https://news.1rj.ru/str/AI_Deepmind/114
#مقاله #ایده_جذاب #مبتدی #منابع
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍5
Forwarded from Meysam
این دنیا دیگه جای موندن نیست 😕😑
بهش میگید چه نوع صدایی میخواهید یا عکسشو میدید یا ... اونو جنریت میکنه
مقاله:
https://arxiv.org/abs/2304.12995
کد:
https://github.com/AIGC-Audio/AudioGPT
ممکنه بگید به چه دردی میخوره؟ بیشتر شبیه اینه که قدرت تولید صدا و شنیدن رو به چت جی پی تی داده باشید.
یه چیزی شبیه سیری و الکسا و کورتانا ولی با درک خیلی بالاتر.
نکته جالبتر: کل سیستمشون اوپن سورس کردن.
بهش میگید چه نوع صدایی میخواهید یا عکسشو میدید یا ... اونو جنریت میکنه
مقاله:
https://arxiv.org/abs/2304.12995
کد:
https://github.com/AIGC-Audio/AudioGPT
ممکنه بگید به چه دردی میخوره؟ بیشتر شبیه اینه که قدرت تولید صدا و شنیدن رو به چت جی پی تی داده باشید.
یه چیزی شبیه سیری و الکسا و کورتانا ولی با درک خیلی بالاتر.
نکته جالبتر: کل سیستمشون اوپن سورس کردن.
👍1
Why does generative AI struggle with hands?
1. Data size (duh). Face pics are much more common than hand pics. Even when the whole body is shown, hands tend to occupy much smaller pixel real estate.
2. Lack of embodied understanding. This is a much deeper issue: AIs never use hands in the physical world, so they have to infer how hands look in various poses by superficial pattern matching. That's why AI can't even get the number of fingers correct, because hands are frequently occluded by tools or itself. More technically, diffusion doesn't have a working world model
3. Low tolerance. It's fine to mess up the texture a little bit, you won't even notice. But getting hands wrong easily triggers the uncanny valley reaction
https://m.youtube.com/watch?v=24yjRbBah3w
A Path Towards Autonomous Machine Intelligence
https://openreview.net/pdf?id=BZ5a1r-kVsf
1. Data size (duh). Face pics are much more common than hand pics. Even when the whole body is shown, hands tend to occupy much smaller pixel real estate.
2. Lack of embodied understanding. This is a much deeper issue: AIs never use hands in the physical world, so they have to infer how hands look in various poses by superficial pattern matching. That's why AI can't even get the number of fingers correct, because hands are frequently occluded by tools or itself. More technically, diffusion doesn't have a working world model
3. Low tolerance. It's fine to mess up the texture a little bit, you won't even notice. But getting hands wrong easily triggers the uncanny valley reaction
https://m.youtube.com/watch?v=24yjRbBah3w
A Path Towards Autonomous Machine Intelligence
https://openreview.net/pdf?id=BZ5a1r-kVsf
👍2
This media is not supported in your browser
VIEW IN TELEGRAM
در این مقاله جامع survey هم راهنمایی جامع و کاربردی برای LLMs بحث کرده است و هم محدودیت ها و سناریوهای منتشر شده از LLMs ها و بحث راجب مدلها، داده ها و... بحثی مفصل در موارد استفاده و عدم استفاده از مدلهای زبان بزرگ برای کارهای مختلف NLP ، مانند NLG، وظایف خاص NLP ، تواناییهای نوظهور NLP و NLU و.... در این مقاله به تحریر در آمده است.
🔸 Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond
🔸 Git Repo Practical Guide for Models
#ایده_جذاب #مقاله #مبتدی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
🔸 Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond
🔸 Git Repo Practical Guide for Models
#ایده_جذاب #مقاله #مبتدی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍2
اگه تا حالا مقالات منتشر شده از اینکه chatGPT و موارد مشابه چطور کار میکنند متوجه نشدی این بهترین مقاله است که بفهمی قضیه چیه و پشت این کار عظیم کارش و نحوه خوندن دستورات و... چطوریه این کمک شایانی در فهم مسئله بهتون میکنه دیگه به زبان کودکانه توضیح دادند
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
#مقاله #مبتدی #پردازش_زبان_طبیعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
#مقاله #مبتدی #پردازش_زبان_طبیعی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍3
رقیبی جدی برای مایکروسافت و گوگل اسکالر و سایر انتشاراتی ها ،به وسیله کلید واژه میتوانید مقاله خاص هر موضوعی را سرچ کنید
https://alpha.openalex.org/works
#خبر #مقاله
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
https://alpha.openalex.org/works
#خبر #مقاله
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍3
This media is not supported in your browser
VIEW IN TELEGRAM
دوره جدید دکتر Andrew NG در مورد پرامپتینگ و chatGPT که مخصوص دولوپرها هست:
https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/
#منابع #فیلم #هوش_مصنوعی #کلاس_اموزشی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/
#منابع #فیلم #هوش_مصنوعی #کلاس_اموزشی
🔸 مطالب بیشتر 👇👇
✅ @AI_DeepMind
👍3
Forwarded from Meysam
خب خب خب،
اگه میخواهید واقعا پردازش زبان یاد بگیرید و بدونید داستان چیه و کل این چت جی پی تی و ... چطوری کار میکنه، دو راه داره:
۱. ولش کنید.
۲. این لیست رو بخونید، حدودا دو سه ماه حداقل وقت میبره و به ترتیب بخونید:
پردازش زبان ژورافسکی:
https://web.stanford.edu/~jurafsky/slp3/
یادگیری عمیق:
https://www.deeplearningbook.org/
مقالات مهم و تاثیر گذار پردازش زبان:
LSTM:
https://arxiv.org/abs/1512.08849
اتنشن تو پردازش زبان:
https://arxiv.org/abs/1409.0473
Word2vec, Fasttext
ترنسفرمر:
https://arxiv.org/abs/1706.03762
T5, BERT, Longformer
Instruction fine-tuning:
https://arxiv.org/abs/2204.07705
Bloom:
https://arxiv.org/abs/2211.05100
RLHF:
https://arxiv.org/abs/2009.01325
پیش نیاز:
ریاضی و مخصوصا مشتق و امثالهم
برنامه نویسی پایتون
تفکر نقادانه
یادگیری ماشین
اگه میخواهید واقعا پردازش زبان یاد بگیرید و بدونید داستان چیه و کل این چت جی پی تی و ... چطوری کار میکنه، دو راه داره:
۱. ولش کنید.
۲. این لیست رو بخونید، حدودا دو سه ماه حداقل وقت میبره و به ترتیب بخونید:
پردازش زبان ژورافسکی:
https://web.stanford.edu/~jurafsky/slp3/
یادگیری عمیق:
https://www.deeplearningbook.org/
مقالات مهم و تاثیر گذار پردازش زبان:
LSTM:
https://arxiv.org/abs/1512.08849
اتنشن تو پردازش زبان:
https://arxiv.org/abs/1409.0473
Word2vec, Fasttext
ترنسفرمر:
https://arxiv.org/abs/1706.03762
T5, BERT, Longformer
Instruction fine-tuning:
https://arxiv.org/abs/2204.07705
Bloom:
https://arxiv.org/abs/2211.05100
RLHF:
https://arxiv.org/abs/2009.01325
پیش نیاز:
ریاضی و مخصوصا مشتق و امثالهم
برنامه نویسی پایتون
تفکر نقادانه
یادگیری ماشین
👍3🔥3
Forwarded from پادداشت | AntiMemoir (Iman)
اکسیرِ حیات یا جامِ شوکران
نگاهی به تحولات اخیر هوش مصنوعی
یک.
تصور کنید قرار بوده اکسیری را به مرور زمان در طی چندین سال بنوشیم تا پس از چند دهه تواناییهای ابرانسانی پیدا کنیم. این اکسیر به ما قدرت میداده تا با اَبَرهوش خود، مشکلاتِ فوقِ پیچیدهٔ پزشکی، اجتماعی، اقتصادی، اقلیمی و فضایی را حل کنیم. دکترهایمان البته کمی هم نگرانِ عوارضِ جانبیِ این اکسیر بودهاند، با اینحال خوشبین بودهاند که در این بازهٔ زمانیِ چندساله که اکسیر هنوز اثر نکرده، راهحلِ مقابله با این عوارضِ جانبی را هم پیدا میکنند. اکنون اما، پس از نوشیدن جرعهای از این اکسیر، نه تنها اولین نشانههای اَبَرهوش بروز پیدا کرده [۱] بلکه دکترها متوجه شدهاند که گرفتار سرطانی بدخیم شدهایم [۲]. این اکسیر البته چیزی نیست جز هوش مصنوعی. من طیِ پنج سالِ گذشته مشغول به پژوهش در حوزهٔ هوش مصنوعی و رباتیک بودهام و در این متن، به صورت خیلی مختصر از تحولاتِ اخیرِ این تکنولوژی (پاراگراف دو)، تغییراتِ پیش ِرو (پاراگراف سه)، مخاطراتِ جدی آینده (پاراگراف چهار و پنج)، و چالشهای احتمالیش در زندگیهای جمعی (پاراگراف شش) و فردیمان (پاراگراف هفت) مینویسم.
دو.
قابلتوجهترین توسعهٔ هوش مصنوعی در چند سال اخیر، پیشرفت در پردازش ِزبان ِطبیعیِ انسانها توسط مدلهای زبانی بزرگ (LLM) است. این مدلهای شبکه عصبی مصنوعی، با استفاده از مجموعههای عظیمی از دادههای متنی موجود در اینترنت طوری آموزش مییابند که در یک جملهٔ جزئی، باید کلمهٔ بعدی جمله را پیشبینی کنند. کاربردهای رایج این مدلها شامل: پاسخ دادن به سوالات، خلاصه کردن متن، ترجمه متن به زبانهای دیگر، تولید کد کامپیوتر، تولید پست وبلاگ، داستان، مکالمه و سایر انواع محتواست. شواهد گزارش شده حاکی از آن است که نسخهٔ اولیهای از یک مدل زبانی با نام GPT-4 محصول شرکت OpenAI، علیرغم اینکه صرفاً یک مدل زبانی است، قابلیتهای قابلتوجهی از هوش را در حوزهها و مسائل مختلف، از جمله انتزاع، ادراک، بینایی، برنامهنویسی، ریاضیات، پزشکی، حقوق، درک انگیزهها و احساسات انسانی و … نشان میدهد. هوشمندیِ GPT-4 در دامنه وسیعی از مسائل در سطحِ هوشمندیِ انسانی یا فراتر از آن است و با وجود محدودیتهای فعلیاش نشانیست از یک تغییرِ پارادایمِ اساسی در زمینهٔ علومِ کامپیوتر و سایر علوم.
سه.
همهچیز در شرف تغییر است؛ همهچیز! همانگونه که ظهور کامپیوتر خانگی، اینترنت، تلفن هوشمند و شبکههای اجتماعی همهچیز را تغییر داد، هوش مصنوعی به مرحلهای رسیده که با نرخی نمایی روزبهروز بزرگتر شود و همهچیز را تغییر دهد. تمامی مسیرهایی که ما طی آنها تولید اطلاعات و محتوا میکنیم، از متن گرفته تا صوت یا ویدیو، و همگی راههای ارتباطاتی ما در جامعه در آستانهٔ تحولاتی انقلابی هستند. هر کسی قادر خواهد بود که بیدرنگ، افکار، ایدهها و تصوراتِ انتزاعی و خلاقانهٔ ذهن خود را به صورتِ تصویری با بقیه به اشتراک بگذارد. تمامی حرفههایی که تکیهٔ اصلیشان به زبان، تجزیه و تحلیلِ اطلاعات و ارتباطات است متحول شده و محصولاتشان با کیفیتی بهتر و هزینهای کمتر در دسترس آدمهای بیشتری قرار خواهند گرفت. از جملهٔ سیستمهای در آستانهٔ تحول میتوان به: سیستم آموزشی، مراقبتهای بهداشتی، خدمات حقوقی، پشتیبانی مشتری، روزنامهنگاری و تولید محتوا، خدمات اقتصادی و حسابداری، مدیریت منابع انسانی و فروش و بازاریابی اشاره کرد. مهمترین تحولِ پیشرو البته در بخش پژوهشِ علمی و توسعهٔ نرمافزار رخ میدهد، چرا که با فراهم شدن امکان دسترسی به اطلاعاتِ غنی و پردازش شده، بینشهایی جدید در همهٔ شاخههای علوم ایجاد میشود و سرعتِ نوآوری و اکتشافات علمی به صورت نمایی افزایش مییابد.
(ادامه در پست بعدی 👇🏽)
@AntiMemoir
نگاهی به تحولات اخیر هوش مصنوعی
یک.
تصور کنید قرار بوده اکسیری را به مرور زمان در طی چندین سال بنوشیم تا پس از چند دهه تواناییهای ابرانسانی پیدا کنیم. این اکسیر به ما قدرت میداده تا با اَبَرهوش خود، مشکلاتِ فوقِ پیچیدهٔ پزشکی، اجتماعی، اقتصادی، اقلیمی و فضایی را حل کنیم. دکترهایمان البته کمی هم نگرانِ عوارضِ جانبیِ این اکسیر بودهاند، با اینحال خوشبین بودهاند که در این بازهٔ زمانیِ چندساله که اکسیر هنوز اثر نکرده، راهحلِ مقابله با این عوارضِ جانبی را هم پیدا میکنند. اکنون اما، پس از نوشیدن جرعهای از این اکسیر، نه تنها اولین نشانههای اَبَرهوش بروز پیدا کرده [۱] بلکه دکترها متوجه شدهاند که گرفتار سرطانی بدخیم شدهایم [۲]. این اکسیر البته چیزی نیست جز هوش مصنوعی. من طیِ پنج سالِ گذشته مشغول به پژوهش در حوزهٔ هوش مصنوعی و رباتیک بودهام و در این متن، به صورت خیلی مختصر از تحولاتِ اخیرِ این تکنولوژی (پاراگراف دو)، تغییراتِ پیش ِرو (پاراگراف سه)، مخاطراتِ جدی آینده (پاراگراف چهار و پنج)، و چالشهای احتمالیش در زندگیهای جمعی (پاراگراف شش) و فردیمان (پاراگراف هفت) مینویسم.
دو.
قابلتوجهترین توسعهٔ هوش مصنوعی در چند سال اخیر، پیشرفت در پردازش ِزبان ِطبیعیِ انسانها توسط مدلهای زبانی بزرگ (LLM) است. این مدلهای شبکه عصبی مصنوعی، با استفاده از مجموعههای عظیمی از دادههای متنی موجود در اینترنت طوری آموزش مییابند که در یک جملهٔ جزئی، باید کلمهٔ بعدی جمله را پیشبینی کنند. کاربردهای رایج این مدلها شامل: پاسخ دادن به سوالات، خلاصه کردن متن، ترجمه متن به زبانهای دیگر، تولید کد کامپیوتر، تولید پست وبلاگ، داستان، مکالمه و سایر انواع محتواست. شواهد گزارش شده حاکی از آن است که نسخهٔ اولیهای از یک مدل زبانی با نام GPT-4 محصول شرکت OpenAI، علیرغم اینکه صرفاً یک مدل زبانی است، قابلیتهای قابلتوجهی از هوش را در حوزهها و مسائل مختلف، از جمله انتزاع، ادراک، بینایی، برنامهنویسی، ریاضیات، پزشکی، حقوق، درک انگیزهها و احساسات انسانی و … نشان میدهد. هوشمندیِ GPT-4 در دامنه وسیعی از مسائل در سطحِ هوشمندیِ انسانی یا فراتر از آن است و با وجود محدودیتهای فعلیاش نشانیست از یک تغییرِ پارادایمِ اساسی در زمینهٔ علومِ کامپیوتر و سایر علوم.
سه.
همهچیز در شرف تغییر است؛ همهچیز! همانگونه که ظهور کامپیوتر خانگی، اینترنت، تلفن هوشمند و شبکههای اجتماعی همهچیز را تغییر داد، هوش مصنوعی به مرحلهای رسیده که با نرخی نمایی روزبهروز بزرگتر شود و همهچیز را تغییر دهد. تمامی مسیرهایی که ما طی آنها تولید اطلاعات و محتوا میکنیم، از متن گرفته تا صوت یا ویدیو، و همگی راههای ارتباطاتی ما در جامعه در آستانهٔ تحولاتی انقلابی هستند. هر کسی قادر خواهد بود که بیدرنگ، افکار، ایدهها و تصوراتِ انتزاعی و خلاقانهٔ ذهن خود را به صورتِ تصویری با بقیه به اشتراک بگذارد. تمامی حرفههایی که تکیهٔ اصلیشان به زبان، تجزیه و تحلیلِ اطلاعات و ارتباطات است متحول شده و محصولاتشان با کیفیتی بهتر و هزینهای کمتر در دسترس آدمهای بیشتری قرار خواهند گرفت. از جملهٔ سیستمهای در آستانهٔ تحول میتوان به: سیستم آموزشی، مراقبتهای بهداشتی، خدمات حقوقی، پشتیبانی مشتری، روزنامهنگاری و تولید محتوا، خدمات اقتصادی و حسابداری، مدیریت منابع انسانی و فروش و بازاریابی اشاره کرد. مهمترین تحولِ پیشرو البته در بخش پژوهشِ علمی و توسعهٔ نرمافزار رخ میدهد، چرا که با فراهم شدن امکان دسترسی به اطلاعاتِ غنی و پردازش شده، بینشهایی جدید در همهٔ شاخههای علوم ایجاد میشود و سرعتِ نوآوری و اکتشافات علمی به صورت نمایی افزایش مییابد.
(ادامه در پست بعدی 👇🏽)
@AntiMemoir
👍3