ایده هایی که تاکنون در حال انتشار هستند یک بخشی از حل اونها RLHF هستش حال سوال اینست که چطور کار میکنه !؟

Why does reinforcement learning from human feedback (RLHF) work?

https://www.interconnects.ai/p/how-rlhf-works

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

How to do continual learning on a data stream without restrictions on network architecture?

proposed framework learns a stream of learners with diverse architectures.


🔸 Heterogeneous Continual Learning

🔸 Youtube Paper CL

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

قبلتر راجب این ایده و موضوع مقالاتی منتشر کردم با پیگیری هشتگ #ایده_جذاب میتونید به موضوعات جالبی برسید.

🔸 Image and Language Understanding from Pixels Only

🔸 GitHub
🔸 Google Colab

🔸 پست های قبلی

#مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

Opportunities and Risks of LLMs for Scalable Deliberation with Polis

https://huggingface.co/papers/2306.11932

#مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

بهترین مقالات برگزیده در کنفرانس CVPR 2023
1) Visual Programming for Compositional Visual Reasoning
https://prior.allenai.org/projects/visprog

2) Planning-oriented Autonomous Driving
https://opendrivelab.github.io/UniAD/

3) DynIBaR Neural Dynamic Image-Based Rendering
https://dynibar.github.io/

4) 3D Registration with Maximal Cliques
https://arxiv.org/abs/2305.10854

5) DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation
https://dreambooth.github.io/

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

یک کار علمی بسیار ارزشمند جهت شناسایی موقعیت کاربران موبایل توسط پیامک!

در این روش مهاجم تعدادی پیامک به شماره هدف میفرسته وبه کمک زمان بین ارسال پیامک و دریافت پیام تایید ارسال آن تولیدشده توسط اپراتور قادر به شناسایی مکان کاربر هدف با دقتی تا ۹۶% هستند.
Freaky Leaky SMS: Extracting User Locations by Analyzing SMS Timings

https://arxiv.org/abs/2306.07695

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

ابزارهایی که در لینوکس به درد #برنامه_نویس ها میخوره

https://courses.cs.washington.edu/courses/cse391/23sp/

ترم از قلم افتاده از دانشگاه mit
https://missing.csail.mit.edu/

#منابع #منابع_پیشنهادی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

midjourney version 5.2 zoom out feature

https://www.reddit.com/r/midjourney/comments/14gihkv/midjourney_version_52_out_now_time_for_zoooom/

اولین گفتگوی دکتر جفری هینتون بعد از جدایی ازگوگل در این گفتگو پیرامون چرا از آینده هوش مصنوعی میترسد؟! و یادگیری عمیق چطور کار میکند؟! خطرات و اتفاقات پیش روی این کار چیست؟! و...

https://m.youtube.com/watch?v=-9cW4Gcn5WY&feature=youtu.be

#پادکست #هوش_مصنوعی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

دوتا کلاس آموزشی از دانشگاه کارنگی ملون منتشر شده به اطلاعاتتون بیفزایید

CMU 11 777 Multimodal Machine Learning fall 2020, 2022, by Louis-Philippe Morency

https://cmu-multicomp-lab.github.io/mmml-course/fall2022/schedule/

https://cmu-multicomp-lab.github.io/mmml-course/fall2020/schedule/


#منابع_پیشنهادی #منابع #یادگیری_ماشین #پیشرفته

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

قبلتر یک سری منابع اینجا معرفی کردم در ادامه یک منبعی کاربردی و عملی که چگونه #الگوریتمها را بهینه سازی کنیم بهتون پیشنهاد میدم.
Optimization: Principles and Algorithms by Michel Bierlaire

http://optimizationprinciplesalgorithms.com/

#منابع #متوسط #پیشرفته #ریاضی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

Textbooks Are All You Need

https://arxiv.org/abs/2306.11644

https://arxiv.org/abs/2306.12420

LMFlow: An Extensible Toolkit for Finetuning and Inference of Large Foundation Models

یک ورژن جدیدی از این مقاله منتشر شده پیشنهاد میدم اطلاعات تکمیلی از ترنسفورمرها رو میخایید مطاله کنید
🔸 Transformer models: an introduction and catalog

#مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

How to ensure 𝗗𝗮𝘁𝗮 𝗤𝘂𝗮𝗹𝗶𝘁𝘆 𝗶𝗻 𝗠𝗮𝗰𝗵𝗶𝗻𝗲 𝗟𝗲𝗮𝗿𝗻𝗶𝗻𝗴 𝗦𝘆𝘀𝘁𝗲𝗺𝘀?

It is extremely important to ensure Data Quality upstream of ML Training and Inference Pipelines, trying to do it in the pipelines will cause unavoidable failure when working at scale. Data Contracts can be leveraged for this goal.

Data Contract is an agreement between Data Producers and Data Consumers about the qualities to be met by Data being produced.

Data Contract should hold the following non-exhaustive list of metadata:

👉 Schema Definition.
👉 Schema Version.
👉 SLA metadata.
👉 Semantics.
👉 Lineage.
👉 …

Example Architecture Enforcing Data Contracts:

𝟭: Schema changes are implemented in version control, once approved - they are pushed to the Applications generating the Data, Databases holding the Data and a central Data Contract Registry.

[𝗜𝗺𝗽𝗼𝗿𝘁𝗮𝗻𝘁]: Ideally you should be enforcing a Data contract at this stage, when producing Data. Data Validation steps down the stream are Detection and Prevention mechanisms that don’t allow low quality data to reach downstream systems. There might be a significant delay before you can do those checks, causing irreversible corruption or loss of data.

Applications push generated Data to Kafka Topics:

𝟮: Events emitted directly by the Application Services.

👉 This also includes IoT Fleets and Website Activity Tracking.

𝟮.𝟭: Raw Data Topics for CDC streams.

𝟯: A Flink Application(s) consumes Data from Raw Data streams and validates it against schemas in the Contract Registry.
𝟰: Data that does not meet the contract is pushed to Dead Letter Topic.
𝟱: Data that meets the contract is pushed to Validated Data Topic.
𝟲: Data from the Validated Data Topic is pushed to object storage for additional Validation.
𝟳: On a schedule Data in the Object Storage is validated against additional SLAs in Data Contracts and is pushed to the Data Warehouse to be Transformed and Modeled for Analytical purposes.
𝟴: Modeled and Curated data is pushed to the Feature Store System for further Feature Engineering.
𝟴.𝟭: Real Time Features are ingested into the Feature Store directly from Validated Data Topic (5).

👉 Ensuring Data Quality here is complicated since checks against SLAs is hard to perform.

𝟵: High Quality Data is used in Machine Learning Training Pipelines.
𝟭𝟬: The same Data is used for Feature Serving in Inference.


#مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

دوره کلاسی جدیدی که دکتر رایان تیبشیرانی با سرفصلهای جدیدی از
Statistical Learning
ارائه دادند جذابه دوست داشتید فایلهای کلاسیشو دانلود کنید و برای مطالعه برنامه ریزی کنید.
https://www.stat.berkeley.edu/~ryantibs/statlearn-s23/

https://github.com/valeman/awesome-conformal-prediction

#منابع #مبتدی #آمار #یادگیری_ماشین

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

در کنفرانس‌های امسال این موضوع جدیدی بود که توجه ها رو به خودش جلب کرده بود continual learning اگر علاقمند به موضوع جدیدی هستید این مقاله ها #ایده_جذاب ی برای تحقیقات هست.
🔸 Class-Incremental Learning based on Label Generation

🔸 یک ریپوزیتوری از continueLM

🔸 Continual Pre-training of Language Models

🔸 The power of continuous learning

🔸 Lecture 6 from MIT : Continual Learning

#مقاله

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind

اگه به دنبال منبعی هستین که خلاصه به مباحث ریاضیات و فنی #یادگیری_ماشین و #یادگیری_عمیق سری زده باشه، خوندن این هندبوک می‌تونه خیلی براتون مفید باشه.

#منابع #مبتدی #ریاضی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind