شرکت Nvidia کل دانش ساخت چیپش، شامل دیزاین‌ها، codebase ها و داکیومنت‌ها و حتی log و bug report هارو در یک مدل Generative AI (با ۲۴ میلیارد توکن) به نام ChipNeMo خلاصه کرد.

Blog post

توانایی‌هایی مثل ارائه Electronic Design Automation که خصوصا برای GPU ها انجام میشه و chatbot دستیار مهندس‌ها، code generator و ابزار آنالیز.

نسل جدید محصولات نرم‌افزاری همین LLM‌های متخصص خواهند بود. این یک امکان فوق‌العادس که شما اگر در زمینه‌ای تخصص و داکیومنت‌های خاص دارید میتونید LLM خودتون رو با pretraining و finetune کردن یا به سادگی با GPT Builder بسازید و بفروشید.

پ.ن: البته Nvidia این رو برای فروش قرار نداده مشخصا😁

@deeptimeai

ML-based Forex 04
Features 02

برای ساخت فیچر از داده خام قیمتی باید به دو مسئله دقت کرد. اول domain expertise و دوم شناخت کامل نوع مدل ML که قرار هست فیچرهارو ببینه. مسئله دوم رو بعدا بیشتر صحبت می‌کنیم.
در مورد domain expertise مسئله اصلی اینجاست که اصولا شما نمی‌توانید مثل یک مسئله فیزیکی معادلات حاکم یا governing equation مشخصی برای بازاری مثل فارکس متصور بشید. مزیتِ دانش شما از بازار به واسطه trade کردن، مطالعه و ... در نهایت فقط و فقط این خواهد بود که متوجه بشید چه عواملی احتمالا، به نوعی باعث پیشبینی حرکتِ یک/چند جفت ارز در جهت/جهات خاص میشن. بعد باید همگی این عوامل رو تجمیع کنید، به صورت فیچر بسازید و در نهایت آنالیز کنید.

در مورد تحلیل تکنیکال: از نظر data science معیار‌های تکنیکال ابزار پیشبینی با نقاشی (و بعدش احتمالا به فاک رفتن) نیستن، بلکه صرفا فیچر هستند.

بحث بعدی به صورت ویس یا live stream با یکی از متخصصین خواهد بود.

#ML_Forex

@deeptimeai

پیرو مقاله بحث قبل، یان لکن هم نوشته که مدل‌های LLM (مثل chatGPT) با خوندن متونی که برای انسان ۲۰ هزار سال طول میکشه، بازم‌ نمیفهمن که اگر A همون B هست، B هم همون A هست.

نکته: منظور یان لکن از این بحث این نیست که این مدل‌ها بدرد نمیخورن بلکه منظور این هست که اولا زمینه تحقیقات باید به سمت ساخت هوش از جنس و efficiency انسان یا حیوان بره و ثانیا انقد فاز بد ندید که انسان نابود میشه با هوش مصنوعی! (شایدم بشه ها!)

البته یک طرف دیگه قضیه هم این هست که همین chatGPT تونست یک سندروم خاص رو از یک بچه تشخیص بده (منجر به درمان) وقتی مادرش علائم رو برای chatGPT نوشت. چیزی که کلی پزشک در مدت زیادی نتونسته بودن تشخصی بدن. پس این همه کتاب خوندن توسط این مدل‌ها بدرد نخور نیست.

نتیجه: با توجه به این بحث و بحث یان لکن، (تا مدت زیادی) به انسان‌های متخصصی نیاز است که به هوش مصنوعی مجهز هستند.

@deeptimeai

اگر سال‌ها پای چارت بازار دنبال الگو بودید، استفاده از Shapelet روش کاربردی و علمی برای الگویابی است.
از Shapelet Transform یا Subsequence Transform برای ساخت فیچر و الگویابی در مسائل سری زمانی و خصوصا Classification استفاده میشه. البته Shapelet برخلاف Fourier و Wavelet از حوزه فرکانس استفاده نمیکنه. خود این مسئله، به خصوص در مسائلی که فیزیک مشخصی ندارند (مثل فایننس) یک مزیت است.
نکته مهم هزینه محاسباتی بالا برای استخراج این الگوهاست. به تازگی در ژورنال معتبر Pattern Recognition مقاله جدیدی که نتیجه یک پایان‌نامه دکتری هست، روش سریع و Scaleable ارائه کرده:
Scalable and accurate subsequence transform for time series classification

Code on Github

حتما کد گیتهاب رو بررسی کنید و star بزنید. نکته اساسی استفاده از decorator‌های Numba روی Numpy برای افزایش سرعت هست یعنی:

@njit

البته مهم هست که از آرگومان‌های مختلف fastmatch و parallel چه زمانی استفاده کنیم. ضمنا نحوه استفاده از Scikit Learn برای نوشتن یک پکیج compatible هم دقت کنید. مواردی مثل:

check_array, check_X_y, check_is_fitted

@deeptimeai

مهمان ما دکتر علی حبیب‌نیا استاد دانشگاه ویرجینیاتک هستن. در مورد موارد متنوعی از جمله سیستم‌های ترید، استارتاپ‌های موفق و بازارها صحبت میکنیم.
شنبه ساعت 9:30 شب، لایو در تلگرام.

@deeptimeai

منتشر شد!

پس از چند ماه کار و همکاری با چند فیزیکدان، کتابخانه pysolorie را به صورت رسمی منتشر کردیم.

آیا می‌دانید که برای دریافت بیشترین انرژی خورشیدی، پنل‌های خورشیدی را در یک روز خاص، در چه زاویه‌ای نسبت به سطح زمین باید قرار داد؟ این زاویه بستگی به ارتفاع مشخصی از سطح دریا (altitude) و عرض جغرافیایی (latitude) و نوع آب و هوا دارد.

تئوری پشت این کتابخانه بر اساس چندین مقاله و کتاب است که مهمترین آن مقاله‌ای است که در Scientific Report Nature به چاپ رسیده است (لینک).
کتابخانه pysolorie با قابلیت‌های متعدد، به این نوع سوالات پاسخ می‌دهد. این کتابخانه با زبان برنامه‌نویسی پایتون توسعه یافته است. لینک گیتهاب پروژه را در اینجا قرار داده‌ام. برای مراجعه به مستندات پروژه، می‌توانید به این لینک مراجعه کنید.


چگونه در پروژه مشارکت (contribute) کنیم؟

برای بهبود کتابخانه، روش‌های مختلفی وجود دارد:

۱. می‌توانید تست‌های جدید اضافه کنید.

۲. می‌توانید داکیومنت را بهبود ببخشید.

۳. می‌توانید قابلیت جدید اضافه کنید یا باگی را برطرف کنید.

از آن‌جایی که زیرساخت CI/CD در پروژه به کار گرفته شده و انواع کنترل کیفیت مانند pre-commit و tox به کار رفته، قبل از هر تغییری، صفحه مشارکت پروژه را از سایت بخوانید.

تکنولوژی‌های به کار رفته در کتابخانه:
Python, readthedocs, pre-commit, github actions, tox, pyproject, black, pytest

@golemcourse

چند نکته درباره جلسه امشب:

۱_ احتمالا با پروکسی صدای لایو استریم براتون پخش نشه و نیاز به فیلترشکن و وی‌پی‌ان هست.
۲_ در پایان احتمالا سوالات هم کمی جواب بدیم.

ویس ضبط شده لایو با دکتر علی حبیب‌نیا

هوش مصنوعی و یادگیری ماشین در بازارهای مالی و الگوتریدینگ

AI & Machine Learning in Quantitative Finance, Dr. Ali Habibnia, Mohammad Talaei

مباحث خیلی خوبی مطرح شد. البته در لایو خیلی مشکل اینترنت داشتم و بارها قطع شدم. خوشبختانه بیشتر علی جان که خارج از کشور هستن صحبت کردن و قطعی هم نداشتن.

@deeptimeai

منابع ML in Algorithmic Trading & Quantitative Finance از دکتر علی حبیب‌نیا که در لایو هم صحبت شد.

پیشنهاد میکنم این منابع رو بررسی کنید.
Github
برای مثال ریپوزیتوری
Algorithmic Trading with Python
رو ببینید.
YouTube
در کانال یوتیوبشون ویدیوهای آموزشی فارسی هم وجود داره.

@deeptimeai

پست قبل درباره یک سیستم جدید بود که با تیم برای فارکس بالا آوردیم که البته پست به دلایل مشخص حذف شد. اما چرا وقتی از نتایج یک سیستم trade پست گذاشته میشه انقد واکنش های منفی زیاد میشه؟ در واقع بعضی افراد نتیجه میگیرن که بدترین backtest گرفته شده، حس میکنن فقط اونا فرق back-test و live رو میدونن و ظرافت های back-test دقیق رو متوجه میشن. ما چند ساله تو این کانال داریم همینارو میگیم.
متاسفانه در ابتدا فکر کردم از اون دیسلایک ها حرف خاصی وجود داره و کامنتارو باز کردم. حدود نیم ساعتی داشتم با همین افراد حرف میزدم و بدیهیات رو میگفتن. فقط انرژی تلف شد. و البته ممنون از شایان باسواد که بجای من که جایی جلسه آنلاین بودم و البته خسته شده بودم جوابشونو میداد. احتمالا با شایان هم لایو بریم در آینده.
من شخصا یاد گرفتم skeptical باشم نسبت به سیستم های data science و آگاه به خطاهای شناختی چه برسه به اینکه حوزه فایننس باشه. اصولا سیستم algo trader تا پول نسازه و اون هم به طور پایدار در بلندمدت، مورد قبول نیست. بازم میگم، اینها بدیهیاته. حداقل برای من که چند ساله دارم از این راه نون میخورم. اما این به این معنا نیست که نمیشه سیستم رو در فازهای مختلف ارزیابی کرد و کور پیش رفت.

تنها نکته پست حذف شده:
اگر مدل classification دارید، فقط به TP FP و precision نگاه نکنید. به طور دقیق backtest کنید و میانگین سود FP هارو ببینید. FPها احتمالا فقط نتونستن به حد سود برسن اما مثلا در مثال ما بعد از 8 ساعت که پوزیشن ها بسته میشه، FP ها هم به طور میانگین سود دادن و فقط بعضی هاشون به حد ضرر میخورن. بک تست سختگیرانه با cross val و gap بین train test در بلند مدت.

@deeptimeai

The Rise of Diffusion Models in Time-Series Forecasting

یکی از مهم ترین تکنولوژی‌های روز دنیا در Generative AI مدل Diffusion هست که قطعا کاربردش رودر تولید تصویر دیدین. اینجا کاربرد در سری زمانی هست.
ریاضی Diffusion و notation های ریاضی شو میتونید باکمک chatGPT یاد بگیرید.

@deeptimeai

تلخی و ظلمت‌ این روزها در یاد ما خواهد ماند🖤

لایو دوم با دکتر علی حبیب‌نیا
درباره استارتاپ‌های Quantitative Finance صحبت می‌کنیم.

در قسمت اول درباره کلیات مدلسازی Quantitative در بازار مالی و سیستم‌های الگوتریدینگ بر مبنای ماشین لرنینگ صحبت شد. در این لایو میخواهیم درباره استارتاپ‌های این حوزه صحبت کنیم.

شنبه ساعت ۹:۳۰ شب به وقت تهران

@deeptimeai