Nginx Proxy Manager

💡 به صورت کلی nginx proxy manager یه reverse proxy هست که با یه UI ساده و زیبا در دسترس شماست البته یه سری قابلیت‌های out of the box هم با خودش داره که کار رو بشدت ساده تر میکنه.

💡 یکی از این قابلیت‌های جالبش SSL certificate بود که خودکار generate می‌شه و ست میشه و با یه کلیک تمدید می‌شه 😁

💡 چون من nginx proxy manager رو روی داکر آورده بودم بالا، باید خود پروکسی رو هم می‌بردم روی یه شبکه مشترک با باقی سرویس‌ها توی داکر (network bridge).
تا پروکسی بتونه اونارو ببینه و بتونه route کنه مسیر رو بهشون.

💡 یکی دیگه از قابلیت‌هاش اینه که می‌تونید دستی config بهش اضافه کنید و دستتون رو باز گذاشته برای کانفیگ nginx
و به همین راحتی شما با nginx proxy manager آشنا شدید :))

✅ حالا کافیه یه سرور بیارید بالا و روش پروکسی رو بیارید بالا و بعد دامنه اتون رو توی CDNتون point کنید به سمت سرورتون و تمام !

🔗 لینک توئیت
#software

🆔 @lifeAsAService

امروز با معرفی مدل Biggie-SmoLlm-0.15B-Base قبلتر گفتم که مدلها به سمت کوچکتر شدن و کیفیت بیشتر سوق داده میشوند بعدها میشه چندین میلیارد پارامتر رو در لپ تاپ شخصی عادی اجرا کرد. . در گفتگویی قبلتر که دکتر لکون گفته بود روی مدلهای LLM کار نکنید این تحقیقات رو برای شرکتهای بزرگ بزارید آِیا این کار محقق میشه که هرکسی بتواند روی این تحقیقات پژوهشهای خودش رو جلو ببره ؟!!
So theoretically, with this LLaMa 3 70B can start running on a 12GB GPUs, (which many phone has already)
the Llama 3.1 8B model, which typically requires about 16 GB of memory in full fp16 precision (necessitating a high-end GPU like the RTX 4090), can be compressed to run on just 8 GB of memory using 4-bit quantization.

Even more extreme compression to 1-bit quantization could potentially reduce the model's footprint to around 1 GB, potentially enabling LLM deployment on mobile devices.

◾️ llamagnific-3-87b-gguf


#مقاله #ایده_جذاب #هوش_مصنوعی

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person