مدل‌های زبانی برای اجرا به پردازشگرهای قوی و محاسبات زیادی نیاز دارند و هرچی این مدل‌ها قوی‌تر باشند پردازشگر قوی تری لازمه یعنی صرف هزینه و زمان بیشتر.

اینجاست که ++C وارد عمل می‌شه.
گرگانوف اومد یکی از زیباترین معماری ها رو برای Llama به نام Llama.cpp ارائه داد که با 46 هزار استار یکی از قوی ترین مدل‌های اپن سورس گیت‌هابه.
روی CPU کار می‌کنه واسه همین هزینه و زمان کمتری می‌گیره.
با فرمت GGML/GGUF ارائه می‌شه که قالب سفارشی برای مدل های کوانتیزه شدست.

چرا مهمه؟
چون تو کوانتیزاسیون با دقت کمتر، می‌تونیم مقدار حافظه (memory) مورد نیاز برای ذخیره مدل‌هامون رو به شدت کاهش بدیم، چون می‌تونیم اون رو تو اکثر محیط ها اجرا کنیم.

به نظرم درباره Llama.cpp و معماری ترنسفورماتور یکم مطالعه بد نیست چون خیلی حرفا واسه زدن هست، آدرس ریپو رو میذارم این پایین.

در رابطه با کوت، اون مدل Mixtral-8x7B هست که اتفاقا دیروز مدل کوانتیزه شدش منتشر شد و ارتباطی با Llama نداره.

Mixtral-8x7B-v0.1-GGUF
https://huggingface.co/TheBloke/Mixtral-8x7B-v0.1-GGUF

Llama.cpp
https://github.com/ggerganov/llama.cpp

@DevTwitter | <Sabber/>

به‌به!‌ به نظر می‌رسه GPT 4.5 توی راه هست و دیتاش درز کرده!

Most advanced model brings multi-modal capabilities across language, audio, vision, video, and 3D, alongside complex reasoning and cross-modal understanding.

@DevTwitter | <Mostafa Alahyari/>

جدی ترکیب Go با HTMX و البته کتاب خونه templ گو فوق العاده است. مطمئنم تا چند وقت آینده روی اینا فریم ورک قوی میزنن که اون گپ هایی که React/Vue نمیتونن خوب پر کنن رو رفع کنه

@DevTwitter | <The Big Rad/>

فریمورک svelte kit برای هر روز کریسمس یک چالش داره برگزار میکنه که میتونید اون چالش رو انجام بدید و کدی که نوشتید رو شیر کنید.
https://advent.sveltesociety.dev

@DevTwitter | <Farzad/>

قصد توهین و تمسخر ندارم. ولی واقعاً عجیب و غیر قابل قبوله که شما برای موقعیّت شغلی Senior Front-end Developer داوطلب بشی، رزومه‌ات پر از عناوین team lead و senior باشه ولی در مواجهه با ساده‌ترین سؤالات ممکن بگی: من جاوااسکریپت بلد نیستم، برنامه‌نویسی رو با انگولار یاد گرفته‌ام.

@DevTwitter | <محمدرضا علی‌حسینی/>

کوکی یه جور پروفایل برای شناسایی شما توسط سایت‌هاست که توی مرورگرها استفاده میشه، مثلا وقتی جیمیل رو باز می‌کنید یک کوکی با دامنه خودش براتون ساخته میشه که هر دفعه لازم نباشد لاگین کنید و همیشه لاگین بمونه.
کوکی شخص ثالث به کوکی‌هایی میگن که به دامنه اصلی اشاره نداره، مثلا من سایت Gmail رو باز میکنم ولی میبینیم یک کوکی با دامنه facebook هم در کنارش برای من ساخته میشه. کوکی‌های شخص ثالث همشون مفید نیستن، بخشیشون برای رهگیری فعالیت‌های شما استفاده میشن، یعنی از طریق اون کوکی میشه شمارو در اینترنت دنبال کرد که چه کارهایی انجام میدید. ولی گوگل تصمیم گرفته کوکی‌های شخص ثالث رو از ۱۴ دی به صورت آزمایشی مسدود کنه، البته همین الان هم توی کروم میتونید کوکی‌های شخص ثالث رو سایت به سایت مسدود کنید، یا کلی.
توی هر مرورگری از بخش تنظیمات دنبال third-party cookies بگردید معمولا ویژگیش هست و میتونید بلاک کنید.
اگه دوست داشتید مفاهیم کوکی رو به شکل درستش یاد بگیرید میتونید از منابع زیر استفاده کنید

cloudflare.com/learning/privacy/what-are-cookies
cookieyes.com/blog/third-party-cookies


@DevTwitter | <Soroush Ahmadi/>

چهار سال پیش این مخزن را معرفی کرده بودم.
به خاطر موقعیتی که در شرکت داشتم مجبور بودم روی WAF های مختلف تحقیق انجام دهم و گذرم مجدد به آن خورد.
اگر در بخش امنیت فعال هستید (چه Red یا Blue)، عمیق شدن از اینکه WAF چگونه کار می کند، مفید است.

https://github.com/0xInfection/Awesome-WAF

@DevTwitter | <Vahid Nameni/>

‏آقا من یه بش اسکریپت نوشتم واسه خوشگلتر کردن و خواناتر کردن خروجی ifconfig. من معمولن از این کامند چیزی جز اینترفیس و ip نمیخوام پس اومدم با sed ها و cut های پی در پی اینا رو از توش درآوردم.
https://github.com/erfan-rfmhr/awesome-bash-noscripts

@DevTwitter | <Erfan/>

این لایبرری llamafile توی این چند روزه خیلی تو بورس اومده. کارش اینه که مدلهای LLM را تبدیل میکنه به یه فایل قابل اجرا. خیلی خیلی هم سریع است. توی ویدویو زیر خلاصه گفتم چطوری اجراش کنید.
https://github.com/Mozilla-Ocho/llamafile

@DevTwitter | <Mehdi Allahyari/>

چند روز گذشته بهشت گمشده من بود، مثل سرزمین موعود، دوپينگ، قدرت خالص، زیبایی.

عنوان گویای همه چی هست، لیست ابزارهای اپن سورس، Self-Hosted

https://github.com/awesome-selfhosted/awesome-selfhosted

@DevTwitter | <Sabber/>

وضعیت مرورگرهای وب در حال حاضر...

عملاً به غیر از فایرفاکس و سافاری اکثر مرورگرها از یک انجین و موتور رندر یکسان استفاده می‌کنند و تنها در پوسته و رابط کاربری تفاوت‌هایی دارند

@DevTwitter | <Alireza Shirazi/>

موزیلا از تمام توسعه دهنده های add-on های فایرفاکس خواسته بود که desktop extensions هاشون را با موبایل سازگار کنند
امروز به لطف توسعه دهنده ها به بیشتر از ۴۵۰ Android extensions برای فایرفاکس اندروید در لینک زیر میتوانید دسترسی داشته باشید
addons.mozilla.org/android‎

@DevTwitter | <MehrdadLinux/>

#کوته_نیوز

از امروز صبح دوباره پروتکل HTTP/3 بسته شد. :))

@DevTwitter

وب‌سایتی وجود داره به نام http://theresanaiforthat.com که هم معتبره هم مثل بانک ابزارهای AI میمونه.
درباره هر موضوعی سرچ کنید منابع مبتنی بر AI رو بهتون معرفی می‌کنه.

ابزارهای powerpoint

@DevTwitter | <Sabber/>

اگر میخواید یه دستیار هوش مصنوعی هنگام نوشتن کد داشته باشید، این اکستنشن میتونه کمکتون کنه.
شبیه به کوپایلت عمل میکنه ولی این رایگانه.

https://codeium.com/

@DevTwitter | <Taha/>

#کدبوک

این کتاب شامل مباحثی چون:
مفاهیم پایه‌ای طراحی سیستم‌های توزیع‌شده مانند مدیریت حالت، تحمل‌پذیری در برابر خطا و قابلیت اطمینان
نحوه استفاده از زیرساخت‌های نوین مانند ابر و کانتینر برای ساخت سیستم‌های توزیع‌شده
معماری و طراحی میکروسرویس‌ها
سیستم‌های توزیع‌شده داده‌ای و پردازش داده‌های بزرگ مقیاس
سیستم‌های یادگیری ماشین توزیع‌شده
سیستم‌های پیام‌رسانی و جریان داده توزیع‌شده

* فایل PDF این کتاب رو میتونید از کانال DevBooks که لینکش توی بیو هست دانلود کنید.

@DevTwitter