اگه میخواید تو مدتی که اینترنت قطع میشه هوش مصنوعی داشته باشید
چند تا راهی که خودم رفتم ایناست:
اولیش نرم افزار LM Studio هست. اگه سیستمتون کارت گرافیکی نسبتا خوبی داره و منابع کافی ای داره، میتونید با LM studio مدلی که سیستمتون میکشه رو دانلود کنید رو سیستم خودتون اجرا کنید و استفاده کنید. مثلا gtp-oss یا llama یا دیپ سیک و و و
راه دوم اینه که برید از جا هایی مثل arvan cloud یه سرور هوش مصنوعی که نوشته Hosted On Arvan بخرید یا یه مدل رو خودتون دیپلوی کنید. بعد با نرم افزار هایی مثل Anything LLM بیاید ازش استفاه کنید:
https://github.com/Mintplex-Labs/anything-llm
[ @code_and_chord ]
چند تا راهی که خودم رفتم ایناست:
اولیش نرم افزار LM Studio هست. اگه سیستمتون کارت گرافیکی نسبتا خوبی داره و منابع کافی ای داره، میتونید با LM studio مدلی که سیستمتون میکشه رو دانلود کنید رو سیستم خودتون اجرا کنید و استفاده کنید. مثلا gtp-oss یا llama یا دیپ سیک و و و
راه دوم اینه که برید از جا هایی مثل arvan cloud یه سرور هوش مصنوعی که نوشته Hosted On Arvan بخرید یا یه مدل رو خودتون دیپلوی کنید. بعد با نرم افزار هایی مثل Anything LLM بیاید ازش استفاه کنید:
https://github.com/Mintplex-Labs/anything-llm
[ @code_and_chord ]
GitHub
GitHub - Mintplex-Labs/anything-llm: The all-in-one Desktop & Docker AI application with built-in RAG, AI agents, No-code agent…
The all-in-one Desktop & Docker AI application with built-in RAG, AI agents, No-code agent builder, MCP compatibility, and more. - Mintplex-Labs/anything-llm
❤2👍1🔥1👏1
𝑪𝒐𝒅𝒆 & 𝑪𝒉𝒐𝒓𝒅
اگه میخواید تو مدتی که اینترنت قطع میشه هوش مصنوعی داشته باشید چند تا راهی که خودم رفتم ایناست: اولیش نرم افزار LM Studio هست. اگه سیستمتون کارت گرافیکی نسبتا خوبی داره و منابع کافی ای داره، میتونید با LM studio مدلی که سیستمتون میکشه رو دانلود کنید رو سیستم…
اپدیت:
با همون Anything LLM مدل Gamma 3 رو دانلود کردم و واقعا خوب کار میکنه
منابع سیستمم:
Memory: 32.0 GiB
CPU: Intel® Core™ i7-7700HQ × 8
GPU: NVIDIA GeForce GTX 1060
با همون Anything LLM مدل Gamma 3 رو دانلود کردم و واقعا خوب کار میکنه
منابع سیستمم:
Memory: 32.0 GiB
CPU: Intel® Core™ i7-7700HQ × 8
GPU: NVIDIA GeForce GTX 1060
𝑪𝒐𝒅𝒆 & 𝑪𝒉𝒐𝒓𝒅
اپدیت: با همون Anything LLM مدل Gamma 3 رو دانلود کردم و واقعا خوب کار میکنه منابع سیستمم: Memory: 32.0 GiB CPU: Intel® Core™ i7-7700HQ × 8 GPU: NVIDIA GeForce GTX 1060
سعی دارم gpt-oss:20B رو هم دانلود کنم تست کنم. یکم حجمش سنگینه فقط حدود ۱۲ گیگ سه روزه داره دانلود میشه 🤡🤡
برای فارسی فهمیدن هم مدل Xerxes-1 آروان خیلی خوب بود. رو سرور های ایران هاست هست و هم پرفورمنس خوبی داره هم فارسی میفهمه. شیوه محاسبشم Pay As You Go هست و هر چقدر چت کنی باهاش تعداد توکن رو محاسبه میکنه. ولی متاسفانه Text Only هست و Multi Model نیست. لااقل تا اینجا که من فقط تونستم تکست ازش بگیرم
👏2
Forwarded from توییتی
👌7❤1