Byteforge / بایــت فورج 🛸 pinned «لە ئامێزی من بترازێی، لە هەرکوێ بی پەناهەندەی!»
دیپسیک جیلبریک شد
ماجرا از این قراره: یه کاربر خلاق تو سایت ردیت تونسته هوش مصنوعی "دیپسیک" رو به اصطلاح "جیلبریک" کنه. جیلبریک یعنی دور زدن محدودیتهایی تعیین شده.
این کاربر برای این کار از یه تکنیک به اسم "Prompt Injection" استفاده کرده.
پرامپت اینجکشن به این معناست که یه نفر میتونه (پرامپت) یه مدل زبانی رو طوری دستکاری کنه که مدل نتایج غیرمنتظرهای تولید کنه. این کار میتونه باعث بشه مدل دستوراتی رو اجرا کنه که معمولاً نمیخواستیم یا نمیباید انجام بشه، مثلاً دستوراتی که خلاف اصول ایمنی یا فیلترها هستند.
یکی از نتایج این جیلبریک این بوده که دیپسیک تونسته درباره موضوعات حساس و ممنوعه حرف بزنه. مخصوصا موضوعاتی که توی چین سانسور میشن، مثل "حادثه میدان تیانآنمن".
دیپسیک طوری طراحی شده که به طور معمول درباره این موضوعات صحبتی نکنه، ولی این کاربر با تکنیک خودش تونسته این محدودیت رو دور بزنه.
برای اینکه ربات و فیلترهای سانسور متوجه موضوع حساس نشن، کاربر از روش پرامپت اینجکشن استفاده کرده. توی پرامپتی که به دیپسیک داده، ازش خواسته موقع جواب به جای حروف معمولی از اعداد و کاراکترهای خاص استفاده کنه. مثلا عدد "4" رو به جای حرف "A" و عدد "3" رو به جای حرف "E" گذاشته.
این کار باعث شده که ربات متوجه منظور اصلی کاربر بشه، ولی فیلترهای سانسور احتمالا نتونن به راحتی محتوای حساس رو تشخیص بدن.
این کاربر با یه روش زیرکانه تونسته یه مدل هوش مصنوعی رو گول بزنه و کاری کنه که درباره موضوعات ممنوعه صحبت کنه
ماجرا از این قراره: یه کاربر خلاق تو سایت ردیت تونسته هوش مصنوعی "دیپسیک" رو به اصطلاح "جیلبریک" کنه. جیلبریک یعنی دور زدن محدودیتهایی تعیین شده.
این کاربر برای این کار از یه تکنیک به اسم "Prompt Injection" استفاده کرده.
پرامپت اینجکشن به این معناست که یه نفر میتونه (پرامپت) یه مدل زبانی رو طوری دستکاری کنه که مدل نتایج غیرمنتظرهای تولید کنه. این کار میتونه باعث بشه مدل دستوراتی رو اجرا کنه که معمولاً نمیخواستیم یا نمیباید انجام بشه، مثلاً دستوراتی که خلاف اصول ایمنی یا فیلترها هستند.
یکی از نتایج این جیلبریک این بوده که دیپسیک تونسته درباره موضوعات حساس و ممنوعه حرف بزنه. مخصوصا موضوعاتی که توی چین سانسور میشن، مثل "حادثه میدان تیانآنمن".
دیپسیک طوری طراحی شده که به طور معمول درباره این موضوعات صحبتی نکنه، ولی این کاربر با تکنیک خودش تونسته این محدودیت رو دور بزنه.
برای اینکه ربات و فیلترهای سانسور متوجه موضوع حساس نشن، کاربر از روش پرامپت اینجکشن استفاده کرده. توی پرامپتی که به دیپسیک داده، ازش خواسته موقع جواب به جای حروف معمولی از اعداد و کاراکترهای خاص استفاده کنه. مثلا عدد "4" رو به جای حرف "A" و عدد "3" رو به جای حرف "E" گذاشته.
این کار باعث شده که ربات متوجه منظور اصلی کاربر بشه، ولی فیلترهای سانسور احتمالا نتونن به راحتی محتوای حساس رو تشخیص بدن.
این کاربر با یه روش زیرکانه تونسته یه مدل هوش مصنوعی رو گول بزنه و کاری کنه که درباره موضوعات ممنوعه صحبت کنه
😁2
کمال گرایی یه بیماری حاده، ولی بنظرم کمال گراها برای پیشرفت دنیا ضروریهستن وگرنه دنیا همیشه درجا میزد و از جاش تکون نمیخورد
خودشون اکثرن بیچاره میشن مگر اینکه خیلی پوست کلفت باشن، ولی برای دنیا مفیدن😂😂
به ماها افتخار کنید 😄🤝🔥
خودشون اکثرن بیچاره میشن مگر اینکه خیلی پوست کلفت باشن، ولی برای دنیا مفیدن😂😂
به ماها افتخار کنید 😄🤝🔥
👌2🤡2
آقا چ وضعشه هفته ایی یه بار آپدیت آخه 😐😂
خدانکنه ما بخوایم این کامند رو بزنیم
Flutter doctor
Result => flutter has a new version
ماشاالله کمتر از یه گیگ هم حجمش نیست.
خدانکنه ما بخوایم این کامند رو بزنیم
Flutter doctor
Result => flutter has a new version
ماشاالله کمتر از یه گیگ هم حجمش نیست.
😁1
This media is not supported in your browser
VIEW IN TELEGRAM
درصد خیلی کمی از آدما میتونن واقعا از ریشه تغیرات ایجاد کنند .
Forwarded from Vania Dart Framework
نسخه 0.8.0 وانیا منتشر شد
رفع مشکل سشن ها
اضافه شدن Rule RegExp برای ولیدیشن ها
اضافه شدن CustomValidationRule
لینک
اضافه شدن میدلور RedirectIfAuthenticated
اضافه شدن Back with input به ریسپانس ها
رفع مشکل سشن ها
اضافه شدن Rule RegExp برای ولیدیشن ها
اضافه شدن CustomValidationRule
لینک
اضافه شدن میدلور RedirectIfAuthenticated
اضافه شدن Back with input به ریسپانس ها
💯1