Forwarded from حامد
gpt-4.pdf
4.8 MB
ورژن 4 هم اومد و برای اونهایی که علاقه دارن تکنیکالی این موضوع رو هم مطالعه کنن این مقاله رو توصیه میکنم.
👍2
Forwarded from حامد
پیرو این صحبت مقالاتی هم وجود داره که این قبیل موضوعات رو بررسی کرده و برای افرادی که میخوان مطالعاتی راجع بهش داشته باشن هم جذابه هم هیجان انگیز :)
👍5
Forwarded from Ziya Sadr (Ziya)
Cypherpunk_Desert_Bus_My_Role_In_The_2016_Zcash_Trusted_Setup_Ceremony.pdf
9.3 MB
سال ۲۰۱۷ یه پست از پیتر تاد خوندم که درمورد نقشش توی تراستد ستآپ (trusted setup) پروژهی زیکش میگه که چطوری توی MPC یا همون مولتی پارتی کامپیوتیشن اون پروژه به درخواست زوکو (از فاندرهای زیکش) شرکت کرد و مراحل انجامش رو از با عکس و روش و همه چی توضیح داد
یکی از جذابترین مطالبی بود که تو این سالها خوندم. حواشی زیادی هم داشت و پیتر هم این مطلب رو سالهاست که حذف کرده.
پیتر میگه حذفش کرده چون اعتقاد نداره که MPC زیکش و تراستد ستاپش درست انجام شده باشه و بقیه افرادی که مشارکت داشتن هم روشهای غیرصحیحی به کار گرفتن یا که نقاط گنگی توی اون رخداد دیده. توی گذر سالها هم انتقادهایی رو وارد کرده به روشهای ایجاد انتروپی بقیه افراد در این تراستد ستاپ و در کل پروژهشون رو شدیدا به بار انتقاد گرفته
شاید خیلی قدیمی باشه دیگه و پروژهی زیکش هم به نظر میاد که فراموش شدهست اما یه قطعه از تاریخه و خیلی هم آموزندهست (و سرگرم کننده) برای همین اون مقاله رو pdf کردم که اینجا هم داشته باشم و با شما هم به اشتراک بذارم :)
اکانت پیتر تاد برای اونایی که به شخم زدن علاقه دارن :)
لینک آرشیو پست
@ziya_sadr_shares
یکی از جذابترین مطالبی بود که تو این سالها خوندم. حواشی زیادی هم داشت و پیتر هم این مطلب رو سالهاست که حذف کرده.
پیتر میگه حذفش کرده چون اعتقاد نداره که MPC زیکش و تراستد ستاپش درست انجام شده باشه و بقیه افرادی که مشارکت داشتن هم روشهای غیرصحیحی به کار گرفتن یا که نقاط گنگی توی اون رخداد دیده. توی گذر سالها هم انتقادهایی رو وارد کرده به روشهای ایجاد انتروپی بقیه افراد در این تراستد ستاپ و در کل پروژهشون رو شدیدا به بار انتقاد گرفته
شاید خیلی قدیمی باشه دیگه و پروژهی زیکش هم به نظر میاد که فراموش شدهست اما یه قطعه از تاریخه و خیلی هم آموزندهست (و سرگرم کننده) برای همین اون مقاله رو pdf کردم که اینجا هم داشته باشم و با شما هم به اشتراک بذارم :)
اکانت پیتر تاد برای اونایی که به شخم زدن علاقه دارن :)
لینک آرشیو پست
@ziya_sadr_shares
👍2
Forwarded from حامد
قربانت، نه بابا مشکلی نیست من هم دارم یاد میگیرم.
یخورده سوال برام گُنگ بود ولی اگر درست متوجه شده باشم جوابت رو به این صورت میدم که:
1- چطور کار میکنه؟
2- آیا امکان دور زدن با تغییر انکدینگ وجود داره؟
—
1- فرایند کار از وقتی که یوزر پرامپتی رو ارسال میکنه تا جوابی که بهش برمیگرده به این صورت هست:
- مرحله پیش پردازش(Preprocessing) که درخواست رو پردازش میکنه و اطلاعات و دیتاهای غیر ضرور رو حذف میکنه
- مرحله رمزگذاری(Encoding) که با استفاده از تکنیک بُرداری(vectorization) به یک نمایش عددی(numerical representation) برای فهمیدن ماشین تبدیل میشه
- زمینه سازی (Contextualization) که برای فهمیدن کانتکس اون پرامپت از طریق یک شبکه عصبی پردازش میشه
- تولید کردن(Generation) مرحله بعدیه که بر اساس کانکتسِ پرامپت و دیتایی که آموزش دیده شده پاسخی رو برای درخواست ایجاد میکنه
- پس پردازش(Post-processing) که اون پاسخی که تولید کرده رو باز از اطلاعات و دیتاهای غیر ضروری حذف میکنه و در نهایت برای کاربر ارسال میشه
—
وژوالی هم بخوایم ببینیمش این شکلیه:
Prompt >|Preprocessing|> Encoded Prompt > Contextualization >|Generation|> Generated Response >|Post-Processing|> Final Response > User
—
اما راجع به بخش دوم از نظر تئوری امکان دور زدن سیستم با تغییر انکدینگ وجود داره اما خب تا امروز بر اساس صحبت هایی که مطرح میشه بعیده که انجام بشه و احتمالش بسیار کمه و مواردی که برای این احتمال کم مطرح میشه به صورت کلی به این شکل هست که باید هماهنگی و همکاری بالایی با اون AI وجود داشته باشه و سیستم های فیلتر سریع (که به صورت اتومات و تیم های مستقر) که وجود داره بر اساس خود کانتنت هست نه انکودینگ و بخاطر همین اگر کاربر بتونه پرامپت ها به صورت متفاوت هم انکود بکنه سیستم بر اساس خود محتوا شناسایی و حذف میکنه.
یخورده سوال برام گُنگ بود ولی اگر درست متوجه شده باشم جوابت رو به این صورت میدم که:
1- چطور کار میکنه؟
2- آیا امکان دور زدن با تغییر انکدینگ وجود داره؟
—
1- فرایند کار از وقتی که یوزر پرامپتی رو ارسال میکنه تا جوابی که بهش برمیگرده به این صورت هست:
- مرحله پیش پردازش(Preprocessing) که درخواست رو پردازش میکنه و اطلاعات و دیتاهای غیر ضرور رو حذف میکنه
- مرحله رمزگذاری(Encoding) که با استفاده از تکنیک بُرداری(vectorization) به یک نمایش عددی(numerical representation) برای فهمیدن ماشین تبدیل میشه
- زمینه سازی (Contextualization) که برای فهمیدن کانتکس اون پرامپت از طریق یک شبکه عصبی پردازش میشه
- تولید کردن(Generation) مرحله بعدیه که بر اساس کانکتسِ پرامپت و دیتایی که آموزش دیده شده پاسخی رو برای درخواست ایجاد میکنه
- پس پردازش(Post-processing) که اون پاسخی که تولید کرده رو باز از اطلاعات و دیتاهای غیر ضروری حذف میکنه و در نهایت برای کاربر ارسال میشه
—
وژوالی هم بخوایم ببینیمش این شکلیه:
Prompt >|Preprocessing|> Encoded Prompt > Contextualization >|Generation|> Generated Response >|Post-Processing|> Final Response > User
—
اما راجع به بخش دوم از نظر تئوری امکان دور زدن سیستم با تغییر انکدینگ وجود داره اما خب تا امروز بر اساس صحبت هایی که مطرح میشه بعیده که انجام بشه و احتمالش بسیار کمه و مواردی که برای این احتمال کم مطرح میشه به صورت کلی به این شکل هست که باید هماهنگی و همکاری بالایی با اون AI وجود داشته باشه و سیستم های فیلتر سریع (که به صورت اتومات و تیم های مستقر) که وجود داره بر اساس خود کانتنت هست نه انکودینگ و بخاطر همین اگر کاربر بتونه پرامپت ها به صورت متفاوت هم انکود بکنه سیستم بر اساس خود محتوا شناسایی و حذف میکنه.
🤯4
Forwarded from Solidity Treasures (Andrey)
Ethglobal
Opclave | ETHGlobal
Opclave is an OP Stack improvement with ERC-4337 compatible SC accounts that uses signatures abstracted with AppleEnclave which allows users to create and use non-custodial wallets with touch/face id without having seed phrases
Hamid list
https://github.com/bankisan/zkShield
zkShield is a private multisig that uses zero-knowledge proofs and account abstraction (ERC-4337) to hide the account owners. Owners create a ShieldAccount multisig using existing wallets (i.e. Metamask, Rainbow, etc.) but, on-chain, their addresses and access will be hidden from the public. Once deployed, owners will be able to privately define member access, rotate owner keys, and execute m-of-n threshold transactions.