Forwarded from حامد
قربانت، نه بابا مشکلی نیست من هم دارم یاد میگیرم.
یخورده سوال برام گُنگ بود ولی اگر درست متوجه شده باشم جوابت رو به این صورت میدم که:
1- چطور کار میکنه؟
2- آیا امکان دور زدن با تغییر انکدینگ وجود داره؟
—
1- فرایند کار از وقتی که یوزر پرامپتی رو ارسال میکنه تا جوابی که بهش برمیگرده به این صورت هست:
- مرحله پیش پردازش(Preprocessing) که درخواست رو پردازش میکنه و اطلاعات و دیتاهای غیر ضرور رو حذف میکنه
- مرحله رمزگذاری(Encoding) که با استفاده از تکنیک بُرداری(vectorization) به یک نمایش عددی(numerical representation) برای فهمیدن ماشین تبدیل میشه
- زمینه سازی (Contextualization) که برای فهمیدن کانتکس اون پرامپت از طریق یک شبکه عصبی پردازش میشه
- تولید کردن(Generation) مرحله بعدیه که بر اساس کانکتسِ پرامپت و دیتایی که آموزش دیده شده پاسخی رو برای درخواست ایجاد میکنه
- پس پردازش(Post-processing) که اون پاسخی که تولید کرده رو باز از اطلاعات و دیتاهای غیر ضروری حذف میکنه و در نهایت برای کاربر ارسال میشه
—
وژوالی هم بخوایم ببینیمش این شکلیه:
Prompt >|Preprocessing|> Encoded Prompt > Contextualization >|Generation|> Generated Response >|Post-Processing|> Final Response > User
—
اما راجع به بخش دوم از نظر تئوری امکان دور زدن سیستم با تغییر انکدینگ وجود داره اما خب تا امروز بر اساس صحبت هایی که مطرح میشه بعیده که انجام بشه و احتمالش بسیار کمه و مواردی که برای این احتمال کم مطرح میشه به صورت کلی به این شکل هست که باید هماهنگی و همکاری بالایی با اون AI وجود داشته باشه و سیستم های فیلتر سریع (که به صورت اتومات و تیم های مستقر) که وجود داره بر اساس خود کانتنت هست نه انکودینگ و بخاطر همین اگر کاربر بتونه پرامپت ها به صورت متفاوت هم انکود بکنه سیستم بر اساس خود محتوا شناسایی و حذف میکنه.
یخورده سوال برام گُنگ بود ولی اگر درست متوجه شده باشم جوابت رو به این صورت میدم که:
1- چطور کار میکنه؟
2- آیا امکان دور زدن با تغییر انکدینگ وجود داره؟
—
1- فرایند کار از وقتی که یوزر پرامپتی رو ارسال میکنه تا جوابی که بهش برمیگرده به این صورت هست:
- مرحله پیش پردازش(Preprocessing) که درخواست رو پردازش میکنه و اطلاعات و دیتاهای غیر ضرور رو حذف میکنه
- مرحله رمزگذاری(Encoding) که با استفاده از تکنیک بُرداری(vectorization) به یک نمایش عددی(numerical representation) برای فهمیدن ماشین تبدیل میشه
- زمینه سازی (Contextualization) که برای فهمیدن کانتکس اون پرامپت از طریق یک شبکه عصبی پردازش میشه
- تولید کردن(Generation) مرحله بعدیه که بر اساس کانکتسِ پرامپت و دیتایی که آموزش دیده شده پاسخی رو برای درخواست ایجاد میکنه
- پس پردازش(Post-processing) که اون پاسخی که تولید کرده رو باز از اطلاعات و دیتاهای غیر ضروری حذف میکنه و در نهایت برای کاربر ارسال میشه
—
وژوالی هم بخوایم ببینیمش این شکلیه:
Prompt >|Preprocessing|> Encoded Prompt > Contextualization >|Generation|> Generated Response >|Post-Processing|> Final Response > User
—
اما راجع به بخش دوم از نظر تئوری امکان دور زدن سیستم با تغییر انکدینگ وجود داره اما خب تا امروز بر اساس صحبت هایی که مطرح میشه بعیده که انجام بشه و احتمالش بسیار کمه و مواردی که برای این احتمال کم مطرح میشه به صورت کلی به این شکل هست که باید هماهنگی و همکاری بالایی با اون AI وجود داشته باشه و سیستم های فیلتر سریع (که به صورت اتومات و تیم های مستقر) که وجود داره بر اساس خود کانتنت هست نه انکودینگ و بخاطر همین اگر کاربر بتونه پرامپت ها به صورت متفاوت هم انکود بکنه سیستم بر اساس خود محتوا شناسایی و حذف میکنه.
🤯4
Forwarded from Solidity Treasures (Andrey)
Ethglobal
Opclave | ETHGlobal
Opclave is an OP Stack improvement with ERC-4337 compatible SC accounts that uses signatures abstracted with AppleEnclave which allows users to create and use non-custodial wallets with touch/face id without having seed phrases
Hamid list
https://github.com/bankisan/zkShield
zkShield is a private multisig that uses zero-knowledge proofs and account abstraction (ERC-4337) to hide the account owners. Owners create a ShieldAccount multisig using existing wallets (i.e. Metamask, Rainbow, etc.) but, on-chain, their addresses and access will be hidden from the public. Once deployed, owners will be able to privately define member access, rotate owner keys, and execute m-of-n threshold transactions.