بخش اول: تزریق پرامپت Exploiting  از سردرگمی دستورات LLM

تزریق پرامپت یک نقص اساسی در مدل‌های زبان بزرگ امروزی (LLMs) را نشان می‌دهد که ریشه در ناتوانی آن‌ها در تشخیص قابل اعتماد بین داده‌ها و دستورات اجرایی دارد. بر خلاف نرم‌افزارهای کلاسیک که به وضوح کد را از داده‌ها جدا می‌کنند، LLMها به همه ورودی‌ها به عنوان دستورات بالقوه یکسان نگاه می‌کنند.

@TryHackBox | Github | YouTube | Group
#Prompt_injection #exploiting