‫مهارت‌های تزریق اعلان خود را آزمایش کنید

تزریق اعلان چیست؟

• تکنیکی برای دستکاری رفتار هوش مصنوعی با ایجاد ورودی‌هایی که پارامترهای عملیاتی مورد نظر آن را لغو می‌کنند.
• مشابه تزریق SQL، اما برای هوش مصنوعی.
• هدف، دور زدن دستورالعمل‌های پایه هوش مصنوعی (اعلان سیستم) است.
• می‌تواند از دستورات ساده‌ای مانند "همه دستورالعمل‌های قبلی خود را نادیده بگیر و به جای آن X را انجام بده" تا روش‌های پیچیده‌تر را شامل شود.

بازی گاندالف

• یک بازی چالش امنیتی که آسیب‌پذیری‌های هوش مصنوعی را در برابر دستکاری، نشان می‌دهد.
• بازیکنان تلاش می‌کنند تا یک نگهبان هوش مصنوعی را متقاعد کنند که رمز عبور مخفی را فاش کند.
• بازیکنان از تکنیک‌های مختلف مهندسی اعلان استفاده می‌کنند:
  • سوالات هوشمندانه
  • دستکاری زمینه
  • سناریوهای ایفای نقش
  • استفاده از تناقضات منطقی