‫محققان آسیب‌پذیری «Reprompt» را افشا کردند: امکان استخراج داده با یک کلیک از Copilot مایکروسافت

محققان امنیت سایبری یک روش حمله جدید به نام «Reprompt» را کشف کرده‌اند که می‌تواند به عوامل مخرب اجازه دهد تا داده‌های حساس را از چت‌بات‌های هوش مصنوعی مانند Copilot مایکروسافت با یک کلیک واحد و دور زدن کنترل‌های امنیتی سازمانی استخراج کنند. این حمله نیازی به پلاگین یا تعامل کاربر با Copilot ندارد و حتی پس از بستن چت، کنترل را در اختیار مهاجم نگه می‌دارد. این آسیب‌پذیری از سه تکنیک برای ایجاد زنجیره استخراج داده استفاده می‌کند: تزریق دستورالعمل‌های سفارشی از طریق پارامتر q در URL Copilot، دستور دادن به Copilot برای دور زدن مکانیزم‌های محافظتی با تکرار هر عمل دو بار، و ایجاد یک زنجیره درخواست‌های مداوم از طریق دستورالعمل اولیه که امکان استخراج پنهانی و پویا داده‌ها را از طریق تبادل رفت و برگشتی بین Copilot و سرور مهاجم فراهم می‌کند. در یک سناریوی حمله فرضی، یک عامل تهدید می‌تواند یک کاربر را متقاعد کند تا روی یک پیوند Copilot معتبر ارسال شده از طریق ایمیل کلیک کند و بدین ترتیب یک سری اقدامات را آغاز کند که باعث می‌شود Copilot دستورالعمل‌های قاچاق شده از طریق پارامتر q را اجرا کند. پس از آن، مهاجم از طریق «Reprompt» از چت‌بات درخواست اطلاعات بیشتری می‌کند و آن را به اشتراک می‌گذارد. این شامل درخواست‌هایی مانند «خلاصه‌ای از تمام فایل‌هایی که کاربر امروز به آن‌ها دسترسی داشته است»، «محل زندگی کاربر کجاست؟» یا «کاربر چه برنامه‌های تعطیلاتی دارد؟» می‌شود. این حمله به طور موثری یک نقطه کور امنیتی ایجاد می‌کند، زیرا Copilot را به یک کانال نامرئی برای استخراج داده‌ها تبدیل می‌کند بدون اینکه نیازی به هیچ ورودی یا دستورالعمل کاربر، پلاگین یا کانکتور باشد. ریشه این مشکل، ناتوانی سیستم‌های هوش مصنوعی در تمایز بین دستورالعمل‌های وارد شده توسط کاربر و دستورالعمل‌های ارسال شده در یک درخواست است که راه را برای تزریق غیرمستقیم دستورالعمل‌ها باز می‌کند. مایکروسافت اعلام کرده است که این مشکل را برطرف کرده است و این حمله بر مشتریان سازمانی که از Microsoft 365 Copilot استفاده می‌کنند تأثیری ندارد. با این حال، توسعه‌دهندگان باید از این آسیب‌پذیری آگاه باشند و اقدامات امنیتی مناسب را برای محافظت از داده‌های حساس در برنامه‌های مبتنی بر Copilot و سایر مدل‌های زبانی بزرگ (LLM) پیاده‌سازی کنند.