‫امنیت پلاگین‌ها، عامل‌ها و اتصالات گرافیکی در Copilot مایکروسافت

با گسترش Microsoft 365 Copilot از طریق پلاگین‌ها، عامل‌ها و اتصالات گرافیکی، مسئولیت امنیت تعاملات هوش مصنوعی فراتر از مدیریت اولیه مستاجر می‌رود. این اجزا به Copilot اجازه می‌دهند تا به سیستم‌های خارجی دسترسی پیدا کند، اقداماتی را از طرف کاربران انجام دهد و داده‌های تجاری موجود خارج از Microsoft 365 را ادغام کند. این انعطاف‌پذیری با خطرات بیشتری همراه است. مدیران باید اطمینان حاصل کنند که این گسترش‌ها در محدوده‌های امنیتی تعریف‌شده عمل می‌کنند، از الزامات ممیزی پشتیبانی می‌کنند و هرگز مسیرهای ناخواسته‌ای برای جریان داده‌های حساس به سیستم‌ها یا هویت‌های اشتباه ایجاد نمی‌کنند. Microsoft Purview نقش محوری در مدیریت رفتار هوش مصنوعی، از جمله تعامل Copilot با سیستم‌های خارجی، ایفا می‌کند. AI Hub در Purview چارچوب رسمی برای شناسایی محتوای حساس، ارزیابی ریسک، اعمال بررسی‌های ایمنی، نظارت بر خروجی هوش مصنوعی و تأیید اینکه آیا اقدامات آغاز شده توسط Copilot با سیاست‌های سازمانی مطابقت دارند، اضافه می‌کند. امنیت پلاگین‌ها، عامل‌ها و اتصالات صرفاً یک رویه خوب نیست؛ بلکه بخشی از معماری ایمنی هوش مصنوعی است که اکنون مایکروسافت انتظار دارد سازمان‌ها آن را اتخاذ کنند. این مقاله به بررسی اجزای قابل گسترش Copilot می‌پردازد: اتصالات گرافیکی (Graph connectors) که داده‌های خارجی را در Microsoft Search و Semantic Index فهرست می‌کنند، عامل‌ها (Agents) که می‌توانند اطلاعات را بازیابی کرده و APIهای خارجی را فراخوانی کنند، و پلاگین‌ها (Plugins) که رفتار عامل‌ها را با اقدامات یا چارچوب‌های اضافی گسترش می‌دهند. ریسک‌های کلیدی ناشی از گسترش Copilot شامل افزایش دامنه دید داده‌ها، تقویت امتیازات، جابجایی کنترل نشده داده‌ها و ممیزی ناکافی است. Microsoft تأکید می‌کند که خود هوش مصنوعی خطر نیست، بلکه پیکربندی نادرست آن خطرناک است.