Anthropic، توسعهدهنده Claude، ابزاری به نام Cowork را معرفی کرده است که به کاربران امکان میدهد کد خود را مستقیماً در رابط کاربری Claude Code اجرا کنند. این قابلیت، دسترسی به فایلهای محلی را فراهم میکند و به توسعهدهندگان اجازه میدهد تا کد را آزمایش و اشکالزدایی کنند. با این حال، نگرانیهایی در مورد امنیت و احتمال حملات تزریق پرامپت (prompt injection) وجود دارد. Anthropic توصیه میکند که کاربران از اشتراکگذاری فایلهای حاوی اطلاعات حساس خودداری کنند و فعالیتهای Claude را برای شناسایی هرگونه اقدام مشکوک نظارت کنند.
سیستم Cowork در یک ماشین مجازی کامل اجرا میشود و تنها پوشههای انتخابی توسط کاربر در آن نصب میشوند. Anthropic از Sandbox Runtime برای مدیریت دسترسی شبکه استفاده میکند، اما هنوز هم امکان نشت اطلاعات از طریق DNS وجود دارد. توسعهدهندگان در حال بررسی راههایی برای بهبود امنیت و جلوگیری از حملات هستند، اما اذعان میکنند که این یک چالش مداوم است.
یکی از کاربران پیشنهاد داده است که LLMها باید هشداری را در صورت دریافت دستورالعملهایی برای نادیده گرفتن دستورالعملهای قبلی، نمایش دهند و از کاربر تاییدیه بگیرند. با این حال، این روش نیز ممکن است قابل دور زدن باشد.
مشاهده مطلب اصلی