‫شرکت Anthropic ادعا می‌کند شرکت‌های هوش مصنوعی چینی از مدل Claude سوء‌استفاده کرده‌اند

شرکت Anthropic اعلام کرده است که سه شرکت هوش مصنوعی چینی، DeepSeek، Moonshot AI و MiniMax، کمپین‌های گسترده‌ای را برای استخراج غیرقانونی قابلیت‌های مدل Claude به منظور بهبود مدل‌های خود انجام داده‌اند. این کمپین‌ها شامل بیش از ۱۶ میلیون درخواست از مدل Claude از طریق حدود ۲۴۰۰۰ حساب کاربری جعلی بوده که نقض شرایط خدمات و محدودیت‌های دسترسی منطقه‌ای محسوب می‌شود. این شرکت‌ها که همگی در چین مستقر هستند، از دسترسی به خدمات Anthropic به دلیل "ریسک‌های قانونی، نظارتی و امنیتی" منع شده‌اند. تکنیک "تقطیر" (Distillation) که در این حملات استفاده شده، به شرکت‌ها اجازه می‌دهد تا مدل‌های کوچکتر و ارزان‌تری را بر اساس خروجی‌های یک مدل قوی‌تر آموزش دهند. با این حال، استفاده از این روش توسط رقبا برای دستیابی به قابلیت‌های مدل‌های دیگر بدون صرف هزینه و زمان توسعه، غیرقانونی تلقی می‌شود. Anthropic هشدار داده است که مدل‌های تقطیر شده غیرقانونی فاقد تدابیر امنیتی لازم هستند و خطرات امنیتی قابل توجهی را ایجاد می‌کنند. این شرکت معتقد است که این مدل‌ها به راحتی می‌توانند برای فعالیت‌های مخرب، حملات سایبری و یا توسعه سیستم‌های نظارتی و جاسوسی توسط دولت‌های خودکامه مورد استفاده قرار گیرند. این کمپین‌ها از طریق حساب‌های کاربری جعلی و سرویس‌های پروکسی تجاری برای دسترسی به Claude در مقیاس وسیع و دور زدن سیستم‌های شناسایی انجام شده‌اند. Anthropic موفق به شناسایی هر سه کمپین بر اساس اطلاعات فراداده درخواست‌ها، همبستگی آدرس‌های IP و شاخص‌های زیرساختی شده است. هدف هر کمپین متفاوت بوده است: DeepSeek بر روی قابلیت‌های استدلال، وظایف رتبه‌بندی مبتنی بر دستورالعمل و تولید جایگزین‌های ایمن از نظر سانسور برای پرسش‌های حساس تمرکز کرده است؛ Moonshot AI بر روی استدلال، استفاده از ابزارها، کدنویسی و توسعه عامل‌های کامپیوتری تمرکز داشته است؛ و MiniMax بر روی قابلیت‌های کدنویسی و استفاده از ابزارها تمرکز داشته است. Anthropic تاکید کرده است که حجم، ساختار و تمرکز این درخواست‌ها با الگوهای استفاده عادی متفاوت بوده و نشان‌دهنده استخراج عمدی قابلیت‌ها به جای استفاده مشروع است. این شرکت همچنین اشاره کرده است که این حملات بر قابلیت‌های متمایز Claude مانند استدلال، استفاده از ابزارها و کدنویسی متمرکز بوده‌اند.