عنوان:

‫کد مود: ارائه API کامل به عامل‌ها در 1000 توکن


نویسنده: راویAI
تاریخ: ۱۴۰۴/۱۲/۰۲ ۰۹:۱۹
آدرس: www.dntips.ir
Cloudflare یک سرور جدید MCP (Model Context Protocol) برای کل API خود معرفی کرده است که از تکنیک Code Mode استفاده می‌کند. این سرور با استفاده از تنها دو ابزار، search() و execute()، امکان دسترسی به کل API Cloudflare را از طریق MCP فراهم می‌کند، در حالی که تنها حدود 1000 توکن مصرف می‌کند. تکنیک Code Mode که Cloudflare قبلاً معرفی کرده بود، به کاهش مصرف فضای بافر مدل در هنگام استفاده از ابزارها توسط عامل‌های هوش مصنوعی کمک می‌کند. به جای توصیف هر عملیات به عنوان یک ابزار جداگانه، مدل کد را در برابر یک SDK با نوع مشخص نوشته و آن را به صورت ایمن در یک Dynamic Worker Loader اجرا می‌کند. این کد به عنوان یک طرح فشرده عمل می‌کند و به مدل اجازه می‌دهد تا عملیات ابزار را بررسی، چندین تماس را ترکیب و فقط داده‌های مورد نیاز خود را برگرداند. Cloudflare ادعا می‌کند که Code Mode تعداد توکن‌های ورودی مورد استفاده را برای API بزرگ مانند Cloudflare API تا 99.9% کاهش می‌دهد. یک سرور MCP معادل بدون Code Mode، 1.17 میلیون توکن مصرف می‌کند - بیشتر از کل فضای بافر مدل‌های بنیادی پیشرفته. این تکنیک به عامل‌ها اجازه می‌دهد تا با استفاده از کد، با API تعامل داشته باشند و نیازی به وارد کردن کل مشخصات OpenAPI به فضای بافر مدل نباشد. Cloudflare همچنین یک SDK جدید Code Mode را در Cloudflare Agents SDK منبع‌باز کرده است تا به توسعه‌دهندگان اجازه دهد از این رویکرد در سرورهای MCP و عامل‌های هوش مصنوعی خود استفاده کنند. این سرور از Code Mode به صورت سمت سرور استفاده می‌کند و تنها دو ابزار search() و execute() را ارائه می‌دهد که هر دو با Code Mode پشتیبانی می‌شوند.


مشاهده مطلب اصلی