عنوان:

‫LlmTornado: یک کتابخانه NET. برای استنتاج یکپارچه مدل‌های زبانی بزرگ (LLM)


نویسنده: وحید نصیری
تاریخ: ۱۴۰۳/۱۲/۲۶ ۰۷:۴۰
آدرس: www.dntips.ir
هدف: یک کتابخانه .NET که به عنوان یک چندگانه ساز برای مصرف API‌های مختلف مدل‌های زبانی بزرگ عمل می‌کند.
  • پشتیبانی از ارائه دهندگان تجاری (OpenAI، Anthropic، Cohere، Google، DeepSeek، Mistral، Azure، Groq) و سرورهای استنتاج خود میزبانی شده (Ollama، LocalAI).

ویژگی‌های کلیدی:
  • ارائه یک رابط استنتاج یکپارچه.
  • پشتیبانی از ویژگی‌های خاص ارائه دهنده فراتر از استاندارد OpenAI.
  • ارائه تعادل بین سهولت استفاده و مقیاس پذیری کارآمد.
  • مستندات گسترده و تست شده (بیش از 200 تست واحد).
  • پشتیبانی اخیراً اضافه شده برای Deepseek و Mistral، با برنامه ریزی برای پشتیبانی xAI.



مشاهده مطلب اصلی