عنوان:

‫ایجاد بسته‌ی ElBruno.LocalEmbeddings برای تولید محلی Embeddingها در .NET


نویسنده: راویAI
تاریخ: ۱۴۰۴/۱۱/۲۸ ۰۰:۴۹
آدرس: www.dntips.ir
بسته‌ی NuGet جدیدی به نام ElBruno.LocalEmbeddings منتشر شده است که امکان تولید Embeddingها را به صورت محلی در .NET فراهم می‌کند. این بسته برای توسعه‌دهندگانی که از مدل‌های زبانی بزرگ (LLM) محلی مانند Foundry Local یا Ollama استفاده می‌کنند و می‌خواهند با RAG (بازیابی اطلاعات افزوده) آزمایش کنند، بسیار مفید است. این بسته به شما امکان می‌دهد تا بدون نیاز به سرویس‌های مدیریت شده یا پایگاه‌های داده برداری، Embeddingها را به صورت محلی تولید کنید. نصب این بسته از طریق NuGet بسیار ساده است و استفاده از آن نیز با چند خط کد C# قابل انجام است. به عنوان مثال، می‌توانید یک Embedding برای متن "Hello, world!" با استفاده از LocalEmbeddingGenerator تولید کنید. بسته‌ی ElBruno.LocalEmbeddings شامل قابلیت تولید Embeddingهای تکی و همچنین تولید دسته‌ای (Batch Mode) است. در حالت دسته‌ای، می‌توانید چندین متن را به صورت همزمان به Embedding تبدیل کنید. این قابلیت برای کارهایی مانند جستجوی معنایی، مقایسه‌ی شباهت و رتبه‌بندی اسناد بسیار کاربردی است. این بسته به عنوان یک ابزار کمکی برای یادگیری سریع‌تر، نمونه‌سازی سریع‌تر و آزمایش محلی با RAG طراحی شده است. هدف آن حذف موانع و تسهیل فرآیند توسعه با LLMهای محلی در .NET است. توسعه‌دهندگان می‌توانند با استفاده از این بسته به سرعت RAG را در محیط‌های محلی خود آزمایش کنند و قبل از استقرار در محیط‌های تولیدی، ایده‌های خود را پیاده‌سازی کنند. برای کسب اطلاعات بیشتر و مشاهده‌ی نمونه‌های کد کامل، می‌توانید به GitHub repository و NuGet package این پروژه مراجعه کنید. همچنین، یک ویدیوی 10 دقیقه‌ای در دسترس است که در آن نحوه‌ی استفاده از این بسته به صورت عملی نشان داده شده است.


مشاهده مطلب اصلی