در چشمانداز به سرعت در حال تحول هوش مصنوعی مولد، الگوی تولید تقویتشده با بازیابی (RAG) به عنوان استاندارد طلایی برای ریشهدار کردن مدلهای زبان بزرگ (LLM) در دادههای خصوصی و بیدرنگ ظهور کرده است. با این حال، با انتقال سازمانها از اثبات مفهوم (PoC) به تولید، با یک مانع قابل توجه مواجه میشوند: مقیاسپذیری. مقیاسبندی یک فروشگاه برداری فقط افزودن فضای ذخیرهسازی بیشتر نیست؛ بلکه حفظ تأخیر کم، فراخوانی بالا و کارایی هزینه در حالی که میلیونها جاسازی چند بعدی را مدیریت میکند، ضروری است. Azure AI Search (قبلاً Azure Cognitive Search) اخیراً ارتقاء عظیمی در زیرساخت را تجربه کرده است که بهطور خاص بر افزایش ظرفیت و عملکرد برداری هدفگیری میکند. این مقاله به بررسی نحوه طراحی برنامههای RAG با مقیاس بالا با استفاده از آخرین قابلیتهای Azure AI Search میپردازد. معماری اصلی یک برنامه RAG شامل دو خط لوله متمایز است: خط لوله ورود (داده به فهرست) و خط لوله استنتاج (پرس و پاسخ). هنگامی که به میلیونها سند مقیاسبندی میکنید، گلوگاه معمولاً از LLM به موتور بازیابی تغییر میکند. Azure AI Search با جداسازی ذخیرهسازی و محاسبات از طریق پارتیشنها و نسخهها به این موضوع رسیدگی میکند، در حالی که سختافزار شتابدهنده برداری تخصصی را ارائه میدهد.
مشاهده مطلب اصلی