Technical Tutorials

با افزایش حجم داده‌های ساختار‌یافته، پیچیدگی جستجوی شباهت برداری نیز افزایش می‌یابد. برای بسیاری از توسعه‌دهندگان، مهاجرت از پیاده‌سازی‌های مبتنی بر CPU به راهکارهای شتاب‌دهنده GPU مانند Facebook AI Similarity Search (FAISS) گام قطعی برای مقیاس‌پذیری پایگاه‌های داده برداری است. با این حال، صرفاً جابه‌جایی داده‌ها به GPU کافی نیست؛ بدون پیکربندی دقیق استراتژی‌های ایندکس‌گذاری و مدیریت حافظه، ممکن است با گلوگاه‌هایی مواجه شوید که مزایای سخت‌افزاری را خنثی کنند.

در این راهنما، بررسی می‌کنیم که چگونه FAISS را روی GPU برای سرعت ایندکس‌گذاری و تأخیر جستجو بهینه کنیم، با تمرکز خاص بر خوشه‌های بزرگ امبدینگ که حاوی میلیون‌ها بردار هستند.

درک ساختار ایندکس شتاب‌دهنده GPU

FAISS چندین نوع ایندکس را برای بهینه‌سازی با محدودیت‌های مختلف سخت‌افزاری ارائه می‌دهد. روی GPU، رایج‌ترین ساختارها IndexFlatGPU برای جستجوی دقیق زور بازو (brute-force) و IndexIVFPQ (فایل معکوس با کمّی‌سازی حاصل‌ضرب) برای جستجوی همسایه نزدیک تقریبی (ANN) هستند. در حالی که جستجوی دقیق دقت را تضمین می‌کند، اما به‌صورت خطی با اندازه مجموعه داده مقیاس می‌شود و برای میلیون‌ها بردار عملی نیست. از سوی دیگر، ایندکس‌های ANN مقدار کمی از یادآوری (recall) را در ازای بهبود قابل توجه در تأخیر و کارایی حافظه فدا می‌کنند.

پیکربندی منابع GPU

قبل از ایجاد ایندکس، باید به‌طور صریح منابع GPU را تخصیص دهید. این کار اطمینان می‌بخشد که FAISS به زمینه CUDA (CUDA context) و محدودیت‌های حافظه صحیح دسترسی دارد.


import faiss
import numpy as np

# Initialize the GPU resource manager
res = faiss.StandardGpuResources()

# Example dataset: 1 million vectors of dimension 384
d = 384
n = 1_000_000
np.random.seed(1234)
xb = np.random.random((n, d)).astype('float32')
faiss.normalize_L2(xb) # Normalize vectors for cosine similarity

بهینه‌سازی ایجاد ایندکس

هنگام ساخت ایندکس IVFPQ روی GPU، تعداد خوشه‌ها (nlist) یک هiperparamter حیاتی است. یک قانون سرانگشتی رایج این است که nlist را تقریباً برابر با جذر تعداد بردارها تنظیم کنید، هرچند این مقدار باید بر اساس نیازهای خاص یادآوری (recall) شما تنظیم شود.


# Create an IVFPQ index
nlist = 1024
pq = faiss.ProductQuantizer(d, 64, 8) # 64 sub-vectors, 8 bits each
index = faiss.IndexIVFPQ(res, d, nlist, pq)

# Add training data to build the clustering
index.train(xb)
index.add(xb)

# Copy the index to the GPU
index_gpu = faiss.index_cpu_to_gpu(res, 0, index)

تنظیم تأخیر جستجو

پس از انتقال ایندکس به GPU، عملکرد جستجو به شدت تحت تأثیر تعداد پروب‌ها (nprobe) قرار دارد. افزایش nprobe یادآوری (recall) را بهبود می‌بخشد اما تأخیر را افزایش می‌دهد. برای محیط‌های تولیدی، باید این پارامتر را پروفایل کنید تا نقطه بهینه‌ای را پیدا کنید که در آن SLA (توافق سطح خدمات) شما برای تأخیر با یادآوری قابل قبولی برآورده شود.


# Set the number of probes for search
index_gpu.nprobe = 32

# Perform search for 10 nearest neighbors for 100 queries
xq = np.random.random((100, d)).astype('float32')
faiss.normalize_L2(xq)

D, I = index_gpu.search(xq, 10)
print(f"Search complete. First neighbor for query 0: {I[0]}")

بهترین شیوه‌ها برای خوشه‌های بزرگ‌مقیاس

بچینگ (Batching): همیشه بردارها را در بچ‌ها پردازش کنید تا از سرریز حافظه جلوگیری شود. FAISS روی GPU زمانی کارآمدترین است که بچ‌ها به اندازه کافی بزرگ باشند تا موازی‌سازی GPU را استفاده کنند، اما به اندازه کافی کوچک باشند تا در VRAM جا شوند.
نقشه‌برداری حافظه (Memory Mapping): برای ایندکس‌هایی که برای حافظه GPU بسیار بزرگ هستند، در نظر بگیرید از ویژگی‌های هیبریدی CPU-GPU FAISS استفاده کنید یا داده‌های غیرداغ (non-hot) را با IndexIVFScalarQuantizer به RAM CPU منتقل کنید.
دقت (Precision): اطمینان حاصل کنید که داده‌های ورودی شما با دقت float32 هستند. تبدیل بین float64 و float32 هزینه اضافی غیرضروری را در مرحله جستجو ایجاد می‌کند.

نتیجه‌گیری

استفاده از FAISS روی GPU می‌تواند زیرساخت جستجوی برداری شما را از یک گلوگاه به یک موتور با عملکرد بالا تبدیل کند. با انتخاب دقیق نوع ایندکس مناسب، تنظیم پارامترهای خوشه و مدیریت منابع حافظه، می‌توانید حتی با مجموعه‌های داده عظیم، تأخیرهای زیر میلی‌ثانیه را به دست آورید. با مرکزی شدن جستجوی برداری در برنامه‌های هوش مصنوعی، تسلط بر این بهینه‌سازی‌ها برای ساخت سیستم‌های مقیاس‌پذیر و واکنش‌گرا ضروری است.