Technical Tutorials

Hızla gelişen Kurumsal AI manzarasında, bir prototip ile üretim düzeyindeki sistem arasındaki fark genellikle veri çekme (retrieval) kalitesine dayanır. Vektör benzerlik araması, anlamsal anlayışın temelini sağlasa da, iş uygulamalarının sıkı gereksinimlerini karşılamak için tek başına nadiren yeterlidir. İşte burada Vespa ön plana çıkar. Ölçeklenebilir vektör dizinleme ile karmaşık sıralama mantığını birleştirerek Vespa, geliştiricilerin yalnızca hızlı değil, aynı zamanda derinlemesine bağlam farkında olan AI destekli arama ve öneri sistemleri oluşturmasına olanak tanır.

Saf Vektör Aramasının Sınırlamaları

Geliştiriciler ilk kez Büyük Dil Modellerini (LLM'ler) veya gömme (embedding) modellerini uygulamalarına entegre ettiklerinde, genellikle yalnızca kosinüs benzerliği veya nokta çarpımı skorlarına güvenirler. Anlamsal olarak benzer öğeleri bulmada etkili olsa da, saf vektör araması tam anahtar kelime eşleşmesi ve karmaşık iş mantığı ile mücadele eder. Örneğin, bir kullanıcı "iPhone 14 kılıfı" araması yaptığında, vektör araması anlamsal yakınlık nedeniyle genel bir "akıllı telefon kılıfı" döndürerek kullanıcının aslında istediği belirli ürün varyantını kaçırabilir.

Bunu çözmek için kurumsal uygulamalar hibrit arama stratejisine ihtiyaç duyar; bu strateji, yoğun vektörlerin anlamsal derinliğini, seyrek anahtar kelime eşleşmesinin (BM25) hassasiyetiyle birleştirir. Vespa bu mimariyi yerel olarak destekler, böylece her iki arama yöntemini eşzamanlı olarak çalıştırabilir ve sonuçları tek, yüksek derecelendirilmiş bir listede birleştirebilirsiniz.

Vespa'da Hibrit Aramanın Uygulanması

Vespa'nın hibrit arama özelliği, sorgu API'sine dahildir. İki ayrı arama kümesi yönetmenize gerek yoktur; bunun yerine, hem bir tensor alanı (yoğun vektörler için) hem de bir keyword alanı (seyrek terimler için) içeren tek bir şema tanımlarsınız. Sorgulama sırasında Vespa, her iki bileşen için skorlar hesaplar ve bunları birleştirmek için tanımlanmış bir formül kullanır.

Vespa'nın YQL (Vespa Sorgu Dili) kullanılarak hibrit bir arama gerçekleştirmek için bir sorgunun nasıl yapılandırılacağına dair pratik bir örnek aşağıdadır. Motorun doğru mantığı uygulamasını sağlamak için defaultSearch ve rankProfile parametrelerinin kullanımına dikkat edin:

select * from my_schema 
where userQuery("iPhone 14 case") 
and (myVector contains tensor(d0[128]:[0.1, 0.2, ...])) 
rank myRanking;

Bu örnekte, motor "iPhone 14 case" metnini anahtar kelime alanlarıyla karşılaştırırken, aynı zamanda sağlanan vektörü yoğun vektör alanıyla değerlendirir. Sonuç kümesi, belirtilen sıralama profili tarafından belirlenir.

Sıralama Profillerinde Ustalık

Vespa'nın gerçek gücü sıralama profillerinde yatar. Bunlar, basit ancak güçlü bir ifade diliyle yazılmış özelleştirilebilir skorlama işlevleridir. Bir sıralama profili, farklı sinyallerin (tazelik, popülerlik, kullanıcı oturumu bağlamı ve hibrit arama skoru gibi) ağırlıklandırılmasına olanak tanıyarak nihai bir ilgililik skoru üretir.

Kurumsal bir AI uygulaması için, son incelemeleri önceliklendirmek veya stokta olan öğeleri öne çıkarmak isteyebilirsiniz. Bunu, hibrit arama skorunu işe özgü özelliklerle birleştiren bir sıralama profili tanımlayarak başarabilirsiniz:

rank-profile myRanking inherits default {
    first-phase {
        expression: nativeRank(title, body) + 
                    10 * if(sum(bm25(title)) > 0, 1, 0) // Anahtar kelime eşleşmesi varsa öne çıkar
                    + 0.5 * fieldMatch(title)
                    - 0.1 * distance(field, myVector, input(q)) // Mesafe için ceza
    }
    second-phase {
        expression: 0.3 * attribute(popularityScore) 
                    + 0.7 * firstPhaseScore
    }
}

Bu kod parçacığında, first-phase, BM25 anahtar kelime eşleşmeleri ve vektör mesafelerine dayalı olarak başlangıç filtreleme ve skorlamasını yönetir. second-phase, popülerlik skoru gibi iş metriklerini kullanarak daha pahalı ve ince taneli bir skorlama uygular. Bu iki aşamalı yaklaşım, yalnızca en ilgili adayların derinlemesine işlenmesini sağlayarak performansı optimize eder.

Bu Neden Üretim Açısından Önemlidir?

Orta düzeyden ileri düzey geliştiriciler için, tüm uygulamayı yeniden dağıtmadan sıralama profilleri üzerinde yineleme yapabilme yeteneği oyunun kurallarını değiştirir. Vespa, sıralama profillerini canlı olarak güncellemenize (hot-update) olanak tanır; bu da gerçek zamanlı olarak farklı skorlama stratejilerini A/B test etmenizi sağlar. Bu çeviklik, "mükemmel" arama stratejisinin başlangıçta nadiren bilindiği kurumsal AI için kritik öneme sahiptir.

Ayrıca, Vespa'nın mimarisi bu karmaşık sıralama hesaplamalarının ölçeklenebilir şekilde gerçekleşmesini sağlar. Milyonlarca belgeyi dizinliyor olsanız da veya saniyede binlerce sorguyu işliyor olsanız da, Vespa alt milisaniye gecikme süresi sunar; bu da onu sohbet botları, öneri motorları ve anlamsal arama arayüzleri gibi gerçek zamanlı AI uygulamaları için uygun kılar.

Sonuç

Üretim AI'sı için Vespa'dan yararlanmak, basit vektör aramalarının ötesine geçmeyi içerir. Hibrit aramayı benimseyerek ve sıralama profillerinin esnekliğinden yararlanarak geliştiriciler, hem kullanıcının niyetinin anlamını hem de bağlamını anlayan sistemler oluşturabilir. Anlamsal zenginlik ile iş mantığı hassasiyetinin bu birleşimi, sağlam kurumsal çözümleri deneysel prototiplerden ayıran unsurdur. AI, yazılım mühendisliğinin her katmanına nüfuk ettikçe, bu veri çekme teknolojilerini ustalaşmak, bir sonraki nesil akıllı uygulamaları oluşturmak için temel olacaktır.