Büyük Dil Modelleri (LLM) alanı hızla genişledikçe, birleşik, gizlilik odaklı ve son derece özelleştirilebilir bir arayüze olan ihtiyaç hiç olmadığı kadar arttı. Ollama ve LM Studio gibi araçlar model çıkarımını yönetmede mükemmel olsa da, ticari platformların zengin özellik setlerinden yoksun kalıyorlar. İşte tam da burada
Open WebUI (eski adıyla Ollama WebUI) devreye giriyor. Geliştiricilerin ve meraklıların, yerel olarak barındırılan modellerle olağanüstü bir kolaylıkla etkileşim kurmasını sağlayan, genişletilebilir ve zengin özelliklere sahip bir web arayüzüdür. Bu teknik derinlemesine incelemede, Open WebUI'nin nasıl dağıtılacağını, performans için nasıl yapılandırılacağını ve yerel AI geliştirme için gelişmiş yeteneklerinin nasıl kullanılacağını keşfedeceğiz.
Neden Open WebUI Seçmelisiniz?
Open WebUI, kalabalık AI ön uç pazarında birkaç çarpıcı nedenle öne çıkar. İlk ve en önemlisi veri gizliliğine olan bağlılığıdır. Yerel olarak çalıştığı için, harici API'lere veri göndermek için açıkça yapılandırmadığınız sürece konuşmalarınız asla makinenizden ayrılmaz. İkincisi, ChatGPT veya Claude'a benzer, tanıdık bir kullanıcı deneyimi sunar; bu deneyime markdown işleme, kod vurgulama ve dosya yükleme desteği dahildir.
Geliştirici perspektifinden bakıldığında, modülerliği anahtardır. Ollama, OpenAI uyumlu API'ler ve diğerleri dahil olmak üzere birden fazla arka uç sağlayıcısını kutudan çıkar çıkmaz destekler. Bu esneklik, kullanıcı arayüzünü değiştirmeden çıkarım motorlarını değiştirebileceğiniz anlamına gelir. Ayrıca, gerçek zamanlı akış yanıtlarını, bağlam koruma ile çoklu dönüşlü konuşmaları ve temel sohbetin ötesinde işlevselliği genişleten sağlam bir eklenti sistemini destekler.
Ön Koşullar ve Kurulum
Open WebUI'yi dağıtmadan önce, uyumlu bir ortama sahip olduğunuzdan emin olun. Önerilen yığın, bağımlılık yönetimini basitleştiren ve temiz bir kurulum sağlayan Docker ve Docker Compose'u içerir. Ayrıca bir çıkarım arka ucuna ihtiyacınız olacaktır; Ollama en sorunsuz eşlikçidir, ancak herhangi bir OpenAI uyumlu uç nokta çalışır.
Başlamak için bir proje dizini oluşturacağız ve hizmetleri bir
docker-compose.yml dosyasında tanımlayacağız. Bu yaklaşım, UI'nizin ve verilerinizin konteyner yeniden başlatmaları boyunca kalıcı olmasını sağlar.
version: '3.8'
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
ports:
- "3000:8080"
environment:
- OLLAMA_BASE_URL=http://host.docker.internal:11434
volumes:
- open-webui:/app/backend/data
volumes:
open-webui:
Bu yapılandırmada, ana makinenizdeki 3000 portunu konteyner içindeki 8080 portuna eşliyoruz.
OLLAMA_BASE_URL ortam değişkimi hayati önem taşır; Open WebUI'ye model çıkarım hizmetini nerede bulacağını söyler. Farklı bir arka uç kullanıyorsanız, bu değişkeni buna göre güncellemeniz yeterlidir.
Yapılandırma ve Gelişmiş Özellikler
Hizmetler
docker compose up -d aracılığıyla çalışmaya başladığında,
http://localhost:3000 adresine gidin. İlk kurulum sihirbazı, bir yönetici hesabı oluşturmanız için sizi yönlendirecektir. Kimlik doğrulamasından sonra, deneyimi ince ayar yapmak için ayarlara dalabilirsiniz.
En güçlü özelliklerden biri, modelleri doğrudan UI'den yönetme yeteneğidir. Ollama kullanıyorsanız, komut satırına dokunmadan modelleri çekebilir, silebilir ve güncelleyebilirsiniz. Ayrıca, Open WebUI sistem komutlarını "ön ayarlar" olarak kaydetmeyi destekler. Bu, her yeni sohbet oturumu için belirli davranışları veya kodlama standartlarını uygulamak isteyen geliştiriciler için paha biçilmezdir.
Gelişmiş kullanıcılar için, API öncelikli tasarım diğer araçlarla entegrasyonu sağlar. Mesajları programlı olarak göndermek için Open WebUI API'sini kullanabilir, böylece özel ön uçlar oluşturabilir veya yerel AI'yi mevcut iş akışlarına entegre edebilirsiniz.
Sonuç
Open WebUI, yerel AI'yi erişilebilir ve güçlü hale getirmede önemli bir sıçrama temsil eder. Cilalı, sezgisel bir arayüzü sağlam arka uç esnekliğiyle birleştirerek, geliştiricilerin özel, güvenli ve son derece yetenekli AI uygulamaları oluşturmalarına olanak tanır. Açık kaynaklı modellerle deneme yapıyor olsanız da üretim seviyesinde çıkarım hizmetleri dağıtsanız da, Open WebUI başarılı olmanız için gereken altyapıyı sağlar. AI ekosisteminizin tam kontrolünü ele almak için bugün dağıtmaya başlayın.