Technical Tutorials

Yapay Zeka, deneysel prototiplerden kritik öneme sahip üretim sistemlerine geçtikçe, düzenleyici manzara tavsiye niteliğindeki kılavuzlardan uygulanabilir yasalara dönüşmüştür. Geliştiriciler ve ML mühendisleri için meydan okuma artık sadece doğru modeller kurmak değil, uyumlu modeller kurmaktır. Genel Veri Koruma Yönetmeliği (GDPR), NIST Yapay Zeka Risk Yönetimi Çerçevesi ve yeni yürürlüğe giren AB Yapay Zeka Kanunu gibi çerçevelerle birlikte, kuruluşlar veri gizliliği, model şeffaflığı ve risk azaltımı konularında karmaşık bir gereksinimler ağıyla karşı karşıyadır.

Bu yazı, bu yüksek düzeydeki yasal ve düzenleyici metinleri MLOps pipeline'ınızda somut, otomatik teknik kontroller haline nasıl getireceğinizi incelemektedir.

1. Veri Soyı (Lineage) ve Açıklama Hakkı (GDPR)

GDPR Madde 22 ve 71. Madde Tercümesine göre, bireylerin tamamen otomatik karar alma süreçlerine tabi tutulmama hakkına sahiptir. Uyumluluk sağlamak için, belirli bir model çıktısının nasıl elde edildiğini açıklayabilmeniz gerekir. Bu, belirli bir model öbeğinin (artifact) eğitiminde hangi veri seti sürümlerinin kullanıldığını tam olarak izleyen titiz bir veri soyu gerektirir.

Teknik olarak bu, eğitim pipeline'ınızın veri kökenini otomatik olarak etiketlemesi gerektiği anlamına gelir. Bir özelliğin kökeninin kaybolduğu bir "siyah kutu" veri gölüne sahip olamazsınız. Katı sürüm kontrolünü sağlamak için metadata katalogları veya MLflow ve DVC gibi özel araçlar kullanmanızı öneririz.

# Örnek: Bir Eğitim Betiğinde Veri Kökenini Zorunlu Kılma
import mlflow
import pandas as pd

def train_model():
    with mlflow.start_run():
        # Kullanılan tam veri seti sürümünü otomatik olarak günlüğe kaydet
        mlflow.log_param("dataset_version", "v2.1.3")
        mlflow.log_param("data_source", "s3://company-bucket/user-behavior-logs")
        
        # Günlüğe kaydetmeden önce PII (Kişisel Tanımlayıcı Bilgi) sütunlarının maskelenmesini sağla
        df = pd.read_csv("raw_data.csv")
        df['user_id'] = df['user_id'].apply(hash) # Sahte adlandırma adımı
        
        model = fit(df)
        mlflow.sklearn.log_model(model, "model")
    return model

2. Önyargı Tespiti ve Adillik Metrikleri (NIST & AB Yapay Zeka Kanunu)

NIST Yapay Zeka RMF ve AB Yapay Zeka Kanunu, özellikle "Yüksek Riskli" yapay zeka sistemleri için adillik ve ayrımcılık yapmama vurgusu yapmaktadır. Bir model genel olarak doğru olabilir ancak korunan gruplar için kötü performans gösterebilir. Teknik kontroller, dağıtımdan önce otomatik adillik kontrollerini içermelidir.

Bunu, CI/CD pipeline'ınıza AIF360 veya Fairlearn gibi adillik kütüphanelerini entegre ederek uygulayabiliriz. Bir model önceden tanımlanmış adillik eşiklerini (örneğin, farklı etki oranı) ihlal ederse, dağıtım otomatik olarak engellenmelidir.

# Örnek: CI/CD'de Otomatik Önyargı Kontrolü
from aif360.metrics import BinaryLabelDatasetMetric

def check_fairness(model, test_data):
    # Farklı Etkiyi (Disparate Impact) Hesapla
    privileged = test_data[test_data['protected_group'] == 1]
    unprivileged = test_data[test_data['protected_group'] == 0]
    
    y_pred_priv = model.predict(privileged.features)
    y_pred_unpriv = model.predict(unprivileged.features)
    
    disparate_impact = y_pred_unpriv.mean() / y_pred_priv.mean()
    
    # Oran 80% kuralından dışarıdaysa başarısız ol
    if disparate_impact < 0.8:
        raise ValueError(f"Adillik kontrolü başarısız: Farklı Etki {disparate_impact} < 0.8")
    return True

3. Dayanıklılık ve Düşmanca Direnç

Hem NIST hem de AB Yapay Zeka Kanunu, yüksek doğruluk, dayanıklılık ve güvenlik seviyeleri gerektirir. Modeller, girdi verilerindeki küçük, algılanamaz değişikliklerin çıktıda önemli hatalara yol açtığı düşmanca saldırılara karşı dirençli olmalıdır. Düşmanca eğitim veya girdi doğrulama katmanlarının uygulanması, bu güvenlik standartlarına uyumu göstermek için bir teknik kontrol olarak hizmet edebilir.

Sonuç

Uyumluluk, bir kez tamamlanması gereken bir kontrol listesi değildir; sürekli bir mühendislik durumudur. Veri soyu, otomatik adillik testleri ve dayanıklılık kontrollerini doğrudan kodunuza ve CI/CD pipeline'larınıza gömerek, uyumluluğu yasal bir yükten kalite güvence özelliğine taşırsınız. Bu yaklaşım, sizi düzenleyici yaptırımlardan korumakla kalmaz, aynı zamanda kullanıcılarınızla güven inşa eder ve yapay zeka sistemlerinizin sadece zeki değil, aynı zamanda sorumlu ve güvenilir olduğundan emin olmanızı sağlar.