Büyük Dil Modellerinin (LLM) dış araçları çalıştırabilen otonom ajanlara hızla evrilmesi, düzenleyici uyumluluk çerçevelerine önemli bir karmaşıklık getirmiştir. Özellikle Avrupa Birliği Yapay Zekâ Yasası (AB AI Act), yüksek riskli yapay zekâ sistemleri için sıkı yükümlülükler getirmektedir. Finansal veritabanları, sağlık kayıtları veya endüstriyel kontrol arayüzleri gibi gerçek dünya sistemleriyle etkileşime girmek için araç çağırma mekanizmalarını kullanan ajanlar geliştiren geliştiriciler için bu yükümlülükleri anlamak ve uygulamak artık isteğe bağlı değildir. Bu, AB'de pazara erişimin ön koşuludur.
Ajan Eylemleri Bağlamında Yüksek Riskin Tanımlanması
AB Yapay Zekâ Yasası'na göre bir yapay zekâ sistemi; belirli sektörlerde (kritik altyapı, istihdam veya temel özel hizmetlere erişim gibi) kullanılıyorsa veya sağlık, güvenlik veya temel haklara önemli riskler taşıyorsa yüksek riskli olarak sınıflandırılır. Bir LLM ajanı araçları otonom olarak seçip çalıştırdığında, risk profili statik çıktı üretiminden dinamik eylem çalıştırmasına kayar. Bu, LLM'nin karar verme sürecinin "kara kutu" doğasının, şeffaf ve denetlenebilir araç çağırma mantığıyla sarılması gerektiği anlamına gelir. Geliştiricilerin, ajanın araç seçimini, yüksek riskli sistem gereksinimleriyle uyumlu önceden tanımlanmış politikalarla kısıtlandığından emin olmaları gerekir.
Yükümlülüklerin Araç Çağıran İş Akışlarına Eşlenmesi
AB Yapay Zekâ Yasası kapsamındaki birkaç temel yükümlülük, doğrudan ajanın operasyonel döngüsüne eşlenmelidir. İlk olarak, insan gözetimi, bir insanın ajanın eylemlerine müdahale edebilmesini veya kesintiye uğratabilmesini gerektirir. Bu, araç çağırma hattında "acil durum" (break-glass) mekanizmalarını zorunlu kılar. İkinci olarak, veri yönetişimi, eğitim veya çıkarım için kullanılan girdilerin ve çıktılarının sıkı erişim kontrolleriyle yönetilmesini emreder. Araç çağırma bağlamında bu, dış araçlara iletilen her parametrenin kaydedilmesi ve veri soyunun doğrulanması anlamına gelir. Üçüncü olarak, şeffaflık, yapay zekâ sisteminin denetçiler tarafından yeniden oluşturulabilir loglar üretebilmesini gerektirir. Bu, ajanın; bağlamı, seçilen aracı, argümanları ve sonucu içeren her araç çağrısının kalıcı ve değiştirilemez bir denetim izini sürdürmesi gerektiği anlamına gelir.
Araç Çağrıları İçin Denetim Kaydı Uygulaması
Şeffaflık ve hesap verebilirlik gereksinimlerini karşılamak için ajan çerçevenizin sağlam bir kayıt tutma sistemi uygulaması gerekir. Aşağıda, uyumluluk raporlaması için gerekli meta verileri yakalayan bir araç çağırma sarmalayıcısının nasıl yapılandırılacağına dair pratik bir örnek bulunmaktadır.
import hashlib
import json
from datetime import datetime
from typing import Any, Dict, List
class ComplianceToolCaller:
def __init__(self, audit_log_storage):
self.audit_log = audit_log_storage
async def execute_tool(self, tool_name: str, arguments: Dict[str, Any], context: str) -> Any:
# 1. Bütünlüğü sağlamak için isteğe benzersiz bir hash üret
request_hash = hashlib.sha256(json.dumps(arguments, sort_keys=True).encode()).hexdigest()
# 2. İzlenebilirlik için zaman damgasını ve bağlamı yakala
timestamp = datetime.utcnow().isoformat()
# 3. AB AI Act Madde 12 tarafından gerekli olan denetim kaydını tanımla
audit_record = {
"timestamp": timestamp,
"tool_name": tool_name,
"arguments": arguments,
"context": context,
"request_hash": request_hash,
"operator_id": "system_agent_v1", # Sorumlu bir varlığa izlenebilir olmalıdır
"action_type": "autonomous"
}
# 4. Çalıştırmadan önce değiştirilemez bir loga yaz
self.audit_log.write(audit_record)
# 5. Gerçek araç çağrısını çalıştır
# Not: Gerçek bir sistemde, bu try-except bloklarıyla sarılmalı,
# hataları loglamalı ve hatalar eşikleri aştığında insan gözetimini tetiklemelidir
result = await self.call_external_api(tool_name, arguments)
# 6. Sonucu, sonradan analiz ve olay yanıtı için logla
audit_record["result_hash"] = hashlib.sha256(json.dumps(result, default=str).encode()).hexdigest()
self.audit_log.update(audit_record)
return result
İnsan Gözetimi ve Müdahalesinin Sağlanması
Otonomi, kendi kendine yetme (otarki) anlamına gelmez. AB Yapay Zekâ Yasası, yüksek riskli sistemlerin doğal kişiler tarafından denetlenebilir ve etkili olacak şekilde tasarlanması gerektiğinin altını çizer. Araç çağırma iş akışlarında bu, hassas eylemlerin etrafına "koruyucu bariyerler" (guardrails) yerleştirmek olarak karşılık bulur. Örneğin, bir ajan finansal bir işlem başlatmaya yetkiliyse, araç çağırma katmanı, insan onay adımı gerektiren bir eşiğin üzerinde zorlayıcı bir kontrol uygulamalıdır. Bu, risk puanlarına dayalı olarak belirli araç çağrılarını kesen bir ara katman (middleware) deseni kullanılarak uygulanabilir.
Sonuç
Otonom ajanlar için AB Yapay Zekâ Yasası'na uyum, yalnızca bir hukuki kontrol maddesi değil, aynı zamanda bir teknik mimari sorunudur. Yüksek riskli yükümlülükleri, titiz denetim kayıtları, veri yönetişimi kontrolleri ve uygulanabilir insan gözetimi mekanizmaları aracılığıyla doğrudan araç çağırma hattına eşleyerek geliştiriciler, hem güçlü hem de güvenilir ajanlar inşa edebilir. Düzenleyici ortam evrilmeye devam ettikçe, bu uyumluluk özelliklerini ajan çerçevenizin çekirdeğine yerleştirmek, gelecekteki hukuki ve güvenlik tehditlerine karşı dayanıklılığı sağlayacaktır. Uyumlu olmayı bir sonradan düşünülme değil, birincil sınıf bir özellik olarak ele alırsanız, yapay zekâ sistemlerinizi düzenlenmiş pazarlarda uzun vadeli başarı için konumlandırmış olursunuz.