غیرمعمولیسازی جعبههای سیاه: مصورسازیهای SHAP بلادرنگ برای مدلهای زبانی بزرگ در محیط تولید
مدلهای زبانی بزرگ (LLMs) توسعه نرمافزار را متحول کردهاند، اما همچنان به عنوان «جعبههای سیاه» شناخته میشوند. برای تیمهای مهندسی، درک دلیل تولید پاسخ خاص توسط LLM برای اشکالزدایی، تشخیص سوگیری و ایمنی حیاتی است. با این حال، برای مدیران محصول، افسران انطباق و مشتریان، درختهای وابستگی پیچیده بیمعنا هستند.