Makine Öğrenmesi Açıklanabilir Olmazsa Karar Güvenilir mi?

Bir perakende zincirinin satın alma müdürü düşünün: elinde, geçmiş satış verilerini işleyerek gelecek ay hangi ürünlerin sipariş edileceğini öneren bir yazılım var. Sistem tutarlı biçimde doğru çıkıyor, stok fazlası azalıyor, fire düşüyor. Ama müdür bir gün yönetim kuruluna şunu sormak zorunda kalıyor: ‘Bu model neden X ürününü önerdi?’ Yazılım firması ise yalnızca ‘model öyle hesapladı’ yanıtını veriyor. İşte tam bu noktada makine öğrenmesinin kurumsal benimsenmesindeki en derin gerilim yüzeye çıkıyor: doğruluk ile açıklanabilirlik arasındaki denge.

Makine öğrenmesi modelleri, özellikle karar ağaçlarının ötesine geçen topluluk yöntemleri ve sinir ağı tabanlı yaklaşımlar, tahmin doğruluğunu artırmak için model içi ilişkileri giderek daha karmaşık hale getiriyor. Bir lojistik regresyon modeli her katsayısıyla yorumlanabilirken, binlerce ağacı birleştiren bir topluluk modeli hangi değişkenin kararı ne ölçüde etkilediğini doğrudan söylemiyor. Araştırmacılar bu durumu ‘kara kutu’ sorunu olarak tanımlıyor: model çalışıyor, ama içi görünmüyor. Kurumsal bağlamda bu durum yalnızca teknik bir sorun değil; yönetişim, denetim ve sorumluluk sorununa dönüşüyor.

Finans sektöründe bu gerilim en keskin biçimde hissediliyor. Bir bankanın kredi skorlama modeli müşteriyi reddediyorsa, hem yasal düzenlemeler hem de iç denetim mekanizmaları ‘neden’ sorusunun yanıtlanmasını zorunlu kılıyor. Türkiye’de BDDK’nın bankacılık modellerine yönelik denetim beklentileri, modelin yalnızca performansını değil, kararlarının gerekçelendirilebilirliğini de kapsıyor. Benzer durum sigorta sektöründe hasar tazminat kararları için de geçerli. Yönetici bir modelin çıktısını imzalamak zorundaysa, o modelin mantığını kavrayabilmesi gerekiyor; aksi hâlde imza, kör bir onay anlamına geliyor.

Açıklanabilirlik sorununa yönelik teknik çalışmalar, akademik çevrelerde ivme kazanmaya başlıyor. Değişken önem skorları (variable importance scores), kısmi bağımlılık grafikleri ve yerel yaklaşım yöntemleri, modelin genel davranışını ya da tek bir tahminin gerekçesini anlaşılır kılmaya çalışıyor. Bu araçlar modeli basitleştirmiyor; modelin dışından bir ‘çeviri katmanı’ oluşturuyor. Örneğin bir müşteri kaybı tahmin modelinde hangi değişkenlerin kararı en çok etkilediğini sıralamak, pazarlama müdürüne hem güven hem de müdahale noktası sunuyor. Açıklanabilirlik burada yalnızca şeffaflık değil, operasyonel değer taşıyor.

Kurumsal karar süreçlerinde bir başka kritik boyut denetim izi. Geleneksel kural tabanlı sistemlerde hangi koşulun hangi kararı tetiklediği kayıt altında tutuluyor; iç denetim ekibi bu izi takip edebiliyor. Makine öğrenmesi modellerinde ise karar izi çok daha az şeffaf. Model versiyonlaması, eğitim veri kümesinin belgelenmesi ve tahmin gerekçelerinin arşivlenmesi gibi pratikler, kurumsal benimseme için zorunlu altyapı unsurları olarak öne çıkıyor. Bu altyapıyı kurmayan şirketler, modelin doğru çalıştığı dönemde sorun yaşamıyor; ancak bir hata anında ya da dış denetimde ciddi açıklarla karşılaşıyor.

Pratikte karşılaşılan en yaygın zorluk, veri bilimi ekibi ile iş birimi arasındaki dil uçurumu. Veri bilimciler modelin ROC eğrisini ve F1 skorunu sunuyor; iş birimi yöneticisi ise ‘bu model hangi müşteriye neden kredi vermiyor?’ sorusunu soruyor. İki taraf da haklı, ama aynı dili konuşmuyor. Açıklanabilirlik tekniklerinin değeri tam burada ortaya çıkıyor: teknik çıktıyı iş kararına bağlayan bir köprü işlevi görüyorlar. Bu köprüyü kurmak ek zaman ve kaynak gerektiriyor; ancak modelin kurumsal güvenilirliğini doğrudan etkiliyor. Yüksek doğruluğa sahip ama kimsenin güvenmediği bir model, operasyonel değer üretmiyor.

Bir KOBİ ya da orta ölçekli kurumun bu konuda alması gereken pratik karar şu: makine öğrenmesi projesine başlamadan önce, modelin çıktılarının kime, nasıl raporlanacağını ve hangi kararları destekleyeceğini net biçimde tanımlamak gerekiyor. Eğer model bir insan karar vericinin yerini değil, onu destekleme işlevi görüyorsa, açıklanabilirlik bir ‘güzel olsa iyi olur’ özelliği değil, proje gereksinimi haline geliyor. Doğru teknik seçim de bu gereksinimden başlamalı: bazen yüzde iki daha az doğrulukla çalışan ama kararlarını açıklayan bir model, kara kutu alternatifinden kurumsal açıdan çok daha değerli.


anomali tespiti projelerinde başarı, başlangıçtaki heyecandan çok sürdürülebilir kullanım disiplinine bağlıdır. Canlıya geçiş bir son değil, gerçek öğrenmenin başladığı noktadır. Kurum ölçer, düzeltir ve sahiplenirse teknoloji yatırım olmaktan çıkar, yönetim kapasitesine dönüşür.


Gökhan Mercanoğlu
Yapay Zekâ ve Makine Öğrenmesi