Yapay Zekâ Ajanlarında Operasyonel Sorumluluk: Sınır Çizmek, Yetenek Listelemekten Daha Kritik

AI ajanının ne kadar akıllı olduğu değil, nerede duracağını kimin belirlediği — operasyonel sorumluluk tartışmasının gerçek konusu budur. 2026 yılına gelindiğinde Türkiye’de orta ölçekli birçok şirket, müşteri taleplerini yönlendiren, teklif hazırlayan ya da stok kararlarına girdi üreten ajan sistemleri kurdu. Ama bu sistemlerin büyük çoğunluğu, kullanım senaryosu tasarımıyla değil satıcı demosu izlenerek devreye alındı. Sonuç tahmin edilebilir: ajan çalışıyor, karar veriyor, ama bir şeyler ters gittiğinde sorumlunun kim olduğu belirsiz kalıyor. Ankara’da 312 çalışanlı bir sigorta aracılık şirketinde gördüğüm şu tabloyu düşünün — poliçe yenileme süreçlerini otomatize etmek için bir RAG tabanlı ajan kuruldu, sistem kısmen örtüşen iki poliçeyi müşteriye aynı anda önerdi ve itiraz süreci başladı. Hatayı ne ajan yaptı ne de yazılım ekibi. Karar mimarisinde hiç kimse ‘bu ajan hangi durumlarda teklif üretemez?’ sorusunu yanıtlamamıştı. Bu soruyu yanıtlamak, tüm proje bütçesinin yarısından fazla zamanını hak ediyordu; harcanan süre sıfıra yakındı.Yaygın yanılgı şu: şirketler AI ajan yönetişimini teknik bir konfigürasyon meselesi olarak görüyor. Hangi veriyi besleyeceksin, hangi modeli kullanacaksın, prompt nasıl yazılacak — bunlar önemli ama yetişmiş bir yazılım ekibi tarafından çözülebilir sorular. Asıl yönetim sorunu bunların hiçbiri değil. Asıl soru, ajan bir müşteriye taahhütte bulunduğunda, bir sözleşme kalemine etki ettiğinde ya da bir iç süreci tetiklediğinde bu kararın arkasında duran insanın kim olduğudur. EU AI Act bu soruyu düzenleyici dil içinde yanıtlıyor: yüksek riskli sistemlerde insan denetimi zorunlu, sorumluluk dağıtılamaz. Ama kanun metnini okumak başka, bunu operasyonel bir çerçeveye dönüştürmek başka. Türkiye’de AB pazarına ürün veya hizmet satan şirketler bu yükümlülüğü taşıyor; taşımadığını zannedenler ise 2027 denetim dönemine doğru ciddi bir uyum açığıyla ilerliyor.Bu noktada tezimi doğrudan söylemek istiyorum: çoğu şirket AI ajanını ‘ne yapabilir’ diye tasarlıyor, oysa yönetişimin başlangıç noktası ‘ne yapmamalı’ sorusudur. Bunu tersine yapmak, sistemi kontrol ettiğinizi değil, sisteme teslim olduğunuzu gösterir. Bir ajanın yeteneklerini genişletmek nispeten kolaydır — model güncellenebilir, bağlam genişletilebilir, araç seti artırılabilir. Ama bir ajanın sınırlarını operasyonel bir gerçek olarak kurmak, iş süreçlerini yeniden haritalamayı, yetki matrisini güncellemeyi ve çalışanlarla dürüst bir diyalog yürütmeyi gerektiriyor. İzmir’deki bir perakende zincirinin depo yönetim ajanında gördüğüm bir ayrıntı bu farkı somutlaştırıyor: ajan, tedarikçi önerisini iletmek için tasarlanmıştı, ama hangi durumlarda önerinin bir satın alma sorumlusuna yönlendirilmesi gerektiği tanımlanmamıştı. Sonuçta ajan doğru çalıştı — önerdi, insan onaylamadı, tedarikçi bekledi, stok açığı oluştu. Sorun ajanda değildi, devir noktasının tanımlanmamış olmasındaydı.Peki operasyonel sorumluluk zinciri nasıl kurulur? Saha deneyiminden distile ettiğim üç adım var. Birinci adım, her ajan kullanım senaryosu için ‘tetikleyici — eylem — sahip’ üçlüsünü belgelemek. Ajan neyi tetiklendiğinde ne yapıyor ve bu eylemin sahibi kim? Bu belge bir teknik şartname değil, bir yetki belgesi. İkinci adım, ajanın ‘kırmızı çizgilerini’ negatif tanımla listelemek: ajan hangi durumlarda kesinlikle eyleme geçemez, hangi durumlarda insan onayı zorunlu, hangi sonuç tiplerine müdahale edilemez. Bu liste yazılı ve ekipte herkes tarafından bilinmeli — sadece sistem yöneticisinin zihninde değil. Üçüncü adım, karar kalitesini ölçen bir metrik tanımlamak. Ajanın kararlarını bir hafta boyunca izleyin: insan onayına gönderilen karar oranı nedir, geri çevrilen oran nedir, müşteri itirazı üreten karar tipi hangisi? Ölçüm yoksa yönetim yoktur. Ankara sigortacılık vakasında bu üç adım uygulandıktan sonra itiraz oranı dört ayda belirgin biçimde geriledi — tam bir oran vermiyorum çünkü şirket bu veriyi paylaşmayı tercih etmedi, ama fark hem ekip hem müşteri tarafından hissedilir düzeydeydi.Çalışan adaptasyonu meselesini buraya eklemeden geçmek olmaz. Ajanlı sistemlerin operasyonel başarısızlığının önemli bir kaynağı teknik değil insani. Çalışan, ajanın kararına güvenmiyorsa sistematik olarak devre dışı bırakır — başka bir sekme açar, manuel işler, ajan kullanımını raporlamaz. Bu görünmez direnç, hem sistemin öğrenmesini hem de yöneticinin gerçek veri almasını engeller. 2026 yılında ‘AI kabulü’ meselesi artık değişim yönetimi literatürüne tam olarak girmiş durumda. Uygulamada benim gördüğüm en etkili yaklaşım şu: çalışanlara ajanı değerlendirme yetkisi ver. Kararı onaylayabileceği gibi reddedebilmeli ve reddetme gerekçesi sisteme kaydedilmeli. Bu hem güven hem de veri üretiyor. Reddetme gerekçelerini iki ayda bir analiz edin — en tekrarlı gerekçe tipini bulun, ajan eğitim döngüsüne besleyin. Gaziantep’teki bir kimya hammadde distribütöründe bu yaklaşım uygulandı: çalışanların reddetme gerekçeleri, ajanın fiyat tekliflerinde mevsimsel indirim politikasını hiç hesaba katmadığını ortaya çıkardı. Bu boşluk ancak çalışan geri bildirimiyle görülebilirdi; sistem loglarından değil.Şimdi karşı argümanı da net söylemek gerekiyor. Bu çerçeve ağır geliyor ve birçok KOBİ için gerçekten ağır. Yetki belgesi, negatif tanım listesi, metrik döngüsü, çalışan geribildirim kayıtları — bunlar kurumsal kaynak gerektiriyor. Türkiye’de BT departmanı olmayan ya da iki kişilik BT ile çalışan şirketler için bu adımların tamamını birden uygulamak mümkün olmayabilir. Ve burada açık olmak istiyorum: eğer bu altyapıyı kuramıyorsanız, kapsamlı bir AI ajan sistemi devreye almak için erken olabilir. Belirli bir süreç için dar kapsamlı, iyi tanımlanmış ve insanın her adımda devrede olduğu bir otomasyon başlangıç noktası olarak çok daha güvenli. Aceleyle kurulan geniş kapsamlı bir ajan, hem operasyonel risk hem de EU AI Act uyum yükü açısından yönetimi zorlaştırıyor. SaaS AI hizmetlerinin erişilebilirleşmesi KOBİ’lere kapı açtı — ama kapının içine girmek, evin planını bilmeyi hâlâ gerektiriyor.Ankara’daki o sigorta şirketine döneyim: itiraz sürecinden altı ay sonra ekip, poliçe yenileme ajanını çalıştırmaya devam ediyor. Fark şu — şimdi her teklifin arkasında bir sorumluluk adı var. Sistem otomatize etti, insan sahiplendi. Bu denge, AI yönetişiminin kâğıt üzerindeki değil, operasyonel gerçeğidir. Sizin şirketinizde hangi ajan kararının arkasında şu an bir isim var? Bu sorunun yanıtı yoksa, teknik kapasiteniz ne olursa olsun, yönetişim henüz başlamamış demektir.


veri gölü ancak kullanıcı davranışı, yönetim sahipliği ve veri kalitesi birlikte ele alındığında kalıcı değer üretir. Teknoloji tek başına dönüşüm yaratmaz; yalnızca dönüşüm ihtiyacını daha görünür kılar. Başarı, sistemin çalışmasından çok kurumun sistemle çalışmayı öğrenmesidir.


Gökhan Mercanoğlu
Büyük Veri ve Veri Bilimi