Kurumsal Yapay Zeka Ajanı Delegasyonu Rehberi: Neyi Devredeceğini Bilen Çok Ajanlı Yapay Zeka

Yapay zeka ajanları, soruları yanıtlamaktan görevleri yerine getirmeye doğru ilerliyor.

• Bir müşteri hizmetleri ajanı bilgiyi getirebilir, bir talebi güncelleyebilir ve bir yanıt taslağı oluşturabilir.
• Bir hasar talebi ajanı belgeleri analiz edebilir, kanıtları karşılaştırabilir ve bir sonraki adımı önerebilir.
• Bir tedarik zinciri ajanı stokları izleyebilir, aksaklıkları inceleyebilir ve sistemler arası eylemleri koordine edebilir.

Bu iş akışları daha karmaşık hâle geldikçe, tek bir ajan artık yeterli olmayacaktır.

Kurumlar bunun yerine, bir ajanın belirli görevleri uzmanlaşmış diğer ajanlara, araçlara veya modellere devrettiği çok ajanlı mimarileri keşfetmeye başlıyor. Bu, karmaşık iş akışlarının ajanlar arasında atanabilen ve koordine edilebilen daha küçük görevlere bölündüğü, kurumsal yapay zeka açısından önemli bir gelişmedir.

Ancak daha fazla ajan eklemek bir yapay zeka sistemini otomatik olarak daha yetenekli hâle getirmez. Aynı zamanda sistemin güvenliğini sağlamayı, değerlendirmeyi, işletmeyi ve kontrol etmeyi de zorlaştırabilir.

Burada asıl soru şu hâle geliyor: Bir yapay zeka ajanı hangi görevi devretmesi gerektiğini, bunu hangi ajanın üstlenmesi gerektiğini, o ajanın gerçekte hangi bilgilere ihtiyaç duyduğunu ve ortaya çıkan sonucun ne zaman sorgulanması gerektiğini nasıl bilecek?

Yapay zeka ajanı delegasyonunun bir kurumsal mimari sorununa dönüştüğü yer tam da burasıdır.

Google Cloud’un yakın zamanda yayınladığı yapay zeka delegasyonu araştırması, 4 önemli ilkeyi öne çıkarıyor:

1. Devredilen işler doğrulanabilir olmalıdır.
2. Görevler uygun model ve araçlarla eşleştirilmelidir.
3. Hassas veriler korunmalıdır.
4. Bir istek belirsiz olduğunda veya ek inceleme gerektirdiğinde, ajanlar ‘dinamik bilişsel sürtünme’ uygulayabilmelidir.

Bu yazıda, Kartaca’nın bu ilkeleri temel alarak çok ajanlı sistemlerin tasarlanması, yönetilmesi ve işletilmesi için uygulanabilir bir kurumsal mimariye dönüştüren sekiz adımlı çerçevesini inceleyeceğiz.

Ajan Delegasyonu Kurumsal Yapay Zekayı Nasıl Değiştiriyor?

Basit görünen bir müşteri talebini düşünelim: “Bir müşteri sigorta poliçesinde değişiklik yapmak istiyor ve birkaç doküman gönderdi. Her şeyi inceleyin, neyin değiştirilmesi gerektiğini belirleyin, talebin geçerli olup olmadığını kontrol edin, poliçeyi güncelleyin ve müşteriyi bilgilendirin.”

Geleneksel bir uygulama bunu önceden tanımlanmış bir iş akışı olarak uygulayabilir. Ajan tabanlı bir sistem ise, farklı bir yaklaşım benimseyebilir.

Koordinasyonu sağlayan bir ajan, görevin şu adımlara ayrılması gerektiğini belirleyebilir:

• Müşterinin poliçesini bulmak
• Sunulan belgeleri sınıflandırmak
• İlgili bilgileri çıkarmak
• Poliçe kurallarını kontrol etmek
• Talebi mevcut müşteri verileriyle karşılaştırmak
• Ek bilgi gerekip gerekmediğini belirlemek
• Poliçeyi güncellemek
• Müşteriye gönderilecek yanıtı oluşturmak

Her bir görev potansiyel olarak farklı bir ajan, model veya deterministik servis tarafından gerçekleştirilebilir. Bu yaklaşım esneklik sağlar. Aynı zamanda sistemin her adımda karar verdiği bir karar zinciri oluşturur.

İlk ajan ikinci ajana gereğinden fazla bilgi aktarırsa güvenlik riski artar. Bir görevi yanlış bir model üstlenirse, maliyet veya doğruluk olumsuz etkilenir. Bir ajan belirsiz bir talebi sorgulamadan devrederse, hata tüm iş akışına yayılır. Bu nedenle kurumsal çok ajanlı yapay zeka sistemleri bir delegasyon çerçevesine ihtiyaç duyar.

Sekiz Adımlı Kurumsal Ajan Delegasyonu Rehberi

1. Görevi Parçalara Ayırın

Orkestrasyonu üstlenen ajanın ilk işi, aslında ne yapılması gerektiğini anlamaktır.

Sistem, karmaşık bir hedefi tek bir güçlü modele göndermek yerine, onu uygun ajana, araca veya servise atanabilecek daha küçük ve anlamlı görevlere bölmelidir.

Google DeepMind ve Google Cloud bu kavramı sözleşme odaklı ayrıştırma (contract-first decomposition) olarak adlandırıyor. Amaç, işi güvenilir bir şekilde doğrulanabilecek görevlere bölmektir.

Kurumun şu soruları sorması anlamına gelir:

• Genel iş hedefi nedir?
• Hangi adımlar bağımsızdır?
• Hangi adımlar önceki sonuçlara bağlıdır?
• Hangi görevler mantık yürütme gerektirir?
• Hangileri deterministik olarak ele alınabilir?
• Hangileri kurumsal verilere erişim gerektirir?
• Hangi kararlar insan değerlendirmesi gerektirir?

Sonuç, tanımlanmamış bir istem zinciri yerine bir delegasyon grafiği (delegation graph) olmalıdır.

Örneğin:

Müşteri Talebi → Orkestratör → Belge Ajanı → Poliçe Ajanı → Doğrulama Servisi → Karar Ajanı → İnsan İncelemesi → Müşteri Yanıtı

Her delegasyonun amacı açıkça tanımlandığında, mimariyi anlamak, test etmek, izlemek ve yönetmek çok daha kolay hâle gelir.

2. Sözleşmeyi Tanımlayın

Delegasyon, görevi devreden ajan ile görevi alan ajan arasında açık bir sözleşmeye dayanmalıdır. Bu sözleşme; neyin istendiğini, hangi bilgilerin sağlandığını, karşı taraftaki ajanın ne üretmesi gerektiğini ve hangi koşulların başarı göstergesi sayıldığını netleştirmelidir.

Örneğin:

• Görev: Sunulan bir sigorta belgesini doğrulamak
• Girdi: Belge Kimliği (ID), belge türü, poliçe kimliği (ID), gerekli alanlar
• Beklenen çıktı: Geçerli veya geçersiz, eksik bilgi, güven skoru, doğrulama kanıtı
• Yetki: Sunulan belgeye salt okunur erişim
• Başarı kriterleri: Tüm zorunlu alanların tanımlanan poliçe kurallarına göre doğrulanması

Bu yaklaşım, her devredilen görevin etrafında net bir sınır oluşturur ve kuruma önemli bir yetenek kazandırır: bir ajanın kendisine verilen görevi gerçekten tamamlayıp tamamlamadığını değerlendirebilme imkânı.

Açık bir sözleşme oluşturmak, delegasyonu birbirinden kopuk istemler dizisi olmaktan çıkarıp yapılandırılmış ve doğrulanabilir iş birimlerine dönüştürür.

3. Doğru Ajanı veya Modeli Seçin

Her görev için mevcut en güçlü modeli kullanmak gerekmez.

Görevleri doğru model veya uç noktayla eşleştirmek, yetenek ve güvenilirliği maliyetle dengede tutmak açısından kritiktir. Örneğin, basit bir bilgi biçimlendirme görevi gelişmiş bir akıl yürütme modeline ihtiyaç duymayabilir. Daha karmaşık bir görev ise, böyle bir modeli kullanmayı haklı çıkarabilir. Bu da model ve ajan yönlendirmesi (routing) ihtiyacını doğurur.

Bir delegasyon katmanı şu unsurları dikkate alabilir:

• Görevin karmaşıklığı
• Gerekli doğruluk seviyesi
• Gecikme gereksinimleri
• Veri hassasiyeti
• Model yetenekleri
• İstek başına maliyet
• Erişilebilirlik
• Gereken araçlar
• Geçmiş performans

Örneğin, daha hafif bir model gelen dokümanları sınıflandırabilirken, daha güçlü bir akıl yürütme modeli belirsiz bir poliçe yorumunu ele alabilir.

Benzer şekilde, bir müşterinin bakiyesini almak için LLM’den finansal veriler üzerinde akıl yürütmesini istemek yerine deterministik bir API kullanılabilir. Bunu yalnızca bir maliyet optimizasyonu çalışması olarak düşünmemek gerekir. Doğru yürütme yöntemini seçmek güvenilirliği de artırabilir.

Mimari, her sorunu bir LLM sorunu olarak ele almak yerine, ajanlara görevleri için ihtiyaç duydukları doğru yeteneği sağlamalıdır.

4. Yalnızca Gereken Veriyi Paylaşın

Delegasyon, başka bir temel soruyu gündeme getiriyor: “Görevi alan ajan bilginin ne kadarını görmeli?” Cevap “olabildiğince az” olmalıdır.

Alt ajanların minimum yetki prensibine göre sınırlandırılması, kurumsal yapay zeka için temel bir mimari gerekliliğidir. Tüm bağlamı veya sınırsız yetkiyi alt katmanlara aktarmak saldırı yüzeyini genişletebilir, sistemin yanıt verme performansını olumsuz etkileyebilir ve genel operasyonel bütünlüğü tehlikeye sokabilir.

Bir bordro ajanının başka bir ajandan çalışanın prim uygunluğunu hesaplamasını istediğini düşünün. İkinci ajanın çalışanın tüm İK kaydına ihtiyacı yoktur. Yalnızca maaş bandını, rolü, performans bilgisini ve ilgili ücretlendirme kurallarını görmesi yeterli olur.

Bu ilke mimarinin genelinde uygulanmalıdır: Minimum veri. Minimum izin. Minimum yetki.

Bunun için yalnızca kullanıcılar değil, ajanlar için de kurumsal düzeyde kimlik ve erişim kontrolleri gerekiyor. Ajan kimlikleri, tanımlanmış izinler ve gerçekleştirebilecekleri işlemlerle ilişkilendirilmelidir. Erişim, görevin kapsamıyla sınırlandırılmalıdır. Hassas bilgiler delegasyon zinciri boyunca aktarılırken korunmaya devam etmelidir.

Sağlam bir kurumsal çerçeve, titiz ajan kimlik yönetimi ve kapsamı açıkça tanımlanmış delegasyon modelleri gerektirir. Ajanlar ister kendi adlarına ister yetkili bir kullanıcı adına hareket etsin, açıkça belirlenmiş yetki sınırları içinde çalışmalıdır.

5. Sonucu Doğrulayın

Delegasyon, yalnızca ortaya çıkan sonuca güvenilebildiğinde işe yarar. Orkestratör ajan, alt ajandan gelen yanıtı doğrudan bir sonraki adıma aktarmak yerine, görevin başarıyla tamamlanıp tamamlanmadığını belirleyebilecek bir doğrulama mekanizmasına sahip olmalıdır.

Doğrulama farklı şekillerde gerçekleştirilebilir:

• Şema doğrulaması
• Kural tabanlı kontroller
• Güven eşikleri
• Kurumsal verilerle çapraz kontrol
• Otomatik değerlendirme
• İkinci bir model tarafından inceleme
• İş kurallarıyla doğrulama
• İnsan incelemesi

Deterministik görevlerde doğrulama oldukça basit olabilir. Örneğin:

• Poliçe numarası mevcut mu?
• Zorunlu alan doldurulmuş mu?
• Hesaplanan tutar iş kuralıyla eşleşiyor mu?

Diğer görevler ise doğaları gereği daha öznel olabilir. Örneğin, oluşturulan bir müşteri yanıtı gerçeklere uygun olabilir ancak marka standartlarına veya mevzuata uygun olmayabilir. Bu ayrım önemlidir.

Her görev aynı yöntemle doğrulanamaz. Bazı görevlerde öznel değerlendirme gerektiğinden, insan uzmanının sürece dahil olması delegasyon mimarisinin önemli bir parçası hâline gelir.

6. Bir Şey Yanlış Göründüğünde Sürtünme Ekleyin

Kurumsal yapay zeka sistemleri çoğu zaman etkileşimleri mümkün olduğunca akıcı hâle getirmek üzere tasarlanır. Ancak ajan tabanlı sistemlerin ne zaman ek bir kontrolün faydalı olduğunu anlayabilmesi gerekir.

Google Cloud bunu dinamik bilişsel sürtünme (dynamic cognitive friction) olarak tanımlıyor. Ajan, bir talep belirsiz, uygunsuz veya potansiyel olarak zararlı göründüğünde onu delegasyon zincirinde otomatik olarak ilerletmek yerine, sorgulayabilmelidir.

Bir borç hesapları iş akışını düşünelim:

1. Bir ajan hemen ödeme yapılması talimatıyla bir fatura alır.
2. Fatura meşru görünüyor, ancak banka hesabı tedarikçinin önceki hesabından farklı.
3. Sadece talimata uyan bir sistem devam edebilir.

Daha temkinli bir sistem ise durup şu soruları sorabilir:

• Tedarikçinin ödeme bilgileri değişti mi?
• Bu değişikliği destekleyen bir belge var mı?
• Talep edilen ödeme bir onay eşiğini aşıyor mu?
• Değişiklik için insan onayı gerekli mi?

Bu türden kontrollü bir sürtünme, bir hatanın gerçek bir işleme dönüşmesini önleyebilir. Amaç her iş akışını yavaşlatmak değil, sistemin gerektiğinde seçici şekilde temkinli davranmasını sağlamaktır. Güveni yüksek ve riski düşük görevler otomatik olarak ilerleyebilir. Belirsiz veya yüksek etkili görevler ek doğrulama işlemlerini tetiklemelidir.

7. Gerektiğinde İnsan Yetkiliye Devredin (Eskalasyon)

En olgun ajan tabanlı mimariler, insanları her iş akışından çıkarmaya çalışmaz. İnsan uzmanlığının en fazla değer yarattığı noktalarda devreye girmesini sağlar. Bunu şu şekilde düşünebiliriz:

Ajan eyleme geçer → Ajan devreder → Ajan doğrular → İnsan karar verir

İnsana ne zaman başvurulacağı, risk ve belirsizlik seviyesine göre değişir.

• Bir müşteri hizmetleri ajanı, rutin bir adres değişikliğini otomatik olarak gerçekleştirebilir.
• Bir hasar ajanı, tazminat tutarı için bir öneri hazırlayabilir ancak belirli bir eşiğin üzerindeki tutarlar için insan onayı isteyebilir.
• Bir sağlık iş akışı, belge özetlemeyi otomatikleştirirken klinik kararları nitelikli uzmanlara bırakabilir.
• Bir finansal hizmetler ajanı şüpheli bir işlemi tespit edebilir, ancak bir sonraki eylemi onaylamak için yetkili bir çalışana ihtiyaç duyabilir.

Bu sayede, insan denetimi acil durum yedekleme planı olmaktan çıkar ve mimarinin doğal bir parçası hâline gelir. Aynı zamanda kurumlar, otomasyonun nerede durması gerektiğini belirlemek için uygulanabilir bir çerçeveye sahip olur.

8. Maliyeti, Performansı ve Sonuçları İzleyin

Birden fazla ajan birlikte çalışmaya başladığında, geleneksel izleme yöntemleri yetersiz kalır. Kurumların delegasyon zincirinin tamamında görünürlüğe ve her görev için şunları anlayabilmeye ihtiyacı vardır:

• Görevi hangi ajan başlattı?
• Görevi hangi ajan aldı?
• Hangi veriler paylaşıldı?
• Hangi araçlar çağrıldı?
• Hangi model kullanıldı?
• Görevin maliyeti ne oldu?
• Ne kadar sürdü?
• Sonuç doğrulandı mı?
• Görev başka bir ajana tekrar devredildi mi?
• İnsan müdahalesi gerekti mi?
• Nihai iş sonucu ne oldu?

Bu yapı bir ajan gözlemlenebilirliği katmanı oluşturur ve sistemin sürekli optimize edilmesini sağlar.

Örneğin, bir ajanın basit görevleri sürekli pahalı bir modele gönderdiği görülebilir. Başka bir ajanın belirli bir doküman türünde yüksek hata oranına sahip olduğu ortaya çıkabilir. Bir diğeri ise gerçekte ihtiyaç duymadığı kadar fazla kurumsal veri talep ediyor olabilir.

Uçtan uca kapsamlı görünürlük olmadığında bu davranış eğilimlerini tespit etmek zorlaşır. Güçlü gözlemlenebilirlik, delegasyonu zaman içinde sistematik olarak değerlendirilebilen, geliştirilebilen ve uyarlanabilen bir yeteneğe dönüştürür.

Bu yaklaşım, Gemini Enterprise Agent Platform gibi güncel kurumsal ajan platformlarında da görülür. Agent Gateway, ajanlar arasındaki etkileşimler boyunca gözlemlenebilirlik telemetrisi toplamak için kullanılabilir.

Ajan Orkestrasyonundan Kurumsal Mimariye

Bu sekiz adım, çoklu ajan yapay zekası için daha kapsamlı bir kurumsal mimariye işaret ediyor.

Merkezde, iş hedeflerini anlayan, görevleri parçalara ayıran, ajanları ve araçları seçen ve yürütmeyi koordine eden bir orkestrasyon katmanı yer alıyor. Bunun etrafında ise birkaç destekleyici katman bulunuyor.

Orkestrasyon Katmanı

Şunlardan sorumludur:

• Görevi parçalara ayırma
• Ajan seçimi
• İş akışı koordinasyonu
• Delegasyon sözleşmeleri
• Durum yönetimi
• Eskalasyon kararları

Model ve Araç Katmanı

Şunlara erişim sağlar:

• Farklı yapay zeka modelleri
• Deterministik API’ler
• Kurumsal uygulamalar
• İş servisleri
• Arama ve bilgi erişim araçları
• Özel ajanlar

Orkestrasyon katmanı her görevi ona en uygun yeteneğe yönlendirebilmelidir. Böylece her problem için aynı model veya ajan kullanılmak yerine, görevin gerektirdiği doğruluk, maliyet, hız, veri erişimi ve uzmanlık düzeyine göre en doğru yürütme yolu seçilebilir.

Veri ve Bağlam Katmanı

Ajanlara şu kaynaklardan güvenilir kurumsal bağlam sağlar:

• Veri ambarları
• Operasyonel veritabanları
• Belgeler
• Bilgi tabanları
• API’ler
• Kurumsal uygulamalar
• Gerçek zamanlı veri akışları

Bu katman özellikle önemlidir çünkü ajanların faydalı kararlar verebilmesi için güvenilir bir iş bağlamına ihtiyaç vardır. Kurumsal veriye erişim sağlamak tek başına yeterli olmaz; ajanların görevi gerçekleştirmek için ihtiyaç duyduğu bilgileri ve iş kurallarını da doğru bağlamda edinmesi gerekir.

Kimlik ve Güvenlik Katmanı

Şunları kontrol eder:

• Ajan kimliği
• Kullanıcı kimliği
• Devredilen yetki
• Veri erişimi
• Araç izinleri
• Gizli bilgiler
• Hassas veriler
• Denetim kayıtları

Her ajan şu soruya net bir yanıt verebilmelidir: “Bunu yapmak için seni kim yetkilendirdi?”
Her eylem şu soruyu net bir şekilde yanıtlamalıdır: “Hangi bilgilere erişmek ve neleri değiştirmek için yetkilendirildin?”

Değerlendirme ve Yönetişim Katmanı

Şunları sağlar:

• Otomatik değerlendirmeler
• Kalite eşikleri
• Politika uygulaması
• İnsan onayı iş akışları
• Denetlenebilirlik
• Risk kontrolleri
• Ajan envanterleri
• Performans izleme

Kurumlar tekil denemelerden ajan filolarını yönetmeye doğru ilerledikçe, bu katman giderek daha önemli hâle geliyor. Ajanların kontrolsüz şekilde çoğalması, yönetişim, kimlik ve erişim yönetimi, ajan tabanlı kurumsal yapılar için temel konular hâline geliyor.

Gözlemlenebilirlik ve FinOps Katmanı

Şunları takip eder:

• Token tüketimi
• Model maliyetleri
• Gecikme süreleri
• Hata oranları
• Delegasyon derinliği
• Araç kullanımı
• İş sonuçları

Amaç, yalnızca bir ajanın çalışıp çalışmadığını anlamak değil, aynı zamanda sistem genelinde operasyonel maliyetlere kıyasla yeterli iş değeri üretip üretmediğini de ölçmektir.

Delegasyon İçin Pratik Bir Karar Çerçevesi

Sistem, bir ajan bir görevi devretmeden önce delegasyonu örtük bir davranış olmaktan çıkarıp açık bir mimari yetenek hâline getirmek için şu 8 soruyu yanıtlayabilmelidir.

Asıl Fırsat Koordine Edilmiş Zekada

Kurumsal yapay zekanın bir sonraki aşamasında daha fazla ajan görevlendirmek değil, ajanların sorumlu bir şekilde birlikte çalışabildiği sistemler oluşturmak olacak.

• Bir hasar ajanının bir hasarı işleme alabilmek için şirketin tüm bilgilerine erişmesi gerekmemelidir.
• Bir perakende ajanının ürün önermek için tüm müşteri kayıtlarına sınırsız erişime ihtiyacı olmamalıdır.
• Bir üretim ajanı, başka bir ajan talep ettiği için üretim değişikliğini otomatik olarak gerçekleştirememelidir.
• Bir finans ajanı, delegasyon zincirinden gelen her talimata otomatik olarak güvenmemelidir.

İyi tasarlanmış ajan tabanlı bir mimari, bu etkileşimlerin etrafında net sınırlar oluşturur. Böylece:

• Her ajan, görevini gerçekleştirmek için yeterli bağlama, işini tamamlamak için gereken yetkiye ve yapmaması gereken işlemleri engelleyecek yeterli kısıtlamalara sahip olur.
• Orkestrasyon sistemi, koşullar gerektirdiğinde sonuçları doğrulayabilir, talepleri sorgulayabilir, görevleri yeniden yönlendirebilir veya insan onayına başvurabilir.

Kartaca Nasıl Yardımcı Olabilir?

Kurumsal şirketler için çok ajanlı bir sistem oluşturmak, en az yapay zeka kadar bir mimari tasarım meselesidir. Ajanların güvenilir kurumsal verilere, güvenli kimliklere, modern uygulama altyapısına, doğru modellere, güvenilir API’lere, değerlendirme çerçevelerine ve gözlemlenebilirlik yeteneklerine erişmesi gerekir.

Kartaca, kurumların ajan tabanlı yapay zekayı deney aşamasından canlı ortama geçirmek için ihtiyaç duyduğu bulut, veri, yapay zeka ve uygulama temellerini oluşturmalarına yardımcı olur. Temel bulut altyapısını modernize etme, veri platformları ve BigQuery mimarileri kurma, kurumsal verileri ve uygulamaları bağlama, güvenli yapay zeka mimarileri tasarlama ve gerçek iş süreçlerini merkeze alan yapay zeka asistanları ile ajan tabanlı iş akışları geliştirme gibi konularda destek olur.

Sonuç, ajanların yalnızca otonom olarak hareket etmediği, hangi görevi devredeceklerini, bunu kimin üstlenmesi gerektiğini, hangi bilgilerin paylaşılabileceğini, sonucun nasıl doğrulanacağını ve ne zaman bir insanın devreye girmesi gerektiğini bildikleri bir mimaridir.

Hem yetenek hem de kontrolle ölçeklenebilen kurumsal yapay zekanın temelini oluşturmaya başlamak için bizimle iletişime geçin.