Skip to main content
Agentic AI Derinlemesine: Teknik Yapılar, Planlama Modelleri ve Otonom Orkestrasyon
Ajanın büyülü bir yanı yok. Bir planlayıcı, bir araç seti, biraz bellek ve bir zamanlayıcıdan ibaret; her biri de üzerine düşünülebilecek bir mühendislik problemi.

Serinin ilk iki bölümünde ajanın ne olduğunu ve sıradan üretken yapay zekâdan nasıl ayrıldığını anlattım. Bu bölümde kutunun içini açıyorum: agentic bir sistemi oluşturan parçalar, bu parçaları birbirine bağlamak için kullanılan başlıca mimariler ve sonucun bir demonun dışında da çalışıp çalışmayacağını belirleyen tasarım kararları.

Planlama: her ajanın çekirdeği

Her ajanın bir yerinde bir planlayıcı vardır: "aylık raporu hazırla" gibi belirsiz bir hedefi alıp mantıklı bir sıraya dizilmiş somut adımlara çeviren bileşen. Çoğu sistem bunu hiyerarşik görev ayrıştırmasıyla yapar. Hedef alt hedeflere bölünür, onlar da her parça doğrudan uygulanabilecek kadar küçülene dek yeniden bölünür.

Planlayıcının olası adımlar arasından nasıl seçim yaptığı ise değişir:

  • Sezgisel kurallar. Her seçeneği tek tek aramak çok pahalıya patladığında aday eylemleri sıralayan, elle yazılmış ya da öğrenilmiş puanlama kuralları.
  • Sembolik planlama. Mevcut eylemlerin açık bir modeli üzerinde çalışan klasik planlayıcılar. STRIPS bunun klasik gösterimi, PDDL ise planlama alanlarını ve problemlerini tanımlamak için kullanılan standart dil.
  • Olasılıksal planlama. Bir eylemin sonucunun belirsiz olduğu durumlar için Markov karar süreçleri (MDP) ya da kısmen gözlemlenebilir türevleri (POMDP).
  • Dil modeliyle planlama. Bir dil modeli talimatı okur ve planı kendisi yazar; genellikle bir adım listesi ya da araç çağrıları dizisi olarak.

Pratikte en çok son yöntem kullanılıyor, çünkü doğal dille ifade edilmiş dağınık hedeflerle başa çıkabiliyor. Ama giderek daha fazla sistem bunu sembolik bir katmanla birleştiriyor: dil modeli isteği yorumluyor, daha katı bir bileşen de ortaya çıkan planın gerçekten uygulanabilir olup olmadığını kontrol ediyor.

Pratikte karşılaşacağınız ajan mimarileri

BDI: inançlar, arzular, niyetler

BDI, 1980'lerin sonu ve 1990'lardaki rasyonel ajan araştırmalarından çıktı ve insanların ne yapacaklarına nasıl karar verdiğinden gevşek biçimde esinleniyor. Ajanın inançları (dünya hakkında bildikleri), arzuları (ulaşmak isteyeceği sonuçlar) ve niyetleri (üstlendiği ve aktif olarak peşinden gittiği hedefler) vardır. En kullanışlı özelliği yeniden değerlendirme yapabilmesi. Yeni bir bilgi ajanın inançlarını değiştirdiğinde, artık anlamı kalmamış bir planı körü körüne bitirmek yerine niyetini bırakabilir ya da güncelleyebilir.

ReAct: sırayla düşünmek ve harekete geçmek

ReAct, Yao ve arkadaşlarının ReAct: Synergizing Reasoning and Acting in Language Models makalesiyle (Princeton ve Google, 2022) ortaya çıktı. Model her şeyi baştan planlamak yerine sırayla ilerler: kısa bir akıl yürütme adımı yazar, arama ya da API çağrısı gibi bir eylemde bulunur, sonucu okur ve yeniden düşünür. Akıl yürütme yazılı olarak ortada olduğu için ajanın neyi neden yaptığını takip edebilirsiniz. Bir araç beklenmedik bir şey döndürdüğünde de kendiliğinden uyum sağlar. Bedeli şu: her gözlem prompta geri eklendiği için uzun görevler çok fazla token tüketir.

ReWOO: önce planla, sonra gözlemle

Xu ve arkadaşlarının ReWOO: Decoupling Reasoning from Observations for Efficient Augmented Language Models makalesinde (2023) önerdiği ReWOO, tam da bu maliyeti hedef alıyor. Bir planlayıcı, hiçbir araç çalışmadan önce bütün akıl yürütme zincirini ve ihtiyaç duyacağı her araç çağrısını yazar; henüz elinde olmayan sonuçlar için yer tutucular kullanır. Ardından işçiler bu çağrıları çalıştırır, bir çözücü de sonuçları zincire yerleştirip cevabı üretir. Model her gözlemden sonra yeniden çağrılmadığı için token kullanımı ciddi biçimde düşer; yazarlar çok adımlı bir soru-cevap testinde yaklaşık beş kat daha az token kullanıldığını bildiriyor. Karşılığında esneklikten vazgeçersiniz. Baştaki bir sonuç tabloyu değiştirirse ReWOO planı, ReAct'in yapabildiği gibi buna tepki veremez.

Çoklu ajan sistemleri

AutoGen, CrewAI ve CAMEL gibi framework'ler işi farklı rollere sahip birkaç ajana dağıtır: biri planlar, biri uygular, biri gözden geçirir. Ajanlar mesajlarla ya da ortak bir bellek üzerinden haberleşir ve iş akışı çoğu zaman küçük bir ekibe benzer; yönetici bir ajan görevleri uzmanlara dağıtır. İşi böyle bölmek her ajanın promptunu ve araç setini küçük tutar, bu da tek tek parçaları test etmeyi kolaylaştırır. Ama yeni bir başarısızlık biçimi de getirir: birbirini anlamayan ya da aynı anlaşmazlık etrafında dönüp duran ajanlar.

Araç kullanımı: dünyaya dokunmak

Harekete geçemeyen bir planlayıcı, metin üreticisinden başka bir şey değildir. Ajanın canlı veri çekmesini, e-posta göndermesini, toplantı ayarlamasını ya da bir CI/CD hattını başlatmasını sağlayan şey araç katmanıdır. Bunun büyük kısmı fonksiyon çağırma (function calling) üzerine kurulur: modele her araç için tipli bir şema verilir, model de hangi aracı hangi parametrelerle çağıracağını seçer. LangChain ve Semantic Kernel gibi framework'ler bunu paketler. Görev sabit bir uç nokta yerine gerçek bir hesaplama gerektirdiğinde ise izole bir kod yorumlayıcısı devreye girer.

Çağırmak işin kolay kısmı. Asıl mühendislik, çağrı çalışmadan hemen önce olanlarda. Bir araç çağrısı gerçek bir sistem üzerinde yan etki demektir. Bu yüzden parametreler güvenilmek yerine şemaya göre doğrulanmalı, çalıştırma izole bir ortamda yapılmalı ve eylem bu ajanın yapmaya yetkili olduklarıyla karşılaştırılmalı. Bu üçünden birini atlarsanız hata artık yanlış bir cevap olmaktan çıkar; çoktan gerçekleşmiş yanlış bir eyleme dönüşür.

Bellek: durumsuz promptlardan hatırlayan ajanlara

Bir ajanı durumsuz bir prompttan ayıran şey bellektir ve bellek nadiren tek bir şeydir:

  • Kısa süreli bellek devam eden görevin durumunu tutar.
  • Uzun süreli bellek, kullanıcı tercihleri ve sistemin öğrendiği bilgiler gibi oturumdan daha uzun yaşaması gereken şeyleri saklar.
  • Epizodik bellek geçmiş kararları ve bu kararların nasıl sonuçlandığını kaydeder. Ekipler çoğu zaman bunu atlar ve sonradan pişman olur, çünkü bir öz değerlendirme adımının gerçekten bir şey öğrenebileceği tek kaynak budur.

Her bellek türünün nerede tutulacağı, ona nasıl erişildiğine göre belirlenmeli. Yapılandırılmamış geçmiş üzerinde anlamsal arama, Pinecone, Weaviate ya da Qdrant gibi bir vektör veritabanına aittir. Üzerinde gezinmeniz gereken ilişkiler (kim kime bağlı, hangi servis hangisine bağımlı) Neo4j gibi bir graf veritabanına uyar. Küçük ve kısa ömürlü oturum durumu için Redis iyi bir yerdir. Bu ayrım yanlış yapıldığında belirti kolayca gözden kaçar: ajan hâlâ akıcı konuşur ama uzun bir iş akışında ne yaptığının izini yavaş yavaş kaybeder.

Orkestrasyon: ajanların dağıtık sisteme dönüştüğü yer

İşin içine birden fazla adım ya da birden fazla ajan girdiği anda dağıtık bir sistem kuruyorsunuz demektir ve bildik kurallar geçerli olur. Airflow gibi bir görev yürütücüsü ya da LangChain ile gelen agent executor, yeniden denemeler, zaman aşımları ve neyin çalıştığına dair kalıcı bir kayıt için bir yer sağlar. Yönlendirme her adımı o işte uzmanlaşmış ajana gönderir. Geri bildirim döngüleri bir çıktıyı kalıcı hâle gelmeden önce değerlendirir; denetleyici bir ajan da işi kendisi yapmak yerine diğerlerini izler. Bunların hiçbiri yeni değil: farklı isimler altında bir zamanlayıcı, bir yük dengeleyici, bir sağlık kontrolü ve bir denetleyici ağacı.

Gerçek sistemler genellikle üç şeyi bir araya getirir: bir framework, bir model uç noktası ve durumun saklanacağı bir yer. Büyük şirketlerde yaygın bir kombinasyon LangChain, Azure OpenAI ve Cosmos DB üçlüsüdür; bunun başlıca nedeni, uyumluluk sorularının bu yapı için zaten cevaplanmış olması. Geliştirici araçlarında AutoGen ve sıradan Python araçları popüler. SaaS ürünleri arasında iş süreçlerini otomatikleştirmek için ise CrewAI, bir vektör veritabanı ve Zapier gibi bir entegrasyon platformu tipik bir seçim; çünkü oradaki zorluğun büyük kısmı akıl yürütmede değil, entegrasyonlarda.

Üretim ortamında önemli olan dört özellik

  • Durdurulabilirlik. Uzun süre çalışan bir ajanın, bir insanın onu durdurabileceği bir noktası olmalı ve bu nokta sonradan eklenen bir acil durdurma düğmesi değil, tasarımın bir parçası olmalı.
  • Açıklanabilirlik. Karar izi sonradan okunabilmeli. "Model öyle karar verdi" kimsenin üzerine bir şey yapabileceği bir açıklama değil.
  • Gözlemlenebilirlik. Kontrol akışı ancak çalışma anında belli olduğu için loglar, panolar ve izleme her zamankinden daha önemli.
  • Ölçeklenebilirlik. Ajan süreçlerini durumsuz tutun, durumu ortak bir depolamada saklayın; böylece bir süreç, ajanın bildiklerini kaybetmeden değiştirilebilir.

Sırada ne var?

Yakın dönemdeki ilerlemenin çoğu yeni icatlardan çok toparlanma olacak. Bellek hâlâ sembolik depolar ile vektör indeksleri arasında bölünmüş durumda; ikisine birden ulaşabilen tek bir sorgu belirgin bir eksik. Bugünün planlayıcıları daha önce bulmuş oldukları stratejileri tekrar tekrar yeniden keşfediyor. Bu yüzden işe yaramış planları saklayıp yeniden kullanmak, muhtemelen daha büyük bir modelden daha değerli. Daha uzak bir gelecekte ajanların yeteneklerini takas ettiği pazar yerleri ve kendi hatalarını çalışma anında onaran ajanlar mümkün görünüyor, ama ikisi de henüz üretimde güveneceğim bir şeyin yakınında bile değil.

Serinin devamı: başlıca agentic AI türleri ve ilk ajanınızı kurmak için adım adım bir yol haritası.
Paylaş

İlgili yazılar

Yorum Yapın

Yorumunuz gönderildi. Teşekkürler!

Yorumlar