Üretken yapay zekâdan agentic AI'ye geçiş daha iyi bir modelden çok, modelin etrafına ne kurduğunuzla ilgili: durum bilgisi, araçlar ve ne zaman duracağını bilen bir döngü.
Aynı model, farklı iş
Agentic sistemlerin çoğu, sıradan üretken yapay zekâyı çalıştıran büyük dil modellerinin aynısıyla çalışır. Fark modelin ağırlıklarında değil, modelin nasıl kullanıldığında.
Üretken bir model bir fonksiyon gibi davranır. Ona bir bağlam gönderirsiniz, en olası devamı döndürür ve sonra konuşmanın tamamını unutur. Ajan ise aynı fonksiyonu bir döngünün içine koyar: durumu saklar, araç çağırır, sonuçları kontrol eder ve bir tur daha gerekip gerekmediğine karar verir.
Üretken yapay zekâ neyi iyi yapar, nerede durur?
Üretken yapay zekâ içerik üretmede çok başarılı: metin taslağı yazmak, çeviri yapmak, özetlemek, küçük bir kod parçası yazmak, soru cevaplamak. Gündelik işlerin büyük kısmı için bu kadarı yeterli.
Sınırları, iş birden fazla adım gerektirdiği anda ortaya çıkar:
- Kendine ait bir hafızası yok. Bilmesi gereken her şey her istekle yeniden gönderilmeli ve hepsinin bağlam penceresine sığması gerekir.
- Hiçbir şeye dokunamaz. Kendi başına veritabanı sorgulayamaz, API çağıramaz, az önce yazdığı kodu çalıştıramaz.
- İşini kontrol etmez. Tek bir cevap üretir; cevabın doğru olup olmadığını bilmenin de, yanlışsa yeniden denemenin de bir yolu yoktur.
Agentic AI neler ekler?
Agentic bir sistemde model, daha büyük bir programın içindeki karar verici olur. Genellikle dört parça devrededir:
- Planlama: hedefi küçük görevlere bölmek ve sıralarını belirlemek.
- Araç kullanımı: API çağırmak, SQL sorgusu çalıştırmak, izole bir ortamda kod yürütmek.
- Bellek: o anki oturumun durumu ve kullanıcı tercihleri gibi daha kalıcı bilgiler.
- Öz denetim: her sonucu, örneğin bir şemaya ya da teste göre kontrol etmek ve bir şey ters gittiğinde yön değiştirmek.
Bir seyahat isteğini düşünün. Üretken bir asistan birkaç uçuş önerir. Bir ajan ise uçuşları arar, vize gerekliliklerini kontrol eder, seçenekleri takviminizle karşılaştırır, siz onay verince bileti alır ve uçuş iptal olursa sizi başka bir uçuşa aktarır.
Üretim ortamında ödenen bedel
Bu ek yeteneklerin hiçbiri bedava değil. Aşağıdaki tablo, birinden diğerine geçerken genellikle neyin değiştiğini özetliyor. Kesin rakamlar modele ve göreve göre değişir.
| Üretken Yapay Zekâ | Agentic AI | |
|---|---|---|
| Gecikme | Tek model çağrısı, genellikle bir iki saniye | Döngü içinde birkaç çağrı, çoğu zaman 5 ila 30 saniye ya da daha fazla |
| Durum | Yok; bağlam her seferinde yeniden gönderilir | Oturum durumu ve uzun süreli bellek |
| Hatalar | Tek bir cevapla sınırlı kalır | Birikebilir: baştaki yanlış bir adım sonraki her adımı yanıltır |
| Maliyet | İstek başına öngörülebilir | Görevin kaç adım sürdüğüne bağlı |
| Hata ayıklama | Girdiyi ve çıktıyı loglamak yeterli | Her adımı ve her araç çağrısını izlemek gerekir |
Sohbet botları için ne değişiyor?
Sohbet botları açısından bu, dil modellerini kullanmaya başladıklarından beri yaşanan en büyük değişim. Üretken bir sohbet botu siparişinizle ilgili soruları cevaplar. Agentic bir bot ise siparişi bulur, gümrükte beklediğini görür, kargo firmasıyla bir kayıt açar ve paket yeniden yola çıktığında size haber verir.
Bu da botun nasıl kurulması gerektiğini değiştiriyor. Konuşma artık cevap gönderilince bitmediği için bot açık görevleri takip etmek zorunda. Hesabınızda işlem yapmadan önce kim olduğunuzu doğrulaması gerekiyor. Ve belli bir tutarın üzerindeki iadeler gibi karar yetkisi olmayan her konuda bir insana temiz bir şekilde devretmesi şart.
Üretimdeki sistemler genellikle nasıl kurulur?
Büyük ölçekli kurulumlarda model, yan etkileri olan işlerden uzak tutulur. Yaygın bir yapı üç katmandan oluşur:
- Tek görevi bir sonraki aracı seçmek ve parametrelerini yapılandırılmış JSON olarak üretmek olan bir model uç noktası.
- Bu çağrıları modelin istek akışının dışında gerçekten çalıştıran ayrı bir iş kuyruğu (örneğin Redis ile Celery).
- Aradaki doğrulama katmanı: geri dönüşü olmayan herhangi bir işlem çalışmadan önce her çağrıyı bir şemaya ve yetki listesine göre kontrol eder.
Kısacası
Üretken yapay zekâ dili üreten motordur. Agentic AI ise o motoru bir hedefe yönelten düzenektir. Böyle bir sistem kuruyorsanız prompt yazmaya daha az, durumu takip etmeye, adımları izlemeye ve tek bir başarısız adımın bütün işi bozmamasını sağlamaya daha çok zaman ayıracağınızı bilin.
Serinin devamı: 3. bölümde ajanların içeriden nasıl kurulduğuna bakıyorum: planlama modelleri, bellek ve orkestrasyon.
