Yapay zekâ ajanı nedir, araç seçimi neden gerekir?
Yapay zekâ ajanı, verilen hedef doğrultusunda bilgi toplayan, sonraki adımı seçen ve yazılım araçlarını çağıran sistemdir. Araç, modelin metin üretmesinin dışında bir iş yapmasını sağlar: sipariş sorgulamak, kargo hareketlerini bulmak veya çalışan incelemesine sunulacak yanıt taslağı oluşturmak. Function calling, yani işlev çağırma, modelin tanımlı bir işlemi ve girdilerini önermesidir. Öneriyi doğrulayıp gerçek sistemi çağıran uygulama kodudur. Modelin araç adı üretmesi tek başına işlemin doğru, izinli veya tamamlanmış olduğunu göstermez.
Araç seçimi iki ayrı karardır. Ekibiniz önce hangi yetenekleri kataloğa koyacağını belirler; ajan sonra bu katalogdan göreve uygun olanı seçer. Her arka uç noktasını açmak, aynı işe benzeyen araçlar arasında karışıklık ve gereksiz veri erişimi yaratır. Küçük katalog her zaman yeterli değildir; eksik yetenek ajanı tahmine zorlayabilir. Hedef, izinli işi tamamlayan ve sonuçları anlaşılır olan bir kümedir. Müşterinin siparişini bulmak için tüm müşteri tablosunu getiren araç, ihtiyacı karşılıyor görünse de gereksiz veriyi modele taşır. Sabit kuralla seçilebilen adımları kodda tutabilir, kanıta göre değişen bilgi ihtiyacını ajana bırakabilirsiniz.
Araç sözleşmesi kontrol listesi
Bir aracı eklemeden önce aşağıdaki altı alanı doldurun. Sözleşme yalnız girdi şeması değildir; aracın ne zaman kullanılacağını, hangi sınırlar içinde çalışacağını ve sonucun nasıl yorumlanacağını da anlatır. İnceleme sırasında her satır için bir doğru kullanım ve bir reddedilecek çağrı yazın. Araç sahibi soruları cevaplayamıyorsa kataloğa eklemeyi erteleyin. Özellikle benzer adlı iki araç için seçim ölçütünü açıklaştırın: sipariş durumunu okumak ile siparişi iptal etmek aynı yetenek değildir.
| Kontrol | Sözleşmeye yazılacak | Kabul kanıtı |
|---|---|---|
| Görev ve ad | Tek amaç, açık eylem adı | Benzer araçtan ayrılan kullanım örneği |
| Girdi | Zorunlu alanlar, türler, sınırlar | Eksik veya taşan girdi reddedilir |
| Çıktı | Kimlik, durum, zaman, sonuç kapsamı | Ajan sonraki adımı seçebilir |
| Yetki | İzinli rol, kiracı, hedef | Yetkisiz çağrı sunucuda durur |
| Hata ve tekrar | Hata türü, güvenli tekrar kuralı | Zaman aşımı çift işlem üretmez |
| İşletim | Sahip, sürüm, süre ve çağrı sınırı | İzlerden sorun sahibi bulunur |
Bu listeyi ürün ekibiyle birlikte gözden geçirin. Araç açıklamasına uzun bir süreç rehberi sıkıştırmak yerine izinli amaç, önkoşul ve dış etkiyi kısa cümlelerle belirtin. Örneğin sipariş araması tek kayıt döndürmüyorsa modelin ilk sonucu seçmemesi gerektiğini, kullanıcıya ayırt edici soru sorulacağını tanımlayın.
Görevi ilerleten dar araçlar nasıl tasarlanır?
Önce ajanınızın tamamlamasını istediğiniz görevlerden örnekler toplayın. Her örnekte gerekli bilgiyi ve beklenen son durumu yazın. Ardından bu bilgiye ulaşan en dar işlemi tasarlayın. Anthropic'in araç tasarımı rehberi, mevcut uç noktaları olduğu gibi açmak yerine göreve uyan araçlar seçmeyi ve gerçekçi değerlendirmeyle geliştirmeyi önerir. Birlikte gereken bilgiler tek çağrıda dönebiliyorsa ilgili okumaları sunucuda tek araçta birleştirebilirsiniz; buna kayıt değiştiren bir eylemi gizlice eklemeyin.
Girdilerde sipariş kimliği, tarih aralığı, izinli durumlar ve sonuç sayısı gibi alanları belirleyin. Kalıcı kimlikleri hedef seçimi için kullanın; modele yalnızca anlamsız kimlik dizileri (UUID gibi) vermek yerine açıklayıcı ad ve durum da döndürün. JSON Schema nesne tanımı, özellikleri, zorunlu alanları ve ek alanların kabulünü ayrı kurallar olarak tanımlar. Bu kuralları sunucuda doğrulayın. Şemaya uyan bir sipariş kimliği başka müşteriye ait olabilir; tür doğrulaması iş kuralını ve yetkiyi kanıtlamaz.
Çıktıda yalnız karar için gereken alanları bırakın: sipariş kimliği, güncel durum, kargo kimliği ve verinin son güncellenme zamanı. Uzun geçmiş gerekiyorsa sayfalama ve tarih filtresi sunun. Sonuç kırpıldığında daha fazla kayıt bulunduğunu açıkça bildirin; eksik listeyi tam liste gibi göstermeyin. Önemli tarihlerde saat dilimi, tutarlarda para birimi yer alsın. Hatalar bulunamadı, yetkisiz, geçersiz girdi, sınır aşıldı ve geçici hizmet sorunu olarak ayrılabilsin. Ajan bu ayrımdan soru sorma, durma veya güvenli tekrar kararını çıkarabilmelidir.
Okuma, öneri ve uygulama yetkilerini ayırın
Bir destek ajanı için sipariş ve kargo okuma araçlarıyla başlamak çoğu zaman yeterlidir. Yanıt taslağı hazırlamak ayrı bir yetenektir; müşteriye göndermek ayrı bir dış etkidir. İade gerekirse doğrudan ödeme aracını açmak yerine inceleme kaydı oluşturan öneri aracı sunabilirsiniz. Onaylayan kişinin gördüğü hedef, tutar ve para birimi uygulamaya geçerken değişmemelidir. Başka parametrelerle işlem yapılacaksa yeni bir öneri gerekir.
OWASP aşırı ajans riski, gereksiz işlev, yetki ve özerkliği ayrı nedenler olarak ele alır. Araç sunucusu kimliği doğrulanmış kullanıcının rolünü, kiracısını ve hedef üzerindeki hakkını her çağrıda kontrol etsin. Modelden gelen rol veya müşteri alanını yetki kanıtı saymayın. Çağrı süresi, hız ve sonuç boyutu için sınır koyun. Araç çıktısındaki talimatları uygulamanın güvenlik politikasının yerine geçirmeyin.
Yazma araçlarında eylem kimliğini ve tekrar kuralını kaydedin. Zaman aşımı, dış hizmetin işlem yapmadığını göstermez; önce son durumu sorgulayın. İzlerde araç sürümü, kullanıcı, hedef, başlangıç zamanı, hata sınıfı ve doğrulanmış sonuç bulunsun. Gizli veriyi tümüyle kaydetmek yerine sorun çözmeye yetecek özetleri saklayın. Aracın hizmet sahibi ve geri alma yolu belli olsun; başarılı metin yanıtı yerine sistemde oluşan son durumu doğrulayın.
Varsayımsal örnek: üç araçlı destek ajanı
Varsayımsal bir pilotta 120 destek talebini değerlendirdiğinizi düşünün. Bunların 80'i sipariş durumu, 25'i kargo gecikmesi, 15'i hasar şikâyeti olsun. İlk katalog yalnız sipariş bulma, kargo bulma ve yanıt taslağı oluşturma araçlarından oluşsun. Aynı kullanıcıda iki sipariş varsa ajan hangisinin kastedildiğini sorar. Hasar talebi için kanıt toplar ve çalışan incelemesine taslak gönderir; iade uygulamaz. Araç başına en fazla 10 sonuç ve görev başına altı çağrı sınırı koyduğunuzu varsayalım.
Karşılaştırma için 12 aracı açan ikinci bir katalog hazırlayın. Küçük katalog 108, geniş katalog 109 talebi doğru tamamlarken yanlış araç seçimi sırasıyla üç ve dokuz olsun. Bunlar örnek rakamlardır, ölçülmüş ürün sonuçları değildir. Tek ek başarıyı değerlendirirken yanlış çağrıların etkisini, gecikmeyi ve maliyeti ayrıca tartışın. Geniş katalogdaki yararlı yetenek kargo istisnası sorgusuysa yalnız bu aracı dar kataloğa ekleyip yeniden deneyin. Tüm araçları topluca açmak zorunda değilsiniz. Aynı vakaları kullanın ve belirsiz taleplerde açıklama sorusunu başarısızlık saymayın.
Araç seçimini ölçmek için test planı
- Beklenen sonucu tanımlayın. Her vaka için doğru kayıt, izinli eylem ve gerekli insan devrini yazın. Birden fazla güvenli araç yolu varsa yalnız tek sıralamayı kabul etmeyin.
- Seçim ve parametreyi ayırın. Yanlış araç, doğru araçla yanlış hedef ve gerekli aracı hiç çağırmama farklı hata sınıfları olsun. Araç açıklamasını hangi sınıfı düzelttiğine bakarak değiştirin.
- Sınırları zorlayın. Eksik kimlik, benzer siparişler, başka kiracı, eski veri, boş sonuç, hız sınırı ve zaman aşımı ekleyin. Beklenen durma veya soru sorma davranışını kontrol edin.
- Dış etkiyi doğrulayın. Onaysız yazma girişimi ve yinelenen çağrı testleri çalıştırın. Test ortamındaki son kaydı inceleyin; modelin başarı beyanı yeterli değildir.
- Katalogları karşılaştırın. Görev başarısı, yanlış çağrı, toplam çağrı sayısı, maliyet ve gecikmeyi aynı vakalarda ölçün. Model, şema veya açıklama değiştiğinde tutulan ayrı test kümesini tekrar çalıştırın.
Sık yapılan hatalar
- Her API uç noktasını araç yapıp birbirine benzeyen işlemlerin seçim yükünü modele bırakmak.
- Şema doğrulamasını yetki kontrolü sayıp başka müşterinin geçerli kimliğine erişimi açık tutmak.
- Okuma aracına gönderme veya kayıt değiştirme gibi görünmeyen dış etkiler eklemek.
- Sonuç sınırını belirtmeden kırpılmış listeyi tam veri gibi kullanmak.
- Zaman aşımından sonra işlem durumunu sorgulamadan aynı yazma çağrısını yinelemek.
Hatson Tech bunu nasıl kuruyor?
Projeye görev örneklerini, mevcut sistemlerin izinlerini ve beklenen son durumları çıkararak başlıyoruz. Dar araç kataloğunu, sunucu doğrulamasını ve işlem izlerini yapay zekâ ajanı geliştirme kapsamında birlikte tasarlıyoruz. Kavramın temeli için yapay zekâ ajanları rehberimize, işletim sınırları için üretimde yapay zekâ ajanları yazımıza bakabilirsiniz. İlk kabul testinde aracın yalnız doğru cevap vermesini değil, doğru kimlikle izinli işi tamamlamasını ve belirsizlikte durmasını bekliyoruz.