Bütün görevi fiyatlayın
Model giriş ve çıkış kullanımı, arama, ücretli araç çağrısı, tekrar, insan incelemesi ve altyapı süresini sayın. Ucuz model çağrısı pahalı dış aramayı veya büyük bağlamlı tekrarları başlatabilir. Her istek için tek küresel sayı değil görev sınıfına göre bütçe verin; destek kaydı özeti ile karmaşık olay araştırmasının değeri farklıdır. Başarılı sonucu ve başarılı olay başına kabul edilebilir azami maliyeti tanımlayın. Anthropic ajan değerlendirme rehberi görev başarısıyla birlikte süre, araç çağrısı, token ve hatayı izlemeyi önerir.
Açık durma kuralı koyun
Toplam adım, aynı araca tekrar çağrı, geçen zaman, sağlayıcı kullanım birimi ve dış harcama için sınır belirleyin. Güvenilmeyen veya düşük değerli isteğe daha dar sınır verin. Döngü algılayıcı, ajanın aynı soruyu küçük kelime farkıyla yinelemesini tanımalı. OWASP ajan güvenliği rehberi zincir derinliği, tekrar, token ve maliyet sınırını özyinelemeli araç kötüye kullanımına karşı sayar. Sınırı orkestratör ve araç geçidinde zorlayın; modele ucuz kalmasını söyleyen nazik istem yetmez.
Destek olayı örneği
Sıradan sipariş sorusunda destek asistanı dört okuma ve iki taslak denemesi kullanabilsin. Siparişi hâlâ bulamazsa her müşteri kaydını aramak yerine sipariş kimliği istesin veya olayı insana aktarsın. Karmaşık kargo itirazında daha büyük onaylı bütçe mantıklı olabilir. Çalışma zamanında kalan hakkı ajana gösterin ve bütçe artışı gerekçesini kaydedin. Model sonraki çağrının sorunu çözeceğini iddia ettiği için kendi artışını onaylayamasın.
Bağlamı kaybetmeden durun
Sınırda kısa durum döndürün: ne doğrulandı, ne belirsiz, hangi eylem yapıldı ve sonraki güvenli adım ne? Gereksiz hassas veri olmadan kontrol noktası saklayın ki insan veya ayrı yetkili çalışma devam edebilsin. Kısmen bitmiş eylemi sessizce başarı saymayın. Yazma işleminin sonucu bilinmiyorsa durmadan veya yeniden başlamadan uzlaştırın. Bütçe bitimi ek işi azaltmalı; çift işleme açık işlemi kullanıcıdan gizlememeli.
Dengeyi değerlendirin
Gerçekçi ayrılmış görevleri birkaç bütçe düzeyinde çalıştırın. Başarılı çözüm, çözüm başı maliyet, gecikme, insana devir ve izinsiz eylemi karşılaştırın. Yüksek sınır zor olaya yardım mı ediyor yoksa yinelenen çağrıya mı izin veriyor inceleyin. Dil, görev karmaşıklığı ve eksik veri için ayrı sonuç gösterin. Araç fiyatı, model veya müşteri işi değişince üretim dağılımını izleyip sınırı gözden geçirin. En iyi eşik ürünün başarı ve güvenlik hedefini karşılayan en küçük değerdir; kalan durumlara açık devir verir. Bütçe sınırları istemde değil, modelin çevresindeki kodda uygulanır; bu çevre sisteme nasıl yaklaştığımızı yapay zekâ ajanı geliştirme sayfamızda bulabilirsiniz.
Teknik kaynaklar: OWASP ajan güvenliği rehberi, Anthropic ajan değerlendirme rehberi. İlgili rehber. Bu yaklaşımı uygulamadan önce kaynakları kendi veriniz, yetkileriniz ve sürümünüzle karşılaştırın.