Dar görev koyun
Posta kutusunu seçip fatura, teknik destek, satış, şikâyet ve acil güvenlik gibi kategorileri tanımlayın. Her kategoriye sahip, hizmet hedefi ve yükseltme kuralı verin. Ajanın etiket veya bilet açmasına mı, yalnız öneri sunmasına mı karar verin. İlk sürümde okuma ve taslakla başlayın; otomatik gönderme ve silme vermeyin. Model işlemini atlaması veya sıkı ele alınması gereken hassas iletileri belirleyin.
Yönlendirme örnekleri yazın
İzinli veya temizlenmiş örnekler toplayın; iki niyetli iletileri, iletilmiş zincirleri, ekleri, farklı dilleri ve belirsiz konuları katın. Destek ekibi kategori, aciliyet, sorumlu ekip ve yanıt gereğini etiketlesin. Örnekleri kesin doğru saymadan anlaşmazlığı çözün. Neredeyse aynı devam iletisi eğitim ve testte bulunmasın diye zincire veya müşteriye göre ayırın. Gerçek sınır örneği olmayan kategori listesi tutarsız yönlendirme üretir.
Postayı güvenilmeyen girdi sayın
E-posta yönetici gibi davranan talimat, başka hesaptan veri isteği veya sır iletme çağrısı içerebilir. Gövde ve eki çalışma talimatı değil görev verisi sayın. Araç yetkisini model dışında uygulayıp posta API'sinde kiracı sınırını koruyun. OWASP ajanlarda komut enjeksiyonu ve yetkisiz araç kullanımını sınamayı önerir. Böyle iletileri teste ekleyip yasak yan etkinin oluşmadığını doğrulayın.
Taslak eylemi inceleyin
İnceleyene özgün iletiyi, önerilen kategoriyi, aciliyeti, hedef ekibi, taslak yanıtı ve kullanılan olguları gösterin. Düzeltmeyi hızlı kılıp yön değişikliği nedenini kaydedin. Yanıt gönderme veya önemli bileti kapatma öncesi insan onaylasın. Kategoriye göre yönlendirme kesinliği ve duyarlılığı, inceleme süresi, kaçan acil durum ve düzeltme oranını izleyin. Akıcı ama yanlış ekibe atayan taslak triyaj hatasıdır; tam akışı ölçün.
Yalnız kanıtla kapsamı büyütün
Önce mevcut posta süreci yanında gölge pilot çalıştırın, sonra küçük bir geri alınabilir etiket veya bilet taslağı kümesine izin verin. Temelle karşılaştırıp her acil kaçırmayı inceleyin. Kategori kuralını, örnekleri, modeli ve araç yetkisini birlikte sürümleyin. Yeni kategoriyi etiketli sınır vakaları ve sorumlu ekiple ekleyin. Kesinti için kolay kapatma ve elle kuyruk bulundurun. Ölçülen yarar daha çok otomatik tıklama değil, daha hızlı doğru yönlendirme olmalıdır. Sınanan görevi, araç yetkilerini ve beklenen yan etkileri tek sürümlü yayın kaydında tutun. Model, komut, araç veya onay kuralı değişince hem olağan hem saldırgan örnekleri yeniden çalıştırın. İnsan müdahalesi gerektiren durumu görev ekranında açık ve izlenebilir gösterin. Triyaj ajanını gerçek bir posta kutusuna, talep sistemine ve inceleme ekranına bağlamak, yapay zekâ ajanı geliştirme sayfamızda anlattığımız türden bir entegrasyon işidir.
Teknik kaynaklar: OWASP ajan güvenliği, Anthropic ajan değerlendirmeleri. İlgili rehber. Bu yaklaşımı uygulamadan önce kaynakları kendi veriniz, yetkileriniz ve sürümünüzle karşılaştırın.