Aynı yapay zeka asistanı için gelen teklifler neden bu kadar farklı?
Çünkü talep ekranı tarif eder, maliyet ise ekranın arkasındadır. "Belgelerimizden soru yanıtlayan bir asistan" tek bir klasörde duran birkaç bin temiz PDF, yalnızca okuma erişimi ve iç kullanıcılar anlamına gelebilir. Aynı cümle; üç sisteme dağılmış taranmış sözleşmeler, her müşteri ekibi için farklı yetkiler, müşteriye giden yanıtlar ve verinin binadan çıkmaması kuralı anlamına da gelebilir. İki demoda da sohbet penceresi aynı görünür. Arkasındaki iş aynı değildir.
İki tedarikçi birbirinden çok farklı tutarlar verdiğinde ilk soru hangisinin ucuz olduğu değil, ikisinin aynı projeyi fiyatlayıp fiyatlamadığıdır. İşe yarar bir teklif varsayımlarını yazar: kaç belge, hangi biçimlerde, hangi sistemlerden, kaç kullanıcı için, hangi kalite hedefiyle ve sistem nerede çalışacak. Bu varsayımlar yoksa toplamları karşılaştıramazsınız; sonradan kimseyi bu toplamlara bağlayamazsınız da.
Bu rehber kurumsal bir yapay zeka asistanının maliyet kalemlerini sıralıyor, model kullanımının nasıl faturaya dönüştüğünü gösteriyor, tekliflerin genellikle nasıl kurulduğunu anlatıyor ve herhangi bir tedarikçiyle konuşmadan önce doldurabileceğiniz bir çalışma sayfasıyla bitiyor. Yazıda bilerek hiç fiyat yok. Fiyatlar kurla ve tedarikçilerin fiyat listeleriyle değişir; maliyeti belirleyen kalemler değişmez.
Kurumsal yapay zeka asistanının maliyet kalemleri nelerdir?
Kurumsal bir yapay zeka asistanının üç tür maliyeti vardır: bir kez ödenen kurulum maliyeti, her ay süren işletme maliyeti ve kendi çalışanlarınızın zamanı. Bütçeler genellikle ilkini içerir, ikincisini olduğundan küçük tahmin eder, üçüncüsünü ise hiç yazmaz.
| Kalem | Ne belirler? | Maliyet türü |
|---|---|---|
| Keşif ve kapsam | Kullanım senaryosu sayısı; başarı ölçütlerinin ne kadar net olduğu | Tek seferlik |
| Veri hazırlığı | Biçimler; taranmış belge ve tablo oranı; kopyalar; güncelliğini yitirmiş sürümler | Tek seferlik, kısmen sürekli |
| Bağlayıcılar ve entegrasyonlar | Sistem sayısı; sistemlerin API sunup sunmadığı; yalnızca okuma mı, yazma da mı | Tek seferlik ve bakım |
| Yetki modeli | Kaynakta yetkilerin nasıl tanımlandığı ve ne sıklıkla değiştiği | Tek seferlik ve sürekli eşitleme |
| Yanıt kalitesi çalışması | Test soru setinin büyüklüğü, kalite hedefi, dil sayısı | Tek seferlik ve yeniden değerlendirme |
| Arayüz ve kanallar | Web uygulaması, Microsoft Teams, mobil, mesajlaşma, mevcut yazılımlara gömme | Tek seferlik |
| Güvenlik ve uyum | KVKK değerlendirmesi, denetim kaydı, güvenlik testleri, barındırma kısıtları | Tek seferlik ve sürekli |
| Model kullanımı ya da lisanslar | Kullanıcı sayısı, günlük soru sayısı, soru başına token, model seçimi | Sürekli |
| Arama ve barındırma altyapısı | Dizin büyüklüğü, erişilebilirlik hedefi, bulut ya da kendi sunucunuz | Sürekli |
| İzleme, destek ve bakım | Dizin güncelleme, model sürümü değişiklikleri, olaylar | Sürekli |
| Yaygınlaştırma ve eğitim | Birim ve lokasyon sayısı, kullanıcı eğitimi | Tek seferlik |
| Kendi ekibinizin zamanı | Test soruları ve incelemeler için alan uzmanları, erişimler için BT, hukuki değerlendirme | İç maliyet |
FinOps Foundation'ın FinOps for AI çalışması, finans ekiplerine tekrar tekrar anlatmaya değer bir noktanın altını çiziyor: yapay zeka hizmetleri sıradan bulut hizmetlerinden farklı ölçülür, fiyatları daha sık değişir ve tahminlerin daha sık güncellenmesi gerekir. Çalışma, toplam çıkarım maliyetinin istek sayısına bölünmesiyle bulunan çıkarım başına maliyet gibi birim ölçütler öneriyor. Bir asistan için daha kullanışlı birim, yanıtlanan soru başına maliyettir; çünkü yeniden denemeleri, aramayı ve sabit altyapının payını da içerir.
Model kullanımı faturaya nasıl dönüşür?
API üzerinden kullanılan modellerde token başına ödersiniz ve girdi ile çıktı token'ları ayrı fiyatlanır; ayrılmış kapasitede, kullansanız da kullanmasanız da saatlik ödersiniz; SaaS üründe ise kullanıcı başına lisans ödersiniz.
Bir RAG asistanında her soru modele sorunun kendisinden çok daha fazlasını götürür: sistem talimatları, getirilen pasajlar ve çoğu zaman konuşmanın o ana kadarki kısmı. Bu yüzden girdi token'ları genellikle çıktı token'larından belirgin biçimde fazladır. Anthropic'in fiyatlandırma belgeleri parçaların birbirini nasıl etkilediğini açıkça gösteriyor. Çıktı token'ları girdi token'larından pahalıdır. Tekrarlanan bir istem önekinin önbellekten okunması, temel girdi fiyatının küçük bir kesrine mal olur; çoğu modelde 0,1 katı. Bekleyebilecek istekler için Batch API yüzde 50 indirim sağlar. Çıkarımı belirli bir coğrafyayla sınırlamak bir çarpan getirebilir; yeni modellerde yalnızca ABD içinde çıkarım için 1,1 kat. Araç kullanımı kendi sistem istemini ekler, web araması gibi sunucu tarafı araçlar da kullanım başına ücretlendirilir. Diğer sağlayıcılar fiyat listelerini farklı kurgular ama hepsi için aynı sorular geçerlidir: ne önbelleğe alınabilir, ne toplu işlenebilir ve verinin konumu neye mal olur?
Ayrılmış kapasite faturanın biçimini değiştirir. Microsoft ayrılmış işlem hacmini (provisioned throughput), tüketilen token sayısından bağımsız olarak saat başına ve ayrılmış kapasite birimi başına faturalanan, size özel model kapasitesi olarak tanımlıyor; bir aylık ya da bir yıllık taahhütte indirimli rezervasyon da sunuluyor. Microsoft bu seçeneği öngörülebilir, gecikmeye duyarlı ve yüksek hacimli trafik için öneriyor; değişken ya da düşük hacimli kullanım için token başına ödenen standart dağıtım daha uygun kalıyor. Çoğu asistan ilk aylarını token başına ödemeyle geçirir; ayrılmış kapasite ancak gerçek kullanım ölçüldükten sonra gündeme gelir.
Kendi ölçümleriniz ve seçtiğiniz modelin fiyat listesiyle doldurabileceğiniz bir hesap:
- Soru başına girdi token'ı = talimatlar + getirilen pasajlar + konuşma geçmişi + sorunun kendisi.
- Soru başına çıktı token'ı = kaynak atıfları dahil ortalama yanıt uzunluğu.
- Soru başına model maliyeti = önbellekte olmayan girdi token'ı × girdi fiyatı + önbellekten okunan token × önbellek fiyatı + çıktı token'ı × çıktı fiyatı.
- Aylık model maliyeti = soru başına maliyet × aktif kullanıcı başına günlük soru × aktif kullanıcı sayısı × iş günü × (1 + yeniden deneme ve çok adımlı yanıtların payı).
Basit soruları küçük bir modele, yalnızca zor olanları büyük bir modele göndermek bu kalemde güçlü bir kaldıraçtır; yaklaşımı model yönlendirme yazımızda anlattık.
SaaS lisans, bulut API'si ya da kendi sunucunuz: maliyetin yapısı nasıl değişir?
Üç barındırma yolu yalnızca farklı tutarlara mal olmaz; maliyeti farklı yerlere koyar ve farklı nedenlerle büyütür.
| Yol | Neye ödersiniz? | Faturayı ne büyütür? | Nelere dikkat edilmeli? |
|---|---|---|---|
| Kullanıcı başına SaaS lisans | Lisanslı kullanıcılar | Kullanım değil, kişi sayısı | Kullanılmayan lisanslar; bağlayıcı ve özelleştirme sınırları |
| Bulut API'si üzerinde kendi uygulamanız | Geliştirme ve kullanım | Soru sayısı, soru başına pasaj, model seçimi | Kullanım sıçramaları; ilk günden bütçe uyarıları kurun |
| Kendi sunucunuzda açık ağırlıklı model | Geliştirme, GPU'lu sunucular ve işletme | Aynı anda çalışan en yüksek kullanıcı sayısı, model büyüklüğü, erişilebilirlik hedefi | En yoğun saate göre boyutlanan kapasite; güncelleme ve izlemeyi yürütecek ekip |
Kendi sunucunuzda çalıştırmak değişken maliyeti sabit maliyete çevirir. Sunucular kurulduktan sonra ek bir soru az maliyetlidir; ama sunucuların en yoğun saate göre boyutlanması, güncel tutulması ve izlenmesi gerekir ve sakin bir hafta sonunda da aynı tutarı tutarlar. Kurumlar bu yolu genellikle tasarruf için değil, verinin binadan çıkamaması nedeniyle seçer. Seçenekleri daha geniş açıdan tartıyorsanız yapay zekada satın al mı, geliştir mi rehberimiz bu kararı ele alıyor.
Bütçelerde en sık hangi kalemler unutulur?
En sık unutulanlar, canlıya geçtikten sonra da işlemeye devam eden kalemlerdir: arama altyapısı, yeniden dizinleme, yetki eşitlemesi, model değişikliklerinden sonra yeniden değerlendirme, insan incelemesi ve uyumun güncel tutulması.
- Arama altyapısı günün her saati çalışır. Örneğin Azure AI Search'ün ayrılmış kapasite modelinde, hizmet katmanı belgeleri arama birimi başına sabit saatlik ücret ödendiğini, arama biriminin kopya sayısıyla bölüm sayısının çarpımı olduğunu ve erişilebilirlik için kopya eklemenin maliyeti aynı oranda artırdığını açıklıyor. Dizin, kimsenin soru sormadığı günlerde de para tutar.
- Belgeler değişir. Yeni sürümlerin, silinen dosyaların ve yeni klasörlerin dizine yansıması, alım işi hata verdiğinde de birinin bunu fark etmesi gerekir.
- Yetkiler değişir. Çalışanlar ekip değiştirdiğinde asistanın da bunu yansıtması gerekir. Yetki eşitlemesi bir kurulum adımı değil, sürekli bir iştir.
- Modeller değişir. Sağlayıcılar model sürümlerini emekliye ayırır. Her geçiş, soru setinizi yeniden çalıştırmak ve bazen talimatları düzeltmek demektir.
- İncelemenin bir maliyeti vardır. Yanıtlar profesyonel bir işe girdiyse birinin onları kontrol etmesi gerekir ve inceleme ekranı ürünün parçasıdır. Hatson Tech'in durum tespiti (due diligence) ve sözleşme inceleme için geliştirmekte olduğu LegalTech ürünü Caseon'da her yanıt dayandığı belge alıntısıyla gösterilir; kaynakları inceleyip işi onaylayan avukattır. Bu inceleme akışını tasarlamak başlı başına bir maliyet kalemidir; neler gerektirdiğini Caseon vaka çalışmasında görebilirsiniz.
- Uyumun bakımı vardır. KVKK'nın üretken yapay zeka ve kişisel verilerin korunması rehberi; veri sorumlusu ve veri işleyen rollerinin belirlenmesini, aydınlatma metinlerini, saklama sürelerini ve yurt dışındaki hizmetler için 9. maddeye uygun bir aktarım dayanağını bekliyor. Bunları yazmak ve güncel tutmak hukuki ve teknik zaman ister.
- Benimsenme emek ister. Eğitim, bir geri bildirim kanalı ve ilk haftalarda kullanıcıların sorularını yanıtlayacak biri.
Teklifler nasıl oluşur, nasıl karşılaştırılmalı?
İyi kurulmuş bir teklif projenin aşamalarını izler: keşif, kapsamı sabitlenmiş bir pilot, aşamalı geliştirme ve bakım. Her aşama, bir öncekinin belirsizliği azaltmasından sonra fiyatlanır. Kimse belgelerinizi açmadan verilen tek ve her şey dahil bir toplam, genellikle ya bilinmeyenler için büyük bir pay içerir ya da sonradan yeniden pazarlık anlamına gelir.
İki teklifi yan yana koyduğunuzda şu kontrol listesini kullanın:
| Soru | İyi işaret | Uyarı işareti |
|---|---|---|
| Varsayımlar yazılı mı? | Belge sayısı, biçimler, sistemler, kullanıcılar ve barındırma listelenmiş | Yalnızca "belgeleriniz için yapay zeka asistanı" |
| Başarı ölçülebilir mi? | Kabul, sizin de yazdığınız bir soru setiyle test ediliyor | Arkasında test seti olmayan "yüksek doğruluk" |
| Model kullanımını kim ödüyor? | Kullanım, hesabıyla birlikte ayrıca tahmin edilmiş | Kullanım toplamın içine gizlenmiş ya da "sınırsız" denmiş |
| Neler kapsam dışı? | Kapsam dışı kalanlar yazılmış; örneğin taranmış arşiv ya da yazma erişimi | Hiç kapsam dışı madde yok |
| Ne kimin? | Kod, dizin yapılandırması, talimatlar ve test seti sizin | Sahiplikten hiç söz edilmemiş |
| Değişiklikler nasıl yönetiliyor? | Yazılı bir değişiklik süreci var | Değişiklikler yalnızca sözlü konuşuluyor |
| Bakım neyi kapsıyor? | Dizin güncelleme, yetki eşitlemesi, model değişiklikleri ve yanıt süreleri | Yalnızca "destek dahil" |
| Ayrılabilir misiniz? | Veri dışa aktarımı ve devir tarif edilmiş | Çıkış koşulu yok |
Maliyet kalemleri çalışma sayfası
İlk tedarikçi görüşmesinden önce son sütunu doldurun. "Daha fazla emek" sütununa yaklaşan her yanıt, projeyi daha geniş bir kapsama doğru iter. Bunu erkenden ve kendi cümlelerinizle görmek, alıştırmanın asıl amacıdır.
| Kalem | Daha az emek | Daha fazla emek | Sizin durumunuz |
|---|---|---|---|
| Belge hacmi | Binlerle ifade edilir | Yüz binlerle ifade edilir | |
| Biçimler | Dijital doğmuş metin | Tarama, el yazısı, karmaşık tablolar | |
| Kaynaklar | Tek depo | Bir kısmının API'si olmayan birkaç sistem | |
| Erişim | Yalnızca okuma | Kayıt oluşturma ya da değiştirme de var | |
| Yetkiler | Birim düzeyinde, sabit | Belge ya da müşteri bazında, sık değişen | |
| Kullanıcılar | Tek birim | Tüm şirket, birden fazla lokasyon | |
| Diller | Tek dil | Türkçe ve İngilizce, karışık terminoloji | |
| Yanıtları kim okuyor? | İç kullanıcılar | Müşteriler ya da düzenleyiciler | |
| Kalite çıtası | Kaynaklı, işe yarar bir taslak | Kararda kullanılan, incelenmiş çıktı | |
| Barındırma | Bulut kabul edilebilir | Kendi sunucularınızda kalmalı | |
| Erişilebilirlik | Mesai saatleri | Günün her saati | |
| Kanallar | Tek web uygulaması | Web, Teams, mobil ve mesajlaşma |
Varsayımsal örnek: aynı talep, iki farklı proje
Bu, kalemlerin nasıl işlediğini göstermek için kurgulanmış varsayımsal bir örnektir; gerçek rakam içermez. İki şirket aynı tek cümlelik talebi gönderiyor: "çalışanların sorularını belgelerimizden yanıtlayan bir asistan".
A şirketinin yaklaşık 3.000 politika ve prosedür belgesi var; hepsi dijital doğmuş ve birim düzeyinde izinlerle tek bir SharePoint sitesinde duruyor. Asistanı iki yüz ofis çalışanı kullanacak, hukuk ekibi bulutta işlemeyi onaylamış ve yanıtlar kaynak gösterilerek şirket içinde kalacak. Çalışma sayfasının neredeyse her satırı "daha az emek" sütununa düşüyor.
B şirketinin yirmi yıllık sözleşme ve yazışması var; büyük kısmı taranmış ve bir belge yönetim sistemiyle ağ sürücülerine dağılmış. Yetkiler müşteri ekiplerine göre tanımlı ve her ay değişiyor. Yanıtların ERP'den sipariş verisi de çekmesi gerekiyor, hukuk ekibi sözleşme verisinin şirketin kendi sunucularında kalmasını şart koşuyor ve bazı yanıtlar incelendikten sonra müşterilere gönderilecek. Satırların çoğu "daha fazla emek" sütununa düşüyor.
B şirketinin projesi OCR ve tablo işleme, iki ek bağlayıcı, yetki eşitlemesi, en yoğun saate göre boyutlanmış şirket içi bir model, bir inceleme ekranı ve daha büyük bir soru seti gerektiriyor. Teklifi belirgin biçimde daha yüksek olacak ve olması da gerekir. A'nın teklifini B'nin talebiyle ya da tersini karşılaştırmak, alıcıların yapay zeka fiyatlarının keyfi olduğuna inanmasının başlıca nedenidir.
Kullanım kalemi de farklı. Yalnızca örnek olsun diye her yanıtın yaklaşık 1.000 token'lık talimat, her biri yaklaşık 400 token'lık beş pasaj ve sorunun kendisini gönderdiğini, yaklaşık 300 token'lık bir yanıt döndürdüğünü varsayalım. Yukarıdaki hesaba yerleştirildiğinde talimatlar her istekte tekrarlandığı için önbellek için doğal adaydır; asıl kaldıraç ise pasajlardır. On beş gevşek ilişkili pasaj yerine iyi seçilmiş beş pasaj getirmek girdiyi azaltır; yanıtların bundan etkilenip etkilenmediğini de test soru seti gösterir. A şirketi bu tutarı soru başına bir bulut API'sine öder. B şirketi ise en yoğun saatine göre boyutlanmış sunuculara öder; sunucular çalışmaya başladıktan sonra soru başına ek maliyeti küçüktür.
Kaliteyi düşürmeden maliyet nasıl azaltılır?
- Tek birim, bir ya da iki temiz kaynak ve yalnızca okuma erişimiyle başlayın. Diğer sistemlere yazmayı sonraki bir aşamaya bırakın.
- Önce test soru setini yazın. Kimsenin istemediği özelliklere para ödemenizi önler.
- Tekrarlananı önbelleğe alın, bekleyebileni toplu işleyin, basit soruları küçük bir modele yönlendirin.
- Pilot boyunca yanıtlanan soru başına maliyeti ölçün ve kullanıma bütçe uyarıları kurun.
- İş değeri olmayan arşivleri dizine almayın; işlenmeleri para tutar ve gizlilik riskini artırır.
- Faydayı da maliyet kadar özenle ölçün. Yapay zekada yatırım getirisini ölçme yazımız, canlıya geçmeden önce başlangıç ölçümünün nasıl yapılacağını anlatıyor.
Hatson Tech bir asistanı nasıl fiyatlandırıyor?
Asistanlar için sabit bir fiyat listemiz yok ve kaynaklar incelenmeden sabit bir toplam vaat etmiyoruz. İlk görüşme ve yazılım projelerindeki keşif çalışması ücretsizdir. Keşif, yukarıdaki çalışma sayfasındaki soruları yanıtlar: hangi belgeler, hangi sistemlerde, kimin yetkisiyle, hangi kullanıcılar için ve asistan nerede çalışacak. Ardından kapsam, teslimatlar, kabul ölçütleri ve dayandığımız varsayımlar yazılı bir teklife geçer; sonraki her aşama da aynı biçimde tekliflendirilir. Ayrıntılar kurumsal RAG ve anlamsal arama sayfamızda. Elinizde başka tedarikçilerden gelmiş teklifler varsa, yukarıdaki karşılaştırma listesi bizden bağımsız olarak da aynı işi görür.