RAG nedir?
RAG (retrieval-augmented generation, yani bilgi getirme destekli üretim), bir dil modelinin soruyu yanıtlamadan önce ilgili belgeleri bulup okuduğu yöntemdir. Model ezberindeki genel bilgiden değil, o anda getirilen kurum belgelerinden yanıt üretir ve her iddiayı bir kaynağa bağlar. Yöntem, 2020'de yayımlanan Lewis ve arkadaşlarının makalesiyle tanımlandı; bugün kurumsal yapay zekâ asistanlarının çoğunun temelinde bu mimari var.
Şirketler için üç avantajı öne çıkar. Belge güncellendiğinde modeli yeniden eğitmeden yanıt da güncellenir. Yanıt kaynağıyla birlikte geldiği için kullanıcı doğrulayabilir; bu, halüsinasyon riskini belirgin biçimde azaltır. Erişim kuralları arama aşamasında uygulanabildiği için herkes yalnızca okumaya yetkili olduğu belgelerden yanıt alır. Hatson Tech olarak Ankara'dan, Türkiye genelindeki kurumlar için belge tabanlı asistanlar ve kurumsal anlamsal arama sistemleri kuruyoruz.
RAG mimarisi nasıl çalışır?
İyi bir RAG sistemi tek bir modelden değil, birbirine bağlı bir hattan oluşur. Yanıt kalitesinin çoğu modelden önceki adımlarda belirlenir:
- Belge alımı: PDF, Word, wiki, e-posta ve iş sistemlerinden metin, tablo ve meta veri çıkarılır; taranmış belgeler OCR'dan geçer.
- Parçalama (chunking): Belgeler anlamını koruyan parçalara bölünür. Başlıkları ve tabloları kaybetmemek kritik bir adımdır; ayrıntısı ölçekte belge parçalama yazımızda.
- Embedding ve vektör dizini: Her parça anlamını temsil eden bir vektöre dönüştürülüp dizinlenir. Kavramlar için token, embedding ve vektör yazımıza ve vektör veritabanı rehberimize bakabilirsiniz.
- Hibrit arama ve yeniden sıralama: Anlam benzerliği ile anahtar kelime eşleşmesi birlikte kullanılır; ürün kodu ve madde numarası gibi tam eşleşmeler kaybolmaz. Ardından en ilgili pasajlar yeniden sıralanır (hibrit arama ve yeniden sıralama).
- Yetki filtresi: Kullanıcının kaynak sistemde okuyamadığı pasaj modele hiç ulaşmaz (yetki duyarlı arama).
- Bağlam ve üretim: Seçilen pasajlar sınırlı bir bağlam bütçesine yerleştirilir, model yanıtı yalnızca bu kanıttan üretir (bağlam mühendisliği).
- Atıf ve doğrulama: Her iddia, onu destekleyen pasaja bağlanır; kanıt yoksa sistem uydurmak yerine "bulamadım" der (RAG yanıtlarında kaynak doğrulama).
Anlamsal arama mı, RAG mı, ince ayar mı?
Her ihtiyaç RAG gerektirmez. "Semantic search vs RAG" sorusu sık sorulur: anlamsal arama doğru belgeyi bulur, RAG ise bulduğu belgelerden kaynaklı bir yanıt yazar. Aşağıdaki tablo kararı netleştirmek için kullandığımız ölçütleri özetler:
| İhtiyaç | Uygun yaklaşım |
|---|---|
| Çalışan doğru belgeyi hızla bulsun | Anlamsal (semantic) arama |
| Soruya kaynak göstererek yanıt verilsin | RAG |
| Modelin üslubu, biçimi veya alan dili değişsin | İnce ayar (fine-tuning) |
| Tek ve çok uzun bir belge üzerinde çalışılacak | Uzun bağlam penceresi |
| Kişi, kurum ve olaylar arası ilişkiler sorulacak | GraphRAG (bilgi grafiği + RAG) |
| Yanıt için birkaç araç ve adım gerekiyor | Agentic RAG (ajan + RAG) |
RAG ile ince ayar arasındaki farkı RAG mı fine-tuning mi yazımızda, uzun bağlam seçeneğini uzun bağlam mı RAG mı yazımızda karşılaştırıyoruz. İlişki ağırlıklı sorularda Microsoft Research'ün GraphRAG çalışması, belge kümesinden çıkarılan bir bilgi grafiğinin genel özet sorularında düz vektör aramadan daha kapsamlı yanıtlar üretebildiğini gösteriyor. Araç kullanan sistemler için yapay zekâ ajanları yazımıza bakabilirsiniz.
Kurumsal yapay zekâ asistanı ne işe yarar?
Kurumsal yapay zekâ asistanı, şirketin kendi belgeleri ve sistemleri üzerinde çalışan, yanıtını kaynağıyla veren bir RAG uygulamasıdır. Sık kurduğumuz kullanım alanları:
- İnsan kaynakları ve politika asistanı: İzin, masraf ve seyahat kurallarını güncel politikadan, sürümüne dikkat ederek yanıtlar (sürümlü belgelerde RAG).
- Teknik destek ve saha servisi: Kılavuz, arıza kaydı ve bakım prosedürlerinden adım adım çözüm önerir.
- Sözleşme ve hukuk belgeleri: Madde arama, karşılaştırma ve kaynaklı özetler. Türkçe hukuk metinlerindeki deneyimimizi Türkçe hukuk verisiyle RAG yazımızda anlattık.
- Müşteri destek: Yalnızca onaylı bilgi bankasından yanıt veren, emin olmadığında temsilciye devreden destek botları.
- Satış ve teklif hazırlığı: Ürün kataloğu, fiyat kuralları ve geçmiş tekliflerden doğru bilgiyi getirir.
Teslim süreci
- Keşif ve kaynak envanteri: Hangi belgeler, hangi sistemlerde, kimin yetkisiyle duruyor; hangi sorular en çok soruluyor?
- Altın soru seti: Gerçek kullanıcı sorularından, beklenen yanıt ve kaynağıyla birlikte bir değerlendirme kümesi hazırlanır. Başarı ölçütü bu kümeyle tanımlanır.
- Pilot: Dar bir belge kümesi ve kullanıcı grubuyla çalışan bir ilk sürüm kurulur; arama ve yanıt kalitesi ölçülür.
- İyileştirme: Hatalar aşamalarına göre ayrılır: alım, arama, yetki, üretim veya atıf. Her düzeltme aynı soru setinde yeniden ölçülür.
- Canlıya alma ve izleme: Yetki eşitlemesi, belge güncelleme hattı, kullanım kayıtları ve kalite göstergeleri devreye alınır.
Güvenlik, KVKK ve kurum içi kurulum
Kurumsal RAG'de güvenlik, modelden önce verinin nereye gittiğiyle ilgilidir. Kullanıcı yetkileri aramada uygulanır; denetim kaydı tutulur; belgelerdeki gizli talimatlara karşı (prompt injection) araç yetkileri sınırlanır. Kişisel veri içeren belgelerde saklama, maskeleme ve aktarım kuralları tasarım aşamasında belirlenir; çerçeveyi KVKK ve üretken yapay zekâ rehberimizde anlatıyoruz. Verinin kurum dışına çıkamadığı durumlarda RAG, açık ağırlıklı modellerle tamamen kurum içi sunucularda çalışacak şekilde kurulabilir (kurum içi yapay zekâ).
Başarı nasıl ölçülür?
"Asistan iyi çalışıyor mu?" sorusunun cevabı tek bir puan değildir. Ayrı ayrı izlediğimiz göstergeler şunlardır:
- Getirme başarısı: Doğru pasaj ilk 5 veya 10 sonucun içinde mi?
- Kanıta bağlılık (faithfulness): Yanıttaki her iddia getirilen pasajla destekleniyor mu?
- Atıf doğruluğu: Gösterilen kaynak gerçekten o iddiayı içeriyor mu?
- Doğru "bilmiyorum" oranı: Kaynağı olmayan sorularda sistem uydurmak yerine yanıt vermemeyi seçiyor mu?
- Gecikme ve maliyet: Yanıt süresi ve soru başına maliyet.
Metriklerin nasıl hesaplandığını RAG değerlendirme metrikleri yazımızda ayrıntılı ele alıyoruz.
Maliyeti ve süreyi ne belirler?
- Belge sayısı, biçimleri ve kalitesi; taranmış belge ve tablo oranı.
- Bağlanacak sistemler (SharePoint, ortak sürücü, wiki, CRM, ERP) ve yetki modellerinin karmaşıklığı.
- Bulut mu, kurum içi mi; hangi model ve barındırma seçeneği.
- Kullanıcı sayısı, eşzamanlı sorgu yükü ve yanıt süresi beklentisi.
- Türkçe ve İngilizce gibi birden fazla dilde çalışma ihtiyacı.
- Kalite hedefi ve değerlendirme setinin büyüklüğü.
Keşif sonunda bu etkenler kalem kalem yazılır; teklifin hangi varsayıma dayandığını görürsünüz.
Neden Hatson Tech?
RAG ve anlamsal arama mimarisini büyük ölçekli Türkçe belge kümeleri üzerinde kurduk ve kendi ürünlerimizin ardındaki aynı altyapıyı sizin verinize uyarlıyoruz. Arama, yetki, değerlendirme ve yazılım tarafını tek ekip olarak teslim ediyoruz; asistanı mevcut sistemlerinize bağlayan özel yazılım ve arayüzler de dahil.