RAG nedir, kurumsal bilgi asistanı ne zaman işe yarar?

RAG (Retrieval-Augmented Generation), en sade tanımıyla yapay zekânın kurumun kendi kaynaklarına dayanarak, kaynak göstererek üretim yapmasıdır. Model önce sorunuzla ilgili dokümanları bulur (retrieval), sonra cevabını yalnızca bu dokümanlara dayandırarak yazar (generation) ve hangi kaynağı kullandığını gösterir.

Bu tanımın her parçası önemli: kurumun kendi kaynakları — internetin geneli değil; kaynak göstererek — "bana güven" değil, "işte belge".

Genel sohbet aracından farkı ne?

Genel amaçlı sohbet araçlarının kurumsal kullanımda iki temel sorunu var: kurum verisini bilmezler ya da bilmedikleri yerde uydururlar. Yönetmelik sorusuna genel bilgiyle cevap veren bir araç, sizin yönetmeliğinizin istisnasını bilemez; bilmediğini söylemek yerine akıcı bir cevap ürettiğinde ise sorun görünmez hâle gelir.

RAG mimarisi bu iki sorunu yapısal olarak çözer:

• Cevap üretmeden önce sizin doküman havuzunuzda arama yapılır.
• Her cevap kaynak atıflıdır — kullanıcı tek tıkla belgeyi doğrular.
• İlgili kaynak yoksa sistem "bilmiyorum" der. Uydurma kabul edilmez.
• Yetki modeli aramaya iner: kullanıcı, görme yetkisi olmayan dokümandan cevap alamaz.

RAG mimarisi adım adım nasıl çalışır?

Kurumsal bir RAG hattı iki ayrı akıştan oluşur. Birincisi arka planda çalışan hazırlık akışı, ikincisi kullanıcı soru sorduğunda çalışan cevap akışı.

Hazırlık akışı (soru sorulmadan önce)

1. Toplama. Doküman kaynakları bağlanır: dosya sunucusu, doküman yönetim sistemi, intranet, e-posta arşivi, ürün veritabanları.
2. Metne dönüştürme. PDF, tarama, sunum ve tablo içerikleri metne çevrilir. Taranmış belgelerde bu adım bir doküman anlama işidir ve projenin en çok küçümsenen parçasıdır.
3. Parçalama (chunking). Belgeler, arama yapılabilir büyüklükte parçalara bölünür. Parça sınırının nereden geçtiği kaliteyi doğrudan etkiler: bir maddenin ortasından bölünen metin, bağlamını kaybeder.
4. Üst veri ekleme. Her parçaya kaynağı, sürümü, tarihi, sahibi ve erişim yetkisi iliştirilir. Yetki modeli buradan beslenir.
5. İndeksleme. Parçalar hem anlamsal (vektör) hem de anahtar kelime temelli arama için indekslenir.

Cevap akışı (kullanıcı sorduğunda)

1. Soru işleme. Soru anlaşılır hâle getirilir; belirsizse netleştirilir.
2. Arama. Kullanıcının yetkili olduğu parçalar arasında ilgili olanlar bulunur.
3. Yeniden sıralama (reranking). Bulunan parçalar, soruyla gerçek ilgililiklerine göre yeniden sıralanır. Bu adım atlandığında model, yüzeysel benzeyen ama ilgisiz parçalarla beslenir.
4. Bağlam kurma. En ilgili parçalar isteğe eklenir; ilgisiz alanlar budanır.
5. Üretim. Model cevabı yalnız bu parçalara dayandırarak yazar.
6. Atıf. Cevabın hangi parçaya dayandığı kullanıcıya gösterilir.
7. Kayıt. Soru, bulunan kaynaklar ve verilen cevap denetlenebilir biçimde saklanır.

Kurumunuzun RAG'e ihtiyacı olduğunu gösteren dört belirti

1. Kurum bilgisi PDF ve yönetmeliklerde gömülü; arayan bulamıyor. Bilgi var ama erişim maliyeti yüksek — herkes "bilen kişiye" soruyor.
2. Aynı sorular uzmanlara tekrar tekrar geliyor. Uzman mesaisinin bir kısmı, daha önce onlarca kez cevaplanmış soruları yeniden cevaplamaya gidiyor.
3. Genel sohbet araçları denendiyse hayal kırıklığı yaşandı. Kurum verisini bilmiyor ya da uyduruyor; hukuk/güvenlik ekipleri haklı olarak itiraz ediyor.
4. Yeni çalışan işi öğrenene kadar aylar geçiyor. Kurumsal bilgi, insanların zihninde ve dağınık klasörlerde yaşıyor.

RAG'in kalitesini belirleyen şey model değil

Projelerde kalite tartışması genellikle model seçimiyle başlar ve yanlış yerde başlar. Bulunamayan belge, en iyi modelde de bulunamaz; yanlış bulunan belge ise modeli ikna edici biçimde yanlış cevap üretmeye iter.

Kaliteyi asıl belirleyen dört katman:

Pratikte en çok kazanç getiren üç müdahale şunlardır:

1. Melez arama. Yalnız anlamsal arama, kod, model numarası ve kısaltma gibi tam eşleşme gerektiren sorularda zayıftır. Anahtar kelime aramasıyla birleştirilmesi bu boşluğu kapatır.
2. Yapıya duyarlı parçalama. Madde, başlık ve tablo sınırlarına saygı gösteren parçalama, sabit uzunlukta bölmeye göre belirgin fark yaratır.
3. Üst veri filtresi. "Yalnız yürürlükteki sürüm", "yalnız bu iş birimi" gibi filtreler, arama uzayını daraltarak isabeti yükseltir.

"Asistan yanlış cevap verirse?" sorusu

Kurumsal RAG projelerinde en sık duyduğumuz soru bu — ve doğru soru. Cevabın iki ayağı var:

Kaynak atfı: Cevaplar belgeye bağlı olduğu için kullanıcı doğrulamayı kendi yapabilir. "Nereden biliyorsun?" sorusunun cevabı her mesajın altındadır.

Ölçüm hattı (eval): Kurulum sırasında kurumun gerçek sorularından bir değerlendirme seti oluşturulur; doğruluk bu setle sürekli ölçülür, düşüş alarm üretir. Yani "asistan iyi çalışıyor mu?" sorusu iddiayla değil raporla cevaplanır.

Buna üçüncü bir ayak eklenir: cevap üretmeme hakkı. İlgili kaynak bulunamadığında sistemin cevap üretmemesi bir eksiklik değil, tasarım kararıdır. Halüsinasyonu mimariyle sınırlamanın en etkili yolu, modele "bilmiyorum" demeyi öğretmek değil, bilmediği durumu sistemin kendisinin tespit etmesidir.

Yetki mimarisi: erişim kontrolü sorgu katmanında

Kurumsal RAG ile deneme amaçlı bir asistanı ayıran en keskin çizgi budur.

Yetki kontrolü arayüzde yapılırsa — yani model her belgeyi görüp cevabı sonradan filtrelerseniz — sızıntı kaçınılmazdır: model, görmemesi gereken belgeden türettiği bilgiyi yeniden ifade ederek aktarabilir. Filtre metni yakalar, bilgiyi yakalayamaz.

Doğru mimaride yetki aramaya iner:

1. Her belge parçası, indekslenirken erişim üst verisiyle etiketlenir.
2. Arama, sorguyu yapan kullanıcının yetkili olduğu parçalar üzerinde çalışır.
3. Yetkisiz parça sonuç kümesine hiç girmez; modele hiç gitmez.
4. Yetki değiştiğinde (rol değişimi, ayrılma) etki anında geçerli olur.

Bu tasarım, düzenlemeye tabi kurumlarda bir tercih değil ön koşuldur ve sonradan eklenemez — mimarinin başında kurulur.

Dokümanlar değişince ne oluyor?

Kurumsal bilgi durağan değildir: yönetmelik güncellenir, prosedür değişir, sözleşme yenilenir. Güncelleme hattı bunu üç mekanizmayla karşılar:

• Değişiklik izleme. Doküman deposu izlenir; değişen dosya yeniden işlenir.
• Sürüm farkındalığı. Yürürlükteki sürüm ile arşiv ayrılır; asistan varsayılan olarak yürürlüktekinden cevap verir.
• Geçerlilik tarihi. Tarihli içerikte hangi dönemin kuralının sorulduğu ayırt edilir.

Bu hat kurulmadığında asistan sessizce eskir — ve eskidiğini kimse fark etmez, çünkü cevaplar akıcı olmaya devam eder. Değerlendirme setinin düzenli çalıştırılması bu sessiz bozulmayı görünür kılan tek mekanizmadır.

RAG'in iyi çalışmadığı senaryolar

Dürüst bir rehber, aracın sınırlarını da söylemelidir. RAG şu durumlarda doğru seçim değildir:

• Hesaplama ve toplama gerektiren sorular. "Bu ay kaç sipariş geldi?" sorusunun cevabı belgede değil veritabanındadır. Doğru araç sorgu ya da rapor katmanıdır.
• Canlı sistem durumu. "Şu siparişim nerede?" bir entegrasyon sorusudur.
• Yazılı hâli olmayan bilgi. Kurumda hiç dokümante edilmemiş bir konuda RAG bilgi üretemez; yokluğu doğru biçimde bildirir, o kadar.
• Çok adımlı işlem gerektiren işler. Sistemde kayıt açmak, onay başlatmak gibi eylemler için doğru mimari ajan mimarisidir.
• Çıktı biçiminin katı olduğu durumlar. Bu bir bilgi değil davranış ihtiyacıdır; karşılaştırmayı RAG mi fine-tuning mi yazımızda ele aldık.

Nasıl kuruluyor?

Uyguladığımız fazlı akış dört adımdır; toplamda tipik olarak 7–13 hafta sürer:

Veri kurumdan çıkamıyorsa mimari on-premise veya özel bulutta kurulur; bu senaryoyu KVKK uyumlu yapay zekâ yazımızda ayrıca ele aldık. Bulut modeli kullanılacaksa aktarım boyutunu LLM API'leri ve yurt dışına veri aktarımı yazımızda inceledik.

Nasıl ölçülür?

Değerlendirme seti, kurumun gerçek sorularından oluşur ve her soru için beklenen cevap ile kabul kriteri yazılır. İzlenen göstergeler:

Bulma isabeti ile cevap doğruluğunu ayrı ölçmek kritiktir: ikisi karıştırıldığında arama sorunu model sorunu sanılır ve iyileştirme yanlış katmana yapılır.

Maliyeti neyle büyür?

RAG'de maliyet üç yerden gelir ve ilki genellikle en büyüğüdür:

1. Belge hazırlığı ve güncelleme hattı — süreklidir, projeyle bitmez.
2. Bağlam uzunluğu — her isteğe eklenen belge parçaları, istek başına maliyeti doğrudan artırır. Bağlam budama en etkili tasarruf kalemidir.
3. Model erişimi — bulutta kullanım, kurum içinde donanım.

Kalem yapısının tamamını yapay zekâ projesi maliyeti yazımızda ele aldık.

Toparlarken

RAG, "sohbet robotu" modası değil; kurumsal bilgiye erişim maliyetini düşüren ve cevapları denetlenebilir kılan bir mimaridir. Doğru zamanı, yukarıdaki dört belirtiden en az birinin günlük operasyonu yavaşlatmaya başladığı andır.

Kalitenin modelde değil arama ve içerik katmanında belirlendiğini, yetkinin sonradan eklenemeyeceğini ve ölçüm hattı olmadan sistemin sessizce eskiyeceğini akılda tutmak, bu projelerin büyük kısmının kaderini belirler.

RAG hizmetimizi inceleyin