RAG nedir?

RAG (bilgi erişimli üretim), yapay zekâ modelinin cevabı yalnızca kendi eğitim belleğinden değil, sorgu anında kurumun kendi belge havuzundan getirilen ilgili parçalara dayanarak üretmesidir. Model önce arar, sonra bulduğuna dayanarak yazar.

Kurumsal kullanımda bu mimarinin iki belirleyici avantajı vardır. Birincisi güncellik ve doğruluk: cevap kurumun onaylı mevzuatına, prosedürüne ya da sözleşmelerine dayanır, modelin genel bilgisine değil. İkincisi kaynak gösterebilmesidir; her iddianın hangi belgenin hangi bölümünden geldiği izlenebilir. Bu, halüsinasyon riskini azaltan asıl mekanizmadır.

Doğru kurgunun kritik unsurları erişim yetkisinin korunması ve cevapsızlığın kabul edilmesidir. Kullanıcının göremeyeceği bir belge, ona verilen cevabın kaynağı olmamalıdır; kaynakta karşılığı bulunmayan bir soruda ise sistem uydurmak yerine bilgi bulunamadığını söylemelidir. Bu iki kural sağlanmadan RAG, güven veren ama denetlenemeyen bir katman hâline gelir.