// YAPAY ZEKÂ
RAG mi, ince ayar mı? Hangi problem hangisini istiyor
7 dk okumanijitech
İkisi de “modele kendi verimizi öğretelim” diye başlayan cümlenin cevabı sanılıyor. Oysa farklı iki problemi çözüyorlar. Seçimi belirleyen üç ölçüt.
Yazının tamamı
Kurum içi bir yapay zekâ projesi neredeyse her zaman aynı cümleyle başlıyor: “modele kendi verimizi öğretelim”. Bu cümlenin iki farklı teknik karşılığı var ve ikisi farklı problemleri çözüyor. Yanlış olanı seçmek, projeyi doğrudan başarısızlığa götürmüyor ama gereksiz pahalı ve gereksiz kırılgan hâle getiriyor.
İkisi neyi değiştiriyor
RAG, soruyu cevaplamadan önce ilgili belgeyi bulup modele veren bir katman. Modelin kendisine dokunmaz; ona doğru bağlamı verir. İnce ayar ise modelin ağırlıklarını sizin örneklerinizle güncelleyerek davranışını değiştirir.
Fark şurada netleşiyor: RAG bilgiyi değiştirir, ince ayar davranışı değiştirir. “Şirketin iade politikası nedir” bir bilgi sorusudur. “Cevapları hep şu tonda ve şu biçimde ver” bir davranış talebidir.
1. Bilgi ne sıklıkla değişiyor?
Bu tek başına çoğu kararı veriyor. Fiyat listesi, stok, politika metni, sözleşme sürümü — değişen her bilgi RAG tarafına aittir. Belgeyi güncellersiniz, sistem ertesi sorudan itibaren doğru cevabı verir.
Aynı bilgiyi ince ayarla modele işlemek, her değişiklikte yeniden eğitim demek. Bir haftada iki kez değişen bir bilgi için bu, sürdürülemez bir döngü.
2. Kaynak göstermeniz gerekiyor mu?
RAG cevabı hangi belgeden ürettiğini gösterebilir; ince ayarlanmış bir model gösteremez, çünkü bilgi artık ağırlıkların içinde dağılmıştır. Kurumsal kullanımda bu genellikle belirleyici oluyor: cevabın doğru olması yetmiyor, doğrulanabilir olması isteniyor.
3. İstediğiniz şey biçim mi, bilgi mi?
İnce ayarın gerçekten kazandırdığı yer burası: modelin çıktı biçimini, tonunu ve alan diline hâkimiyetini kalıcı hâle getirmek. Her istemde uzun uzun biçim tarif etmek yerine model o biçimi zaten biliyor olur — bu hem istem uzunluğunu hem maliyeti düşürür.
İnce ayarın karşılığını verdiği durumlar
- Çıktının her seferinde aynı katı yapıda olması gerekiyorsa
- Alan dili genel modelin doğal olarak bilmediği kadar özelse
- Aynı uzun yönerge her çağrıda tekrarlanıyorsa
- Küçük bir modelin büyük modele yakın davranması isteniyorsa
Çoğu zaman cevap “ikisi de”
Pratikte iyi çalışan kurulumlar genellikle ikisini birlikte kullanıyor: bilgi RAG ile geliyor, biçim ve ton ince ayarla sabitleniyor. Bunlar rakip değil, farklı katmanlar.
Ama sıra önemli. Önce RAG kurulur, ölçülür ve nerede yetersiz kaldığı görülür. İnce ayar, ölçüm olmadan yapıldığında neyi düzelttiği bilinmeyen bir maliyet kalemi olur.
Özet
Seçim için üç soru
- Bilgi değişiyor mu? — Evetse RAG
- Kaynak göstermek zorunda mısınız? — Evetse RAG
- Sorun bilgi değil biçim mi? — Evetse ince ayar
Ve her iki durumda da önce değerlendirme seti kurulur. Ölçüm yoksa hangisinin işe yaradığı da bir fikirden ibaret kalır.
Bu yazıda geçen ürünler
Sözlükten: RAG (Retrieval-Augmented Generation) · Halüsinasyon · Değerlendirme seti (eval)