// YAPAY ZEKÂ
Yapay zekâ pilotu neden üretime geçmiyor?
7 dk okumanijitech
Pilot çalışan bir yapay zekâ projesi ile üretimde ayakta kalan bir sistem arasındaki fark modelde değil, modelin etrafındaki katmanda. Dört somut kırılma noktası.
Yazının tamamı
Bir yapay zekâ pilotunun başarılı sayılması kolaydır: seçilmiş bir veri kümesinde, seçilmiş örneklerle, geliştiricinin gözü önünde çalışır. Aynı sistemin üretimde ayakta kalması bambaşka bir iştir. Aradaki farkın modelin kendisiyle ilgisi çoğu zaman yoktur; fark, modelin etrafına kurulmayan katmandadır.
1. Girdi pilotta temiz, üretimde değil
Pilot verisi genellikle elle seçilir: okunabilir belgeler, düzgün ses kayıtları, eksiksiz alanlar. Üretimde gelen şey ise taranmış bir faturanın yamuk fotoğrafı, arka planda üç kişinin konuştuğu bir toplantı kaydı, yarısı boş bırakılmış bir form olur. Model aynı modeldir; girdi dağılımı değişmiştir.
Üretimde karşılaşılan tipik girdi sorunları
- Aynı bilginin her tedarikçide farklı biçimde gelmesi
- Eksik ya da çelişkili alanlar
- Beklenmeyen dil, format veya kodlama
- Zamanla kayan veri dağılımı — geçen yıl işe yarayan kural bu yıl yaramaz
Buradaki çözüm daha güçlü bir model değil, girdiyi ortak bir temsile çeviren bir katmandır. Sonraki adımların verinin nereden geldiğini bilmesi gerekmez.
2. Doğrulanmayan çıktı, üretimde çıktı sayılmaz
Pilotta çıktıya insan bakar. Üretimde günde binlerce çıktı üretilir ve hiçbirine tek tek bakılmaz. Bu yüzden sistemin kendi çıktısını doğrulayabilmesi ve emin olmadığında bunu söyleyebilmesi gerekir. Doğrulama katmanı olmayan bir kurulumda hata, fark edildiğinde çoktan aşağı akmıştır.
3. Maliyet pilotta görünmez, hacimde görünür
Model çağrısının işlem başına maliyeti küçüktür ve pilotta fark edilmez. Günde on bin çağrı yapan bir sistemde aynı sayı faturanın tamamını belirler. Her işi en güçlü modele göndermek, çivi çakmak için kepçe kiralamaya benzer: çalışır, ama karşılığı yoktur.
İşlerin bir kısmını daha küçük modellere yönlendirmek yalnızca faturayı değil, gecikmeyi de düşürür. Bunun için hangi işin hangi modele gideceğine karar veren bir yönlendirme katmanı gerekir — kararı uygulama koduna gömmek, her değişikliği geliştirme işine çevirir.
4. Sahipsiz karar, üretimde en pahalı hatadır
Otonom bir sistem yanlış karar verdiğinde sorulacak ilk soru şudur: bu kararı kim verdi ve neye dayanarak verdi? Cevabı olmayan kurulumlar, ilk ciddi hatadan sonra genellikle kapatılır. Kritik eşiklerde insan onayı istemek sistemi yavaşlatmaz; sistemin hayatta kalmasını sağlar.
Özet
Pilottan üretime geçerken sorulacak dört soru
- Girdi her seferinde aynı biçimde gelmediğinde ne oluyor?
- Çıktıyı kim doğruluyor ve kaynağını gösterebiliyor mu?
- Hacim on katına çıkarsa maliyet ve gecikme ne olur?
- Yanlış kararın sahibi kim ve hangi eşikte insana soruluyor?
Bu dört sorunun cevabı bir modelde değil, modelin etrafındaki hatta bulunur. nijitech ürünlerinin tamamı bu yüzden aynı omurga üzerinde çalışır.
Sözlükten: İnsan-onaylı karar (human-in-the-loop) · Değerlendirme seti (eval)