Tek model her işe uygun değil
Bir metni iki kategoriden birine ayırmakla, çok adımlı bir analiz yapmak aynı yetenek gerektirmez. En güçlü modeli her işe koşmak, çivi çakmak için kepçe kiralamaya benzer: çalışır ama maliyeti anlamsızdır.
// NIJITECH · ÇEKİRDEK TEKNOLOJİ
niji core — otonom zekânın güven katmanı
Model orkestrasyonu, yapay zekâyı üretime almanın asıl işidir — bir modele istek göndermekten ibaret değil. Asıl iş, hangi modelin çalışacağına karar vermek, çıktıyı doğrulamak ve sonucun nereden geldiğini gösterebilmekte. niji core bu katmanın adı.
Kısaca
niji core, nijitech ürünlerinin ve müşteri çözümlerinin üzerinde çalıştığı ortak yapay zekâ omurgasıdır. Girdiyi ortak bir temsile çevirir, görevin türüne göre hangi modelin çalışacağına karar verir (model orkestrasyonu), üretilen çıktıyı doğrular ve kaynağına bağlar. Veri Avrupa Birliği bölgesinde işlenir; kritik kararlar insan onayından geçer.
00 — KAVRAM
Model orkestrasyonu nedir?
Tanım
Model orkestrasyonu, birden fazla yapay zekâ modelinin tek bir hat üzerinde yönetilmesidir. Sistem, gelen girdinin türüne ve görevin gereksinimine göre hangi modelin çalışacağına karar verir, sonucu işler ve tek bir tutarlı çıktı üretir.
Neden tek model yetmiyor?
Maliyet ve hız birlikte yönetilmeli
Model çağrılarının maliyeti işlem başına küçüktür ama hacimle çarpılır. Günde on bin çağrı yapan bir sistemde, görevlerin yarısını daha küçük bir modele yönlendirmek faturanın da gecikmenin de belirgin biçimde düşmesi demektir.
Tek sağlayıcıya bağımlılık risktir
Mimarisini tek bir model sağlayıcısının üzerine kuran sistem, o sağlayıcının fiyat değişikliğine, kota kısıtına ve politika güncellemesine açık kalır. Orkestrasyon katmanı bu bağı gevşetir: model değişir, hat aynı kalır.
Modeller eskir, hat kalır
Bugün en iyi olan model altı ay sonra ikinci sırada olabilir. Uygulama koduna gömülmüş bir model çağrısını değiştirmek her seferinde geliştirme işidir; yönlendirme katmanında yapılan değişiklik ise yapılandırma işidir.
Sık karıştırılanlar
- Birden fazla modeli aynı anda çalıştırıp sonuçları birleştirmek
- Orkestrasyon, hangi modelin çalışacağına karar vermektir. Aynı işi birden fazla modele yaptırıp oylamak ayrı bir tekniktir ve maliyeti katlar; her durumda gerekmez.
- Yapay zekâ ajanıyla aynı şey
- Ajan, bir hedefe ulaşmak için adımları kendi planlayan sistemdir. Orkestrasyon ise o adımların her birinde hangi modelin çalışacağını belirleyen alt katmandır. Ajan orkestrasyonu kullanır; tersi değil.
- Sadece maliyet optimizasyonu
- Maliyet önemli bir sonuçtur ama tek amaç değildir. Doğruluk, gecikme ve sağlayıcı bağımsızlığı da aynı katmanda yönetilir.
01 — NASIL ÇALIŞIR
Girdiden çıktıya dört katman.
Hat her üründe aynı sırayla işler; değişen şey girdinin ne olduğu ve çıktının neye dönüştüğü.
01
Girdi katmanı
Ses, metin ve sistem sinyali — üç farklı biçim, tek akış.
Bir toplantının sesi, bir müşterinin WhatsApp mesajı ve bir pazaryerinin fiyat akışı birbirine hiç benzemez. Girdi katmanı bunları ortak bir temsile çevirir: ses yazıya döner, serbest metin yapılandırılır, sistem sinyalleri zaman damgasıyla sıraya girer. Sonraki katmanların hangi kaynaktan geldiğini bilmesi gerekmez.
02
Yönlendirme ve orkestrasyon
Hangi görev hangi modele gider — kararı sistem verir.
Her görevi en güçlü modele göndermek pahalıdır; her görevi en ucuz modele göndermek yanlış sonuç üretir. Yönlendirme katmanı, görevin türüne ve gereksinimine bakarak hangi modelin çalışacağına karar verir. Kısa bir sınıflandırma için küçük model yeterken, çok adımlı bir çıkarım için daha yetenekli bir model devreye girer. Bu karar sabit değildir; ölçüm sonuçlarına göre değişir.
03
İşleme ve doğrulama
Model çıktısı doğrudan kullanılmaz; önce kontrolden geçer.
Model bir sonuç üretir, ama o sonuç ham hâliyle kullanıcıya gitmez. Çıktı beklenen biçime uyuyor mu, kaynağıyla tutarlı mı, güven eşiğinin üzerinde mi — bunlar kontrol edilir. Eşiğin altında kalan çıktılar ya yeniden üretilir ya da insan onayına düşer. Halüsinasyona karşı asıl savunma bu katmandadır.
04
Çıktı katmanı
Özet, skor, eşleşme — ve her birinin kaynağı.
Çıktı ürüne göre değişir: bir toplantı özeti, bir kârlılık skoru, bir sürücü eşleşmesi. Değişmeyen şey, her çıktının kaynağına bağlı olmasıdır. Özetin hangi cümleden, skorun hangi veriden türediği kayıtlıdır — bu bağ olmadan denetim de itiraz da mümkün olmaz.
02 — DÖRT İLKE
Neden böyle tasarlandı.
Dördü de bir tercih; her birinin bir maliyeti ve bir gerekçesi var. Aşağıda ikisini de yazdık.
Veri işleme bölgesi
On-premise kurulumda veri kurumun kendi altyapısında kalır ve dışarı çıkmaz. Bulut kullanımında işleme ABD ve AB bölgelerinde yapılır; yurt dışı aktarım için KVKK m. 9 tedbirleri uygulanır. Alt işleyenlerin tam listesi Veri İşleme Eki, Ek C'de.
Neden
KVKK m. 9 yurt dışına veri aktarımını izne ve güvenceye bağlar; GDPR ise veri ikametgâhını denetimin temel şartlarından sayar. On-premise kurulum bu iki gerekliliği aktarım tartışmasına hiç girmeden karşılar: veri kurumun altyapısından çıkmaz. Bulut kullanımında işleme ABD ve AB bölgelerinde yapılır ve aktarım için m. 9 tedbirleri uygulanır.
Pratikte
Model çağrıları on-premise veya buluttaki altyapı üzerinden geçer. Kurumsal alıcının hukuk ekibi "veri nereye gidiyor" sorusunu sorduğunda cevap tek cümledir.
Açıklanabilir çıktı
Her sonuç, türediği kaynağa bağlıdır.
Neden
Kara kutu bir çıktıya itiraz edilemez. Sonucun neden o sonuç olduğu gösterilemiyorsa, hata ayıklanamaz, denetim yapılamaz ve kullanıcı sisteme güvenmez. Açıklanabilirlik bir raporlama özelliği değil, mimari tercihtir.
Pratikte
Toplantı özetindeki her madde transkriptteki cümleye, bir ürün skoru dayandığı talep ve rekabet verisine, bir bütçe kaydırması onu tetikleyen performans değişimine geri götürülebilir.
İnsan-onaylı karar
Kritik kararlar yayınlanmadan önce insan onayından geçer.
Neden
Tam otonom karar, hatanın maliyeti düşük olduğunda mantıklıdır. Fatura kesmek, müşteriye yanıt göndermek veya bütçe kaydırmak gibi geri alınması pahalı işlemlerde ise onay adımı sistemin bir eksiği değil, güvencesidir.
Pratikte
Hangi kararın onaya düşeceği kurgu aşamasında belirlenir — sonradan eklenen bir kontrol değil, baştan tasarlanan bir eşik.
Edge ölçeklenme
İşlem kullanıcıya yakın noktada çalışır.
Neden
Gerçek zamanlı çalışan bir sistemde gecikme, doğruluk kadar belirleyicidir. Toplantı sürerken gelen bir özet, iki saniye geciktiğinde işe yaramaz hâle gelir. Uzak bir bölgeye gidip dönen her istek bu bütçeyi tüketir.
Pratikte
Hafif işlemler kullanıcıya yakın çalışır, ağır çıkarım merkezî katmana bırakılır. Bu ayrım hem gecikmeyi hem maliyeti düşürür.
03 — KURUMSAL UYUM
Hangi gereklilik, hangi mimari karşılık.
Uyum bir belge işi değil, mimari işidir. Aşağıdaki tablo hangi yasal gerekliliğin hangi tasarım tercihiyle karşılandığını gösterir.
| Gereklilik | Dayanak | Mimari karşılık |
|---|---|---|
| Veri yurt dışına çıkarılmamalı | KVKK m. 9 | İşleme on-premise veya bulutta yapılır. |
| Otomatik kararlara itiraz edilebilmeli | GDPR m. 22 | Kritik kararlarda insan onayı; her çıktı kaynağına bağlı. |
| İşlemenin denetlenebilir olması | KVKK m. 12 · GDPR m. 30 | Girdi, model kararı ve çıktı zinciri kayıtlı ve izlenebilir. |
| Veri minimizasyonu | KVKK m. 4 · GDPR m. 5 | Saklama süresi sözleşmede tanımlı; süresiz saklama varsayılan değil. |
| Verinin başka amaçla kullanılmaması | Amaçla sınırlılık | Varsayılan olarak hayır. İki istisna var: kavram kanıtı (POC) çalışmalarında, katılan şirketin yazılı izni doğrultusunda; ve müşterinin kendi platformunun geliştirilmesi için, yalnızca kendi talebiyle. Bunların dışında müşteri verisi model eğitiminde kullanılmaz ve bir müşterinin verisiyle eğitilen model başka bir müşteriye hizmet vermez. |
04 — ÜZERİNDE ÇALIŞANLAR
On altı ürün, aynı çekirdek.
Bir mimarinin işe yarayıp yaramadığı ancak farklı problemlerde denendiğinde anlaşılır. Aşağıdaki on altı ürün birbirinden çok farklı işler yapıyor ama aynı hat üzerinde çalışıyor.
nijibotSes → transkript → özet → aksiyon
WhatsModÇok kanal → tek kutu → onaylı yanıt
AMZAIPlusListeleme → fiyat → Buy Box
Amz CalculusTalep + rekabet + maliyet → kârlılık
cep taxiKonum + talep → eşleşme → tahsilat
OtoWosTaksit + escrow + yasal arşiv
AdMostPerformans → bütçe dağıtımı → ROAS
PylunEVM uyumlu zincir + DeFi katmanı
CMDeskUzak erişim → SSH → toplu dağıtım
KovanlySanal sunucu → ağ → yedekleme
LattixEş-eşe ağ → uçtan uca şifreleme
HiriAday havuzu → skorlama → insan onayı
Global Company ServiceBelge → kuruluş → banka ve vergi kaydı
Tera LIVECanlı yayın → sesli oda → hediye ekonomisi
Exporia.ioKatalog → alıcı listesi → satış dizisi
Yeşil DünyaÖlçüm → kaynağa bağlama → azaltma takibiTERİMLER
Bu sayfada geçen kavramlar.
Tanımları burada tekrarlamak yerine sözlükte tek yerde tutuyoruz.
SIKÇA SORULAN SORULAR
niji core hakkında merak edilenler.
niji core nedir?
niji core, nijitech ürünlerinin ve müşteri çözümlerinin üzerinde çalıştığı ortak yapay zekâ omurgasıdır. Girdiyi alır, hangi modelin çalışacağına karar verir, çıktıyı doğrular ve kaynağına bağlar. Ürünlerin tamamı aynı çekirdeği kullanır.
Model orkestrasyonu ile yapay zekâ orkestrasyonu aynı şey mi?
Pratikte aynı kavramı tarif ederler: birden fazla modelin tek bir hat üzerinde yönetilmesi. "Model orkestrasyonu" ifadesi hangi modelin çalışacağı kararına, "yapay zekâ orkestrasyonu" ise modeller, araçlar ve veri akışlarının bütününe vurgu yapar. niji core her iki katmanı da kapsar.
Hangi yapay zekâ modellerini kullanıyorsunuz?
Tek bir modele bağlı değiliz. Görevin türüne göre farklı modeller devreye girer ve bu seçim ölçüm sonuçlarına göre değişebilir. Model bağımsızlığı bilinçli bir tercihtir: tek sağlayıcıya bağımlı bir mimari, o sağlayıcının fiyat ve politika değişikliklerine açık kalır.
Halüsinasyona karşı ne yapıyorsunuz?
Üç katmanlı savunma var. Çıktı beklenen biçime uyuyor mu diye kontrol edilir; kaynağıyla tutarlılığı denetlenir; güven eşiğinin altında kalan sonuçlar ya yeniden üretilir ya insan onayına düşer. Ayrıca her çıktının kaynağa bağlı olması, uydurulmuş bir sonucu görünür kılar.
Kendi verimizle özel model eğitiliyor mu?
Varsayılan yaklaşım eğitim değil, erişimdir: modelin sizin verinize sorgu anında ulaşmasını sağlarız (RAG). Bu, veriyi modele gömmediği için hem güncel kalır hem de veriyi geri çekmek mümkün olur. Özel eğitim gerektiren durumlar ayrıca değerlendirilir.
Sistem ne kadar doğru çalışıyor?
Doğruluk göreve göre ölçülür ve her proje kendi değerlendirme setini kurar. Sabit bir "yüzde şu kadar doğru" iddiası, hangi görevde ve hangi veride ölçüldüğü söylenmeden anlamsızdır. Keşif aşamasında hangi metrikle ölçüleceği birlikte belirlenir.
Mevcut altyapımıza kurulabilir mi?
Entegrasyon katmanı bunun için var. Takvim, CRM, mesajlaşma ve muhasebe sistemleriyle çalışan bağlantılar kuruyoruz. Hangi sisteme bağlanılacağı ve bunun teknik olarak mümkün olup olmadığı keşif aşamasında netleşir.
Genel sorular için SSS sayfası · hizmetlerimiz için kurumsal çözümler
BAŞLAYIN
Aynı çekirdeği sizin probleminize kuralım.
Hangi işin bu hatta oturduğunu keşif görüşmesinde birlikte çıkarırız.
Keşif görüşmesi planla →