Veri egemenliği
Eğitim verisi, belgeleriniz, istemler (prompt) ve yanıtlar Trabzon'da size ayrılmış ağda işlenir. Hiçbir soru üçüncü taraf bir modele gönderilmez.
Güçlü Altyapı. Sınırsız Olanaklar.
GPU & AI · UÇTAN UCA PLATFORM
Kendi verinizle çalışan yapay zekâ uygulamaları için veriden modele, modelden son kullanıcıya kadar tüm katmanları tek çatı altında kuruyoruz. Özel LLM'iniz, RAG boru hattınız ve MLOps araçlarınız Trabzon'daki veri merkezimizde çalışır; eğitim verileriniz yurt dışına çıkmaz.
NEDEN KENDİ AI ALTYAPINIZ?
Genel amaçlı yapay zekâ servisleri hızlı bir başlangıç sağlar. Ancak kurum içi belgeler, müşteri kayıtları veya üretim verisiyle çalışan kalıcı uygulamalarda veri konumu, maliyet ve kontrol belirleyici hâle gelir.
Eğitim verisi, belgeleriniz, istemler (prompt) ve yanıtlar Trabzon'da size ayrılmış ağda işlenir. Hiçbir soru üçüncü taraf bir modele gönderilmez.
Kullanım arttıkça token başına ödenen fatura da büyür. Ayrılmış GPU kapasitesinde maliyet sabittir; kullanıcı sayınız arttıkça istek başına maliyet düşer.
Modeli seçen, sürümünü sabitleyen ve kendi verinizle fine-tune eden sizsiniz. Bir sağlayıcının model güncellemesi uygulamanızın davranışını bir gecede değiştirmez.
Model, verinin ve uygulamanın hemen yanında çalışır. İstanbul ve Ankara'daki kullanıcılarınıza milisaniyeler içinde ulaşan omurgamızla yanıtlar hızlı akar.
REFERANS MİMARİ
Bir senaryo seçin; hangi katmanların devreye girdiğini görün. Bir katmana tıklayarak bileşenlerini, NuageDC'nin rolünü ve tipik boyutlandırmayı inceleyin.
Kurum içi belgelerinizde arama yapıp kaynak göstererek yanıt veren özel dil modeli. Vektör veritabanı ve inference katmanı merkezdedir.
KATMAN 01
Yapay zekânın beslendiği tüm veri: dosya sunucuları, SharePoint ve wiki sayfaları, ERP/CRM veritabanları, e-posta arşivleri, kamera görüntüleri ve üretim hattı sensörleri. Veriler özel hat veya şifreli VPN ile Trabzon'a aktarılır.
BİLEŞENLER
BU SENARYODA
İK politikaları, prosedürler ve teknik dokümanlar gibi metin kaynakları öne çıkar; her belgenin erişim yetkisi de aktarılır.
PLATFORM BİLEŞENLERİ
Platformu yaygın açık kaynak araçlar üzerine kuruyoruz. Böylece ekipleriniz bildikleri araçlarla çalışır, iş yükleriniz taşınabilir kalır. GPU donanım seçenekleri için GPU Cloud sayfasına göz atın.
Tek GPU'lu geliştirme ortamından 8 GPU'lu düğümlere ve çok düğümlü kümelere. Kubernetes üzerinde GPU Operator ile sürücü, CUDA ve izleme bileşenleri otomatik yönetilir.
Eğitim sırasında yerel NVMe scratch, ekipler arası paylaşılan dosya sistemi ve veri gölü için S3 uyumlu nesne depolama. Kontrol noktaları (checkpoint) otomatik yedeklenir.
Düğümler arası 100G ağ ve izole VLAN'lar. Çok düğümlü büyük model eğitimi için RDMA (InfiniBand veya RoCE) bağlantı proje bazında tasarlanır.
Veri bilimcileriniz için hazır not defteri ortamı, deney takibi, model kayıt sistemi ve eğitimden yayına kadar tekrarlanabilir boru hatları.
Yüksek verimli LLM sunucuları, OpenAI uyumlu API uç noktası ve yük arttıkça otomatik ölçekleme. Model sürümleri arasında kademeli geçiş yapılabilir.
Belgelerinizi parçalayan, vektörleştiren ve yetki bilgisiyle indeksleyen boru hattı. Kullanıcı yalnızca erişim hakkı olan belgelerden yanıt alır.
Model lisansları hakkında: Llama, Mistral, Qwen ve Gemma gibi açık ağırlıklı model ailelerinin her birinin kendi lisans koşulları vardır; ticari kullanım, kullanıcı sayısı veya çıktıların kullanımıyla ilgili kısıtlar içerebilir. Model seçimini proje başında bu koşulları birlikte değerlendirerek yaparız. Ürün ve marka adları sahiplerine aittir.
ÖZEL LLM BOYUTLANDIRMA
Kullanıcı sayınızı, istek hacminizi ve modelinizi seçin; ihtiyaç duyacağınız GPU yapılandırmasını ve bugünkü token bazlı API harcamanızı görün. Yapılandırmanıza özel teklifi ekibimiz hazırlasın.
Asistanı düzenli kullanacak çalışan veya müşteri sayısı.
Hesapta tokenların yaklaşık %25'i çıktı (üretilen yanıt), kalanı girdi (soru + RAG bağlamı) kabul edilir.
Model boyutu
Hassasiyet
Yanıt süresi hedefi
Nasıl hesaplanır? Günün 10 iş saatine yayılan isteklerde tepe yük ortalamanın 2,5 katı alınır. Gereken bellek = model ağırlıkları + eşzamanlı isteklerin KV önbelleği; gereken hız = tepe anda üretilecek token/sn. Her GPU tipi için bu iki koşulu sağlayan en küçük yapılandırma bulunur ve en verimli olanı önerilir. Sonuçlar ön fikir niteliğindedir.
Önerilen yapılandırma
2× NVIDIA L40S
Bellek ve hız hedefini en az kaynakla karşılar.
| GPU | Adet | VRAM |
|---|
Toplam GPU belleği
96 GB
Token bazlı API / ay (varsayımınız)
₺52.800
Fiyat, yapılandırmanıza özel olarak teklifle iletilir.
—
Öneri ön fikir niteliğindedir; kesin boyutlandırma PoC ölçümleriyle netleşir. API harcaması yalnızca sizin girdiğiniz varsayımla hesaplanır ve herhangi bir sağlayıcının fiyatını temsil etmez.
RAG NASIL ÇALIŞIR?
RAG (Retrieval-Augmented Generation), modelin yanıt üretmeden önce yalnızca sizin belgelerinizde arama yapmasını sağlar. Kurgusal bir şirketin İK politikası üzerinden adım adım izleyin.
ADIM 1 / 7
NuageDC · TrabzonDosya sunucusundaki İK politikaları, yan haklar kılavuzu ve iç wiki sayfaları okunur. Her belgenin hangi gruplara açık olduğu bilgisi de birlikte alınır.
kaynak/İK-Politikası-2026.pdf 42 sayfa erişim: ik-tum kaynak/Yan-Haklar-Kılavuzu.docx 31 sayfa erişim: ik-tum wiki/ik/sss 45 sayfa erişim: tum-calisanlar ───────────────────────────────────────────────────── 3 belge · 118 sayfa okundu
Soru 5. adımda sorulur; yanıt 7. adımda kaynağıyla birlikte gelir.
Kurgusal örnek şirket politikasıdır; gerçek bir kuruma ait değildir.
HİZMET MODELLERİ
Güçlü bir veri bilimi ekibiniz varsa altyapıyı teslim alın; operasyon yükünü azaltmak istiyorsanız platformu biz yönetelim; ilk projenizse fikirden üretime birlikte ilerleyelim.
GPU kümesi + Kubernetes, yönetim sizde
GPU düğümleri, depolama ve ağ hazır teslim edilir; Kubernetes ve GPU Operator kurulu gelir. Araçları ve modelleri kendi ekibiniz kurar ve işletir.
GPU başına aylık ₺12.260'den başlayan
GPU Seçeneklerini GörMLOps araçları kurulu ve izleniyor
JupyterHub, MLflow, vektör veritabanı ve inference sunucusu ekibimizce kurulur, güncellenir ve 7/24 izlenir. Ekibiniz modele ve uygulamaya odaklanır.
Kullanılan GPU kapasitesi + platform yönetim bedeli · teklifle
Teklif AlKeşiften üretime birlikte
Kullanım senaryosunun seçimi, veri hazırlığı, model ve RAG tasarımı, değerlendirme (eval) ve üretime alma; çözüm ortaklarımızla birlikte proje bazlı yürütülür.
Kapsama göre proje bazlı fiyatlandırma
Keşif Görüşmesi PlanlaKULLANIM SENARYOLARI
Hassas veriyle çalışan kurumların en sık başladığı projeler; her birinde verinin konumu ve erişim kontrolü tasarımın merkezindedir.
Mevzuat, yönetmelik ve kurum içi yazışmalarda kaynak göstererek yanıt veren asistan; veriler yurt içinde, erişim birim bazında sınırlı.
Yaklaşım: Özel LLM + RAG
Prosedür, ürün ve iç kontrol dokümanlarında şube çalışanlarına hızlı yanıt; her yanıt kaynağıyla birlikte, tüm sorgular denetim kaydında.
Yaklaşım: RAG + erişim denetimi
Tıbbi görüntülerde ön değerlendirme ve önceliklendirme modelleri; hekim kararını destekleyen, anonimleştirilmiş veriyle eğitilen sistemler.
Yaklaşım: Vision · fine-tune
Hat kameralarından gelen görüntülerde hata tespiti; model Trabzon'da eğitilir, sahada hafif sürümüyle çalışır ve yeni örneklerle düzenli güncellenir.
Yaklaşım: Vision · MLOps
Görüşmelerin yazıya dökülmesi, özetlenmesi ve konu/duygu sınıflandırması; müşteri sesi verisi kurum dışına çıkmadan işlenir.
Yaklaşım: Konuşma tanıma + LLM
Davranış verisiyle kişiselleştirilmiş ürün önerisi, akıllı arama ve talep tahmini; kampanya dönemlerinde otomatik ölçeklenen inference.
Yaklaşım: Klasik ML + vektör arama
PROJE SÜRECİ
Her aşama, bir sonrakine geçmeden önce ölçülebilir başarı ölçütleriyle değerlendirilir. Böylece yatırım, kanıtlanmış değer kadar büyür.
Senaryo seçimi, veri envanteri ve başarı ölçütleri; sınırlı veriyle hızlı bir kavram kanıtı.
2–4 haftaGerçek kullanıcı grubuyla deneme, geri bildirim toplama, kalite ve maliyet ölçümü.
4–8 haftaÖlçeklenebilir inference, yetki entegrasyonu (AD/SSO), izleme ve yedekli mimariyle yayına alma.
4–6 hafta7/24 izleme, model ve veri güncellemeleri, kalite değerlendirmesi ve kapasite planlaması.
sürekliGÜVENLİK, KVKK & SORUMLU AI
Modelin ne bildiği kadar, kimin neye erişebildiği de önemlidir. Platformu; veri minimizasyonu, erişim kontrolü ve izlenebilirlik ilkeleriyle tasarlıyoruz.
Platform size ayrılmış VLAN'da çalışır; model uç noktaları internete açılmadan yalnızca VPN veya özel hat üzerinden erişilebilir.
RAG aramasında kullanıcının yetkisi olmayan belgeler hiç getirilmez; kimlik doğrulama kurumsal dizininizle (AD/SSO) bütünleşir.
Model, veri ve yönetim işlemleri kayıt altına alınır; kayıtlar SIEM sisteminize aktarılabilir ve saklama süreleri politikanıza göre ayarlanır.
Eğitim ve indeksleme için gerekli olmayan kişisel veriler ayıklanır veya maskelenir; anonimleştirme adımları boru hattına eklenebilir.
Hangi modelin hangi sürümünün, hangi veriyle ve hangi lisansla kullanıldığı model kayıt sisteminde izlenebilir tutulur.
Yanıt kalitesi test setleriyle düzenli ölçülür; kritik kararları etkileyen kullanımlarda insan onayı süreçlere dahil edilir.
SIKÇA SORULAN SORULAR
Özel LLM, RAG, veri konumu ve boyutlandırmayla ilgili en çok sorulan soruları yanıtladık.
AI çözüm ekibi
0212 951 00 61GPU Cloud, GPU'lu sanal sunucu veya bare-metal sunucu kiralamaktır; üzerindeki yazılımı siz kurar ve yönetirsiniz. AI & ML Altyapısı ise veri depolama, vektör veritabanı, eğitim kümesi, model kayıt sistemi, inference katmanı, izleme ve güvenliği kapsayan uçtan uca bir platformdur ve isterseniz ekibimiz tarafından yönetilir.
Hayır. Eğitim verileri, vektör veritabanı, model ağırlıkları ve inference trafiği Trabzon'daki veri merkezimizde, size ayrılmış izole bir ağda işlenir. Harici bir yapay zekâ API'sine veri gönderilmez; yurt dışı bağlantı yalnızca sizin açıkça tanımladığınız durumlarda kullanılır.
Llama, Mistral, Qwen ve Gemma aileleri gibi açık ağırlıklı modeller ile kendi eğittiğiniz modeller çalıştırılabilir. Her modelin lisans koşulları farklıdır; ticari kullanım, kullanıcı sayısı veya çıktıların kullanımıyla ilgili kısıtları proje başında birlikte değerlendiririz.
RAG, modelin yanıt üretmeden önce kendi belgelerinizde arama yapıp ilgili bölümleri kullanmasıdır. Bilgi sık güncelleniyorsa ve yanıtlarda kaynak gösterilmesi isteniyorsa genellikle ilk tercihtir. Fine-tuning ise modelin üslubunu, formatını veya alana özgü becerisini değiştirmek için kullanılır; iki yöntem birlikte de uygulanabilir. Akışı RAG demosunda adım adım izleyebilirsiniz.
Model boyutu, hassasiyet (FP16, FP8, INT4), eşzamanlı kullanıcı sayısı, bağlam uzunluğu ve yanıt süresi hedefi birlikte değerlendirilir. Tahmin aracı ilk fikri verir; kesin boyutlandırma, kendi verinizle yapılan bir PoC sırasında ölçülen gerçek değerlerle netleşir.
Büyük modellerin çok düğümlü eğitimi için sunucular arası RDMA bağlantı (InfiniBand veya RoCE) proje bazında tasarlanır. Tek düğümde 8 GPU'ya kadar olan iş yükleri ve inference kümeleri standart 100G ağ altyapımızda çalışır. Yüksek güç yoğunluklu kurulumlar için Alan Kiralama seçeneklerine göz atın.
Seçtiğiniz hizmet modeline bağlıdır. Altyapı modelinde Kubernetes ve GPU Operator hazır teslim edilir, araçları siz kurarsınız. Yönetilen platform modelinde JupyterHub, MLflow, vektör veritabanı ve inference sunucusu ekibimizce kurulur, güncellenir ve izlenir.
İlk keşif görüşmesi ücretsizdir. Ardından kullanım senaryonuza göre kapsamı ve başarı ölçütleri tanımlanmış, süreli bir PoC ortamı hazırlanır. PoC koşulları ve kaynak kullanımı teklifte açıkça belirtilir; PoC sonrasında pilot ve üretim aşamalarına geçilir.
TEKLİF AL
İhtiyaçlarınızı kısaca paylaşın; çözüm mimarlarımız mevcut altyapınızı değerlendirip performans, güvenlik ve bütçe dengesini gözeten bir öneriyle size dönsün.
İLGİLİ HİZMETLER
NVIDIA GPU'lu sanal ve bare-metal sunucular; saatlik veya aylık.
Detaylı İnceleAI uygulamalarınızın yanında çalışan, size ayrılmış kaynak havuzu.
Detaylı İnceleKendi GPU kümeniz için yüksek yoğunluklu kafes ve özel süitler.
Detaylı İnceleVeri kaynaklarınızdan Trabzon'a özel hat ve yüksek hızlı bağlantı.
Detaylı İncele