İçeriğe geç

GPU & AI · UÇTAN UCA PLATFORM

AI & Machine Learning Altyapısı

Kendi verinizle çalışan yapay zekâ uygulamaları için veriden modele, modelden son kullanıcıya kadar tüm katmanları tek çatı altında kuruyoruz. Özel LLM'iniz, RAG boru hattınız ve MLOps araçlarınız Trabzon'daki veri merkezimizde çalışır; eğitim verileriniz yurt dışına çıkmaz.

  • Yerli veriTrabzon · KVKK
  • Özel LLMRAG & fine-tune
  • MLOpshazır platform
  • GPU kümeleritek düğümden kümeye

NEDEN KENDİ AI ALTYAPINIZ?

Yapay zekânın değeri verinizde; veriniz de sizde kalmalı

Genel amaçlı yapay zekâ servisleri hızlı bir başlangıç sağlar. Ancak kurum içi belgeler, müşteri kayıtları veya üretim verisiyle çalışan kalıcı uygulamalarda veri konumu, maliyet ve kontrol belirleyici hâle gelir.

Veri egemenliği

Eğitim verisi, belgeleriniz, istemler (prompt) ve yanıtlar Trabzon'da size ayrılmış ağda işlenir. Hiçbir soru üçüncü taraf bir modele gönderilmez.

Öngörülebilir maliyet

Kullanım arttıkça token başına ödenen fatura da büyür. Ayrılmış GPU kapasitesinde maliyet sabittir; kullanıcı sayınız arttıkça istek başına maliyet düşer.

Tam özelleştirme

Modeli seçen, sürümünü sabitleyen ve kendi verinizle fine-tune eden sizsiniz. Bir sağlayıcının model güncellemesi uygulamanızın davranışını bir gecede değiştirmez.

Düşük gecikme

Model, verinin ve uygulamanın hemen yanında çalışır. İstanbul ve Ankara'daki kullanıcılarınıza milisaniyeler içinde ulaşan omurgamızla yanıtlar hızlı akar.

REFERANS MİMARİ

Veriden yanıta, sekiz katmanlı AI platformu

Bir senaryo seçin; hangi katmanların devreye girdiğini görün. Bir katmana tıklayarak bileşenlerini, NuageDC'nin rolünü ve tipik boyutlandırmayı inceleyin.

Kurum içi belgelerinizde arama yapıp kaynak göstererek yanıt veren özel dil modeli. Vektör veritabanı ve inference katmanı merkezdedir.

KATMAN DETAYI ÖZEL LLM + RAG

KATMAN 01

Veri kaynakları

Yapay zekânın beslendiği tüm veri: dosya sunucuları, SharePoint ve wiki sayfaları, ERP/CRM veritabanları, e-posta arşivleri, kamera görüntüleri ve üretim hattı sensörleri. Veriler özel hat veya şifreli VPN ile Trabzon'a aktarılır.

BİLEŞENLER

  • Dosya sunucuları
  • SharePoint / wiki
  • ERP / CRM
  • Özel hat · VPN
NuageDC'nin rolü
Bağlantı tasarımı, veri aktarım hattı ve ilk senkronizasyon
Tipik boyut
Yüzlerce GB – birkaç yüz TB

BU SENARYODA

İK politikaları, prosedürler ve teknik dokümanlar gibi metin kaynakları öne çıkar; her belgenin erişim yetkisi de aktarılır.

PLATFORM BİLEŞENLERİ

Açık standartlar üzerine, kilitlenmeden kurulan platform

Platformu yaygın açık kaynak araçlar üzerine kuruyoruz. Böylece ekipleriniz bildikleri araçlarla çalışır, iş yükleriniz taşınabilir kalır. GPU donanım seçenekleri için GPU Cloud sayfasına göz atın.

Hesaplama

Tek GPU'lu geliştirme ortamından 8 GPU'lu düğümlere ve çok düğümlü kümelere. Kubernetes üzerinde GPU Operator ile sürücü, CUDA ve izleme bileşenleri otomatik yönetilir.

  • Kubernetes
  • GPU Operator
  • MIG
  • Ray
  • Slurm

Depolama katmanları

Eğitim sırasında yerel NVMe scratch, ekipler arası paylaşılan dosya sistemi ve veri gölü için S3 uyumlu nesne depolama. Kontrol noktaları (checkpoint) otomatik yedeklenir.

  • NVMe scratch
  • Paylaşımlı FS
  • S3 uyumlu
  • Snapshot

Yüksek hızlı ağ

Düğümler arası 100G ağ ve izole VLAN'lar. Çok düğümlü büyük model eğitimi için RDMA (InfiniBand veya RoCE) bağlantı proje bazında tasarlanır.

  • 100G
  • RDMA · talebe göre
  • İzole VLAN
  • Özel hat

MLOps

Veri bilimcileriniz için hazır not defteri ortamı, deney takibi, model kayıt sistemi ve eğitimden yayına kadar tekrarlanabilir boru hatları.

  • JupyterHub
  • MLflow
  • Kubeflow
  • Argo
  • GitLab CI

Inference & serving

Yüksek verimli LLM sunucuları, OpenAI uyumlu API uç noktası ve yük arttıkça otomatik ölçekleme. Model sürümleri arasında kademeli geçiş yapılabilir.

  • vLLM
  • Triton
  • TGI
  • KServe
  • Ollama · geliştirme

Veri & RAG

Belgelerinizi parçalayan, vektörleştiren ve yetki bilgisiyle indeksleyen boru hattı. Kullanıcı yalnızca erişim hakkı olan belgelerden yanıt alır.

  • pgvector
  • Milvus
  • Qdrant
  • OpenSearch

Model lisansları hakkında: Llama, Mistral, Qwen ve Gemma gibi açık ağırlıklı model ailelerinin her birinin kendi lisans koşulları vardır; ticari kullanım, kullanıcı sayısı veya çıktıların kullanımıyla ilgili kısıtlar içerebilir. Model seçimini proje başında bu koşulları birlikte değerlendirerek yaparız. Ürün ve marka adları sahiplerine aittir.

ÖZEL LLM BOYUTLANDIRMA

Kaç GPU gerekir, hangi yapılandırma?

Kullanıcı sayınızı, istek hacminizi ve modelinizi seçin; ihtiyaç duyacağınız GPU yapılandırmasını ve bugünkü token bazlı API harcamanızı görün. Yapılandırmanıza özel teklifi ekibimiz hazırlasın.

Asistanı düzenli kullanacak çalışan veya müşteri sayısı.

12
115304560
2.000
500kısa soruRAG bağlamıuzun belge12.000

Hesapta tokenların yaklaşık %25'i çıktı (üretilen yanıt), kalanı girdi (soru + RAG bağlamı) kabul edilir.

Model boyutu

Hassasiyet

Yanıt süresi hedefi

$ / 1M token

Nasıl hesaplanır? Günün 10 iş saatine yayılan isteklerde tepe yük ortalamanın 2,5 katı alınır. Gereken bellek = model ağırlıkları + eşzamanlı isteklerin KV önbelleği; gereken hız = tepe anda üretilecek token/sn. Her GPU tipi için bu iki koşulu sağlayan en küçük yapılandırma bulunur ve en verimli olanı önerilir. Sonuçlar ön fikir niteliğindedir.

GEREKEN GPU · İSTEK HACMİNE GÖREönerilen GPU tipinden gereken adet

Önerilen yapılandırma

2× NVIDIA L40S

Bellek ve hız hedefini en az kaynakla karşılar.

Günlük istek
6.000
Aylık token
360 mn
Tepe hız
210 tok/sn
Gereken bellek
52 GB
GPU tipine göre gereken yapılandırma ve toplam GPU belleği
GPUAdetVRAM

Toplam GPU belleği

96 GB

Token bazlı API / ay (varsayımınız)

₺52.800

Fiyat, yapılandırmanıza özel olarak teklifle iletilir.

—

Öneri ön fikir niteliğindedir; kesin boyutlandırma PoC ölçümleriyle netleşir. API harcaması yalnızca sizin girdiğiniz varsayımla hesaplanır ve herhangi bir sağlayıcının fiyatını temsil etmez.

RAG NASIL ÇALIŞIR?

Belgeden kaynaklı yanıta, yedi adımda

RAG (Retrieval-Augmented Generation), modelin yanıt üretmeden önce yalnızca sizin belgelerinizde arama yapmasını sağlar. Kurgusal bir şirketin İK politikası üzerinden adım adım izleyin.

ADIM 1 / 7

NuageDC · Trabzon

Belgeler içeri alınır

Dosya sunucusundaki İK politikaları, yan haklar kılavuzu ve iç wiki sayfaları okunur. Her belgenin hangi gruplara açık olduğu bilgisi de birlikte alınır.

kaynak/İK-Politikası-2026.pdf 42 sayfa erişim: ik-tum kaynak/Yan-Haklar-Kılavuzu.docx 31 sayfa erişim: ik-tum wiki/ik/sss 45 sayfa erişim: tum-calisanlar ───────────────────────────────────────────────────── 3 belge · 118 sayfa okundu
İK Asistanı özel LLM · Trabzon

Soru 5. adımda sorulur; yanıt 7. adımda kaynağıyla birlikte gelir.

Kurgusal örnek şirket politikasıdır; gerçek bir kuruma ait değildir.

HİZMET MODELLERİ

Ekibinizin olgunluğuna göre üç başlangıç noktası

Güçlü bir veri bilimi ekibiniz varsa altyapıyı teslim alın; operasyon yükünü azaltmak istiyorsanız platformu biz yönetelim; ilk projenizse fikirden üretime birlikte ilerleyelim.

Altyapı

GPU kümesi + Kubernetes, yönetim sizde

GPU düğümleri, depolama ve ağ hazır teslim edilir; Kubernetes ve GPU Operator kurulu gelir. Araçları ve modelleri kendi ekibiniz kurar ve işletir.

  • Donanım, sanallaştırma ve ağ bizde
  • Kubernetes + GPU Operator hazır
  • Saatlik veya aylık GPU faturalama

GPU başına aylık ₺12.260'den başlayan

GPU Seçeneklerini Gör

Uçtan uca proje

Keşiften üretime birlikte

Kullanım senaryosunun seçimi, veri hazırlığı, model ve RAG tasarımı, değerlendirme (eval) ve üretime alma; çözüm ortaklarımızla birlikte proje bazlı yürütülür.

  • Keşif atölyesi ve PoC
  • Başarı ölçütleri ve değerlendirme seti
  • Üretim, eğitim ve devir

Kapsama göre proje bazlı fiyatlandırma

Keşif Görüşmesi Planla

KULLANIM SENARYOLARI

Sektörünüzde yapay zekâ nerede değer üretir?

Hassas veriyle çalışan kurumların en sık başladığı projeler; her birinde verinin konumu ve erişim kontrolü tasarımın merkezindedir.

Kamu belge asistanı

Mevzuat, yönetmelik ve kurum içi yazışmalarda kaynak göstererek yanıt veren asistan; veriler yurt içinde, erişim birim bazında sınırlı.

Yaklaşım: Özel LLM + RAG

Banka içi bilgi asistanı

Prosedür, ürün ve iç kontrol dokümanlarında şube çalışanlarına hızlı yanıt; her yanıt kaynağıyla birlikte, tüm sorgular denetim kaydında.

Yaklaşım: RAG + erişim denetimi

Sağlıkta görüntü analizi

Tıbbi görüntülerde ön değerlendirme ve önceliklendirme modelleri; hekim kararını destekleyen, anonimleştirilmiş veriyle eğitilen sistemler.

Yaklaşım: Vision · fine-tune

Üretimde kalite kontrol

Hat kameralarından gelen görüntülerde hata tespiti; model Trabzon'da eğitilir, sahada hafif sürümüyle çalışır ve yeni örneklerle düzenli güncellenir.

Yaklaşım: Vision · MLOps

Çağrı merkezi analitiği

Görüşmelerin yazıya dökülmesi, özetlenmesi ve konu/duygu sınıflandırması; müşteri sesi verisi kurum dışına çıkmadan işlenir.

Yaklaşım: Konuşma tanıma + LLM

E-ticaret öneri sistemleri

Davranış verisiyle kişiselleştirilmiş ürün önerisi, akıllı arama ve talep tahmini; kampanya dönemlerinde otomatik ölçeklenen inference.

Yaklaşım: Klasik ML + vektör arama

PROJE SÜRECİ

Küçük başlayın, ölçerek büyüyün

Her aşama, bir sonrakine geçmeden önce ölçülebilir başarı ölçütleriyle değerlendirilir. Böylece yatırım, kanıtlanmış değer kadar büyür.

  1. 01

    Keşif & PoC

    Senaryo seçimi, veri envanteri ve başarı ölçütleri; sınırlı veriyle hızlı bir kavram kanıtı.

    2–4 hafta
  2. 02

    Pilot

    Gerçek kullanıcı grubuyla deneme, geri bildirim toplama, kalite ve maliyet ölçümü.

    4–8 hafta
  3. 03

    Üretim

    Ölçeklenebilir inference, yetki entegrasyonu (AD/SSO), izleme ve yedekli mimariyle yayına alma.

    4–6 hafta
  4. 04

    Operasyon

    7/24 izleme, model ve veri güncellemeleri, kalite değerlendirmesi ve kapasite planlaması.

    sürekli

GÜVENLİK, KVKK & SORUMLU AI

Güvenilir yapay zekâ, güvenli altyapıyla başlar

Modelin ne bildiği kadar, kimin neye erişebildiği de önemlidir. Platformu; veri minimizasyonu, erişim kontrolü ve izlenebilirlik ilkeleriyle tasarlıyoruz.

İzole ağ & private endpoint

Platform size ayrılmış VLAN'da çalışır; model uç noktaları internete açılmadan yalnızca VPN veya özel hat üzerinden erişilebilir.

Belge düzeyinde yetki

RAG aramasında kullanıcının yetkisi olmayan belgeler hiç getirilmez; kimlik doğrulama kurumsal dizininizle (AD/SSO) bütünleşir.

Erişim & denetim kayıtları

Model, veri ve yönetim işlemleri kayıt altına alınır; kayıtlar SIEM sisteminize aktarılabilir ve saklama süreleri politikanıza göre ayarlanır.

Veri minimizasyonu

Eğitim ve indeksleme için gerekli olmayan kişisel veriler ayıklanır veya maskelenir; anonimleştirme adımları boru hattına eklenebilir.

Model & veri envanteri

Hangi modelin hangi sürümünün, hangi veriyle ve hangi lisansla kullanıldığı model kayıt sisteminde izlenebilir tutulur.

Değerlendirme & insan denetimi

Yanıt kalitesi test setleriyle düzenli ölçülür; kritik kararları etkileyen kullanımlarda insan onayı süreçlere dahil edilir.

SIKÇA SORULAN SORULAR

Aklınıza takılanlar

Özel LLM, RAG, veri konumu ve boyutlandırmayla ilgili en çok sorulan soruları yanıtladık.

AI çözüm ekibi

0212 951 00 61
Bize Ulaşın

GPU Cloud, GPU'lu sanal sunucu veya bare-metal sunucu kiralamaktır; üzerindeki yazılımı siz kurar ve yönetirsiniz. AI & ML Altyapısı ise veri depolama, vektör veritabanı, eğitim kümesi, model kayıt sistemi, inference katmanı, izleme ve güvenliği kapsayan uçtan uca bir platformdur ve isterseniz ekibimiz tarafından yönetilir.

Hayır. Eğitim verileri, vektör veritabanı, model ağırlıkları ve inference trafiği Trabzon'daki veri merkezimizde, size ayrılmış izole bir ağda işlenir. Harici bir yapay zekâ API'sine veri gönderilmez; yurt dışı bağlantı yalnızca sizin açıkça tanımladığınız durumlarda kullanılır.

Llama, Mistral, Qwen ve Gemma aileleri gibi açık ağırlıklı modeller ile kendi eğittiğiniz modeller çalıştırılabilir. Her modelin lisans koşulları farklıdır; ticari kullanım, kullanıcı sayısı veya çıktıların kullanımıyla ilgili kısıtları proje başında birlikte değerlendiririz.

RAG, modelin yanıt üretmeden önce kendi belgelerinizde arama yapıp ilgili bölümleri kullanmasıdır. Bilgi sık güncelleniyorsa ve yanıtlarda kaynak gösterilmesi isteniyorsa genellikle ilk tercihtir. Fine-tuning ise modelin üslubunu, formatını veya alana özgü becerisini değiştirmek için kullanılır; iki yöntem birlikte de uygulanabilir. Akışı RAG demosunda adım adım izleyebilirsiniz.

Model boyutu, hassasiyet (FP16, FP8, INT4), eşzamanlı kullanıcı sayısı, bağlam uzunluğu ve yanıt süresi hedefi birlikte değerlendirilir. Tahmin aracı ilk fikri verir; kesin boyutlandırma, kendi verinizle yapılan bir PoC sırasında ölçülen gerçek değerlerle netleşir.

Büyük modellerin çok düğümlü eğitimi için sunucular arası RDMA bağlantı (InfiniBand veya RoCE) proje bazında tasarlanır. Tek düğümde 8 GPU'ya kadar olan iş yükleri ve inference kümeleri standart 100G ağ altyapımızda çalışır. Yüksek güç yoğunluklu kurulumlar için Alan Kiralama seçeneklerine göz atın.

Seçtiğiniz hizmet modeline bağlıdır. Altyapı modelinde Kubernetes ve GPU Operator hazır teslim edilir, araçları siz kurarsınız. Yönetilen platform modelinde JupyterHub, MLflow, vektör veritabanı ve inference sunucusu ekibimizce kurulur, güncellenir ve izlenir.

İlk keşif görüşmesi ücretsizdir. Ardından kullanım senaryonuza göre kapsamı ve başarı ölçütleri tanımlanmış, süreli bir PoC ortamı hazırlanır. PoC koşulları ve kaynak kullanımı teklifte açıkça belirtilir; PoC sonrasında pilot ve üretim aşamalarına geçilir.

TEKLİF AL

Projenizi konuşalım, size özel teklif hazırlayalım.

İhtiyaçlarınızı kısaca paylaşın; çözüm mimarlarımız mevcut altyapınızı değerlendirip performans, güvenlik ve bütçe dengesini gözeten bir öneriyle size dönsün.

  • 2 iş saati içinde dönüşMesai saatlerinde talebiniz hızla değerlendirilir.
  • Doğrudan teknik uzmanKarşınızda satış temsilcisi değil, çözüm mimarı olur.
  • Ücretsiz migrasyon planıTaşıma adımları teklifle birlikte netleşir.

* ile işaretli alanlar zorunludur.

Ortalama yanıt süresi: 2 iş saati