NVIDIA DGX Spark Founders Edition – GB10 Grace Blackwell, 128 GB, 4 TB NVMe

NVIDIA DGX Spark Founders Edition – Masaüstü AI Geliştirme Sistemi

NVIDIA DGX Spark, veri merkezlerinde kullanılan NVIDIA Grace Blackwell mimarisini 150 × 150 × 50.5 mm boyutlarında bir masaüstü sisteme taşır. Sistem; büyük dil modelleri, generative AI uygulamaları ve yapay zeka ajanları üzerinde çalışan geliştiricilerin, araştırmacıların ve veri bilimcilerin modelleri yerel olarak prototiplemesi, test etmesi, fine-tuning yapması ve inference çalıştırması için tasarlanmıştır.

Masaüstünde Grace Blackwell AI Gücü

Sistemin merkezinde yer alan NVIDIA GB10 Grace Blackwell Superchip, Blackwell mimarili GPU ile 20 çekirdekli Arm CPU’yu tek bir SoC içinde birleştirir. CPU tarafında 10 adet yüksek performanslı Cortex-X925 ve 10 adet verimlilik odaklı Cortex-A725 çekirdeği bulunur. GPU tarafında 6.144 CUDA çekirdeği, 5. nesil Tensor Core ve 4. nesil RT Core yer alır.

5. nesil Tensor Core’ların FP4 desteği sayesinde sistem, FP4 hassasiyetinde ve sparsity özelliği kullanıldığında 1 PFLOP’a kadar (yaklaşık 1.000 TOPS’a kadar) teorik AI performansı sunar. GB10 SoC’nin CPU ve GPU dahil termal tasarım gücü (TDP) 140 W’tır.

128 GB Birleşik Bellek

DGX Spark, 128 GB LPDDR5x coherent unified system memory kullanır. Bu mimaride CPU ve GPU aynı fiziksel bellek havuzunu tutarlı (coherent) biçimde paylaşır. Klasik iş istasyonlarında model ağırlıkları ve veriler sistem belleği ile ayrı GPU belleği arasında kopyalanırken, birleşik bellek yapısı bu veri taşıma ihtiyacını azaltır ve GPU’nun kullanabileceği bellek kapasitesini ayrık bir kartın VRAM sınırıyla kısıtlamaz.

Bellek 256-bit arabirim üzerinden 273 GB/s bant genişliği sağlar. NVIDIA’nın resmi dokümantasyonuna göre bu kapasite, 200 milyar parametreye kadar AI modelleriyle geliştirme, test ve inference çalışmalarını; 70 milyar parametreye kadar modellerde fine-tuning işlemlerini mümkün kılar. Gerçek model boyutu sınırı; kullanılan quantization/precision türüne, context uzunluğuna ve yazılım yapılandırmasına bağlıdır.

Generative AI ve LLM Geliştirme

DGX Spark, AI geliştirme döngüsünün yerel olarak yürütülmesi gereken aşamalarına odaklanır:

• Inference: Açık kaynak LLM’lerin ve multimodal modellerin yerel olarak çalıştırılması, test edilmesi ve doğrulanması.
• Fine-tuning: Önceden eğitilmiş modellerin kurum veya proje verisiyle özelleştirilmesi.
• Prototipleme ve model geliştirme: Uygulamaların geliştirilip doğrulanması; nihai ölçeklendirme için NVIDIA hızlandırmalı veri merkezi veya bulut altyapısına taşınabilecek iş akışlarının hazırlanması.
• Agentic AI: Sürekli çalışan otonom AI ajanlarının yerel ortamda geliştirilmesi ve çalıştırılması.
• RAG: Kurum içi dokümanların buluta gönderilmeden retrieval-augmented generation mimarileriyle sorgulanması.
• Computer vision ve edge uygulamaları: NVIDIA Isaac, Metropolis ve Holoscan gibi çerçevelerle robotik, akıllı şehir ve görüntü işleme uygulamalarının geliştirilmesi.

Yerel çalışma; hassas verilerin kurum dışına çıkmaması, bulut token/GPU saat maliyetlerinin azaltılması ve deneme-yanılma döngülerinin hızlanması açısından özellikle üniversite ve Ar-Ge ortamlarında avantaj sağlar.

NVIDIA Yazılım Ekosistemi

DGX Spark, Ubuntu tabanlı NVIDIA DGX OS ile gelir ve NVIDIA AI yazılım yığını önceden yüklü olarak sunulur. Sistem, NVIDIA’nın veri merkezi ve bulut platformlarında kullanılan yazılım ekosistemiyle aynı temeli paylaşır:

• CUDA ve NVIDIA hızlandırılmış kütüphaneleri
• PyTorch ve yaygın AI çerçeveleri
• TensorRT / TensorRT-LLM ile optimize inference
• NGC kataloğu üzerinden konteyner tabanlı iş akışları ve NVIDIA NIM gibi NVIDIA AI yazılım bileşenleri
• NVIDIA tarafından yayınlanan DGX Spark Playbook’ları ile adım adım örnek projeler

NVIDIA AI Enterprise gibi kurumsal yazılım ürünleri ayrı lisanslama koşullarına tabidir; kapsam ve lisans detayları için sipariş öncesi bizimle iletişime geçebilirsiniz.

Kompakt Masaüstü Tasarım

DGX Spark 150 × 150 × 50.5 mm boyutlarında ve yaklaşık 1.2 kg ağırlığındadır. Sistem, kutudan çıkan 240 W harici güç adaptörü ile standart bir AC prizden çalışır; rack, özel soğutma veya veri merkezi altyapısı gerektirmez. Laboratuvar masasında bağımsız bir bilgisayar olarak (monitör, klavye ve fare bağlanarak) ya da ağ üzerinden erişilen bir hesaplama cihazı olarak kullanılabilir.

Yüksek Hızlı Bağlantı

• NVIDIA ConnectX-7 NIC: 2 × QSFP konnektör üzerinden 200 Gbps’e kadar yüksek hızlı ağ bağlantısı
• 10 GbE Ethernet: 1 × RJ-45
• Wi-Fi 7 ve Bluetooth 5.4
• 4 × USB Type-C: Portlardan biri güç girişi için kullanılır; USB-C üzerinden 3 adede kadar DisplayPort (DP Alt Mode) çıkışı desteklenir
• 1 × HDMI 2.1a: HDMI çok kanallı ses çıkışı ile

ConnectX-7 ağ bağlantısı sayesinde birden fazla DGX Spark sistemi uygun kablo ve ağ yapılandırmasıyla birlikte çalıştırılarak daha büyük AI iş yükleri ele alınabilir. NVIDIA’ya göre iki sistemli yapılandırmada 405 milyar parametreye, dört sisteme kadar olan yapılandırmada 700 milyar parametreye kadar modellerle çalışılabilir. Her DGX Spark sistemi tamamen bağımsız olarak da kullanılabilir; çoklu sistem kurulumu isteğe bağlıdır ve bağlantı kabloları ayrıca temin edilir.

Kullanım Alanları

• Large Language Model (LLM) geliştirme ve inference
• Generative AI uygulamaları
• Fine-tuning ve model özelleştirme
• RAG (Retrieval-Augmented Generation) uygulamaları
• AI agent geliştirme
• Computer Vision
• Robotik ve otonom sistemler
• Üniversite ve akademik araştırma
• AI prototipleme
• Veri bilimi ve makine öğrenmesi

Kimler İçin Uygun?

• AI startup’ları: Bulut maliyetine bağlı kalmadan ürün prototipleme
• Üniversiteler: Laboratuvar, tez ve BAP projeleri için yerel AI altyapısı
• Ar-Ge merkezleri: Hassas verilerle kurum içinde model geliştirme
• AI mühendisleri: LLM, agent ve inference optimizasyonu çalışmaları
• Veri bilimciler: Büyük veri analitiği ve makine öğrenmesi iş akışları
• Sistem entegratörleri: Müşteri projeleri için AI çözüm doğrulama
• Robotik ekipleri: Isaac tabanlı simülasyon, algılama ve kontrol geliştirme
• Yazılım geliştirme firmaları: AI destekli uygulamaların yerel testi

Neden NVIDIA DGX Spark?

• 128 GB birleşik bellek: Ayrık GPU’lu iş istasyonlarının VRAM sınırını aşan model boyutlarıyla tek cihazda çalışma imkânı.
• Grace Blackwell mimarisi: CPU ve GPU’nun tek SoC’de, tutarlı bellek erişimiyle çalıştığı veri merkezi sınıfı mimari.
• Kompakt tasarım: 1.2 kg ağırlık, 240 W harici adaptör ve standart priz ile masaüstü kullanım.
• Yerel AI geliştirme: Verinin kurum içinde kalması ve bulut kaynaklarına bağımlılığın azalması.
• NVIDIA CUDA ve AI ekosistemi: Geliştirilen iş akışlarının NVIDIA hızlandırmalı veri merkezi ve bulut ortamlarına taşınabilmesi.
• Yüksek hızlı networking: ConnectX-7 ile 200 Gbps’e kadar bağlantı ve çoklu sistem ölçeklendirme seçeneği.

DGX Spark, veri merkezi sınıfı AI geliştirme ekosistemini masaüstüne taşıyarak modelin fikir aşamasından doğrulanmış prototipe kadar olan sürecini tek bir kompakt sistemde yürütmeyi mümkün kılar.

Devresel Tedarik Avantajı

• Kurumsal fatura ve proforma ile tedarik
• Üniversite, BAP ve Ar-Ge projeleri için teklif desteği
• Robotik, yapay zeka ve güç elektroniği alanında teknik ön satış danışmanlığı