Yapay Zeka

Yapay Zeka Bilgisayarı Seçerken Hangi Sistem Ne İçin?

Yapay zeka donanımı tek bir ürün türü değildir: doğru sistem, çalıştırmak istediğiniz modelin büyüklüğüne ve işin nerede yapılacağına göre değişir. Bu kategoride yerel dil modeli (LLM) çalıştırmaktan görsel üretimine, model ince ayarından veri merkezi ölçeğinde eğitime kadar farklı iş yükleri için sistemler bir arada bulunur. Alt kategoriler, hangi ihtiyaca hangi donanımın karşılık verdiğine göre ayrılmıştır.

Yerel Yapay Zekada Belirleyici Olan Bellek

Bir modeli kendi bilgisayarınızda çalıştırmanın ilk şartı, modelin belleğe sığmasıdır. Kabaca, 4-bit nicelenmiş (quantized) bir modelin her 1 milyar parametresi yaklaşık 0,5–0,6 GB bellek ister; buna bağlam (context) için ek pay eklenir. Yani 70 milyar parametreli bir model 4-bit hâlinde yaklaşık 40 GB tutar ve tek bir 32 GB’lık ekran kartına sığmaz. Bu yüzden sistem seçerken ilk bakılacak değer, ekran kartı belleği (VRAM) ya da işlemci ile grafik işlemcinin paylaştığı birleşik bellek miktarıdır. Modelin ne kadar hızlı yanıt vereceğini ise bellek bant genişliği ve grafik işlemcinin yapay zeka performansı belirler.

Alt Kategoriler

• NVIDIA DGX Spark (GB10): NVIDIA GB10 Grace Blackwell süper yongalı, 128 GB birleşik belleğe sahip kompakt masaüstü yapay zeka süper bilgisayarları. ASUS Ascent GX10, MSI EdgeXpert ve Lenovo ThinkStation PGX bu platformun üretici sürümleridir.
• AI Mini PC: masada az yer kaplayan, ofis ağında bir yapay zeka sunucusu gibi de kullanılabilen kompakt sistemler.
• DGX Station (GB300): NVIDIA GB300 Grace Blackwell Ultra masaüstü süper yongasıyla veri merkezi sınıfı performansı masa altına taşıyan iş istasyonları.
• AI Workstation: Intel Core Ultra 9 işlemcili, 128 GB DDR5 bellekli ve farklı NVIDIA ekran kartı seçenekleriyle yapılandırılmış profesyonel iş istasyonları.
• Tavsiye AI Sistemleri: GeForce RTX 5090 ekran kartlı, yerel model çalıştırma, görsel üretimi ve yazılım geliştirme için hazırlanmış masaüstü sistemler.
• AI Laptop: yüksek VRAM’li GeForce RTX 50 serisi dizüstü ekran kartlarıyla yapay zeka iş yüklerini taşınabilir hâle getiren laptoplar.
• AI Sunucu: veri merkezleri için raf tipi yapay zeka sunucuları.
• Hızlandırıcı ve Aksesuar: harici yapay zeka hızlandırıcıları ve GB10 sistemlerini birbirine bağlayan kümeleme kabloları.

Hangi Sistemi Seçmeliyim?

• 30 milyar parametreye kadar modeller, görsel ve video üretimi, Windows üzerinde CUDA geliştirme: 32 GB VRAM’li RTX 5090 sistemleri, belleğe sığan modellerde en hızlı yanıtı verir.
• 70–200 milyar parametreli modellerle çıkarım ve ince ayar: 128 GB birleşik belleğiyle DGX Spark ve GB10 tabanlı sistemler, tek bir ekran kartına sığmayan modelleri çalıştırır.
• Yolda çalışmak: 24 GB VRAM’e kadar ekran kartı taşıyan AI laptoplar.
• Ekip olarak paylaşılan, çok büyük modeller: DGX Station ve yapay zeka sunucuları.

Neden Yerel Yapay Zeka Donanımı?

Yerel çalışan bir model, verilerinizi bulut hizmetine göndermeden işler; kişisel veriler, müşteri kayıtları ya da kaynak kodu gibi kurum dışına çıkmaması gereken bilgilerle çalışırken bu önemli bir avantajdır. Ayrıca kullanım başına ücret ödenmez, internet bağlantısı gerekmez ve yanıt süresi uzak bir sunucuya bağlı değildir.