NVIDIA, Vera Rubin'i bulutta piyasaya sürdü

NVIDIA, Vera Rubin'i bulutta piyasaya sürdü bu, Blackwell'den 4,8 kat daha fazla token anlamına geliyor.

NVIDIA ve CoreWeave, Vera Rubin NVL72 platformuna bulut erişimi sağlamaya başladı. Müşteriler artık yazılım geliştirme de dahil olmak üzere yapay zeka iş yükleri için yeni sunucuları kullanabilirler.

Şirketlerin açıklamasına göre, kod oluşturma görevlerine yönelik ilk testlerde Vera Rubin, Grace Blackwell GB200 NVL72'ye kıyasla genel token işleme kapasitesinde 4,8 kata kadar daha yüksek performans sergiledi.

İlk müşterilerden biri, yapay zeka mühendisi Devin'in geliştiricisi Cognition oldu. CoreWeave, onlar için sadece birkaç gün içinde çalışan bir Vera Rubin kümesi kurdu. Şirketlere göre, yeni altyapı daha hızlı kod üretimi sağlıyor ve karmaşık görev dizilerinin yürütme süresini kısaltıyor.

Eylül ayında Cognition, Vera Rubin'i Grace Blackwell ile SWE-2 görevlerinde karşılaştırdı ve genel token işleme hızında 4,8 katlık bir iyileşme elde etti. Bunlar belirli test sonuçlarıdır. Bu nedenle, bu rakam yeni platformun tüm senaryolarda Blackwell'den 4,8 kat daha hızlı olacağı anlamına gelmez.

CoreWeave, Vera Rubin NVL72 işlemcili sunuculara ek olarak bulutuna NVIDIA Vera işlemcileri de ekledi. Bu işlemciler, diğer şeylerin yanı sıra, işlemcinin aynı anda çok sayıda izole ortamı desteklemesi gereken ajan tabanlı yapay zeka altyapısı için tasarlanmıştır.

CoreWeave, tek bir rafa 128 adet Vera işlemci yerleştirdi; bu da toplam 11.264 çekirdek anlamına geliyor. Bu, 11.000'den fazla eş zamanlı iş yükünü çalıştırmak için yeterli. Terminal Bench testinde, işlemciler başarıyla tamamlanan tüm görevlerde 1,7 kat performans artışı gösterdi.