Jim Keller liderliğindeki çip şirketi Tenstorrent, uygun fiyata iyi performans sunmayı beklediği yapay zeka iş yüklerine yönelik yeni nesil Wormhole işlemcisini piyasaya sürdü.Şirket şu anda yazılım geliştiriciler için bir veya iki Wormhole işlemcisinin yanı sıra TT-LoudBox ve TT-QuietBox iş istasyonlarını barındırabilen iki ek PCIe kartı sunuyor. Bugünkü duyuruların tümü, Solucan Deliği kartlarını ticari iş yükleri için kullanan geliştiricilere yönelik değil.
“Ürünlerimizden daha fazlasını geliştiricilerin eline sunmak her zaman memnuniyet vericidir. Tenstorrent CEO'su Jim Keller, "Wormhole™ kartlarımızı kullanan sürüm geliştirme sistemleri, geliştiricilerin çok çipli yapay zeka yazılımını ölçeklendirmesine ve geliştirmesine yardımcı olabilir" dedi.Bu lansmana ek olarak, ikinci nesil ürünümüz Blackhole'un kasetinin çıkarılması ve çalıştırılması konusunda kaydettiğimiz ilerlemeyi görmekten heyecan duyuyoruz."
Her Wormhole işlemcisi 72 Tensix çekirdeği (bunlardan beşi çeşitli veri formatlarında RISC-V çekirdeklerini destekler) ve 108 MB SRAM içerir ve 160 W termal tasarım gücüyle 1 GHz'de 262 FP8 TFLOPS sunar. Tek çipli Wormhole n150 kartı, 12 GB GDDR6 video belleğiyle donatılmıştır ve 288 GB/s bant genişliğine sahiptir.
Solucan deliği işlemcileri, iş yüklerinin farklı ihtiyaçlarını karşılamak için esnek ölçeklenebilirlik sağlar. Dört Wormhole n300 kartlı standart bir iş istasyonu kurulumunda işlemciler, yazılımda birleşik, geniş bir Tensix çekirdek ağı olarak görünen tek bir ünitede birleştirilebilir. Bu yapılandırma, hızlandırıcının aynı iş yükünü dört geliştirici arasında paylaştırarak işlemesine veya aynı anda sekiz adede kadar farklı yapay zeka modelini çalıştırmasına olanak tanır. Bu ölçeklenebilirliğin önemli bir özelliği, sanallaştırmaya ihtiyaç duymadan yerel olarak çalışabilmesidir. Bir veri merkezi ortamında, Solucan deliği işlemcileri makinenin içindeki genişletme için PCIe'yi veya harici genişletme için Ethernet'i kullanır.
Performans açısından Tenstorrent'in tek çipli Wormhole n150 kartı (72 Tensix çekirdek, 1 GHz frekans, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bant genişliği) 160W'ta 262 FP8 TFLOPS elde ederken çift çipli Wormhole n300 kartı (128 Tensix çekirdeği, 1 GHz frekans, 192 MB SRAM, toplam 24 GB GDDR6, 576 GB/s bant genişliği), 300 W'ta 466'ya kadar FP8 TFLOPS sunar.
300 W'lık 466 FP8 TFLOPS'u bağlama oturtmak için bunu yapay zeka pazar lideri Nvidia'nın bu termal tasarım gücünde sunduğu özelliklerle karşılaştıracağız. Nvidia'nın A100 modeli FP8'i desteklemiyor ancak 624 TOPS'luk (seyrek olduğunda 1.248 TOPS) en yüksek performansla INT8'i destekliyor. Karşılaştırıldığında, Nvidia'nın H100'ü FP8'i destekliyor ve 300W'de 1.670 TFLOPS'luk (seyrek durumda 3.341 TFLOPS) zirve performansına ulaşıyor; bu da Tenstorrent'in Wormhole n300'ünden önemli ölçüde farklı.
Ancak önemli bir sorun var. Tenstorrent'in Wormhole n150'si 999 dolara, n300 ise 1.399 dolara satılıyor. Karşılaştırıldığında, tek bir Nvidia H100 grafik kartının fiyatı miktara bağlı olarak 30.000 dolara satılıyor. Elbette dört veya sekiz Wormhole işlemcinin tek bir H300'ün performansını sağlayıp sağlayamayacağını bilmiyoruz ancak TDP'leri sırasıyla 600W ve 1200W'dır.
Tenstorrent, kartlara ek olarak, geliştiriciler için, aktif soğutmalı daha uygun fiyatlı Xeon tabanlı TT-LoudBox'ta 4 n300 kart ve EPYC tabanlı Xiaolong sıvı soğutma işlevli gelişmiş TT-QuietBox dahil olmak üzere önceden oluşturulmuş iş istasyonları da sunuyor.
Gönderim zamanı: Temmuz-29-2024