Jim Keller liderliğindeki Chip Company Tenstorrent, uygun fiyata iyi performans sunmayı beklediği AI iş yükleri için yeni nesil solucan deliği işlemcisini yayınladı.Şirket şu anda bir veya iki solucan deliği işlemcisinin yanı sıra yazılım geliştiricileri için TT-Loudbox ve TT-Quietbox iş istasyonlarını barındırabilen iki ek PCIe kartı sunmaktadır. Bugünün tüm duyuruları, ticari iş yükleri için solucan deliği kartları kullananları değil, geliştiricilere yöneliktir.
TenStorrent CEO'su Jim Keller, “Ürünlerimizin daha fazlasını geliştiricilerin eline almak her zaman memnuniyet vericidir. Wormhole ™ kartlarımızı kullanarak yayın geliştirme sistemleri geliştiricilerin çoklu buklu AI yazılımlarını ölçeklendirmesine ve geliştirmesine yardımcı olabilir” dedi.Bu lansmana ek olarak, ikinci nesil ürünümüz Blackhole'un kaseti ve güçlendirme ile yaptığımız ilerlemeyi görmekten heyecan duyuyoruz. ”
Her bir solucan deliği işlemci, 160W termal tasarım gücüyle 1 GHz'de 262 FP8 TFLop sunan 72 Tenx çekirdeği (beşi çeşitli veri formatlarında RISC-V çekirdeklerini destekleyen) ve 108 MB SRAM içerir. Tek çipli solucan deliği N150 kartı, 12 GB GDDR6 video belleği ile donatılmıştır ve 288 GB/s'lik bir bant genişliğine sahiptir.
Solucan deliği işlemcileri, iş yüklerinin çeşitli ihtiyaçlarını karşılamak için esnek ölçeklenebilirlik sağlar. Dört solucan deliği N300 kartlı standart bir iş istasyonu kurulumunda, işlemciler yazılımda birleşik, geniş bir Tenssix çekirdek ağı olarak görünen tek bir birime birleştirilebilir. Bu yapılandırma, hızlandırıcının aynı iş yükünü işlemesine, dört geliştirici arasında bölünmesine veya aynı anda sekiz farklı AI modelini çalıştırmasına izin verir. Bu ölçeklenebilirliğin temel bir özelliği, sanallaştırmaya ihtiyaç duymadan yerel olarak çalışabilmesidir. Bir veri merkezi ortamında, solucan deliği işlemcileri, makinenin içindeki genişleme için PCIE'yi veya harici genişleme için Ethernet kullanacaktır.
Performans açısından, Tenstorrent'in tek çipli solucan deliği N150 kartı (72 Tensx çekirdek, 1 GHz frekans, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bant genişliği) 160W'da 262 FP8 Tflops, 160W'da iken, 128 Tensix Cerres, 192 GHZ, 192 GHZ Sıkıştırma N300, 192, 192 GHZ, 192, 192 GHZ, 192, MS22 GHZ, Toplu 24 GB GDDR6, 576 GB/s Bant Genişliği) 300W'da 466 FP8 TFLOP sunar.
300W 466 FP8 TFLOP'ları bağlam haline getirmek için, bunu AI pazar lideri Nvidia'nın bu termal tasarım gücünde sunduğu şeyle karşılaştıracağız. NVIDIA'nın A100'i FP8'i desteklemiyor, ancak 624 üst (seyrek olduğunda 1.248 üst) pik performansıyla INT8'i destekliyor. Buna karşılık, NVIDIA'nın H100'ü FP8'i destekler ve Tenstorrent'in solucan deliği N300'ünden önemli ölçüde farklı olan 300W'da (SPARSE'de 3.341 TFLOP) 1.670 TFLOP'un en yüksek performansına ulaşır.
Ancak, büyük bir sorun var. Tenstorrent'in solucan deliği N150 999 dolara satılarken, N300 1.399 dolara satılıyor. Karşılaştırıldığında, tek bir NVIDIA H100 Grafik Kartı, miktara bağlı olarak 30.000 $ 'a satılıyor. Tabii ki, dört veya sekiz solucan deliği işlemcisinin aslında tek bir H300 performansını sağlayıp sağlayamayacağını bilmiyoruz, ancak TDP'leri sırasıyla 600W ve 1200W.
Kartlara ek olarak Tenstorrent, aktif soğutma ile daha uygun fiyatlı Xeon tabanlı TT-Loudbox ve EPYC tabanlı Xiaolong) sıvı soğutma fonksiyonuna sahip gelişmiş TT-Quietbox) dahil olmak üzere geliştiriciler için önceden oluşturulmuş iş istasyonları sunar.
Post süresi: Tem-29-2024