Čipová společnost Tenstorrent pod vedením Jima Kellera vydala svůj procesor Wormhole nové generace pro pracovní zátěže AI, od kterého očekává, že nabídne dobrý výkon za dostupnou cenu.Společnost v současné době nabízí dvě další karty PCIe, které mohou pojmout jeden nebo dva procesory Wormhole, a také pracovní stanice TT-LoudBox a TT-QuietBox pro vývojáře softwaru. Všechna dnešní oznámení jsou zaměřena na vývojáře, nikoli na ty, kteří používají desky Wormhole pro komerční zátěž.
„Vždy je potěšující, že se do rukou vývojářů dostává více našich produktů. Vydání vývojových systémů využívajících naše karty Wormhole™ může vývojářům pomoci škálovat a vyvíjet vícečipový AI software,“ řekl Jim Keller, CEO společnosti Tenstorrent.Kromě tohoto uvedení na trh jsme nadšeni, že vidíme pokrok, kterého dosahujeme s vytahováním pásky a zaváděním našeho produktu druhé generace, Blackhole.“
Každý procesor Wormhole obsahuje 72 jader Tensix (z nichž pět podporuje jádra RISC-V v různých datových formátech) a 108 MB paměti SRAM, poskytující 262 FP8 TFLOPS při 1 GHz s tepelným výkonem 160 W. Jednočipová karta Wormhole n150 je vybavena 12 GB videopaměti GDDR6 a má šířku pásma 288 GB/s.
Procesory Wormhole poskytují flexibilní škálovatelnost, aby vyhovovaly různým potřebám pracovních zátěží. Ve standardním nastavení pracovní stanice se čtyřmi kartami Wormhole n300 lze procesory zkombinovat do jediné jednotky, která se v softwaru jeví jako jednotná široká základní síť Tensix. Tato konfigurace umožňuje akcelerátoru zvládnout stejnou pracovní zátěž, rozdělit se mezi čtyři vývojáře nebo spustit až osm různých modelů umělé inteligence současně. Klíčovým rysem této škálovatelnosti je, že může běžet lokálně bez nutnosti virtualizace. V prostředí datového centra budou procesory Wormhole používat PCIe pro rozšíření uvnitř stroje nebo Ethernet pro externí rozšíření.
Pokud jde o výkon, jednočipová karta Wormhole n150 společnosti Tenstorrent (72 jader Tensix, frekvence 1 GHz, 108 MB SRAM, 12 GB GDDR6, šířka pásma 288 GB/s) dosáhla 262 FP8 TFLOPS při 160 W, zatímco dvoučipová deska Wormhole 3 (128 jader Tensix, frekvence 1 GHz, 192 MB SRAM, agregovaná 24 GB GDDR6, šířka pásma 576 GB/s) poskytuje až 466 FP8 TFLOPS při 300 W.
Abychom uvedli 300 W 466 FP8 TFLOPS do kontextu, porovnáme to s tím, co Nvidia nabízí vedoucí postavení na trhu s umělou inteligencí při tomto tepelném výkonu. Nvidia A100 nepodporuje FP8, ale podporuje INT8 se špičkovým výkonem 624 TOPS (1 248 TOPS, když je řídký). Pro srovnání, Nvidia H100 podporuje FP8 a dosahuje špičkového výkonu 1 670 TFLOPS při 300 W (3 341 TFLOPS při řídkém), což se výrazně liší od Wormhole n300 od Tenstorrentu.
Je tu však jeden zásadní problém. Tenstorrent's Wormhole n150 se prodává za 999 $, zatímco n300 se prodává za 1 399 $. Pro srovnání, jedna grafická karta Nvidia H100 se prodává za 30 000 dolarů v závislosti na množství. Samozřejmě nevíme, zda čtyři nebo osm procesorů Wormhole skutečně dokáže poskytnout výkon jednoho H300, ale jejich TDP jsou 600 W a 1200 W.
Kromě karet nabízí Tenstorrent předpřipravené pracovní stanice pro vývojáře, včetně 4 karet n300 v cenově dostupnějším TT-LoudBox na bázi Xeonu s aktivním chlazením a pokročilého TT-QuietBox s funkcí kapalinového chlazení Xiaolong na bázi EPYC).
Čas odeslání: 29. července 2024