Společnost Tenstorrent, která se zabývá čipy a vede ji Jim Keller, uvedla na trh svůj procesor Wormhole nové generace pro úlohy s umělou inteligencí, u kterého očekává dobrý výkon za dostupnou cenu.Společnost v současné době nabízí dvě další karty PCIe, které pojmou jeden nebo dva procesory Wormhole, a také pracovní stanice TT-LoudBox a TT-QuietBox pro softwarové vývojáře. Všechna dnešní oznámení jsou zaměřena na vývojáře, nikoli na ty, kteří používají desky Wormhole pro komerční účely.
„Vždycky je potěšující dostat více našich produktů do rukou vývojářů. Systémy pro vývoj verzí využívající naše karty Wormhole™ mohou vývojářům pomoci škálovat a vyvíjet software pro vícečipovou umělou inteligenci,“ řekl Jim Keller, generální ředitel společnosti Tenstorrent.Kromě tohoto uvedení na trh jsme nadšeni z pokroku, kterého dosahujeme s odinstalováním a zaváděním našeho produktu druhé generace, Blackhole.“
Každý procesor Wormhole obsahuje 72 jader Tensix (pět z nich podporuje jádra RISC-V v různých datových formátech) a 108 MB paměti SRAM, což umožňuje 262 FP8 TFLOPS na frekvenci 1 GHz s tepelným výkonem 160 W. Jednočipová karta Wormhole n150 je vybavena 12 GB grafické paměti GDDR6 a má propustnost 288 GB/s.
Procesory Wormhole poskytují flexibilní škálovatelnost, která splňuje rozmanité potřeby pracovních zátěží. Ve standardní konfiguraci pracovní stanice se čtyřmi kartami Wormhole n300 lze procesory sloučit do jedné jednotky, která se v softwaru zobrazuje jako sjednocená, široká síť Tensix core. Tato konfigurace umožňuje akcelerátoru zvládat stejnou pracovní zátěž, rozdělit ji mezi čtyři vývojáře nebo spouštět až osm různých modelů umělé inteligence současně. Klíčovou vlastností této škálovatelnosti je, že může běžet lokálně bez nutnosti virtualizace. V prostředí datového centra budou procesory Wormhole používat PCIe pro rozšíření uvnitř stroje nebo Ethernet pro externí rozšíření.
Co se týče výkonu, jednočipová karta Wormhole n150 od Tenstorrentu (72 jader Tensix, frekvence 1 GHz, 108 MB SRAM, 12 GB GDDR6, šířka pásma 288 GB/s) dosáhla 262 FP8 TFLOPS při 160 W, zatímco dvoučipová deska Wormhole n300 (128 jader Tensix, frekvence 1 GHz, 192 MB SRAM, agregovaných 24 GB GDDR6, šířka pásma 576 GB/s) poskytuje až 466 FP8 TFLOPS při 300 W.
Abychom uvedli 300 W s výkonem 466 FP8 TFLOPS do kontextu, porovnáme jej s tím, co nabízí lídr na trhu s umělou inteligencí, Nvidia, při tomto tepelném výkonu. Nvidia A100 nepodporuje FP8, ale podporuje INT8 s maximálním výkonem 624 TOPS (1 248 TOPS při řídicím režimu). Pro srovnání, Nvidia H100 podporuje FP8 a dosahuje maximálního výkonu 1 670 TFLOPS při 300 W (3 341 TFLOPS při řídicím režimu), což se výrazně liší od Tenstorrent Wormhole n300.
Je tu však jeden zásadní problém. Wormhole n150 od Tenstorrentu se prodává za 999 dolarů, zatímco n300 za 1 399 dolarů. Pro srovnání, jedna grafická karta Nvidia H100 se prodává za 30 000 dolarů, v závislosti na množství. Samozřejmě nevíme, zda čtyři nebo osm procesorů Wormhole skutečně dokáží poskytnout výkon jednoho H300, ale jejich TDP je 600 W, respektive 1200 W.
Kromě karet nabízí Tenstorrent předpřipravené pracovní stanice pro vývojáře, včetně 4 karet n300 v cenově dostupnější verzi TT-LoudBox s procesory Xeon s aktivním chlazením a pokročilé verzi TT-QuietBox s funkcí kapalinového chlazení Xiaolong s procesory EPYC.
Čas zveřejnění: 29. července 2024