Společnost Chip Company Jim Keller-vedená společností Tenstorrent vydala svůj procesor červí díry nové generace pro pracovní zátěž AI, což očekává, že nabídne dobrý výkon za dostupnou cenu.Společnost v současné době nabízí dvě další karty PCIe, které mohou pojmout jeden nebo dva procesory červí díry, stejně jako pracovní stanice TT-Loudbox a TT-Quietbox pro vývojáře softwaru. Všechna dnešní oznámení jsou zaměřena na vývojáře, nikoli na ty, které používají desky červí díry pro komerční pracovní zatížení.
"Je vždy potěšitelné dostat se do rukou vývojářů více našich produktů. Vydávání vývojových systémů pomocí našich karet Wormhole ™ může vývojářům pomoci škálovat a vyvíjet více čipový software AI," řekl Jim Keller, generální ředitel společnosti Tenstorrent.Kromě tohoto spuštění jsme nadšeni, když vidíme pokrok, který děláme s páskou a zapnutím našeho produktu druhé generace, Blackhole. “
Každý procesor červí díry obsahuje 72 tanixových jádra (z nich pět z nich podporuje jádra RISC-V v různých datových formátech) a 108 MB SRAM, což dodává 262 FP8 TFLOPS při 1 GHz s tepelným návrhovým výkonem 160 W. Karta s jedním čipem Wormhole N150 je vybavena 12 GB GDDR6 video paměti a má šířku pásma 288 GB/s.
Procesory červí díry poskytují flexibilní škálovatelnost pro uspokojení rozmanitých potřeb pracovních zátěží. Ve standardním nastavení pracovní stanice se čtyřmi kartami červí díry N300 lze procesory kombinovat do jedné jednotky, která se objevuje v softwaru jako sjednocená široká jádro sítí Tensix. Tato konfigurace umožňuje akcelerátoru zvládnout stejné pracovní zátěž, rozdělit mezi čtyři vývojáře nebo běžet až osm různých modelů AI současně. Klíčovým rysem této škálovatelnosti je to, že může běžet lokálně bez nutnosti virtualizace. V prostředí datového centra budou procesory Wormhole používat PCIE pro expanzi uvnitř stroje nebo Ethernet pro externí expanzi.
Z hlediska výkonu karta s jedním čipem červí díry N150 (72 tazích, 1 GHz frekvence, 108 MB SRAM, 12 GB GDDR6, 288 GB/S Bandwidth) dosáhla 262 FP8 Tflops při 160 W, aggerované, Aggetreption, Aggereted, Aggered, Aggered, Aggereted, Aggered, Aggered, Aggered, Aggered, Aggetred, Aggered, Aggered, Aggered, Aggereng, Aggereng, Aggered, Aggereng, Aggereng, Aggereng, Aggereng, Aggereng, Aggered, Aggereng, Aggered, Aggered. 24 GB GDDR6, 576 GB/S BESPIDTH) přináší až 466 FP8 TFLOPS při 300 W.
Abychom vložili do kontextu 300 W ze 466 FP8 TFLOPS, porovnáme to s tím, co lídr AI na trhu Nvidia nabízí při této tepelné návrhové síle. A100 NVIDIA nepodporuje FP8, ale podporuje INT8, s maximálním výkonem 624 vrcholů (1 248 vrcholů, když řídké). Pro srovnání, H100 NVIDIA podporuje FP8 a dosahuje špičkového výkonu 1 670 TFLOPS při 300 W (3 341 TFLOPS při Sparse), což se výrazně liší od červí díry N300.
Existuje však jeden hlavní problém. Wormhole N150 od Tenstorrent prodává za 999 $, zatímco N300 se prodává za 1 399 $. Pro srovnání, jedna grafická karta NVIDIA H100 prodává za 30 000 $ v závislosti na množství. Samozřejmě nevíme, zda čtyři nebo osm procesorů červí dírky mohou skutečně poskytnout výkon jediného H300, ale jejich TDP jsou 600 W a 1200 W.
Kromě karet nabízí Tenstorrent předem vytvořené pracovní stanice pro vývojáře, z toho 4 N300 karet v dostupnější TT-broudboxu na bázi Xeonu s aktivním chlazením a pokročilé funkce TT-Quietbox s Xiaolong na bázi EPYC).
Čas příspěvku: 29-2024