جم ڪيلر جي اڳواڻي ۾ چپ ڪمپني ٽينسٽورنٽ پنهنجي ايندڙ نسل جو ورم هول پروسيسر جاري ڪيو آهي AI ڪم لوڊ لاءِ ، جنهن کي اها توقع رکي ٿي ته اها سٺي ڪارڪردگي پيش ڪندي سستي قيمت تي.ڪمپني هن وقت ٻه اضافي PCIe ڪارڊ پيش ڪري ٿي جيڪي هڪ يا ٻه Wormhole پروسيسرز کي گڏ ڪري سگھن ٿيون، انهي سان گڏ سافٽ ويئر ڊولپرز لاءِ TT-LoudBox ۽ TT-QuietBox ورڪ اسٽيشنون. اڄ جي سڀني اعلانن جو مقصد ڊولپرز لاءِ آهي، نه ڪي جيڪي ڪمرشل ڪم لوڊ لاءِ Wormhole بورڊ استعمال ڪري رهيا آهن.
”اسان جي پروڊڪٽس مان وڌيڪ ڊولپرز جي هٿن ۾ حاصل ڪرڻ لاءِ هميشه خوشي ٿيندي آهي. اسان جي Wormhole ™ ڪارڊ استعمال ڪندي ڊولپمينٽ سسٽم جاري ڪريو ڊولپرز کي ملٽي چپ AI سافٽ ويئر کي ماپڻ ۽ ترقي ڪرڻ ۾ مدد ڪري سگھن ٿا، "Jim Keller، Tenstorrent جي سي اي او چيو.هن لانچ کان علاوه، اسان اها پيش رفت ڏسڻ لاءِ پرجوش آهيون جيڪا اسان ٽيپ آئوٽ ۽ پاور اپ سان ڪري رهيا آهيون اسان جي ٻي نسل جي پيداوار بليڪ هول.
هر ورم هول پروسيسر ۾ 72 ٽينسڪس ڪور شامل آهن (جن مان پنج مختلف ڊيٽا فارميٽ ۾ RISC-V ڪور کي سپورٽ ڪن ٿا) ۽ 108 MB SRAM، 160W جي تھرمل ڊيزائن پاور سان 1 GHz تي 262 FP8 TFLOPS فراهم ڪري ٿو. سنگل چپ ورم هول n150 ڪارڊ 12 GB GDDR6 وڊيو ميموري سان ليس آهي ۽ 288 GB/s جي بينڊوڊٿ آهي.
ورم هول پروسيسرز ڪم لوڊ جي مختلف ضرورتن کي پورو ڪرڻ لاءِ لچڪدار اسڪيبلٽي فراهم ڪن ٿا. هڪ معياري ورڪ اسٽيشن سيٽ اپ ۾ چار Wormhole n300 ڪارڊ سان، پروسيسرز کي هڪ واحد يونٽ ۾ گڏ ڪري سگهجي ٿو جيڪو سافٽ ويئر ۾ هڪ متحد، وسيع Tensix ڪور نيٽ ورڪ جي طور تي ظاهر ٿئي ٿو. هي تشڪيل ايڪليٽر کي هڪ ئي ڪم لوڊ کي سنڀالڻ جي اجازت ڏئي ٿي، چار ڊولپرز جي وچ ۾ ورهائڻ يا هڪ ئي وقت اٺ مختلف AI ماڊل تائين هلائڻ جي اجازت ڏئي ٿي. هن اسڪالائيبليشن جي هڪ اهم خصوصيت اها آهي ته اها ورچوئلائيزيشن جي ضرورت کان سواءِ مقامي طور تي هلائي سگهي ٿي. ڊيٽا سينٽر جي ماحول ۾، Wormhole پروسيسر PCIe استعمال ڪندا مشين جي اندر توسيع لاءِ، يا Ethernet خارجي توسيع لاءِ.
ڪارڪردگي جي لحاظ کان، Tenstorrent جي سنگل چپ Wormhole n150 ڪارڊ (72 Tensix cores، 1 GHz فریکوئنسي، 108 MB SRAM، 12 GB GDDR6، 288 GB/s bandwidth) 262 FP8 TFLOPS حاصل ڪئي 160W تي، جڏهن ته durmhole. (128 Tensix cores، 1 GHz فریکوئنسي، 192 MB SRAM، مجموعي طور تي 24 GB GDDR6، 576 GB/s بينڊوڊٿ) 300W تي 466 FP8 TFLOPS تائين پهچائي ٿو.
300W جو 466 FP8 TFLOPS جي حوالي سان، اسان ان جو مقابلو ڪنداسين ته ڇا AI مارڪيٽ ليڊر Nvidia هن تھرمل ڊيزائن پاور تي پيش ڪري رهيو آهي. Nvidia's A100 FP8 کي سپورٽ نٿو ڪري، پر اهو INT8 کي سپورٽ ڪري ٿو، 624 TOPS جي چوٽي ڪارڪردگي سان (1,248 TOPS جڏهن اسپرس). مقابلي ۾، Nvidia's H100 FP8 کي سپورٽ ڪري ٿو ۽ 300W تي 1,670 TFLOPS جي چوٽي ڪارڪردگي تي پهچي ٿو (3,341 TFLOPS اسپارس تي)، جيڪو خاص طور تي Tenstorrent's Wormhole n300 کان مختلف آهي.
بهرحال، اتي هڪ اهم مسئلو آهي. Tenstorrent's Wormhole n150 ريٽيل $999 ۾، جڏهن ته n300 $1,399 ۾ وڪرو ٿئي ٿو. مقابلي ۾، هڪ واحد Nvidia H100 گرافڪس ڪارڊ $ 30,000 لاءِ پرچون ڪري ٿو، مقدار جي لحاظ کان. يقينن، اسان کي خبر ناهي ته چار يا اٺ ورم هول پروسيسر اصل ۾ هڪ H300 جي ڪارڪردگي کي پهچائي سگھن ٿا، پر انهن جي ٽي ڊي پيز 600W ۽ 1200W آهن.
ڪارڊن کان علاوه، Tenstorrent پيش ڪري ٿو اڳ ۾ ٺهيل ورڪ اسٽيشنون ڊولپرز لاءِ، جن ۾ 4 n300 ڪارڊ شامل آهن وڌيڪ سستي Xeon-based TT-LoudBox ۾ فعال کولنگ سان، ۽ جديد TT-QuietBox سان EPYC-based Xiaolong) مائع کولنگ فنڪشن).
پوسٽ جو وقت: جولاء-29-2024