جم ڪيلر جي اڳواڻي ۾ چپ ڪمپني ٽينسٽورينٽ پنهنجي ايندڙ نسل جو ورم هول پروسيسر اي آءِ ورڪ لوڊ لاءِ جاري ڪيو آهي، جيڪو ان کي سستي قيمت تي سٺي ڪارڪردگي پيش ڪرڻ جي اميد رکي ٿو.ڪمپني هن وقت ٻه اضافي PCIe ڪارڊ پيش ڪري ٿي جيڪي هڪ يا ٻه ورم هول پروسيسرز کي ترتيب ڏئي سگهن ٿا، انهي سان گڏ سافٽ ويئر ڊولپرز لاءِ TT-LoudBox ۽ TT-QuietBox ورڪ اسٽيشن. اڄ جا سڀئي اعلان ڊولپرز لاءِ آهن، نه ته اهي جيڪي ڪمرشل ورڪ لوڊ لاءِ ورم هول بورڊ استعمال ڪندا آهن.
"اهو هميشه اطمينان بخش آهي ته اسان جون وڌيڪ شيون ڊولپرز جي هٿن ۾ ڏنيون وڃن. اسان جي ورم هول ™ ڪارڊ استعمال ڪندي ڊولپمينٽ سسٽم جاري ڪرڻ ڊولپرز کي ملٽي چپ AI سافٽ ويئر کي ماپڻ ۽ ترقي ڪرڻ ۾ مدد ڪري سگهي ٿو،" ٽينسٽورينٽ جي سي اي او جم ڪيلر چيو.هن لانچ کان علاوه، اسان پنهنجي ٻئي نسل جي پراڊڪٽ، بليڪ هول جي ٽيپ آئوٽ ۽ پاور اپ سان ڪيل ترقي کي ڏسي پرجوش آهيون.
هر ورم هول پروسيسر ۾ 72 ٽينسيڪس ڪور (جن مان پنج مختلف ڊيٽا فارميٽ ۾ RISC-V ڪور کي سپورٽ ڪن ٿا) ۽ 108 MB SRAM آهن، جيڪي 160W جي ٿرمل ڊيزائن پاور سان 1 GHz تي 262 FP8 TFLOPS فراهم ڪن ٿا. سنگل چپ ورم هول n150 ڪارڊ 12 GB GDDR6 وڊيو ميموري سان ليس آهي ۽ ان جي بينڊوڊٿ 288 GB/s آهي.
ورم هول پروسيسر ڪم لوڊ جي مختلف ضرورتن کي پورو ڪرڻ لاءِ لچڪدار اسڪيليبلٽي فراهم ڪن ٿا. چار ورم هول اين 300 ڪارڊن سان هڪ معياري ورڪ اسٽيشن سيٽ اپ ۾، پروسيسرز کي هڪ واحد يونٽ ۾ گڏ ڪري سگهجي ٿو جيڪو سافٽ ويئر ۾ هڪ متحد، وسيع ٽينڪسڪس ڪور نيٽ ورڪ جي طور تي ظاهر ٿئي ٿو. هي ترتيب ايڪسيليٽر کي ساڳئي ڪم لوڊ کي سنڀالڻ، چار ڊولپرز جي وچ ۾ ورهائڻ يا هڪ ئي وقت اٺ مختلف AI ماڊل هلائڻ جي اجازت ڏئي ٿي. هن اسڪيليبلٽي جي هڪ اهم خصوصيت اها آهي ته اهو ورچوئلائيزيشن جي ضرورت کان سواءِ مقامي طور تي هلائي سگهي ٿو. ڊيٽا سينٽر ماحول ۾، ورم هول پروسيسر مشين اندر توسيع لاءِ PCIe، يا ٻاهرين توسيع لاءِ Ethernet استعمال ڪندا.
ڪارڪردگي جي لحاظ کان، ٽينسٽورينٽ جو سنگل-چپ ورم هول اين 150 ڪارڊ (72 ٽينڪسڪس ڪور، 1 گيگا هرٽز فريڪوئنسي، 108 ايم بي ايس آر اي ايم، 12 جي بي جي ڊي ڊي آر 6، 288 جي بي جي ڊي بينڊوڊٿ) 160W تي 262 ايف پي 8 ٽي ايف ايل او پي ايس حاصل ڪيو، جڏهن ته ڊبل-چپ ورم هول اين 300 بورڊ (128 ٽينڪسڪس ڪور، 1 گيگا هرٽز فريڪوئنسي، 192 ايم بي ايس آر اي ايم، مجموعي طور تي 24 جي بي جي ڊي ڊي آر 6، 576 جي بي جي ڊي بينڊوڊٿ) 300W تي 466 ايف پي 8 ٽي ايف ايل او پي ايس تائين پهچائي ٿو.
466 FP8 TFLOPS جي 300W کي تناظر ۾ رکڻ لاءِ، اسان ان جو مقابلو ڪنداسين جيڪو AI مارڪيٽ ليڊر Nvidia هن ٿرمل ڊيزائن پاور تي پيش ڪري رهيو آهي. Nvidia جو A100 FP8 کي سپورٽ نٿو ڪري، پر اهو INT8 کي سپورٽ ڪري ٿو، 624 TOPS جي چوٽي ڪارڪردگي سان (1,248 TOPS جڏهن گهٽ هجي). مقابلي ۾، Nvidia جو H100 FP8 کي سپورٽ ڪري ٿو ۽ 300W تي 1,670 TFLOPS جي چوٽي ڪارڪردگي تائين پهچي ٿو (3,341 TFLOPS جڏهن گهٽ هجي)، جيڪو Tenstorrent جي Wormhole n300 کان خاص طور تي مختلف آهي.
جڏهن ته، هڪ وڏو مسئلو آهي. ٽينسٽورينٽ جو ورم هول اين 150 999 ڊالر ۾ وڪرو ٿئي ٿو، جڏهن ته اين 300 1,399 ڊالر ۾ وڪرو ٿئي ٿو. مقابلي ۾، هڪ اينويڊيا ايڇ 100 گرافڪس ڪارڊ 30,000 ڊالر ۾ وڪرو ٿئي ٿو، مقدار تي منحصر آهي. يقيناً، اسان کي خبر ناهي ته چار يا اٺ ورم هول پروسيسر اصل ۾ هڪ H300 جي ڪارڪردگي فراهم ڪري سگهن ٿا، پر انهن جا ٽي ڊي پي ترتيب وار 600W ۽ 1200W آهن.
ڪارڊن کان علاوه، ٽينسٽورينٽ ڊولپرز لاءِ اڳ ۾ ٺهيل ورڪ اسٽيشنون پيش ڪري ٿو، جنهن ۾ 4 n300 ڪارڊ شامل آهن جيڪي وڌيڪ سستا Xeon-based TT-LoudBox ۾ فعال کولنگ سان گڏ، ۽ ترقي يافته TT-QuietBox EPYC-based Xiaolong سان مائع کولنگ فنڪشن).
پوسٽ جو وقت: جولاءِ-29-2024