Microsoft, yeni nesil yapay zeka çipi ile geliyor!

0

Microsoft, büyük ölçekli yapay zeka uygulamaları için tasarlanan ve 700W TDP’ye sahip yeni yapay zeka çipi Maia 100’ün detaylarını paylaştı. Maia 100, yapay zeka çipi pazarında önemli bir paya sahip olan Nvidia’ya rakip olmayı hedefliyor.

Microsoft, yeni nesil yapay zeka çipi ile gündemde

Microsoft’un Azure veri merkezlerinde OpenAI modellerini çalıştırmak için geliştirdiği Maia 100, TSMC’nin 5nm üretim süreciyle üretiliyor ve 500W güç tüketimiyle çalışırken 700W’a kadar destek sunabiliyor. 820mm²’lik çip, TSMC’nin COWOS-S interposer teknolojisi kullanılarak üretildi.

Maia 100, 64 GB HBM2E bellek ve 1.8 terabayt bant genişliği sunuyor. Bu, Nvidia’nın H100 modelindeki 80 GB HBM2E belleğinden daha düşük olsa da Microsoft, Maia 100’ün genel performans ve verimlilik açısından iddialı olduğunu belirtiyor. Ancak Nvidia’nın 192 GB HBM3E’li Blackwell çiplerini geliştirmekte olduğu ve bellek miktarının yapay zeka iş yükleri için kritik öneme sahip olduğu unutulmamalıdır. Microsoft ise Maia 100 ile maliyet ve verimlilik konularına odaklanmış durumda.

Microsoft, olay yaratan özelliği kaldırılabilir hale getiriyor!

Yüksek hızlı bir tensör birimine (16xRx16) sahip olan Maia 100, düşük hassasiyetli veri türleri de dahil olmak üzere geniş bir veri yelpazesini destekliyor. Ayrıca, FP32 ve BF16 gibi veri türlerini desteklemek için özel ISA ile tasarlanmış bir vektör işlemcisi de bulunuyor.

Microsoft, Maia 100 için özel bir yazılım geliştirme kiti (SDK) sunarak geliştiricilerin Pytorch ve Triton ile yazılmış modelleri hızlıca bu platforma taşımalarını sağlıyor.


Yesilrobot.com e-bültenine kaydolarak, her hafta 15 bine yakın Yeşil Robot okurunun yaptığı gibi, tüm güncellemeleri E-posta kutunuzdan takip edebilirsiniz. Abonelik için tıklayınız


Yorum Yap

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz