- GPU üzerinde 3D HBM tasarımı, zorlu yapay zeka iş yükleri için rekor işlem yoğunluğuna ulaşıyor
- Termal azaltma stratejileri olmadan en yüksek GPU sıcaklıkları 140°C’yi aştı
- GPU saat hızını yarıya indirmek sıcaklıkları düşürdü ancak yapay zeka eğitimini %28 yavaşlattı
Imec, 2025 IEEE Uluslararası Elektron Cihazları Toplantısı’nda (IEDM) zorlu yapay zeka iş yükleri için bilgi işlem yoğunluğunu artırmayı amaçlayan GPU üzerinde 3D HBM tasarımının incelemesini sundu.
Termal sistem teknolojisi ortak optimizasyon yaklaşımı, dört adet yüksek bant genişliğine sahip bellek yığınını doğrudan bir GPU mikro darbe bağlantıları aracılığıyla.
Her yığın on iki hibrit bağlı DRAM kalıbından oluşur ve HBM’lerin üzerine soğutma uygulanır.
Termal azaltma girişimleri ve performans ödünleşimleri
Çözüm, yapılandırmanın gerçekçi yapay zeka eğitim koşulları altında nasıl yanıt verdiğini test etmek için sektörle ilgili iş yüklerinden elde edilen güç haritalarını uygular.
Bu 3D düzenleme, hesaplama yoğunluğunda ve GPU başına bellekte bir sıçrama vaat ediyor.
Ayrıca, HBM yığınlarının silikon bir aracı üzerinde GPU’nun etrafında oturduğu 2.5D entegrasyonuna kıyasla daha yüksek GPU bellek bant genişliği sunar.
Ancak termal simülasyonlar, GPU üzerinde 3D HBM tasarımının ciddi zorluklarını ortaya koyuyor.
Azaltma olmaksızın, en yüksek GPU sıcaklıkları operasyonel sınırların çok üzerinde 141,7°C’ye ulaşırken, 2,5D taban çizgisi aynı soğutma koşulları altında 69,1°C’de zirveye ulaştı.
Imec, HBM yığınlarının birleştirilmesi ve termal silikon optimizasyonu gibi teknoloji düzeyindeki stratejileri araştırdı.
Sistem düzeyindeki stratejiler arasında çift taraflı soğutma ve GPU frekans ölçeklendirme yer alıyordu.
GPU saat hızının %50 oranında azaltılması, en yüksek sıcaklıkları 100°C’nin altına düşürdü ancak bu değişiklik, yapay zeka eğitim iş yüklerini yavaşlattı.
Bu sınırlamalara rağmen Imec, 3D yapının 2.5D referans tasarımından daha yüksek hesaplama yoğunluğu ve performansı sunabileceğini savunuyor.
Imec Sistem Teknolojisi Program Direktörü James Myers, “GPU çekirdek frekansının yarıya indirilmesi, tepe sıcaklığı 120°C’den 100°C’nin altına getirerek bellek işlemi için önemli bir hedefe ulaştı. Her ne kadar bu adım %28 iş yükü cezası getirse de…” dedi.
“…tüm paket, 3D yapılandırmanın sunduğu daha yüksek verim yoğunluğu sayesinde 2,5D temel çizgisinden daha iyi performans gösteriyor. Şu anda bu yaklaşımı diğer GPU ve HBM yapılandırmalarını incelemek için kullanıyoruz…”
Kuruluş, bu yaklaşımın termal olarak dayanıklı donanımı destekleyebileceğini öne sürüyor Yapay zeka araçları yoğun veri merkezleri.
Imec bu çalışmayı teknoloji kararlarını sistem davranışıyla ilişkilendirmeye yönelik daha geniş bir çabanın parçası olarak sunuyor.
Buna, teknoloji yol haritalarını sistem ölçeklendirme zorluklarıyla uyumlu hale getirmek için STCO ve DTCO zihniyetlerini birleştiren, 2025’te başlatılan teknolojiler arası ortak optimizasyon (XTCO) programı da dahildir.
Imec, XTCO’nun, fables ve sistem şirketleri de dahil olmak üzere yarı iletken ekosistemindeki kritik darboğazlar için işbirliğine dayalı problem çözme olanağı sağladığını söyledi.
Ancak bu tür teknolojiler muhtemelen kontrollü güç ve termal bütçelere sahip özel tesislerle sınırlı kalacaktır.
Aracılığıyla TechPowerUp
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.