Alphabet bünyesinde çalışan bir GenAI baş mimarının açıklamalarına göre, yüksek kullanım oranlarına sahip veri merkezlerindeki GPU'ların ortalama ömrü sadece üç yıl civarındaymış. Bu durum, özellikle %60-70 gibi yüksek kullanım oranlarıyla çalışan Lambda Labs ve CoreWeave gibi operatörler için kritik bir sorun teşkil ediyor. Nvidia'nın yaklaşan Blackwell serisi GPU'ların 1000 watt'lık güç tüketimi ve mevcut Hopper serisi GPU'ların 700 watt'lık güç zarfı düşünüldüğünde, bu hassas silikon yapıların maruz kaldığı termal stres seviyesi oldukça yüksek. Bu durum, kripto madenciliğinde kullanılan GPU'larda gözlemlenen yıpranma sürecine benzer bir senaryoyu işaret ediyor.
Endüstrinin finansal perspektifinden bakıldığında ise durum daha da karmaşık bir hal alıyor dostlar. OpenAI'ın 2024'te beklenen 5 milyar dolarlık zararı ve Google'ın sadece ikinci çeyrekte AI işlem donanımlarına yaptığı 13.2 milyar dolarlık yatırım, sektörün karşı karşıya olduğu maliyet baskısını gösteriyor. GPU'ların kısa ömürlü olması, bu yatırımların uzun vadeli altyapı yatırımı olmaktan çıkıp, periyodik yenileme gerektiren operasyonel giderlere dönüşmesi anlamına geliyor.
Datacenter operatörleri için çözüm alternatifleri ise şu an için sınırlı. Utilization oranlarının düşürülmesi donanım ömrünü uzatabilir, ancak bu sefer de ROI süreleri uzayacaktır. Bu durum, hyperscale genişleme planlarının revize edilmesini gerektirebilir. Nvidia açısından bakıldığında ise, pazar değeri 2024 Haziran'ında 3 trilyon dolara ulaşan şirket için periyodik yenileme döngüsü, büyüme trendini destekleyici bir faktör olabilir.
Google'ın resmi açıklamasında, Nvidia GPU'larının endüstri standartlarına uygun performans gösterdiği ve iddiaların gerçeği yansıtmadığı belirtiliyor. Ancak, generative AI modellerinin artan kompleksitesi ve compute gereksinimi, donanım dayanıklılığı konusundaki endişeleri artırıyor. Bu teknolojik meydan okuma, AI altyapı yatırımlarının sürdürülebilirliği konusunda sektörü yeni stratejiler geliştirmeye zorluyor. Önümüzdeki dönemde, hem chip üreticilerinin hem de datacenter operatörlerinin bu teknik zorluğa yönelik inovatif çözümler geliştirmesi kaçınılmaz görünüyor.
Data Center AI GPUs May Have Extremely Short Lifespans
An unnamed Google engineer reportedly said the chips only last about three years, which could be good news for Nvidia.