Jensen Huang istiyor Üretken yapay zekayı her veri merkezine getirmek için, nvidia bugün Taipei’deki Computex sırasında kurucu ortak ve CEO dedi. Yaklaşık dört yıldır Hwang’ın ilk halka açık konuşması olan konuşma sırasında, çip çıkış tarihleri, DGX GH200 süper bilgisayarı ve büyük şirketlerle ortaklıklar dahil olmak üzere bir dizi duyuru yaptığını söyledi. İşte iki saatlik açılış konuşmasından tüm haberler.
1. Nvidia’nın oyunculara yönelik GForce RTX 4080 Ti GPU’su artık tam üretimde ve Tayvan’daki ortaklarla “seri” üretiliyor.
2. Huang, oyun geliştiricileri için önceden eğitilmiş modellere sahip özelleştirilebilir bir AI model döküm hizmeti olan oyunlar için Nvidia Avatar Cloud Engine’i (ACE) duyurdu. Yapay zeka destekli dil etkileşimleri sayesinde NPC’lere daha fazla kişilik kazandırılacak.
3. Nvidia Cuda bilgi işlem modeli şu anda dört milyon geliştiriciye ve 3.000’den fazla uygulamaya hizmet ediyor. Cuda, yalnızca geçen yıl 25 milyon olmak üzere 40 milyon indirme gördü.
4. Huang, HGX H100 sunucu GPU’sunun tam üretiminin başladığını ve “Tayvan’daki şirketler” tarafından üretildiğini söyledi. Dünyada trafo motoruna sahip ilk bilgisayar olduğunu sözlerine ekledi.
5. Huang, Nvidia’nın 2019’da bilgisayar çipi devi Mellanox’u 6,9 milyar dolara satın almasını, şimdiye kadar verdiği “en büyük stratejik kararlardan biri” olarak nitelendirdi.
6. Yeni nesil Hopper GPU’ların üretimi, birinci neslin üretiminin başlamasından tam iki yıl sonra, Ağustos 2024’te başlayacak.
7. Nvidia’nın GH200 Grace Hopper’ı artık tam üretimde. Süper çip, 4 PetaFIOPS TE, çipten çipe bağlantı yoluyla bağlanan 72 ARM CPU, 96 GB HBM3 bellek ve 576 GPU’ya sahiptir. Huang, onu aynı zamanda dev bir belleğe sahip dünyanın ilk hızlandırılmış bilgi işlem işlemcisi olarak tanımladı: “Bu bir bilgisayar, çip değil.” Son derece esnek veri merkezi uygulamaları için tasarlanmıştır.
8. Grace Hopper’ın belleği yeterli değilse, Nvidia’nın çözümü var: DGX GH200. Önce sekiz Grace Hopper’ı üç NVLINK adaptörüyle bağlayarak, ardından iki 900GB bölmeyi birbirine bağlayarak oluşturuldu. Sonra son olarak, toplam 256 Grace Hopper çipini bağlamak için 32 tanesi başka bir anahtar katmanıyla birlikte dizildi. Ortaya çıkan ExaFLOPS Transformer, 144 TB GPU belleğe sahiptir ve dev bir GPU gibi çalışır. Huang, Grace Hopper’ın yazılımdaki 5G yığınını çalıştırabilecek kadar hızlı olduğunu söyledi. Google Cloud, Meta ve Microsoft, DGX GH200’e erişimi olan ilk şirketler olacak ve yetenekleri hakkında araştırma yapacak.
9. Nvidia ve SoftBank, Grace Hopper süper çipini SoftBank’ın Japonya’daki yeni dağıtılmış veri merkezlerine teslim etmek için ortaklık kurdu. Üretken yapay zeka ve kablosuz uygulamaları paylaşılan bir çok kiracılı sunucu sisteminde barındırarak maliyetleri ve enerjiyi azaltabilecekler.
10. SoftBank-Nvidia ortaklığı, şu anda Tayvan’daki şirketlerle ortak olarak kullanılan Nvidia MGX referans mimarisine dayalı olacaktır. Sistem üreticilerine yapay zeka, hızlandırılmış bilgi işlem ve her yerde bulunan yardımcı programlar için 100’den fazla sunucu varyasyonu oluşturmalarına yardımcı olacak standart bir referans mimarisi sağlar. Ortaklığa katılan şirketler arasında ASRock Rack, Asus, Gigabyte, Pegatron, QCT ve Supermicro yer alıyor.
11. Huang, Ethernet tabanlı bulutlarda hız aşırtma için Spectrum-X hızlandırılmış ağ platformunu duyurdu. 400 Gb/sn ve 51,2 Tb/sn’lik 128 bağlantı noktasına sahip bir Spectrum 4 anahtarı içerir. Huang, anahtarın yeni bir Ethernet türünü etkinleştirmek için tasarlandığını ve uyarlanabilir yönlendirme, performans yalıtımı ve yapı içinde bilgi işlem yapmak için uçtan uca tasarlandığını söyledi. Ayrıca, kalabalık kontrolü gerçekleştirmek için bir Spectrum 4 anahtarına bağlanan bir Bluefield 3 Smart Nic içerir.
12. Dünyanın en büyük reklam ajansı olan WPP, Nvidia Omniverse tabanlı bir içerik motoru geliştirmek için Nvidia ile ortaklık kurdu. Reklamcılıkta kullanılmak üzere fotoğraf ve video içerikleri üretebilecektir.
13. Nvidia Isaac ARM robot platformu artık robot yapmak isteyen herkes tarafından kullanılabilir ve çiplerden sensörlere kadar hepsi bir aradadır. Huang, Isaac ARM’in ilk eksiksiz robotik referans düzeneği olan Nova Orin adlı bir çiple başladığını söyledi.
Yapay zeka bilgi işlemindeki önemi sayesinde, Nvidia hisseleri geçen yıl hızla yükseldi ve piyasa değeri şu anda yaklaşık 960 milyar dolar, bu da onu dünyanın en değerli şirketlerinden biri yapıyor (yalnızca Apple, Microsoft, Saudi Aramco, Alphabet ve Amazon sıralaması daha yüksek).
Çin’de işler çıkmazda
Çin’deki AI şirketlerinin Nvidia’nın masaya getirdiği en son silikon teknolojisini yakından takip ettiğine şüphe yok. Bu arada, önceki nesil AI nesillerinden çok daha fazla güç ve veri gerektiren üretken AI’daki ilerlemelerini baltalamakla tehdit eden bir başka ABD çip yasaklamasından korkabilirler.
Geçen yıl, ABD hükümeti Nvidia’nın Çin’e A100 ve H100 GPU satmasını yasakladı. Her iki çip de OpenAI’nin GPT-4’ü gibi büyük dil modellerini eğitmek için kullanılıyor. Entegre Transformer Engine ile Nvidia Hopper GPU bilgi işlem mimarisine dayanan en yeni nesil yonga seti olan H100, özellikle güçlü bir talep görüyor. A100 ile karşılaştırıldığındaH100, LLM’lerde 9 kat daha hızlı AI eğitimi ve 30 kata kadar daha hızlı AI çıkarımı sağlama yeteneğine sahiptir.
Çin açıkça kaçırılmayacak kadar büyük bir pazar. Çip ihracat yasağı, Nvidia’ya yalnızca geçen yılın üçüncü çeyreğinde tahmini 400 milyon dolarlık potansiyel satışa mal olacak. Bu nedenle Nvidia, Çin’e ABD ihracat kontrol kurallarını karşılayan daha yavaş bir çip satmaya başvurdu. Ancak uzun vadede Çin muhtemelen daha güçlü alternatifler arayacaktır ve yasak, Çin’in kilit teknoloji sektörlerinde kendine güven kazanması için dokunaklı bir hatırlatma işlevi görüyor.
Huang’ın geçenlerde söylediği gibi röportaj Financial Times ile: “Eğer [China] ABD’den satın alamazlar, kendileri inşa edecekler. Bu yüzden ABD dikkatli olmalı. Çin, teknoloji endüstrisi için çok önemli bir pazar.”
“Pop kültürkolik. Web nerd. Sadık sosyal medya uygulayıcısı. Seyahat fanatiği. Yaratıcı. Yemek gurusu.”
More Stories
Çinli şirket BYD ilk kez Tesla’nın gelirini geçti
Dow Jones Vadeli İşlemleri: Microsoft, MetaEngs’den Daha İyi Performans Gösteriyor; Robinhood Dalıyor, Kripto Paralar Düşüşte
ABD ekonomisi, güçlü tüketici harcamaları sayesinde son çeyrekte %2,8 gibi güçlü bir büyüme kaydetti.