AI Çağı Ağı: Talep Nereden Geliyor, Yenilik Nereye Gidiyor?

Ağ, AI büyük model çağının anahtar bir parçasıdır. Büyük model çağında, ışık modülleri, anahtarlar gibi ağ cihazlarının hızla evrildiğini ve talebin patladığını görmeye başladık. Ancak piyasa, neden grafik kartlarının birçok ışık modülü ile eşleştirilmesi gerektiği ve iletişimin neden büyük modelin bir acı noktası olduğu konusunda oldukça yüzeysel bir anlayışa sahip. Bu makale, prensiplerden yola çıkarak ağın neden AI çağında yeni bir "C noktası" haline geldiğini tartışacak ve en son endüstri değişimlerinden yola çıkarak gelecekteki ağ yenilikleri ve arkasındaki yatırım fırsatlarını ele alacaktır.

Ağ talebi nereden geliyor?

Büyük model çağına girerken, model boyutu ile tek kart üzerindeki sınır arasındaki fark hızla açılmakta ve endüstri, model eğitim sorunlarını çözmek için çoklu sunucu kümeleri arayışına girmektedir; bu da AI çağında ağın "üst konumda" olmasının temelini oluşturur. Aynı zamanda, geçmişte yalnızca veri iletimi için kullanılan ağ, günümüzde daha fazla olarak grafik kartları arasındaki model parametrelerini senkronize etmek için kullanılmakta ve bu durum, ağın yoğunluğu ve kapasitesi konusunda daha yüksek gereksinimler ortaya çıkarmaktadır.

Giderek büyüyen model boyutu:

1. Eğitim süresi = Eğitim veri boyutu x Model parametre sayısı / Hesaplama hızı
2. Hesaplama hızı = Tek cihaz hesaplama hızı x Cihaz sayısı x Çoklu cihaz paralellik verimliliği

Günümüzde, sektörde eğitim veri ölçeği ve parametrelerin ikili talebi altında, yalnızca hesaplama verimliliğini artırmak, eğitim süresini kısaltmak için mümkündür. Ancak tek cihazın hesaplama hızı güncellenme döngüsüne ve sınırlara sahiptir, bu nedenle ağın nasıl kullanılacağı, "cihaz sayısını" ve "paralel verimliliği" mümkün olduğunca artırmak doğrudan hesaplama gücünü belirler.

Çok kartlı senkronizasyonun karmaşık iletişimi: Büyük model eğitimi sırasında, modeli tek karta böldükten sonra, her bir hesaplama yapıldığında, kartlar arasında hizalama yapılması gerekmektedir ( Reduce, Gather gibi ). Ayrıca, NVIDIA'nın iletişim primitifleri sistemi NCCL'de, All-to-All ( yani tüm düğümlerin birbirinden değer alıp hizaladığı işlem oldukça yaygındır, bu nedenle ağlar arası iletim ve değişim için daha yüksek gereksinimler ortaya çıkmaktadır.

Artan arıza maliyetleri: Büyük modellerin eğitimi genellikle birkaç ay sürer ve bu süreçte bir kesinti meydana geldiğinde, birkaç saat veya gün önceki bir kesintiye geri dönerek yeniden eğitim yapmak gerekir. Ağda herhangi bir donanım veya yazılım bileşenindeki bir arıza veya çok yüksek gecikme, kesintiye yol açabilir. Daha fazla kesinti, geri kalan ilerlemeyi ve artan maliyetleri temsil eder. Modern AI ağları, giderek uçak, uçak gemisi gibi insan sistem mühendisliği yeteneklerinin birikimi haline gelmiştir.

Ağ inovasyonu nereye gidecek?

Donanım talebe göre hareket eder, iki yıl geçtikten sonra, küresel hesaplama gücü yatırım ölçeği yüzlerce milyar dolarlık bir seviyeye ulaştı ve model parametrelerinin genişlemesi, devlerin acımasız çatışması hala şiddetli. Günümüzde, "maliyet düşürme", "açıklık" ve hesaplama gücü ölçeği arasındaki denge, ağ inovasyonunun ana konusu olacaktır.

İletişim ortamlarının değişimi: Işık, bakır ve silikon, insanlığın iletişimde kullandığı üç ana ortamdır. AI çağında, optik modüller daha yüksek hızlar hedeflerken, aynı zamanda maliyet düşürme yollarını da LPO, LRO ve silikon ışık gibi adımlarla atmaktadır. Mevcut noktada, bakır kablolar maliyet etkinliği ve arıza oranı gibi faktörlerle bağlantı noktalarını işgal etmektedir. Chiplet, Wafer-scaling gibi yeni yarı iletken teknolojileri ise silikon tabanlı bağlantının sınırlarını hızla keşfetmektedir.

Ağ protokolleri rekabeti: Ara parça iletişim protokolleri ve grafik kartlarına güçlü bağlantı, örneğin Nvidia'nın NV-LINK'i, AMD'nin Infinity Fabric'i vb., tek bir sunucu veya tek bir hesaplama düğümünün kapasite sınırını belirler, bu oldukça sert bir devler savaş alanıdır. IB ile Ethernet arasındaki mücadele ise düğümler arası iletişimin ana melodisidir.

Ağ mimarisindeki değişiklikler: Günümüzde düğümler arasındaki ağ mimarisi genellikle yaprak-omurga mimarisini benimsemektedir. Yaprak-omurga, kullanım kolaylığı, basitlik ve istikrar gibi özelliklere sahiptir. Ancak, tek bir kümedeki düğüm sayısının artmasıyla, yaprak-omurga mimarisinin biraz fazla olan yapısı, çok büyük kümelere büyük ağ maliyetleri getirebilir. Günümüzde, Dragonfly mimarisi, yalnızca demir yolu mimarisi gibi yeni mimarilerin, bir sonraki nesil çok büyük kümelere yönelik evrim yönü olabileceği umulmaktadır.

Yatırım Tavsiyesi

İletişim sisteminin temel bileşenleri: Zhongji Xuchuang, NewEase, Tianfu Communication, Endüstriyel Fuhua, Yingweike, Hu电股份.

İletişim sistemi yenilik aşamaları: Changfei Fiber, Taicheng Guang, Yuanjie Teknoloji, Shengke İletişim-U, Hanwuji, Dekeli.

Risk Uyarısı

1. AI talebi beklenenden düşük
2. Ölçeklenme yasası geçersiz
3. Sektörde rekabet artıyor