Mạng lưới thời đại AI: Nhu cầu đến từ đâu, đổi mới sẽ đi về đâu?

Mạng lưới là một phần quan trọng trong thời đại mô hình AI lớn. Trong thời đại mô hình lớn, chúng ta đã bắt đầu thấy sự gia tăng nhanh chóng của các thiết bị mạng như mô-đun quang, switch, và nhu cầu bùng nổ. Tuy nhiên, thị trường vẫn còn mơ hồ về lý do tại sao card đồ họa cần đi kèm với nhiều mô-đun quang, cũng như tại sao truyền thông trở thành điểm đau của mô hình lớn. Bài viết này sẽ bắt đầu từ nguyên lý, khám phá lý do tại sao mạng lưới trở thành "vị trí C" mới trong thời đại AI, và từ những thay đổi trong ngành công nghiệp mới nhất, thảo luận về sự đổi mới trong lĩnh vực mạng và những cơ hội đầu tư phía sau.

Nhu cầu mạng đến từ đâu?

Bước vào kỷ nguyên mô hình lớn, khoảng cách giữa kích thước mô hình và giới hạn đơn thẻ nhanh chóng gia tăng, ngành công nghiệp đã chuyển sang tìm kiếm cụm máy chủ đa để giải quyết vấn đề đào tạo mô hình, điều này cũng tạo thành nền tảng cho việc "nâng cấp" mạng trong thời đại AI. Đồng thời, so với trước đây chỉ được sử dụng để truyền tải dữ liệu, ngày nay mạng còn được sử dụng nhiều hơn để đồng bộ hóa các tham số mô hình giữa các card đồ họa, đặt ra yêu cầu cao hơn về mật độ và dung lượng của mạng.

Mô hình ngày càng lớn:

1. Thời gian huấn luyện = Quy mô dữ liệu huấn luyện x Số lượng tham số mô hình / Tốc độ tính toán
2. Tốc độ tính toán = Tốc độ tính toán trên một thiết bị x Số lượng thiết bị x Hiệu suất song song của nhiều thiết bị

Hiện nay, trong ngành công nghiệp, để đáp ứng nhu cầu ngày càng cao về quy mô dữ liệu huấn luyện và số lượng tham số, chỉ có thể tăng tốc độ tính toán để rút ngắn thời gian huấn luyện. Tuy nhiên, việc nâng cấp tốc độ tính toán của từng thiết bị có chu kỳ và giới hạn riêng, vì vậy cách tận dụng mạng để mở rộng tối đa "số lượng thiết bị" và "hiệu suất song song" sẽ quyết định trực tiếp đến sức mạnh tính toán.

Giao tiếp phức tạp của đồng bộ đa thẻ: Trong quá trình đào tạo mô hình lớn, sau khi chia mô hình thành các thẻ đơn, mỗi khi thực hiện tính toán, các thẻ đơn cần phải được căn chỉnh với nhau (Reduce, Gather, v.v. ). Đồng thời, trong hệ thống nguyên thủy giao tiếp NCCL của Nvidia, All-to-All ( có nghĩa là tất cả các nút đều có thể lấy giá trị từ nhau và thực hiện các hoạt động căn chỉnh ), do đó đặt ra yêu cầu cao hơn cho việc truyền tải và trao đổi giữa các mạng.

Chi phí lỗi ngày càng đắt đỏ: Việc đào tạo mô hình lớn thường kéo dài hơn vài tháng, và một khi có sự gián đoạn xảy ra, cần phải quay trở lại điểm tạm ngưng cách vài giờ hoặc vài ngày để đào tạo lại. Một lỗi trong một khâu phần mềm hoặc phần cứng nào đó trong toàn bộ mạng, hoặc độ trễ quá cao, đều có thể dẫn đến sự gián đoạn. Nhiều sự gián đoạn hơn đồng nghĩa với tiến độ chậm lại và chi phí ngày càng cao. Mạng AI hiện đại đã dần phát triển thành thành quả của khả năng kỹ thuật hệ thống con người, tương đương với máy bay, tàu sân bay và những hệ thống phức tạp khác.

Đổi mới mạng sẽ đi về đâu?

Phần cứng hoạt động theo nhu cầu, sau hai năm, quy mô đầu tư tính toán toàn cầu đã mở rộng lên hàng trăm tỷ đô la, trong khi sự mở rộng của các tham số mô hình và cuộc chiến khốc liệt giữa các ông lớn vẫn diễn ra gay gắt. Hiện nay, "giảm chi phí", "mở cửa" và sự cân bằng giữa quy mô tính toán sẽ là những chủ đề chính của đổi mới mạng.

Sự thay đổi của môi trường truyền thông: ánh sáng, đồng và silicon là ba môi trường truyền tải lớn của nhân loại. Trong thời đại AI, mô-đun ánh sáng không chỉ theo đuổi tốc độ cao hơn mà còn tiến bước trên con đường giảm chi phí như LPO, LRO, silicon quang. Tại thời điểm hiện tại, cáp đồng chiếm ưu thế trong kết nối trong tủ nhờ vào tỷ lệ hiệu suất chi phí và tỷ lệ lỗi. Trong khi đó, các công nghệ bán dẫn mới như Chiplet, Wafer-scaling đang tăng tốc khám phá giới hạn của kết nối dựa trên silicon.

Cạnh tranh giao thức mạng: giao thức truyền thông giữa các chip và sự liên kết mạnh mẽ với card đồ họa, như NV-LINK của Nvidia, Infinity Fabric của AMD, v.v., quyết định giới hạn khả năng của một máy chủ hoặc một nút tính toán đơn lẻ, là một chiến trường khắc nghiệt của các ông lớn. Cuộc chiến giữa IB và Ethernet là giai điệu chính trong truyền thông giữa các nút.

Sự thay đổi trong kiến trúc mạng: Hiện tại, kiến trúc mạng giữa các nút thường sử dụng kiến trúc lá và thân, đặc điểm của kiến trúc lá và thân là tiện lợi, đơn giản và ổn định. Tuy nhiên, khi số lượng nút trong một cụm tăng lên, kiến trúc lá và thân có phần thừa thãi sẽ mang lại chi phí mạng lớn cho các cụm siêu lớn. Hiện nay, các kiến trúc mới như kiến trúc Dragonfly, kiến trúc chỉ đường sắt, v.v. có khả năng trở thành hướng tiến hóa cho các cụm siêu lớn thế hệ tiếp theo.

Đề xuất đầu tư

Các phần cốt lõi của hệ thống viễn thông: Zhongji Xuchuang, NewEase, Tianfu Communication, Industrial Fulian, Yingweike, Hudean Co.

Các khâu đổi mới trong hệ thống thông tin: Longfly Fiber, Taicheng Optical, Yuanjie Technology, Shengke Communication-U, Cambrian, Decole.

Lời nhắc rủi ro

1. Nhu cầu AI không đạt kỳ vọng
2. Luật mở rộng không còn hiệu lực
3. Cạnh tranh trong ngành gia tăng