شبكة الذكاء الاصطناعي: من أين تأتي الحاجة ، وإلى أين ستتجه الابتكارات؟
إن الشبكة هي أحد العناصر الرئيسية في عصر نماذج الذكاء الاصطناعي الكبيرة. في عصر النماذج الكبيرة، بدأنا نشهد تسارعاً في تحديث وحدات الإضاءة، والمبدلات، وغيرها من أجهزة الشبكة، مما أدى إلى انفجار في الطلب. لكن السوق لديه فهم سطحي لسبب الحاجة إلى وحدات إضاءة كثيرة مع بطاقات الرسوميات، ولماذا أصبحت الاتصالات نقطة ألم لنماذج الذكاء الاصطناعي. ستناقش هذه المقالة من منظور المبدأ، لماذا أصبحت الشبكة "المكان المركزي" الجديد في عصر الذكاء الاصطناعي، ومن خلال أحدث التغيرات الصناعية، سنبحث في الابتكارات المستقبلية على جانب الشبكة وفرص الاستثمار الكامنة وراءها.
من أين تأتي متطلبات الشبكة؟
دخلنا عصر النماذج الكبيرة، حيث اتسعت الفجوة بسرعة بين حجم النموذج وحدود بطاقة الرسوم الواحدة، مما دفع الصناعة للبحث عن تجمعات خوادم متعددة لحل مشاكل تدريب النماذج، وهذا يشكل أيضًا أساس "التحكم" في الشبكة في عصر الذكاء الاصطناعي. في الوقت نفسه، بالمقارنة مع الماضي حيث كانت الشبكة تستخدم فقط لنقل البيانات، أصبحت الشبكة اليوم تُستخدم بشكل أكبر لمزامنة معلمات النموذج بين بطاقات الرسوم، مما يتطلب مستويات أعلى من الكثافة والسعة في الشبكة.
حجم النموذج المتزايد باستمرار:
وقت التدريب = حجم بيانات التدريب × عدد معلمات النموذج / سرعة الحساب
معدل الحساب = معدل حساب جهاز واحد x عدد الأجهزة x كفاءة التوازي المتعدد للأجهزة
في الوقت الحالي، مع السعي المزدوج لزيادة حجم بيانات التدريب وعدد المعاملات، فإنه لا بد من تسريع كفاءة الحساب لتقليل وقت التدريب. ومع ذلك، فإن تحديث سرعة الحساب على جهاز واحد له دوراته وحدوده، لذا فإن كيفية استخدام الشبكة لتوسيع "عدد الأجهزة" و"كفاءة التوازي" بأقصى قدر ممكن تحدد مباشرة قوة الحوسبة.
التواصل المعقد بين بطاقات متعددة: خلال عملية تدريب النموذج الكبير، بعد تقسيم النموذج إلى بطاقة واحدة، يحتاج كل حساب إلى محاذاة بين البطاقات الفردية ( مثل Reduce و Gather وغيرها ). في نفس الوقت، في نظام واجهات الاتصال NCCL الخاص بـ NVIDIA، فإن All-to-All ( أي أن جميع العقد يمكنها الحصول على القيم ومحاذاتها ) هي عملية شائعة، وبالتالي تضع متطلبات أعلى على النقل والتبادل بين الشبكات.
تكاليف الأعطال التي أصبحت أكثر تكلفة: غالبًا ما تستمر عملية تدريب النماذج الكبيرة لأكثر من عدة أشهر، وعندما يحدث انقطاع في منتصف الطريق، يجب العودة إلى نقطة التوقف قبل بضع ساعات أو أيام لإعادة التدريب. يمكن أن تؤدي أي مشكلة في أحد جوانب الأجهزة أو البرامج في الشبكة، أو التأخير المفرط، إلى حدوث انقطاع. المزيد من الانقطاعات تعني تقدمًا متخلفًا وتكاليف متزايدة. لقد تطورت الشبكات الحديثة للذكاء الاصطناعي تدريجياً لتصبح تجسيدًا لقدرات الهندسة البشرية التي لا تقل عن تلك المتعلقة بالطائرات وحاملات الطائرات.
إلى أين ستذهب الابتكارات التكنولوجية؟
تتحرك الأجهزة وفقًا للطلب، وبعد عامين، توسعت استثمارات القوة الحاسوبية العالمية إلى مئات المليارات من الدولارات، ولا يزال توسع معلمات النموذج، والمعركة الشرسة بين العمالقة، مستمرة بشدة. في الوقت الحاضر، ستكون "خفض التكاليف" و"الانفتاح" والتوازن بين حجم القوة الحاسوبية الموضوعات الرئيسية للابتكار الشبكي.
تغيير وسائط الاتصال: الفايبر، النحاس والسيليكون هي ثلاث وسائط رئيسية لنقل البيانات من قبل البشرية. في عصر الذكاء الاصطناعي، تسعى وحدات الفايبر لتحقيق معدلات أسرع، كما أنها اتخذت خطوات نحو تقليل التكاليف مع LPO وLRO وSilicon Photonics. في الوقت الحالي، يسيطر كابل النحاس على الاتصالات داخل الخزانات بفضل القيمة مقابل المال ومعدل الأعطال. بينما تسرع تقنيات أشباه الموصلات الجديدة مثل Chiplet وWafer-scaling من استكشاف حدود الاتصال القائم على السيليكون.
تنافس بروتوكولات الشبكة: بروتوكولات الاتصالات بين الشرائح والارتباط القوي لبطاقات الرسوم البيانية، مثل NV-LINK من إنفيديا وInfinity Fabric من AMD وغيرها، تحدد الحد الأقصى لقدرات الخادم الواحد أو عقدة الحوسبة الفردية، مما يجعلها ساحة معركة قاسية بين العملاقين. بينما تُعتبر معركة IB والإيثرنت هي اللحن الرئيسي في الاتصالات بين العقد.
تغيرات في هيكل الشبكة: يتبنى الهيكل الشبكي الحالي بين العقد عادةً هيكل "ورقة الشجرة"، والذي يتميز بالراحة والبساطة والاستقرار. ومع ذلك، مع زيادة عدد العقد في مجموعة واحدة، قد تؤدي الهيكلية الزائدة قليلاً لورقة الشجرة إلى تكاليف شبكة كبيرة للمجموعات الفائقة الحجم. في الوقت الحالي، من المتوقع أن تصبح الهياكل الجديدة مثل هيكل "دراغونفلاي"، وهيكل "سكك حديدية فقط"، اتجاهات تطورية موجهة نحو الجيل التالي من المجموعات الفائقة الحجم.
نصائح استثمارية
الرابط الأساسي لنظام الاتصالات: Zhongji Innolight ، Xin Yisheng ، Tianfu Communication ، Industrial Fortune Union ، Invic ، Shanghai Electric Co.، Ltd.
مراحل الابتكار في نظام الاتصالات: تشانغفي للألياف الضوئية، تاي تشينغ غوانغ، يوان جيه تكنولوجيا، شينغ كيه للاتصالات - U، هان وو جي، دي كولي.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تسجيلات الإعجاب 15
أعجبني
15
8
مشاركة
تعليق
0/400
ForumMiningMaster
· 07-24 22:25
وحدة الإضاءة تتسارع للقمر اشترِ بقوة
شاهد النسخة الأصليةرد0
0xOverleveraged
· 07-24 11:16
افهم التقنية ومركز مكتمل لا تتحدث إذا لم تقم بالتداول
شاهد النسخة الأصليةرد0
ForkTongue
· 07-24 06:15
هل كل هذا الحديث في النهاية يهدف إلى أن أشتري أسهم وحدات الإضاءة؟
شاهد النسخة الأصليةرد0
NftMetaversePainter
· 07-22 10:46
*يعدل نظارة رقمية* من الرائع كيف تعكس الطوبولوجيا الحاسوبية للبنى التحتية الشبكية سلسلة فني التوليدي الأخيرة... حقًا تحول جذري في الحساب الجمالي
شاهد النسخة الأصليةرد0
ForkMonger
· 07-22 10:44
قابلية التوسع في الشبكة هي العائق الحقيقي... ليست تكدسات وحدات معالجة الرسوميات الفاخرة لديك هاها oversight المعتاد من مجتمع التعلم الآلي
شاهد النسخة الأصليةرد0
GasGuzzler
· 07-22 10:36
يجب أن ينفجر مخزون وحدات الإضاءة، الجميع يتسابق ل dump.
شاهد النسخة الأصليةرد0
ZkSnarker
· 07-22 10:36
إليك الأمر... اختناقات الشبكة هي حرفياً اختناقات GPU الجديدة fr
اتجاهات الابتكار الشبكي في عصر الذكاء الاصطناعي: تحليل مصادر الطلب واتجاهات التطور المستقبلية
شبكة الذكاء الاصطناعي: من أين تأتي الحاجة ، وإلى أين ستتجه الابتكارات؟
إن الشبكة هي أحد العناصر الرئيسية في عصر نماذج الذكاء الاصطناعي الكبيرة. في عصر النماذج الكبيرة، بدأنا نشهد تسارعاً في تحديث وحدات الإضاءة، والمبدلات، وغيرها من أجهزة الشبكة، مما أدى إلى انفجار في الطلب. لكن السوق لديه فهم سطحي لسبب الحاجة إلى وحدات إضاءة كثيرة مع بطاقات الرسوميات، ولماذا أصبحت الاتصالات نقطة ألم لنماذج الذكاء الاصطناعي. ستناقش هذه المقالة من منظور المبدأ، لماذا أصبحت الشبكة "المكان المركزي" الجديد في عصر الذكاء الاصطناعي، ومن خلال أحدث التغيرات الصناعية، سنبحث في الابتكارات المستقبلية على جانب الشبكة وفرص الاستثمار الكامنة وراءها.
من أين تأتي متطلبات الشبكة؟
دخلنا عصر النماذج الكبيرة، حيث اتسعت الفجوة بسرعة بين حجم النموذج وحدود بطاقة الرسوم الواحدة، مما دفع الصناعة للبحث عن تجمعات خوادم متعددة لحل مشاكل تدريب النماذج، وهذا يشكل أيضًا أساس "التحكم" في الشبكة في عصر الذكاء الاصطناعي. في الوقت نفسه، بالمقارنة مع الماضي حيث كانت الشبكة تستخدم فقط لنقل البيانات، أصبحت الشبكة اليوم تُستخدم بشكل أكبر لمزامنة معلمات النموذج بين بطاقات الرسوم، مما يتطلب مستويات أعلى من الكثافة والسعة في الشبكة.
حجم النموذج المتزايد باستمرار:
في الوقت الحالي، مع السعي المزدوج لزيادة حجم بيانات التدريب وعدد المعاملات، فإنه لا بد من تسريع كفاءة الحساب لتقليل وقت التدريب. ومع ذلك، فإن تحديث سرعة الحساب على جهاز واحد له دوراته وحدوده، لذا فإن كيفية استخدام الشبكة لتوسيع "عدد الأجهزة" و"كفاءة التوازي" بأقصى قدر ممكن تحدد مباشرة قوة الحوسبة.
التواصل المعقد بين بطاقات متعددة: خلال عملية تدريب النموذج الكبير، بعد تقسيم النموذج إلى بطاقة واحدة، يحتاج كل حساب إلى محاذاة بين البطاقات الفردية ( مثل Reduce و Gather وغيرها ). في نفس الوقت، في نظام واجهات الاتصال NCCL الخاص بـ NVIDIA، فإن All-to-All ( أي أن جميع العقد يمكنها الحصول على القيم ومحاذاتها ) هي عملية شائعة، وبالتالي تضع متطلبات أعلى على النقل والتبادل بين الشبكات.
تكاليف الأعطال التي أصبحت أكثر تكلفة: غالبًا ما تستمر عملية تدريب النماذج الكبيرة لأكثر من عدة أشهر، وعندما يحدث انقطاع في منتصف الطريق، يجب العودة إلى نقطة التوقف قبل بضع ساعات أو أيام لإعادة التدريب. يمكن أن تؤدي أي مشكلة في أحد جوانب الأجهزة أو البرامج في الشبكة، أو التأخير المفرط، إلى حدوث انقطاع. المزيد من الانقطاعات تعني تقدمًا متخلفًا وتكاليف متزايدة. لقد تطورت الشبكات الحديثة للذكاء الاصطناعي تدريجياً لتصبح تجسيدًا لقدرات الهندسة البشرية التي لا تقل عن تلك المتعلقة بالطائرات وحاملات الطائرات.
إلى أين ستذهب الابتكارات التكنولوجية؟
تتحرك الأجهزة وفقًا للطلب، وبعد عامين، توسعت استثمارات القوة الحاسوبية العالمية إلى مئات المليارات من الدولارات، ولا يزال توسع معلمات النموذج، والمعركة الشرسة بين العمالقة، مستمرة بشدة. في الوقت الحاضر، ستكون "خفض التكاليف" و"الانفتاح" والتوازن بين حجم القوة الحاسوبية الموضوعات الرئيسية للابتكار الشبكي.
تغيير وسائط الاتصال: الفايبر، النحاس والسيليكون هي ثلاث وسائط رئيسية لنقل البيانات من قبل البشرية. في عصر الذكاء الاصطناعي، تسعى وحدات الفايبر لتحقيق معدلات أسرع، كما أنها اتخذت خطوات نحو تقليل التكاليف مع LPO وLRO وSilicon Photonics. في الوقت الحالي، يسيطر كابل النحاس على الاتصالات داخل الخزانات بفضل القيمة مقابل المال ومعدل الأعطال. بينما تسرع تقنيات أشباه الموصلات الجديدة مثل Chiplet وWafer-scaling من استكشاف حدود الاتصال القائم على السيليكون.
تنافس بروتوكولات الشبكة: بروتوكولات الاتصالات بين الشرائح والارتباط القوي لبطاقات الرسوم البيانية، مثل NV-LINK من إنفيديا وInfinity Fabric من AMD وغيرها، تحدد الحد الأقصى لقدرات الخادم الواحد أو عقدة الحوسبة الفردية، مما يجعلها ساحة معركة قاسية بين العملاقين. بينما تُعتبر معركة IB والإيثرنت هي اللحن الرئيسي في الاتصالات بين العقد.
تغيرات في هيكل الشبكة: يتبنى الهيكل الشبكي الحالي بين العقد عادةً هيكل "ورقة الشجرة"، والذي يتميز بالراحة والبساطة والاستقرار. ومع ذلك، مع زيادة عدد العقد في مجموعة واحدة، قد تؤدي الهيكلية الزائدة قليلاً لورقة الشجرة إلى تكاليف شبكة كبيرة للمجموعات الفائقة الحجم. في الوقت الحالي، من المتوقع أن تصبح الهياكل الجديدة مثل هيكل "دراغونفلاي"، وهيكل "سكك حديدية فقط"، اتجاهات تطورية موجهة نحو الجيل التالي من المجموعات الفائقة الحجم.
نصائح استثمارية
الرابط الأساسي لنظام الاتصالات: Zhongji Innolight ، Xin Yisheng ، Tianfu Communication ، Industrial Fortune Union ، Invic ، Shanghai Electric Co.، Ltd.
مراحل الابتكار في نظام الاتصالات: تشانغفي للألياف الضوئية، تاي تشينغ غوانغ، يوان جيه تكنولوجيا، شينغ كيه للاتصالات - U، هان وو جي، دي كولي.
تحذير من المخاطر