Мережа епохи ШІ: попит, інновації та інвестиційні можливості
В останні роки, з підйомом великих моделей, мережа стала ключовим елементом ери ШІ. У цій статті ми розглянемо, з яких причин мережа стала новим "центром" ери ШІ, а також обговоримо інновації та інвестиційні можливості в мережевій сфері в майбутньому.
1. Звідки походять вимоги до мережі?
Входячи в епоху великих моделей, розрив між обсягом моделей та обмеженнями однієї відеокарти швидко збільшується. Галузь переходить до кластерів з кількох серверів для вирішення проблеми навчання моделей, що становить основу для "вищого" рівня мережі в епоху штучного інтелекту. В порівнянні з минулим, коли мережа використовувалася виключно для передачі даних, сьогодні мережа більше використовується для синхронізації параметрів моделей між відеокартами, що висуває вищі вимоги до щільності та місткості мережі.
Зростаючий обсяг моделей безпосередньо визначає кількість пристроїв та ефективність паралелізму, що, у свою чергу, впливає на час навчання. Під час процесу синхронізації кількох карток після кожного обчислення потрібно здійснити вирівнювання між окремими картками, що ставить вищі вимоги до передачі даних та обміну.
Водночас, навчання великих моделей зазвичай триває понад кілька місяців, і збій або висока затримка в будь-якій частині мережі можуть призвести до перерви, що виклине великі витрати. Сучасні AI-мережі вже стали втіленням інженерних можливостей людства, порівнянних з літаками, авіаносцями тощо.
2. Куди рухатиметься мережеві інновації?
Зі збільшенням обсягу інвестицій у глобальну обчислювальну потужність до кількох сотень мільярдів доларів, баланс між зниженням витрат, відкритістю та масштабами обчислювальної потужності стане основною темою інновацій у мережі.
2.1 Зміна комунікаційних засобів
Світло, мідь і кремній є трьома основними середовищами, через які людство передає інформацію. В епоху ШІ модулі світла, прагнучи до більшої швидкості, також зробили кроки на шляху зниження витрат, такі як LPO, LRO, кремнієве світло тощо. Мідні кабелі завдяки своїй вигідній ціні, низькому рівню несправностей та іншим перевагам займають позиції в з'єднаннях всередині шафи. Нові напівпровідникові технології, такі як Chiplet, Wafer-scaling, прискорюють дослідження меж кремнієвих з'єднань.
2.2 Конкуренція мережевих протоколів
Протоколи зв'язку між чіпами та сильна прив'язка до графічних карт, такі як NV-LINK від NVIDIA, Infinity Fabric від AMD тощо, визначають верхню межу можливостей одного сервера або окремого обчислювального вузла. А конкуренція між IB та Ethernet є основною темою зв'язку між вузлами.
2.3 Зміни в мережевій архітектурі
Сучасна мережна архітектура між вузлами зазвичай використовує архітектуру «листя і стовбур», яка має зручні, прості та стабільні характеристики. Але з ростом кількості вузлів у окремому кластері, архітектура «листя і стовбур» може призвести до значних мережевих витрат для надвеликих кластерів. Архітектури Dragonfly, rail-only та інші нові архітектури мають потенціал стати еволюційним напрямком для наступного покоління надвеликих кластерів.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Зростання попиту на мережі в епоху ШІ: з'являються можливості інвестицій в інновації зв'язку
Мережа епохи ШІ: попит, інновації та інвестиційні можливості
В останні роки, з підйомом великих моделей, мережа стала ключовим елементом ери ШІ. У цій статті ми розглянемо, з яких причин мережа стала новим "центром" ери ШІ, а також обговоримо інновації та інвестиційні можливості в мережевій сфері в майбутньому.
1. Звідки походять вимоги до мережі?
Входячи в епоху великих моделей, розрив між обсягом моделей та обмеженнями однієї відеокарти швидко збільшується. Галузь переходить до кластерів з кількох серверів для вирішення проблеми навчання моделей, що становить основу для "вищого" рівня мережі в епоху штучного інтелекту. В порівнянні з минулим, коли мережа використовувалася виключно для передачі даних, сьогодні мережа більше використовується для синхронізації параметрів моделей між відеокартами, що висуває вищі вимоги до щільності та місткості мережі.
Зростаючий обсяг моделей безпосередньо визначає кількість пристроїв та ефективність паралелізму, що, у свою чергу, впливає на час навчання. Під час процесу синхронізації кількох карток після кожного обчислення потрібно здійснити вирівнювання між окремими картками, що ставить вищі вимоги до передачі даних та обміну.
Водночас, навчання великих моделей зазвичай триває понад кілька місяців, і збій або висока затримка в будь-якій частині мережі можуть призвести до перерви, що виклине великі витрати. Сучасні AI-мережі вже стали втіленням інженерних можливостей людства, порівнянних з літаками, авіаносцями тощо.
2. Куди рухатиметься мережеві інновації?
Зі збільшенням обсягу інвестицій у глобальну обчислювальну потужність до кількох сотень мільярдів доларів, баланс між зниженням витрат, відкритістю та масштабами обчислювальної потужності стане основною темою інновацій у мережі.
2.1 Зміна комунікаційних засобів
Світло, мідь і кремній є трьома основними середовищами, через які людство передає інформацію. В епоху ШІ модулі світла, прагнучи до більшої швидкості, також зробили кроки на шляху зниження витрат, такі як LPO, LRO, кремнієве світло тощо. Мідні кабелі завдяки своїй вигідній ціні, низькому рівню несправностей та іншим перевагам займають позиції в з'єднаннях всередині шафи. Нові напівпровідникові технології, такі як Chiplet, Wafer-scaling, прискорюють дослідження меж кремнієвих з'єднань.
2.2 Конкуренція мережевих протоколів
Протоколи зв'язку між чіпами та сильна прив'язка до графічних карт, такі як NV-LINK від NVIDIA, Infinity Fabric від AMD тощо, визначають верхню межу можливостей одного сервера або окремого обчислювального вузла. А конкуренція між IB та Ethernet є основною темою зв'язку між вузлами.
2.3 Зміни в мережевій архітектурі
Сучасна мережна архітектура між вузлами зазвичай використовує архітектуру «листя і стовбур», яка має зручні, прості та стабільні характеристики. Але з ростом кількості вузлів у окремому кластері, архітектура «листя і стовбур» може призвести до значних мережевих витрат для надвеликих кластерів. Архітектури Dragonfly, rail-only та інші нові архітектури мають потенціал стати еволюційним напрямком для наступного покоління надвеликих кластерів.
3. Інвестиційні рекомендації
Ключові елементи комунікаційної системи: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hudian Co., Ltd.
Інновації в системах зв'язку: YOFC, Zhongtian Technology, Hengtong Optoelectronics і Centec Communications.
4. Попередження про ризики