Важливість мережі в епоху ШІ та напрямки інновацій

Мережа стала ключовим елементом в епоху великих моделей ШІ. Зі швидким зростанням масштабів моделей, кластер з декількох серверів став основним рішенням для вирішення проблеми навчання, що також є підставою для “підвищення статусу” мережі в епоху ШІ. На відміну від минулого, коли мережа використовувалася виключно для передачі даних, тепер вона більше використовується для синхронізації параметрів моделей між графічними процесорами, що висуває більш високі вимоги до щільності та ємності мережі.

Потреба в мережі головним чином походить з трьох аспектів:

1. Постійно зростаючий обсяг моделі. Час навчання пропорційний кількості параметрів моделі і обернено пропорційний швидкості обчислень. Щоб скоротити час навчання, потрібно збільшити кількість пристроїв через мережу та підвищити ефективність паралельної роботи кількох пристроїв.

2. Складне спілкування для синхронізації декількох карт. Після розподілу моделі на одну карту, кожен обчислювальний процес потребує вирівнювання, що висуває більш високі вимоги до мережевої передачі та обміну.

3. Все більш дорогі витрати на несправності. Навчання великих моделей часто триває кілька місяців, і переривання може призвести до серйозних втрат у прогресі та витратах. Сучасні AI мережі стали втіленням інженерних можливостей людства, які можна порівняти з літаками, авіаносцями та іншими системами.

Майбутні інновації в мережі будуть зосереджені на трьох напрямках: “зниження витрат”, “відкритість” та баланс масштабів обчислювальної потужності:

1. Зміна комунікаційного носія: оптичні модулі прагнуть до вищих швидкостей, одночасно досліджуючи шляхи зниження витрат, такі як LPO, LRO, кремнієва оптика тощо. Мідні кабелі займають місце в підключеннях у шафах завдяки своїй ціновій перевазі. Нові напівпровідникові технології, такі як Chiplet, Wafer-scaling тощо, прискорюють дослідження меж кремнієвих з’єднань.

2. Конкуренція мережевих протоколів: протоколи між чіпами тісно пов’язані з графічними процесорами, такими як NV-LINK, Infinity Fabric тощо. Комунікація між вузлами в основному зосереджена на конкуренції між IB та Ethernet.

3. Зміни в мережевій архітектурі: в даний час широко використовують архітектуру Leaf-Spine, але з розширенням масштабів кластерів нові архітектури, такі як Dragonfly, rail-only та інші, можуть стати еволюційним напрямком для надвеликих кластерів.

Інвестиційні рекомендації для уваги:

Основна ланка системи зв’язку: Zhongji Innolight, Xin Yisheng, Tianfu Communication, Industrial Fortune Union, Invic, Shanghai Electric Co., Ltd.

Інноваційний етап комунікаційних систем: Changfei оптичне волокно, Taicheng Guang, Yuanjie Technology, Shengke Communication-U, Hanwuji, Dekoli.

Попередження про ризики: Попит на ШІ не відповідає очікуванням, закон масштабування не діє, конкуренція в галузі посилюється.