Abstrakt
Sun'iy intellekt (AI) tez rivojlanib borayotganligi sababli, an'anaviy ma'lumotlar markazlari tarmoqlari sun'iy intellekt trafigini tashishda katta qiyinchiliklarga duch keladi. Yuqori tarmoqli kengligidan foydalanish va oz sonli fil oqimlari anʼanaviy har{1}}har bir oqim yuk balansini samarasiz qilishi mumkin, natijada tiqilib qolish va paketlarning yoʻqolishiga olib keladi, bu esa AI modelini oʻqitish va ishlarni bajarish vaqtlarini sezilarli darajada oshiradi. Ushbu oq qog'oz real{3}}vaqtdagi xabardorlikni aqlli qarorlar-qabul qilish bilan uyg'unlashtirgan dinamik aqlli marshrutlash texnologiyasini ko'rib chiqadi. U yoʻl-sifat oʻlchovi, kengaytirilgan BGP-atribut sinxronizatsiyasi, dinamik vaznli-xarajat koʻp yoʻl (WCMP), anormal-yoʻlni olib tashlash va
AI muhitlarida trafikni rejalashtirishni yaxshilash uchun -Flowlet darajasidagi avtomatik yuk balansi (ALB). Dizayn, shuningdek, ko'p ijarachilarni izolyatsiya qilish uchun virtualizatsiyadan foydalanadi va samarali, barqaror va aqlli AI ma'lumotlar markazi tarmoqlari uchun dastur stsenariylari va rejalashtirish bo'yicha ko'rsatmalarni taklif qiladi.
Kirish: AIda tarmoq evolyutsiyasi Era
Nima uchun an'anaviy tarmoqlar sun'iy intellekt bilan kurashmoqda Trafik
Anʼanaviy maʼlumotlar markazi tarmoqlarida koʻp sonli kichik oqimlar har bir oqim yukini muvozanatlash imkonini beradi,-tarmoq sharoitlaridan real vaqtda xabardor boʻlmasdan ham maqbul taqsimot va tirbandliklarning oldini olish uchun. AI trafiki juda farq qiladi: tarmoqli kengligidan foydalanish juda yuqori va trafik ko'pincha faqat bir nechta fil oqimlari tomonidan boshqariladi. Shunday qilib, xesh to'qnashuvlari bir xil yo'lda bir nechta katta oqimlarni joylashtirishi mumkin, boshqa yo'llar esa kam foydalanilmaydi. Paket yo'qolishi sodir bo'lgandan so'ng, butun AI ish yukini bajarish vaqti sezilarli darajada oshishi mumkin. Shu sababli, sanoat trafikni bir nechta yoʻllar boʻyicha teng taqsimlanishi uchun AI matolari uchun optimallashtirilgan yuk{6}}balanslash algoritmlariga koʻproq eʼtibor qaratmoqda.
1-rasm. AI fil{1}} oqimlari va an'anaviy kichik- oqimlar trafigini taqqoslash.
Dinamik xabardorlikni aqlli qarorlar qabul qilish bilan birlashtirish-
Dinamik aqlli marshrut - bu xabardorlikka asoslangan-yukni muvozanatlash-texnologiyasi. U mahalliy yo'l tanlashni sozlash uchun matodagi kalitlar tomonidan seziladigan yo'l sifatini ishlatadi va dinamik vaznli yuk muvozanatini qo'llab-quvvatlaydi. BGP asosida yaratilgan texnologiya yangi kengaytirilgan{4}}hamjamiyat atributini belgilaydi.
Yo'l sifatini baholash uchun ko'p{0}}o'lchovli, yuqori{1}}aniqlikdagi o'lchovlardan foydalaniladi va natija keyingi trafikni yo'naltirish uchun BGP orqali tarqaladi. Bu tarmoq yukining-keng taqsimlanishini yaxshilaydi va ilovaning javob berish vaqtini qisqartiradi [1].
Shakl 2. Dinamik xabardorlik, qaror va ijro ish jarayoni.
Asosiy texnologiyalar: Trafikni aqlli rejalashtirish
Tarmoq yukini muvozanatlash{0}}asosiy yondashuvlariga quyidagilar kiradi:
- Har{0}}oqim ECMP: Beshta{1}}xeshga asoslangan eng keng tarqalgan yondashuv. U ko'p oqimlar mavjud bo'lganda yaxshi ishlaydi va paketlar tartibini saqlaydi, ammo AI ta'limida bo'lgani kabi, oqimlar soni past bo'lganda xesh to'qnashuvi yomon muvozanatga olib kelishi mumkin [1].
- Flowlet{0}}asosidagi balanslash: oqimlar orasidagi boʻshliqning toʻgʻri-konfiguratsiyasiga bogʻliq. Global yoʻl{3}}darajadagi kechikish nomaʼlum [1] boʻlsa, aniq sozlash qiyin.
- Har bir-paket ECMP: A'lo nazariy muvozanatni ta'minlaydi, lekin qabul qiluvchida paketlarni qayta tartiblashni keng ko'lamda yaratishi mumkin [1].
XingRongyuan CX-N Series RoCE kalitlari (SONiC-asosidagi) tomonidan qo‘llaniladigan dinamik aqlli marshrutlash usuli har bir-oqim ECMP va Flowlet-asosidagi muvozanatni birlashtiradi. U dinamik WCMP (Weighted Cost Multipath) va Flowlet{5}}asosidagi ALB (Auto Load Balance) [1] ni taqdim etadi.
Yo'l sifatini o'lchash
Tizim tarmoq yoʻli sifatini AI klasteri toʻqimalariga kuchli taʼsir etuvchi omillar, jumladan, tarmoqli kengligidan foydalanish, navbatdan foydalanish va yoʻnaltirish kechikishidan foydalangan holda baholaydi.
Statistik hisoblagichlar
Tarmoq kengligi va navbatdan foydalanish ASIC apparat hisoblagichlari orqali yuz-millisoniya darajasida aniqlik bilan o‘lchanadi. ASIC real vaqtda-yo‘naltirish va navbatga{3}}yo‘naltirish hisoblagichlarini qayd qiladi. SONiC boshqaruv tekisligi hisoblagichlarni SAI interfeysi orqali ikkinchi darajali aniqlikda o'qiydi va ularni Redis-da saqlaydi. Marshrutni{7}}nazorat qilish jarayoni ushbu hisoblagichlar yordamida interfeys sifatini baholaydi va natijani BGP orqali reklama qiladi. Nazorat{9}}samolyot yukini cheklash uchun hozirda reklamalar ikkinchi darajali oraliqlarda yuboriladi, bunda bir nechta namunalarga oʻrtacha ogʻirlikdagi qiymat qoʻllaniladi; yangi namunalar yuqori og'irlik oladi.
-Band telemetriyasida
Yoʻnaltirish-kechikish oʻlchovi INT (In-tarmoqli tarmoq telemetriyasi)ga asoslanadi va nanosoniya-darajadagi aniqlikka erisha oladi. HDC (High Delay Capture) ASIC ichida yuqori kechikishni boshdan kechiradigan paketlarni ushlaydi. Paket foydalanuvchi tomonidan belgilangan kechikish chegarasidan- oshib ketganda, kalit asl paketning dastlabki 150 baytini metadata bilan birga, jumladan kirish porti, chiqish porti va kechikish vaqtini kollektorga yuboradi. Ushbu dizaynda protsessor HDC kollektori va analizatori vazifasini bajaradi, bu esa yuqori{8}}aniqlikdagi yo'naltirish-kechikish o'lchovlari va aniqroq yo'l-sifatni baholash imkonini beradi.
3-rasm. Yo'l-sifatni yoyish va WCMP o'rnatish.
Texnologiya maqsad sari yoʻlning umumiy sifatini koʻrsatish uchun yangi BGP kengaytirilgan{0}}hamjamiyat atributidan, Path Bandwidth Extended Communitydan foydalanadi. Kengaytirilgan turdagi maydonning yuqori-tartibi bayti- 0x00 va past{6}}tartib bayti 0x05. Qiymat maydonida Global Administrator pastki maydoni AS raqamini ifodalaydi. Yoʻl sifati IEEE suzuvchi nuqta formati yordamida toʻrt baytda kodlangan{10} va GB/s da ifodalangan.
NIC1 NIC2 bilan aloqa qilganda, NIC2 birinchi navbatda o'zining IP manzilini Leaf2 ga e'lon qiladi. Leaf2 umurtqa pogʻonasi manzilini-NIC2 ga boʻlgan sifat qiymatini Leaf2 pastga havolasi ogʻirligiga koʻpaytirib reklama qiladi. Spine o'zining vaznli havola sifatini qo'shadi va to'plangan qiymatni Leaf1 ga o'tkazadi. Leaf1 yo'l sifatini umumlashtiradi va yo'naltirishni boshqaradigan marshrutlarni o'rnatadi. Ikkita{12}}barg-bag'al to'qimasida portlar har bir sinf uchun sozlanishi mumkin bo'lgan hisoblash koeffitsientlari bilan Leaf yuqoriga havolalari, Leaf pastga havolalari va Spine portlari sifatida tasniflanadi.
Dinamik WCMP
Yuklarni muvozanatlash trafikni bir nechta havolalar bo'ylab taqsimlaydi. Sun'iy intellekt muhitida bu minimal paket yo'qotilishi, kechikish va o'tkazish qobiliyatining pasayishi bilan yo'qotishsiz Ethernet matosini yaratish uchun zarurdir. ECMP ma'lumotlar markazlarida an'anaviy mexanizmdir. WCMP ECMPni tarqatish orqali kengaytiradi
ulanishlar bo'ylab proportsional trafik. Dinamik aqlli marshrutlashda WCMP og'irliklari real vaqt rejimida yo'l sifatiga qarab sozlanadi. Misol uchun, agar NIC1 va NIC2 o'rtasida ikkita yo'l mavjud bo'lsa, tizim 3:7 nisbatni hisoblashi mumkin. Trafik o'zgarishi bilan yangilangan yo'l{7}}sifat ma'lumotlari BGP orqali har bir Leaf kalitiga uzatiladi, bu erda yo'naltirishni boshqarish uchun dinamik WCMP marshrutlari yaratiladi.
Anormal yo'lni olib tashlash
Yo‘lning umumiy sifati kelishilgan chegaradan pastga tushsa, yo‘l AI ish yuki uchun yaroqsiz deb hisoblanadi va yo‘naltirishdan olib tashlanadi. Qolgan yo'llar dinamik WCMP orqali trafikni o'tkazishda davom etadi. Yo'l normal holatga qaytsa, u tiklanadi. Garchi bu ba'zi imkoniyatlarni vaqtincha foydalanilmay qoldirishi mumkin bo'lsa-da, u yanada jiddiy tiqilib qolish va paket yo'qotilishining oldini oladi [1].
Intelligent Load Balance (ALB)
ALB Flowlet{0}}ga asoslangan yuk taqsimotini taqdim etadi. ASIC real vaqtda turli portlardagi yuk va kechikishni o'lchaydi va har bir Flowletni kamroq yuk yoki kamroq kechikish bilan havolaga yo'naltiradi. Bu an'anaviy ECMP ga-taxminan aniqroq rejalashtirishni qo'shadi. ALB, shuningdek, portni o'zgartirishni qo'llab-quvvatlaydi va chiqish havolasi ishlamay qolganda trafikni avtomatik ravishda qayta taqsimlaydi [1].
Virtualizatsiya
Har xil GPU resurslarini turli foydalanuvchilarga taqsimlash uchun-front tarmoqlari koʻpincha koʻp{1}}ijaraga muhtoj. Yechim ijarachilarni ajratish uchun VRF (Virtual marshrutlash va yo'naltirish) dan foydalanadi, har bir foydalanuvchiga bitta VRF tayinlanadi. GPU{4}}bog'liq pastki tarmoqlar foydalanuvchining VRF-ga joylashtiriladi va ASIC-dagi PRE ACL-lar kirish trafigini shunday tasniflaydiki, har bir foydalanuvchining trafigi faqat mos keladigan VRF [1] ichida yo'naltiriladi.
Ilova stsenariylari
1.Dynamic WCMP qanday qilib tirbandliklarni o'zlashtiradi
256 x 400G GPU portlari boʻlgan mato uchun ikki darajali Clos arxitekturasi yuqori oʻtkazuvchanlik, yuqori tarmoqli kengligi va simmetrik sigʻimni saqlab qolish uchun 1:1 pastga{5}}to{6}}yuqoriga ulanish nisbati bilan loyihalashtirilishi mumkin. Tegishli mahsulot modellari orasida XingRongyuan CX864E-N yoki CX732Q-N [1] mavjud. An'anaviy ECMP ostida, oz sonli AI fil oqimlari bir xil umurtqa pog'onasiga o'tishi mumkin, bu esa yuqoriga ulanishning tiqilib qolishiga yoki paketning yo'qolishiga olib keladi. Dinamik WCMP doimiy{15}}vaqtdagi yo‘l sifatiga ko‘ra trafik taqsimotini sozlaydi, tirbandlikni kamaytiradi va tirbandlikni oldini oladi [1].
2.Flowlet-Darajadagi yukni muvozanatlash
Xuddi shu 256 x 400G GPU matosida har bir qurilma yoki ish yukiga dinamik WCMP eng yaxshi xizmat ko'rsatmaydi. Kalit Flowlet-asosidagi ALB ni dinamik ravishda tanlashi mumkin. ALB ECMP guruhidagi havolalarning yuklanishi va kechikishini o'lchaydi va Flowlets-ni kamroq foydalanish yoki kechikish bilan bog'lanishlarga yuboradi. Agar interfeys haddan tashqari yuklangan bo'lsa yoki uni yo'naltirish kechikishi oshsa, ASIC sharoitlar normal holatga qaytgunga qadar avtomatik ravishda bu chiqishdan qochadi [1].
AI tarmog'ini rejalashtirish va loyihalash
AI xizmatlari odatda uchta bosqichni o'z ichiga oladi: ma'lumotlarni yig'ish va qayta ishlash, modelni o'rgatish va AI xulosasi. Har bir bosqich tarmoqqa turli talablar qo'yadi.
1.Ma'lumotlarni yig'ish va oldindan qayta ishlash
Global oʻquv{0}}maʼlumotlarni yigʻish va qayta ishlash tarmogʻi global internetdan katta hajmdagi maʼlumotlar toʻplamini samarali toʻplash uchun-koʻlamli, elastik umumiy IP va tarmoqli kengligi resurslarini taʼminlashi kerak. Dizayn ma'lumotlarni yig'ish va qayta ishlashni yaxshilash bilan birga xavfsiz va barqaror uzatishni ta'minlashi kerak [2].
1.1 VPC segmentatsiyasi
Bulutga asoslangan maʼlumotlarni yigʻish uchun VPC dizayni-kamida imtiyoz, qatlamli izolyatsiya, xavfsizlik nazorati va elastik miqyoslash tamoyillariga amal qilishi kerak. Bitta VPC ichidagi bir nechta VPC yoki bir nechta pastki tarmoqlardan foydalanish mumkin [2].
- Xizmat bosqichi bo'yicha segmentlar: Alohida subnet yoki VPClarda ma'lumotlarni yig'ish, qayta ishlash, saqlash, o'qitish va xulosa chiqarishni o'rnating. To'plamga kirish nuqtalarini DMZ VPC yoki umumiy pastki tarmoqqa joylashtiring; oldindan ishlov berish va vaqtinchalik ma'lumotlarni maxsus qayta ishlash VPC ga joylashtirish; toʻgʻridan-toʻgʻri ochiq kirish imkoni boʻlmagan yuqori-xavfsizlikka ega VPC-ga nozik maʼlumotlar va sunʼiy intellektni oʻrgatish.
- Xavfsizlik darajasi boʻyicha ajrating: yuqori-, oʻrta- va past{2}}Xavfsiz VPC yoki quyi tarmoqlar yarating va oʻzaro-VPC va oʻzaro-quyi tarmoq trafigini boshqarish uchun xavfsizlik guruhlari, tarmoq ACLlari va shaxsiy ulanishdan foydalaning.
- Ijarachi yoki loyiha tomonidan ajrating: Resurslarni, tarmoqlarni va ma'lumotlarni ajratish uchun turli ijarachilarga yoki loyihalarga alohida VPClarni tayinlang.
1.2 Ma'lumotlarni yig'ish chiqish tarmog'i
NAT shlyuzi: NAT shlyuzi orqali EIP va SNAT pulidan foydalaning, bu esa yig'uvchi dasturlarga tasodifiy tanlangan umumiy IP manzillardan internetga kirish imkonini beradi.
Oʻz{0}}oʻz-oʻzidan qurilgan proksi-serverlar: yigʻish jarayonlari va umumiy IP manzillar oʻrtasidagi maʼlumotlarni saqlab turuvchi proksi-serverlarni oʻrnating va bitta yigʻish soʻrovini bir nechta proksi-serverlar boʻylab tarqating.
IP xizmat ko'rsatuvchi provayder: arzonroq xarajat, boshqariladigan xavfsizlik va barqaror sifat uchun bulutli xususiy tarmoq orqali IP xizmat ko'rsatuvchi provayderga ulaning [2].
1.3 Hududlararo{1}}maʼlumotlarni yigʻish va oldindan qayta ishlash
Oldindan ishlov berish-klaster rejasiga muvofiq OSS hududini tanlang va oʻsha hududda maʼlumotlar yigʻish-VPC yarating. Har bir mintaqada tranzit marshrutizatorni (TR) yarating, mahalliy VPC-larni ulang va TR-larni o'zaro bog'lang, shunda mintaqaviy yig'ish VPC-lari markaziy OSS-ga bevosita kira oladi. PAI-iTAG, MaxCompute va Flink kabi xizmatlar OSS hududida maʼlumotlarni yorliqlash va qayta ishlashni amalga oshirishi mumkin [2].
2. Ta'limning namunaviy tarmog'i
Model{0}}oʻquv tarmogʻi bulutli maʼlumotlar markazlari, chekka tugunlar va mahalliy IDC-birlashuvchi global tuzilmani shakllantirish uchun yigʻish va qayta ishlash tarmogʻi bilan chambarchas integratsiyalangan.
Yuqori{0}}tezlikdagi oʻzaro ulanish past-kechikish, yuqori{2}}maʼlumotlar uzatish tezligini taʼminlaydi, shu bilan birga tarmoqli kengligi, xavfsizlik siyosati, kirishni boshqarish vositalari va falokatlarni qayta tiklash uchun oxirigacha ishlab chiqilishi kerak [2].
- -mintaqalararo{1}}klasterli hisoblash hovuzida: Tranzit router bir hududdagi bir nechta VPClarni ulaydi. Server ENI'lari VPC kalitlariga ulanadi va kerakli o'tkazish qobiliyati va RDMA uchun sozlanishi mumkin.
- Oʻzaro{0}}bulutli hisoblash hovuzi: Maxsus sxemalar IDC yoki boshqa bulutni bir xil hududdagi VPC-ga ulaydi. Alibaba Cloud VBR'lari 3-qavatda tengdosh qurilmaga ulanadi, BGP, BFD va tezkor konvergentsiya uchun tez o'chirish.
Global hisoblash hovuzi: TR oʻrtasidagi mintaqalararo havolalar eng yuqori mintaqalararo{1}}trafikga muvofiq taʼminlanadi, mintaqalar boʻylab birlashgan hisoblash hovuzini yaratish uchun ixtiyoriy-mintaqalararo QoS bilan taʼminlanadi [2].
3. Global xulosa{1}}Xizmat tarmog‘i
Global xulosalar tarmog'i har bir mintaqada mavjud bo'lgan resurslar va bulut xizmatlariga muvofiq joylashtirish modellarini tanlaydi va xizmatlarni samarali taqsimlash va kirishni ta'minlaydi [2].
- Model yoki agentni joylashtirish: Mijoz VPC ichidagi Model Studio MaaS joylashuvi, PAI-EAS yoki Function Compute PaaS joylashuvi yoki EGS, ACK, ACS yoki Lingjun ochiq{1}}metal infratuzilmasida IaaS joylashuvidan foydalaning.
- Xizmatni taqsimlash: VPC{0}}tarqatish haqidagi xulosani yarating va VPC Peering, bog‘langan bulutli{1}}VPC yoki PrivateLink yordamida shaxsiy tarmoqlarni ulang. ALB yoki kengaytirilgan ALB ni turli modellar yoki agentlarga kirish nuqtasi va proksi-so'rovlar sifatida joylashtiring.
- Xizmatga kirish: Mahalliy internet foydalanuvchilari to'g'ridan-to'g'ri kengaytirilgan ALB ga kirishlari mumkin; masofaviy foydalanuvchilar Global Accelerator (GA) dan foydalanishlari mumkin; ichki yoki tashqi Alibaba Cloud korporativ foydalanuvchilari PrivateLink orqali shaxsiy ulanishi mumkin.
Xulosa va istiqbol
Ushbu oq qog'ozda AI davrida IDC tarmoqlari duch keladigan qiyinchiliklar va dinamik aqlli marshrutlash ularni qanday hal qilishi mumkinligini tushuntiradi. Dinamik xabardorlik, aqlli qarorlar-qabul qilish, WCMP, ALB va VRF virtualizatsiyasi yuklarni muvozanatlash samaradorligini- yaxshilaydi, tiqilinch va paket yo‘qotilishini kamaytiradi hamda AIni o‘rgatish va xulosa chiqarishni tezlashtiradi. Rejalashtirish bo'limida VPC segmentatsiyasi, yig'ish{4}}chiqish dizayni, mintaqalar o'rtasida-birlashtirish va oldindan qayta ishlash, modellarni o'qitish va global xulosalar yetkazib berishga urg'u beriladi. AI rivojlanishda davom etar ekan, ma'lumotlar markazlari tarmoqlari yanada qattiqroq talablarga duch keladi. Dinamik aqlli marshrutlash AI, federativ ta'lim va boshqa murakkab stsenariylar uchun yaxshilanishda davom etadi. Kelajakdagi IDC tarmoqlari raqamli iqtisodiyot uchun yanada aqlli, samarali va ishonchli poydevor yaratib,{9}}tarmoq konvergentsiyasi, energiya samaradorligi va avtomatlashtirilgan operatsiyalarga katta eʼtibor beradi.
Ma'lumotnomalar
Foydalanuvchi texnik manba hujjatini- taqdim etdi.
Alibaba Cloud AI tarmog'i oq qog'ozi. 2026-yil 27-mayda foydalanilgan.
https://help.aliyun.com/zh/cloud-tarmoq-yaxshi-arxitekturali-dizayn/alibaba-bulut-ai-tarmoq-oq{10}}qog‘oz