Yo te di ke konpayi teknoloji yo swa ap dekouraje pou GPU oswa sou chemen pou jwenn yo. Nan mwa avril, Tesla CEO Elon Musk te achte 10,000 GPU e li te deklare ke konpayi an ta kontinye achte yon gwo kantite GPU nan NVIDIA. Sou bò antrepriz, pèsonèl IT yo ap pouse tou di pou asire ke GPU yo toujou ap itilize pou maksimize retounen sou envestisman. Sepandan, gen kèk konpayi ki ka jwenn ke pandan ke kantite GPU ogmante, ochwa GPU vin pi grav.
Si istwa te anseye nou anyen sou enfòmatik segondè-pèfòmans (HPC), li se ke depo ak rezo pa ta dwe sakrifye nan depans lan nan konsantre twòp sou kalkil. Si depo pa ka transfere done ak efikasite nan inite enfòmatik yo, menm si ou gen plis GPU nan mond lan, ou pa pral reyalize pi bon efikasite.
Dapre Mike Matchett, yon analis nan Small World Big Data, pi piti modèl yo ka egzekite nan memwa (RAM), ki pèmèt plis konsantre sou kalkil. Sepandan, pi gwo modèl tankou ChatGPT ak dè milya de nœuds pa ka estoke nan memwa akòz pri a wo.
Matchett di: “Ou pa ka mete plizyè milya nœuds nan memwa, kidonk depo vin pi enpòtan toujou. Malerezman, depo done souvan neglije pandan pwosesis planifikasyon an.
An jeneral, kèlkeswa ka itilize a, gen kat pwen komen nan pwosesis fòmasyon modèl la:
1. Fòmasyon ki gen konpòtman egzanplè
2. Aplikasyon Enferans
3. Depo done
4. Enfòmatik akselere
Lè w ap kreye ak deplwaye modèl, pifò kondisyon yo bay priyorite prèv-of-konsèp (POC) oswa anviwònman tès pou kòmanse fòmasyon modèl, ak bezwen depo done yo pa bay pi gwo konsiderasyon.
Sepandan, defi a chita nan lefèt ke fòmasyon oswa deplwaman enferans ka dire pou mwa oswa menm ane. Anpil konpayi rapidman ogmante gwosè modèl yo pandan tan sa a, epi enfrastrikti a dwe elaji pou akomode modèl k ap grandi ak seri done yo.
Rechèch ki soti nan Google sou dè milyon de kantite travay fòmasyon ML revele ke yon mwayèn de 30% nan tan fòmasyon yo pase sou tiyo a done antre. Pandan ke rechèch sot pase yo te konsantre sou optimize GPU yo akselere fòmasyon, anpil defi toujou rete nan optimize divès pati nan tiyo done a. Lè ou gen gwo pouvwa enfòmatik, vrè gou boutèy la vin rapidman ou ka bay done nan kalkil yo pou jwenn rezilta.
Espesyalman, defi yo nan depo done ak jesyon mande pou planifikasyon pou kwasans done, ki pèmèt ou kontinyèlman ekstrè valè done yo pandan w ap pwogrese, patikilyèman lè w antrepriz nan ka itilizasyon ki pi avanse tankou aprantisaj pwofon ak rezo neral, ki mete pi gwo demand sou depo an tèm de kapasite, pèfòmans, ak évolutivité.
An patikilye:
Évolutivité
Aprantisaj machin mande pou manyen gwo kantite done, e kòm volim done ogmante, presizyon nan modèl yo amelyore tou. Sa vle di ke biznis yo dwe kolekte epi estoke plis done chak jou. Lè depo pa ka echèl, kantite travay ki entansif done yo kreye kou boutèy, limite pèfòmans ak sa ki lakòz yon tan ki koute chè GPU san fè anyen konsa.
Fleksibilite
Sipò fleksib pou plizyè pwotokòl (ki gen ladan NFS, SMB, HTTP, FTP, HDFS, ak S3) nesesè pou satisfè bezwen diferan sistèm, olye ke yo limite a yon sèl kalite anviwònman.
Latansi
Latansi I/O enpòtan anpil pou konstwi ak itilize modèl yo pandan ke done yo li ak relir plizyè fwa. Diminye latansi I/O ka diminye tan fòmasyon modèl yo pa jou oswa mwa. Pi vit devlopman modèl dirèkteman tradui nan pi gwo avantaj biznis.
Debi
Debi sistèm depo enpòtan anpil pou fòmasyon modèl efikas. Pwosesis fòmasyon yo enplike gwo kantite done, anjeneral nan teraocte pou chak èdtan.
Aksè Paralèl
Pou reyalize gwo debi, modèl fòmasyon divize aktivite an plizyè travay paralèl. Sa a souvan vle di algoritm aprantisaj machin yo jwenn aksè nan menm dosye yo nan plizyè pwosesis (potansyèlman sou plizyè sèvè fizik) ansanm. Sistèm depo a dwe okipe demann konkouran san yo pa konpwomèt pèfòmans.
Avèk kapasite eksepsyonèl li yo nan latansi ki ba, gwo debi, ak gwo echèl I/O paralèl, Dell PowerScale se yon konpleman depo ideyal pou enfòmatik akselere GPU. PowerScale efektivman redwi tan ki nesesè pou modèl analiz ki fòme ak teste seri done milti-terabyte. Nan depo tout-flash PowerScale, lajè a ogmante pa 18 fwa, elimine I/O bouche, epi yo ka ajoute nan grap Isilon ki egziste deja pou akselere ak debloke valè a nan gwo kantite done ki pa estriktire.
Anplis de sa, kapasite aksè milti-pwotokòl PowerScale bay fleksibilite san limit pou kouri chaj travay, sa ki pèmèt done yo dwe estoke lè l sèvi avèk yon pwotokòl epi jwenn aksè lè l sèvi avèk yon lòt. Espesyalman, karakteristik pwisan, fleksibilite, évolutivité, ak fonksyonalite antrepriz PowerScale la ede rezoud defi sa yo:
- Akselere inovasyon jiska 2.7 fwa, diminye sik fòmasyon modèl la.
- Elimine blokaj I/O epi bay fòmasyon ak validasyon modèl pi rapid, amelyore presizyon modèl, amelyore pwodiktivite syans done, ak maksimize retou sou envèstisman enfòmatik lè w pwofite karakteristik antrepriz, pèfòmans segondè, konkourans, ak évolutivité. Amelyore presizyon modèl ak seri done ki pi pwofon, ki gen pi wo rezolisyon lè w pwofite jiska 119 PB kapasite depo efikas nan yon sèl gwoup.
- Reyalize deplwaman nan echèl lè w kòmanse yon ti kalkile ak depo poukont yo, bay pwoteksyon done solid ak opsyon sekirite.
- Amelyore pwodiktivite syans done ak analiz sou plas ak solisyon pre-valide pou deplwaman pi rapid, ki ba risk.
- Swiv desen ki pwouve ki baze sou pi bon teknoloji, ki gen ladan akselerasyon NVIDIA GPU ak achitekti referans ak sistèm NVIDIA DGX. Pèfòmans segondè PowerScale ak konkourans satisfè kondisyon pèfòmans depo nan chak etap nan aprantisaj machin, soti nan akizisyon done ak preparasyon nan fòmasyon modèl ak enferans. Ansanm ak sistèm operasyon OneFS la, tout nœuds ka opere san pwoblèm nan menm gwoup OneFS la, ak karakteristik nan nivo antrepriz tankou jesyon pèfòmans, jesyon done, sekirite, ak pwoteksyon done, ki pèmèt fini pi rapid nan fòmasyon modèl ak validation pou biznis yo.
Tan pòs: 03-Jul-2023
