Hvað er gagnaver með gervigreind? [Myndband og spurningakeppni]

Stutt svar: Gagnaver með gervigreind er þéttbýlt svæði þar sem aflgjafi, kæling, vefnaður og geymsla eru byggð upp í kringum þjálfunar- og þjónustulíkön, ekki netþjónsherbergi með auka skjákortum. Flögurnar fá frægðina; byggingin ákveður hvort þær virka. Ef myndirnar geta ekki farið, þá þarf að endurbæta litla gagnageymslu; flest teymi ættu að leigja.

Lykilatriði:

Flögur vs. bygging: Afl, kæling, vefnaður og geymsla ráða því hvort hröðlarnir virka.

Staðir en ekki hallir: Endurbættu tvö rekki þegar gögn geta ekki farið; ekki kaupa háskólasvæði.

Meðaltal á móti miðgildi: Í átta keyrslum byrjar miðgildið aftur; notið 18 klukkustunda meðaltal.

Viðnám gegn misnotkun: Ekki gefa upp PUE fyrir tvö rekki í blönduðum sal.

Dæmigert erséu á átta keyrslum, ekki 50% framleiðslusparnaður.

Greinar sem þú gætir viljað lesa eftir þessa:

🔗 Er gervigreind áreiðanleg? Myndband og spurningakeppni
Kannaðu áreiðanleika gervigreindar með grípandi myndbandi og gagnvirkri spurningakeppni.

🔗 Hvernig á að nota gervigreind í daglegu lífi.
Uppgötvaðu hagnýtar leiðir til að gera gervigreind einfaldari dagleg verkefni og rútínur.

🔗 Hvernig á að nota gervigreind í vinnunni
Lærðu hagnýtar leiðir til að nota gervigreind til að auka framleiðni á vinnustað.

🔗 Getur gervigreind hugsað sjálfstætt?
Skiljið hvort gervigreind geti í raun hugsað sjálfstætt eða rökhugsað.

Hvernig það er frábrugðið „venjulegu“ gagnaveri

Hefðbundnar sölur hámarka blönduð vinnuálag og spenntíma í mörgum litlum þjónustum. Þér er annt um afritun, vissulega, og um PUE sem hugtak - aukaorku sem byggingin brennir til að skila watti af reikniafli. Þú hannar venjulega ekki alla gangana í kringum rekki sem hegðar sér eins og flytjanlegur hitarabústaður.

Gervigreindarstöðvar snúa hlutföllunum við. Þéttleikinn eykst. Netið verður að vef sem þjálfunarstarfið getur ekki haltrað áfram án. Geymsla þarf að halda eftirlitsstöðvum gangandi eða hraðleiðslur standa óvirkar, eins og kappreiðarhestar í umferðarteppu.

Það er líka menningarlegur munur. Fyrirtækjarekstrar hugsar í miðum og breytingargluggum. Gervigreindarrekstrar hugsar í biðröðum og þeirri óþægilegu tilfinningu þegar hnútur deyr seint í langri keyrslu. Ég geri ráð fyrir að þú gætir samt kallað bæði „gagnaver“ því þau eru það. Merkið felur bara pípulagnirnar.

Ekki siðferðileg röðun. Mismunandi vélar, sama ættarnafn.

GPU-einingar, hröðlar og rekkiinn sem eyðir orku

Ef þú gengur eftir hefðbundnu upphækkaða gólfi lítur hillurnar næstum kurteislega út. Ef þú gengur eftir röð með gervigreind lítur það út eins og þær vilji gleypa bygginguna.

Sá vélbúnaður sem stendur upp úr er ekki snjall örgjörvi. Það er hraðlarinn sem er bakkinn: GPU-einingar eða aðrar gervigreindarflögur, pakkaðar inn í netþjóna, síðan rekki og svo raðir sem deila hábandvíddarneti. GPU-tengingar tengja saman flögurnar og mynda eitthvað sem getur þótt vera einn risastór hröðull; klasakerfið gerir sama bragðið á röðarskala. Samsíða þjálfun virkar aðeins ef þessir tenglar eru þykkir og fyrirsjáanlegir. Ef þú missir það verður „klasinn“ þinn hrúga af dýrum vinnustöðvum sem deila sama póstnúmeri.

Aflið fylgir örgjörvunum. Ekki stór skrifstofu-PDU. Megavött af upplýsingatækniálagi þegar salur fyllist - ég ætla ekki að finna upp tölu. Þéttleiki á rekki er atburðarás sögunnar. Færri rekki. Hver og einn lítill ofn. Takmarkandi þátturinn er oft spennistöðin, ekki óskalistinn yfir skjákort. Þú veist hvernig það er: innkaupafyrirtækið vill fleiri hröðla; veitufyrirtækið vill langt samtal og mjög stóran ávísun.

Ein dálítið kjánaleg myndlíking sem ég get ekki losnað við: rekkinn er svöng dýr. Þú getur alið af þér hraðari dýr. Þú þarft samt að gefa því að éta og þú þarft samt að mylja hitann. Ef þú sleppir hvorugri verður það mjög dýr pappírsþyngd.

Rafmagn, hiti og kælingarvandamál

Rafmagn inn. Hiti út. Það er öll trúarbrögðin.

Þéttleikamikil rekki losa hita á þann hátt sem loftið var aldrei raunverulega beðið um að meðhöndla. Þú getur ýtt meira lofti - hitaskiptir að aftan, heitari gangar, snjall innilokun - og það virkar upp að vissu marki. Þá birtist vökvi:

• Bein kæling á flís

• Kælivökvahringrásir sem láta vélarrýmið líta út eins og efnaverksmiðja

• Að sökkva sér niður í nokkrar hönnunaraðferðir, sem samt kemur fólki á óvart sem heldur að vatn og þjónar ættu ekki að deila setningu

Ekkert af þessu er glæsilegt. Allt þetta er afurðin, því að bensíngjöf sem eykur hraðann er sú sem þú hefur þegar borgað fyrir og getur ekki nýtt að fullu.

PUE skiptir enn máli. Það er hlutfall, ekki persónuleiki. Rekstraraðilar elta það vegna þess að hvert watt sem eytt er í viftur og dælur er watt sem fór ekki í skjákortið. Ég mun ekki vitna í „dæmigerða“ tölu; loftslag og hvernig þú dregur mörkin færir það til, og fölsk nákvæmni er verri en engin. Vatn er líka með í sögunni. Sumar plöntur sopa. Sumar kyngja. Uppgufunarkæling er skilvirk þar til áin eða þurrkar gera hana að pólitískum vettvangi.

Tengslanet: hvers vegna vefnaðurinn skiptir jafn miklu máli og örgjörvinn

Fólk tekur myndir af skjákortunum. Það ætti að taka myndir af rofunum.

Þjálfun er samtal. Þúsundir hraðla sem skiptast á stigulum, breytum og brotum líkans, í nákvæmri samstillingu. Ef netið titrar, þá bíður allt verkið eftir hægasta hoppinu. Þess vegna eru gervigreindarsalir helteknir af netum með mikla bandbreidd, lágri seinkun og netkerfi sem fellur ekki í tvennt þegar tenging bilar. Netkerfi eins og InfiniBand, Ethernet í sama hlutverki, GPU-tengingar inni í kassanum, kaðallar sem verða að vera réttir í fyrsta skipti.

Ályktun er allt annað mál. Líkanaþjónusta hefur áhuga á seinkun á hala - hægfara svarinu, ekki meðaltalinu. Hópavinnsla vs. rauntími sundrar persónuleikanum. Þjálfunarklasi vill þykka, sameiginlega hreyfingu frá öllum. Þjónustufloti vill margar minni beiðnir og einangrun, án umferðarteppu við álagsjöfnunarkerfið.

Missið, á meðan ég er hér: fólk lítur á netið eins og pípulagnir og franskar kartöflur eins og veitingastaðinn. Í þessari byggingu eru pípulagnirnar veitingastaðurinn. Missið þið af því og þið kaupið eldhús sem getur ekki tekið við heimsendingum.

Þjálfun vs. ályktun: tvær byggingar, stundum bókstaflega

Þjálfun er herferð. Þú setur saman klasa, gefur honum gögn, athugar vandlega, keyrir í klukkustundir eða vikur og biður þess að vefurinn haldist óskemmtilegur. Þungur hópur, bandvíddarþyrstur, hljóðlátur þolinmóður - þar til bilaður hnútur tekur bita af keyrslunni. Einn dauður hraðleiðslur í þétt tengdu verkefni getur stöðvað allan kórinn.

Ályktun er eins og verslunargluggi. Líkön sem þegar eru þjálfuð svara nú spurningum, flokka myndir, búa til texta. Seinkun skiptir máli. Aðeins eldri hröðlun nálægt viðskiptavininum getur sigrað glæsilegan hröðun heimsálfu í burtu.

Þannig að þú færð klofning. Æfingasvæði elta völd, land og þéttleika. Ályktunarsvæði elta seinkunartíma og nærveru. Blönduð salir eru líka til, því fjármagn er ekki óendanlegt. Jæja - ekki alltaf tvær byggingar. Stundum ein salur með flauelsreipi og tveimur kælilykkjum.

Þetta er líka þar sem samhýsing, stórar háskólasvæði og þjónusta á staðnum (on-prem fork). Stærðarlausnir fyrir stóra geymslu byggja upp í stærðargráðum sem láta okkur hin líta út eins og við séum að raða húsgögnum. Þéttleiki geymslustaða selur geymslurými í rekka. Samhýsing á staðnum á sér enn stað þegar gögn geta ekki farið.

Geymsluafköst, eftirlitsstöðvar og hungraðir flísar

Enginn setur samsíða skráarkerfið á forsíðu bæklingsins.

Þjálfunargögn verða að berast nógu hratt til þess að skjákort séu ekki að troða sér niður. Eftirlitsstöðvar verða að lenda svo að hrun eyðileggi ekki viku. Líkanþyngdir verða að hlaðast áður en afrit af þjónun er virkt. Geymslumagn - ekki bara geymslurými - er hljóðláti flöskuhálsinn. Þú getur eytt miklum peningum í hröðla og svelta þá með kurteisum fylki sem er hannað fyrir sýndarvélar.

Mynstrið er kunnuglegt: glansandi klasa, verkröð og biðtími I/O horfur sem starir á móti eins og dónalegur reikningur. Þyrpingarútreikningar án þess að klasa gagnaleiðina er leiðin til að fá mjög dýrt aðgerðaleysi. Haltu örgjörvunum gangandi eða viðurkenndu að þú hafir keypt skúlptúr.

Hugbúnaður, útfærslur og óglæsilegt rekstrarlag

Vélbúnaður er frægðin. Áætlanagerðarmenn sjá um verkið.

Gagnaver með gervigreind er gagnslaust ef verkefni finna ekki skjákort, ef tvö teymi geta ekki deilt klasa án átaka, ef ekki er hægt að skipta út misheppnaðri röð, ef vélbúnaðarhugbúnaður rekur þar til efnið bilar í hægfara hreyfingu. Útfærsla, sjáanleiki, aflstakmarkanir - hið óglæsilega rekstrarlag, og þannig veistu að það skiptir máli.

Ég hef dálæti á þessu lagi. Einnig þar sem rangstillt netkort þykir eins og kælingarvandamál í heilan síðdegi... þá kemst maður að því á erfiðan hátt.

Þegar hnútur deyr í miðjum keyrslutíma

Hnútur deyr. Breytingagluggar rekast enn á æfingakeyrslur sem skipta ekki máli fyrir dagatalið þitt. Þú skipuleggur stór verkefni í hópum, girðir af ályktunarlaugar, skrifar keyrslubækur fyrir bilanir sem líta út eins og „verkið sé hægt“ þangað til þær líta út eins og „verkið sé dautt“. Afritun skiptir enn máli - aflgjafi, kæling, slóðir, geymsla - en bilunarstillingin er ósnyrtilegri en gamla níu-af-spenntíma rennibrautin. Ályktun: eftirlíking, tæma veika hnútinn, halda áfram að svara. Þjálfun vill eftirlitsstöðvar, ekki bjartsýni.

Staðsetning, vatn, rafmagn og nágrannar

Maður lætur ekki svona detta við hliðina á sumarhúsi bara fyrir útsýnið.

Tenging við raforkukerfi er oft raunverulegt staðarvalsferli. Land er auðvelt í samanburði við spennistöð og veitufyrirtæki sem hefur aðra viðskiptavini. Vatn til kælingar, ef það er notað, verður vandamál fyrir nágranna um leið og úrkoma er óhófleg. Hávaði. Sjónrænt umfang. Hiti við girðingu. Skipulagsnefndir fá skoðanir á „skýinu“ um leið og það þarf akur og á.

Seinkun dregur í hina áttina. Ályktunarhæfni kýs að vera nálægt notendum og tengingum. Þjálfun getur falist á ódýrari orkumörkuðum og kaldara loftslagi. Iðnaðurinn talar eins og það sé til ein fullkomin staður. Það er ekki til. Það er málamiðlun með fréttatilkynningu.

Afgangshiti og óboðinn ofn

Bæklingar elska þennan hluta. Látið úrgangshitann renna í heimili, sundlaugar, gróðurhús; þetta er falleg setning. Stundum er hringrásin í hverfinu ósvikin. Stundum er háskólasvæðið á röngum stað og hitinn fer samt upp í loftið. Ég er efins um bæklingaútgáfuna; ég er ekki efins um eðlisfræðina.

Hver þarfnast einn (og hver ætti að leigja í staðinn)

Flestir þurfa ekki að eiga eina af þessum sölum.

Hinn hreinskilni listi:

• Ofurskalarar, því varan er flotinn

• Tilraunastofur, þegar biðtími er flöskuhálsinn eða gögn geta ekki farið

• Banki, sjúkrahúshópur, ríkisstjórn eða framleiðandi með leynilegt gagnasafn - á staðnum eða í einkareknum gagnagrunni - getur verið skynsamlegt, jafnvel þótt það sé klúður

Allir aðrir ættu að leigja. Samhýsing með þéttleika sem er tilbúinn fyrir gervigreind. Skýjapöntun. Stýrður klasi. Þú færð hraðlana án þess að verða líka rekstraraðili virkjunar. Ástarsambandið dofnar í fyrsta skipti sem einhver spyr hver sé á vakt fyrir kælivökvahringrásina klukkan þrjú að nóttu.

Það er einhver stoltur hluti, ég viðurkenni það. Að eiga klasa er eins og að eiga spár. Svo kemur rafmagnsreikningurinn og stoltið sest niður.

Til hvers er byggingin

Hvað er þá gagnaver sem byggir á gervigreind? Sérhæft, þéttbýlt háskólasvæði þar sem hröðlar, aflgjafi, kæling, vefnaður og geymsla eru skipulögð í kringum þjálfunar- og þjónustulíkön - ekki almenn upplýsingatækni með skjákorti í horninu. Það lítur út eins og vöruhús. Það hegðar sér eins og virkjun sem reiknar út stærðfræði.

Ef þú manst ekkert annað: örgjörvinn fær frægðina; spennistöðin, kælivökvinn og netið ráða því hvort þessir örgjörvar voru góð hugmynd. Þjálfun og ályktanir geta deilt þaki; þau vilja samt mismunandi mannasiði. Flestar stofnanir ættu að leigja. Fáar ættu að byggja. Nágrannar munu taka eftir því hvort sem er.

Skýið hefur alltaf haft byggingu. Nú til dags hefur byggingin skoðanir.

Raunverulegt dæmi: Æfingaklefi með tveimur rekkjum þegar myndirnar geta ekki farið

Atburðarás

Tomos er leiðtogi innviða hjá Kestrel Precision, framleiðanda með 400 starfsmenn í Vestur-Miðhéruðum Englands. Þeir eru nú þegar með lítinn sal á staðnum: ERP, skráardeilingar, sýndarvélar, blandaða hverfið sem þessi grein byrjaði á. Loftkæling. Venjulegt Ethernet. SAN sem er fullkomlega kurteist fyrir skrifstofudiska.

Vélsjónarteymið þarf að þjálfa skoðunarlíkan á verksmiðjumyndum. Myndirnar mega ekki fara af staðnum. Þær sýna ferli sem fyrirtækið setur ekki á skýjadisk, jafnvel ekki á einkadisk. Lausn innkaupadeildarinnar er fjórir netþjónar með tvöföldum hröðlum og glæra sem ber heitið „gagnaver okkar með gervigreind“. Netþjónarnir fara í tvo núverandi rekka, því þar er pláss, og plássið fannst vera takmörkun.

Það er það ekki. Innan tveggja vikna hljóma skjákortin upptekin og þagna svo hljóðlega. Verkefni skríða þegar eftirlitsstöð lendir á SAN. Hnútur deyr klukkan ellefu og keyrslan er bara... horfin. Tomos hefur ekki látið hjá líða að kaupa örgjörva. Hann hefur keypt haug af dýrum vinnustöðvum sem deila póstnúmeri. Byggingin var enn fyrirtækjasalur.

Þeir þurfa ekki háskólasvæði, nýja spennistöð eða á. Þeir þurfa litla frumu sem hegðar sér eins og smækkað gervigreindargagnaver: rafmagn sem rekki geta í raun geymt, hiti sem fer án þess að elda flísarnar, vef sem þjálfunarvinnan getur talað um, geymslupláss sem getur tekið við eftirlitsstöð og keyrslubók fyrir þegar hnútur deyr. Þar sem myndirnar geta ekki farið er ekki svarið að leigja gagnageymslu í fjörutíu mínútna fjarlægð. Að endurbæta tvö rekki er lausnin.

Það sem fruman þarfnast

• Mæld orkusparnaður í þeirri röð, frá aflgjafaeiningunum, ekki af óskalista skjákortsins. Ef aukagetan getur ekki fætt fjóra netþjóna við þjálfunarálag, þá hættir samtalið þar og þeir horfa til þéttari litar, ekki kraftaverks

• Kæling loftsins var aldrei beðin um að meðhöndla við þennan þéttleika: varmaskiptir að aftan ef salurinn ræður við þá, eða lítil vökvahringrás ef hún ræður við það í staðinn. Ef hvorugt fer framreiðslumaðurinn ekki inn

• Sérstakt hábandvíddarnet milli fjögurra hnúta, ekki skrifstofunetið. Ef söluaðilinn er aðeins með 10 Gb rofa í vörulistanum, þá er það ekki klasi

• Staðbundin hraðgeymsla fyrir eftirlitsstöðvar og þjálfunarskerðingar, ekki SAN fyrir sýndarvélina

• Tímaáætlun, eftirlitsstöðvabil og skrifleg endurræsingarleið. Vélbúnaðurinn er frægðin. Þetta lag er verkið

• Girðing á ályktunarsvæði fyrir verksmiðjulínuna, aðskilið frá þjálfunarspjallinu, því þjónun vill leynd og einangrun í hala, ekki sameiginlega

• Heimild til að skrá afl, klukkur skjákortsins, inngjöfartilvik og veggklukku verksins. Ef þeir geta ekki skoðað þetta munu þeir ljósmynda skjákortin og missa af rofunum

Dæmi um leiðbeiningar

Tómos setur þetta fram í aðstöðulýsingunni, á venjulegu máli:

Ekki kalla þetta gervigreindarháskólasvæði. Byggið tveggja rekka æfingaklefa í núverandi sal fyrir fjóra netþjóna með tvöföldum hröðlum. Verksmiðjumyndirnar verða áfram á staðnum. Árangur felst í því að fjórir hnútar ljúka 12 tíma skoðunar- og þjálfunaruppskrift án hitastýringar, skrifa eftirlitspunkt á mínútum, ekki tugum mínútna, og halda áfram frá þeim eftirlitspunkti þegar við drepum röð viljandi. Kæling verður að halda skjákortunum á æfingatíma sínum. Netkerfi verður að vera vefur sem þessir fjórir kassar deila, ekki leið í gegnum skrifstofustaflann. Geymsla verður að fæða flísarnar. Ef varmaskiptar að aftan passa ekki, segið það og hættið. Ekki gefa upp PUE fyrir tvö rekki í blönduðum sal. Sú tala væri leikhús.

Svo setur hann þetta inn í þjálfunarstarfið sjálft:

Á 30 mínútna fresti er hægt að fara á stöðina í hraðlauginni. Ef stig deyr, byrjaðu aftur frá síðustu heilu stöðvunarstöð. Ekki bíða eftir SAN. Ekki halda áfram æfingum á meðan klukkur hafa fallið úr hitanum. Skráðu það og stöðvaðu svo við getum séð stöðvunina.

Góð klukkustund lítur svona út: allir átta skjákortin eru á æfingatíma, skrá yfir eftirlitspunkta hefur verið tekin í gegn, vinnan enn í takt. Slæm klukkustund lítur svona út: viftur á fullum krafti, tímarnir eru niðri, eftirlitspunktur 2% skrifaður eftir tíu mínútur og einhver á skrifstofunni segir „klasinn er kominn í gang“. Uppgangur er ekki æfing.

Hvernig á að prófa það

Þeir skrifa prófið áður en endurbæturnar fara fram, sem er allur tilgangurinn með því að treysta ekki kynningu.

• Sama 12-tímabila uppskriftin, sömu 120.000 skoðunarmyndirnar, átta keyrslur

• Tímasetning er eins og á veggklukku að fullunninni uppskrift, þar með talið allar endurræsingar, mæld frá því að verkið er sent inn til síðasta eftirlitspunkts í tímabil 12

• Hitabreytingar: Klukkur skjákortsins haldast við þjálfunarmarkmiðið fyrir keyrsluna. Inngjöf er mistök jafnvel þótt verkinu ljúki að lokum

• Geymsluslit: Skriftími á eftirlitsstað, miðgildi og versti tími, úr verkskránni

• Framhjáhald efnis: Verkið bíður ekki sameiginlega á meðan staða er heilbrigð. Ef þeir sjá ekki þá bið er mælitækið ekki tilbúið

• Tvær af átta keyrslum fá stig sem drepið er á föstu stigi, vísvitandi, til að prófa endurræsingarleiðina

• Ályktun er aðskilin 200 mynda prófun frá verksmiðjulínunni að girta uppgjafarkassanum. Árangur í þjálfun telst ekki sem árangur í uppgjöf

• Þeir skrá rekkafl frá PDU-unum í 15 mínútna sýnum svo enginn þarf að finna upp megavött

Samþykki fyrir að kalla frumuna „tilbúin fyrir gervigreind“: 8 af 8 uppskriftum klárast; 0 af 8 sýna hitastýringu; báðar keyrslurnar sem hafa verið stöðvaðar halda áfram; eftirlitsstöðvar eru áfram í nokkrar mínútur. Ef þeir missa af því, þá eru þeir samt með netþjónsherbergi með flottum skjákortum.

Niðurstaða

Dæmigert niðurstaða, úr uppspunnu átta tilraunaprófi, ekki birt Kestrel-tala.

Forsendur: fjórir netþjónar með tvöföldum hröðlum í tveimur rekkum; ein skoðunarlíkan; 120.000 ljósmyndir; átta keyrslur af fastri 12-tímabila uppskrift; veggklukka inniheldur endurræsingar þar til uppskriftin er kláruð; hraðastillir þýðir skráð lækkun frá þjálfunarklukkunni; eftirlitstími er skriftími, ekki ósk; rekkaafl er PDU sýni, ekki PUE á háskólasvæðinu.

Fyrir endurbæturnar, skjákort í venjulegum loftkældum rekkjum á skrifstofu Ethernet og sýndarvél SAN:

• 5 af 8 hlaupum kláruðust í fyrstu tilraun. Miðgildi veggklukku meðal þessara fimm: 14 klukkustundir

• Þrír af átta þurftu að byrja aftur eftir að hafa stöðvast um klukkustund 11 (tvö eftir að hnútur dó vegna ónýts eftirlitspunkts, eitt eftir að eftirlitspunktur fyllti SAN-netið). Tafarlaus endurræsing, engin biðtími yfir nótt í klukkunni: 11 klukkustundir sóaðar auk 14 klukkustunda önnur tilraun, eða 25 klukkustundir þar til uppskriftin er fullgerð á þessum þremur

• Meðaltími þar til uppskrift er kláruð fyrir allar átta uppskriftirnar, þar með taldar endurræsingar: 18 klukkustundir. (Fimm klukkan 14, þrjár klukkan 25. Miðgildið fyrir allar átta uppskriftirnar er samt sem áður 14, sem myndi fela endurræsingarnar. Þess vegna er meðaltalið grunnlínan hér.)

• Hitastýring skráð í 7 af 8 keyrslum. Miðgildi tíma við lægri klukku: 3 klukkustundir í 14 klukkustunda tilraun

• Skriftími á eftirlitsstað: miðgildi 22 mínútur

• Þeir gátu ekki staðist prófraun vegna stöðudráps. Þeir höfðu ekki keyrslubók. Tvö slysin voru uppgötvunin

• Hámarksálag á báðum rekkunum á meðan æfing stóð: um 18 kW. Róðrartækið hafði vöttin. Það hafði hvorki kælingu né efni

Eftir varmaskiptara að aftan á þessum tveimur rekkjum, sérstakan vef milli fjögurra hnúta, lítinn NVMe-laug fyrir eftirlitsstöðvar, 30 mínútna eftirlitsstöð og endurræsingarkeyrslubók:

• 8 af 8 kláruðu í fyrstu tilraun. Miðgildi veggklukku: 9 klukkustundir

• Hitastýring: 0 af 8

• Skriftími á eftirlitspunkti: miðgildi 90 sekúndur. Versta í settinu: 3 mínútur

• Tvær af ásettu ráði gerðir stöðudráp hófust báðar aftur eftir síðustu 30 mínútna eftirlitsstöðina. Auka veggklukka á þessum tveimur keyrslum: um 40 mínútur hvor, greining innifalin, svo þessar tvær sátu nálægt 9 klukkustundum og 40 mínútum. Meðaltal yfir átta kyrrstöðulotur í 9 klukkustundir

• Hámarksálag á upplýsingatækni er enn um 18 kW. Sömu flísar. Mismunandi hegðun byggingarinnar

Í þessu úrtaki lækkaði meðaltími þar til uppskrift var kláruð úr 18 klukkustundum í 9 klukkustundir, eða 9 klukkustundir hverja, 72 klukkustundir yfir átta keyrslur. Klárað í fyrsta skipti fór úr 5 af 8 í 8 af 8. Afköst fóru úr 7 af 8 í 0 af 8. Síðasta talan er sú sem segir til um hvort þeir keyptu hröðla eða pappírsþyngdir. Þeir munu ekki kalla tímabreytinguna 50% sparnað í framleiðslu. Átta keyrslur eru lítið og auðvelt sett.

Þessar tölur eru dæmi um mat byggt á tilgreindri prófun, litlu úrtaki, einni gerð og einni blönduðu höll. Þær eru ekki PUE, ekki háskólamegawött og ekki sönnun þess að Kestrel ætti að byggja æfingasvæði á akri. Yfirferð á skráningum var innan 9 klukkustunda; þeir földu það ekki. 18 kW talan er námunduð PDU-mæling, ekki reikningur frá veitu. Þeir umbreyttu ekki 72 klukkustundunum í kostnað, því blandað rafmagnsverð verksmiðjunnar hefði skapað falska viðskiptaástæðu.

Uppgjöfin var aðskilin og minni: 200 línumyndir að girta reitnum, allar á staðnum. Það er ályktun, ekki þjálfun. Að blanda þessu tvennu saman hefði verið eins konar mistök í blönduðum sal í smækkaðri mynd.

Hvað getur farið úrskeiðis

• Innkaupadeildin kallar fjóra netþjóna „gagnaver gervigreindar“. Merkið felur pípulagnirnar og næsta kaup eru fleiri skjákort fyrir sama sjúkraganginn

• Afturhurðarskiptir fara inn og enginn ræsir vatnshliðina. Vifturnar enn öskra. Klukkurnar enn að detta

• Efnið er einn rofi án varaleiðar. Ein biluð tenging og „klasinn“ er aftur fjórar vinnustöðvar

• Eftirlitspunktar eru áfram á SAN því NVMe-laugin var í „annar áfangi“. Annar áfangi kemur ekki fyrr en næsti dauði hnútur kemur

• Þeir gefa upp PUE fyrir tvo rekki í blönduðum sal. Loftslag, afmörkun og restin af ERP-röðinni gera þetta hlutfall að búningi

• Þjálfun og þjónusta deila efniviðnum. Flóð á eftirlitsstöð lætur verksmiðjulínuna bíða. Halaþreyta er afurðin þar, ekki þéttleikinn

• Hnútur deyr og einhver lítur á hann sem spenntímamiða í stað endurræsingar á eftirlitsstöð. Fyrirtækjarekstrar og gervigreindarrekstrar tala saman allan síðdegis

• Þau hefðu getað leigt búr, nema hvað myndirnar mega ekki fara. Að gleyma þeirri takmörkun sendir þau inn í skýjasamræður sem þau verða að slaka á

Hagnýtt skyndibita

Það sem er gagnaver með gervigreind, í þessu formi, er ekki vöruhús og ekki reikningur fyrir skjákort. Það er reiturinn sem gerir hraðlunum kleift að klára keyrsluna: orka sem þeir geta geymt, hiti sem fer, vefur, eftirlitsstöð og einhver á krókinn þegar stig deyr. Kestrel þurfti ekki háskólasvæði. Þeir þurftu tvö rekki til að hætta að þykjast. Flest lið ættu að tileinka sér þá hegðun. Nokkur, með leynilegt gagnasafn og höll sem getur þolað hitann, ættu að byggja reit og hafna glærunni.

Algengar spurningar

Hvað er gagnaver með gervigreind?

Þéttleiki reiknisvæða þar sem aflgjafi, kæling, netkerfi og geymsla eru sniðin að samsíða þjálfun og líkanaþjónustu, ekki snyrtilegum röðum af almennum netþjónum. Hún er hönnuð þannig að fjöldi hraðla geti þjálfað og þjónað líkönum án þess að bráðna, stöðvast á netinu eða bíða á diski. Venjuleg fyrirtækjasalur er blandað hverfi. Gervigreindarsalur er einrækt þar sem gildiseiningin er hraðillinn, eins og GPU-einingar eða TPU-stíl örgjörvar. Hún lítur út eins og vöruhús og hegðar sér eins og stærðfræðistöð.

Hvernig er gagnaver með gervigreind frábrugðið venjulegu gagnaveri?

Hefðbundnar gagnaverstöðvar fínstilla fyrir blandað vinnuálag og spenntíma á mörgum litlum þjónustum. Gervigreindarstöðvar snúa hlutföllunum við: þéttleikinn eykst, netið verður að vef sem þjálfunarvinnan getur ekki haltrað án og geymsla þarf að halda eftirlitsstöðvum gangandi eða hröðlar standa óvirkir. Fyrirtækjarekstrar hugsar í miðum og breytingargluggum. Gervigreindarrekstrar hugsar í biðröðum og þeirri óþægilegu tilfinningu þegar hnútur deyr seint í langri keyrslu. Þú gætir samt kallað báðar gagnaverin. Merkið felur bara pípulagnirnar.

Af hverju nota gagnaver með gervigreind svona mikla orku?

Vélbúnaðurinn sem sker sig úr er ekki snjall örgjörvi. Það er hröðunarbakkinn: GPU-einingar eða aðrar gervigreindarflögur, pakkaðar inn í netþjóna, síðan rekki og svo raðir sem deila hábandvíddarneti. Þéttleiki á rekki er snúningurinn í söguþræðinum: færri rekki, hver og einn lítill ofn. Megawött af upplýsingatækniálagi birtast þegar salur fyllist, þó að það sé ekki þess virði að finna upp dæmigerða tölu. Takmarkandi þátturinn er oft spennistöðin, ekki óskalistinn yfir GPU-einingar.

Hvernig eru gagnaver með gervigreind kæld?

Þéttleikamikil rekki losa hita á þann hátt sem loftið var aldrei raunverulega beðið um að meðhöndla. Þú getur ýtt loftinu meira með varmaskipti að aftan, heitari göngum og snjallri innilokun. Þá birtist vökvi: bein kæling í örgjörva, kælivökvalykkjur og ídýfing í nokkrum hönnunum. Hraðlaður sem þrengir er sá sem þú hefur þegar borgað fyrir og getur ekki nýtt að fullu. PUE skiptir enn máli því hvert watt sem varið er í viftur og dælur er watt sem fór ekki til skjákortsins. Vatn kemur líka inn í söguna: sumar verksmiðjur sopa, aðrar gleypa.

Af hverju skiptir netkerfi jafn miklu máli og skjákortin?

Þjálfun er samtal: þúsundir hröðla sem skiptast á stigulum, breytum og brotum líkans í nákvæmri samstillingu. Ef vefnaðurinn titrar bíður allt verkið eftir hægasta hoppinu. Þess vegna eru gervigreindarsalir helteknir af netum með mikla bandbreidd, lágum töfum, InfiniBand-legum vefnaði eða Ethernet í sama hlutverki, og netkerfum sem leggjast ekki saman í tvennt þegar tenging bilar. Ályktun snýst um töf á hala, margar minni beiðnir og einangrun. Í þessari byggingu eru pípulagnirnar veitingastaðurinn.

Til hvers er gagnaver gervigreindar notað: þjálfun eða ályktun?

Þjálfun er herferð: setja saman klasa, gefa honum gögn, athuga nákvæmlega og keyra í klukkustundir eða vikur. Ályktunarferlið er eins og búðargluggi: líkön sem þegar eru þjálfuð, svara nú, með seinkun sem skiptir máli. Þjálfunarsvæði eltast við afl, landsvæði og þéttleika. Ályktunarstöðvar eltast við seinkun og viðveru. Blendingssalir eru til vegna þess að fjármagn er ekki óendanlegt, stundum ein salur með tveimur kælilykkjum. Aðeins eldri hröðull nálægt viðskiptavininum getur sigrað glæsilegan hröðull í heimsálfu í burtu.

Af hverju skiptir geymsla máli í gagnaveri sem byggir á gervigreind?

Þjálfunargögn verða að berast nógu hratt til þess að skjákortin séu ekki að troða sér niður. Eftirlitsstöðvar verða að lenda svo að hrun eyðileggi ekki viku. Líkanþyngdir verða að hlaðast áður en afrit af þjónun er virkt. Geymslumagn, ekki bara geymslurými, er hljóðláti flöskuhálsinn. Þú getur eytt miklum peningum í hröðla og svelta þá með kurteisum fylki sem er hannað fyrir sýndarvélar.

Hvað gerist þegar hnútur deyr á miðri keyrslu?

Einn dauður hraðll í þétttengdri þjálfunarvinnu getur stöðvað allan kórinn. Þjálfunin vill eftirlitspunkta, ekki bjartsýni. Ályktunarferli tæmir veika hnútinn, heldur eftirlíkingu svaraðri og helst virkt. Breytingagluggar rekast samt á þjálfunarkeyrslur sem skipta ekki máli fyrir dagatalið þitt. Afritun skiptir enn máli fyrir afl, kælingu, slóðir og geymslu, en bilunarstillingin er ekki eins snyrtileg og gamla níu-af-spenntíma rennibrautin.

Hvaða áhrif hefur gagnaver sem byggir á gervigreind á raforkunetið, vatnið og nágranna?

Tenging við raforkukerfi er oft raunverulegt staðarvalsferli. Land er auðvelt í samanburði við spennistöð og veitufyrirtæki sem hefur aðra viðskiptavini. Vatn til kælingar, ef það er notað, verður vandamál fyrir nágranna um leið og úrkoma er óhófleg, ásamt hávaða, sjónrænum umfangi og hita við girðingu. Þjálfun getur falið sig á ódýrari orkumörkuðum og kaldara loftslagi. Ályktunin felst í því að vera nálægt notendum. Það er enginn einn fullkominn staður. Það er málamiðlun með fréttatilkynningu.

Þarf ég að eiga gagnaver með gervigreind eða ætti ég að leigja það?

Flestir þurfa ekki að eiga eina af þessum sölum. Ofurstækkunarstöðvar byggja vegna þess að varan er flotinn. Rannsóknarstofur byggja þegar biðtími er flöskuháls eða gögn geta ekki farið. Banki, sjúkrahús, ríkisstjórn eða framleiðandi með leynilegt gagnasafn getur gert staðbundna eða einkarekna samnýtingaraðstöðu skynsamlega. Allir aðrir ættu að leigja: gervigreindartilbúna samnýtingu, skýjapöntun eða stýrðan klasa. Þú færð hröðlana án þess að verða rekstraraðili virkjunar.

Heimildir

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. Græna netið - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Spenntímastofnunin - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

Finndu nýjustu gervigreindina í opinberu versluninni fyrir gervigreindaraðstoðarmenn

Um okkur