Hversu mikla orku notar gervigreind? [Myndband og spurningakeppni]

Svar: Gervigreind getur notað mjög litla rafmagn fyrir einfalt textaverkefni, en miklu meira þegar fyrirmæli eru löng, úttak er fjölþátta eða kerfi starfa í gríðarlegum mæli. Þjálfun er yfirleitt mesta orkunotkunin í upphafi, en dagleg ályktun verður mikilvæg þegar beiðnir safnast upp.

Lykilatriði:

Samhengi: Skilgreindu verkefnið, líkanið, vélbúnaðinn og mælikvarðann áður en orkukostnaður er áætlaður.

Þjálfun: Líttu á líkanþjálfun sem aðalviðburðinn í orkumálum við gerð fjárhagsáætlana.

Ályktun: Fylgist vel með endurteknum ályktunum, því lítill kostnaður á hverja beiðni safnast hratt upp í stórum stíl.

Innviðir: Takið með kælingu, geymslu, net og biðgetu í allar raunhæfar áætlanir.

Skilvirkni: Notið minni gerðir, styttri fyrirmæli, skyndiminni og hópvinnslu til að draga úr orkunotkun.

Greinar sem þú gætir viljað lesa eftir þessa:

🔗 Hvernig gervigreind hefur áhrif á umhverfið
Útskýrir kolefnisspor gervigreindar, orkunotkun og málamiðlanir varðandi sjálfbærni.

🔗 Er gervigreind slæm fyrir umhverfið?
Afhjúpar falinn umhverfiskostnað gervigreindarlíkana og gagnavera.

🔗 Er gervigreind góð eða slæm? Kostir og gallar
Jafnvægi í skoðunum á ávinningi, áhættu, siðfræði og raunverulegum áhrifum gervigreindar.

🔗 Hvað er gervigreind? Einföld leiðarvísir
Lærðu grunnatriði gervigreindar, lykilhugtök og dagleg dæmi á nokkrum mínútum.

Af hverju þessi spurning skiptir meira máli en fólk heldur 🔍

Orkunotkun gervigreindar er ekki bara umhverfismál. Hún snertir á nokkrum mjög raunverulegum atriðum:

• Rafmagnskostnaður - sérstaklega fyrir fyrirtæki sem keyra margar gervigreindarbeiðnir

• Kolefnisáhrif - fer eftir aflgjafanum á bak við netþjónana

• Vélbúnaðarálag - öflugir flísar draga mikið afl

• Að stækka ákvarðanir - ein ódýr fyrirmæli geta orðið að milljónum dýrra fyrirmæla

• Vöruhönnun - skilvirkni er oft betri eiginleiki en fólk gerir sér grein fyrir (Google Cloud, Græn gervigreind)

Margir spyrja „Hversu mikla orku notar gervigreind?“ vegna þess að þeir vilja fá dramatíska tölu. Eitthvað risastórt. Eitthvað sem færir fyrirsagnir. En betri spurningin er þessi: Um hvers konar notkun gervigreindar erum við að tala? Því það breytir öllu. (IEA)

Ein tillaga um sjálfvirka útfyllingu? Frekar lítil.
Að þjálfa landamæralíkan yfir stóra klasa? Miklu, miklu stærri.
Stöðugt virkt verkflæði fyrirtækja með gervigreind sem snertir milljónir notenda? Já, það leggst hratt saman ... eins og smáaurar sem breytast í leigugreiðslur. (DOE, Google Cloud)

Hversu mikla orku notar gervigreind? Stutta svarið ⚡

Hér er praktíska útgáfan.

Gervigreind getur notað allt frá örlitlum broti úr wattstund fyrir létt verkefni upp í gríðarlegt magn af rafmagni fyrir stórfellda þjálfun og dreifingu. Þetta svið hljómar ótrúlega breitt því það er breitt. (Google Cloud, Strubell o.fl.)

Einfaldlega sagt:

• Einföld ályktunarverkefni - oft tiltölulega hófleg miðað við hverja notkun

• Langar samræður, mikil afköst, myndataka, myndbandataka - mun orkufrekari

• Að þjálfa stórar gerðir - þungavigtarmeistarinn í orkunotkun

• Að keyra gervigreind í stórum stíl allan daginn - þar sem „lítið fyrir hverja beiðni“ verður að „stórum heildarreikningi“ (Google Cloud, DOE)

Góð þumalputtaregla er þessi:

• Þjálfun er risavaxinn orkuviðburður fyrirfram 🏭

• Ályktun er áframhaldandi reikningur fyrir veitur 💡 (Strubell o.fl., Google Research)

Þegar einhver spyr: Hversu mikla orku notar gervigreind?,þá er beinlínis svarið: „Ekki eitt magn - heldur nægilegt til að skilvirkni skipti máli og nægilegt til að stærðargráðan breyti allri sögunni.“ (IEA, Græn gervigreind)

Þetta er ekki eins grípandi og fólk vill, ég veit. En það er satt.

Hvað gerir góða útgáfu af orkuáætlun gervigreindar? 🧠

Góð matsgerð er ekki bara dramatísk tala sem kastað er á grafíska mynd. Hagnýt matsgerð felur í sér samhengi. Annars er það eins og að vega þoku með baðvog. Nógu nálægt til að hljóma áhrifamikið, ekki nógu nálægt til að treysta. (IEA, Google Cloud)

Góð orkuáætlun fyrir gervigreind ætti að innihalda:

• Tegund verkefnisins - texti, mynd, hljóð, myndband, þjálfun, fínstilling

• Stærð líkansins - stærri gerðir þurfa venjulega meiri tölvuvinnslu

• Vélbúnaðurinn sem notaður er - ekki eru allir flísar jafn skilvirkir

• Lengd lotu - stuttar fyrirmæli og löng vinnuflæði með mörgum skrefum eru mjög ólík.

• Nýting - óvirk kerfi nota enn orku

• Kæling og innviðir - netþjónninn er ekki allur reikningurinn

• Staðsetning og orkublöndun - rafmagn er ekki jafn hreint alls staðar (Google Cloud, IEA)

Þess vegna geta tveir einstaklingar rifist um rafmagnsnotkun gervigreindar og báðir hljómað öruggir þegar þeir tala um gjörólíka hluti. Annar aðilinn á við eitt svar frá spjallþjóni. Hinn á við risastóra æfingaferð. Báðir segja „gervigreind“ og skyndilega rennur samræðurnar af sporinu 😅

Samanburðartafla - bestu leiðirnar til að meta orkunotkun með gervigreind 📊

Hér er hagnýt tafla fyrir alla sem reyna að svara spurningunni án þess að breyta henni í sviðslistir.

Tól eða aðferð	Besti áhorfendur	Verð	Af hverju það virkar
Einföld þumalputtaregla	Forvitnir lesendur, nemendur	Ókeypis	Hratt, auðvelt, svolítið óljóst - en nógu gott fyrir grófa samanburði
Wattmælir á tækishliðinni	Einstaklinga smiðir, áhugamenn	Lágt	Mælir raunverulega véldráttinn, sem er hressandi áþreifanlegur
Mælaborð fyrir fjarmælingar á GPU	Verkfræðingar, vélanámsteymi	Miðlungs	Betri upplýsingar um verkefni sem krefjast mikillar reiknunar, þó það geti misst af stærri kostnaði við aðstöðuna
Skýjareikningar + notkunarskrár	Nýfyrirtæki, rekstrarteymi	Miðlungs til hátt	Tengir notkun gervigreindar við raunverulega útgjöld - ekki fullkomið, samt nokkuð verðmætt
Orkuskýrslugerð gagnavera	Fyrirtækjateymi	Hátt	Veitir breiðari yfirsýn yfir reksturinn, kæling og innviðir byrja að sjást hér
Fullt líftímamat	Sjálfbærniteymi, stór fyrirtæki	Hár-í-háu, stundum sársaukafullt	Best fyrir alvarlega greiningu því hún fer lengra en örgjörvinn sjálf... en hún er hægfara og frekar óþægileg

Það er engin fullkomin aðferð. Það er sá svolítið pirrandi hluti. En það eru til mismunandi gildi. Og yfirleitt er það sem nothæft er betra. (Google Cloud)

Stærsti þátturinn er ekki galdur - það eru tölvur og vélbúnaður 🖥️🔥

Þegar fólk ímyndar sér orkunotkun gervigreindar, þá ímynda það sér oft líkanið sjálft sem það sem notar orku. En líkanið er hugbúnaðarrökfræði sem keyrir á vélbúnaði. Rafmagnsreikningurinn birtist í vélbúnaðinum. (Strubell o.fl., Google Cloud)

Stærstu breyturnar eru venjulega:

• GPU eða hröðlunartegund

• Hversu margar flísar eru notaðar

• Hversu lengi þau eru virk

• Minnishleðsla

• Lotustærð og afköst

• Hvort kerfið sé vel fínstillt eða hvort það sé bara að þvinga allt fram með grimmd (Google Cloud, magngreining, hópun og þjónunaraðferðir í orkunotkun LLM)

Mjög fínstillt kerfi getur unnið meira með minni orku. Klórukennt kerfi getur sóað rafmagni með ótrúlegu öryggi. Þú veist hvernig það er - sumar uppsetningar eru kappakstursbílar, sumar eru innkaupakerrur með eldflaugum límdum á með límbandi 🚀🛒

Og já, stærð líkansins skiptir máli. Stærri líkön þurfa yfirleitt meira minni og meiri útreikninga, sérstaklega þegar verið er að búa til langar úttaksleiðir eða meðhöndla flókna rökhugsun. En hagkvæmnibrögð geta breytt myndinni: (Græn gervigreind, magngreining, hópun og framreiðsluaðferðir í orkunotkun LLM)

• skammtafræðilegri

• betri leiðarval

• minni sérhæfð líkön

• skyndiminni

• hópun

• Snjallari vélbúnaðaráætlun (kvantvæðing, hópvinnsla og framreiðsluaðferðir í orkunotkun í LLM)

Spurningin er því ekki bara „Hversu stór er líkanið?“ heldur líka „Hversu skynsamlega er það rekið?“

Þjálfun vs. ályktun - þetta eru ólík dýr 🐘🐇

Þetta er skiptingin sem ruglar nánast alla.

Þjálfun

Þjálfun er þegar líkan lærir mynstur úr gríðarlegum gagnasöfnum. Það getur falið í sér að margar flísar keyra í langan tíma og tyggja í gegnum risavaxin gagnamagni. Þetta stig er orkufrekt. Stundum gríðarlega. (Strubell o.fl.)

Þjálfunarorka fer eftir:

• stærð líkansins

• stærð gagnasafnsins

• fjöldi æfingahlaupa

• misheppnaðar tilraunir

• fínstilling á sendingum

• skilvirkni vélbúnaðar

• Kælingarkostnaður (Strubell o.fl., Google Research)

Og hér er sá hluti sem fólk missir oft af - almenningur ímyndar sér oft eina stóra æfingalotu, gerðar einu sinni, sögulok. Í reynd getur þróun falið í sér endurteknar æfingar, fínstillingar, endurþjálfun, mat og allar þær einföldu en dýru ítrekanir í kringum aðalæfinguna. (Strubell o.fl., Green AI)

Ályktun

Ályktun er líkanið sem svarar raunverulegum beiðnum notenda. Ein beiðni lítur kannski ekki út fyrir að vera mikil. En ályktun gerist aftur og aftur og aftur. Milljónir skipta. Stundum milljarðar. (Google Research, DOE)

Ályktunarorka vex með:

• lengd fyrirmæla

• úttakslengd

• fjöldi notenda

• kröfur um seinkun

• fjölþætta eiginleika

• væntingar um spenntíma

• Öryggis- og eftirvinnsluskref (Google Cloud, magngreining, hópun og framreiðsluaðferðir í orkunotkun í LLM)

Þannig að þjálfun er jarðskjálftinn. Ályktun er sjávarföllin. Annað er dramatískt, hitt er viðvarandi og bæði geta mótað ströndina aðeins. Þetta er kannski óvenjuleg myndlíking, en hún heldur saman ... meira og minna.

Falinn orkukostnaður sem fólk gleymir 😬

Þegar einhver metur orkunotkun gervigreindar með því að skoða aðeins örgjörvann, þá er viðkomandi yfirleitt að vanmeta. Ekki alltaf á óheppilegan hátt, en nógu mikið til að það skipti máli. (Google Cloud, IEA)

Hér eru falin brot:

Kæling ❄️

Netþjónar mynda hita. Öflugur gervigreindarbúnaður framleiðir mikinn hita. Kæling er ekki valkvæð. Hvert watt sem reiknivélar nota hefur tilhneigingu til að leiða til meiri orkunotkunar bara til að halda hitastigi sanngjörnu. (IEA, Google Cloud)

Gagnaflutningur 🌐

Að flytja gögn á milli geymslu, minnis og neta krefst einnig orku. Gervigreind er ekki bara „hugsun“. Hún er líka að stokka upp upplýsingum stöðugt. (IEA)

Óvirk afkastageta 💤

Kerfi sem eru smíðuð fyrir hámarksnotkun eru ekki alltaf í gangi við hámarksnotkun. Óvirk eða vannýtt innviði notar samt rafmagn. (Google Cloud)

Afritun og áreiðanleiki 🧱

Afrit, yfirfærslukerfi, tvítekin svæði, öryggislög - allt verðmætt, allt hluti af stærri orkumyndinni. (IEA)

Geymsla 📦

Þjálfunargögn, innfellingar, skrár, eftirlitsstöðvar, mynduð úttak - þetta er allt geymt einhvers staðar. Geymsla er ódýrari en útreikningur, vissulega, en ekki ókeypis hvað varðar orku. (IEA)

Þess vegna um hversu mikla orku gervigreind notar með því að stara á eitt viðmiðunartöflu. Heildarupplýsingarnar skipta máli. (Google Cloud, IEA)

Af hverju ein gervigreindarleiðbeining getur verið lítil - og sú næsta getur verið risaeðla 📝➡️🎬

Ekki eru allar fyrirmæli eins. Stutt beiðni um að endurskrifa setningu er ekki sambærileg við að biðja um langa greiningu, margþrepa kóðunarlotu eða myndun mynda í hárri upplausn. (Google Cloud)

Hlutir sem hafa tilhneigingu til að auka orkunotkun í hverri samskipti:

• Lengri samhengisgluggar

• Lengri svör

• Skref fyrir notkun og endurheimt verkfæra

• Margar tilraunir til rökstuðnings eða staðfestingar

• Mynd-, hljóð- eða myndbandsframleiðsla

• Hærri samtímisnýting

• Markmið fyrir lægri seinkun (Google Cloud, magngreining, hópun og birtingaraðferðir í orkunotkun LLM)

Létt textasvar gæti verið tiltölulega ódýrt. Risastórt fjölþátta vinnuflæði getur verið, ja, ekki ódýrt. Það er svolítið eins og að panta kaffi á móti því að sjá um veisluþjónustu í brúðkaupi. Tæknilega séð teljast bæði sem „matarþjónusta“. Annað er ekki eins og hitt ☕🎉

Þetta skiptir sérstaklega máli fyrir vöruteymi. Eiginleiki sem virðist skaðlaus við litla notkun getur orðið dýr í stórum stíl ef hver notendalota verður lengri, ríkari og reikniþungari. (DOE, Google Cloud)

Neytendagervigreind og fyrirtækjagervigreind er ekki það sama 🏢📱

Meðalmaðurinn sem notar gervigreind af handahófi gæti gert ráð fyrir að einstaka fyrirmæli séu stóra vandamálið. Venjulega er það ekki þar sem aðal orkusagan er að finna. (Google Cloud)

Notkun fyrirtækja breytir stærðfræðinni:

• þúsundir starfsmanna

• alltaf virkir aðstoðarflugmenn

• sjálfvirk skjalavinnsla

• samantekt símtala

• myndgreining

• verkfæri til að endurskoða kóða

• bakgrunnsmiðlarar í gangi stöðugt

Það er þar sem heildarorkunotkun fer að skipta miklu máli. Ekki vegna þess að hver aðgerð sé heimsendir, heldur vegna þess að endurtekning er margföldunaráhrif. (DOE, IEA)

Í mínum eigin prófunum og vinnuflæðisumsögnum er þetta þar sem fólk verður hissa. Það einblínir á tegundarnafnið eða glæsilega kynninguna og hunsar magn. Magnið er oft raunverulegur drifkrafturinn - eða bjargvættur, allt eftir því hvort þú ert að rukka viðskiptavini eða greiða reikninginn fyrir veitur 😅

Fyrir neytendur geta áhrifin virst óhlutbundin. Fyrir fyrirtæki verða þau mjög fljótt raunveruleg:

• stærri innviðareikningar

• meiri þrýstingur til að hámarka

• meiri þörf fyrir minni gerðir þar sem það er mögulegt

• innri sjálfbærniskýrslugerð

• meiri áhersla á skyndiminni og leiðsögn (Google Cloud, Green AI)

Hvernig á að draga úr orkunotkun gervigreindar án þess að hætta með gervigreind 🌱

Þessi hluti skiptir máli því markmiðið er ekki að „hætta að nota gervigreind“. Venjulega er það ekki raunhæft og ekki einu sinni nauðsynlegt. Betri notkun er skynsamlegri leiðin.

Hér eru stærstu vígstöðvarnar:

1. Notaðu minnstu gerðina sem klárar verkið

Ekki þarf þyngri kostinn fyrir öll verkefni. Léttari gerð fyrir flokkun eða samantekt getur dregið úr sóun hratt. (Græn gervigreind, Google Cloud)

2. Styttu fyrirmæli og úttak

Ítarlegt inn, ítarlegt út. Auka tákn þýða auka útreikninga. Stundum er auðveldasta sigurinn að stytta fyrirmælin. (Kvantvæðing, hópaskipti og birtingaraðferðir í orkunotkun LLM, Google Cloud)

3. Vista endurteknar niðurstöður í skyndiminni

Ef sama fyrirspurnin birtist ítrekað skaltu ekki endurskapa hana í hvert skipti. Þetta er næstum því augljóst en samt gleymist það. (Google Cloud)

4. Runuvinnslur þegar mögulegt er

Að keyra verkefni í lotum getur bætt nýtingu og dregið úr sóun. (Kvantvæðing, lotuvinnsla og framreiðsluaðferðir í orkunotkun LLM)

5. Leiðbeindu verkefnum á skynsamlegan hátt

Notið stór líkön aðeins þegar traust minnkar eða flækjustig verkefna eykst. (Græn gervigreind, Google Cloud)

6. Hámarka innviði

Betri áætlanagerð, betri vélbúnaður, betri kælingarstefna - einföld efni, mikill ávinningur. (Google Cloud, DOE)

7. Mælið áður en þið gerið ráð fyrir

Mörg teymi halda að þau viti hvert orkan fer. Svo mæla þau hana og þar er hún - dýri hlutinn er annars staðar. (Google Cloud)

Vinna sem byggir á skilvirkni er ekki glæsileg. Hún fær sjaldan lof. En hún er ein besta leiðin til að gera gervigreind hagkvæmari og varnarhæfari í stórum stíl 👍

Algengar goðsagnir um rafmagnsnotkun gervigreindar 🚫

Við skulum afhjúpa nokkrar goðsagnir því þetta efni flækist hratt.

Goðsögn 1 - Allar fyrirspurnir um gervigreind eru gríðarlega sóun

Ekki endilega. Sum eru hófleg. Stærð og tegund verkefnis skipta miklu máli. (Google Cloud)

Goðsögn 2 - Þjálfun er það eina sem skiptir máli

Nei. Ályktanir geta ráðið ríkjum með tímanum þegar notkun er mikil. (Google Research, DOE)

Goðsögn 3 - Stærri fyrirmynd þýðir alltaf betri útkomu

Stundum já, stundum alls ekki. Mörg verkefni virka fínt með minni kerfum. (Græn gervigreind)

Goðsögn 4 - Orkunotkun jafngildir sjálfkrafa kolefnisáhrifum

Ekki alveg. Kolefni er líka háð orkugjafanum. (IEA, Strubell o.fl.)

Goðsögn 5 - Þú getur fengið eina alhliða tölu fyrir orkunotkun gervigreindar

Þú getur það ekki, að minnsta kosti ekki á formi sem helst þýðingarmikið. Eða þú getur það, en það verður svo að meðaltali að það hættir að vera verðmætt. (IEA)

Þess vegna er skynsamlegt að spyrja „ Hversu mikla orku notar gervigreind?“ – en aðeins ef þú ert tilbúinn fyrir marglaga svar í stað slagorðs.

Svo ... hversu mikla orku notar gervigreind í raun og veru? 🤔

Hér er rökstudda niðurstaðan.

Gervigreind notar:

• smá, fyrir einföld verkefni

• miklu meira, fyrir þunga fjölþætta framleiðslu

• mjög stór upphæð, fyrir þjálfun á stórum líkönum

• gríðarlegt magn í heildina, þegar milljónir beiðna hrannast upp með tímanum (Google Cloud, DOE)

Það er lögun þess.

Lykilatriðið er ekki að fletja allt málið út í eina ógnvekjandi tölu eða eitt afskiptalaust axlarhnykk. Orkunotkun gervigreindar er raunveruleg. Hún skiptir máli. Hana er hægt að bæta. Og besta leiðin til að ræða það er í samhengi, ekki í leikrænum tilgangi. (IEA, Græn gervigreind)

Mikilvæg umræða sveiflast á milli öfga - „gervigreind er í grundvallaratriðum ókeypis“ annars vegar, „gervigreind er rafmagnað heimsendir“ hins vegar. Veruleikinn er hversdagslegri, sem gerir hann fróðlegri. Þetta er kerfisvandamál. Vélbúnaður, hugbúnaður, notkun, stærð, kæling, hönnunarvalkostir. Lélegt? Dálítið. Mikilvægt? Mjög. (IEA, Google Cloud)

Lykilatriði ⚡🧾

Ef þú komst hingað og spurðir: Hversu mikla orku notar gervigreind?,þá er þetta niðurstaðan:

• Það er engin ein tala sem hentar öllum

• Þjálfun tekur yfirleitt mesta orkuna í upphafi

• Ályktun verður mikilvægur þáttur í stórum stíl

• Stærð líkansins, vélbúnaður, vinnuálag og kæling skipta öllu máli

• Lítil hagræðing getur gert ótrúlega mikinn mun

• Snjallasta spurningin er ekki bara „hversu mikið“ heldur líka „fyrir hvaða verkefni, á hvaða kerfi, í hvaða mælikvarða?“ (IEA, Google Cloud)

Já, gervigreind notar raunverulega orku. Nóg til að verðskulda athygli. Nóg til að réttlæta betri verkfræði. En ekki á teiknimyndalegan hátt, eins og með eina tölu.

Raunverulegt dæmi: Mæling á orkukostnaði aðstoðarmanns með gervigreind

Atburðarás

Ímyndaðu þér lítið SaaS fyrirtæki sem notar gervigreindaraðstoðarmann til að semja svör við fyrirspurnum frá þjónustuveri. Þetta er ímyndað en raunhæft dæmi, ekki dæmisögur um fyrirtæki.

Teymið sér um 500 hjálparbeiðnir í hverri viku. Flestar eru einfaldar: endurstillingar lykilorða, spurningar um reikninga, útskýringar á eiginleikum og grunnúrlausnir. Fyrirtækið vill ekki að aðstoðarmaðurinn sendi svör sjálfkrafa. Það býr til drög að svörum sem mannlegur þjónustufulltrúi getur yfirfarið.

Orkuspurningin er ekki: „Hversu mikið notar gervigreind almennt?“ Hún er hagnýtari:

„Hversu mikla aukaútreikninga erum við að skapa með því að bæta gervigreind við þetta vinnuflæði og getum við dregið úr þeim án þess að skerða gæði?“

Það sem aðstoðarmaðurinn þarfnast

Liðið myndi byrja með:

Hreinn þekkingargrunnur hjálparmiðstöðvar

Listi yfir samþykktar reglur um endurgreiðslur, friðhelgi einkalífs og uppstigun

20-30 dæmi um sterk svör frá fyrri stuðningsaðilum

Skýr fyrirmæli sem aðstoðarmaðurinn verður að semja, ekki senda

Notkunarskrár skýsins eða notkunarskrár fyrir líkans-API

Einfalt töflureikni til að fylgjast með gerð miða, lengd fyrirspurnar, lengd úttaks, yfirferðartíma og hvort svarið var samþykkt

Það mikilvæga er mælingin. Án skráningar er teymið bara að giska.

Dæmi um leiðbeiningar

Þú ert aðstoðarmaður við gerð þjónustu fyrir SaaS vöru. Notaðu aðeins samþykkt efni hjálparmiðstöðvarinnar og stefnumið sem fylgja. Skrifaðu skýrt og kurteist svar, ekki meira en 180 orð. Ef viðskiptavinurinn biður um endurgreiðslu, eyðingu reiknings, lögfræðiráðgjöf, öryggisupplýsingar eða eitthvað sem ekki er fjallað um í skjölunum, skaltu ekki svara beint. Merktu það til yfirferðar og útskýrðu hvaða upplýsingar vantar.

Áður en þú skrifar svarið skaltu flokka málsmiðann sem: einfalt, stefnumiðað, tæknilegt eða nauðsynlegt að auka málsmeðferð.

Hvernig á að prófa það

Liðið gæti prófað aðstoðarmanninn á 50 fyrri miðum áður en hann var notaður í beinni.

Einfalt prófunarsett gæti innihaldið:

10 lykilorðs- eða innskráningarmiðar

10 reikningsmiðar

10 tæknilegar bilanaleitarmiðar

10 óljós eða ófullkomin skilaboð frá viðskiptavinum

10 mál sem tengjast stefnumálum og varða endurgreiðslur, friðhelgi einkalífs eða lokun reiknings

Fyrir hvert miða ætti liðið að skrá:

Var frumvarpið staðreyndalega rétt?

Notuðust aðeins viðurkenndar upplýsingar?

Hélt það sig innan orðamörkanna?

Var viðkvæmum málum rétt merkt?

Hversu langan tíma eyddi mannlegi umboðsmaðurinn í að breyta því?

Hversu mörg tákn eða beiðnir notaði verkflæðið?

Þetta gefur liðinu eitthvað áþreifanlegt til samanburðar í stað þess að reiða sig á vangaveltur.

Niðurstaða

Dæmigert niðurstaða: Byggt á tímamælingu á 50 sýnishornum fyrir og eftir notkun verkflæðisins, áætlar teymið að meðaltími fyrstu drög lækki úr 6 mínútum á miða í 2 mínútur á miða.

Fyrir 500 miða á viku sparar það um 2.000 mínútur, eða um það bil 33 klukkustundir af drögum.

En skrárnar sýna líka eitthvað verðmætt: 38% af miðum eru einfaldar endurtekningar. Með því að vista samþykkt svör við þessum endurteknu spurningum í skyndiminni í stað þess að endurgera hvert drög frá grunni, minnkar teymið gervigreindarbeiðnir úr 500 á viku í 310 á viku.

Það er 38% fækkun vikulegra ályktanakalla fyrir þetta vinnuflæði, án þess að fjarlægja gervigreindareiginleikann.

Teymið getur staðfest þetta með því að bera saman:

Heildarfjöldi vikulegra beiðna um gervigreind fyrir og eftir skyndiminni

Meðallengd fyrirspurna og úttaks

Mannleg viðurkenningartíðni

Fjöldi stigvaxandi vandamála sem greindar voru rétt

Stuðningsgæðastig eða endurskoðunarfjölda

Nákvæm rafmagnssparnaður fer eftir gerð, vélbúnaði, þjónustuaðila og innviðum. En sjálf minnkun vinnuálags er mælanleg.

Hvað getur farið úrskeiðis

Aðstoðarmaðurinn gæti svarað of mikið um stefnumál ef reglur um stigvaxandi mál eru óljósar.

Langar hjálparmiðstöðvarskjöl geta aukið lengd fyrirspurna ef uppsetningin á leitarvélinni er illa skipulögð.

Umboðsmenn geta treyst of fljótt á reiprennandi drög og misst af lúmskum villum.

Skyndiminnisgeymsla getur orðið áhættusöm ef gamlar endurgreiðslu-, verðlagningar- eða persónuverndarstefnur eru enn í umferð.

Teymið gæti fínstillt fyrir færri tákn en óvart gefið minna gagnleg svör.

Öruggasta útgáfan heldur fólki upplýstu, mælir samþykkt svör og fer yfir skyndiminni svör þegar stefnur breytast.

Hagnýtt skyndibita

Traust orkumat á gervigreind byrjar með raunverulegu vinnuflæði. Teljið beiðnir, styttu fyrirspurnir, vistið endurtekin svör og mælið gæði umsagna. Það breytir „Hversu mikla orku notar gervigreind?“ úr óljósri umræðu í hagnýta verkfræðispurningu með tölum sem teymi getur bætt í reynd.

Algengar spurningar

Hversu mikla orku notar gervigreind fyrir eina fyrirmæli?

Það er engin algild tala fyrir eina fyrirspurn, því orkunotkunin fer eftir gerð, vélbúnaði, lengd fyrirspurnarinnar, lengd úttaksins og allri notkun auka tækja. Stutt textasvar getur verið tiltölulega hóflegt, en langt fjölþátta verkefni getur eytt töluvert meira. Markmiðsmesta svarið er ekki ein fyrirsögn, heldur samhengið sem umlykur verkefnið.

Hvers vegna eru mat á orkunotkun gervigreindar svona mismunandi?

Mat er mismunandi þar sem fólk ber oft saman mjög ólíka hluti undir sama nafni gervigreind. Ein matsgerð gæti lýst léttum spjallþjóni, en önnur gæti náð yfir myndagerð, myndbands- eða stórfellda líkanaþjálfun. Til þess að mat sé marktækt þarf það samhengi eins og gerð verkefnis, stærð líkans, vélbúnað, nýtingu, kælingu og staðsetningu.

Er orkukostnaðurinn meiri að þjálfa gervigreind eða að keyra gervigreind daglega?

Þjálfun er yfirleitt stór atburður orkunnar fyrirfram, því hún getur falið í sér að margar flísar keyra í langan tíma yfir gríðarstór gagnasöfn. Ályktun er áframhaldandi kostnaður sem kemur fram í hvert skipti sem notendur senda beiðnir, og í stórum stíl getur hann einnig orðið mjög mikill. Í reynd skipta báðir máli, þó þeir skipti máli á mismunandi vegu.

Hvað gerir eina gervigreindarbeiðni mun orkufrekari en aðra?

Lengri samhengisgluggar, lengri úttak, endurteknar rökhugsunarferðir, verkfæraköll, sóknarskref og fjölþátta framleiðsla hafa tilhneigingu til að auka orkunotkun á hverja samskipti. Seinkunarmarkmið skipta einnig máli, því kröfur um hraðari svörun geta dregið úr skilvirkni. Lítil endurskrifunarbeiðni og langt kóðunar- eða myndvinnsluflæði eru einfaldlega ekki sambærileg.

Hvaða falda orkukostnað missa fólk af þegar það spyr sig hversu mikla orku gervigreind notar?

Margir einblína aðeins á örgjörvann, en það horfir fram hjá kælingu, gagnaflutningi, geymslu, biðrými og áreiðanleikakerfum eins og afritunum eða svæðum þar sem gagnaflutningur er ekki virkur. Þessi stuðningslög geta breytt heildarfótsporinu verulega. Þess vegna sýnir viðmið eitt og sér sjaldan alla orkunýtingarmyndina.

Notar stærri gervigreindarlíkan alltaf meiri orku?

Stærri líkön þurfa yfirleitt meiri reikniafl og minni, sérstaklega fyrir langar eða flóknar úttaksupptökur, þannig að þær neyta oft meiri orku. En stærri þýðir ekki sjálfkrafa betri fyrir öll verkefni og hagræðing getur breytt myndinni töluvert. Minni sérhæfð líkön, magngreining, hópvinnsla, skyndiminni og snjallari leiðsögn geta allt bætt skilvirkni.

Er gervigreind neytenda helsta orkuvandamálið eða er gervigreind fyrirtækja stærra vandamálið?

Notkun neytenda getur kostað mikið, en stærri sagan birtist oft í fyrirtækjarekstri. Stöðugir samvinnuaðilar, skjalavinnsla, símtalasamantekt, kóðaskoðun og bakgrunnsþjónustur skapa endurtekna eftirspurn hjá stórum notendahópum. Vandamálið snýst yfirleitt minna um eina dramatíska aðgerð og meira um viðvarandi magn með tímanum.

Hversu mikla orku notar gervigreind þegar gagnaver og kæling eru meðtalin?

Þegar kerfið í heild sinni er tekið með í reikninginn verður svarið raunhæfara og er yfirleitt stærra en mat á örgjörvum eingöngu gefur til kynna. Gagnaver þurfa ekki aðeins orku til útreikninga, heldur einnig til kælingar, nettengingar, geymslu og viðhalds á afkastagetu. Þess vegna skiptir hönnun innviða og skilvirkni aðstöðu næstum jafn miklu máli og hönnun líkana.

Hver er hagnýtasta leiðin til að mæla orkunotkun gervigreindar í raunverulegu vinnuflæði?

Besta aðferðin fer eftir því hver mælir og í hvaða tilgangi. Gróf þumalputtaregla getur hjálpað við skjótari samanburð, en wattamælar, fjarmælingar á skjákortum, skýjareikningar og skýrslur um gagnaver veita smám saman betri innsýn í rekstur. Fyrir alvarlegt sjálfbærnistarf er heildstæðari yfirsýn yfir líftíma enn sterkari, þó hún sé hægari og krefjandi.

Hvernig geta teymi dregið úr orkunotkun gervigreindar án þess að fórna gagnlegum eiginleikum gervigreindar?

Mesti ávinningurinn kemur yfirleitt með því að nota minnstu líkanið sem samt virkar, stytta fyrirmæli og úttak, vista endurteknar niðurstöður í skyndiminni, safna vinnu í hópum og beina aðeins erfiðari verkefnum yfir í stærri líkön. Hagnýting innviða skiptir einnig máli, sérstaklega áætlanagerð og skilvirkni vélbúnaðar. Í mörgum verkferlum hjálpar mæling fyrst til við að koma í veg fyrir að teymi hagræði það sem er rangt.

Heimildir

1. Alþjóðaorkustofnunin (IEA) - Orkuþörf frá gervigreind - iea.org

2. Bandaríska orkumálaráðuneytið (DOE) - DOE gefur út nýja skýrslu sem metur aukna eftirspurn eftir rafmagni í gagnaverum - energy.gov

3. Google Cloud - Mæling á umhverfisáhrifum gervigreindarályktana - cloud.google.com

4. Google Research - Góðar fréttir um kolefnisspor vélnámsþjálfunar - research.google

5. Google rannsóknir - Kolefnisspor vélnámsþjálfunar mun jafnast út og síðan minnka - research.google

6. arXiv - Græn gervigreind - arxiv.org

7. arXiv - Strubell o.fl. - arxiv.org

8. arXiv - Kvantvæðing, hópaskipti og framreiðsluaðferðir í orkunotkun í LLM-námi - arxiv.org

Finndu nýjustu gervigreindina í opinberu versluninni fyrir gervigreindaraðstoðarmenn

Um okkur