Gervigreind er alls staðar - flokkar, gefur einkunnir og leggur til hljóðlega. Það er handhægt ... þangað til það ýtir sumum hópum áfram og skilur aðra eftir. Ef þú hefur velt því fyrir þér hvað hlutdrægni gervigreindar er, hvers vegna hún birtist jafnvel í fíngerðum líkönum og hvernig hægt er að draga úr henni án þess að lækka afköst, þá er þessi handbók fyrir þig.
Greinar sem þú gætir viljað lesa eftir þessa:
🔗 Hvað stendur GPT fyrir
Einföld ensk sundurliðun á nafni og uppruna GPT.
🔗 Hvað er spátækni
Hvernig spálíkön spá fyrir um niðurstöður út frá sögulegum og raunverulegum gögnum.
🔗 Hvað er opinn hugbúnaður gervigreindar
Skilgreining, helstu kostir, áskoranir, leyfi og dæmi um verkefni.
🔗 Hvernig á að fella gervigreind inn í fyrirtækið þitt
Skref-fyrir-skref leiðbeiningar, verkfæri, vinnuflæði og grunnatriði breytingastjórnunar.
Stutt skilgreining: hvað er hlutdrægni í gervigreind?
Hlutdrægni í gervigreind er þegar niðurstöður gervigreindarkerfis eru kerfisbundið í hag eða óhagstæðri stöðu gagnvart ákveðnum einstaklingum eða hópum. Það stafar oft af ójafnvægi í gögnum, þröngum mælikvörðum eða víðara samhengi sem kerfið er byggt og notað í. Hlutdrægni er ekki alltaf illgjarn, en hún getur aukið skaða hratt ef hún er ekki tekin í eftirlit. [1]
Gagnlegur greinarmunur: hlutdrægni er skekkjan í ákvarðanatöku, en mismunun er skaðleg áhrif sem skekkja getur haft í heiminum. Það er ekki alltaf hægt að fjarlægja allan hlutdrægni, en það verður að stjórna honum svo hann skapi ekki ósanngjarnar niðurstöður. [2]
Af hverju það að skilja fordóma gerir þig í raun betri 💡
Undarleg skoðun, ekki satt? En að vita hvað hlutdrægni í gervigreind er gerir þig að:
-
Betri í hönnun - þú munt koma auga á brothættar forsendur fyrr.
-
Betri í stjórnun - þú munt skrá málamiðlanir í stað þess að veifa þeim handvirkt.
-
Betri í samræðum - við leiðtoga, eftirlitsaðila og fólk sem verður fyrir áhrifum.
Einnig sparar það tíma síðar meir að læra tungumál réttlætismælikvarða og stefnu. Heiðarlega, það er eins og að kaupa kort fyrir bílferð - ófullkomið, en samt miklu betra en stemningar. [2]
Tegundir af hlutdrægni í gervigreind sem þú munt sjá í raun og veru 🧭
Hlutdrægni birtist í gegnum líftíma gervigreindar. Algeng mynstur sem teymi rekast á:
-
Skekkjur í úrtaki gagna - sumir hópar eru vanmetnir eða vantar.
-
Merkimiðar - sögulegir merkimiðar fela í sér fordóma eða háværa dóma manna.
-
Mælingarskekkja - mælikvarðar sem fanga ekki það sem þú raunverulega metur.
-
Matsskekkja - prófunarsett missa af ákveðnum þýðum eða samhengjum.
-
Dreifingarskekkja - góð rannsóknarstofulíkan notuð í röngum aðstæðum.
-
Kerfisbundin og mannleg fordómar - víðtækari félagsleg mynstur og val teymishópa leka inn í tækni.
Gagnleg hugræn líkan frá staðlastofnunum flokkar skekkju í mannlega, tæknilega og kerfisbundna flokka og mælir með félags-tæknilegri stjórnun, ekki bara breytingum á líkaninu. [1]
Þar sem hlutdrægni læðist inn í pípulagið 🔍
-
Vandamálarammi - ef markmiðið er skilgreint of þröngt útilokarðu fólk sem varan ætti að þjóna.
-
Gagnaöflun - söguleg gögn kóða oft ójöfnuði fyrri tíma.
-
Eiginleikaval - umboðsmenn fyrir viðkvæma eiginleika geta endurskapað viðkvæma eiginleika.
-
Þjálfun - markmið eru fínstillt með tilliti til meðalnákvæmni, ekki jafnræðis.
-
Prófanir - ef úthaldsmengið þitt er skekkt, þá eru mælikvarðarnir það líka.
-
Eftirlit - breytingar á notendum eða samhengi geta valdið vandamálum aftur.
Eftirlitsaðilar leggja áherslu á að skrá áhættu vegna sanngirni í gegnum þennan líftíma, ekki bara við gerð líkansins. Þetta er æfing sem allir þurfa að taka þátt í. [2]
Hvernig mælum við réttlæti án þess að fara í hringi? 📏
Það er enginn einn mælikvarði sem ræður yfir þeim öllum. Veldu út frá notkunartilviki þínu og þeim skaða sem þú vilt forðast.
-
Lýðfræðilegur jöfnuður - valhlutfall ætti að vera svipað milli hópa. Gott fyrir úthlutunarspurningar, en getur stangast á við nákvæmnismarkmið. [3]
-
Jafnvægislíkur - villutíðni eins og falskar jákvæðar niðurstöður og sannar jákvæðar niðurstöður ættu að vera svipuð. Gagnlegt þegar kostnaður vegna villna er mismunandi eftir hópum. [3]
-
Kvörðun - fyrir sama stig ættu niðurstöður að vera jafn líklegar milli hópa. Gagnlegt þegar stig ráða ákvörðunum manna. [3]
Verkfærasett gera þetta hagnýtt með því að reikna út eyður, myndrit og mælaborð svo þú getir hætt að giska. [3]
Hagnýtar leiðir til að draga úr fordómum sem virka í raun 🛠️
Hugsaðu um lagskiptar mótvægisaðgerðir frekar en eina lausn:
-
Gagnaendurskoðun og auðgun - greina eyður í umfangi, safna öruggari gögnum þar sem það er löglegt, skrá úrtök.
-
Endurvigtun og endurúrtak - aðlagaðu þjálfunardreifinguna til að draga úr skekkju.
-
Takmarkanir í vinnslu - bætið sanngirnismarkmiðum við markmiðið svo líkanið læri málamiðlanir beint.
-
Andstæð afhlutun - þjálfa líkanið þannig að viðkvæmir eiginleikar séu ekki fyrirsjáanlegir út frá innri framsetningum.
-
Eftirvinnsla - kvarða ákvörðunarþröskulda fyrir hvern hóp þegar það á við og er lögmætt.
-
Mannleg athugun í lykkjunni - paraðu saman líkön við útskýranlegar samantektir og stigvaxandi leiðir.
Opin hugbúnaðarbókasöfn eins og AIF360 og Fairlearn bjóða upp á bæði mælikvarða og reiknirit til að draga úr áhrifum. Þau eru ekki töfrar, en þau gefa þér kerfisbundinn upphafspunkt. [5][3]
Raunveruleg sönnun þess að hlutdrægni skiptir máli 📸💳🏥
-
Andlitsgreining - víða vitnað rannsóknir sýndu fram á mikinn nákvæmnismun milli kynja og húðgerða í viðskiptakerfum, sem ýtir undir betri matsvenjur á sviðinu. [4]
-
Ákvarðanir sem skipta miklu máli (lán, ráðningar, húsnæði) - jafnvel án þess að það sé ásettu ráði geta hlutdrægar niðurstöður stangast á við sanngirni og skyldur gegn mismunun. Þýðing: þú berð ábyrgð á áhrifum, ekki bara kóða. [2]
Stutt frásögn úr reynslu: Í nafnlausri úttekt á ráðningum fann teymi eyður í endurköllun kvenna í tæknilegum störfum. Einföld skref - betri lagskipt skipting, yfirferð eiginleika og þröskuldar fyrir hvern hóp - lokuðu mestu bilinu með litlum nákvæmnismun. Lykilatriðið var ekki eitt bragð; það var endurtakanleg mæling-mótvægisaðgerð-eftirlitslykkja.
Stefnumótun, lög og stjórnarhættir: hvernig „gott“ lítur út 🧾
Þú þarft ekki að vera lögfræðingur, en þú þarft að hanna með sanngirni og skýranleika að leiðarljósi:
-
Meginreglur um sanngirni - mannmiðuð gildi, gagnsæi og mismununarbann í gegnum lífsferilinn. [1]
-
Verndun persónuupplýsinga og jafnrétti - þegar um persónuupplýsingar er að ræða má búast við skyldum varðandi sanngirni, tilgangstakmarkanir og einstaklingsréttindi; reglur um atvinnugreinina geta einnig átt við. Kortleggið skyldur ykkar snemma. [2]
-
Áhættustjórnun - notið skipulagt rammaverk til að bera kennsl á, mæla og fylgjast með hlutdrægni sem hluta af víðtækari áhættuáætlunum gervigreindar. Skrifið það niður. Farið yfir það. Endurtakið. [1]
Lítið til hliðar: pappírsvinna er ekki bara skriffinnska; hún snýst um hvernig þú sannar að þú hafir í raun unnið verkið ef einhver spyr.
Samanburðartafla: verkfæri og rammar til að temja hlutdrægni í gervigreind 🧰📊
| Tól eða rammi | Best fyrir | Verð | Af hverju það virkar ... svona |
|---|---|---|---|
| AIF360 | Gagnafræðingar sem vilja mælikvarða + mótvægisaðgerðir | Ókeypis | Margar reiknirit á einum stað; fljótleg frumgerð; hjálpar til við að byggja upp grunnlínu og bera saman lagfæringar [5] |
| Fairlearn | Lið sem vega og meta nákvæmni og sanngirni | Ókeypis | Skýr forritaskil (API) fyrir mat/mótvægisaðgerðir; gagnlegar sjónrænar framsetningar; scikit-learn-vænt. [3] |
| NIST AI (SP 1270) | Áhætta, reglufylgni og forysta | Ókeypis | Sameiginlegt tungumál fyrir mannlega/tæknilega/kerfisbundna skekkju og líftímastjórnun. [1] |
| Leiðbeiningar um ICO | Bresk teymi sem meðhöndla persónuupplýsingar | Ókeypis | Hagnýtir gátlistar fyrir áhættu vegna sanngirni/mismununar í gegnum líftíma gervigreindar. [2] |
Hvert og eitt af þessu hjálpar þér að svara því hvað er hlutdrægni í gervigreind í þínu samhengi með því að gefa þér uppbyggingu, mælikvarða og sameiginlegt orðaforða.
Stutt, örlítið skoðanabundið vinnuflæði 🧪
-
Tilgreindu þann skaða sem þú vilt forðast - skaða vegna úthlutunar, misræmis í villutíðni, skaða vegna virðingar o.s.frv.
-
Veldu mælikvarða sem er í samræmi við þann skaða - t.d. jafnaðar líkur ef villujöfnuður skiptir máli. [3]
-
Keyrðu grunnlínur með gögnum og líkani dagsins í dag. Vistaðu sanngirnisskýrslu.
-
Prófaðu fyrst lausnir sem draga úr núningi - betri gagnaskiptingu, þröskuldstillingu eða endurvigtun.
-
Hækkaðu stig í takmarkanir í vinnslu ef þörf krefur.
-
Endurmetið sett af biðlistum sem tákna raunverulega notendur.
-
Eftirlit í framleiðslu - breytingar á dreifingu eiga sér stað; mælaborð ættu líka að gera það.
-
Skjalfesting á málamiðlunum - sanngirni er samhengisbundin, svo útskýrðu hvers vegna þú valdir jöfnuð X frekar en jöfnuð Y. [1][2]
Eftirlitsaðilar og staðlastofnanir leggja áherslu á líftímahugsun af ástæðu. Það virkar. [1]
Samskiptaráð fyrir hagsmunaaðila 🗣️
-
Forðastu útskýringar sem byggjast eingöngu á stærðfræði - sýndu fyrst einföld töflur og raunhæf dæmi.
-
Notið einfalt mál - segið hvað fyrirsætan gæti gert óréttlátt og hverjir gætu orðið fyrir áhrifum.
-
Yfirborðslegar málamiðlanir - sanngirnistakmarkanir geta breytt nákvæmni; það er ekki villa ef það dregur úr skaða.
-
Skipuleggja viðbúnað - hvernig á að gera hlé eða afturkalla ef vandamál koma upp.
-
Bjóða upp á skoðun - utanaðkomandi skoðun eða aðgerðir gegn breytingum á teymi afhjúpa blinda bletti. Enginn elskar það, en það hjálpar. [1][2]
Algengar spurningar: hvað er hlutdrægni í gervigreind, í raun og veru? ❓
Eru hlutdrægni ekki bara slæm gögn?
Ekki aðeins. Gögn skipta máli, en val á líkanagerð, hönnun mats, samhengi við innleiðingu og hvati teymisins hafa öll áhrif á niðurstöður. [1]
Get ég útrýmt hlutdrægni alveg?
Yfirleitt ekki. Markmiðið er að stjórna hlutdrægni þannig að hún valdi ekki óréttlátum afleiðingum - hugsaðu um fækkun og stjórnun, ekki fullkomnun. [2]
Hvaða sanngirnismælikvarða ætti ég að nota?
Veldu út frá tegund skaða og reglum um svið. Til dæmis, ef falskar jákvæðar niðurstöður skaða hóp meira, einbeittu þér að jöfnuði villuhlutfalls (jöfnuð líkindi). [3]
Þarf ég lagalega endurskoðun?
Ef kerfið þitt snertir tækifæri eða réttindi fólks, já. Reglur sem miða að neytendum og jafnrétti geta átt við um reiknirit og þú þarft að sýna fram á vinnu þína. [2]
Að lokum: Of langt, las ekki 🧾✨
Ef einhver spyr þig hvað sé hlutdrægni í gervigreind, þá er þetta fljótlegt svar: það er kerfisbundin skekkja í niðurstöðum gervigreindar sem getur haft ósanngjörn áhrif í hinum raunverulega heimi. Þú greinir það með samhengisbundnum mælikvörðum, dregur úr því með lagskiptum aðferðum og stjórnar því yfir allan líftíma þess. Þetta er ekki ein villa til að laga - þetta er spurning um vöru, stefnu og fólk sem krefst stöðugrar mælinga, skjalfestingar og auðmýktar. Ég held að það sé engin bjartsýni ... en það eru til góðir gátlistar, heiðarleg málamiðlanir og betri venjur. Og já, nokkur emoji skaða aldrei. 🙂
Heimildir
-
Sérstök útgáfa NIST 1270 - Að staðli til að bera kennsl á og stjórna hlutdrægni í gervigreind. Tengill.
-
Skrifstofa upplýsingafulltrúa Bretlands - Hvað með sanngirni, hlutdrægni og mismunun? Tengill
-
Fairlearn skjölun - Algengar sanngirnismælingar (lýðfræðilegt jafnræði, jöfnuð líkindi, kvörðun). Tengill
-
Buolamwini, J., & Gebru, T. (2018). Kynjalitbrigði: Misræmi í nákvæmni milli svæða í flokkun kynja í atvinnuskyni. FAT* / PMLR. Tengill
-
IBM Research - Kynning á AI Fairness 360 (AIF360). Tengill