Hvernig virka gervigreindarskynjarar? [Myndband og spurningakeppni]

Stutt svar: Gervigreindarskynjarar „sanna“ ekki hver skrifaði eitthvað; þeir meta hversu vel textabrot passa við kunnugleg mynstur í tungumálalíkönum. Flestir reiða sig á blöndu af flokkurum, fyrirsjáanleikamerkjum (ruglingum/sprungum), stílfræði og, í sjaldgæfari tilfellum, vatnsmerkjaprófunum. Þegar sýnishornið er stutt, mjög formlegt, tæknilegt eða skrifað af enskumælandi höfundi, skal líta á einkunnina sem vísbendingu um endurskoðun - ekki dóm.

Lykilatriði:

Líkur, ekki sönnun: Meðhöndlið prósentur sem áhættumerki sem líkjast gervigreind, ekki vissu.

Falskar jákvæðar niðurstöður: Formleg, tæknileg, sniðmátuð eða óinnfædd ritun er oft ranglega merkt.

Aðferðablanda: Verkfæri sameina flokkara, rugling/sprengihættu, stílmælingar og óvenjulegar vatnsmerkjaathuganir.

Gagnsæi: Kjós frekar skynjara sem sýna yfirborðsspenn, eiginleika og óvissu - ekki bara eina tölu.

Véfengjanleiki: Hafðu drög/glósur og vinnðu úr sönnunargögnum við höndina vegna ágreiningsmála og áfrýjunar.

Greinar sem þú gætir viljað lesa eftir þessa:

🔗 Hver er besti gervigreindarskynjarinn?
Bestu verkfærin fyrir greiningu gervigreindar borin saman hvað varðar nákvæmni, eiginleika og notkunartilvik.

🔗 Eru gervigreindarskynjarar áreiðanlegir?
Útskýrir áreiðanleika, falskar jákvæðar niðurstöður og hvers vegna niðurstöður eru oft mismunandi.

🔗 Getur Turnitin greint gervigreind?
Heildarleiðbeiningar um greiningu á gervigreind í Turnitin, takmarkanir og bestu starfsvenjur.

🔗 Er QuillBot AI skynjarinn nákvæmur?
Ítarleg yfirferð á nákvæmni, styrkleikum, veikleikum og raunverulegum prófunum.

1) Fljótleg hugmynd - hvað gervigreindarskynjari gerir í raun og veru ⚙️

Flestir gervigreindarskynjarar eru ekki að „veiða gervigreind“ eins og net sem veiðir fisk. Þeir eru að gera eitthvað einfaldara:

• Þeir meta líkurnar á því að textabútur líti út eins og hann komi frá tungumálalíkani (eða hafi fengið mikla aðstoð frá einu). (Könnun á LLM-myndaðri textagreiningu; OpenAI)

• Þeir bera saman textann þinn við mynstur sem sjást í þjálfunargögnum (skrif manna samanborið við skrif sem búin eru til með líkani). (Könnun á textagreiningu sem búinn er til með LLM)

• Þeir gefa út einkunn (oft prósentu) sem virðist vera endanleg ... en er það yfirleitt ekki. (Turnitin leiðbeiningar)

Verum nú hreinskilin - notendaviðmótið segir eitthvað á borð við „92% gervigreind“ og heilinn þinn segir „jæja, þetta er staðreynd.“ Þetta er ekki staðreynd. Þetta er ágiskun fyrirsætu um fingraför annarrar fyrirsætu. Sem er svolítið fyndið, eins og hundar sem þefa af hundum 🐕🐕

2) Hvernig gervigreindarskynjarar virka: algengustu „skynjunarvélarnar“ 🔍

Skynjarar nota venjulega eina (eða blöndu) af þessum aðferðum: (Könnun á textagreiningu sem myndast með LLM)

A) Flokkunarlíkön (algengustu)

Flokkari er þjálfaður á merktum dæmum:

• Mannskrifuð sýnishorn

• Sýnishorn búin til með gervigreind

• Stundum „blendings“ sýni (mannritaður gervigreindartexti)

Síðan lærir það mynstur sem aðgreina hópana. Þetta er klassíska vélanámsaðferðin og hún getur verið ótrúlega góð ... þangað til hún er það ekki lengur. (Könnun á textagreiningu sem mynduð er með LLM)

B) Rugla og „sprengikraftur“ í stigagjöf 📈

Sumir skynjarar reikna út hversu „fyrirsjáanlegur“ textinn er.

• Ráðvilla: í grófum dráttum, hversu hissa tungumálalíkan verður á næsta orði. (Boston University - Ráðvillufærslur)

• Minni ruglingur getur bent til þess að textinn sé mjög fyrirsjáanlegur (sem getur gerst með gervigreindarúttaki). (DetectGPT)

• „Spurstiness“ reynir að mæla hversu mikill breytileiki er í flækjustigi og takti setninga. (GPTZero)

Þessi aðferð er einföld og hraðvirk. Það er líka auðvelt að rugla hana saman, því menn geta líka skrifað fyrirsjáanlega (halló fyrirtækjatölvupóstar). (OpenAI)

C) Stílfræðileg greining (ritun fingrafara) ✍️

Stílfræði skoðar mynstur eins og:

• meðallengd setninga

• greinarmerkjastíll

• tíðni fallorðsins (það, og, en…)

• fjölbreytni orðaforða

• leshæfniseinkunn

Þetta er eins og „handritsgreining“, nema hvað textinn er. Stundum hjálpar það. Stundum er það eins og að greina kvef með því að skoða skóna á einhverjum. (Stílfræði og réttarvísindi: Yfirlit yfir heimildir; Virkniorð í höfundarréttareignun)

D) Vatnsmerkjagreining (þegar hún er til staðar) 🧩

Sumir líkanaframleiðendur geta fellt inn fínleg mynstur („vatnsmerki“) í myndaðan texta. Ef mælir þekkir vatnsmerkjafyrirkomulagið getur hann reynt að staðfesta það. (Vatnsmerki fyrir stór tungumálamódel; SynthID texti)

En ... ekki allar gerðir nota vatnsmerki, ekki allar úttaksleiðir halda vatnsmerkinu eftir breytingar og ekki allir skynjarar hafa aðgang að leyniuppskriftinni. Þannig að þetta er ekki alhliða lausn. (Um áreiðanleika vatnsmerkja fyrir stór tungumálalíkön; OpenAI)

3) Hvað gerir góða útgáfu af gervigreindarskynjara ✅

„Góður“ skynjari (að mínu mati prófar marga slíka hlið við hlið fyrir ritstjórnarvinnuflæði) er ekki sá sem öskrar hæst. Hann er sá sem hegðar sér á ábyrgan hátt.

Þetta er það sem gerir gervigreindarskynjara traustan:

• Kvörðuð öryggi: 70% ætti að þýða eitthvað samkvæmt, ekki handahreyfingu. (Könnun á textagreiningu sem mynduð er með LLM)

• Lítil falsk jákvæð niðurstaða: það ætti ekki að merkja ensku sem ekki er móðurmál, lögfræðirit eða tæknilegar handbækur sem „gervigreind“ bara vegna þess að þær eru hreinar. (Stanford HAI; Liang o.fl. (arXiv))

• Gagnsæ mörk: það ætti að viðurkenna óvissu og sýna svið, ekki þykjast vera alvitur. (OpenAI; Turnitin)

• Lénsvitund: Greiningaraðilar sem eru þjálfaðir í að lesa blogg eiga oft í erfiðleikum með fræðilegan texta og öfugt. (Könnun á textagreiningu sem framleiddur er með LLM-tækni)

• Meðhöndlun stuttra texta: góð verkfæri forðast of öruggar einkunnir á örsmáum sýnum (málsgrein er ekki alheimur). (OpenAI; Turnitin)

• Næmi fyrir endurskoðun: það ætti að takast á við breytingar manna án þess að þær falli samstundis niður í fáránlegar niðurstöður. (Könnun á textagreiningu sem mynduð er af LLM)

Þeir bestu sem ég hef séð eru yfirleitt svolítið auðmjúkir. Þeir verstu haga sér eins og þeir séu að lesa hugsanir 😬

4) Samanburðartafla - algengar „tegundir“ gervigreindarskynjara og hvar þeir skína 🧾

Hér að neðan er hagnýt samanburður. Þetta eru ekki vörumerki - þetta eru helstu flokkarnir sem þú munt rekast á. (Könnun á textagreiningu sem mynduð er með LLM)

Takið eftir dálknum „verðtilfinning“. Já, þetta er ekki vísindalegt. En þetta er einlægt 😄

5) Kjarnamerkin sem skynjarar leita að - „segja til“ 🧠

Þetta er það sem margir skynjarar reyna að mæla undir húddinu:

Fyrirsjáanleiki (líkindalíkindi)

Tungumálalíkön búa til texta með því að spá fyrir um líklega næstu tákn. Það hefur tilhneigingu til að skapa:

• mýkri umskipti

• færri óvænt orðaval

• færri skrýtnar snertingar (nema beðið sé um það)

• samkvæmur tónn (Boston University - Ruglaðar færslur; DetectGPT)

Menn hins vegar fara oft meira í sikksakk. Við mótmælum sjálfum okkur, við bætum við handahófskenndum athugasemdum, við notum svolítið óvenjulegar myndlíkingar - eins og að bera saman gervigreindarskynjara við brauðrist sem dæmir ljóð. Þessi myndlíking er slæm, en þú skilur hana.

Endurtekningar- og uppbyggingarmynstur

Gervigreindarritun getur sýnt lúmska endurtekningu:

• endurteknar setningar („Að lokum…“, „Að auki…“, „Ennfremur…“)

• svipaðar málsgreinalengdir

• stöðugur hraði (Könnun á textagreiningu sem mynduð er með LLM)

En líka - fullt af fólki skrifar svona, sérstaklega í skólum eða fyrirtækjum. Þannig að endurtekning er vísbending, ekki sönnun.

Of skýr og „of hreinn“ texti ✨

Þetta er sérkennilegt. Sumir skynjarar meðhöndla óbeint „mjög hreina skrift“ sem grunsamlega. (OpenAI)

Sem er óþægilegt vegna þess að:

• góðir rithöfundar eru til

• ritstjórar eru til staðar

• stafsetningarprófun er til staðar

Svo ef þú ert að velta fyrir þér hvernig gervigreindarskynjarar virka, þá er hluti svarsins: stundum umbuna þeir grófleika. Sem er ... svolítið öfugt.

Merkingarþéttleiki og almenn orðalag

Skynjarar geta merkt texta sem finnst:

• of almennt

• lítið af tilteknum lífsupplýsingum

• Mikil áhersla á jafnvægisríkar, hlutlausar fullyrðingar (Könnun á textagreiningu sem mynduð er með LLM)

Gervigreind framleiðir oft efni sem hljómar sanngjarnt en er örlítið yfirfarið. Eins og hótelherbergi sem lítur vel út en hefur engan persónuleika 🛏️

6) Flokkunaraðferðin - hvernig hún er þjálfuð (og hvers vegna hún bilar) 🧪

Flokkunarskynjari er venjulega þjálfaður svona:

1. Safnaðu saman gagnasafni af texta eftir mann (ritgerðir, greinar, umræður o.s.frv.)

2. Búa til gervigreindartexta (margar fyrirmæli, stíl, lengdir)

3. Merktu sýnin

4. Þjálfa líkan til að aðgreina þau með eiginleikum eða innfellingum

5. Staðfesta það á undanskildum gögnum

6. Sendið það ... og svo slær veruleikinn það í andlitið (Könnun á textagreiningu sem mynduð er með LLM)

Af hverju veruleikinn ræður ríkjum:

• Lénsbreyting: þjálfunargögn stemma ekki við raunverulegt skrif notenda

• Líkanbreyting: ný kynslóð líkana hegða sér ekki eins og þær sem eru í gagnasafninu

• Breytingaráhrif: Mannlegar breytingar geta fjarlægt augljós mynstur en haldið í lúmsk mynstur

• Tungumálabreytileiki: mállýskur, enska skrift og formlegir stílar eru misskilin (Könnun á textagreiningu sem myndast með LLM; Liang o.fl. (arXiv))

Ég hef séð skynjara sem voru „frábærir“ á eigin prufusetti en hrundu svo í sundur í raunverulegum vinnustaðaskrifum. Það er eins og að þjálfa þjófhund á aðeins einni tegund af smákökum og búast við að hann finni allar snarlbitar í heiminum 🍪

7) Ruglingur og sprenging - stærðfræðiflýtileiðin 📉

Þessi fjölskylda skynjara hefur tilhneigingu til að reiða sig á einkunnagjöf tungumálalíkana:

• Þeir keyra textann þinn í gegnum líkan sem metur líkurnar á hverju næsta tákni.

• Þeir reikna út heildar „óvæntingu“ (ráðvillu). (Boston University - Ráðvillufærslur)

• Þeir gætu bætt við breytileikamælingum („sprunguþrungni“) til að sjá hvort takturinn virðist mannlegur. (GPTZero)

Af hverju það virkar stundum:

• Óunnin gervigreindartexti getur verið afar sléttur og tölfræðilega fyrirsjáanlegur (DetectGPT)

Af hverju það mistekst:

• stutt sýni eru hávær

• formleg ritun er fyrirsjáanleg

• tæknileg ritun er fyrirsjáanleg

• Hægt er að fyrirsjáanlega ritun sem ekki er móðurmál

• Mikið breyttur texti unnin úr gervigreind getur litið út eins og hann sé mannlegur (OpenAI; Turnitin)

Svo, hvernig gervigreindarskynjarar virka líkist stundum hraðabyssu sem ruglar saman reiðhjólum og mótorhjólum. Sama vegur, mismunandi vélar 🚲🏍️

8) Vatnsmerki - hugmyndin um „fingrafara í blekinu“ 🖋️

Vatnsmerki hljómar eins og hrein lausn: merkja gervigreindartexta við myndun og greina hann síðar. (Vatnsmerki fyrir stór tungumálamódel; SynthID texti)

Í reynd geta vatnsmerki verið brothætt:

• Umorðun getur veikt þau

• Þýðing getur brotið þau

• Að tilvitna að hluta getur fjarlægt þær

• Að blanda saman mörgum heimildum getur þokað mynstrið (Um áreiðanleika vatnsmerkja fyrir stór tungumálamódel)

Einnig virkar vatnsmerkjagreining aðeins ef:

• vatnsmerki er notað

• skynjarinn veit hvernig á að athuga það

• Textinn hefur ekki verið mikið umbreytt (OpenAI; SynthID Text)

Já, vatnsmerki geta verið öflug, en þau eru ekki alhliða lögreglumerki.

9) Falskar jákvæðar niðurstöður og hvers vegna þær gerast (sársaukafulli hlutinn) 😬

Þetta á skilið sinn eigin kafla því þar eru flestar deilur.

Algengar falskar jákvæðar kveikjur:

• Mjög formlegur tónn (fræðilegur, lögfræðilegur, reglufylgnitexti)

• Enska sem ekki er móðurmál (einfaldari setningarbyggingar geta litið út eins og „líkön“)

• Sniðmátsbundin ritun (kynningarbréf, staðlaðar verklagsreglur, rannsóknarskýrslur)

• Stutt textadæmi (ekki nægilegt merki)

• Efnisflokkunartakmarkanir (sum efnisflokkar neyða endurtekna orðalagningu) (Liang o.fl. (arXiv); Turnitin)

Ef þú hefur einhvern tímann séð einhvern fá áminningu fyrir að skrifa of vel ... já. Það gerist. Og það er hrottalegt.

Meðhöndla ætti stigamælingar á eftirfarandi hátt:

• Reykskynjari, ekki dómsúrskurður 🔥
  Hann segir þér „kannski athuga“, ekki „máli lokið“. (OpenAI; Turnitin)

10) Hvernig á að túlka stig skynjara eins og fullorðinn einstaklingur 🧠🙂

Hér er hagnýt leið til að lesa niðurstöður:

Ef tólið gefur eina prósentu

Líttu á þetta sem gróft áhættumerki:

• 0-30%líklega af mönnum eða mikið breytt

• 30-70%tvírætt svæði - ekki gera ráð fyrir neinu

• 70-100%: líklegra að mynstur tengd gervigreind séu til staðar, en samt ekki sönnun (Turnitin leiðbeiningar)

Jafnvel háar einkunnir geta verið rangar, sérstaklega fyrir:

• stöðluð ritun

• ákveðnar tegundir (samantektir, skilgreiningar)

• Enska ritun (Liang o.fl. (arXiv))

Leitaðu að skýringum, ekki bara tölum

Betri skynjarar bjóða upp á:

• auðkennd spann

• Athugasemdir um eiginleika (fyrirsjáanleiki, endurtekning o.s.frv.)

• Öryggisbil eða óvissumál (Könnun á textagreiningu sem mynduð er með LLM)

Ef tól neitar að útskýra neitt og bara slær tölu á ennið á þér… þá treysti ég því ekki. Þú ættir heldur ekki að gera það.

11) Hvernig gervigreindarskynjarar virka: einföld hugræn líkan 🧠🧩

Ef þú vilt fá hreina matargjöf skaltu nota þessa huglægu fyrirmynd:

1. Gervigreindarskynjarar leita að tölfræðilegum og stílfræðilegum mynstrum sem eru algeng í vélframleiddum texta. (Könnun á greiningu texta sem vélframleiddur er með LLM)

2. Þeir bera þessi mynstur saman við það sem þeir lærðu af æfingadæmum. (Könnun á textagreiningu sem mynduð er með LLM)

3. Þeir gefa frá sér líkindalíka ágiskun, ekki staðreyndarupprunasögu. (OpenAI)

4. Ágiskunin er næm fyrir tegund, efni, lengd, breytingum og þjálfunargögnum mælitækisins. (Könnun á textagreiningu sem mynduð er með LLM)

Með öðrum orðum, hvernig gervigreindarskynjarar virka er að þeir „dæma líkindi“, ekki höfund. Eins og að segja að einhver líkist frænda sínum. Það er ekki það sama og DNA-próf ​​... og jafnvel DNA-próf ​​hafa jaðartilvik.

12) Hagnýt ráð til að draga úr óviljandi flöggum (án þess að spila leiki) ✍️✅

Ekki „hvernig á að blekkja skynjara.“ Heldur frekar hvernig á að skrifa á þann hátt að það endurspegli raunverulegt höfundarverk og forðast undarlegar misskilningar.

• Bættu við nákvæmum upplýsingum: nöfnum hugtaka sem þú notaðir í raun, skrefum sem þú tókst, málamiðlunum sem þú íhugaðir

• Notið náttúrulega breytileika: blandið saman stuttum og löngum setningum (eins og menn gera þegar þeir hugsa)

• Hafðu með raunverulegar takmarkanir: tímamörk, verkfæri sem notuð voru, hvað fór úrskeiðis, hvað þú myndir gera öðruvísi

• Forðastu of mikið sniðmát í orðalaginu: skiptu út „Auk þess“ fyrir eitthvað sem þú myndir í raun segja

• Geymið drög og minnispunkta: ef upp kemur ágreiningur skipta sönnunargögn um ferlið meira máli en innsæi

Í raun er besta vörnin einfaldlega ... að vera einlægur. Ófullkomlega einlægur, ekki „fullkominn bæklingur“.

Lokaorð 🧠✨

Gervigreindarskynjarar geta verið verðmætir, en þeir eru ekki sannleiksvélar. Þeir eru mynsturgreiningar sem eru þjálfaðir í ófullkomnum gögnum og starfa í heimi þar sem ritstílar skarast stöðugt. (OpenAI; Könnun á textagreiningu sem myndast með LLM)

Í stuttu máli:

• Skynjarar reiða sig á flokkara, rugling/sprungu, stílfræði og stundum vatnsmerki 🧩 (Könnun á textagreiningu sem mynduð er með LLM)

• Þeir meta „líkindi við gervigreind“, ekki vissu (OpenAI)

• Falskar jákvæðar niðurstöður koma oft fyrir í formlegum, tæknilegum eða óendanlegum skrifum 😬 (Liang o.fl. (arXiv); Turnitin)

• Notið niðurstöður mælisins sem hvatningu til að yfirfara, ekki sem niðurstöðu (Turnitin)

Og já ... ef einhver spyr aftur, hvernig gervigreindarskynjarar virka, geturðu sagt við þá: „Þeir giska út frá mynstrum - stundum klárir, stundum kjánalegir, alltaf takmarkaðir.“ 

Dæmi úr raunveruleikanum: Að fara yfir merkta ritgerð nemanda án þess að flýta sér að dæma 🧑🏫

Atburðarás

Ímyndaðu þér að kennari í háskóla fái 1.200 orða söguritgerð sem gervigreindarmælir merkir sem „86% líkur á gervigreind“. Ritgerðin er formleg, snyrtilega uppbyggð og byggir á endurteknum orðasamböndum eins og „þetta bendir til þess“ og „það er hægt að færa rök fyrir því.“ Við fyrstu sýn gæti þetta virst grunsamlegt.

En nemandinn er enskumælandi rithöfundur, notaði strangt ritgerðarsniðmát úr tímanum og breytti dröginum með málfræðiforriti. Með öðrum orðum, þetta er einmitt sú tegund tilfella þar sem einkunnargreining ætti að leiða til endurskoðunar, ekki refsingar.

Markmiðið er ekki að „ná“ nemandanum. Markmiðið er að ákvarða hvort einkunnin sé studd af öðrum gögnum.

Það sem gagnrýnandinn þarfnast

Áður en kennarinn tekur afstöðu safnar hann eftirfarandi upplýsingum:

• Skýrsla skynjarans, þar á meðal merktar leiðir ef þær eru tiltækar

• Ritgerðarlýsing og einkunnagjöf

• Drög nemandans að sögu, glósum, uppkasti eða heimildaskrá

• Öll leyfileg hjálpartæki til skrifunar sem talin eru upp í stefnu námskeiðsins

• Eitt eða tvö fyrri ritdæmi frá sama nemanda, ef stefnan leyfir

• Stutt útskýring frá nemandanum á skrifferli hans

Þetta skiptir máli því mælirinn sér aðeins lokatextann. Hann veit ekki hvort nemandinn eyddi fjórum dögum í að semja drög, notaði sniðmát, afritaði orðalag í kennslustund, þýddi glósur eða yfirfærði með endurgjöf.

Dæmi um leiðbeiningar

Leiðbeinandi gæti notað þessar leiðbeiningar um endurskoðun við mat á málinu:

Farið yfir þessa ritgerð sem athugun á skrifferlinu, ekki sem sönnun á notkun gervigreindar. Berið saman helstu atriði úr greiningunni við glósur nemandans, drög að sögu, heimildalista og fyrri ritdæmi. Greinið hvaða kaflar eru raunverulega grunsamlegir og hverjir gætu einfaldlega verið formlegir, sniðmátaðir eða undir áhrifum frá enskumælandi tungumáli. Skiptið sönnunargögnum í þrjá flokka: merki greiningar, sönnunargögn úr skrifferlinu og mannlegt mat. Ekki skal mæla með agaviðurlögum nema skýr stuðningsgögn séu fyrir hendi umfram einkunn greiningartækisins.

Hvernig á að prófa það

Sanngjarnt matsferli gæti notað þrjár einfaldar athuganir:

1. Biddu nemandann að útskýra tvær málsgreinar munnlega.
   Ef þeir geta útskýrt röksemdafærsluna, heimildirnar og hvers vegna þeir orðuðu hana þannig, þá eru það verðmæt sönnunargögn fyrir ferlinu.

2. Berðu saman merktu kaflana við ritgerðarsniðmátið.
   Ef greinirinn dregur aðallega fram orðasambönd í sniðmátsstíl gæti einkunnagjöfin verið að bregðast við uppbyggingu frekar en höfundarhlutverki.

3. Endurtakið aðeins lengri kafla, ekki örsmáa brot
   . Ein málsgrein getur verið hávær. 600-900 orða dæmi gefur yfirleitt marktækara merki en þrjár stakar setningar.

Niðurstaða

Dæmigert niðurstaða: Í upprifjunaræfingu með fimm ritgerðum tímasetur leiðbeinandi ferlið fyrir og eftir að þetta verkflæði er notað.

Fyrir vinnuflæðið tók það um 35 mínútur að fara yfir hverja merkta ritgerð því leiðbeinandinn þurfti að ákveða hvað ætti að athuga frá grunni.

Eftir að verkflæðið var notað tók hver yfirferð um 18 mínútur:

• 5 mínútur til að lesa hápunkta skynjarans

• 6 mínútur til að yfirfara drög, glósur og heimildir

• 4 mínútur til að bera saman fyrri rit eða sniðmát

• 3 mínútur til að skrifa stutta umsögn

Það er áætlaður sparnaður upp á 17 mínútur á ritgerð, eða 85 mínútur yfir fimm merktar ritgerðir. Mælikvarðinn er auðveldur í staðfestingu: tímasettu hverja endurskoðun, teldu hversu mörg mál þurftu að auka við og skráðu hvort lokaákvörðunin byggðist eingöngu á einkunnagjöf eða á fylgigögnum.

Betri mælikvarði á árangur er ekki „hversu margir nemendur voru gripnir“. Það er hversu margar vafasamar einkunnir voru skoðaðar stöðugt, með skýrum sönnunargögnum og færri hraðfleygum ályktunum.

Hvað getur farið úrskeiðis

Stærsta mistökin eru að meðhöndla prósentu skynjarans sem ákvörðunarþátt. „86% líklegt með gervigreind“ hljómar opinberlega, en það getur samt verið rangt.

Önnur algeng mistök eru meðal annars:

• Að yfirfara aðeins lokaritgerðina og hunsa drög

• Að refsa fáguðum ESL-ritum vegna þess að þeir líta „of sléttir“ út

• Að nota einn skynjara eins og hann væri réttarlæknisfræðilegt tæki

• Keyra örsmáar brot og meðhöndla einkunnina sem áreiðanlega

• Að segja nemendum ekki hvaða sannanir þeir geta lagt fram

• Að gleyma því að málfræðitól, sniðmát og endurgjöf geta breytt stíl

Gott ferli við yfirferð ætti einnig að vernda friðhelgi einkalífsins. Nemendur ættu ekki að vera beðnir um að hlaða upp einkamiðum, persónulegum skilaboðum eða ótengdum skjölum nema stefnan heimili það skýrt.

Hagnýtt skyndibita

Notið gervigreindarskynjara sem flokkunartól, ekki sannleiksvél. Sterkt ferli sameinar einkunnir með drögum, heimildarathugunum, ritferli, útskýringum nemenda og mannlegri dómgreind. Það gefur skólum, ritstjórum og gagnrýnendum eitthvað miklu verðmætara en ógnvekjandi prósenta: ákvörðun sem þeir geta varið af öryggi.

Algengar spurningar

Hvernig virka gervigreindarskynjarar í reynd?

Flestir gervigreindarskynjarar „sanna“ ekki höfundarrétt. Þeir meta hversu líkt texti þinn er mynstur sem tungumálalíkön framleiða almennt og gefa síðan út líkindalíkan stig. Undir húddinu geta þeir notað flokkunarlíkön, spálíkön í anda ruglings, stílmælingar eða vatnsmerkjaprófanir. Best er að meðhöndla niðurstöðuna sem áhættuvísi, ekki endanlegan úrskurð.

Hvaða merki leita gervigreindarskynjarar að skriflega?

Algeng merki eru meðal annars fyrirsjáanleiki (hversu „hissa“ fyrirsætan verður á næstu orðum þínum), endurtekning í setningagrindum, óvenju stöðugur hraði og almenn orðalag með litlum nákvæmni. Sum verkfæri skoða einnig stílfræðileg merki eins og setningarlengd, greinarmerkjavenjur og tíðni fallorða. Þessi merki geta skarast við mannleg ritun, sérstaklega í formlegum, fræðilegum eða tæknilegum tegundum.

Af hverju merkja gervigreindarskynjarar mannleg skrift sem gervigreind?

Falskar jákvæðar niðurstöður eiga sér stað þegar skrif manna líta tölfræðilega „slétt“ út eða líkjast sniðmáti. Formlegur tónn, orðalag í samræmi við reglur, tæknilegar skýringar, stutt sýnishorn og enska sem ekki er móðurmál geta öll verið misskilin sem gervigreindarlík þar sem þau draga úr breytileika. Þess vegna getur hrein og vel ritstýrð málsgrein gefið háa einkunn. Skynjari ber saman líkindi, ekki staðfestir uppruna.

Eru ráðgátu- og „sprengiskynjarar“ áreiðanlegir?

Aðferðir sem byggja á ruglingi geta virkað þegar texti er hrár, mjög fyrirsjáanlegur gervigreindarúttak. En þær eru brothættar: stuttir kaflar eru háværir og margar lögmætar mannlegar tegundir eru náttúrulega fyrirsjáanlegar (samantektir, skilgreiningar, tölvupóstar fyrirtækja, handbækur). Ritstjórn og fínpússun getur einnig breytt einkunninni verulega. Þessi verkfæri henta fyrir skjóta flokkun, ekki fyrir ákvarðanir sem taka mikla áhættu ein og sér.

Hver er munurinn á flokkunartækjum og stílmælingartólum?

Flokkunartæki læra af merktum gagnasöfnum úr mannatexta samanborið við gervigreindartexta (og stundum blendingstexta) og spá fyrir um hvaða fötu textinn þinn líkist mest. Stílmælingartól einbeita sér að því að skrifa „fingrafara“ eins og orðavalsmynstur, fallorð og lesanleikamerki, sem geta verið upplýsandi í langri greiningu. Báðar aðferðirnar þjást af sviðsbreytingum og geta átt í erfiðleikum þegar ritstíllinn eða efnið er frábrugðið þjálfunargögnum þeirra.

Leysa vatnsmerki uppgötvun gervigreindar til frambúðar?

Vatnsmerki geta verið sterk þegar líkan notar þau og mælirinn þekkir vatnsmerkjafyrirkomulagið. Í raun og veru nota ekki allir veitendur vatnsmerki og algengar umbreytingar - umorðun, þýðing, tilvitnun að hluta eða blöndun heimilda - geta veikt eða rofið mynstrið. Vatnsmerkjagreining er öflug í þeim þröngu tilfellum þar sem öll keðjan passar saman, en hún nær ekki yfir alla svæðið.

Hvernig ætti ég að túlka „X% AI“ stig?

Líttu á eina prósentu sem grófa vísbendingu um „líkindi við gervigreind“, ekki sem sönnun fyrir höfundi gervigreindar. Meðalskor eru sérstaklega óljós og jafnvel há skor geta verið röng í stöðluðum eða formlegum texta. Betri verkfæri veita skýringar eins og auðkennd svið, eiginleikaskýringar og óvissumál. Ef mælir útskýrir sig ekki sjálfan skaltu ekki meðhöndla töluna sem áreiðanlega.

Hvað gerir góðan gervigreindarskynjara fyrir skóla eða ritstjórnarvinnuflæði?

Fastmælamælir er kvarðaður, lágmarkar falskar jákvæðar niðurstöður og miðlar mörkum skýrt. Hann ætti að forðast ofuröruggar fullyrðingar um stutt sýni, meðhöndla mismunandi svið (fræðileg vs. blogg vs. tæknileg) og vera stöðugur þegar menn endurskoða texta. Ábyrgustu verkfærin hegða sér af auðmýkt: þau bjóða upp á sannanir og óvissu frekar en að virka eins og hugsanalesarar.

Hvernig get ég dregið úr óviljandi gervigreindarflöggum án þess að „spila“ kerfið?

Einbeittu þér að ósviknum höfundarmerkjum frekar en brögðum. Bættu við nákvæmum upplýsingum (skrefum sem þú tókst, takmörkunum, málamiðlunum), breyttu setningatakti á náttúrulegan hátt og forðastu of sniðmát sem þú myndir venjulega ekki nota. Geymdu drög, glósur og útgáfusögu - sönnunargögn um ferlið skipta oft meira máli en mælikvarði í deilum. Markmiðið er skýrleiki með persónuleika, ekki fullkominn bæklingatexti.

Heimildir

1. Félag tölvumálvísinda (ACL safnrit) - Könnun á textagreiningu sem mynduð er af LLM - aclanthology.org

2. OpenAI - Nýr flokkari fyrir gervigreind til að gefa til kynna texta sem skrifaður er með gervigreind - openai.com

3. Turnitin leiðbeiningar - Gervigreindargreining á ritun í klassískri skýrslusýn - guides.turnitin.com

4. Turnitin leiðbeiningar - Gervigreindarlíkan fyrir skrift - guides.turnitin.com

5. Turnitin - Að skilja falskar jákvæðar niðurstöður innan gervigreindar okkar fyrir ritun - turnitin.com

6. arXiv - Greina GPT - arxiv.org

7. Háskólinn í Boston - Ruglaðar færslur - cs.bu.edu

8. GPTZero - Ruglingur og sprenging: hvað er það? - gptzero.me

9. PubMed Central (NCBI) - Stílmælingar og réttarvísindi: Yfirlit yfir heimildir - ncbi.nlm.nih.gov

10. Félag tölvumálvísinda (ACL safnrit) - Virkniorð í höfundartilvísun - aclanthology.org

11. arXiv - Vatnsmerki fyrir stór tungumálamódel - arxiv.org

12. Google AI fyrir forritara - SynthID texti - ai.google.dev

13. arXiv - Um áreiðanleika vatnsmerkja fyrir stór tungumálamódel - arxiv.org

14. OpenAI - Að skilja uppruna þess sem við sjáum og heyrum á netinu - openai.com

15. Stanford HAI - Gervigreindarskynjarar hlutdrægir gegn rithöfundum sem ekki hafa ensku sem móðurmál - hai.stanford.edu

16. arXiv - Liang o.fl. - arxiv.org

Finndu nýjustu gervigreindina í opinberu versluninni fyrir gervigreindaraðstoðarmenn

Um okkur