🏫 Í sumum skólum spyrja spjallþjónar nemendur út í vinnu þeirra. En byltingin í gervigreind veldur kennurum áhyggjum ↗
Sumir ástralskir skólar eru að prófa skarpari breytingu á „sýndu útreikninga þína“ - nemendur klára verkefni og síðan spyr spjallþjónn með gervigreind þá fram og til baka til að athuga hvort þeir skilji það sem þeir skiluðu. Þetta er í grundvallaratriðum munnleg heimaspurning, en með vél sem spyr „hvað meinarðu með því?“ þangað til þú byrjar að skjálfa.
Stærri áhyggjuefni er ójöfn innleiðing: grein í greininni varar við því að þeir sem taka upp tæknina fljótt gætu hlaupið á undan en aðrir dregið úr sér, sem skapar tvíþætta menntakerfi. Kennarar halda einnig áfram að vekja athygli á kunnuglegum - og enn alvarlegum - áhyggjum: friðhelgi einkalífs, vellíðunar og hvernig eigi að koma í veg fyrir að „hjálp við gervigreind“ fari yfir í „gervigreind gerði það“.
👮 Hitti lögreglu með því að nota gervigreindartæki frá Palantir til að varna misferli lögreglumanna ↗
Lundúnaborgarháskólinn í London notar gervigreind frá Palantir til að greina innri starfsmannamynstur - veikindi, fjarvistir, yfirvinnu - og leita að merkjum sem gætu tengst vandamálum varðandi fagleg viðmið. Þetta er kynnt sem tímabundin tilraunaverkefni og, sem mikilvægast er, segir að menn taki enn raunverulegar ákvarðanir ... en það „vinnur enn“ mikið verk.
Lögreglusambandið er ekki hrifið og kallar þetta „sjálfvirka grunsemdir“ og varar við því að ógegnsæ verkfæri misskilji streitu og vinnuálag sem rangfærslur. Þetta er eitt af þessum augnablikum þar sem tæknin hljómar vel á glæru, en svo ímyndar maður sér hvernig henni líður á jörðinni og hún verður snögglega stingandi.
🛡️ Breskur persónuverndarstofnun varar við myndum sem framleiddar eru af gervigreind í sameiginlegri yfirlýsingu ↗
Breska ICO tók þátt í sameiginlegri viðvörun annarra eftirlitsaðila um myndir sem gerðar eru með gervigreind og sýna persónugreinanlegt fólk án samþykkis - í grundvallaratriðum: ekki líta á „þetta er tilbúið“ sem töfraafsökun. Skilaboðin eru að koma á öryggisráðstöfunum snemma og virkja eftirlitsaðila í stað þess að gera hefðbundna tæknilega aðgerð eins og að fyrst fara í skipaflutninga og biðjast afsökunar síðar.
Þau benda einnig á aukna áhættu fyrir börn, sem er rökrétt, því þegar þetta efni breiðist út er það eins og að reyna að ausa glitri aftur í krukku. Meginhugmyndin er sú að friðhelgi einkalífs og reisn eigi að lifa af tískubylgjuna, eða svo virðist sem.
🪖 Varnarmálaráðherra Bandaríkjanna, Hegseth, kallar forstjóra Anthropic til erfiðra viðræðna um hernaðarlega notkun Claude, að sögn Axios ↗
Reuters greinir frá því að varnarmálaráðherra Bandaríkjanna muni hitta forstjóra Anthropic í því sem lýst er sem átakanlegri umræðu um hernaðarlega notkun Claude. Varnarmálaráðuneytið vill að stórir framleiðendur gervigreindar geri líkön aðgengileg á leynilegum netum með færri takmörkunum - og Anthropic hefur staðist allar slakanir á öryggisráðstöfunum.
Undirtextinn hljóðar eins og klassískt „hratt en ... með eldflaugum í för með sér“ vandamál. Ef aðilar geta ekki komið sér saman um öryggislínur gæti sambandið orðið spennt eða jafnvel rofið - en Anthropic gefur einnig til kynna að viðræður við stjórnvöld séu áfram uppbyggilegar, svo það er spenna, en ekki alveg slitið (ennþá).
🧠 Útgáfuupplýsingar fyrir ChatGPT ↗
Útgáfubréf OpenAI benda á stækkað samhengisglugga fyrir „Hugsunar“-stillingu - sem þýðir að þú getur gefið líkaninu meiri texta og haldið lengri þráðum samhangandi án þess að fyrri upplýsingar sleppi. Ef þú hefur einhvern tímann séð líkan „gleyma“ einhverju sem þú sagðir bókstaflega (sársauki), þá er þetta einmitt miðað við það.
Þetta er mjög nördaleg uppfærsla sem breytir hljóðlega því sem er hagnýtt: lengri skjöl, flóknari verkefni, fleiri langdregin rannsóknartímar. Ekki glæsilegt, en þetta er sú tegund af pípulagnabreytingum sem skyndilega láta allt húsið virðast stærra.
Algengar spurningar
Hvað þýðir það þegar skólar nota spjallþjóna til að „yfirheyra“ nemendur um verkefni?
Í sumum áströlskum skólum ljúka nemendur verkefni og fara síðan í gegnum fram og til baka spjall við gervigreindarþjón sem kannar röksemdafærslu þeirra. Þetta virkar eins og munnleg æfing, þar sem nemendur eru hvattir til að útskýra hvað þeir skrifuðu og hvers vegna. Tilgangurinn er að staðfesta skilning, ekki bara útkomu. Það getur einnig leitt í ljós eyður þegar nemandi getur ekki varið lykilfullyrðingar.
Hvernig gætu gervigreindarspjallþjónar í skólum skapað „tvíhraða“ menntakerfi?
Í grein í greininni er varað við því að hröð innleiðing gæti verið betri en hægari skólar sem taka upp tækni. Ef sumir skólar nota gervigreindartól til að meta skilning, styðja við nám eða koma í veg fyrir misnotkun gætu þeir bætt árangur fyrr. Aðrir gætu skort fjárhagsáætlun, starfsmannagetu eða skýra stefnu til að innleiða sambærileg kerfi. Þessi ójöfn innleiðing getur aukið núverandi bil í úrræðum og námsárangri.
Hvernig reyna kennarar að koma í veg fyrir að „hjálp með gervigreind“ breytist í „gervigreind gerði það“?
Algeng aðferð er að beina mati að ferli og útskýringum, ekki bara fullunnu efni. Spurningar í anda spjallþjóna, drög, hugleiðingar eða munnleg yfirferð geta gert það erfiðara að skila verkefnum sem maður skilar ekki. Kennarar geta einnig sett skýrari mörk á viðunandi aðstoð, svo sem hugmyndavinnu á móti fullri endurskrifun. Áherslan er áfram á að sýna fram á skilning, ekki að hafa eftirlit með öllum verkfærum.
Hvaða vandamál varðandi friðhelgi einkalífs og vellíðan koma upp þegar gervigreind er notuð í kennslustofum?
Kennarar halda áfram að vekja áhyggjur af því hvaða gögnum um nemendur er safnað, hvar þau eru geymd og hverjir hafa aðgang að þeim. Það eru einnig áhyggjur af velferð nemenda ef þeir finna fyrir stöðugu eftirliti eða þrýstingi vegna tölvustýrðra spurninga. Börn eru sérstakur áhættuhópur þar sem viðkvæmar upplýsingar geta breiðst út eða varðveist í kerfum á óvæntan hátt. Margir skólar stefna að því að koma á öryggisráðstöfunum snemma frekar en að reyna að endurbæta þær síðar.
Hvernig notar lögreglustöðin í Lundúnum gervigreind frá Palantir til að varna hugsanlegu misferli starfsmanna?
Lundúnaborgarháskólinn í London notar gervigreind frá Palantir til að greina starfsmannamynstur eins og veikindi, fjarvistir og yfirvinnu. Markmiðið er að greina merki sem gætu tengst vandamálum með fagleg stöðlum. Þetta er lýst sem tímabundnu tilraunaverkefni og Lundúnaborgarháskólinn segir að menn taki enn ákvarðanirnar. Gagnrýnendur halda því fram að tólið geti virst eins og „sjálfvirk grunur“ ef það les streitu sem ranglæti.
Hvers vegna hafa lögreglufélög áhyggjur af „sjálfvirkum grunsemdum“ frá eftirlitstólum gervigreindar?
Lögreglusambandið hefur áhyggjur af því að ógegnsæ líkön geti ályktað um misferli út frá mynstrum sem hafa góðkynja skýringar. Hækkað vinnuálag, heilsufarsvandamál og streita geta breytt mætingu eða yfirvinnu án þess að gefa í skyn ranglæti. Ef rökfræði tólsins er ekki gegnsæ verður erfiðara fyrir lögreglumenn að véfengja merki eða fyrir stjórnendur að stilla sanngjörn mörk. Jafnvel með mannlegum ákvörðunum geta sjálfvirk merki samt sem áður mótað niðurstöður.
Við hverju er breska ICO að vara varðandi myndir af persónugreinanlegu fólki sem myndast með gervigreind?
Breska persónuverndarstofnunin tók undir með öðrum eftirlitsaðilum og varaði við því að „tilbúin“ þýði ekki afleiðingalaus. Ef mynd sem búin er til með gervigreind sýnir persónugreinanlegan einstakling án samþykkis, þá eru enn áhættur fyrir friðhelgi einkalífs og virðingu. Eftirlitsaðilar leggja áherslu á að byggja upp öryggisráðstafanir snemma og taka þátt í eftirliti frekar en að hefja það fyrst. Þeir benda einnig á aukna áhættu fyrir börn, þar sem skaði getur aukist hratt þegar efni dreifist.
Hvað liggur að baki fréttum af þrýstingi frá Pentagon á Anthropic varðandi hernaðarlega notkun Claude?
Reuters greinir frá því að varnarmálaráðherra Bandaríkjanna muni hitta forstjóra Anthropic til að ræða hernaðarlega notkun Claude. Varnarmálaráðuneytið vill að stórir framleiðendur gervigreindar geri líkön aðgengileg á leynilegum netum með færri takmörkunum. Anthropic hefur staðist slakari öryggisráðstafanir og bent á átök um öryggislínur. Sambandið virðist spennt, þó að báðir aðilar gefi til kynna að viðræðurnar séu enn uppbyggilegar.
Hvað breyttist í útgáfubréfum ChatGPT varðandi lengd samhengis í „hugsunarstillingu“?
Útgáfutilkynningar OpenAI benda á stækkað samhengisglugga fyrir „Hugsunar“-stillingu, sem gerir kleift að geyma meiri texta innan eins þráðar. Í reynd getur það hjálpað við löng skjöl, flókin verkefni og rannsóknir í mörgum skrefum þar sem fyrri upplýsingar skipta máli. Þetta er frekar uppfærsla í pípulagnastíl en glæsilegur eiginleiki. Helsti kosturinn er færri eyðsluupplýsingar í lengri lotum.