OpenAI gerir hlé á vinnu við gervigreindarlíkanið Astra vegna öryggisáhyggna ↗
OpenAI er að gera hlé á innri vinnu við Astra sem uppfyllir ekki strangari öryggiskröfur eftir að mat benti til þess að netgeta þess gæti hafa farið yfir „alvarlegan“ þröskuld. Umboðsmaðurinn gæti að sögn fundið og nýtt sér veikleika án mannlegrar íhlutunar eða framkvæmt árásir frá háþróuðu markmiði. Já ... það er nokkuð alvarleg lína að fara yfir.
Fyrirtækið er að herða á einangraðri prófun, aðgangi að netum og tólum, verndun þyngdarlíkana, dulkóðun og eftirliti. Astra kom ekki að fyrri „Hugging Face“ atvikinu hjá OpenAI, en víðtækara mynstur sjálfstæðari umboðsmanna gerir innilokun að mun stærra áhyggjuefni. (Heimild: The Guardian)
Apple segir að Mac-notendur í Kína geti tengst Qwen AI þjónustu Alibaba ↗
Hæfir Mac-notendur á meginlandi Kína geta nú tengt Qwen frá Alibaba við Siri og Writing Tools frá Apple. Það þýðir ítarlegri svör ásamt greiningu á skjölum og myndum, ásamt því að búa til texta og myndir út frá lýsingum.
Þetta er áhugaverður hjónaband, satt best að segja - Apple fær leið til sterkari gervigreindareiginleika á mjög samkeppnishæfum tölvumarkaði, sem er í samræmi við staðbundnar kröfur, á meðan Alibaba fær Qwen innbyggða mun dýpra í vistkerfi annarra. Apple segir að efni sem sent er í gegnum viðbótina geti ekki verið notað af Alibaba til að þjálfa líkön sín. (Heimild: Reuters)
Google DeepMind gengur inn í nýja tíma þar sem meðstofnandi Demis Hassabis skiptir um hlutverk í gervigreind ↗
Demis Hassabis lætur af störfum sem daglegur formaður DeepMind og tekur jafnframt við stöðu aðalvísindamanns Alphabet. Koray Kavukcuoglu, sem hefur lengi starfað hjá fyrirtækinu, tekur við stjórn rekstrarins sem aðstoðarforstjóri í stað forstjóra – lúmsk titilbreyting sem segir ansi margt.
Þessi breyting lendir samhliða brotthvarfi annarra stórra vísindamanna og spurningum um hvort DeepMind sé að verða minna sjálfstæð og meira samofið viðskiptavél gervigreindar Google. Google mótmælir því að breytingin tengist samkeppnishæfni Gemini. (Heimild: The Guardian)
Fjöldi barna í Bretlandi greinir frá því að þau hafi séð djúpar eftirlíkingar af sjálfum sér í auknum mæli ↗
Tilkynningar frá breskum börnum um fölsuð eða breytt myndefni af sjálfum sér hafa aukist gríðarlega. Report Remove fékk 420 tilkynningar á aðeins sex mánuðum, sem er nú þegar farið yfir fyrri árlega heildarfjölda upp á 397. Gervigreindarknúnar „nektarmyndunar“-tól gera vandamálið hræðilega auðveldara að stækka.
Samtökin Internet Watch Foundation segja að margar tilkynntar misnotaðar myndir hafi verið nógu alvarlegar til að fara yfir þröskuldinn fyrir kynferðislegt ofbeldi gegn börnum. Sum fórnarlömb voru einnig skotmörk kynferðisofbeldis, þar sem gervigreindarmyndir voru breyttar í mjög áþreifanlegt vopn. (Heimild: The Guardian)
Könnun sýnir að gervigreindareiginleikar eru að aukast verulega en viðskiptavirði ↗
Hugbúnaðarfyrirtæki eru að þróa gervigreindareiginleika en viðskiptavinir eru ekki endilega að nota þá. Í könnun meðal meira en 260 hugbúnaðarfyrirtækja sögðust 51% að færri en fjórðungur viðskiptavina sinna væru að nota gervigreindareiginleikana sem þau höfðu byggt upp. Nokkuð vandræðalegt eftir allan þennan flutning...
Flöskuhálsinn lítur síður út fyrir getu gervigreindar og frekar út fyrir samþættingu, öryggi, friðhelgi einkalífs, breytingar á vinnuflæði og að sanna raunverulegt viðskiptagildi. Eitt sérstaklega sérstakt fyrirbæri er „tokenmaxxing“ - mikil notkun gervigreindar sem lítur vel út á mælaborði án skýrra sönnunargagna um að hún skili betri árangri. (Heimild: Forbes)
Gervigreind breytir vinnu hraðar en gögnin geta fylgst með ↗
Deilan um störf í gervigreind er að verða flóknari en ekki skýrari. Rannsókn sem náði til meira en 21.000 bandarískra fyrirtækja leiddi í ljós að fjöldi starfsmanna hjá þeim sem notuðu gervigreind mest jókst um 10% og hjá byrjendum um 12%, en hjá þeim sem notuðu hana minna sýndu engan vöxt.
En aðrar rannsóknir hafa leitt í ljós atvinnuþrýsting meðal yngri starfsmanna í störfum sem eru útsett fyrir gervigreind og hagfræðingar vara við því að vaxandi fyrirtæki geti enn ráðið fólk á meðan gervigreind breytir störfum í hagkerfinu í heild. Þannig að gervigreind drepur störf og býr þau til ... eða svo vilja mótsagnakenndar gagnasöfn láta þig trúa. (Heimild: Fortune)
Algengar spurningar
Hverjar eru stærstu fréttirnar um gervigreind núna?
Nýlegar fréttir af gervigreind benda á nokkur þemu sem skarast: sterkari sjálfvirkni, strangari öryggiseftirlit, dýpri samþættingu við palla, breytingar á stjórnunarstöðum, áhættur varðandi netöryggi og óviss viðskiptavirði. OpenAI er að herða öryggisráðstafanir í kringum Astra, Apple er að tengja Qwen við Mac-tölvur í Kína og DeepMind er að skipta um stjórnunarstöðu. Á sama tíma aukast áhyggjur af djúpfölsunum, notkun fyrirtækja og áhrifum gervigreindar á atvinnu.
Af hverju gerði OpenAI hlé á vinnu við Astra?
Að sögn hefur OpenAI gert hlé á innri vinnu Astra sem uppfyllti ekki strangari öryggiskröfur eftir að mat benti til þess að netöryggisgeta líkansins gæti verið komin á hættulegt stig. Áhyggjuefnið er að háþróaður umboðsmaður gæti hugsanlega uppgötvað og nýtt sér veikleika með takmörkuðum eða engri mannlegri íhlutun. Til að bregðast við því er OpenAI að styrkja einangraðar prófanir, aðgangsstýringar, dulkóðun, eftirlit og vernd í kringum þyngd líkana.
Hvernig mun Alibaba Qwen virka með Apple Mac tölvum í Kína?
Hæfir Mac-notendur á meginlandi Kína geta tengt Qwen þjónustu Alibaba við Siri og skriftæki Apple. Samþættingin getur stutt við ítarlegri svör, greiningu skjala og mynda og myndun texta eða mynda úr lýsingum. Fyrir Apple býður fyrirkomulagið upp á leið til sterkari gervigreindarvirkni sem uppfyllir staðbundnar kröfur, á meðan Alibaba fær dýpri aðgang að vistkerfi Apple. Apple segir að ekki sé hægt að nota innsendan efni til að þjálfa líkön Alibaba.
Hvaða þýðingu hafa breytingarnar á forystu DeepMind fyrir gervigreind Google?
Demis Hassabis lætur af daglegri forystu DeepMind og tekur við stöðu formanns og yfirvísindamanns hjá Alphabet. Koray Kavukcuoglu mun taka við rekstrarstjórn sem framkvæmdastjóri. Þessi breyting hefur vakið upp spurningar um hvort DeepMind sé að verða nánar samþætt við víðtækari viðskiptastarfsemi Google á sviði gervigreindar, þó Google mótmæli fullyrðingum um að skipulagsbreytingin tengist samkeppnishæfni Gemini.
Hvers vegna eru djúpfölsun gervigreindar að verða stærra áhyggjuefni varðandi öryggi barna?
Myndvinnslutól knúin gervigreind geta auðveldað að búa til raunverulegar, klaufalegar, falsaðar myndir í stórum stíl. Bresk börn eru í auknum mæli að tilkynna um unnin eða uppspunnin myndefni af sjálfum sér og sum mál hafa verið nógu alvarleg til að ná viðmiðunarmörkum fyrir kynferðislegt ofbeldi gegn börnum. Þessar myndir geta einnig verið notaðar til kynferðislegrar misnotkunar, sem þýðir að uppspunnin mynd getur samt valdið verulegu mannorðs-, tilfinningalegu og fjárhagslegu tjóni.
Eru fyrirtæki og starfsmenn að njóta góðs af gervigreind ennþá?
Nýjustu fréttir af gervigreind benda til þess að svarið sé blandað. Mörg hugbúnaðarfyrirtæki bæta við eiginleikum gervigreindar hraðar en viðskiptavinir taka þá upp, þar sem samþætting, friðhelgi einkalífs, öryggi og mælanlegt viðskiptavirði eru enn helstu hindranir. Atvinnuupplýsingar eru álíka flóknar: sum fyrirtæki sem nota mikið af gervigreind eru að auka ráðningar, á meðan aðrar rannsóknir benda til þrýstings á yngri starfsmenn í störfum sem verða fyrir áhrifum gervigreindar. Heildaráhrifin eru mjög háð atvinnugreininni, vinnuflæðinu og hvernig gervigreind er innleidd.