🤖 Leiðtogi OpenAI vélbúnaðar segir af sér eftir samning við Pentagon ↗
Caitlin Kalinowski, yfirmaður vélbúnaðar- og vélfærafræði hjá OpenAI, sagði af sér eftir samning fyrirtækisins við Pentagon og sagði að breytingin hefði ekki fengið næga innri umræðu áður en líkön voru samþykkt fyrir flokkuð varnarnet. Helsta áhyggjuefni hennar var frekar beinlínis - eftirlit manna, eftirlitsmörk og hættan á að banvænt sjálfræði færi of hratt fram. ( Reuters )
OpenAI segir að samkomulagið innihaldi viðbótaröryggisráðstafanir og banni enn eftirliti innanlands og notkun sjálfvirkra vopna. Samt sem áður gerir uppsögnin það að verkum að allt saman heyrist minna eins og slétt stefnuuppfærsla og frekar eins og brunahurð sem lokast á miðjum fundi. ( Reuters )
🏗️ Oracle og OpenAI hætta við stækkunaráætlun gagnavera í Texas, að sögn Bloomberg News ↗
Oracle og OpenAI hafa greint frá því að hafa hætt við áætlanir um að stækka stóra gagnaverið sitt í Abilene í Texas, sem sérhæfir sig í gervigreind, eftir að fjármögnunarviðræður drógu á langinn og tölvuþarfir OpenAI breyttust. Staðurinn var hluti af víðtækari átaki í Stargate innviðum, svo þetta er alls ekki smávægilegt. ( Reuters )
Núverandi háskólasvæði er enn í rekstri og fyrirtækin segja að víðtækari fjölgígavatta uppbygging haldi áfram annars staðar. Á sama tíma gæti yfirgefin stækkun nú opnað braut fyrir Meta, sem hefur að sögn rætt um að leigja svæðið í staðinn. Innviðir gervigreindar halda áfram að hreyfast eins og blaut steypa - þungir, dýrir og aldrei alveg í rúst. ( Reuters )
⚖️ Pentagon skilgreinir Anthropic sem áhættu í framboðskeðjunni ↗
Varnarmálaráðuneyti Bandaríkjanna (Pentagon) lýsti formlega yfir áhættu fyrir framboðskeðjuna á Anthropic og takmarkaði notkun Claude í samningum við varnarmálaráðuneytið eftir að fyrirtækið neitaði að slaka á öryggisráðstöfunum gegn sjálfvirkum vopnum og fjöldaeftirliti. Þetta er kjarninn í málinu - innkaupadeila sem varð að mun stærri verðmætadeilu. ( Reuters )
Anthropic segir að þessi ákvörðun sé ekki lagalega traust og hyggst kæra hana fyrir dómstólum. Útnefningin er óvenju alvarleg fyrir bandaríska gervigreindarrannsóknarstofu og lendir í miðri víðtækari ágreiningi um hvort fyrirtæki sem eru á jaðarstigi ættu að setja strangari reglur í varnarmálasamninga eða treysta gildandi lögum til að vinna verkið ... sem ekki allir eru tilbúnir að gera. ( Reuters )
💬 Meta leyfir keppinautum sínum í gervigreind að nota WhatsApp í tilraun til að koma í veg fyrir aðgerðir ESB ↗
Meta segir að það muni leyfa keppinautum sínum, gervigreindarspjallþjónum, að nota WhatsApp í Evrópu í eitt ár, með því að nota Business API, eftir þrýsting frá samkeppniseftirlitsaðilum ESB. Samkeppnisaðilar höfðu kvartað yfir því að Meta væri í raun að loka fyrir þá en að forgangsraða eigin aðstoðarmanni - sem er áberandi atriði, miðað við hversu miðlæg dreifing er orðin í gervigreind. ( Reuters )
Vandamálið er að aðgangurinn fylgir gjöldum og gagnrýnendur halda því fram að það setji smærri keppinauta enn í óhagstæða stöðu. Eftirlitsaðilar eru að ákveða hvort þessi undanþága sé nægjanleg, svo þetta lesist minna eins og friðarsamningur og frekar eins og hnappur vafinn inn í pappírsvinnu. ( Reuters )
📜 xAI tapar tilboði um að stöðva lög um upplýsingagjöf um gervigreind í Kaliforníu ↗
xAI tapaði tilraun sinni til að koma í veg fyrir lög í Kaliforníu sem krefjast þess að fyrirtæki í gervigreind birti meira um gögnin sem notuð eru til að þjálfa líkön sín. Sú staðreynd að dómstóllinn neitaði að stöðva lögin þýðir að xAI stendur nú frammi fyrir sama gagnsæisþrýstingi og aðrir líkanasmiðir hafa reynt, stundum klaufalega, að komast hjá. ( Reuters )
Þetta skiptir máli því deilur um þjálfunargögn snúast ekki lengur bara um fræðilegar eða höfundarréttartengdar aðstæður – þær eru að verða að raunverulegu samræmismáli. Fyrir xAI, sem þegar glímir við endurteknar öryggisdeilur varðandi Grok, bætir þetta við enn einni þyngd í formi eftirlitsaðila. ( Reuters )
Algengar spurningar
Hvers vegna sagði forstjóri OpenAI upp störfum í vélbúnaðar- og vélmennaiðnaði eftir samninginn við Pentagon?
Caitlin Kalinowski sagði af sér vegna þess að hún taldi að ákvörðunin um að hreinsa líkön fyrir flokkuð varnarnet hefði ekki fengið nægilega innri umfjöllun. Áhyggjur hennar snerust um eftirlit manna, takmarkanir á eftirliti og hættuna á að banvænt sjálfræði næði of miklum framförum. OpenAI sagði að samningurinn banni enn innlent eftirlit og notkun sjálfvirkra vopna, en afsögnin bendir til þess að innri umræðan sé ekki að fullu leyst.
Hvað þýðir það í raun og veru þegar Pentagon kallar Anthropic áhættu í framboðskeðjunni?
Þetta þýðir að notkun Claude yrði takmörkuð í samningum við varnarmálaráðuneytið, sem er stórt bakslag í innkaupum. Samkvæmt greininni snýst deilan um neitun Anthropic að veikja öryggisráðstafanir sem tengjast sjálfvirkum vopnum og fjöldaeftirliti. Anthropic segir að tilnefningin sé ekki lagalega traust og hyggst áfrýja henni, þannig að þetta gæti orðið bæði dómsmál og prófraun á stefnumótun.
Hvers vegna skiptir hætt við stækkun gagnaversins í Texas máli í fréttum af gervigreindargeiranum?
Hætt var við stækkun Abilene vegna þess að hún var hluti af víðtækari átaki Stargate innviða og tengdi hana við langtímaáætlanagerð um gervigreindartölvur. Reuters greinir frá því að núverandi háskólasvæði sé enn starfandi, en tafir á fjármögnun og breytingar á tölvuþörfum leiddu til þess að Oracle og OpenAI hættu við stækkunina. Þetta sýnir einnig hversu hratt stórar fjárfestingar í gervigreindarinnviðum geta breyst, jafnvel þótt víðtækari uppbygging haldi áfram annars staðar.
Af hverju leyfir Meta samkeppnisaðilum sínum, gervigreindarspjallþjónum, að nota WhatsApp í Evrópu?
Meta gerði þetta eftir þrýsting frá samkeppniseftirlitsaðilum ESB og kvartanir um að það væri að forgangsraða eigin aðstoðaraðila en takmarka samkeppnisaðila. Aðgangurinn er tímabundinn og keyrir í gegnum Business API, þannig að þetta jafngildir ekki algjörri opnunarstefnu. Gjöld eru enn í gildi, sem þýðir að minni samkeppnisaðilar geta áfram staðið frammi fyrir hagnýtum ókostum jafnvel eftir að sérleyfið hefur verið veitt.
Hvaða þýðingu hafa lög Kaliforníu um upplýsingagjöf um þjálfun gervigreindar fyrir xAI?
Synjun dómstólsins á að koma í veg fyrir lögin þýðir að xAI þarf nú að glíma við auknar kröfur um gagnsæi varðandi þjálfunargögn. Það skiptir máli vegna þess að líkanaframleiðendur hafa oft reynt að forðast ítarlega upplýsingagjöf, sérstaklega þegar gagnaheimildir eru viðkvæmar eða umdeildar. Í reynd eru þjálfunargögn að verða virkt málefni varðandi reglufylgni frekar en að vera áfram umræða um rannsóknarreglur eða höfundarréttaráhættu.
Hver er helsta ályktunin úr fréttum vikunnar úr gervigreind?
Sameiginlegt viðmið er að gervigreind mótast minna af vörukynningum eingöngu og meira af stjórnun, innviðum og reglugerðum. Samstarf í varnarmálum skapar innri átök, útvíkkun tölvukerfa reynist dýr og sveigjanleg og eftirlitsaðilar þrýsta meira á aðgang og upplýsingagjöf. Í OpenAI, Anthropic, Meta og xAI bendir greinin á að iðnaður sé neyddur til að gera málamiðlanir sínar sýnilegri.