🛡️ Breskir eftirlitsaðilar flýta sér að meta áhættu af nýjustu mannlegu gervigreindarlíkaninu, að sögn Financial Times ↗
Greint er frá því að breskir fjármálaeftirlitsaðilar séu að vinna hratt að nýju Mythos-líkani Anthropic eftir að áhyggjur hafa vaknað um að það gæti afhjúpað alvarlega veikleika í mikilvægum kerfum. Í viðræðunum taka Seðlabanki Englands, Fjármálaeftirlitið, fjármálaráðuneytið og Þjóðarmiðstöð netöryggis - sem er öflugt úrval fyrir forsýningu á einu líkani.
Áhyggjuefnið er að Mythos er óvenju fær í að finna veikleika í hugbúnaði, jafnvel þótt Anthropic segi að innleiðingin sé mjög takmörkuð og miði að varnaröryggi. Gert er ráð fyrir að bankar, tryggingafélög og kauphallir fái upplýsingar, svo þetta líður nú minna eins og slúður um rannsóknarstofur og meira eins og innviðastefnu.
🤖 Á HumanX ráðstefnunni voru allir að tala um Claude ↗
Anthropic virtist gefa tóninn hjá HumanX - þannig var sagan. Í gegnum pallborðsumræður, spjall við söluaðila og spjall í göngum hélt Claude áfram að koma upp sem sú fyrirmynd sem fólk vildi helst fyrir viðskipta- og forritunarvinnuflæði.
Það sem stóð upp úr var tiltölulega þögnin í kringum ChatGPT. Greinin gefur í skyn að OpenAI hafi enn umfang og fjármagn, en stemningin á ráðstefnunni hallaðist að Claude sem tækinu með skarpari aðdráttarafl fyrirtækja eins og er - eða svo virðist sem.
📄 Claude for Word frá Anthropic er önnur áskorun fyrir hugbúnaðarveldi Microsoft ↗
Anthropic gaf út betaútgáfu af Claude fyrir Word, sem færir forritara inn í daglegt skrifstofuumhverfi í stað þess að vera eins og forritunartól. Það getur svarað spurningum um skjöl með smellanlegum tilvísunum í kafla, breytt völdum texta án þess að spilla sniði og meðhöndlað breytingar sem raktar eru.
Markhópurinn er nokkuð skýr: teymi sem vinna mikið með skjöl, sérstaklega lögfræði- og fjármálateymi. Það gerir þetta að meira en bara viðbót við eiginleika - þetta er bein áskorun á heimavöll Microsoft og frekar ósvífin aðgerð.
🌐 Gervigreindarvélmenni eru að grafa brautir á netinu og Anthropic er fremst í flokki ↗
Ný skoðun á Cloudflare gögnum bendir til þess að gervigreindarfyrirtæki séu að draga miklu meira af vefnum en þau skila. Lykiltölfræðin er hlutfallið milli skrið- og tilvísunar - hversu oft vélmenni skafa síður samanborið við hversu oft þau senda notendur til baka - og Anthropic kemur sérstaklega illa út.
Hlutfall Anthropic er gefið upp sem 8.800 á móti 1, þar sem OpenAI er einnig hátt en mun lægra. Víðtækari punkturinn lendir fastur: gamla vefsamningurinn var að skríða um okkur og senda okkur síðan umferð. Svarvélar gervigreindar geyma fyrri hlutann og láta þann seinni þynnast út í móðu.
⚔️ Innsýn í vaxandi alþjóðlegt vopnakapphlaup gervigreindar, þar sem Bandaríkin, Kína, Rússland og fleiri aðilar flýta sér að smíða sjálfvirk vopn og varnarkerfi sem byggja á gervigreind ↗
Nýjasta umfjöllun um gervigreind í hernum snýst minna um sýnikennslu og meira um stefnumótandi hröðun. Stórveldi eru að þróa sjálfvirk og gervigreindarstýrð varnarkerfi á sama tíma, sem gerir allt saman að boðhlaupi þar sem allir gripu í stjórnina en gleymdu bremsunum.
Þetta vekur upp venjulegu spurningarnar - stjórnun, stigvaxandi árásir, ábyrgð - en með meiri áríðandi hætti núna. Þegar gervigreind er orðin dýpra hluti af markmiðssetningu, eftirliti og ákvarðanatöku á vígvellinum, byrjar „tilraunakennt“ að hljóma eins og pappírsmiði á einhverju sem þegar er í gangi.
🏭 Japanska SoftBank hleypir af stokkunum einingu til að þróa heimagerða gervigreind ↗
SoftBank hefur tekið höndum saman með Sony, Honda og öðrum japönskum fyrirtækjum til að stofna nýtt gervigreindarverkefni sem einbeitir sér að „líkamlegri gervigreind“ - líkönum sem ætlað er að stjórna vélum og vélmennum, ekki bara svara með textaskilaboðum. Það er önnur braut en hefðbundin spjallþjónakeppni, og kannski sú áhugaverðasta.
Metnaðurinn er gríðarlegur og er sagður miða að mjög stóru grunnlíkani og löngum möguleikum á iðnaðarnotkun. Þetta er að hluta til þjóðleg tæknistefna, að hluta til „moonshot“ og að hluta til vélræn anime með stjórnarfundum.
Algengar spurningar
Hvers vegna eru breskir eftirlitsaðilar að skoða Mythos líkanið frá Anthropic náið?
Skýrslur benda til þess að bresk yfirvöld líti á Mythos sem hugsanlega áhættu þar sem það gæti verið óvenju fært í að finna veikleika í hugbúnaði. Að sögn eiga viðræðurnar þátttakendur Seðlabanka Englands, Fjármálaeftirlitsins, fjármálaráðuneytisins og Þjóðarmiðstöðvar netöryggis. Þessi samsetning stofnana gefur til kynna áhyggjur af hugsanlegum áhrifum á mikilvæg kerfi, sérstaklega í fjármálum og innviðum.
Hvað gerir Anthropic Mythos líkanið ólíkt venjulegri gervigreindarútgáfu?
Áhyggjuefnið er ekki bara að þetta sé ný gerð, heldur að hún virðist sérstaklega fær í varnaröryggisvinnu sem tengist því að uppgötva veikleika í hugbúnaði. Anthropic segir að aðgangur sé mjög takmarkaður, sem bendir til þess að útfærslan sé meðhöndluð af meiri varúð en víðtækri neytendaútgáfu. Í reynd virðist þetta vera nær stýrðri öryggisgetu en hefðbundinni uppfærslu á spjallþjónum.
Hvers vegna fékk Claude svona mikla athygli á HumanX ráðstefnunni?
Samkvæmt greininni kom Claude ítrekað fram í pallborðsumræðum, viðtölum við birgja og óformlegar umræður sem sterkur kostur fyrir viðskipta- og forritunarvinnuflæði. Í greininni er Anthropic kynnt sem fyrirtæki sem hafði mikla áherslu á fyrirtækjanotendur á þeim viðburði. Það bendir einnig til þess að stemningin í kringum HumanX hafi verið rólegri á ChatGPT, jafnvel þótt OpenAI hafi enn mikla umfang og auðlindir.
Hvað gerir Claude fyrir Word í raun fyrir teymi sem vinna mikið með skjöl?
Betaútgáfan sem lýst er hér er hönnuð til að virka innan skjala frekar en að búa einfaldlega til sjálfstæðan texta. Hún getur svarað spurningum um skjal með tilvísunum í kafla, breytt völdum köflum án þess að raska sniði og meðhöndlað breytingar sem fylgst er með. Það gerir hana sérstaklega viðeigandi fyrir lögfræði-, fjármála- og önnur teymi sem þurfa vandlega yfirferð frekar en grófa gerð.
Hvað segir hlutfallið milli skriðs og tilvísana um gervigreindarbotta og vefinn?
Greinin kynnir þetta hlutfall sem leið til að bera saman hversu mikið gervigreindarfyrirtæki skríða vefsíður samanborið við hversu oft þau senda notendur til baka. Í þeirri röðun bendir mjög hátt hlutfall til útdráttar með litlum tilkomumferð. Anthropic er lýst sem sérstaklega illa útfært samkvæmt þessum mælikvarða, sem skerpir á víðtækari gagnrýni á að svarvélar gervigreindar geti veikt eldri vefskipti sem nota flokkun í skiptum fyrir tilvísanir.
Hvers vegna tengja menn framfarir gervigreindar við bæði sjálfvirk vopn og líkamlega gervigreind?
Greinin bendir á tvær tengdar þróunaraðferðir: ríkisstjórnir sem flýta fyrir notkun varnarkerfa sem byggja á gervigreind og fyrirtæki eins og SoftBank sem styðja líkön sem eru hönnuð til að stjórna vélum og vélmennum. Saman sýna þau að gervigreind færist út fyrir spjall og leit yfir í efnisleg kerfi sem geta skynjað, tekið ákvarðanir og brugðist við. Það vekur upp stærri spurningar um stjórnun, ábyrgð, notkun í iðnaði og hversu hratt þessi kerfi færast frá tilraunakenndu yfir í rekstrarhæft.