🔐 OpenAI greinir öryggisvandamál sem tengist tóli þriðja aðila og segir að ekki hafi verið nálgast notendagögn ↗
OpenAI sagði að brotið hefði verið á forritunartóli þriðja aðila sem hafði haft áhrif á ferlið sem það notar til að votta macOS forrit sín sem lögmæt. Fyrirtækið sagði að það hefði ekki fundið nein merki um að aðgangur hefði verið veitt að notendagögnum, kerfum þess eða IP-tölum eða að hugbúnaði þess hefði verið breytt - sem er lykilatriðið. (Reuters)
Hagnýtu afleiðingarnar eru enn frekar alvarlegar. OpenAI skipti um vottorð og herti upp reglurnar svo að fölsuð en sannfærandi ChatGPT forrit verði ekki stærra vandamál en þau þurfa að vera. Ekki öryggisbrot þá - en ein af þessum „uppfærðu forritið þitt núna“ stundum. (OpenAI)
🧯 Sam Altman svarar „eldfimri“ grein í New Yorker eftir árásina á heimili hans ↗
Sam Altman gagnrýndi opinberlega harðlega áhorfanda á heimili hans eftir árás sem átti sér stað á heimili hans og kallaði hluta af henni villandi og persónulega. Allt saman fannst mér þetta óvenju hrátt miðað við stöðu forstjóra - frekar varnarsinnað en fágað, kannski af ásettu ráði. (TechCrunch)
Á sama tíma handtók lögreglan grunaðan mann vegna Molotov-árásarinnar sem tengdist heimili Altmans í San Francisco, en enginn slasaðist. Þannig breyttist sagan á augabragði frá gagnrýni fjölmiðla yfir í öryggismál - sem nú er orðið ósvikinn hluti af gervigreindarheiminum. (AP News)
🏗️ Fyrrverandi leiðtogar OpenAI Stargate hyggjast ganga til liðs við Meta Platforms ↗
Þrír háttsettir einstaklingar sem tengjast Stargate innviðaverkefni OpenAI eru sagðir vera á leið til Meta. Þetta er ekki bara starfsmannaflæði - þetta er starfsmannaflæði í tölvustríði, sem endar á öðruvísi hátt þegar allir eru að keppast um gagnaver, örgjörva og orku.
Ráðningarnar benda til þess að Meta sé ekki bara að eyða miklu í fyrirsætur, heldur sé að reyna að fá til sín fólkið sem kann að byggja upp iðnaðarpípulagnirnar undir þeim. Það er kannski þurrt á yfirborðinu, en þetta er þar sem stór hluti keppninnar er núna. (Bloomberg)
🛡️ Forskoðun á Claude Mythos ↗
Anthropic sagði að nýja Mythos líkanið þeirra væri nógu öflugt í netöryggi til að það væri ekki að gefa það út víða, að minnsta kosti ekki strax. Í staðinn er það beitt í strangt stýrða varnaraðgerð, því fyrirtækið telur að líkanið geti afhjúpað hættulega hugbúnaðargalla á skala sem er, ja, nokkuð ógnvekjandi. (Red Anthropic)
Þessi varúð er þegar farin að berast út á við. Fréttir herma að bandarískir embættismenn og stórfyrirtæki séu að líta á aukningu í getu líkansins sem raunverulegt vandamál varðandi innviðaöryggi, ekki bara enn eina sýndarkynningu. Í þetta skiptið er gervigreindarhringrásin með harðan hatt. (Axios)
☁️ CoreWeave gerir samning við Anthropic um gervigreindarský, hlutabréf hækka ↗
CoreWeave sagði að það muni útvega Anthropic skýjatölvuþjónustu samkvæmt margra ára samningi, og búist er við að þjónustan verði komin í gagnið síðar á þessu ári. Þetta er enn ein áminning um að fyrirmyndarfyrirtæki eru enn aðeins eins hröð og innviðirnir sem liggja að baki þeim - glæsilegur hugbúnaður, grimmileg efnisleg flöskuhálsar.
Fyrir Anthropic styrkir samningurinn aðgang Claude-línunnar að tölvuvinnslu. Fyrir CoreWeave er þetta enn eitt merki um að sérhæfðir gervigreindarskýjafyrirtæki halda áfram að sækja viðskipti frá efstu stigi líkanagerðarmanna, sem - nokkuð óvænt - standa fast á sínu. (Reuters)
💸 SiFive, sem er með stuðning frá Nvidia, nær 3,65 milljarða dala virði fyrir opna gervigreindarflögur ↗
SiFive fékk 400 milljóna dollara fjármögnunarlotu að verðmæti 3,65 milljarða dollara, sem er mikið traust á opnum örgjörvahönnun fyrir gervigreindarkerfi. Þetta er ekki að valda Nvidia ókyrrstöðu ennþá, nei - en það sýnir að fjárfestar vilja enn aðrar leiðir inn í gervigreindarbúnaðinn.
Það er erfitt að missa af víðtækari punktinum. Gervigreind er ekki lengur bara fyrirmyndarsaga eða jafnvel örgjörvasaga - hún er að verða barátta um hvaða lög eru áfram opin, hvaða eru áfram einkaleyfisvernduð og hver fær greitt á hverju stoppi á færibandinu. (TechCrunch)
Algengar spurningar
Hvað gerðist með öryggisvandamálið í OpenAI macOS appinu?
OpenAI sagði að brotið hefði verið á verkfæri þriðja aðila sem forritarar höfðu haft áhrif á undirritunarferlið sem notað var til að votta macOS forritin. Fyrirtækið sagði einnig að það hefði ekki fundið nein merki um að aðgangur hefði verið veitt að notendagögnum, kerfum þess eða hugverkaréttindum eða að hugbúnaði hefði verið breytt. Aðalmálið væri traust og áreiðanleiki forrita, ekki staðfest brot á upplýsingum viðskiptavina.
Ætti ég að uppfæra ChatGPT macOS appið eftir þetta OpenAI atvik?
Já, að uppfæra forritið er hagnýta niðurstaðan. OpenAI skipti um vottorð og herti ferlið þannig að fölsuð en sannfærandi ChatGPT forrit eru ólíklegri til að valda ruglingi eða skapa áhættu. Í slíkum tilfellum er öruggasta skrefið að nota nýjustu opinberu útgáfuna og forðast að hlaða niður skjáborðsforritum frá óopinberum aðilum eða spegilsíðum.
Hvers vegna skiptir vandamál með forritunartól þriðja aðila máli ef engum gögnum var stolið?
Vegna þess að traust hugbúnaðar byggist á meiru en aðeins aðgangi að gögnum. Ef tól sem tengist vottun forrita er í hættu getur það vakið upp efasemdir um hvort notendur geti áreiðanlega borið kennsl á lögmætan hugbúnað. Í mörgum framleiðsluumhverfum skiptir slíkt mál máli vegna þess að það hefur áhrif á dreifingaröryggi, traust á uppfærslum og hættuna á sannfærandi tilraunum til að þykjast vera persónu.
Hvers vegna er Meta að ráða fyrrverandi leiðtoga í OpenAI Stargate og aðrar breytingar á innviðum gervigreindar svona mikið mál?
Þessar ráðningar benda til samkeppni undir líkanalaginu, þar sem gagnaver, örgjörvar, aflgjafi og dreifingargeta skipta jafn miklu máli og rannsóknarhæfileikar. Innviðir gervigreindar eru að verða stefnumótandi kostur, ekki bara stuðningshluti. Greinin gefur til kynna að Meta sé að reyna að styrkja iðnaðarhlið gervigreindar, ekki bara að bæta við fleiri líkanarannsóknarmönnum.
Hvað er Mythos líkan Anthropic og hvers vegna myndi fyrirtæki takmarka útgáfu þess?
Anthropic lýsti Mythos sem nógu háþróaðri í netöryggi til að það sé undir ströngu eftirliti frekar en að það sé gefið út almennt. Áhyggjuefnið virðist vera að öflugt kerfi til að finna hugbúnaðargalla gæti boðið upp á varnargildi en jafnframt aukið hættu á misnotkun. Algeng aðferð í slíkum aðstæðum er takmarkaður aðgangur, þröng uppsetning og nánara eftirlit.
Hvers vegna skipta samningar um gervigreindarinnviði og fjármögnun opinna örgjörva máli fyrir víðtækari markað gervigreindar?
Þær sýna að kapphlaupið um gervigreind mótast í auknum mæli af aðgangi að tölvum og vali á vélbúnaði, ekki aðeins af eiginleikum spjallþjóna. Samningurinn milli CoreWeave og Anthropic undirstrikar hvernig fyrirmyndarfyrirtæki eru enn háð skýjaafkastagetu, en fjármögnun SiFive gefur til kynna áhuga fjárfesta á valkostum innan örgjörvaframleiðslu gervigreindar. Samanlagt benda þessar breytingar til þess að innviðir gervigreindar séu að verða lykilvígvöllur fyrir vöxt og stjórn.