⚖️ Anthropic höfðar mál til að koma í veg fyrir svartan lista Pentagon vegna takmarkana á notkun gervigreindar ↗
Anthropic hefur höfðað mál sitt við varnarmálaráðuneytið í Bandaríkjunum (Pentagon) fyrir dómstóla eftir að hafa verið stimplað sem áhætta fyrir framboðskeðjuna. Fyrirtækið segir að aðgerðin hafi verið ólögleg hefnd fyrir að neita að slaka á varnarlínum varðandi sjálfvirk vopn og eftirlit innanlands - sem setur þessa deilu á meðal eldfimustu málaflokka í stefnumótun gervigreindar um þessar mundir. (Reuters)
Ríkisstjórnin vill sveigjanleika fyrir „allar löglegar notkunaraðferðir“, en Anthropic heldur því fram að einkareknum rannsóknarstofum ætti enn að vera heimilt að draga hörð öryggismörk. Þetta hefur orðið eitt skýrasta prófið hingað til á því hvort fyrirtæki sem framleiðir gervigreind geti sagt „nei“ við hernaðarlegum hugtökum án þess að vera gagnrýnt fyrir það. (Reuters)
🧑💻 Starfsmenn hjá OpenAI og Google styðja málsókn Anthropic gegn varnarmálaráðuneyti Bandaríkjanna ↗
Sú málsókn fékk fljótt stuðning innan samkeppnisrannsóknarstofa. Nærri 40 starfsmenn frá OpenAI og Google studdu Anthropic í vináttubréfi og héldu því fram að hefndaraðgerðir gegn fyrirtækjum vegna öryggismarka gervigreindar væru í andstöðu við almannahagsmuni. (The Verge)
Já, samkeppnisaðilar hafa skyndilega lent í sömu sporum - að minnsta kosti á þessu stigi. Í lýsingunni er áherslan lögð á fjöldaeftirlit og óáreiðanleg sjálfvirk vopn, sem gerir allt málið minna eins og hefðbundin skotvopnaárás í Silicon Valley og meira eins og raunveruleg iðnaðarlína í sandinum ... eða kannski leðju. (The Verge)
🛡️ OpenAI kaupir Promptfoo til að tryggja öryggi gervigreindarumboðsmanna sinna ↗
OpenAI tilkynnti að það væri að kaupa Promptfoo, sprotafyrirtæki sem einbeitir sér að því að vernda stór tungumálamódel gegn óvinveittum árásum. Áætlunin er að samþætta tækni fyrirtækisins við OpenAI Frontier, fyrirtækjavettvang fyrirtækisins fyrir gervigreindarfulltrúa. (TechCrunch)
Þetta er athyglisverð hreyfing. Allir vilja að gervigreind gervigreindar geri meira, hraðar, alls staðar - en öryggishliðin hefur dregist aftur úr, hvort sem er lítið eða mikið. Þessi samningur bendir til þess að OpenAI telur að næsta stóra kapphlaupið sé ekki bara um snjallari gervigreindarmenn, heldur einnig um öruggari. (TechCrunch)
🧪 Anthropic kynnir kóðaskoðunarverkfæri til að kanna flóð af gervigreindar-mynduðum kóða ↗
Anthropic kynnti Code Review innan Claude Code, sem ætlað er teymum sem drukkna í pull requests sem eru búnar til af gervigreindarforritum. Það notar marga umboðsmenn samtímis til að skanna kóða, flagga rökfræðileg vandamál, meta alvarleika og skilja eftir athugasemdir beint í GitHub. (TechCrunch)
Kynningin er nógu einföld - gervigreind býr til kóða hraðar en menn geta skynsamlega yfirfarið hann, svo nú þarf gervigreind að yfirfara gervigreindina. Þetta er svolítið eins og snákur sem étur halann á henni, en samt hagnýtt. Anthropic segir að það sé hannað fyrir notendur í stórfyrirtækjum sem sjá nú þegar gríðarlegan kóðaframleiðslu frá Claude Code. (TechCrunch)
💰 Nscale, sem er með stuðningi Nvidia, metið á 14,6 milljarða dala í nýrri fjármögnunarumferð ↗
Breska fyrirtækið Nscale, sem sérhæfir sig í gervigreind, safnaði tveimur milljörðum dala í C-hluta fjármögnunarlotunnar og endaði verðmæti þess á 14,6 milljörðum dala. Meðal bakhjarla voru Aker, 8090 Industries, Nvidia, Citadel, Dell og Jane Street - sem jafngildir nokkuð miklu trausti. (Reuters)
Þetta skiptir máli því þetta er ekki enn ein líkankynning eða breyting á spjallþjónum. Þetta er hin hlið uppsveiflunnar sem snýst um að skipta máli - tölvuvinnsla, innviðir, afkastageta, allar þungavinnuvélarnar á bak við tjöldin. Kannski ekki glæsilegt, en það er þar sem mikill hluti peninganna streymir nú til. (Reuters)
🧠 AMI Labs, fyrirtæki Yann LeCun, safnar 1,03 milljörðum dala til að smíða heimslíkön ↗
Nýja fyrirtæki Yann LeCun, AMI Labs, safnaði 1,03 milljörðum dala á 3,5 milljarða dala verðmati fyrir peninga. Fyrirtækið eltir „heimslíkön“ - gervigreindarkerfi sem eru ætluð til að læra af raunveruleikanum sjálfum frekar en fyrst og fremst af tungumálinu. (TechCrunch)
Þetta er bein heimspekileg sveifla í átt að núverandi samstöðu um LLM, og sérstaklega afdráttarlaus. LeCun hefur haldið því fram í mörg ár að tungumálamódel nútímans muni ekki leiða okkur alla leið að mannlegri greind, svo þessi röksemdafærsla breytir þeirri röksemdafærslu í mjög dýra tilraun. (TechCrunch)
🇨🇳 Kínverskar tæknimiðstöðvar kynna OpenClaw gervigreindarumboðsmann þrátt fyrir öryggisviðvaranir ↗
Nokkrar kínverskar sveitarfélög styðja OpenClaw, gervigreindarforrit sem er að breiðast hratt út þrátt fyrir öryggisáhyggjur sem tengjast aðgangi þess að persónuupplýsingum. Þannig að opinbera stemningin virðist vera: já, það eru áhættur - og já, við skulum samt stækka það. (Reuters)
Þessi klofningur er sagan. Staðbundnar miðstöðvar vilja hagvöxtinn og skriðþunga vistkerfisins, en eftirlitsaðilar vara við gagnavernd. Þetta er nú alkunnuglegt mynstur gervigreindar - fyrst að hlaupa, svo að taka til í veginum, eða svo virðist sem það sé. (Reuters)
Algengar spurningar
Hvers vegna er Anthropic að höfða mál gegn Pentagon vegna takmarkana á notkun gervigreindar?
Anthropic segir að Pentagon hafi kallað þetta áhættu fyrir framboðskeðjuna eftir að fyrirtækið hafnaði víðtækari skilmálum sem gætu náð til sjálfvirkra vopna og eftirlits innanlands. Þetta gerir málsóknina að meira en bara söluaðilastöðu. Hún er að prófa hvort gervigreindarrannsóknarstofa geti viðhaldið ströngum öryggismörkum og samt keppt um störf hjá ríkinu án þess að vera refsað.
Hvers vegna styðja starfsmenn OpenAI og Google Anthropic í þessari deilu um öryggi gervigreindar?
Vinnuverndarsamningurinn gefur til kynna að margir innan samkeppnisrannsóknarstofa sjái þetta sem fordæmisgefandi öryggismál varðandi gervigreind, ekki bara átök milli eins fyrirtækis og einnar stofnunar. Þeir hafa áhyggjur af því að refsing á söluaðila fyrir að viðhalda rauðum lína gæti þrýst á markaðinn í heild sinni til að veikja öryggisráðstafanir. Í reynd gæti það mótað hvernig framtíðarsamningar um gervigreind í varnarmálum og opinberum geira verða gerðir.
Hvað gæti málið milli Anthropic og Pentagon breytt fyrir stefnumótun í gervigreind og samninga um varnarmál?
Ef Anthropic vinnur gætu gervigreindarfyrirtæki haft sterkari stöðu til að skilgreina óásættanlega notkun, jafnvel þegar þau selja inn í viðkvæmt ríkisumhverfi. Ef fyrirtækið tapar gætu stofnanir fengið víðtækari áhrif til að krefjast víðtækari skilmála um „löglega notkun“ frá birgjum. Hvort heldur sem er, þá er líklegt að þessi deila muni hafa áhrif á innkaupamál, áhættumat og hvernig öryggisráðstafanir eru settar inn í varnarmálasamninga.
Hvers vegna keypti OpenAI Promptfoo fyrir gervigreindarfulltrúa?
Promptfoo er þekkt fyrir að prófa stór tungumálamódel gegn andstæðum fyrirmælum og öðrum öryggisgöllum. Að fella slík verkfæri inn í fyrirtækjaumboðsmannsvettvang OpenAI bendir til þess að fyrirtækið líti á öruggari innleiðingu sem samkeppnisforskot frekar en aukaverkefni. Þar sem gervigreindarumboðsmenn taka að sér umfangsmeiri vinnu verður mun erfiðara að hunsa seiglu- og misnotkunarprófanir.
Hvernig geta teymi tekist á við flóðið af kóða sem gervigreind býr til á öruggari hátt?
Nýi kóðaskoðunareiginleikinn frá Anthropic í Claude Code er ætlaður teymum sem eru yfirþyrmandi af beiðnum sem eru framleiddar af gervigreindarforritum. Hann notar marga umboðsmenn samtímis til að greina rökfræðileg vandamál, meta alvarleika og skilja eftir athugasemdir á GitHub. Venjulega hjálpa verkfæri eins og þetta til við að flokka magn, en mannlegir gagnrýnendur skipta samt máli fyrir arkitektúr, samhengi og loka samþykki.
Hvers vegna er svona mikil fjárfesting í innviðum gervigreindar núna?
Nýjasta fjármögnunarumferð Nscale undirstrikar að gervigreindargeirinn er enn að eyða miklum fjármunum í tölvuvinnslu, innviði og afkastagetu. Þessi útgjöld eru kannski minna áberandi en sýndarleg kynning á líkani, en þau eru undirstaða alls annars. Þegar eftirspurn eftir þjálfun og dreifingu heldur áfram að aukast, verða fyrirtækin sem selja hakana og skóflurnar oft meðal stærstu sigurvegaranna.
Hvað eru heimslíkön og hvers vegna veðjar Yann LeCun á þau?
Heimslíkön eru gervigreindarkerfi sem eru hönnuð til að læra af því hvernig heimurinn hagar sér, frekar en að reiða sig fyrst og fremst á tungumálagögn. Það skiptir máli vegna þess að Yann LeCun hefur lengi haldið því fram að ólíklegt sé að tungumálalíkön ein og sér nái greind á mannlegu stigi. AMI Labs breytir þeirri skoðun í stóra viðskiptalega áhættu á nýrri leið fyrir háþróaðar rannsóknir á gervigreind.
Hvers vegna styðja kínverskar tæknimiðstöðvar OpenClaw þrátt fyrir öryggisviðvaranir?
Sagan af OpenClaw sýnir kunnuglega klofningu innan ört vaxandi tæknimarkaða: sveitarfélög vilja vöxt, niðurgreiðslur og skriðþunga vistkerfisins, en eftirlitsaðilar hafa áhyggjur af gagnavernd og öryggi. Að styðja aðilann þrátt fyrir viðvaranir bendir til þess að efnahagslegir hvatar séu ríkjandi á sumum stöðum. Fyrir áhorfendur er þetta enn ein áminningin um að innleiðing gengur oft hraðar en eftirlit.