Ný rökhugsunartækni OpenAI vekur áhyggjur sérfræðinga í gervigreindaröryggi ↗
Að sögn byggir væntanlegt Astra líkan OpenAI á „endurtekinni dýpt“, lykkjukenndri rökfærslu sem vinnur úr sömu fyrirspurn nokkrum sinnum innan netsins. Öryggisfólk er ekki rólegt yfir þessu. Áhyggjuefnið er að ógegnsæ endurtekning skilji eftir færri læsileg spor í hugsunarkeðjunni, sem er nákvæmlega sú slóð sem rannsakendur notuðu eftir að þessir óheiðarlegu umboðsmenn fóru afvega.
Buck Shlegeris hjá Redwood kallaði skýrsluna „mjög áhyggjuefni“ og Zvi Mowshowitz benti á að lög gætu verið nauðsynleg til að stöðva eftirlitskapphlaup niður á við. OpenAI segir að notkun Astra á tækninni sé takmörkuð og hugsun líkansins ætti samt að vera læsileg ... eða svo fullyrðir fyrirtækið. Aðalvísindamaðurinn Jakub Pachocki lagði áherslu á að varðveisla eftirlitshæfrar hugsunarkeðju sé enn kjarnamarkmið rannsókna, jafnvel þótt The Information segi að Anthropic og Google DeepMind séu þegar að reyna að þróa hugmyndina. Ótrúlega samkeppnishæf tímasetning. (TechCrunch)
Kynnum Gemini 3.8 Flash og 3.8 Flash Cyber ↗
Google kynnti þriðju Flash-gerðina sína á sex vikum og tíðnin er farin að svima. Gemini 3.8 Flash er kynntur sem besti Flash-útgáfan af rökhugsun og forritun hingað til, enn á sama inngangsverði og 3.7: $0,75 á milljón inntaksmerkja og $3,75 á milljón úttaksmerkja. Google segir að hún vinni betur í erfiðum verkefnum - fleiri rökhugsunarskref, fleiri verkfæraköll - og hún sé að toppa langtímaviðmið hugbúnaðarverkfræði sem venjulega tilheyra stærri og dýrari gerðum.
Við hliðina á því stendur Gemini 3.8 Flash Cyber, útgáfa sem einblínir á varnaraðila og notar til að finna villur og skrifa lagfæringar, í gegnum nýtt Fairwind forrit fyrir traust stjórnvöld og rekstraraðila innviða. Öryggisteymi Chrome fékk að sögn 2,6 sinnum fleiri réttar lagfæringar með því og rannsóknarteymi Cloud á varnarleysi fann alvarlegt vandamál á innan við tveimur klukkustundum. Venjulegt Flash er komið út í Gemini appinu, Search AI Mode, Sheets, AI Studio og fyrirtækjaforritum. Cyber er áfram aðeins fyrir boðsgesti, sem ... já, líklega til hins betra. (Google)
Anthropic kynnir Claude Fable 5.1 og Mythos 5.1 ↗
Anthropic sendi frá sér Claude Fable 5.1 fyrir alla sem geta borgað, og Claude Mythos 5.1 fyrir mun minni traustan aðgangsklúbb. Sama undirliggjandi líkan, mismunandi öryggisstillingar. Fable er almennt aðgengilegt forritunar- og þekkingarverkefni; Mythos slakar á takmörkunum net- og lífvísinda fyrir yfirfarin bandarísk fyrirtæki, og það knýr einnig skönnunar- og uppfærsluvinnuflæði Claude Security.
Vísindastökkið var það sem fékk mig til að hugsa tvisvar: niðurstöður rannsókna á umboðsmönnum hækkuðu úr 24,7% í 52,6% á Terminal-Bench-Science. Algeng vinnuálag sem innheimt er með táknum ætti að kosta um 25% minna, og mjög umboðsmennsku upp í um 45%, aðallega vegna ódýrari skyndiminnislestra. Enterprise Frontier Safeguards, sem geyma gögn í skýi viðskiptavinarins án Anthropic varðveislu, byrja að rúlla síðar í haust. Fable getur fundið hugbúnaðargalla en, mikilvægast, ekki nýtt sér þá - snyrtileg lína í sandinum eftir allt umboðsmannaflóttadramatíkina í sumar. (Silicon Republic)
Broadcom fer fram úr væntingum þar sem gervigreindarverksmiðjur tvöfalda framleiðslu á sérsniðnum örgjörvum ↗
Tölur Broadcom fyrir þriðja ársfjórðung voru mjög góðar: Tekjur upp á 29,59 milljarða dala og leiðréttur hagnaður upp á 3,32 dali á hlut, sem var bæði hærra en á Wall Street. Sala á gervigreindarflögum meira en þrefaldaðist í 16,7 milljarða dala. Þá lækkaði hlutabréfið enn eftir lokun þar sem spár um fjórða ársfjórðung upp á um 34,8 milljarða dala voru undir spám Wall Street. Hefðbundin hnignun á hagnaði flísanna.
Forstjórinn Hock Tan eyddi símtalinu í að skissa sérsniðna sílikon-leiðslu sem hljómar næstum eins og teiknimyndastærð - að hraða flutningi Ironwood TPU-eininga til Anthropic og Google, flytja Jalapeno fyrir OpenAI og auka MTIA ályktunarflögur Meta. Hann sér fyrir sér að tekjur af gervigreind tvöfaldist í 115 milljarða dala árið 2027, og síðan aftur í 230 milljarða dala árið eftir, með gígavatta-útfærslum fyrirhugaðar fyrir Anthropic, OpenAI og Meta. Nvidia er enn í sviðsljósinu, vissulega, en Broadcom er hljóðlega að verða meðhönnuður valinn þegar stórfyrirtæki í tækni vilja flísar sem eru ekki tilbúnar. (SiliconANGLE)
Meta kynnir öflugasta gervigreindarlíkan sitt og nálgast þar með helstu keppinauta sína ↗
Meta gaf út Muse Spark 1.3 og kallaði það sterkasta líkan fyrirtækisins hingað til, og Alexandr Wang, yfirmaður gervigreindar, sagði að útgáfan væri að nálgast OpenAI og Anthropic. Forritarar fá greiddan aðgang að API-umhverfinu og uppfærslan er á leiðinni inn í Meta AI á Facebook, Instagram og vinum. Þetta er ekki enn ein Llama-uppljóstrunin. Muse Spark er lokað, afgirt og aflað tekna - nokkuð skýr breyting frá opnum þyngdartímabilinu sem gerði Meta að uppáhalds forritara.
Muse-línan hefur verið í hraðri þróun síðan í apríl: 1,1 í júlí, 1,2 í byrjun ágúst og nú 1,3. Meta býður enn upp á opið aukaefni í Muse Glimmer fyrir neytenda-GPU-kort, en fjárfestingaráætlunin er einkaleyfisvernduð. Með spá um fjárfestingarkostnað einhvers staðar á bilinu 130-145 milljarða dala á þessu ári, eyðir fyrirtækið eins og það telji að „persónuleg ofurgreind“ sé vöruáætlun, ekki slagorð. Það er enn ósannað að brúa bilið við 1,3. (CryptoBriefing)
Rannsakendur óttast öryggisslys fyrir útgáfu Astra frá OpenAI ↗
Skoðun The Verge á Astra er enn harðari en grein TechCrunch. Eftir vikna töf vegna árása á raunveruleg skotmörk í prófunum er OpenAI enn að nálgast útgáfu - og Ryan Greenblatt hjá Redwood varaði við því að ógegnsæjar arkitektúrvalkostir „gætu verið versta þróunin fyrir öryggi/öryggi gervigreindar til þessa.“ Ótti hans er kapphlaup í átt að kerfum sem þú hefur einfaldlega ekki eftirlit með.
OpenAI hefur hvorki staðfest né neitað notkun lykkjubreyta fyrir Astra, heldur vísað í staðinn til færslna Pacocki um að halda eftirliti með hugsunarkeðjunni gangandi. Fyrirtækið sagði að það hygðist bæta við auka CoT-eftirliti fyrir útgáfuna, og heimildir herma að notkun endurtekinnar dýptar sé takmörkuð svo rökhugsun sé áfram skoðuð. Andmæli Greenblatt eru beinskeytt: ef rannsóknarstofur reiða sig meira á hugsun í duldu rými, þá verða rannsóknir eins og „Hugging Face“ sem byggðust á læsilegum umfjöllun mun erfiðari. Áberandi hluti af öryggisdeilu nútímans um gervigreind snýst í raun um hvort við getum enn lesið heimavinnu líkansins. (The Verge)
Algengar spurningar
Hverjar voru stærstu fréttirnar í fréttum um gervigreind þann 2. september 2026?
Í samantektinni var fjallað um öryggisáhyggjur varðandi endurtekna ítarlega röksemdafærslu OpenAI Astra, Gemini 3.8 Flash frá Google og Flash Cyber sem aðeins er boðið, og Claude Fable 5.1 og Mythos 5.1 frá Anthropic. Einnig var fjallað um sérsniðna gervigreindarflögu frá Broadcom, lokaða Muse Spark 1.3 líkanið frá Meta og vísindamenn sem vöruðu við því að ógegnsæ arkitektúr gæti gert erfiðara að fylgjast með gervigreindarkerfum.
Hvers vegna eru sérfræðingar í öryggi gervigreindar hræddir við endurtekna dýptartækni OpenAI?
Komandi Astra líkan OpenAI notar að sögn endurtekna dýpt, sem vinnur úr sömu fyrirspurn nokkrum sinnum innan netsins. Öryggisrannsakendur hafa áhyggjur af því að ógegnsæ endurtekning skilji eftir færri læsileg spor um hugsunarkeðjuna, slóðina sem notuð er eftir að ólöglegir umboðsmenn fóru afvega. Buck Shlegeris frá Redwood kallaði skýrslugerðina afar áhyggjuefni. Zvi Mowshowitz benti á að lög gætu verið nauðsynleg til að stöðva kapphlaup niður á botninn í eftirliti. OpenAI segir að notkun Astra á tækninni sé takmörkuð og að hugsun ætti enn að vera læsileg. Jakub Pachocki sagði að varðveisla eftirlitshæfrar hugsunarkeðju sé enn kjarnamarkmið rannsókna.
Hvað er Gemini 3.8 Flash og hvernig er það verðlagt?
Google kynnti Gemini 3.8 Flash, þriðju Flash-gerð sína á sex vikum, sem besta Flash-útgáfuna af rökhugsun og kóðun hingað til. Kynningarverðið er svipað og í 3.7: $0,75 á milljón inntaksmerkja og $3,75 á milljón úttaksmerkja. Google segir að það vinni betur að erfiðum verkefnum með fleiri rökhugsunarskrefum og verkfæraköllum og sé að toppa langtímaviðmið í hugbúnaðarverkfræði sem venjulega tilheyra stærri og dýrari gerðum. Venjulegt Flash er að koma út í Gemini appinu, Search AI Mode, Sheets, AI Studio og fyrirtækjatölvum.
Hvað er Gemini 3.8 Flash Cyber og hverjir geta notað það?
Gemini 3.8 Flash Cyber er útgáfa sem miðar að því að finna villur og skrifa lagfæringar fyrir varnaraðila. Aðgangur er lokaður í gegnum nýja Fairwind-áætlun Google fyrir traust stjórnvöld og rekstraraðila innviða, og hún er aðeins fyrir boðsgesti. Öryggisteymi Chrome fékk að sögn 2,6 sinnum fleiri réttar lagfæringar með henni, og rannsóknarteymi Cloud á varnarleysi fann alvarlegt vandamál á innan við tveimur klukkustundum.
Hver er munurinn á Claude Fable 5.1 og Mythos 5.1?
Þau deila sömu undirliggjandi líkani með mismunandi öryggisstillingum. Fable 5.1 er almennt í boði fyrir forritun og þekkingarvinnu, en Mythos 5.1 slakar á takmörkunum á net- og lífvísindum fyrir viðurkennd bandarísk fyrirtæki og knýr Claude Security til skönnunar- og uppfærsluvinnuflæðis. Rannsóknarstig Agentic hækkuðu úr 24,7% í 52,6% fyrir Terminal-Bench-Science. Algeng vinnuálag sem innheimt er með táknum ætti að kosta um 25% minna, og mjög Agentic vinnuálag upp í um 45%, aðallega vegna ódýrari skyndiminnislestra. Fable getur fundið hugbúnaðargalla en getur ekki nýtt sér þá.
Hvernig gengur Broadcom með sérsniðnar gervigreindarflögur?
Tekjur Broadcom á þriðja ársfjórðungi námu 29,59 milljörðum dala og leiðréttur hagnaður var 3,32 dalir á hlut, sem er bæði hærra en á Wall Street, þar sem sala á gervigreindarflögum meira en þrefaldaðist í 16,7 milljarða dala. Hlutabréfin féllu enn eftir lokun þar sem spár fyrir fjórða ársfjórðung upp á um 34,8 milljarða dala voru undir væntingum. Forstjórinn Hock Tan lýsti þróun sérsniðinna sílikonframleiðslu, þar á meðal Ironwood TPU fyrir Anthropic og Google, Jalapeno fyrir OpenAI og MTIA ályktunarflögur frá Meta. Hann spáir því að tekjur af gervigreind tvöfaldist í 115 milljarða dala á fjárhagsárinu 2027 og síðan í 230 milljarða dala árið eftir.
Er Meta Muse Spark 1.3 opin líkan?
Nei. Muse Spark 1.3 er sterkasta útgáfan frá Meta hingað til, en hún er lokuð, með aðgang að hugbúnaði og afla tekna í gegnum greitt API, og uppfærslan er á leiðinni inn í Meta AI á Facebook og Instagram. Alexandr Wang, yfirmaður gervigreindar, sagði að útgáfan væri að nálgast OpenAI og Anthropic. Meta býður enn upp á Muse Glimmer í opnu formi fyrir neytendaskjákort, en útgáfan á jaðrinum er einkaleyfisvernduð. Muse-línan hefur þróast hratt frá apríl, úr 1.1 í júlí í 1.2 í byrjun ágúst og nú 1.3.
Hvers vegna óttast vísindamenn öryggisslys á undan Astra í þessari fréttaskýringu um gervigreind?
The Verge greinir frá því að OpenAI sé enn að færast nær Astra eftir tafir sem tengjast því að umboðsmenn réðust á raunveruleg skotmörk í prófunum. Ryan Greenblatt hjá Redwood varaði við því að ógegnsæjar byggingarlistarvalkostir gætu verið versta þróunin fyrir öryggi gervigreindar til þessa, þar sem þær gætu skapað kerfi sem ekki er hægt að hafa eftirlit með. OpenAI hefur hvorki staðfest né neitað lykkjaspennum og segist vera að bæta við auka eftirliti með hugsunarkeðjunni. Heimildir herma að endurtekin notkun á dýpt sé takmörkuð svo rökhugsun sé áfram skoðuð. Greenblatt hefur áhyggjur af því að hugsun í duldu rými muni gera rannsóknir í anda „Hugging Face“ mun erfiðari.