🏛️ Hvernig stórfyrirtæki í tæknigeiranum fengu sinn skerf í tilskipun Trumps um gervigreind ↗
Trump dró til baka fyrirhugaða tilskipun um gervigreind sem hefði ýtt undir öryggisúttektir á nýjum gerðum. Ástæðan, í meginatriðum: ekki hægja á Bandaríkjunum í kapphlaupinu við Kína.
Það sem vekur athygli er að fyrirmælin voru að sögn frekar væg þegar - sjálfviljug, ekki einhver víðtæk reglugerðarhögg. Engu að síður ýttu tækniframleiðendur harkalega gegn þeim og fengu það sem þeir vildu. (The Guardian)
🛡️ Gervigreind Claude Mythos finnur 10.000 alvarleg veikleika í víða notuðum hugbúnaði ↗
Anthropic sagði að verkefnið Glasswing hefði fundið meira en 10.000 alvarleg eða alvarleg veikleika með Claude Mythos Preview. Það er áhrifamikið, en það líður líka eins og brunaviðvörun í skikkju.
Fyrirtækið segir að 1.726 niðurstöður hafi verið staðfestar sem jákvæðar, þar af 97 lagfærðar og 88 viðvaranir gefnar út. Erfiðasti hlutinn núna er ekki að finna villur - heldur að laga þær áður en árásarmenn fá sömu leikföngin. (The Hacker News)
🛰️ Hvíta húsið samþykkir 9 milljarða dollara fyrir njósnastofnanir til að ná tökum á gervigreind ↗
Hvíta húsið samþykkti leynilega beiðni að upphæð 9 milljarða dollara um kaup á háþróuðum örgjörvum fyrir bandarískar leyniþjónustur, sem miða að því að keyra gervigreindarlíkön á landamærum fyrir leynileg störf.
Þingið þarf enn að samþykkja stærri fjárveitinguna, en 800 milljónir dala eru endurskipulagðar fyrir hraðari aðgang að tölvum. Það er erfitt að missa af undirliggjandi textanum: jafnvel njósnastofnanir sitja nú fastar í biðröð eftir gervigreindarörfum, sem er bæði fáránlegt og fyrirsjáanlegt. (Inquirer.com)
🪞 „Þú getur ekki stjórnað öllu“: fjölgun lýtalækna sem beðið er um að skapa „gervigreindarandlit“ ↗
Lýtalæknar segja að fleiri sjúklingar séu að taka með sér gervigreindarvinnslumyndir sem markmið í aðgerðum - skarpari kinnbein, fullkomna samhverfu, húð án svitahola, allan þennan óhugnanlega innkaupalistan.
Skurðlæknar vara við því að gervigreind geti endurraðað pixlum, ekki líffærafræði. Einn þeirra skoðaði aðgerðir sem gervigreind mælir með og gætu kostað meira en 100.000 pund og samt ekki skilað ímyndunarandlitinu. Þessi litla spegilvölundarhús. (The Guardian)
💰 Anthropic ætlar að ljúka við yfir 30 milljarða dollara fjárfestingarlotu strax í næstu viku ↗
Greint er frá því að Anthropic sé nálægt fjármögnunarumferð yfir 30 milljarða dala, að verðmæti yfir 900 milljarða dala. Já, sú tala er að ganga upp og niður.
Mikil eftirspurn eftir Claude í forritun, viðskiptaferlum og netöryggi er knúin áfram af þessari lotu. Fyrirtækið keppir einnig við að læsa meiri tölvuvinnslu, því í gervigreind eru peningar nú að mestu leyti eldsneyti í jakkafötum. (Business Standard)
🖼️ Myndir frá ChatGPT bera ósýnilega gervigreindarmerki sem allir geta greint: Það sem notendur sem geta ekki upplýst um kynslóð gervigreindar þurfa að vita ↗
Myndúttak frá OpenAI ber nú tvö upprunamerki: C2PA lýsigögn og SynthID vatnsmerki Google DeepMind. Annað gefur ríkari skráarsamhengi en hitt er ætlað að þola skjáskot og þjöppun.
Einnig er til opinbert staðfestingartól í forskoðun. Ekki öruggt, nei - vísindamenn hafa sýnt fram á vatnsmerkjaárásir - en það gerir „ég notaði alls ekki gervigreind“ að miklu áhættusamari smá lygi. (Tech Times)
Algengar spurningar
Hvers vegna dró Trump til baka fyrirhugaða tilskipun um gervigreind?
Í greininni segir að fyrirhuguð tilskipun um gervigreind hafi verið milduð eftir þrýsting frá stórum tæknifyrirtækjum. Tilskipunin hafði þegar verið lýst sem tiltölulega vægri og sjálfviljugri, með áherslu á öryggisúttektir á nýjum gervigreindarlíkönum. Helsta röksemdin gegn henni var að aukin úttektarferli gætu hægt á kapphlaupi Bandaríkjanna við Kína um gervigreind.
Hvað fann Claude Mythos hjá Anthropic í hugbúnaði?
Anthropic sagði að verkefnið Glasswing hefði notað Claude Mythos Preview til að bera kennsl á meira en 10.000 alvarleg eða alvarleg veikleika í víðtækt notuðum hugbúnaði. Í greininni er tekið fram að 1.726 niðurstöður hafi verið staðfestar sem jákvæðar, og sumar uppfærslur og ráðleggingar hafi þegar verið gefnar út. Víðtækari áhyggjuefni er hvort varnaraðilar geti lagað þessa veikleika áður en árásarmenn nýta sér svipuð gervigreindartól.
Hvers vegna eru bandarískar njósnastofnanir að biðja um fleiri gervigreindarflögur?
Í greininni segir að Hvíta húsið hafi samþykkt leynilega beiðni að upphæð 9 milljarða dollara um að aðstoða bandarískar leyniþjónustur við að kaupa háþróaða örgjörva fyrir gervigreindarlíkön á fremstu vígstöðvum. Markmiðið er að styðja við flokkaða gervigreindarvinnu sem krefst mikils reiknivélamagns. Þar er einnig tekið fram að þingið þurfi enn að samþykkja víðtækari fjármögnun, en verið sé að endurskipuleggja eitthvað af fjármagni til að tryggja hraðari aðgang.
Hvað þýðir „gervigreindarandlit“ í fegrunaraðgerðum?
„Andlit með gervigreind“ vísar til sjúklinga sem koma með sjálfsmyndir sem eru unnar með gervigreind til lýtalækna sem dæmi um hvernig þeir vilja líta út. Þessar myndir geta sýnt skarpari andlitsdrætti, fullkomna samhverfu eða húð sem er ekki raunveruleg. Skurðlæknar sem vitnað er í í greininni vara við því að gervigreind geti breytt pixlum auðveldlega, en raunveruleg líffærafræði hefur takmarkanir sem skurðaðgerðir geta ekki alltaf yfirstigið.
Hvernig hafa ósýnileg merki á ChatGPT myndum áhrif á notendur?
Í greininni segir að úttak mynda frá ChatGPT innihaldi nú upprunamerki eins og C2PA lýsigögn og SynthID vatnsmerki. Þessi merki geta hjálpað til við að bera kennsl á myndir sem eru búnar til með gervigreind, þar á meðal í tilvikum þar sem einhver vill ekki upplýsa um notkun gervigreindar. Í greininni er einnig tekið fram að vatnsmerki séu ekki örugg, en þau geri það auðveldara að greina óupplýsta notkun gervigreindarmynda.