OpenAI styður frumvörp í bandaríska þinginu um gervigreind og ógnir við lífvopn
OpenAI styður hér fjölda tvíflokka frumvarpa um líffræðileg gögn - lög um vef líffræðilegra gagna, lög um staðla fyrir líffræðileg gögn sem eru tilbúin fyrir gervigreind og lög um stærðargráðu líffræði. Málið er að koma í veg fyrir að líkön noti lífvopn og tilbúnar veirur. Þungt efni í fréttatilkynningu á þriðjudag.
Og bíðið nú við - þeir styðja líka FRONTIER-lögin sem neyðir helstu rannsóknarstofur til að ráða óháða öryggismatsmenn. Samkvæmt umfjöllun Hill er þetta í fyrsta skipti sem þeir undirrita slíka sérstaka alríkislöggjöf.
Svo ... fyrirtækið sem eyddi árum í að segja „treystu okkur“ er skyndilega að biðja þingið um að láta utanaðkomandi aðila líta um öxl. Framfarir og þrýstihópastarfsemi geta ferðast saman.
Hvort heldur sem er, þá er boðskapurinn hávær: líffræðileg áhætta er ekki lengur neðanmálsgrein í hvítbók.
Gates-stofnunin segist ætla að verja einum milljarði dala til að auka aðgengi að gervigreind.
Þó að rannsóknarstofur deilu um að hægja á sér, þá lofaði Gates-stofnunin nýlega að minnsta kosti milljarði dollara á tveimur árum til að ýta gervigreind til fólks sem venjulega fær afganga.
Gróflega skipting frá innleiðingu Goalkeepers: um 40% menntun, 40% heilbrigðisþjónusta, 10% landbúnaður, 10% tungumál og stafrænar pípulagnir. Hugsið um stærðfræðikennara, verkfæri fyrir sveitalæknastofur, aðstoð við jarðveg/ræktun - auk gagnasöfn svo líkön séu ekki eingöngu á ensku að eilífu.
Lína Gates er afdráttarlaus - án íhlutunar smíðar markaðurinn gervigreind fyrst fyrir þá ríkustu. Góðgerðarstarfsemi getur litið út eins og lausn eða umbúðir á kerfisbundnu vandamáli. Samt sem áður. Milljarður er ekki axlarhnykkur.
Einnig - ómskoðun með gervigreind sem miðar að því að fá mælingar á sjúkrahúsgæðum. Áberandi ef hún er send í stórum stíl.
Nýja rökhugsunarlíkan Salesforce og Nvidia er allt sem gervigreindarrannsóknarstofurnar ættu að óttast
Dreamforce fellur niður: Koa. Fyrsta CRM rökhugsunarlíkan Salesforce, þjálfað eftir á opnu Nemotron frá Nvidia - miðað við sölu, þjónustu, flóknu fjölþrepa fyrirtækjamálin sem Claude og ChatGPT fá venjulega leið til að gera.
Engin raunveruleg viðskiptavinagögn í þjálfun - tilbúnar persónur í staðinn, þar á meðal „reiðir hringjendur“, sem er næstum því of augljóst. Salesforce heldur vogunum innan traustmarka sinna. CRM-bekkurinn þeirra fullyrðir færri villur með færri táknum. Táknfræði. Uppáhaldsslagorð allra í greininni.
Nema þeir eru ekki að hætta að nota Anthropic. ClaudeForce er ennþá til. Svo já - smíðaðu þína eigin rökfræðivél og haltu áfram að leigja rannsóknarstofur á fremstu vígstöðvum. Mótsögn. Væg. Mjög mikil Salesforce.
Flugmenn þegar komnir af stað - Formúla 1, sjúkrahús, sparisjóðir. Rannsóknarstofurnar á landamærunum ættu kannski að svitna aðeins.
Meta leyfir nú gervigreindaraðilum að sjá um leiðinlegu hlutana við uppsetningu WhatsApp Business
Aðgerð Meta snýst minna um tilvistardrama, heldur meira um „vinsamlegast hættið að láta forritara smella á tólf leikjatölvur.“ Nýja WhatsApp Business Tools MCP gerir Claude, Cursor, Codex, ChatGPT - veldu umboðsmann þinn - kleift að setja upp viðskiptaskilaboð með því að spjalla um þau.
Stofnaðu reikninginn. Staðfestu númerið. Skráðu þig fyrir Cloud API. Gerðu drög að sniðmátum. Fylgstu með veftengingum. Jafnvel nöldra í þér þegar þjónustuskilmálar eða greiðsla mistekst hljóðlega. Þetta leiðinlega lím sem enginn vill eiga.
Innleiðing fyrirtækja í gegnum spjall og MCP alls staðar þar til eitthvað bilar á fyndinn hátt getur hvort tveggja verið satt.
Allavega - ef WhatsApp Business uppsetningin þín fær þig skyndilega til að tala við örlítið ofákafan starfsnema, þá veistu núna af hverju.
Huang hjá Nvidia deildi við forstjóra Anthropic og OpenAI um öryggi gervigreindar hjá Dreamforce
Sama Moscone-stig, gagnstæð skrá. Amodei segir Benioff að hraði sé leiðandi leiðtogi - að vera fyrirmynd, að vera betri. Huang gengur áfram og kallar hraði á móti öryggi „röngu vali“. Markaðsöfl. Engin ný lög nauðsynleg. Hlauptu hratt… nema þú sért að fara að senda eitthvað óöruggt, þá skaltu stoppa.
Altman síðar: öryggi og eftirlit koma á undan getu. „Það ætti ekki að vera nein undantekning á því.“ Þannig að forstjórarnir þrír eru ekki sammála. Kannski samliggjandi.
Áhorfendur fengu allt litrófið á einum aðalræðudegi - prédikanir um hægagangi, bjartsýni um örgjörvakonunginn og OpenAI sem leggur áherslu á ábyrgð án þess að þurfa að neyðast til að dæma „nema samkeppnisaðilar svindli“.
Hvor röksemdafærslan vinnur í reynd er enn óljós. Fylgist með hvað kemur út næsta ársfjórðung. Orð eru ódýr. GPU-ar eru það ekki.
Spænskur gagnaeftirlitsaðili birtir fyrstu skýrsluna um gagnaleka tengda gervigreindarumboðsmanni
Spænska AEPD segist hafa fengið sína fyrstu tilkynningu um brot á persónuupplýsingum sem meint er að hafi verið framið af gervigreindaraðila - sem notaði þekktan lögmann til að finna göt, komast inn, fínstilla persónuupplýsingar og kíkja á reikninga.
Takmörkuð mannleg íhlutun í mörgum árásarstigum. Það er óhugnanlega hlutinn. Ekki vísindaskáldskapur. Atvik sem byggir á pappírsvinnu og er innbyggt í sjálfstæði.
Stofnunin er varkár: nafngreinir ekki fyrirsætuna eða fórnarlambið; segir að innviðir þjónustuveitunnar hafi ekki verið í hættu bara vegna þess að einhver ók umboðsmanni. Enn til skoðunar. Enn órólegt.
Eitt tilfelli er ekki lengur stefna. En það er heldur ekki lengur fræðilegt. Stjórnendur, hafið skeiðklukkurnar tilbúnar - árásirnar urðu bara hraðari.
Algengar spurningar
Hvaða frumvörp um gervigreind og lífvopn styður OpenAI á þingi?
OpenAI studdi fjölda tvíflokka lagafrumvarpa um líffræðileg gögn, þar á meðal lögin um vef líffræðilegra gagna (Web of Biological Data Act), lögin um staðla fyrir líffræðileg gögn sem eru tilbúin fyrir gervigreind (AI-Ready Bio-Data Standards Act) og lögin um stærðargráðu líffræði (Scale Biology Act). Markmiðið er að koma í veg fyrir að líkön geti notað lífvopn og tilbúnar veirur til að framleiða þau. OpenAI styður einnig ákvæðið í FRONTIER Act sem neyðir helstu rannsóknarstofur til að ráða óháða öryggismatsaðila - að sögn í fyrsta skipti sem fyrirtækið hefur undirritað slíka sérstaka alríkislöggjöf. Líffræðileg áhætta er ekki lengur meðhöndluð sem neðanmálsgrein í hvítbók.
Hvernig eyðir Gates-stofnunin 1 milljarði Bandaríkjadala í aðgang að gervigreind?
Gates-sjóðurinn hefur heitið að minnsta kosti milljarði dollara á tveimur árum til að auka aðgang að gervigreind fyrir fólk sem venjulega fær afganga. Innleiðing Goalkeepers skiptist gróflega í um 40% menntun, 40% heilbrigðisþjónustu, 10% landbúnað og 10% tungumál og stafrænar pípulagnir, sem nær yfir stærðfræðikennara, verkfæri fyrir dreifbýlislæknastofur, aðstoð við jarðveg og uppskeru og gagnasöfn þannig að líkön eru ekki að eilífu eingöngu á ensku. Gates heldur því fram að án íhlutunar smíði markaðurinn fyrst gervigreind fyrir þá ríkustu. Símatengd ómskoðun gervigreindar sem miðar að því að fá mælingar á sjúkrahúsgæslustigi er eitt metnaðarfullt dæmi ef hún verður send út í stórum stíl.
Hver er rökfræðilíkan Salesforce og Nvidia fyrir Koa?
Koa er fyrsta CRM rökhugsunarlíkan Salesforce, eftirþjálfað á opnum Nemotron frá Nvidia og ætlað fyrir sölu, þjónustu og flókið margþrepa fyrirtækjastarf. Þjálfunin notaði tilbúnar persónur - þar á meðal reiða hringjendur - frekar en raunveruleg viðskiptavinagögn, og Salesforce heldur vigtuninni innan traustmarka sinna. CRM-prófunarbekkir fullyrða færri villur með færri táknum. Salesforce er ekki að hætta við Anthropic: ClaudeForce, svo það er að byggja upp sína eigin rökhugsunarvél á meðan það leigir enn rannsóknarstofur í fremstu röð, með tilraunaverkefni þegar í Formúlu 1, sjúkrahúsum og sparisjóðum.
Hvernig hjálpar WhatsApp Business MCP frá Meta gervigreindarumboðsmönnum?
Nýja WhatsApp Business Tools MCP kerfið frá Meta gerir umboðsmönnum eins og Claude, Cursor, Codex og ChatGPT kleift að setja upp viðskiptaskilaboð með því að spjalla um þau. Umboðsmenn geta stofnað reikninginn, staðfest númerið, skráð sig í Cloud API, drög að sniðmátum, fylgst með veftengingum og nöldrað þegar þjónustuskilmálar eða greiðslur bregðast hljóðlega. Markmiðið er að koma í staðinn fyrir leiðinlegt límvinnu með mörgum stjórnborðum sem enginn vill eiga. Innleiðing fyrirtækja fer að líta meira út eins og að tala við ofákafan starfsnema heldur en að smella á tólf stjórnendaskjái.
Hvernig víkur Huang hjá Nvidia frá Anthropic og OpenAI varðandi öryggi gervigreindar?
Hjá Dreamforce sagði Amodei við Benioff að hraði væri leiðandi valkostur - hvernig maður væri fyrirmynd og betri - en Jensen Huang kallaði hraði gegn öryggi ranga ákvörðun sem markaðsafl knúin áfram, þar sem engin ný lög væru nauðsynleg nema maður væri að fara að senda eitthvað óöruggt. Altman lagði síðar áherslu á öryggi og eftirlit fram yfir getu án nokkurs skilyrðis. Forstjórarnir þrír voru ekki sammála: á sama sviði voru haldnar prédikanir um hægagang, bjartsýni um örgjörvakonung og ábyrgðarkynning OpenAI. Það sem sendir næsta ársfjórðung mun skipta meira máli en aðalræðurnar.
Hvað tilkynnti gagnaeftirlitið á Spáni um brot á gervigreindarumboðsmanni?
Spænska AEPD birti fyrstu tilkynningu sína um brot á persónuupplýsingum sem meint er að hafi verið framið af gervigreindarmanni sem notaði þekktan lögmannshugbúnað til að finna göt, komast inn, fínstilla persónuupplýsingar og kíkja á reikninga. Takmörkuð mannleg íhlutun á mörgum árásarstigum er óhugnanlegasti hlutinn - pappírsvinna með innbyggðu sjálfstæði. Stofnunin nefndi ekki fyrirsætuna eða fórnarlambið og sagði að innviðir veitunnar hefðu ekki verið í hættu bara vegna þess að einhver ók njósnara. Málið er enn til skoðunar, en það er ekki lengur bara kenning.