Forstjóri Anthropic lýsir áætlun um að hægja á þróun gervigreindar
Dario Amodei bað atvinnulífið að… hægja á sér. Ekki stöðva. Hraða. Löng ritgerð, þrjú skref og viðvörun um að endurtekin sjálfsbæting sé þegar að eldast hraðar en fullorðna fólkið getur metið.
Anthropic býður einhliða innbyggðum matsmönnum inn í bygginguna - merki, skrifborð, fartölvur og réttinn til að birta niðurstöður án þess að nota almannatengsl. Síðan vill hann að lýðræðislegar rannsóknarstofur samræmi öryggisstaðla. Síðan, einhvern veginn, samning við einræðisstjórnir. Auðvelt á pappírnum. Erfitt alls staðar annars staðar.
Hann segir enn að gervigreind gæti verið kraftaverk. Hann segir einnig að færari, rangstilltur hópur gæti tekið yfir internetið með viðvarandi botneti og valdið hundruðum milljarða í tjóni. Þessar tvær setningar standa hlið við hlið og fara ekki saman.
Og hann vill þrönga undanþágu frá samkeppnislögum svo að öryggisspjallið sé ekki lagalegt vandamál í sjálfu sér. Bremsunum fylgir pappírsvinna. Auðvitað fylgir þeim það.
Sam Altman staðfestir að OpenAI verði ekki skráð á markað á þessu ári og segir að útboð núna kæmi á „óskynsamlegum tíma“ miðað við áhyggjur af öryggi gervigreindar
Altman settist niður í einkaviðtal og eyðilagði skráningardagatal. Útboð á markaði núna, sagði hann, væri „óskynsamleg stund“. Öryggisvinna er ekki lokið. Samræmingu er ekki lokið. Samfélagið er ekki tilbúið. Þegar þeir þrýstu á hann - ekki í ár.
Bankamennirnir voru þegar farnir að hringsóla. Trúnaðargögnin eru til. Nú segir forstjórinn að þeir þurfi að gera margt fyrst, þar á meðal að finna út hvernig atvinnulífið og ríkisstjórnirnar vinna yfirhöfuð saman. Hann hljómaði næstum léttur að bíða.
Hann sagði einnig að það væri „algjörlega“ mögulegt að smíða gervigreind utan mannlegrar stjórnunar - og hét því síðan að hann myndi gera hlé á þjálfun ef það yrði leiðin. Djarft. Kannski líka þægilegt. Hugsanlega bæði. Hann hélt því fram að flækjan milli hagnaðarskyni og hagnaðarskyni sé til staðar svo þeir geti tekið ákvarðanir sem eru ekki augljóslega í þágu hluthafa. Við munum sjá hvort sú setning lifir af snertingu við raunverulegt útboðslýsingu.
Sam Altman hjá OpenAI gefur í skyn að samkomulag sé gert við önnur fyrirtæki í gervigreind til að takast á við öryggisáhættu
Sama viðtalið, önnur fyrirsögn, og þetta er bara hvíslið. Að setjast niður með Amodei, Musk og Demis Hassabis er eðlilegt næsta skref. Altman: hann telur að það muni gerast. Hann mun ekki tilkynna einkaviðræður fyrirfram. Hann tilkynnti þær í raun fyrirfram.
Hann sagði að tvístafa stórslysahætta væri ekki ásættanleg. Óútgefnar líkön eru þegar svo fær að það virðist kærulaust að halda áfram án betri eftirlits. Raunverulegur samningur og vandlega lekið andrúmsloft geta litið eins út að utan.
Starfsfólkið hafði þegar heyrt útgáfu af þessu innanhúss. Opinberlega er það enn þoka. Ef herbergið gerist, frábært. Ef það gerist ekki, þá dugði tilvitnunin samt sem áður.
Sam Altman styður kröfu Dario Amodei um að hægja á sér og segir að OpenAI muni gera slíkt hið sama
Klukkustundum eftir ritgerðina birti Altman færslu þar sem fram kom að OpenAI myndi uppfylla loforð um innbyggða matsaðila. Aðgangur eins og starfsmaður. Meira verður birt fljótlega. Musk skrifaði þrjú orð: „Dario hefur rétt fyrir sér.“ Þrír keppinautar í forstjórn. Eitt slagorð. Óróleg helgarorka.
Samhæfing og leikhús geta ferðast saman. Fyrsta þrepið í áætlun Amodei hefur nú fengið tvær af stærstu rannsóknarstofunum til að kinka kolli opinberlega. Faðmandi andlit - já, þetta faðmandi andlit - bað um að taka þátt í matsáætluninni og hleypti af stokkunum einhverju sem kallast Opna samræmingarátakið. Gagnsæi frá fólkinu sem varð fyrir tölvuþrjótunum. Ljóðrænt eða vísbending.
Evrópa, ef það er þess virði, hefur engan til að biðja um þessa undanþágu eins og í Bandaríkjunum. Brussel hætti að veita einstaklingsbundnar undanþágur fyrir löngu síðan. Þannig að handabandið er bandarískt. Restin af landakortinu er ... að yppta öxlum.
OpenAI vill bara vinna
Stærðfræðingar eru ekki í hátíðarskapi eftir viðtöl um helgi. Navier-Stokes sprettur OpenAI - um það bil tíu þúsund umboðsmenn, tugmilljónir dollara í tölvuvinnslu, áttatíu og átta klukkustundir - lítur út eins og verðlaunaleikur innan frá. Stærðfræðingar vilja innsýn. Rannsóknarstofan, segja þeir stöðugt, vill vinna.
Tristan Buckmaster sagði þeim að OpenAI byði upp á ótakmarkaða tölvuvinnslu og einkarétt á höfundarrétti ef hann hætti með samstarfsaðila sínum, sem tengdist Anthropic. Hann kallaði það mútu. Hann sagði nei. OpenAI segir afdráttarlaust að Codex-fyrirmæli hans gætu ekki hafa haft áhrif á kerfið. Hann er ekki sannfærður. Andreas Thom veltir enn fyrir sér hvort spjall ChatGPT um hans eigið verk hafi nært líkanið sem síðar byggði á því. Aðeins fyrirtækið myndi vita það. Hann grunar að þau viti það ekki einu sinni.
Og svo það sem kemur að því: OpenAI segist þegar hafa náð verulegum árangri í öðru vandamáli sem varðar Þúsaldarverðlaunin. Sem er enn ónefnd. Clay þarf samt sem áður langan tíma til að samfélagið samþykki þau. Þannig að enginn hefur „unnið“ ennþá. Þeir eru bara þegar farnir að keppa um næsta. Sætt.
Algengar spurningar
Hver er áætlun Dario Amodei, forstjóra Anthropic, til að flýta fyrir þróun gervigreindar?
Amodei birti langa ritgerð þar sem hann bað greinina að hægja á sér - ekki stöðva - því endurkvæm sjálfsbót þróast hraðar en endurskoðendur geta fylgt eftir. Fyrsta skrefið er að bjóða einhliða innbyggðum matsaðilum inn í Anthropic með merkjum, skrifborðum, fartölvum og réttinum til að birta niðurstöður án almannatengsla. Hann vill síðan að lýðræðislegar rannsóknarstofur samræmi öryggisstaðla og að lokum einhvers konar samning við einræðisstjórnir. Hann vill einnig þrönga undanþágu frá samkeppnislögum svo öryggisviðræður séu ekki sjálfar lagalegt vandamál.
Af hverju sagði Sam Altman að OpenAI yrði ekki skráð á markað í ár?
Í einkaviðtali sagði Altman að útboð á almennum markaði (IPO) núna væri óráðlegt því öryggisvinna, samræming og samfélagsleg undirbúningur væri ólokið. Þegar hann var spurður staðfesti hann að það yrði ekki á þessu ári, jafnvel þótt bankamenn væru að hringja og trúnaðargögn væru til. Hann hélt því fram að hagnaðarskyni/hagnaðarskyni uppbyggingin væri til staðar svo OpenAI gæti tekið ákvarðanir sem væru ekki augljóslega í þágu hluthafa. Hann sagði einnig að það væri fullkomlega mögulegt að byggja upp gervigreind utan mannlegrar stjórnunar og hét því að hann myndi gera hlé á þjálfun ef það væri leiðin.
Gefði Altman í skyn öryggissáttmála við aðrar gervigreindarrannsóknarstofur?
Í sama viðtali sagði Altman að hann teldi að fundur með jafningjum eins og Amodei, Musk og Demis Hassabis muni eiga sér stað, en neitaði að tilkynna fyrirfram um einkaviðræður. Hann hélt því fram að tvístafa áhættuþáttur í stórslysum væri ekki ásættanlegur og að enn óútgefnar gerðir væru þegar svo færar að það væri gáleysi að halda áfram án betri eftirlits. Starfsfólk hefði þegar heyrt útgáfu af þessu innanhúss, þannig að athugasemdir almennings gætu frekar gefið forsmekk fyrir samræmingu en staðfesta fullunnið samkomulag.
Mun OpenAI standa við loforð Anthropic um innbyggða matsaðila?
Nokkrum klukkustundum eftir grein Amodei birti Altman færslu þar sem hann sagði að OpenAI muni uppfylla loforð um innbyggða matsaðila með starfsmannalíkum aðgangi og frekari upplýsingum fljótlega. Elon Musk skrifaði að Dario hefði rétt fyrir sér og setti þrjá keppinautaforstjóra undir svipað slagorð. Hugging Face bað um að taka þátt í matsáætluninni og hleypti af stokkunum Open Alignment Initiative. Evrópa getur ekki boðið upp á sömu undanþágu frá samkeppnislögum og í Bandaríkjunum, eins og Amodei kynnti, svo handabandið er aðallega bandarískt í bili.
Hvers vegna eru stærðfræðingar að gagnrýna Navier-Stokes sprettinn frá OpenAI?
Stærðfræðingar lýsa um það bil tíu þúsund umboðsmönnum, áttatíu og átta klukkustunda Navier-Stokes hlaupi OpenAI sem verðlaunaleit þar sem sigur er forgangsraðað fram yfir innsýn. Tristan Buckmaster sagði að OpenAI hefði boðið upp á ótakmarkaða útreikninga og einkarétt á höfundarrétti ef hann hefði hætt að nota samstarfsaðila tengdan Anthropic; hann kallaði það mútu og neitaði. OpenAI segir að Codex leiðbeiningar hans gætu ekki hafa haft áhrif á kerfið, en hann er enn ekki sannfærður. Andreas Thom veltir enn fyrir sér hvort ChatGPT hafi spjallað um eigin vinnu sína til að auka framfarir í líkaninu síðar.
Hefur OpenAI fullyrt að framfarir hafi tekist í öðru vandamáli sem tengist Millennium-verðlaununum?
OpenAI segist þegar hafa náð verulegum árangri í öðru verkefni sem hlaut Millennium-verðlaunin, en vill ekki nefna hvaða verkefni það varðar. Clay Mathematics Institute þarf enn langan tíma til að samfélagið samþykkir verkefnið, þannig að enginn hefur opinberlega unnið ennþá. Innan sviðsins er þessi leynd, ásamt fyrri keppni Navier-Stokes, túlkuð sem rannsóknarstofur sem eru þegar að keppa um næsta bikar. Viðtölin í The Verge lýsa spennunni þannig að stærðfræðingar vilja innsýn en OpenAI vill vinna.