🦞 Stofnandi OpenClaw, Steinberger, gengur til liðs við OpenAI, opinn hugbúnaðarbot verður að stofnun ↗
Peter Steinberger stefnir að OpenAI til að ýta undir „persónulegan umboðsmann“, en OpenClaw sjálft er geymt í stofnun svo það haldist opinn hugbúnaður (og studdur). Þessi skipting er ... nokkuð sniðug - ráðið byggingaraðilann, haldið verkefninu opinberu.
Kynning OpenClaw er hressandi hagnýt: flokkun tölvupósts, tryggingapappírsvinna, innritun flugvéla, pirrandi stjórnunarverkefni. Það er líka sprengt upp á GitHub og þessi vinsældir hafa vakið áhyggjur af öryggi, sérstaklega ef fólk notar það kæruleysislega.
🪖 Skýrsla segir að Pentagon sé orðið leiður á mótspyrnu Anthropic gegn notkun Claude gervigreindarlíkansins í hernum og gæti slitið tengslum við fyrirtækið ↗
Kjarnabaráttan: Pentagon vill víðtækan aðgang að vopnum í „öllum löglegum tilgangi“ og Anthropic reynir enn að halda ströngum takmörkunum varðandi sjálfvirk vopn og fjöldaeftirlit. Þetta er sú tegund ágreinings sem hljómar heimspekilega þangað til einhver segir: „Við gætum komið í staðinn fyrir ykkur.“
Ein vanmetin hrukka - embættismenn vilja ekki að líkanið stöðvi skyndilega vinnuflæði mitt í ferlinu, og þeir vilja ekki semja um jaðarmál að eilífu (sanngjarnt ... en líka æi). Það er raunveruleg spenna í gangi hér varðandi „hver heldur á lyklunum“, og hún er ekki lúmsk.
🧠 Nýsköpunarfyrirtæki smíða líkan til að spá fyrir um hegðun manna ↗
Simile fékk 100 milljóna dala fjármögnunarlotu til að byggja upp „takmarkað námslíkan“ sem miðar að því að spá fyrir um hvað fólk gæti gert - þar á meðal, mjög nákvæmlega, að sjá fyrir líklegar spurningar í hlutum eins og afkomutölum. Þröngt markmið, mikil metnaður, svolítið óhugnanleg samsetning.
Aðferðin byggir á viðtölum við raunverulegt fólk ásamt atferlisrannsóknargögnum og keyrir síðan hermir með gervigreindaraðilum sem ætlað er að endurspegla raunverulegar óskir. Það er eins og að búa til veðurlíkan fyrir ákvarðanir manna ... sem hljómar ómögulegt þangað til það er það ekki.
🧑⚖️ Fréttir: Hvíta húsið þrýstir á þingmann í Utah að fella úr gildi frumvarp um gagnsæi gervigreindar ↗
Átak til að auka gagnsæi gervigreindar á ríkisstigi í Utah fær beina gagnrýni frá Hvíta húsinu og embættismenn hvetja flutningsmann frumvarpsins til að færa það ekki áfram. Uppbygging frumvarpsins snýst eingöngu um gagnsæi og öryggi barna - sem erfitt er að mótmæla út frá eingöngu sjónrænum sjónarmiðum.
En stærri baráttan snýst um lögsögu: hver fær að setja reglurnar, fylkin eða alríkisstjórnin. Og já, þetta er óreiða - eins og tveir einstaklingar sem grípa í sama stýrið og halda því fram að þeir séu rólegir.
🎬 ByteDance lofar að koma í veg fyrir óheimila notkun IP-tölu á gervigreindarmyndbandstæki eftir ógn Disney ↗
Disney sendi út bann við notkun gervigreindarmyndbandsframleiðanda ByteDance og ByteDance segist vera að styrkja öryggisráðstafanir til að koma í veg fyrir óheimila notkun hugverkaréttinda og myndlíkinga. Kvörtunin - að sögn - er sú að tólið geti spýtt út kunnuglegum persónum úr leikjaseríunni eins og þær séu bara ... límmiðar í almenningseign.
Þetta er áreksturinn sem allir sáu fyrir: Vírusýmyndbönd með gervigreind þróast hratt, kvikmyndaver fara í málaferli og „við munum bæta við öryggisráðstöfunum“ verður sjálfgefið afsökunarbeiðnimál. Í smá óvæntri mynd lítur tæknin út eins og galdur - og lagalega hliðin lítur út eins og þyngdarafl.
Algengar spurningar
Hvað þýðir það að stofnandi OpenClaw gekk til liðs við OpenAI á meðan OpenClaw færðist yfir í stofnun?
Þetta gefur til kynna skiptingu á milli þess sem smíðar „persónulegan umboðsmann“ og þess að verkefnið sé áfram opinberlega stjórnað. Steinberger, sem gengur til liðs við OpenAI, leggur til að hann muni einbeita sér að því að þróa umboðsmannavörur þar. Með því að setja OpenClaw í sjóð er ætlunin að halda því opnu og með sjálfbærum stuðningi. Í reynd miðar þessi aðgerð að því að varðveita traust samfélagsins á meðan smiðurinn fer þangað sem auðlindirnar eru.
Af hverju eru gervigreindarumboðsmenn í OpenClaw-stíl einbeittir að verkum eins og tölvupósti og pappírsvinnu?
Þar sem „lífsstjórnunarvinna“ er endurtekin, reglubundin og tímafrek, gerir hún það að hagnýtu markmiði fyrir sjálfvirkni. Dæmin hér - tölvupóstflokkun, tryggingapappírsvinna og innritun flugvéla - eru þröng verkefni með skýrum árangursviðmiðum. Þessi áhersla getur látið umboðsmenn finna fyrir verðmætum fyrr en aðstoðarmenn með opnari tíma. Það undirstrikar einnig hvers vegna nákvæm aðgangsstýring skiptir máli þegar umboðsmenn snerta persónulega reikninga.
Hvernig er hægt að koma á fót opnum gervigreindarumboðsmanni eins og OpenClaw án þess að skapa öryggisvandamál?
Meðhöndlið það eins og hugbúnað sem getur séð viðkvæmar upplýsingar, ekki eins og leikfangaforrit. Algeng aðferð er að læsa innskráningarupplýsingum, takmarka heimildir við lágmarkskröfur og halda skrám og endurskoðunarslóðum. Keyrið það í takmörkuðu umhverfi og aðskiljið það frá verðmætum kerfum. Margar áhyggjur af öryggi stafa af gáleysi í dreifingu, sérstaklega þegar fólk afhjúpar endapunkta eða tákn án sterkra öryggisráðstafana.
Hvers vegna er varnarmálaráðuneytið óánægt með takmarkanir Anthropic á notkun Claude í hernaðarskyni?
Deilan snýst um umfang og stjórn: Pentagon vill víðtækan aðgang að „öllum lögmætum tilgangi“, en Anthropic er lýst sem fyrirtæki sem setur strangar skorður varðandi sjálfvirk vopn og fjöldaeftirlit. Embættismenn vilja heldur ekki að líkön hindri vinnuflæði mitt í ferlinu eða krefjist endalausra samningaviðræðna á jaðartilvikum. Þessi spenna er minna abstrakt en hún hljómar - hún snýst um hver ákveður hvað líkanið getur gert í raunverulegum aðgerðum.
Hvernig reyna sprotafyrirtæki að spá fyrir um hegðun manna með gervigreind og hvers vegna finnst mér það umdeilt?
Dæmið hér, Simile, notar „takmarkað námslíkan“ sem miðar að því að spá fyrir um hvað fólk gæti gert, þar á meðal að sjá fyrir líklegar spurningar í samhengi eins og afkomusímtölum. Aðferðin sem lýst er blandar saman viðtölum við atferlisrannsóknargögn og hermun með því að nota gervigreindaraðila sem ætlað er að endurspegla raunverulegar óskir. Það virðist óhugnanlegt vegna þess að það færir gervigreind frá því að bregðast við fólki yfir í að spá fyrir um það. Áskorunin er að halda fullyrðingum takmörkuðum og forðast of mikla sjálfstraust.
Hvað gerist þegar gervigreindarmyndbönd búa til höfundarréttarvarðar persónur, eins og í átökunum milli ByteDance og Disney?
Mynstrið sem greint var frá er kunnuglegt: kvikmyndastúdíó gefur út yfirlýsingu um að hætta notkun myndbanda og kerfið bregst við með því að styrkja öryggisráðstafanir til að koma í veg fyrir óheimila notkun hugverkaréttinda eða myndlíkinga. Í mörgum tólum þýða öryggisráðstafanir strangari efnissíur, bætta greiningu á auðþekkjanlegum stöfum og skýrari framfylgd notendastefnu. Undirliggjandi átökin eru hraði á móti ábyrgð - vírusframleiðsla gengur hratt fyrir sig og réttindaframfylgd virkar eins og þyngdarafl. Búist er við fleiri af þessum árekstri eftir því sem myndbandsframleiðendur breiðast út.