Hvernig get ég tryggt árangur verkefnis míns sem gervigreindarumboðsmaður?

Til að tryggja árangur verkefnisins sem umboðsmaður gervigreindar skaltu skilgreina verkefnið skýrt í einni setningu og ákveða sjálfræðisstigið sem þú ert ánægð(ur) með. Að auki skaltu innleiða strangar verkfæraskema, skráningu og staðfestingaraðferðir til að koma í veg fyrir algengar gildrur og auðvelda bilanaleit.

Hvað ætti ég að hafa í huga þegar ég hanna verkfærin fyrir gervigreindarfulltrúann minn?

Þegar þú hannar verkfæri fyrir gervigreindarumboðsmanninn þinn skaltu ganga úr skugga um að þau séu þröng í fókus, gerð og heimildir. Forðastu almenn verkfæri sem geta framkvæmt hvaða aðgerð sem er. Búðu í staðinn til sérstök virkniköll sem umboðsmaðurinn getur notað til að viðhalda öryggi og áreiðanleika.

Hvernig set ég skýr stöðvunarskilyrði fyrir gervigreindarfulltrúann minn?

Til að setja skýr stöðvunarskilyrði fyrir gervigreindarumboðsmanninn þinn skaltu skilgreina hámarksfjölda skrefa sem hann getur tekið, ásamt tímamörkum og lokunarprófum. Þetta mun hjálpa til við að koma í veg fyrir að umboðsmaðurinn festist í lykkjum og tryggja að hann geti stigið vandamál upp þegar þörf krefur.

Hver er besta leiðin til að stjórna minni í gervigreindarumboðsmanni?

Stjórnaðu minni í gervigreindarforritinu þínu með því að aðgreina það í skammtíma- og langtímaþætti. Haltu skammtímaminninu þéttu, einbeittu þér að núverandi skrefum og áætlunum, en notaðu langtímaminnið fyrir stöðugar upplýsingar eins og notendastillingar og skipulagsreglur.

Eru til sérstök mynstur fyrir skipulagningu verkefna innan gervigreindarumboðsmanns?

Já, hægt er að nota ýmis skipulagsmynstur, svo sem gátlista fyrir fyrirsjáanleg verkefni, ReAct lykkjur fyrir aðlögunarhæf viðbrögð við verkfæraúttaki og yfirmanns-starfsmannslíkön sem gera kleift að aðskilja hlutverk fyrir flókin verkefni. Veldu skipulagsaðferð út frá sérstökum kröfum umboðsmannsins.

Hvernig get ég metið árangur gervigreindarfulltrúans míns á áhrifaríkan hátt?

Til að meta frammistöðu gervigreindarumboðsmannsins skaltu búa til safn af atburðarásum sem innihalda hamingjuleiðir, jaðartilvik og óljósar beiðnir. Gefðu einkunnir út frá mælikvörðum eins og velgengnihlutfalli verkefna, svörunartíma og bata eftir villur til að bæta stöðugt getu hans.

Hvernig á að smíða gervigreindarfulltrúa [Myndband og spurningakeppni]

Stutt svar: Til að smíða gervigreindarumboðsmann sem virkar í reynd, meðhöndlið hann sem stýrða lykkju: takið við inntaki, ákveðið næstu aðgerð, kallið á þröngt afmarkað verkfæri, fylgist með niðurstöðunni og endurtakið þar til skýr „lokið“ prófun stenst. Það á skilið rétt sinn þegar verkefnið er margþrepa og verkfærastýrt; ef ein fyrirspurn leysir það, sleppið umboðsmanninum. Bætið við ströngum verkfæraskema, skrefamörkum, skráningu og staðfestingar-/gagnrýnanda þannig að þegar verkfæri bila eða inntak er óljóst, þá stigmagnast umboðsmaðurinn í stað þess að ganga í lykkju.

Lykilatriði:

Stýringarlykkja: Útfærið inntak → virkja → athugið endurtekningu með skýrum stöðvunarskilyrðum og hámarksskrefum.

Hönnun verkfæra: Haltu verkfærunum þröngum, vélrituðum, með heimildum og staðfestum til að koma í veg fyrir „gera_hvað_sem_er“ ringulreið.

Minnishreinlæti: Notið þétta skammtímaupplýsingar ásamt langtímasókn; forðist að henda fullum afritum.

Viðnám gegn misnotkun: Bætið við leyfislistum, hraðamörkum, óvirkni og „þurrkeyrslu“ fyrir áhættusamar aðgerðir.

Prófunarhæfni: Viðhalda atburðarásarsafni (bilanir, óljósar niðurstöður, innspýtingar) og endurkeyra við hverja breytingu.

Hvernig á að smíða gervigreindarfulltrúa? Upplýsingamynd

Greinar sem þú gætir viljað lesa eftir þessa:

🔗 Hvernig á að mæla afköst gervigreindar
Lærðu hagnýtar mælikvarða til að mæla hraða, nákvæmni og áreiðanleika.

🔗 Hvernig á að tala við gervigreind
Notaðu fyrirmæli, samhengi og eftirfylgni til að fá betri svör.

🔗 Hvernig á að meta gervigreindarlíkön
Berðu saman líkön með því að nota prófanir, matsrúbrík og raunverulegar niðurstöður verkefna.

🔗 Hvernig á að fínstilla gervigreindarlíkön
Bættu gæði og kostnað með stillingu, klippingu og eftirliti.

1) Hvað gervigreindaraðili er, í venjulegu mannlegu samhengi 🧠

Gervigreindarumboðsmaður er lykkja. LangChain „Umboðsmenn“ skjöl.

Það er það. Lykkja með heila í miðjunni.

Inntak → hugsa → framkvæma → fylgjast með → endurtaka. ReAct pappír (rökstuðningur + framkvæmd)

Hvar:

Inntak er beiðni frá notanda eða atburður (nýr tölvupóstur, stuðningsmiði, skynjara-ping).
Hugsun er tungumálamódel sem rökstyður næsta skref.
Aðgerð kallar á tól (leita í innri skjöl, keyra kóða, búa til miða, semja svar). Leiðbeiningar um OpenAI aðgerðaköll.
Observe er að lesa úttak tólsins.
Endurtekning er sá hluti sem lætur þetta virðast „umboðsmannlegt“ í stað „spjalls“. LangChain „umboðsmenn“ skjöl.

Sumir umboðsmenn eru í grundvallaratriðum snjallir makróar. Aðrir virka frekar eins og yngri rekstraraðili sem getur jonglerað verkefnum og lagað sig eftir villur. Báðir teljast.

Þú þarft heldur ekki fullt sjálfræði. Reyndar ... þú vilt það líklega ekki 🙃

2) Hvenær þú ættir að byggja upp umboðsmann (og hvenær þú ættir ekki) 🚦

Búðu til umboðsmann þegar:

Verkið er í mörgum skrefum og breytist eftir því hvað gerist á miðri leið.
Verkið krefst notkunar á verkfærum (gagnagrunna, CRM-kerfi, kóðaframkvæmd, skráargerð, vafra, innri API-viðmót). LangChain „Verkfæri“ skjöl.
Þú vilt endurteknar niðurstöður með vegabréfsáhrifum, ekki bara einstök svör.
Þú getur skilgreint „lokið“ á þann hátt að tölva getur athugað, jafnvel lauslega.

Ekki byggja upp umboðsmann þegar:

Einföld fyrirspurn + svar leysir þetta (ekki ofhugsa þetta, þú munt hata sjálfan þig síðar).
Þú þarft fullkomna ákveðni (umboðsmenn geta verið samkvæmir en ekki vélfærafræðilega virkir).
Þú hefur engin verkfæri eða gögn til að tengjast - þá eru það aðallega bara straumar/tíðblær.

Verum hreinskilin: helmingur „verkefna gervigreindarumboðsmanna“ gæti verið vinnuflæði með nokkrum greiningarreglum. En stundum skiptir stemningin líka máli 🤷♂️

3) Hvað gerir góða útgáfu af gervigreindarfulltrúa að góðri útgáfu ✅

Hér er kaflinn „Hvað gerir góða útgáfu af“ sem þú baðst um, nema ég ætla að vera svolítið hreinskilinn:

Góð útgáfa af gervigreindarmanni er ekki sú sem hugsar mest. Hún er sú sem:

Veit hvað það má gera (umfangsmörk)
Notar verkfæri áreiðanlega (skipulögð köll, endurtekningar, tímamörk) Leiðbeiningar um OpenAI-köll í AWS „Tímamörk, endurtekningar og bakköst með titringi“
Heldur ástandi hreinu (minni sem rotnar ekki) LangChain „Yfirlit yfir minni“
Útskýrir aðgerðir sínar (endurskoðunarslóðir, ekki leyndarmálsgögn) NIST AI RMF 1.0 (traustur og gagnsæi)
Stöðvar á viðeigandi hátt (lokaprófanir, hámarksskref, stigvaxandi stjórnun) LangChain „Umboðsmenn“ skjöl
Mistök á öruggan hátt (biður um hjálp, sýnir ekki ofskynjanir um vald) NIST AI RMF 1.0
Er prófunarhæft (þú getur keyrt það á tilbúnum aðstæðum og skorað niðurstöður)

Ef umboðsmaðurinn þinn er ekki prófaður, þá er þetta í grundvallaratriðum mjög öruggur spilakassi. Skemmtilegt í partíum, ógnvekjandi í framleiðslu 😬

4) Kjarnaeiningar umboðsmanns („líffærafræðin“ 🧩)

Flest föst efni hafa þessa hluta:

A) Stýringarlykkjan 🔁

Þetta er hljómsveitarstjórinn:

taka markið
Spyrðu fyrirmyndina um næstu aðgerð
keyrslutól
bæta við athugun
Endurtakið þar til lokið LangChain „Umboðsmenn“ skjöl

B) Verkfæri (einnig þekkt sem geta) 🧰

Verkfæri eru það sem gerir umboðsmann árangursríkan: LangChain „Verkfæri“ skjöl

fyrirspurnir í gagnagrunni
að senda tölvupóst
að draga skrár
keyrslukóði
kalla á innri API-viðmót
að skrifa í töflureikna eða CRM-kerfi

C) Minni 🗃️

Tvær tegundir skipta máli:

Skammtímaminni: núverandi hlaupasamhengi, nýleg skref, núverandi áætlun
Langtímaminni: óskir notenda, samhengi verkefnis, sótt þekking (oft með innfellingum + vigurgeymslu) RAG-ritgerð

D) Skipulagning og ákvarðanataka 🧭

Jafnvel þótt þú kallir það ekki „skipulagningu“ þarftu aðferð:

gátlistar
ReAct- ritgerð í stíl við „hugsaðu síðan tólið“
verkefnamyndrit
mynstur yfirmanns og starfsmanns
Yfirumsjónar-starfsmannamynstur Microsoft AutoGen (rammi fyrir marga umboðsmenn)

E) Varnargrindur og mat 🧯

leyfi
Örugg verkfæraskema OpenAI skipulögð úttak
staðfesting á úttaki
skrefamörk
skógarhögg
prófanir NIST AI RMF 1.0

Já, þetta er frekar verkfræði en hvatning. Sem er… svona eiginlega meginatriðið.

5) Samanburðartafla: vinsælar leiðir til að byggja upp umboðsmann 🧾

Hér að neðan er raunhæf „Samanburðartafla“ - með nokkrum sérkennum, því raunveruleg lið eru sérkennileg 😄

Tól / Rammi	Áhorfendur	Verð	Af hverju það virkar	Glósur (pínulítið kaos)
LangChain	Byggingaraðilar sem hafa gaman af Lego-íhlutum	Ókeypis + innfrarafmagn	stórt vistkerfi fyrir verkfæri, minni, keðjur	getur orðið spagettí-hratt ef þú nefnir hlutina ekki skýrt
Llamavísitala	Lið sem eru þung í RAG	Ókeypis + innfrarafmagn	Sterk sóknarmynstur, flokkun, tengi	frábært þegar umboðsmaðurinn þinn er í grundvallaratriðum að „leita + framkvæma“ ... sem er algengt
Aðferð í stíl OpenAI aðstoðarmanna	Lið sem vilja hraðari uppsetningu	notkunarmiðað	innbyggð verkfærakallmynstur og keyrsluástand	minna sveigjanlegt í sumum hornum, en hreint fyrir mörg forrit	OpenAI keyrir API OpenAI Assistants aðgerðaköll
Merkingarfræðilegur kjarni	Forritarar sem vilja skipulagða útfærslu	frjálslegt	Snyrtileg abstrakt fyrir færni/föll	finnst „fyrirtækið snyrtilegt“ - stundum er það hrós 😉
Sjálfvirk kynning	tilraunamenn með mörgum efnum	frjálslegt	Samstarfsmynstur milli umboðsmanna	geta talað of mikið; setja strangar uppsagnarreglur
CrewAI	Aðdáendur „lið umboðsmanna“	frjálslegt	Hlutverk + verkefni + millifærslur eru auðveldar að tjá	Virkar best þegar verkefnin eru stökk, ekki mjúk
Heystakk	Leit + Leitarleiðir Fólk	frjálslegt	fastar leiðslur, sókn, íhlutir	minna „umboðsmannaleikhús“, meira „hagnýt verksmiðja“
Rúllaðu þínu eigin (sérsniðin lykkja)	stjórnsjúklingar (ástúðlegir)	þinn tími	lágmarks galdrar, hámarks skýrleiki	oftast það besta til langs tíma litið ... þangað til þú finnur allt upp á nýtt 😅

Enginn einn sigurvegari. Besti kosturinn fer eftir því hvort aðalstarf umboðsmannsins er að sækja gögn, framkvæma verkfæri, samhæfa marga aðilaeða sjálfvirkni vinnuflæðis.

6) Hvernig á að smíða gervigreindarumboðsmann skref fyrir skref (uppskriftin sjálf) 🍳🤖

Þetta er sá hluti sem flestir sleppa og velta síðan fyrir sér hvers vegna umboðsmaðurinn hegðar sér eins og þvottabjörn í matarbúri.

Skref 1: Skilgreindu starfið í einni setningu 🎯

Dæmi:

„Drög að svari viðskiptavinar með því að nota stefnu og samhengi miðans og biðja síðan um samþykki.“
„Rannsaka villutilkynningu, endurtaka hana og leggja til lagfæringu.“
„Breyttu ófullkomnum fundargögnum í verkefni, eigendur og fresta.“

Ef þú getur ekki skilgreint það einfaldlega, þá getur umboðsmaðurinn þinn það ekki heldur. Ég meina, hann getur það, en hann mun spuna, og það er spuna sem fjárhagsáætlun fer til spillis.

Skref 2: Ákveðið sjálfræðisstig (lágt, miðlungs, sterkt) 🌶️

Lítið sjálfræði: leggur til skref, mannleg smell „samþykkja“
Miðill: keyrir verkfæri, skrifar drög að úttaki, eykur óvissu
Hátt: keyrir frá upphafi til enda, sendir aðeins ping-sendingar til manna við undantekningar.

Byrjaðu lægra en þú vilt. Þú getur alltaf aukið hraðann síðar.

Skref 3: Veldu líkanstefnu þína 🧠

Þú velur venjulega:

ein sterk fyrirmynd fyrir allt (einfalt)
ein sterk gerð + minni gerð fyrir ódýr skref (flokkun, leiðarval)
sérhæfðar gerðir (sjón, kóði, tal) ef þörf krefur

Einnig ákveða:

hámarksfjöldi tákna
hitastig
hvort þú leyfir langar rökfærslur innbyrðis (þú getur það, en ekki afhjúpa hráa hugsunarkeðju fyrir notendum)

Skref 4: Skilgreina verkfæri með ströngum skemaum 🔩

Verkfæri ættu að vera:

þröngt
vélritað
leyfilegt
Staðfest OpenAI skipulögð úttak

Í staðinn fyrir tól sem kallast do_anything(input: string), gerðu:

search_kb(fyrirspurn: strengur) -> niðurstöður[]
create_ticket(title: string, body: string, priority: enum) -> ticket_id
send_email(to: string, subject: string, body: string) -> status Leiðbeiningar um OpenAI aðgerðarköll

Ef þú gefur umboðsmanninum keðjusög skaltu ekki vera hissa þegar hann snyrtir limgerði með því að fjarlægja girðinguna líka.

Skref 5: Búðu til stýringarlykkjuna 🔁

Lágmarkslykkja:

Byrjaðu með markmiði + upphafssamhengi
Spyrðu fyrirsætuna: „Næsta skref?“
Ef verkfæriskall - keyrðu verkfærið
Bæta við athugun
Athugaðu stöðvunarskilyrði
Endurtakið (með hámarksskrefum) skjölun um „umboðsmenn“ frá LangChain

Bæta við:

tímamörk
Endurtekningar (varúð - endurtekningar geta endurtekið sig í lykkju) AWS „Tímamörk, endurtekningar og bakköst með titringi“
Snið villna í verkfærum (skýrt, skipulagt)

Skref 6: Bættu minninu varlega við 🗃️

Skammtíma: Haltu þjappaðri „stöðuyfirliti“ uppfærðri í hverju skrefi. LangChain „Yfirlit yfir minni“.
Langtíma: Geymdu varanlegar staðreyndir (notendastillingar, reglur fyrirtækisins, stöðug skjöl).

Þumalputtaregla:

ef það breytist oft - haltu því til skamms tíma
ef það er stöðugt - geymið til langs tíma
ef það er viðkvæmt - geymið í lágmarki (eða alls ekki)

Skref 7: Bæta við staðfestingu og „gagnrýnanda“-passa 🧪

Ódýrt og hagnýtt sniðmát:

umboðsmaður býr til niðurstöðu
staðfestingarprófar uppbyggingu og takmarkanir
Valfrjálsar gagnrýnilíkansyfirlit vegna vantar skrefa eða brota á reglum NIST AI RMF 1.0

Ekki fullkomið, en það nær ótrúlega miklu magni af bullinu.

Skref 8: Skráðu allt sem þú munt sjá eftir að hafa ekki skráð 📜

Skrá:

verkfæraköll + inntak + úttak
ákvarðanir teknar
villur
lokaniðurstöður
Tákn og seinkun - kynning á OpenTelemetry mælanleika

Framtíðin - þú munt þakka þér. Nútíðin - þú munt gleyma. Þannig er lífið bara 😵💫

7) Verkfæraköll sem brýtur ekki sálina þína 🧰😵

Í verkfæraköllun verður „Hvernig á að smíða gervigreindarfulltrúa“ raunveruleg hugbúnaðarverkfræði.

Gerðu verkfæri áreiðanleg (áreiðanlegt er gott)

Áreiðanleg verkfæri eru:

ákveðinn
þröngt að umfangi
auðvelt að prófa
Óhætt að endurkeyra Stripe „Idempotent requests“

Bættu við varnargrindum á verkfæralaginu, ekki bara leiðbeiningum

Fyrirmæli eru kurteisar tillögur. Staðfesting verkfæra er eins og læstar dyr. Skipulögð úttak OpenAI

Gerðu:

leyfislistar (hvaða verkfæri geta keyrt)
staðfesting innsláttar
hraðamörk OpenAI leiðbeiningar um hraðamörk
heimildarathuganir á hvern notanda/stofnun
„Þurrkeyrsluhamur“ fyrir áhættusamar aðgerðir

Hönnun fyrir hlutabilun

Verkfæri bila. Netkerfin titra. Heimild rennur út. Umboðsmaður verður að:

túlka villur
Reyna aftur með bakfærslu þegar við á Endurtekningarstefna Google Cloud (bakfærsla + titringur)
velja önnur verkfæri
stigmagnast þegar fastur

Áhrifaríkt og hljóðlátt bragð: skilaðu uppbyggðum villum eins og:

tegund: heimildarvilla
tegund: fannst_ekki
tegund: rate_limited
Þannig að líkanið geti brugðist skynsamlega við í stað þess að örvænta.

8) Minningar sem hjálpa í stað þess að ásækja þig 👻🗂️

Minni er öflugt, en það getur líka orðið ruslaskúffa.

Skammtímaminni: Haltu því þéttu

Notkun:

síðustu N skrefin
keyrsluyfirlit (uppfært í hverri lykkju)
núverandi áætlun
núverandi takmarkanir (fjárhagsáætlun, tími, stefnur)

Ef þú setur allt í samhengi, þá færðu:

hærri kostnaður
hægari seinkun
meiri ruglingur (já, jafnvel þá)

Langtímaminni: endurheimt frekar en að „fylla“

Flest „langtímaminni“ er frekar eins og:

innfellingar
vektorverslun
endurheimt aukinnar kynslóðar (RAG) RAG pappír

Umboðsmaðurinn leggur ekki á minnið. Hann sækir viðeigandi brot á keyrslutíma. LlamaIndex „Kynning á RAG“

Hagnýtar minnisreglur

Geymið „stillingar“ sem skýrar staðreyndir: „Notanda líkar punktasamantektir og hatar emoji“ (lol, ekki hér samt 😄)
Geymið „ákvarðanir“ með tímastimplum eða útgáfum (annars hrannast upp mótsagnir)
Geymið aldrei leyndarmál nema það sé nauðsynlegt

Og hér er ófullkomin myndlíking mín: minningin er eins og ísskápur. Ef þú þrífur hana aldrei, þá smakkast samlokan þín að lokum eins og laukur og eftirsjá.

9) Skipulagsmynstur (frá einföldum til fínni) 🧭✨

Skipulagning er bara stýrð niðurbrot. Ekki gera hana dulræna.

Mynstur A: Gátlistaáætlun ✅

Líkanið birtir lista yfir skref
Framkvæmir skref fyrir skref
Uppfærir stöðu gátlista

Frábært fyrir innleiðingu. Einfalt, prófunarhæft.

Mynstur B: ReAct lykkja (ástæða + athöfn) 🧠→🧰

líkanið ákveður næsta verkfærakall
fylgist með úttaki
endurtekur ReAct-ritgerðina

Þetta er hin klassíska tilfinning umboðsmanns.

Mynstur C: Yfirmaður-starfsmaður 👥

Yfirmaður skiptir markmiði niður í verkefni
starfsmenn sinna sérhæfðum verkefnum
Umsjónarmaður sameinar niðurstöður Microsoft AutoGen (rammi fyrir marga umboðsmenn)

Þetta er dýrmætt þegar verkefni eru samsíða eða þegar þú vilt mismunandi „hlutverk“ eins og:

rannsakandi
forritari
ritstjóri
Gæðaeftirlitsmaður

Mynstur D: Skipuleggja og framkvæma síðan með endurskipulagningu 🔄

búa til áætlun
framkvæma
Ef niðurstöður verkfæra breyta veruleikanum, endurskipuleggja

Þetta kemur í veg fyrir að umboðsmaðurinn fylgi þrjóskulega slæmri áætlun. Menn gera þetta líka, nema þeir séu þreyttir, en þá fylgja þeir líka slæmum áætlunum.

10) Öryggi, áreiðanleiki og að vera ekki rekinn 🔐😅

Ef umboðsmaður þinn getur gripið til aðgerða þarftu öryggishönnun. Ekki „þægilegt að hafa“. Þarfnast NIST AI RMF 1.0.

Harðar takmarkanir

hámarksskref á hverri hlaupi
hámarks verkfæraköll á mínútu
hámarksútgjöld á hverja lotu (fjárhagsáætlun fyrir tákn)
takmörkuð verkfæri á bak við samþykki

Gagnameðhöndlun

fjarlægja viðkvæmar inntak fyrir skráningu
aðskilin umhverfi (þróun vs. framleiðsla)
heimildir fyrir verkfæri með minnstu réttindum

Hegðunarhömlur

neyða umboðsmanninn til að vitna í innri sönnunargögn (ekki utanaðkomandi tengla, bara innri tilvísanir)
krefjast óvissumerkja þegar traust er lágt
krefjast þess að „spyrja skýringarspurningar“ ef innsláttur er óljós

Áreiðanlegur umboðsmaður er ekki sá öruggasti. Hann er sá sem veit hvenær hann er að giska ... og segir það.

11) Prófanir og mat (það sem allir forðast) 🧪📏

Þú getur ekki bætt það sem þú getur ekki mælt. Já, þessi setning er klisjuleg, en hún er pirrandi sönn.

Búa til atburðarásarsett

Búa til 30-100 prófunartilvik:

hamingjusömum leiðum
brún tilfelli
Tilfelli þar sem „verkfæri bilar“
óljósar beiðnir
andstæðingalegar fyrirmæli (tilraunir til fyrirmæla) OWASP topp 10 fyrir LLM forrit OWASP LLM01 fyrirmæli

Niðurstöður stiga

Notaðu mælikvarða eins og:

velgengnihlutfall verkefnis
tími til að ljúka
batahlutfall villna í verkfærum
ofskynjunartíðni (fullyrðingar án sönnunargagna)
samþykkishlutfall manna (ef í eftirlitsham)

Aðhvarfspróf fyrir leiðbeiningar og verkfæri

Í hvert skipti sem þú breytir:

verkfæraskema
kerfisleiðbeiningar
sóknarrökfræði
minnissnið
Keyrðu svítuna aftur.

Umboðsmenn eru viðkvæmar skepnur. Eins og stofuplöntur, en dýrari.

12) Dreifingarmynstur sem bræða ekki fjárhagsáætlun þína 💸🔥

Byrjaðu með einni þjónustu

Umboðsstýringarforritaskil
verkfæraþjónusta á bak við það
Inngangur að skráningu og eftirliti með OpenTelemetry mælanleika

Bættu við kostnaðarstýringu snemma

Niðurstöður skyndiminni í skyndiminni
þjappa stöðu samtals með samantektum
notkun minni gerða fyrir fræsingu og útdrátt
að takmarka „djúphugsunarham“ við erfiðustu skrefin

Algengt val á byggingarlist

ríkislaus stjórnandi + ytri stöðugeymsla (gagnagrunnur/endurskipulagning)
Köll á verkfæri eru ósamhæf þar sem það er mögulegt. Stripe „Ósamhæfðar beiðnir“
biðröð fyrir löng verkefni (svo þú haldir ekki vefbeiðni opinni að eilífu)

Einnig: smíðaðu „neyðarrofa“. Þú þarft ekki á honum að halda fyrr en þú þarft virkilega, virkilega á honum að halda 😬

13) Lokaorð - stutta útgáfan af því hvernig á að smíða gervigreindarfulltrúa 🎁🤖

Ef þú manst ekkert annað, þá skaltu muna þetta:

Hvernig á að smíða gervigreindarumboðsmann snýst aðallega um að smíða örugga lykkju í kringum líkan. LangChain „umboðsmenn“ skjöl.
Byrjaðu með skýru markmiði, litlu sjálfræði og ströngum verkfærum. OpenAI skipulögð úttak
Bæta við minni með endurheimt, ekki endalausri samhengisfyllingu. RAG pappír
Skipulagning getur verið einföld - gátlistar og endurskipulagning duga langt.
Skráning og prófanir breyta óreiðu umboðsmanna í eitthvað sem þú getur sent. Kynning á mælanleika í OpenTelemetry.
Varnargrindur eiga heima í kóða, ekki bara í leiðbeiningum. OWASP topp 10 fyrir LLM forrit

Umboðsmaður er ekki galdur. Það er kerfi sem tekur góðar ákvarðanir nógu oft til að vera verðmæt ... og viðurkennir ósigur áður en hann veldur skaða. Á vissan hátt rólegt og huggandi 😌

Og já, ef þú býrð þetta rétt upp, þá líður þetta eins og að ráða lítinn stafrænan starfsnema sem sefur aldrei, fær stundum panikk og elskar pappírsvinnu. Svo í rauninni er þetta starfsnemi.

Raunverulegt dæmi: Að byggja upp stuðningsflokkunaraðila fyrir gervigreind 🎫🤖

Atburðarás

Ímyndaðu þér lítið SaaS-teymi sem fær 120-180 stuðningsbeiðnir á viku. Flest mál eru ekki flókin en þau taka samt tíma: endurstillingar lykilorða, spurningar um reikninga, villutilkynningar, beiðnir um eiginleika og skilaboð um „er þetta væntanleg hegðun?“.

Einfaldur spjallþjónn getur skrifað svör en getur ekki áreiðanlega athugað stöðu reiknings, leitað í þekkingargrunni, flokkað brýn verkefni eða ákveðið hvenær manneskja þarf að grípa inn í. Þetta er þar sem umboðsmaður er skynsamlegur.

Markmiðið er ekki að koma í stað þjónustunnar að fullu. Markmiðið er að byggja upp umboðsmann með litla sjálfvirkni sem les nýjan miða, safnar samhengi, skrifar svar og sendir miðann í rétta biðröð. Manneskja samþykkir samt sem áður allt sem snýr að viðskiptavinum.

Það sem aðstoðarmaðurinn þarfnast

Til að vinna örugglega þarf umboðsmaðurinn lítið, stýrt sett af inntaki og verkfærum:

Texti miðans sem kemur inn
Tegund viðskiptavinaáskriftar, aldur reiknings og nýleg greiðslustaða
Nýleg breytingaskrá fyrir vöru eða þekkt atvik
Greinar frá innri hjálparmiðstöð
Tól til að uppfæra miða með takmörkuðum reitum
Tól til að svara drögum, ekki tól til að senda tölvupóst
Skýr stefna um uppstigun

Verkfæralistinn ætti viljandi að vera þröngur:

leitar_hjálpar_miðstöð(fyrirspurn)
fá_viðskiptavinastöðu(viðskiptavinaauðkenni)
athuga_þekkt_atvik(vörusvæði)
uppfæra_miða_flokk(miðaauðkenni, flokkur, forgangur)
drög_svar(miða_auðkenni, svartexti)
escalate_to_human(miðaauðkenni, ástæða)

Takið eftir því sem vantar: það er ekkert tól til að „endurgreiða viðskiptavini“, „loka reikningi“ eða „senda lokasvar“. Þessar aðgerðir eru of áhættusamar fyrir fyrstu útgáfu.

Dæmi um leiðbeiningar

Þú ert stuðningsfulltrúi fyrir SaaS vöru.

Verkefni þitt er að flokka innkomandi mál, safna aðeins nauðsynlegu samhengi, semja drög að svari og ákveða hvort málinu skuli vísað áfram.

Reglur:

Ekki senda svör beint til viðskiptavina.

Notið hjálparmiðstöðina áður en þið svarið spurningum um vöruna.

Athugaðu stöðu viðskiptavinar áður en þú svarar spurningum um reikninga, áskrift eða aðgang.

Ef viðskiptavinurinn nefnir lagalegar ógnir, gagnatap, öryggismál, greiðslumisheppnaða hegðun, lokun reiknings eða reiðilegt orðbragð, skal láta vita af málinu við manneskju.

Ef svarið er ekki stutt af sóttu efni hjálparmiðstöðvarinnar eða reikningsgögnum, tilgreinið þá hvað vantar og sendið málið áfram.

Stöðva eftir hámark 6 verkfæraköll.

Mál er aðeins „lokið“ þegar það hefur flokk, forgang, samantekt sönnunargagna, drög að svari og annað hvort „mannlegt samþykki þarf“ eða „stigvísað“.

Hvernig á að prófa það

Byrjaðu með 30 prufumiðum áður en þú tengir það við notendur í rauntíma:

10 venjulegar spurningar, svo sem endurstilling lykilorðs, áskriftarmörk og einfaldar spurningar um „hvernig geri ég það?“
5 reikningsmiðar
5 villutilkynningar
5 óljós miðar þar sem upplýsingar vantar
5 áhættusöm miðagjöld, svo sem öryggisáhyggjur, endurgreiðslukröfur og reiðilegar kvartanir

Fyrir hvert miða, stig:

Valdi það rétta flokkinn?
Notaði það rétta tólið áður en svarað var?
Kom það í veg fyrir óstuddar fullyrðingar?
Hefur það aukið líkur á áhættusömum miðum?
Þurfti drögin að breytast verulega?

Einfalt töflureikni með því að standast/fella er nóg í byrjun. Ekki ofgera matskerfið áður en þú veist hvort umboðsmaðurinn er að skila verðmætum.

Niðurstaða

Dæmigert niðurstaða: Með því að tímasetja 30 sýnishorn af miðum fyrir og eftir notkun þessa vinnuflæðis gæti þjónustufulltrúi mælt eftirfarandi:

Meðaltími fyrstu flokkunar styttist úr 6 mínútum á hvert miða í 90 sekúndur
30 miðar flokkaðir á 45 mínútum í stað 3 klukkustunda
27 af 30 miðum settir í réttan flokk
5 af 5 áhættusömum miðum voru rétt afgreidd
Engin svör frá viðskiptavinum send án samþykkis manna

Þessar tölur eru dæmi um mat, ekki viðmiðunargildi. Mælingin er auðveld í endurtekningu: tímamælið sama hóp prófunarmiða handvirkt, keyrið þá síðan í gegnum umboðsmanninn og berið saman nákvæmni flokka, nákvæmni stigvaxandi mælinga og tíma í breytingum.

Hvað getur farið úrskeiðis

Umboðsmaðurinn getur samt mistekist á mjög venjulegan hátt.

Það gæti flokkað pirraðan en einfaldan viðskiptavin sem „áríðandi“ vegna þess að orðalagið hljómar reiður. Það gæti samið öruggt svar úr úreltri hjálpargrein. Það gæti haldið áfram að leita þegar rétta skrefið er að auka málsákvörðunina. Það gæti afhjúpað of margar upplýsingar um reikninginn í svardrögum.

Lausnin er ekki að „skrifa betri fyrirmæli“ og vona. Bættu við hörðum takmörkunum:

Hækka tilkynningu þegar reikningsskila-, öryggis-, lagaleg eða uppsagnarorð birtast
Krefjast tilvitnana úr innri hjálpargreinum í samantekt sönnunargagna
Halda „senda svar“ á bak við samþykki manna
Skráðu öll verkfæraköll og lokadrög
Endurkeyrðu 30 miða prófunarpakkann eftir hverja fyrirspurn, tól eða stefnubreytingu

Hagnýtt skyndibita

Verðmætur umboðsmaður þarf ekki mikið sjálfræði. Í þessu dæmi kemur verðmætið úr stýrðri lykkju: lesið miðann, sækið rétt samhengi, flokkið hann, semjið svar og hættið til yfirferðar. Það er miklu auðveldara að treysta, prófa og bæta en umboðsmaður sem reynir að „taka við þjónustu“ með einni risastórri fyrirspurn.

Algengar spurningar

Hvað er gervigreindaraðili, í einföldu máli?

Gervigreindarfulltrúi er í grundvallaratriðum lykkja sem endurtekur sig: tekur við inntaki, ákveður næsta skref, notar tól, les niðurstöðuna og endurtekur þar til því er lokið. „Umboðsmaðurinn“ kemur frá því að bregðast við og fylgjast með, ekki bara spjalla. Margir umboðsmenn eru bara snjall sjálfvirkni með aðgang að tólum, á meðan aðrir hegða sér frekar eins og yngri rekstraraðili sem getur jafnað sig eftir villur.

Hvenær ætti ég að smíða gervigreindarumboðsmann í stað þess að nota bara fyrirmæli?

Búið til umboðsmann þegar verkið er margþrepa, breytingar byggjast á millistigum og þarfnast áreiðanlegrar notkunar verkfæra (API, gagnagrunna, miðasölu, kóðaframkvæmdar). Umboðsmenn eru einnig gagnlegir þegar þú vilt endurtaka niðurstöður með öryggisráðstöfunum og leið til að athuga hvort allt sé „lokið“. Ef einföld skjót viðbrögð virka, þá er umboðsmaður venjulega óþarfur kostnaður og auka bilunarhamir.

Hvernig bý ég til gervigreindarumboðsmann sem festist ekki í lykkjum?

Notið skilyrði fyrir hörð stöðvun: hámark skref, hámark verkfæraköll og skýrar athuganir á lokum. Bætið við skipulögðum verkfæraskema, tímamörkum og endurteknum tilraunum sem reyna ekki að eilífu. Skráið ákvarðanir og verkfæraúttak svo þið getið séð hvar það fer af sporinu. Algengur öryggisventill er stigvaxandi öryggi: ef umboðsmaðurinn er óviss eða endurtekur villur ætti hann að biðja um hjálp frekar en að improvisera.

Hver er lágmarksarkitektúrinn fyrir Hvernig á að byggja upp gervigreindarumboðsmann?

Að lágmarki þarftu stýringarlykkju sem gefur líkaninu markmið og samhengi, biður um næstu aðgerð, keyrir tól ef þess er óskað, bætir við athuguninni og endurtekur. Þú þarft einnig tól með ströngum inntaks-/úttaksformum og „lokið“ athugun. Jafnvel „rúllaðu-þína-eigin“ lykkja getur virkað vel ef þú heldur ástandinu hreinu og framfylgir skrefamörkum.

Hvernig ætti ég að hanna verkfæraköll svo þau séu áreiðanleg í framleiðslu?

Haltu verkfærum þröngum, gerðum, heimildum og staðfestum — forðastu almennt „gerðu_hvað_sem_er“ verkfæri. Kjósið strangar skemur (eins og skipulagða úttak/fallköll) svo að umboðsmaðurinn geti ekki handvirkt viftað inntak. Bætið við leyfislistum, hraðatakmörkunum og heimildarprófunum notenda/fyrirtækja á verkfæralaginu. Hönnið verkfæri þannig að það sé öruggt að keyra þau aftur þegar það er mögulegt, með því að nota ósamhæfðar mynstur.

Hver er besta leiðin til að bæta við minni án þess að gera umboðsmanninn verri?

Meðhöndlið minni sem tvo hluta: skammtíma keyrsluástand (nýleg skref, núverandi áætlun, takmarkanir) og langtímasókn (stillingar, stöðugar reglur, viðeigandi skjöl). Haldið skammtíma sókn þjöppuðum með keyrslusamantektum, ekki fullum afritum. Fyrir langtímaminni er sókn (innfellingar + vigurgeymsla/RAG-mynstur) venjulega betri en að „troða“ öllu í samhengi og rugla líkanið.

Hvaða skipulagsmynstur ætti ég að nota: gátlista, ReAct eða starfsmann-yfirumsjónarmann?

Gátlistaskipuleggjandi er frábær þegar verkefni eru fyrirsjáanleg og þú vilt eitthvað auðvelt að prófa. Lykkjur í ReAct-stíl skína þegar niðurstöður verkfæra breyta því sem þú gerir næst. Mynstur yfirmanns og starfsmanns (eins og hlutverkaskipting í AutoGen-stíl) hjálpa þegar hægt er að samsíða verkefnum eða njóta góðs af aðskildum hlutverkum (rannsakandi, forritari, gæðaeftirlit). Skipuleggja-síðan-framkvæma með endurskipulagningu er hagnýt millileið til að forðast þrjóskar slæmar áætlanir.

Hvernig geri ég umboðsmann öruggan ef hann getur gripið til raunverulegra aðgerða?

Notið heimildir með minnstu réttindum og takmörkið áhættusöm verkfæri á bak við samþykki eða „prófunar“ stillingar. Bætið við fjárhagsáætlunum og hámarki: hámarksskrefum, hámarksútgjöldum og takmörkunum á verkfæraköllum á mínútu. Fjarlægið viðkvæm gögn fyrir skráningu og aðskiljið þróunar- frá framleiðsluumhverfi. Krefjist óvissumerkja eða skýringarspurninga þegar inntak er óljóst, í stað þess að láta traust koma í stað sönnunargagna.

Hvernig prófa ég og met gervigreindarumboðsmann svo hann batni með tímanum?

Búið til atburðarásarsafn með hamingjusömum ferlum, brúnartilvikum, bilunum í verkfærum, óljósum beiðnum og tilraunum til innspýtingar á fyrirmælum (í stíl OWASP). Metið niðurstöður eins og velgengni verkefna, tíma til að ljúka, bata eftir villur í verkfærum og fullyrðingar án sönnunargagna. Í hvert skipti sem þú breytir verkfæraskema, fyrirmælum, sókn eða sniði minnis skaltu keyra pakkann aftur. Ef þú getur ekki prófað hann geturðu ekki sent hann áreiðanlega.

Hvernig set ég upp umboðsmann án þess að auka seinkun og kostnað?

Algengt mynstur er ástandslaus stýring með ytri ástandsgeymslu (DB/Redis), tólþjónustu á bak við hana og öflugri skráningu/eftirliti (oft OpenTelemetry). Stjórnið kostnaði með skyndiminni fyrir sókn, þjöppuðum ástandsyfirlitum, minni líkönum fyrir leiðsögn/útdrátt og með því að takmarka „djúpa hugsun“ við erfiðustu skrefin. Notið biðraðir fyrir löng verkefni svo þið haldið ekki vefbeiðnum opnum. Hafið alltaf með neyðarrofa.

Heimildir

Þjóðarstofnun staðla og tækni (NIST) - NIST AI RMF 1.0 (traustur og gagnsæi) - nvlpubs.nist.gov
OpenAI - Skipulögð úttak - platform.openai.com
OpenAI - Leiðbeiningar um að kalla á virkni - platform.openai.com
OpenAI - Leiðbeiningar um hraðatakmörkun - platform.openai.com
OpenAI - Keyrir API - platform.openai.com
OpenAI - Aðstoðarmenn kalla á virkni - platform.openai.com
LangChain - Umboðsmenn skjöl (JavaScript) - docs.langchain.com
LangChain - Verkfæri skjöl (Python) - docs.langchain.com
LangChain - Yfirlit yfir minni - docs.langchain.com
arXiv - ReAct grein (ástæða + athöfn) - arxiv.org
arXiv - RAG grein - arxiv.org
Amazon Web Services (AWS) Builders' Library - Tímamörk, endurtekningar og bakköst með titringi - aws.amazon.com
OpenTelemetry - Kynning á mælanleika - opentelemetry.io
Stripe - Ósamhæfðar beiðnir - docs.stripe.com
Google Cloud - Endurtekningaraðferð (bakfærsla + titringur) - docs.cloud.google.com
OWASP - Topp 10 fyrir stór tungumálalíkön - owasp.org
OWASP - LLM01 Hvetjandi innspýting - genai.owasp.org
LlamaIndex - Kynning á RAG - developers.llamaindex.ai
Microsoft - Merkingarfræðilegur kjarni - learn.microsoft.com
Microsoft AutoGen - Fjölþáttaumboðsrammi (skjölun) - microsoft.github.io
CrewAI - Hugtök umboðsmanna - docs.crewai.com
Heystakka (djúpset) - Skjölun um sækihunda - docs.haystack.deepset.ai

Finndu nýjustu gervigreindina í opinberu versluninni fyrir gervigreindaraðstoðarmenn

Um okkur

Til baka á bloggið