Kuidas kasutada LangChainis väljundparserit?

Kuidas Kasutada Langchainis Valjundparserit



LangChain on raamistik, mis sisaldab kõiki sõltuvusi ja teeke, et luua mudeleid, mis võivad luua teksti kujul väljundit. Väljundtekst ekstraheeritakse või genereeritakse loomulikes keeltes, et inimesed saaksid hõlpsasti aru ja suhelda. Väljund peaks aga olema õiges vormingus ja hea, struktureeritud teave võib anda kasutajale igakülgseid teadmisi.

See postitus illustreerib väljundparseri funktsioonide ja klasside kasutamise meetodit LangChaini raamistiku kaudu.

Kuidas kasutada väljundparserit LangChaini kaudu?

Väljundparserid on väljundid ja klassid, mis aitavad saada mudelist struktureeritud väljundit. Väljundparserite kasutamise protsessi õppimiseks LangChainis tehke lihtsalt loetletud sammud:







1. samm: installige moodulid
Esiteks alustage väljundparserite kasutamise protsessi, installides protsessi läbimiseks LangChaini mooduli koos selle sõltuvustega:



pip installida langchain



Pärast seda installige OpenAI moodul, et kasutada selle teeke, nagu OpenAI ja ChatOpenAI:





pip installida openai

Nüüd seadistage keskkond OpenAI jaoks kasutades OpenAI konto API-võtit:



importida meid
impordi getpass

os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API võti:' )

2. samm: importige teegid
Järgmine samm on LangChainist teekide importimine, et kasutada raamistikus väljundparsereid:

failist langchain.prompts importige PromptTemplate
langchain.prompts importige HumanMessagePromptTemplate
püdantilise impordi väljalt
langchain.prompts importida ChatPromptTemplate
langchain.output_parsers impordib PydanticOutputParseri
pydantic impordist BaseModel
pydantic impordi validaatorist
langchain.chat_models impordib ChatOpenAI-d
langchain.llms-ist importige OpenAI
impordiloendi tippimisest

3. samm: looge andmestruktuur
Väljundi struktuuri loomine on suurte keelemudelite väljundparserite oluline rakendus. Enne mudelite andmestruktuuri juurde jõudmist tuleb määratleda mudeli nimi, mida kasutame väljundparserite struktureeritud väljundi saamiseks:

mudeli_nimi = 'text-davinci-003'
temperatuur = 0,0
mudel = OpenAI ( mudeli nimi =mudeli_nimi, temperatuuri = temperatuur )

Nüüd kasutage BaseModelit sisaldavat naljaklassi, et konfigureerida väljundi struktuur, et mudelist nalja saada. Pärast seda saab kasutaja pydantilise klassiga hõlpsalt lisada kohandatud valideerimisloogika, mis võib paluda kasutajal panna paremini vormistatud päring/viipa:

klassi Nali ( Põhimudel ) :
seadistus: str = Väli ( kirjeldus = 'päring nalja kuvamiseks' )
punchline: str = väli ( kirjeldus = 'vasta päringule naljaga' )
#Päringu loogiline valideerimine, kuna mudel peab sellest õigesti aru saama
@ validaator ( 'seadistus' )
def küsimus_lõpeb_küsimusmärgiga ( cls, põld ) :
kui valdkonnas [ - 1 ] ! = '?' :
tõsta ValueError ( 'Halvasti vormistatud küsimus!' )
tagasi valdkonnas

4. samm: viipamalli seadistamine
Seadistage parseri muutuja, mis sisaldab selle parameetreid sisaldavat meetodit PydanticOutputParser().

parser = PydanticOutputParser ( püdantiline_objekt = Nali )

Pärast parseri konfigureerimist määrake lihtsalt viipa muutuja, kasutades meetodit PromptTemplate() päringu/viipa struktuuriga:

prompt = PromptMall (
malli = 'Vasta kasutaja päringule. \n {format_instructions} \n {päring} \n ' ,
sisend_muutujad = [ 'päring' ] ,
osalised_muutujad = { 'format_juhised' : parser.get_format_instructions ( ) }
)

5. samm: testige väljundparserit
Pärast kõigi nõuete konfigureerimist looge muutuja, mis määratakse päringu abil, ja seejärel kutsuge meetod format_prompt() välja:

nalja_päring = 'Räägi mulle mõni nali'
_input = prompt.format_prompt ( päring =nalja_päring )

Nüüd kutsuge väljundmuutuja määratlemiseks funktsioon model().

väljund = mudel ( _input.to_string ( ) )

Lõpetage testimisprotsess, kutsudes parser()-meetodit, mille parameetriks on väljundmuutuja:

parser.parse ( väljund )

See kõik puudutab LangChainis väljundparseri kasutamise protsessi.

Järeldus

Väljundparseri kasutamiseks LangChainis installige moodulid ja seadistage OpenAI keskkond, kasutades selle API-võtit. Pärast seda defineerige mudel ja seejärel konfigureerige väljundi andmestruktuur kasutaja esitatud päringu loogilise valideerimisega. Kui andmestruktuur on konfigureeritud, määrake lihtsalt viipamall ja testige seejärel väljundparserit, et saada mudelist tulemus. See juhend on illustreerinud väljundparseri kasutamist LangChaini raamistikus.