Kuidas käivitada LLMChainid LangChainis?

Kuidas Kaivitada Llmchainid Langchainis



LangChain on raamistik, mis võimaldab arendajatel luua suuri keelemudeleid või vestlusmudeleid, mida inimesed saavad teabe hankimiseks kasutada. Neid mudeleid saab kasutada loomulikes keeltes suhtlemiseks pärast tekstide genereerimise käskluste mõistmist. LLM-id või vestlusrobotid kasutavad inimestega suhtlemiseks kette, salvestades eelnevad sõnumid vaatlusteks, et saada vestluse konteksti.

See juhend illustreerib LLMChainide käitamise protsessi LangChainis.

Kuidas käivitada LLMChainid LangChainis?

LangChain pakub funktsioone või sõltuvusi LLM-ahelate loomiseks, kasutades LLM-e/vestlusboteid ja viipamalle. LLMChainide loomise ja käitamise protsessi õppimiseks LangChainis järgige lihtsalt järgmist järkjärgulist juhendit:







1. samm: installige paketid

Kõigepealt alustage protsessiga, installides LangChaini mooduli, et saada selle sõltuvused LLMChainide ehitamiseks ja käitamiseks:



pip install langchain



Installige OpenAI raamistik, kasutades käsku pip, et panna teegid kasutama OpenAI() funktsiooni LLM-ide loomiseks:





pip install openai

Pärast moodulite paigaldamist lihtsalt seada keskkonda muutujad, kasutades OpenAI konto API-võtit:



importida sina

importida saada pass

sina . umbes [ 'OPENAI_API_KEY' ] = saada pass . saada pass ( 'OpenAI API võti:' )

2. samm: importige teegid

Kui häälestus on lõpule viidud ja kõik vajalikud paketid installitud, importige viipamalli loomiseks vajalikud teegid. Pärast seda looge lihtsalt LLM, kasutades OpenAI() meetodit ja konfigureerige LLMChain, kasutades LLM-e ja viipamalli:

alates langchain importida PromptMall

alates langchain importida OpenAI

alates langchain importida LLMChain

prompt_template = 'Andke mulle hea nimetus ettevõttele, mis valmistab toodet {product}?'

llm = OpenAI ( temperatuuri = 0 )

llm_chain = LLMChain (

llm = llm ,

viip = PromptMall. from_template ( prompt_template )

)

llm_chain ( 'värvilised riided' )

3. samm: ahelate käivitamine

Hankige sisendloend, mis sisaldab erinevaid ettevõtte toodetud tooteid, ja käivitage kett, et loendit ekraanil kuvada:

input_list = [
{ 'toode' : 'sokid' } ,
{ 'toode' : 'arvuti' } ,
{ 'toode' : 'kingad' }
]

llm_chain. kohaldada ( input_list )

Käivitage meetod gener () kasutades input_list LLMChainsiga, et saada mudeli loodud vestlusega seotud väljund:

llm_chain. genereerida ( input_list )

4. samm: ühe sisendi kasutamine

Lisage LLMChainide käitamiseks veel üks toode, kasutades ainult ühte sisendit, ja seejärel ennustage, et LLMChain loob väljundi:

llm_chain. ennustada ( toode = 'värvilised sokid' )

5. samm: mitme sisendi kasutamine

Nüüd looge mall mitme sisendi kasutamiseks mudelile käsu andmiseks enne ahela käivitamist:

malli = '''Räägi mulle {omadussõna} nali teemal {subject}.'''
viip = PromptMall ( malli = malli , sisend_muutujad = [ 'omadussõna' , 'teema' ] )
llm_chain = LLMChain ( viip = viip , llm = OpenAI ( temperatuuri = 0 ) )

llm_chain. ennustada ( omadussõna = 'kurb' , teema = 'pardid' )

6. samm: väljundparseri kasutamine

See samm kasutab väljundparseri meetodit LLMChaini käivitamiseks, et saada väljund viipa alusel:

alates langchain. väljund_parserid importida CommaSeparatedListOutputParser

väljund_parser = CommaSeparatedListOutputParser ( )

malli = '''Loetlege kõik vikerkaarevärvid'''

viip = PromptMall ( malli = malli , sisend_muutujad = [ ] , väljund_parser = väljund_parser )

llm_chain = LLMChain ( viip = viip , llm = llm )

llm_chain. ennustada ( )

Parse() meetodi kasutamine väljundi saamiseks genereerib komadega eraldatud loendi kõigist vikerkaarevärvidest:

llm_chain. ennusta_ja_parse ( )

7. samm: lähtestamine stringidest

See samm selgitab stringi kasutamist viipana LLMChaini käivitamiseks, kasutades LLM-mudelit ja malli:

malli = '''Räägi mulle {omadussõna} nali teemal {subject}'''

llm_chain = LLMChain. from_string ( llm = llm , malli = malli )

Sisestage stringiviipa muutujate väärtused, et saada mudelist väljund, käivitades LLMChaini:

llm_chain. ennustada ( omadussõna = 'kurb' , teema = 'pardid' )

See kõik puudutab LLMChainide käitamist LangChaini raamistiku abil.

Järeldus

LLMChainide loomiseks ja käitamiseks LangChainis installige eeltingimused (nt paketid) ja seadistage keskkond OpenAI API-võtme abil. Pärast seda importige vajalikud teegid LLMChaini käitamise viipamalli ja mudeli konfigureerimiseks, kasutades LangChaini sõltuvusi. Kasutaja saab LLMChainide käivitamiseks kasutada väljundparsereid ja stringikäske, nagu on näidatud juhendis. Selles juhendis on üksikasjalikult kirjeldatud LLMChainide käitamise täielikku protsessi LangChainis.