See juhend illustreerib LLMChainide käitamise protsessi LangChainis.
Kuidas käivitada LLMChainid LangChainis?
LangChain pakub funktsioone või sõltuvusi LLM-ahelate loomiseks, kasutades LLM-e/vestlusboteid ja viipamalle. LLMChainide loomise ja käitamise protsessi õppimiseks LangChainis järgige lihtsalt järgmist järkjärgulist juhendit:
1. samm: installige paketid
Kõigepealt alustage protsessiga, installides LangChaini mooduli, et saada selle sõltuvused LLMChainide ehitamiseks ja käitamiseks:
pip install langchain
Installige OpenAI raamistik, kasutades käsku pip, et panna teegid kasutama OpenAI() funktsiooni LLM-ide loomiseks:
pip install openai
Pärast moodulite paigaldamist lihtsalt seada keskkonda muutujad, kasutades OpenAI konto API-võtit:
importida sina
importida saada pass
sina . umbes [ 'OPENAI_API_KEY' ] = saada pass . saada pass ( 'OpenAI API võti:' )
2. samm: importige teegid
Kui häälestus on lõpule viidud ja kõik vajalikud paketid installitud, importige viipamalli loomiseks vajalikud teegid. Pärast seda looge lihtsalt LLM, kasutades OpenAI() meetodit ja konfigureerige LLMChain, kasutades LLM-e ja viipamalli:
alates langchain importida PromptMallalates langchain importida OpenAI
alates langchain importida LLMChain
prompt_template = 'Andke mulle hea nimetus ettevõttele, mis valmistab toodet {product}?'
llm = OpenAI ( temperatuuri = 0 )
llm_chain = LLMChain (
llm = llm ,
viip = PromptMall. from_template ( prompt_template )
)
llm_chain ( 'värvilised riided' )
3. samm: ahelate käivitamine
Hankige sisendloend, mis sisaldab erinevaid ettevõtte toodetud tooteid, ja käivitage kett, et loendit ekraanil kuvada:
input_list = [{ 'toode' : 'sokid' } ,
{ 'toode' : 'arvuti' } ,
{ 'toode' : 'kingad' }
]
llm_chain. kohaldada ( input_list )
Käivitage meetod gener () kasutades input_list LLMChainsiga, et saada mudeli loodud vestlusega seotud väljund:
llm_chain. genereerida ( input_list )
4. samm: ühe sisendi kasutamine
Lisage LLMChainide käitamiseks veel üks toode, kasutades ainult ühte sisendit, ja seejärel ennustage, et LLMChain loob väljundi:
llm_chain. ennustada ( toode = 'värvilised sokid' )5. samm: mitme sisendi kasutamine
Nüüd looge mall mitme sisendi kasutamiseks mudelile käsu andmiseks enne ahela käivitamist:
malli = '''Räägi mulle {omadussõna} nali teemal {subject}.'''viip = PromptMall ( malli = malli , sisend_muutujad = [ 'omadussõna' , 'teema' ] )
llm_chain = LLMChain ( viip = viip , llm = OpenAI ( temperatuuri = 0 ) )
llm_chain. ennustada ( omadussõna = 'kurb' , teema = 'pardid' )
6. samm: väljundparseri kasutamine
See samm kasutab väljundparseri meetodit LLMChaini käivitamiseks, et saada väljund viipa alusel:
alates langchain. väljund_parserid importida CommaSeparatedListOutputParserväljund_parser = CommaSeparatedListOutputParser ( )
malli = '''Loetlege kõik vikerkaarevärvid'''
viip = PromptMall ( malli = malli , sisend_muutujad = [ ] , väljund_parser = väljund_parser )
llm_chain = LLMChain ( viip = viip , llm = llm )
llm_chain. ennustada ( )
Parse() meetodi kasutamine väljundi saamiseks genereerib komadega eraldatud loendi kõigist vikerkaarevärvidest:
llm_chain. ennusta_ja_parse ( )
7. samm: lähtestamine stringidest
See samm selgitab stringi kasutamist viipana LLMChaini käivitamiseks, kasutades LLM-mudelit ja malli:
malli = '''Räägi mulle {omadussõna} nali teemal {subject}'''llm_chain = LLMChain. from_string ( llm = llm , malli = malli )
Sisestage stringiviipa muutujate väärtused, et saada mudelist väljund, käivitades LLMChaini:
llm_chain. ennustada ( omadussõna = 'kurb' , teema = 'pardid' )See kõik puudutab LLMChainide käitamist LangChaini raamistiku abil.
Järeldus
LLMChainide loomiseks ja käitamiseks LangChainis installige eeltingimused (nt paketid) ja seadistage keskkond OpenAI API-võtme abil. Pärast seda importige vajalikud teegid LLMChaini käitamise viipamalli ja mudeli konfigureerimiseks, kasutades LangChaini sõltuvusi. Kasutaja saab LLMChainide käivitamiseks kasutada väljundparsereid ja stringikäske, nagu on näidatud juhendis. Selles juhendis on üksikasjalikult kirjeldatud LLMChainide käitamise täielikku protsessi LangChainis.