Kuidas kasutada vestluspuhvri akent LangChainis?
Vestluspuhvri akent kasutatakse vestluse viimaste sõnumite mällu hoidmiseks, et saada uusim kontekst. See kasutab K väärtust sõnumite või stringide mällu salvestamiseks, kasutades LangChaini raamistikku.
LangChainis vestluspuhvri akna kasutamise õppimiseks lugege lihtsalt läbi järgmine juhend:
1. samm: installige moodulid
Alustage vestluspuhvri akna kasutamist, installides vestlusmudelite koostamiseks vajalike sõltuvustega LangChain mooduli:
pip install langchain
Pärast seda installige OpenAI moodul, mida saab kasutada LangChainis suurte keelemudelite loomiseks:
pip install openai
Nüüd seadistada OpenAI keskkond LLM-i kettide loomiseks, kasutades OpenAI konto API-võtit:
importida sina
importida saada pass
sina . umbes [ 'OPENAI_API_KEY' ] = saada pass . saada pass ( 'OpenAI API võti:' )
2. samm: vestluspuhvri akna mälu kasutamine
Vestluspuhvri aknamälu kasutamiseks LangChainis importige ConversationBufferWindowMemory raamatukogu:
alates langchain. mälu importida ConversationBufferWindowMemorySeadistage mälu, kasutades nuppu ConversationBufferWindowMemory () meetod, mille argumendiks on k väärtus. K väärtust kasutatakse vestluse viimaste sõnumite säilitamiseks ja seejärel treeningandmete konfigureerimiseks sisend- ja väljundmuutujate abil:
mälu = ConversationBufferWindowMemory ( k = 1 )mälu. salvesta_kontekst ( { 'sisend' : 'Tere' } , { 'väljund' : 'Kuidas sul läheb' } )
mälu. salvesta_kontekst ( { 'sisend' : 'Ma olen hea, aga sina' } , { 'väljund' : 'mitte palju' } )
Testige mälu, helistades numbril load_memory_variables () meetod vestluse alustamiseks:
mälu. load_memory_variables ( { } ) 
Vestluse ajaloo hankimiseks konfigureerige funktsiooni ConversationBufferWindowMemory() abil return_messages argument:
mälu = ConversationBufferWindowMemory ( k = 1 , return_messages = Tõsi )mälu. salvesta_kontekst ( { 'sisend' : 'Tere' } , { 'väljund' : 'mis toimub' } )
mälu. salvesta_kontekst ( { 'sisend' : 'sa mitte palju' } , { 'väljund' : 'mitte palju' } )
Nüüd helistage mälule, kasutades nuppu load_memory_variables () meetod vastuse saamiseks vestluse ajalooga:
mälu. load_memory_variables ( { } ) 
3. samm: puhverakna kasutamine ahelas
Ehitage kett kasutades OpenAI ja Vestlusahel teegid ja seejärel konfigureerige puhvermälu, et salvestada vestluse uusimad sõnumid:
alates langchain. ketid importida Vestlusahelalates langchain. llms importida OpenAI
#vestluse kokkuvõte, kasutades mitut parameetrit
vestlus_kokkuvõttega = Vestlusahel (
llm = OpenAI ( temperatuuri = 0 ) ,
#mälupuhvri ehitamine, kasutades selle funktsiooni väärtusega k viimaste sõnumite salvestamiseks
mälu = ConversationBufferWindowMemory ( k = 2 ) ,
#configure paljusõnaline muutuja loetavama väljundi saamiseks
paljusõnaline = Tõsi
)
vestlus_kokkuvõttega. ennustada ( sisend = 'Tere, mis teoksil' )
Nüüd jätkake vestlust, esitades mudeli pakutava väljundiga seotud küsimuse:
vestlus_kokkuvõttega. ennustada ( sisend = 'Millised on nende probleemid' ) 
Mudel on konfigureeritud salvestama ainult ühte eelmist sõnumit, mida saab kasutada kontekstina:
vestlus_kokkuvõttega. ennustada ( sisend = 'Kas läheb hästi' ) 
Küsige probleemidele lahendust ja väljundstruktuur jätkab puhvri akna libistamist, eemaldades varasemad teated:
vestlus_kokkuvõttega. ennustada ( sisend = 'Mis on lahendus' ) 
See kõik puudutab vestluspuhvri akende LangChain kasutamist.
Järeldus
Vestluspuhvri akna mälu kasutamiseks LangChainis installige lihtsalt moodulid ja seadistage keskkond OpenAI API-võtme abil. Pärast seda looge puhvermälu, kasutades k väärtust, et säilitada konteksti säilitamiseks vestluses uusimad sõnumid. Puhvermälu saab kasutada ka kettidega, et algatada vestlust LLM-i või ketiga. Selles juhendis on üksikasjalikult kirjeldatud vestluspuhvri akna kasutamist LangChainis.