LangChain on raamistik vestlusmudelite ja LLM-ide loomiseks, et saada teavet andmestikust või Internetist, kasutades OpenAI keskkonda. Struktureeritud väljundparserit kasutatakse mitme välja või vastuse saamiseks, nagu tegelik vastus ja täiendav seotud teave. Väljundparseri teeke saab kasutada koos LangChainiga andmete eraldamiseks, kasutades LLM-ide või vestlusmudelitena ehitatud mudeleid.
See postitus demonstreeris struktureeritud väljundparseri kasutamise protsessi LangChainis.
Kuidas kasutada LangChainis struktureeritud väljundparserit?
Struktureeritud väljundparseri kasutamiseks LangChainis tehke lihtsalt järgmised sammud.
1. samm: installi eeltingimused
Alustage protsessi LangChaini raamistiku installimisega, kui see pole veel teie Pythoni keskkonda installitud:
pip installida langchain
Installige OpenAI raamistik, et pääseda juurde selle meetoditele parseri loomiseks LangChainis:
pip installida openai
Pärast seda looge lihtsalt ühendus OpenAI keskkonnaga, kasutades selle API-võtit, et pääseda oma keskkonda, kasutades nuppu ' sina ” teek ja sisestage API võti, kasutades käsku „ saada pass ” raamatukogu:
importida meidimpordi getpass
os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API võti:' )
2. samm: koostage väljundi/vastuse skeem
Pärast OpenAI-ga ühenduse loomist importige lihtsalt teegid, et luua väljundi genereerimise skeem:
langchain.output_parsers import StructuredOutputParser, ResponseSchemafailist langchain.prompts importige PromptTemplate, ChatPromptTemplate, HumanMessagePromptTemplate
langchain.llms-ist importige OpenAI
langchain.chat_models impordib ChatOpenAI-d
Määrake vastuse skeem vastavalt nõudele, et mudel genereeriks vastuse vastavalt:
vastuse_skeemid = [Vastuseskeem ( nimi = 'vastus' , kirjeldus = 'vastus päringule' ) ,
Vastuseskeem ( nimi = 'allikas' , kirjeldus = 'Veebisaidi allikas, mida kasutatakse vastuse saamiseks' )
]
output_parser = StructuredOutputParser.from_response_schemas ( vastuse_skeemid )
3. samm: vormindage mall
Pärast väljundi skeemi seadistamist määrake lihtsalt sisendi mall loomulikus keeles, et mudel saaks küsimustest aru enne vastuse hankimist:
format_instructions = output_parser.get_format_instructions ( )prompt = PromptMall (
malli = 'Vastake kasutaja küsimusele. \n {template} \n {query}' ,
sisend_muutujad = [ 'päring' ] ,
osalised_muutujad = { 'mall' : form_instructions }
)
1. meetod: keelemudeli kasutamine
Pärast küsimuste ja vastuste vormingumallide konfigureerimist looge lihtsalt mudel funktsiooni OpenAI() abil:
mudel = OpenAI ( temperatuuri = 0 )
Seadke viip jaotises ' päring ” muutuja ja edastage see format_prompt() toimige sisendina ja seejärel salvestage vastus kausta ' väljund ” muutuja:
_input = prompt.format_prompt ( päring = 'Mitu kontinenti on maailmas' )väljund = mudel ( _input.to_string ( ) )
Helistage parse () funktsioon, mille argumendiks on väljundmuutuja, et saada mudelilt vastus:
väljund_parser.parse ( väljund )
Väljundparser saab päringule vastuse ja kuvab üksikasjaliku vastuse koos lingiga veebisaidi lehele, mida vastuse saamiseks kasutatakse:
2. meetod: vestlusmudeli kasutamine
LangChainis väljundparserist tulemuste saamiseks kasutage vestlus_mudel muutuja allpool:
chat_model = ChatOpenAI ( temperatuuri = 0 )
Viipa mõistmiseks konfigureerige vestlusmudeli jaoks viipamall. Seejärel genereerige vastus vastavalt sisendile:
prompt = ChatPromptTemplate (sõnumid = [
HumanMessagePromptTemplate.from_template ( 'Vastake kasutaja küsimusele. \n {format_instructions} \n {query}' )
] ,
sisend_muutujad = [ 'päring' ] ,
osalised_muutujad = { 'format_juhised' : form_instructions }
)
Pärast seda sisestage lihtsalt sisend jaotisesse ' päring ” muutuja ja seejärel edastage see chat_model() funktsioon mudeli väljundi saamiseks:
_input = prompt.format_prompt ( päring = 'USA tähistab' )väljund = vestlus_mudel ( _input.to_messages ( ) )
Vestlusmudelilt vastuse saamiseks kasutage faili output_parser, mis salvestab tulemuse ' väljund ” muutuja:
väljund_parser.parse ( väljund.sisu )
Vestlusmudel kuvas päringu vastuse ja veebisaidi nime, mida kasutatakse Internetist vastuse saamiseks:
See kõik puudutab struktureeritud väljundparseri kasutamist LangChainis.
Järeldus
LangChainis struktureeritud väljundparseri kasutamiseks installige protsessiga alustamiseks lihtsalt moodulid LangChain ja OpenAI. Pärast seda looge ühendus OpenAI keskkonnaga, kasutades selle API-võtit, ja seejärel konfigureerige mudeli viiba- ja vastusemallid. Väljundparserit saab kasutada kas keelemudeli või vestlusmudeliga. See juhend selgitab väljundparseri kasutamist mõlema meetodi puhul.