Süntaks:
Kuna oleme ChatGPT-ga tuttavad, teame, et see platvorm kuulub avatud AI kogukonnale ning see pakub tööriistu, arhitektuure, API-sid ja mitmeid raamistikke, mida saame kasutada oma rakenduste ja loomuliku keele töötlemise mudelite juurutamisel. Open AI pakub API-sid, mille kaudu saame kasutada Open AI platvormi mis tahes eelkoolitatud AI- ja NLP-mudeleid ning panna need meie rakenduste jaoks tööle, näiteks reaalajas andmete prognoosimiseks. Samuti võimaldab GPT4All oma kasutajatel integreerida oma eelkoolitatud AI-mudeleid erinevate rakendustega.
GPT4All mudelit õpetatakse ChatGPT-ga võrreldes piiratud andmetele. Võrreldes ChatGPT-ga on sellel ka mõned jõudluspiirangud, kuid see võimaldab kasutajal kasutada oma privaatset GPT-d kohalikus riistvaras ja see ei nõua võrguühendusi. Selle artikli abil saame teada, kuidas saame Pythoni skriptis kasutada GPT4All mudeleid, kuna GPT4Allil on Pythoni ametlikud seosed, mis tähendab, et saame kasutada ja integreerida GPT4All mudeleid ka Pythoni skripti kaudu.
Pythoni IDE jaoks mõeldud GPT4All installimiseks on vaja võrgukäsku. Seejärel võime integreerida nii palju AI mudeleid kui meie rakendusi. Käsk selle GPT4All installimiseks Pythonis on järgmine:
$ pip installige gpt4all
Näide 1:
Selle näitega alustamiseks peame Pythoni alla laadima ja oma süsteemidesse installima. Pythoni soovitatavad versioonid on 'versioon 3.7' või need, mis ilmusid pärast seda versiooni. Teine võimalus Pythoniga töötamiseks, et vältida meie süsteemidesse Pythoni seadistuste installimise pikka protsessi, on kasutada Google Colabi, mis on Pythoni pilvepõhine keskkond. Saame seda keskkonda käitada mis tahes veebibrauseris ning luua tehisintellekti ja masinõppe mudeleid. Näited, mida me siin rakendame, täidetakse Google Colabis.
See näide hõlmab meetodit GPT4All installimiseks Pythonis ja selle eelkoolitatud mudelite kasutamist. Alustame esmalt GPT4All installimisega. Selleks käivitatakse käsk, mida me eelnevalt mainisime. Käsu täitmisega laaditakse alla ja installitakse GPT4All koos selle pakettide ja raamistikega.
Nüüd liigume edasi. GPT4All-ist impordime faili GPT4All. See lisab projekti kõik GPT4All eelkoolitatud mudelid. Nüüd võime kasutada mis tahes üksikut mudelit ja panna see meie rakenduse jaoks ennustusi tegema. Kui oleme importinud paketi GPT4All, on nüüd aeg kutsuda see funktsioon välja ja kasutada mudelit GPT4All, mis annab väljundi vestluse lõpuleviimiseks.
Teisisõnu, kui küsime sellelt mudelilt midagi sisendis, tagastab see selle väljundis. Siin kasutatav mudel on 'ggml-gpt4all-j-v1.3-groovy'. Need mudelid on juba GPT4All vahemällu salvestatud. Saame need mudelid hankida sellelt lingilt ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” käsitsi allalaadimiseks. Kui mudel on juba GPT4All vahemälus olemas, kutsume lihtsalt mudeli nime ja määrame selle funktsiooni „GPT4All()” sisendparameetritena. Kui laadisime selle edukalt käsitsi alla, edastame tee kausta, kus mudel asub. Kuna see mudel on mõeldud sõnumi lõpetamiseks, on selle mudeli süntaks järgmine:
$ Chat_completion (sõnumid)Sõnumid on sõnastikloend ja iga sõnastik peaks sisaldama 'rolli' võtit koos kasutaja, süsteemi või assistendi väärtusega ning 'võtme' sisu, mille väärtus on string. Selles näites määrame sisuks „nime kolm värvi” ja rollivõtmeks „kasutaja”.
$mudel= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'kasutaja', 'sisu': 'Nimeta 3 lille'}]
Pärast seda spetsifikatsiooni kutsume koos mudeliga funktsiooni 'chat_completion()'. Selle kood kuvatakse järgmises väljundis:
$ !pip install gpt4allgpt4all impordib GPT4All
mudel = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'kasutaja', 'sisu': 'Nimeta kolm värvi'}]
model.chat_completion(sõnumid)
Pärast selle näite täitmist tagastab mudel vastusena sisendile kolm värvi.
Näide 2:
Käsitleme veel ühte näidet, kus avastame veel ühe meetodi GPT4All kasutamiseks Pythonis. Seda saab teha Pythoni ametlike sidumiste abil, mida pakub avatud lähtekoodiga AI-kogukond 'Nomic' ja see käivitab GPT4All. Kasutades järgmist käsku, integreerime 'nomic' oma Pythoni konsooli:
$ pip install nomicKui see on installitud, impordime faili GPT4All saidilt „nomic.gpt4all”. Pärast GPT4All importimist initsialiseerime GPT4All funktsiooniga 'open()'. Seejärel kutsume välja funktsiooni 'prompt()' ja edastame sellele funktsioonile viipa. Seejärel genereeritakse kiire vastus selle viipa alusel, mille oleme viipamudelile sisendiks andnud.
!pip install nomicfailist nomic.gpt4all importige GPT4All
# Initsialiseerige mudel GPT4All
algata = GPT4All()
algata.open()
# Vastuse genereerimine viipa alusel
model_response = inici.prompt('kirjutage lühilugu arvutist)
# genereeritud vastuse kuvamine
print(mudeli_vastus)
Väljund kuvab kiire vastuse mudelilt, mille lõime Pythonis eelkoolitatud GPT4All mudeli abil. Kui tahame mudelite kohta rohkem teada saada ja kuidas saame neid mudeleid vastuste genereerimiseks kasutada, või lihtsate sõnadega, kui tahame saada teadmisi nende mudelite vastuste genereerimise süntaksi kohta, võime võtta täiendavat abi GPT4Kõik tehnilise dokumentatsiooni üksikasjad.
Järeldus
GPT4All püüab endiselt jõudlustäpsust saavutada. Seda haldab nomic AI platvorm, mille eesmärk on pakkuda oma kasutajatele kunstlikult intelligentseid vestlusroboteid tarbijaklassi protsessorites, kuna GPT4All töötab ilma võrguühenduseta ja GPU-deta. See artikkel õpetab meid PyGPT4Alli oskuslikult kasutama Pythoni keskkonnas ning looma suhtlust meie rakenduste ja eelkoolitatud GPT4All AI mudelite vahel. Selles juhendis käsitlesime kahte erinevat meetodit GPT4All installimiseks Pythonis.