Hugging Face Inference API koos Pythoniga

Hugging Face Inference Api Koos Pythoniga



Hugging Face on identifitseeritud avatud lähtekoodiga tehisintellekti kogukonnana ning see koosneb suurest hulgast avatud lähtekoodiga raamistikest, tööriistadest, arhitektuuridest ja mudelitest tehisintellekti ja loomuliku keele töötlemise mudelite loomiseks ja nendega suhtlemiseks. Hugging Face pakub rakendusega programmeeritavaid häireid kui 'järeldus API'. Seda järelduste API-t kasutatakse masinõppe ja AI mudelite juurutamiseks otsuste tegemiseks ja reaalajas prognoosimiseks. See API võimaldab arendajatel kasutada eelkoolitatud NLP-mudeleid, et anda ennustusi uue andmestiku kohta.

Süntaks:

Hugging Face pakub mitmesuguseid teenuseid, kuid üks selle laialdaselt kasutatavaid teenuseid on API. API võimaldab eelkoolitatud tehisintellekti ja suurte keelemudelite interaktsiooni erinevate rakendustega. Hugging Face pakub API-sid erinevatele mudelitele, nagu on loetletud järgmises:

  • Teksti genereerimise mudelid
  • Tõlkemudelid
  • Mudelid tunnete analüüsimiseks
  • Virtuaalsete agentide (intelligentsed vestlusrobotid) arendamise mudelid
  • Klassifikatsioon ja regressioonimudelid

Avastame nüüd meetodi Hugging Face'i isikupärastatud järelduste API hankimiseks. Selleks peame esmalt registreerima end Hugging Face ametlikul veebisaidil. Liituge selle Hugging Face kogukonnaga, registreerudes sellel veebisaidil oma mandaatidega.









Kui oleme Hugging Face'is konto saanud, peame nüüd taotlema järelduste API-t. API taotlemiseks avage konto seaded ja valige „Juurdepääsuluba“. Avaneb uus aken. Valige suvand 'New Token' ja seejärel looge token, sisestades esmalt märgi nime ja selle rolli 'KIRJUTA'. Uus tunnus luuakse. Nüüd peame selle märgi salvestama. Kuni selle hetkeni on meil kallistava näo märk. Järgmises näites näeme, kuidas saame seda märki kasutada järelduste API saamiseks.







Näide 1: Prototüüpimine Hugging Face Inference API abil

Siiani arutasime Hugging Face'i kasutamise alustamise meetodit ja initsialiseerisime Hugging Face'i märgi. See näide näitab, kuidas saame seda äsja loodud luba kasutada konkreetse mudeli (masinõppe) jaoks järelduste API hankimiseks ja selle kaudu prognooside tegemiseks. Valige Hugging Face kodulehelt mis tahes mudel, millega soovite töötada ja mis on teie probleemi jaoks asjakohane. Oletame, et tahame töötada teksti klassifikatsiooni või sentimentaalanalüüsi mudeliga, nagu on näidatud nende mudelite loendi järgmises väljavõttes:



Valime selle mudeli hulgast sentimentianalüüsi mudeli.

Pärast mudeli valimist ilmub selle mudeli kaart. See mudelikaart sisaldab teavet mudeli koolituse üksikasjade ja mudeli omaduste kohta. Meie mudel on roBERTa-base, mis on tundeanalüüsi jaoks koolitatud 58M säutsuga. Sellel mudelil on kolm põhiklassi silti ja see liigitab iga sisendi oma asjakohastesse klassisiltidesse.

Kui valime pärast mudeli valimist akna paremas ülanurgas asuva juurutusnupu, avab see rippmenüü. Sellest menüüst peame valima valiku „Järeldus API”.

Järeldus API annab seejärel täieliku selgituse selle kohta, kuidas seda konkreetset mudelit selle järeldusega kasutada, ja võimaldab meil kiiresti luua AI mudeli prototüübi. Järeldus API aknas kuvatakse Pythoni skriptis kirjutatud kood.

Kopeerime selle koodi ja käivitame selle mis tahes Pythoni IDE-s. Kasutame selleks Google Colabi. Pärast selle koodi käivitamist Pythoni kestas tagastab see väljundi, mis on kaasas skoori ja sildi ennustusega. See silt ja skoor antakse vastavalt meie sisendile, kuna valisime 'teksti sentimentaalanalüüsi' mudeli. Seejärel on mudelile antud sisendiks positiivne lause ja mudel on eelnevalt koolitatud kolme sildiklassi jaoks: silt 0 tähendab negatiivset, silt1 viitab neutraalsele ja silt 2 on seatud positiivseks. Kuna meie sisend on positiivne lause, on mudeli skoori ennustus rohkem kui ülejäänud kaks silti, mis tähendab, et mudel ennustas lauset 'positiivseks'.

importida taotlusi

API_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
päised = { 'Autoriseerimine' : 'Kandja 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' }

def päring ( kasulik koormus ) :
vastuseks = taotlusi. postitus ( API_URL , päised = päised , json = kasulik koormus )
tagasi vastuseks. json ( )

väljund = päring ( {
'sisendid' : 'Ma tunnen end hästi, kui olete minuga' ,
} )

Väljund:

Näide 2: Kokkuvõtte mudel järelduse kaudu

Järgime samu samme, mis on näidatud eelmises näites, ja prototüüpime kokkuvõtliku mudeli siini, kasutades Hugging Face'i järelduste API-t. Kokkuvõttemudel on eelkoolitatud mudel, mis võtab kokku kogu teksti, mille me talle sisendina anname. Minge Hugging Face kontole, klõpsake ülemisel menüüribal mudelil ja seejärel valige kokkuvõtte jaoks asjakohane mudel, valige see ja lugege hoolikalt selle mudelikaarti.

Meie valitud mudel on eelkoolitatud BART-mudel ja see on täpselt häälestatud CNN-i e-posti andmestikule. BART on mudel, mis on kõige sarnasem BERT-mudeliga, millel on kodeerija ja dekooder. See mudel on tõhus, kui see on mõistmise, kokkuvõtete tegemise, tõlkimise ja teksti genereerimise ülesannete jaoks peenhäälestatud.

Seejärel valige paremast ülanurgast nupp „juurutamine” ja valige rippmenüüst järeldus API. Järeldus API avab teise akna, mis sisaldab koodi ja juhiseid selle mudeli kasutamiseks selle järeldusega.

Kopeerige see kood ja käivitage see Pythoni shellis.

Mudel tagastab väljundi, mis on sellele sisestatud sisendi kokkuvõte.

Järeldus

Töötasime Hugging Face Inference API kallal ja õppisime, kuidas saame kasutada selle rakenduse programmeeritavat liidest eelkoolitatud keelemudelitega töötamiseks. Kaks näidet, mille me artiklis tegime, põhinesid peamiselt NLP mudelitel. Hugging Face API võib teha imesid, kui tahame välja töötada kiire prototüübi, pakkudes tehisintellekti mudelite kiiret integreerimist meie rakendustesse. Lühidalt, Hugging Face pakub lahendusi kõikidele teie probleemidele alates tugevdamise õppimisest kuni arvutinägemiseni.