Selles ajaveebis keskendume sellele, kuidas saate PyTorchis GPU kasutust suurendada.
Kuidas PyTorchis GPU kasutust suurendada?
GPU kasutuse suurendamiseks ja parimate riistvararessursside kasutamiseks keeruliste masinõppemudelite töötlemiseks saab kasutada mitmeid tehnikaid. Need taktikad hõlmavad koodi redigeerimist ja PyTorchi funktsioonide kasutamist. Mõned olulised näpunäited ja nipid on loetletud allpool:
- Andmete ja partiide suuruste laadimine
- Vähem mälust sõltuvad mudelid
- PyTorchi välk
- Kohandage Google Colabis käitusaja seadeid
- Tühjenda vahemälu optimeerimiseks
Andmete ja partiide suuruste laadimine
' Andmelaadija ” PyTorchis kasutatakse süvaõppemudeli iga edasikäiguga protsessorisse laaditavate andmete spetsifikatsioonide määratlemiseks. Suurem ' partii suurus ” andmeid nõuab rohkem töötlemisvõimsust ja suurendab saadaoleva GPU kasutamist.
Süntaks PyTorchis konkreetse partii suurusega andmelaaduri kohandatud muutujale määramiseks on toodud allpool:
Increase_GPU_Utilization = DataLoader ( partii_suurus = 32 )
Vähem mälust sõltuvad mudelid
Iga mudeli arhitektuur nõuab erinevat mahtu mälu ”, et täita oma optimaalsel tasemel. Mudelid, mis kasutavad tõhusalt vähem mälu ajaühiku kohta, on võimelised töötama teistest palju suuremate partiidega.
PyTorchi välk
PyTorchil on vähendatud versioon, mis on ' PyTorchi välk ”. See on optimeeritud välkkiire jõudluse jaoks, nagu selle nimest näha. Lightning kasutab vaikimisi GPU-sid ja pakub masinõppemudelite jaoks palju kiiremat töötlemist. Lightningi suur eelis on nõude puudumine standardkoodi järele, mis võib töötlemist takistada.
Importige vajalikud teegid PyTorchi projekti allpool toodud süntaksiga:
! pip install taskulamp
! pip install pytorch - välk
importida tõrvik
importida pytorch_lightning
Kohandage Google Colabis käitusaja seadeid
Google Colaboratory on pilve-IDE, mis pakub oma kasutajatele PyTorchi mudelite arendamiseks tasuta GPU-juurdepääsu. Vaikimisi töötavad Colabi projektid CPU-s, kuid seadeid saab muuta.
Avage Colabi märkmik ja minge jaotisse Kestus menüüribal ja kerige alla valikuni ' Muutke käitusaja seadeid ”:
Seejärel valige 'T4 GPU' valik ja klõpsake nuppu ' Salvesta ” muudatuste rakendamiseks GPU kasutamiseks:
Tühjenda vahemälu optimeerimiseks
PyTorch võimaldab kasutajatel tühjendada vahemälu, et vabastada ruumi uute protsesside käitamiseks. ' Vahemälu ” salvestab andmeid ja teavet käitatavate mudelite kohta, et säästa aega, mis kulub nende mudelite uuesti laadimisele. Vahemälu tühjendamine annab kasutajatele rohkem ruumi uute mudelite käitamiseks.
GPU vahemälu tühjendamise käsk on toodud allpool:
tõrvik. erinev . tühi_vahemälu ( ) 
Neid näpunäiteid kasutatakse PyTorchis GPU-dega masinõppemudelite töö optimeerimiseks.
Pro-Tip
Google Colab võimaldab kasutajatel pääseda juurde GPU kasutamise üksikasjadele ' nvidia ”, et saada teavet selle kohta, kus riistvararessursse kasutatakse. GPU kasutamise üksikasjade kuvamise käsk on toodud allpool:
! nvidia - smi 
Edu! Näitasime just mõnda võimalust PyTorchis GPU kasutuse suurendamiseks.
Järeldus
Suurendage PyTorchis GPU kasutust, kustutades vahemälu, kasutades PyTorch Lightningit, kohandades käitusaja sätteid, kasutades tõhusaid mudeleid ja optimaalseid partii suurusi. Need tehnikad aitavad kaugele tagada, et süvaõppe mudelid toimiksid kõige paremini ning suudaksid teha olemasolevatest andmetest kehtivaid järeldusi ja järeldusi. Oleme demonstreerinud GPU kasutuse suurendamise tehnikaid.