Kuidas arvutada PyTorchis tensori skaleerimata gradienti?

Kuidas Arvutada Pytorchis Tensori Skaleerimata Gradienti



Üksikud andmesisestused salvestatakse kujul ' Tensorid ' PyTorchis ja ' gradiendid ” tensorite arvu arvutatakse, kasutades sügava õppimismudeli treeningsilmuses tagurpidi levikut. Mõiste ' skaleerimata ” tähendab, et andmed on toored ja sellega ei kaasne eeltöötlust ega optimeerimist. Tensori skaleerimata gradient annab määratud kadufunktsiooni muutuse tegeliku väärtuse.

Selles ajaveebis arutame, kuidas arvutada PyTorchis Tensori skaleerimata gradienti.







Mis on PyTorchis tensori skaleerimata gradient?

Tensorid on mitmemõõtmelised massiivid, mis sisaldavad andmeid ja võivad töötada PyTorchis GPU-del. Tensoreid, mis sisaldavad andmestiku algandmeid ilma eeltöötluse, teisenduste või optimeerimiseta, nimetatakse skaleerimata tensoriteks. Siiski üks ' Skaleerimata gradient ” erineb skaleerimata tensorist ja tuleb olla ettevaatlik, et neid kahte mitte segamini ajada. Tensori skaleerimata gradient arvutatakse valitud kadufunktsiooni suhtes ja sellel ei ole täiendavaid optimeerimisi ega skaleerimist.



Kuidas arvutada PyTorchis tensori skaleerimata gradienti?

Tensori skaleerimata gradient on valitud kadufunktsiooni puudutavate sisendandmete muutumise kiiruse tegelik väärtus. Toored gradientandmed on olulised, et mõista mudeli käitumist ja selle edenemist treeningtsükli ajal.



Järgige alltoodud samme, et õppida, kuidas PyTorchis tensori skaleerimata gradienti arvutada.





1. samm: alustage projekti IDE seadistamisega

Google Colaboratory IDE on PyTorchi projektide arendamiseks üks parimaid valikuid, kuna see pakub kiiremaks töötlemiseks tasuta juurdepääsu GPU-dele. Minge Colabi veebisait ja klõpsake nuppu ' Uus märkmik ” võimalus tööle asumiseks:



2. samm: importige Essential Torch Library

Kõik PyTorchi raamistiku funktsioonid sisalduvad jaotises ' Tõrvik ” raamatukogu. Iga PyTorchi projekt algab selle teegi installimise ja importimisega:

!pip install taskulamp

import tõrvik

Ülaltoodud kood töötab järgmiselt:

  • “! pip ” on Pythoni installipakett, mida kasutatakse teekide installimiseks projektidesse.
  • ' importida ” käsku kasutatakse installitud teekide projekti kutsumiseks.
  • See projekt vajab ainult funktsiooni ' tõrvik ” raamatukogu:

3. samm: määrake PyTorchi tensor gradiendiga

Kasuta ' tõrvik.tensor ()' meetod gradiendiga tensori määratlemiseks ' vaatii_grad=Tõsi ” meetod:

A = tõrvik.tensor ([5.0], nõuab_grad = Tõene)

4. samm: määratlege lihtne kadumise funktsioon

Kaofunktsioon defineeritakse lihtsa aritmeetilise võrrandi abil, nagu näidatud:

kadu_funktsioon = A*5

5. samm: arvutage gradient ja printige väljundisse

Kasuta ' tagurpidi ()” meetod skaleerimata gradiendi arvutamiseks, nagu näidatud:

loss_function.backward()

unscaled_grad = A.grad

print('PyTorchi tensori skaleerimata gradient: ', skaleerimata_grad)

Ülaltoodud kood töötab järgmiselt:

  • Kasuta ' tagurpidi ()” meetod skaleerimata gradiendi arvutamiseks tagurpidi levimise teel.
  • Määrake ' A.grad ' juurde ' skaleerimata_grad ” muutuja.
  • Lõpuks kasutage ' printida ()” meetod skaleerimata gradiendi väljundi kuvamiseks:

Märge : meie Colabi märkmikule pääsete juurde siit link .

Pro-Tip

Tensorite skaleerimata gradient võib näidata sisendandmete täpset seost PyTorchi raamistikus oleva närvivõrgu kadufunktsiooniga. Toores redigeerimata gradient näitab, kuidas mõlemad väärtused on süstemaatiliselt seotud.

Edu! Näitasime just, kuidas PyTorchis tensori skaleerimata gradienti arvutada.

Järeldus

Arvutage PyTorchis tensori skaleerimata gradient, määrates esmalt tensori ja seejärel kasutades gradiendi leidmiseks meetodit backward(). See näitab, kuidas süvaõppemudel seob sisendandmed määratletud kadufunktsiooniga. Selles ajaveebis oleme andnud järkjärgulise õpetuse PyTorchis tensori skaleerimata gradiendi arvutamiseks.