Što je tenzor u TensorFlowu? Oblik, tip i Operaulagatelji
⚡ Pametni sažetak
Tenzori su n-dimenzionalni nizovi koje svako TensorFlow izračunavanje čita i zapisuje, a svaki nosi naziv, oblik i tip podataka. Ovaj vodič gradi konstante, varijable, rezervirana mjesta i operatore, a zatim ih procjenjuje unutar sesije.
Što je tenzor?
Naziv TensorFlow izveden je izravno iz svog središnjeg objekta: tenzora. U TensorFlowu, svako izračunavanje uključuje tenzore. Tenzor je vektor ili matrica od n dimenzija koja predstavlja sve vrste podataka. Sve vrijednosti u tenzoru imaju identičan tip podataka s poznatim (ili djelomično poznatim) oblikom, a oblik podataka je dimenzionalnost matrice ili polja.
Tenzor može poticati od ulaznih podataka ili od rezultata izračuna. U TensorFlowu, sve operacije se provode unutar grafa. Graf je skup izračuna koji se odvijaju uzastopno. Svaka operacija naziva se op čvor, a čvorovi su međusobno povezani.
Grafikon prikazuje operacije i veze između čvorova. Međutim, ne prikazuje vrijednosti. Rub između čvorova je tenzor, tj. način popunjavanja operacije podacima.
U strojnom učenju, modeli se pune popisom objekata koji se nazivaju vektori značajki. Vektor značajki može biti bilo kojeg tipa podataka i obično je primarni ulaz koji popunjava tenzor. Te vrijednosti teku u op čvor kroz tenzor, a rezultat te operacije stvara novi tenzor, koji se pak koristi u novoj operaciji. Sve te operacije mogu se vidjeti na grafu.
Reprezentacija tenzora
U TensorFlowu, tenzor je skup vektora značajki (tj. niz) od n dimenzija. Na primjer, ako imamo matricu 2×3 s vrijednostima od 1 do 6, zapisat ćemo je kao matricu prikazanu u nastavku:
TensorFlow predstavlja ovu matricu kao:
[[1, 2, 3], [4, 5, 6]]
Ako stvorimo trodimenzionalnu matricu s vrijednostima od 1 do 8, isti podaci se crtaju kao kutija s dvije naslagane strane:
TensorFlow predstavlja ovu matricu kao:
[ [[1, 2],
[[3, 4],
[[5, 6],
[[7,8] ]
Napomena: Tenzor se može predstaviti skalarom ili može imati oblik s više od tri dimenzije. Jednostavno je teže vizualizirati više dimenzijske razine.
Vrste tenzora
U TensorFlowu, svi izračuni prolaze kroz jedan ili više tenzora. tf.Tensor je objekt s tri svojstva:
- Jedinstvena oznaka (ime)
- Dimenzija (oblik)
- Vrsta podataka (dtype)
Svaka operacija koju izvodite s TensorFlowom uključuje manipulaciju tenzorom. Postoje četiri glavne vrste tenzora koje možete stvoriti:
tf.Variabletf.constanttf.placeholdertf.SparseTensor
U ovom tutorijalu naučit ćete kako stvoriti tf.constant a tf.Variable.
Prije pokretanja koda treba imati na umu jednu stvar: ovaj vodič prati originalni TensorFlow 1.x API, gdje se graf prvo gradi, a zatim izvršava unutar sesije. TensorFlow 2 se prema zadanim postavkama pokreće brzo, pa je nekoliko simbola u nastavku premješteno ili uklonjeno. Svaki od njih je i dalje dostupan putem tf.compat.v1 prostor imena, a tablica svaki preslikava na njegov moderni ekvivalent.
| Simbol TensorFlow 1.x | Ekvivalent TensorFlow 2 |
|---|---|
tf.placeholder() |
Nije obavezno. Prihvaća se brzo izvršenje. Python ili NumPy vrijednosti izravno i tf.function Parametar igra istu ulogu u grafičkom načinu rada. |
tf.Session() i sess.run() |
Izravno pozovite operaciju i pročitajte rezultat ili završite izračun u tf.function. |
tf.get_variable() |
tf.Variable(), s običnim Python predmeti trackraljujte varijable umjesto kolekcija. |
tf.global_variables_initializer() |
Nije potrebno. A tf.Variable inicijalizira se u trenutku stvaranja. |
tf.div() |
tf.divide()Također imajte na umu da je podtraction op se piše tf.subtract(), Ne tf.substract(). |
Prije nego što prođete kroz tutorial, provjerite jeste li aktivirali conda okruženje u kojem je instaliran TensorFlow. Ovo okruženje se zove hello-tf.
Za macOS Korisnici:
source activate hello-tf
Za Windows Korisnici:
activate hello-tf
Nakon što to učinite, spremni ste za uvoz TensorFlowa.
# Import tf import tensorflow as tf
Stvorite tenzor n-dimenzije
Počinjete stvaranjem tenzora s jednom dimenzijom, naime skalarom.
Za stvaranje tenzora možete koristiti tf.constant() kao što je prikazano u primjeru oblika tenzora TensorFlow u nastavku:
tf.constant(value, dtype, name = "") arguments - `value`: Value of n dimension to define the tensor. Optional - `dtype`: Define the type of data: - `tf.string`: String variable - `tf.float32`: Float variable - `tf.int16`: Integer variable - "name": Name of the tensor. Optional. By default, `Const_1:0`
Za stvaranje tenzora dimenzije 0, pokrenite sljedeći kod.
## rank 0 # Default name r1 = tf.constant(1, tf.int16) print(r1)
Izlaz
Tensor("Const:0", shape=(), dtype=int16)
Tri dijela tog izlaza preslikavaju se na tri svojstva tenzora, kao što jasno pokazuje donja anotirana verzija.
Tenzoru možete dati i vlastito ime pomoću name argument.
# Named my_scalar r2 = tf.constant(1, tf.int16, name = "my_scalar") print(r2)
Izlaz
Tensor("my_scalar:0", shape=(), dtype=int16)
Svaki tenzor prikazuje se svojim nazivom. Svaki objekt tenzora definiran je atributima kao što su jedinstvena oznaka (naziv), dimenzija (oblik) i tip podataka TensorFlow-a (dtype).
Tenzor možete definirati s decimalnim vrijednostima ili s nizom promjenom vrste podataka.
# Decimal r1_decimal = tf.constant(1.12345, tf.float32) print(r1_decimal) # String r1_string = tf.constant("Guru99", tf.string) print(r1_string)
Izlaz
Tensor("Const_1:0", shape=(), dtype=float32) Tensor("Const_2:0", shape=(), dtype=string)
Tenzor dimenzije 1 može se stvoriti na sljedeći način:
## Rank 1 r1_vector = tf.constant([1,3,5], tf.int16) print(r1_vector) r2_boolean = tf.constant([True, True, False], tf.bool) print(r2_boolean)
Izlaz
Tensor("Const_3:0", shape=(3,), dtype=int16) Tensor("Const_4:0", shape=(3,), dtype=bool)
Možete primijetiti da se oblik TensorFlow sastoji od samo jednog stupca.
Za stvaranje niza od 2 tenzorske dimenzije, potrebno je zatvoriti zagrade nakon svakog retka. Pogledajte primjer oblika tenzora u nastavku.
## Rank 2 r2_matrix = tf.constant([ [1, 2], [3, 4] ],tf.int16) print(r2_matrix)
Izlaz
Tensor("Const_5:0", shape=(2, 2), dtype=int16)
Matrica ima 2 retka i 2 stupca ispunjena vrijednostima 1, 2, 3 i 4.
Matrica s 3 dimenzije konstruira se dodavanjem još jedne razine zagrada.
## Rank 3 r3_matrix = tf.constant([ [[1, 2], [3, 4], [5, 6]] ], tf.int16) print(r3_matrix)
Izlaz
Tensor("Const_6:0", shape=(1, 3, 2), dtype=int16)
Rezultat odgovara trodimenzionalnom dijagramu kutije prikazanom ranije u ovom vodiču.
Oblik tenzora
Kada ispisujete tenzor, TensorFlow zaključuje oblik. Međutim, oblik možete pročitati izravno pomoću TensorFlowa. shape nekretnine.
U nastavku konstruirate matricu ispunjenu brojevima od 10 do 15 i provjeravate oblik m_shape.
# Shape of tensor
m_shape = tf.constant([ [10, 11],
[12, 13],
[14, 15] ]
)
m_shape.shape
Izlaz
TensorShape([Dimension(3), Dimension(2)])
Matrica ima 3 retka i 2 stupca.
TensorFlow ima korisne naredbe za stvaranje vektora ili matrice ispunjene s 0 ili 1. Na primjer, ako želite stvoriti 1-D tenzor s određenim oblikom 10, ispunjenim s 0, možete pokrenuti kod u nastavku:
# Create a vector of 0 print(tf.zeros(10))
Izlaz
Tensor("zeros:0", shape=(10,), dtype=float32)
Svojstvo funkcionira i za matricu. Ovdje stvarate matricu 10×10 ispunjenu s 1.
# Create a vector of 1 print(tf.ones([10, 10]))
Izlaz
Tensor("ones:0", shape=(10, 10), dtype=float32)
Oblik dane matrice možete koristiti za izradu vektora jedinica. Matrica m_shape ima dimenzije 3×2, pa sljedeći kod stvara tenzor s 3 reda ispunjena jedinicama:
# Create a vector of ones with the same number of rows as m_shape print(tf.ones(m_shape.shape[0]))
Izlaz
Tensor("ones_1:0", shape=(3,), dtype=float32)
Ako u zagradu unesete vrijednost 1, konstruirate vektor jedinica jednak broju stupaca u matrici. m_shape.
# Create a vector of ones with the same number of column as m_shape print(tf.ones(m_shape.shape[1]))
Izlaz
Tensor("ones_2:0", shape=(2,), dtype=float32)
Konačno, možete stvoriti matricu 3×2 ispunjenu isključivo jedinicama.
print(tf.ones(m_shape.shape))
Izlaz
Tensor("ones_3:0", shape=(3, 2), dtype=float32)
Vrsta podataka
Drugo svojstvo tenzora je tip podataka. Tenzor može istovremeno sadržavati samo jedan tip podataka, a taj tip možete pročitati pomoću dtype nekretnine.
print(m_shape.dtype)
Izlaz
<dtype: 'int32'>
U nekim slučajevima želite promijeniti vrstu podataka. U TensorFlowu je to moguće uz pomoć tf.cast metoda.
Primjer
U nastavku se tenzor s float-om pretvara u cijeli broj s cast metoda.
# Change type of data type_float = tf.constant(3.123456789, tf.float32) type_int = tf.cast(type_float, dtype=tf.int32) print(type_float.dtype) print(type_int.dtype)
Izlaz
<dtype: 'float32'> <dtype: 'int32'>
TensorFlow automatski odabire vrstu podataka kada argument nije naveden tijekom stvaranja tenzora. TensorFlow pogađa najvjerojatniju vrstu podataka: ako, na primjer, proslijedite tekst, on zaključuje da je to niz.
Stvaranje Operahumka
Neki korisni TensorFlow Operaulagatelji
Znate kako stvoriti tenzor s TensorFlowom. Vrijeme je da naučite izvoditi matematičke operacije.
TensorFlow sadrži sve osnovne operacije. Možete početi s jednostavnom i koristiti TensorFlow metodu za izračunavanje kvadratnog korijena broja. Ova operacija je jednostavna jer je za konstrukciju tenzora potreban samo jedan argument.
Kvadratni korijen broja konstruira se pomoću tf.sqrt(x), gdje je x broj s pomičnim zarezom.
x = tf.constant([2.0], dtype = tf.float32)
print(tf.sqrt(x))
Izlaz
Tensor("Sqrt:0", shape=(1,), dtype=float32)
Napomena: Izlaz je vratio objekt tenzora, a ne kvadratni korijen od 2. U ovom primjeru ispisujete definiciju tenzora, a ne stvarnu evaluaciju operacije. U odjeljku Sesija u nastavku saznat ćete kako TensorFlow izvršava operacije.
Slijedi popis često korištenih operacija. Ideja je ista: svaka operacija zahtijeva jedan ili više argumenata.
tf.add(a, b)tf.subtract(a, b)tf.multiply(a, b)tf.divide(a, b)tf.pow(a, b)tf.exp(a)tf.sqrt(a)
Primjer
# Add tensor_a = tf.constant([[1,2]], dtype = tf.int32) tensor_b = tf.constant([[3, 4]], dtype = tf.int32) tensor_add = tf.add(tensor_a, tensor_b) print(tensor_add)
Izlaz
Tensor("Add:0", shape=(1, 2), dtype=int32)
Code Objašnjenje
Napravite dva tenzora:
- jedan tenzor s 1 i 2
- jedan tenzor s 3 i 4
Zbrajate oba tenzora.
Imajte na umu da oba tenzora moraju imati isti oblik. Također možete izvršiti množenje nad dva tenzora.
# Multiply tensor_multiply = tf.multiply(tensor_a, tensor_b) print(tensor_multiply)
Izlaz
Tensor("Mul:0", shape=(1, 2), dtype=int32)
Varijable
Do sada ste kreirali samo konstantne tenzore, što je samostalno ograničene upotrebe. Podaci uvijek stižu s različitim vrijednostima, a za to možete koristiti klasu Variable. Varijabla predstavlja čvor čije se vrijednosti mijenjaju tijekom vremena.
Za stvaranje varijable možete koristiti tf.get_variable() metoda.
tf.get_variable(name = "", values, dtype, initializer) argument - `name = ""`: Name of the variable - `values`: Dimension of the tensor - `dtype`: Type of data. Optional - `initializer`: How to initialize the tensor. Optional If initializer is specified, there is no need to include the `values` as the shape of `initializer` is used.
Na primjer, donji kod stvara dvodimenzionalnu varijablu s dvije slučajne vrijednosti. Prema zadanim postavkama, TensorFlow vraća slučajnu vrijednost. Varijablu nazivate var.
# Create a Variable ## Create 2 Randomized values var = tf.get_variable("var", [1, 2]) print(var.shape)
Izlaz
(1, 2)
U ovom primjeru stvarate varijablu s jednim retkom i dva stupca, pa kao dimenziju varijable prosljeđujete [1, 2].
Početne vrijednosti tenzora također mogu biti nula. Na primjer, kada trenirate model, potrebne su vam početne vrijednosti prije izračuna težine značajki. U nastavku te početne vrijednosti postavljate na nulu.
var_init_1 = tf.get_variable("var_init_1", [1, 2], dtype=tf.int32, initializer=tf.zeros_initializer) print(var_init_1.shape)
Izlaz
(1, 2)
Također možete prenijeti vrijednosti konstantnog tenzora u varijablu. Konstantni tenzor stvarate metodom tf.constant() i upotrijebite taj tenzor za inicijalizaciju varijable.
Prve vrijednosti varijable su 10, 20, 30 i 40. Novi tenzor ima oblik 2×2.
# Create a 2x2 matrix tensor_const = tf.constant([[10, 20], [30, 40]]) # Initialize the first value of the tensor equals to tensor_const var_init_2 = tf.get_variable("var_init_2", dtype=tf.int32, initializer=tensor_const) print(var_init_2.shape)
Izlaz
(2, 2)
Činovnik
Rezervirano mjesto ima svrhu hranjenja tenzora. Rezervirano mjesto inicijalizira podatke koji će teći unutar tenzora. Za opskrbu rezerviranim mjestom koristi se feed_dict argument, a rezervirano mjesto se unosi samo unutar sesije.
U sljedećem primjeru vidjet ćete kako stvoriti rezervirano mjesto pomoću metode tf.placeholderU odjeljku Sesija naučit ćete kako u rezervirano mjesto unijeti stvarnu vrijednost tenzora.
Sintaksa je:
tf.placeholder(dtype,shape=None,name=None ) arguments: - `dtype`: Type of data - `shape`: dimension of the placeholder. Optional. By default, shape of the data - `name`: Name of the placeholder. Optional data_placeholder_a = tf.placeholder(tf.float32, name = "data_placeholder_a") print(data_placeholder_a)
Izlaz
Tensor("data_placeholder_a:0", dtype=float32)
Sjednica
TensorFlow radi oko 3 glavne komponente:
- Grafikon
- tenzor
- Sjednica
| Komponente | Description |
|---|---|
| Grafikon | Graf je temelj TensorFlowa. Sve matematičke operacije (operacije) izvode se unutar grafa. Graf možete zamisliti kao projekt u kojem se izvodi svaka operacija. Čvorovi predstavljaju te operacije i mogu apsorbirati ili stvarati nove tenzore. |
| tenzor | Tenzor predstavlja podatke koji se prenose između operacija. Već ste vidjeli kako inicijalizirati tenzor. Razlika između konstante i varijable je u tome što se početne vrijednosti varijable mijenjaju tijekom vremena. |
| Sjednica | Sesija izvršava operacije iz grafa. Da biste grafu dodali vrijednosti tenzora, morate otvoriti sesiju. Unutar sesije morate pokrenuti operator za stvaranje izlaza. |
Grafovi i sesije su neovisni. Možete pokrenuti sesiju i sačuvati vrijednosti za kasnije daljnje izračune.
U donjem primjeru ćete:
- Napravite dva tenzora
- Stvorite operaciju
- Otvorite sesiju
- Ispišite rezultat
Korak 1) Stvarate dva tenzora x i y
## Create, run and evaluate a session
x = tf.constant([2])
y = tf.constant([4])
Korak 2) Operator stvarate množenjem x i y
## Create operator
multiply = tf.multiply(x, y)
Korak 3) Otvarate sesiju. Svi izračuni se događaju unutar sesije, a kada završite, trebate je zatvoriti.
## Create a session to run the code sess = tf.Session() result_1 = sess.run(multiply) print(result_1) sess.close()
Izlaz
[8]
Code obrazloženje
tf.Session()Otvorite sesiju. Sve operacije se odvijaju unutar sesije.run(multiply): izvršiti operaciju kreiranu u koraku 2print(result_1)Na kraju, možete ispisati rezultatclose()Zatvori sesiju
Rezultat pokazuje 8, što je množenje x i y.
Drugi način za stvaranje sesije je unutar bloka. Prednost je što se sesija automatski zatvara.
with tf.Session() as sess: result_2 = multiply.eval() print(result_2)
Izlaz
[8]
U kontekstu sesije možete koristiti eval() metoda za izvršavanje operacije. To je ekvivalentno run() i čini kod čitljivijim.
Možete stvoriti sesiju i vidjeti vrijednosti unutar tenzora koje ste do sada stvorili.
## Check the tensors created before sess = tf.Session() print(sess.run(r1)) print(sess.run(r2_matrix)) print(sess.run(r3_matrix))
Izlaz
1 [[1 2] [3 4]] [[[1 2] [3 4] [5 6]]]
Varijable su prema zadanim postavkama prazne, čak i nakon što stvorite tenzor. Varijablu morate inicijalizirati prije nego što je možete koristiti. Objekt tf.global_variables_initializer() se poziva za inicijalizaciju vrijednosti svake varijable odjednom, što je korisno prije treniranja modela.
Možete provjeriti vrijednosti varijabli koje ste prethodno kreirali. Imajte na umu da morate koristiti run za procjenu tenzora.
sess.run(tf.global_variables_initializer()) print(sess.run(var)) print(sess.run(var_init_1)) print(sess.run(var_init_2))
Izlaz
[[-0.05356491 0.75867283]] [[0 0]] [[10 20] [30 40]]
Možete upotrijebiti rezervirano mjesto koje ste prethodno kreirali i unijeti stvarnu vrijednost. Podatke morate proslijediti u feed_dict argument.
Na primjer, uzet ćete snagu 2 rezerviranog mjesta data_placeholder_a.
import numpy as np power_a = tf.pow(data_placeholder_a, 2) with tf.Session() as sess: data = np.random.rand(1, 10) print(sess.run(power_a, feed_dict={data_placeholder_a: data})) # Will succeed.
Code Objašnjenje
import numpy as npUvoz numpy biblioteka za stvaranje podatakatf.pow(data_placeholder_a, 2)Stvorite operacijenp.random.rand(1, 10): Kreirajte slučajni niz podatakafeed_dict={data_placeholder_a: data}U rezervirano mjesto unesite podatke
Izlaz
[[0.05478134 0.27213147 0.8803037 0.0398424 0.21172127 0.01444725 0.02584014 0.3763949 0.66022706 0.7565559 ]]
Grafikon
TensorFlow svaku operaciju prikazuje pomoću sheme protoka podataka. Graf protoka podataka dizajniran je kako bi se prikazale ovisnosti podataka između pojedinačnih operacija. Matematička formula ili algoritam sastoji se od niza uzastopnih operacija, a graf je prikladan način vizualizacije kako su ti izračuni koordinirani.
Graf prikazuje čvorove i bridove. Čvor je prikaz operacije, tj. jedinica izračuna. Brid je tenzor: može proizvesti novi tenzor ili konzumirati ulazne podatke, ovisno o ovisnostima između pojedinačnih operacija.
Struktura grafa povezuje operacije (tj. čvorove) zajedno i pokazuje kako se svaka od njih napaja. Imajte na umu da graf ne prikazuje izlaz operacija; on samo pomaže u vizualizaciji veza među njima.
Pogledajmo primjer. Zamislite da želite procijeniti sljedeću funkciju:
TensorFlow gradi graf za izvršavanje funkcije. Graf izgleda ovako:
Lako možete vidjeti put kojim će tenzori doći do konačnog odredišta.
Na primjer, add čvor ne može raditi prije oba Mul i Pow su dali svoje rezultate. Grafikon pokazuje da će TensorFlow:
- izračunajte x·z u
Mulčvor i x² uPowčvor - zbrojite ta dva rezultata zajedno u
addčvor - dodajte z toj sumi u
add_1čvor - dodajte konstantu 5 u
add_2čvor
x = tf.get_variable("x", dtype=tf.int32, initializer=tf.constant([5])) z = tf.get_variable("z", dtype=tf.int32, initializer=tf.constant([6])) c = tf.constant([5], name = "constant") square = tf.constant([2], name = "square") f = tf.multiply(x, z) + tf.pow(x, square) + z + c
Code Objašnjenje
- x: Inicijalizirajte varijablu pod nazivom x s konstantnom vrijednošću 5
- z: Inicijalizirajte varijablu nazvanu z konstantnom vrijednošću 6
- c: Inicijalizirajte konstantni tenzor nazvan c konstantnom vrijednošću 5
- kvadrat: Inicijalizirajte konstantni tenzor koji se zove kvadrat s konstantnom vrijednošću 2
- f: Konstruirajte operator
U ovom primjeru, vrijednosti varijabli se drže fiksnim. Konstantni tenzor c je konstantni parametar u funkciji f i uzima fiksnu vrijednost 5; na grafu možete vidjeti ovaj parametar u tenzoru nazvan konstanta.
Konstantni tenzor je također kreiran za potenciju u operatoru tf.pow()Nije nužno, ali znači da se eksponent u grafu pojavljuje kao krug nazvan kvadrat.
Iz grafa možete pratiti što se događa s tenzorima i zašto funkcija vraća 66: 5 × 6 plus 5² plus 6 plus 5 jednako je 66.
Donji kod evaluira funkciju unutar sesije.
init = tf.global_variables_initializer() # prepare to initialize all variables with tf.Session() as sess: init.run() # Initialize x and y function_result = f.eval() print(function_result)
Izlaz
[66]
Kratki vodič za osnove TensorFlowa
Četiri tablice u nastavku prikupljaju sve naredbe korištene u ovom vodiču tako da možete potražiti jednu bez pomicanja unatrag kroz primjere.
Napravite konstantni tenzor
| konstanta | objekt |
|---|---|
| D0 | tf.constant(1, tf.int16) |
| D1 | tf.constant([1,3,5], tf.int16) |
| D2 | tf.constant([ [1, 2], [3, 4] ],tf.int16) |
| D3 | tf.constant([ [[1, 2],[3, 4], [5, 6]] ], tf.int16) |
Stvorite operator
| Stvorite operator | Objekt |
|---|---|
| a + b | tf.add(a, b) |
| a*b | tf.multiply(a, b) |
Napravite varijabilni tenzor
| Stvorite varijablu | objekt |
|---|---|
| slučajna vrijednost | tf.get_variable("var", [1, 2]) |
| početna prva vrijednost | tf.get_variable("var_init_2", dtype=tf.int32, initializer=[ [1, 2], [3, 4] ]) |
Otvorite sesiju
| Sjednica | objekt |
|---|---|
| Stvorite sesiju | tf.Session() |
| Pokrenite sesiju | tf.Session.run() |
| Procijenite tenzor | variable_name.eval() |
| Zatvorite sesiju | sess.close() |
| Sesija po bloku | with tf.Session() as sess: |




