Ce sunt Big Data? Tipuri, caracteristici și exemple

⚡ Rezumat inteligent

Big Data descrie colecții de informații atât de mari, atât de variate și care se mișcă atât de rapid încât instrumentele obișnuite de baze de date nu le pot stoca sau procesa, motiv pentru care platformele distribuite și noile metode de analiză au devenit necesare.

  • 🔘 Definiție: Volumul în sine nu face ca datele să fie mari; complexitatea și rata de creștere contează la fel de mult.
  • ☑️ Trei tipuri: Datele structurate au un format fix, datele nestructurate nu au niciunul, iar datele semistructurate se află între cele două.
  • ✅ Exemple lucrate: Bursele de valori, platformele sociale și motoarele aeriene produc fiecare zilnic terabytes de înregistrări noi.
  • 🧪 Caracteristici: Volumul, varietatea, viteza și variabilitatea sunt cele patru clasice, cărora veridicitatea și valoarea adaugă adesea.
  • 🛠️ Valoarea afacerii: Inteligență externă, analiză mai rapidă a feedback-ului clienților, detectarea mai timpurie a riscurilor și descărcare mai ieftină a depozitului.
  • ⚠️ Scală astăzi: Lumea creează acum aproximativ 402 milioane de terabytes în fiecare zi, track pentru peste 200 de zettabytes în 2026.

Tipuri și caracteristici Big Data explicate cu exemple

Înainte de a trece la introducerea în Big Data, trebuie mai întâi să știi ce sunt datele în sine.

Ce sunt datele?

Datele reprezintă cantitățile, caracterele sau simbolurile asupra cărora un calculator efectuează operațiuni, care pot fi stocate și transmittransmise sub formă de semnale electrice și înregistrate pe suporturi de înregistrare magnetice, optice sau mecanice.

Acum, să analizăm definiția Big Data.

Ce este Big Data?

Datele mari este o colecție de date cu un volum imens, care însă crește exponențial în timp. Sunt date de o dimensiune și o complexitate atât de mari încât niciunul dintre instrumentele tradiționale de gestionare a datelor nu le poate stoca sau procesa eficient. Big Data este tot date, dar de o dimensiune care depășește limitele instrumentelor obișnuite.

Diagrama de mai jos compară această definiție cu datele obișnuite pe care o organizație le gestionează deja, astfel încât creșterea de scară este ușor de observat.

Diagramă care definește Big Data și cum diferă acestea de datele gestionate de instrumentele tradiționale de management

Ce este Big Data?

Ce este un exemplu de Big Data?

Iată câteva dintre exemplele de Big Data -

Datele Bursei de Valori

New York Stock Exchange este un exemplu de Big Data care generează aproximativ un terabyte de noi date comerciale pe zi.

Sala de tranzacționare a bursei de valori generează aproximativ un terabyte de date comerciale pe zi

Social Media

Statistica arată că 500+teraocteți de date noi sunt ingerate în bazele de date ale site-ului de social media Facebook, în fiecare zi. Aceste date sunt generate în principal în ceea ce privește încărcările de fotografii și videoclipuri, schimburile de mesaje, punerea de comentarii etc.

Pictograme de socializare care ilustrează volumul zilnic de date cu fotografii, videoclipuri și mesaje

Motoare cu reactie

Un singur Motor turboreactor poate genera 10+teraocteți de date în 30 minute a timpului de zbor. Cu multe mii de zboruri pe zi, generarea de date ajunge la mulți Petabytes.

Senzorii motoarelor cu reacție produc peste zece terabytes de telemetrie în treizeci de minute de zbor

Aceste trei cifre sunt instantanee per sursă din perioada în care exemplele au fost publicate pentru prima dată și au crescut doar de atunci. Pentru o imagine actuală a scalei, lumea în ansamblu creează acum aproximativ 402 milioane de terabytes de date în fiecare zi, plasând totalul anual din 2026 la track pentru mai mult de 200 de zettaocteți.

Tipuri de Big Data

Următoarele sunt tipurile de Big Data:

  1. structurat
  2. Nestructurat
  3. Semi-structurat

structurat

Orice date care pot fi stocate, accesate și procesate într-un format fix sunt denumite date „structurate”. De-a lungul timpului, informatica a obținut un mare succes în dezvoltareaping tehnici de lucru cu acest tip de date, unde formatul este bine cunoscut dinainte, și pentru obținerea valorii din acesta. Cu toate acestea, ne confruntăm acum cu probleme atunci când dimensiunea unor astfel de date crește enorm, dimensiunile tipice ajungând la mai mulți zettabytes.

Tu stii? Un zettabyte este 1021 bytes, Care este un miliard de terabyți.

Privind aceste cifre, se poate înțelege cu ușurință de ce este numită Big Data și se pot imagina provocările implicate în stocarea și procesarea lor.

Tu stii? Datele stocate într-un sistem de gestionare a bazelor de date relaționale sunt un exemplu de „structurat” de date.

Exemple de date structurate

Un tabel „Angajați” dintr-o bază de date este un exemplu de date structurate. Fiecare rând are aceleași cinci coloane, iar fiecare coloană are un tip cunoscut, ceea ce face ca datele să fie ușor de interogat.

Card de identitate al angajatului Numele angajatului Gen Departament Salary_In_lacs
2365 Rajesh Kulkarni Masculin finanțe 650000
3398 Pratibha Joshi Femeie admin 650000
7465 Shushil Roy Masculin admin 500000
7500 Shubhojit Das Masculin finanțe 500000
7699 Priya Sane Femeie finanțe 550000

Nestructurat

Orice date cu o formă sau structură necunoscută sunt clasificate drept date nestructurate. Pe lângă dimensiunea lor uriașă, datele nestructurate prezintă multiple provocări în ceea ce privește procesarea lor pentru a le obține valoare. Un exemplu tipic de date nestructurate este o sursă de date eterogenă care conține o combinație de fișiere text simple, imagini, videoclipuri etc. În zilele noastre, organizațiile au la dispoziție o multitudine de date, dar, din păcate, nu știu cum să obțină valoare din acestea, deoarece aceste date sunt în format brut sau nestructurat.

Exemple de date nestructurate

Rezultatul returnat de 'Google „Căutarea” este nestructurată: aceeași interogare returnează pagini, imagini, fragmente și linkuri fără o schemă comună în spatele lor.

Google pagina cu rezultatele căutării ca exemplu de date nestructurate cu text mixt, linkuri și imagini

Exemplu de date nestructurate

Semi-structurat

Datele semi-structurate pot conține ambele forme de mai sus. Acestea par structurate, dar nu sunt definite de o schemă formală, cum ar fi definiția unui tabel într-o rețea relațională. Baze de dateUn exemplu comun de date semi-structurate sunt datele reprezentate într-un fișier XML. Documentele JSON și liniile de jurnal cu perechi cheie-valoare se încadrează în aceeași categorie.

Exemple de date semistructurate

Date personale stocate într-un fișier XML -

<rec><name>Prashant Rao</name><sex>Male</sex><age>35</age></rec>
<rec><name>Seema R.</name><sex>Female</sex><age>41</age></rec>
<rec><name>Satish Mane</name><sex>Male</sex><age>29</age></rec>
<rec><name>Subrato Roy</name><sex>Male</sex><age>26</age></rec>
<rec><name>Jeremiah J.</name><sex>Male</sex><age>35</age></rec>

Creșterea datelor de-a lungul anilor

Graficul de mai jos tracks cum s-a schimbat mixul de date structurate și nestructurate odată cu creșterea volumului total.

Graficul creșterii datelor de-a lungul anilor, care arată că datele nestructurate depășesc datele structurate

Creșterea datelor de-a lungul anilor

Vă rugăm să reţineţi că aplicatie web Datele, care sunt nestructurate, constau din fișiere jurnal, fișiere istoric tranzacții etc. Sistemele OLTP sunt construite pentru a lucra cu date structurate, în care datele sunt stocate în relații (tabele).

Caracteristicile Big Data

Big Data poate fi descrisă prin următoarele caracteristici:

  • Volum
  • Varietate
  • Viteză
  • Variabilitate

(i) Volumul - Însuși numele Big Data este legat de o dimensiune enormă. Dimensiunea datelor joacă un rol crucial în determinarea valorii care poate fi extrasă din acestea. De asemenea, dacă un anumit set de date poate fi considerat Big Data sau nu depinde de volumul său. Prin urmare, 'Volum' este o caracteristică care trebuie luată în considerare atunci când se ocupă de soluții Big Data.

(ii) Varietate - Următorul aspect al Big Data este acesta varietate.

Varietatea se referă la surse eterogene și la natura datelor, atât structurate, cât și nestructurate. În trecut, foile de calcul și bazele de date erau singurele surse de date luate în considerare de majoritatea aplicațiilor. În zilele noastre, datele sub formă de e-mailuri, fotografii, videoclipuri, dispozitive de monitorizare, PDF-uri, fișiere audio etc. sunt, de asemenea, luate în considerare în aplicațiile de analiză. Această varietate de date nestructurate prezintă anumite probleme pentru stocarea, extragerea și analizarea datelor.

(iii) Viteza – Termenul 'viteză' se referă la viteza de generare a datelor. Cât de repede sunt generate și procesate datele pentru a satisface cererea determină potențialul real al datelor.

Viteza Big Data se referă la viteza cu care datele circulă din surse precum procese de business, jurnalele aplicațiilor, rețele, site-uri de socializare, senzori. mobil dispozitive etc. Fluxul de date este masiv și continuu.

(iv) Variabilitatea – Aceasta se referă la inconsecvența care poate fi arătată de date uneori, împiedicând astfel procesul de a putea gestiona și gestiona datele în mod eficient.

Încă două caracteristici sunt adăugate în mod obișnuit la această listă astăzi, dând naștere celor „cinci V” citate pe scară largă:

  • Veridicitatea – cât de fiabile și precise sunt datele. Înregistrările duplicate, abaterile senzorilor și câmpurile lipsă reduc veridicitatea, iar volumul acestora nu poate compensa acest lucru.
  • Valoare – cât valorează datele în realitate odată analizate. Datele care nu sunt niciodată transformate într-o decizie nu fac decât să adauge costuri de stocare.

Avantajele procesării Big Data

Capacitatea de a procesa Big Data într-un SGBD aduce multiple beneficii, cum ar fi:

Companiile pot folosi informații externe atunci când iau decizii

Acces la datele sociale de la motoarele de căutare iar site-uri precum Facebook și X (fostul Twitter) permit organizațiilor să își ajusteze strategiile de afaceri.

Serviciu Clienți îmbunătățit

Sistemele tradiționale de feedback ale clienților sunt înlocuite de sisteme noi, concepute cu tehnologii Big Data. În aceste noi sisteme, tehnologiile Big Data și de procesare a limbajului natural sunt utilizate pentru a citi și evalua răspunsurile consumatorilor.

Identificarea timpurie a riscurilor pentru produse și servicii

Rularea continuă a analizelor asupra înregistrărilor tranzacțiilor, citirilor senzorilor și tichetelor de asistență scoate la iveală defecte, tipare de fraudă și defecțiuni ale serviciilor cât timp acestea sunt încă minore, în loc să aștepte un raport lunar care să le dezvăluie.

Mai bine OperaEficiență națională

Tehnologiile Big Data pot fi utilizate pentru a crea o zonă de așteptare sau o zonă de aterizare pentru datele noi înainte de a identifica ce ar trebui mutat în depozit de dateÎn plus, o astfel de integrare a tehnologiilor Big Data și a depozitului de date ajută o organizație să descarce datele accesate rar.

Întrebări frecvente

Aproximativ 402 milioane de terabytes pe zi, conform estimărilor actuale, ceea ce plasează totalul anual din 2026 peste 200 de zettabytes. Cifra continuă să crească deoarece jurnalele video, de telemetrie a senzorilor și de aplicații cresc mai repede decât înregistrările tranzacționale.

Algorithms găsiți modele în milioane de înregistrări pe care niciun analist nu le-ar putea revizui manual, apoi evaluați noile înregistrări în funcție de acele modele. Seturile de antrenament mai mari și mai variate îmbunătățesc de obicei precizia, motiv pentru care cele două domenii s-au dezvoltat împreună.

Redactează bine rutina: Spark transformări, definiții de scheme, joncțiuni SQL și configurare conectori. RevVizualizați cu atenție rezultatul, deoarece conductele generate ignoră adesea partiționarea, tipurile de date și costul, ceea ce reprezintă eșecul conductelor reale.

Stocare distribuită, cum ar fi HDFS sau depozite de obiecte în cloud, motoare de procesare precum Spark și Flink, sisteme de streaming precum Kafka și straturi de interogare precum StupDepozitele de date în cloud gestionate acoperă acum multe dintre aceleași sarcini.

Calitate slabă a datelor, proprietate incertă, costuri de stocare și de calcul neclare și o lipsă de ingineri care pot opera sisteme distribuite. Majoritatea proiectelor eșuate se blochează din cauza guvernanței și a unor probleme de afaceri neclare, mai degrabă decât din cauza tehnologiei.

Reguli precum GDPR limitează ce date cu caracter personal pot fi colectate, cât timp pot fi păstrate și unde pot fi stocate. Echipele răspund cu consimțământul lor. tracrege, politici de retenție, pseudonimizare și jurnale de audit încorporate în pipeline.

Un lac de date stochează fișiere brute de orice format și aplică structura atunci când datele sunt citite. Un depozit de date stochează tabele curățate și modelate și aplică structura atunci când datele sunt scrise, ceea ce face ca interogările să fie mai rapide, dar încărcarea mai lentă.

Mai întâi SQL, apoi un limbaj de programare precum Python sau Scala, procesare distribuită cu Spark, o platformă cloud și suficiente modelări de date pentru a proiecta tabele în mod rațional. Comunicarea contează la fel de mult, deoarece rezultatele trebuie să convingă cititorii fără experiență tehnică.

Rezumați această postare cu: