Hvad er Big Data? Typer, karakteristika og eksempler

⚡ Smart opsummering

Big Data beskriver informationssamlinger, der er så store, så varierede og så hurtigt udviklende, at almindelige databaseværktøjer ikke kan gemme eller behandle dem, hvilket er grunden til, at distribuerede platforme og nye analysemetoder blev nødvendige.

  • 🔘 Definition: Volumen alene gør ikke data store; kompleksitet og vækstrate betyder lige så meget.
  • ☑️ Tre typer: Strukturerede data har et fast format, ustrukturerede data har intet, og semistrukturerede data ligger midt imellem de to.
  • ✅ Udarbejdede eksempler: Aktiebørser, sociale platforme og jetmotorer producerer hver især terabyte af nye rekorder dagligt.
  • 🧪 Egenskaber: Volumen, variation, hastighed og variabilitet er de klassiske fire, hvor sandfærdighed og værdi ofte tilføjes.
  • 🛠️ Forretningsværdi: Ekstern intelligens, hurtigere analyse af kundefeedback, tidligere risikoregistrering og billigere lageraflæsning.
  • ⚠️ Skala i dag: Verden skaber nu cirka 402 millioner terabyte hver dag. track for over 200 zettabyte i 2026.

Big Data-typer og -karakteristika forklaret med eksempler

Før du går videre til introduktionen til Big Data, skal du først vide, hvad data i sig selv er.

Hvad er data?

Data er de mængder, tegn eller symboler, som en computer udfører operationer på, og som kan lagres og transmiti form af elektriske signaler og optaget på magnetiske, optiske eller mekaniske optagemedier.

Lad os nu se på definitionen af ​​Big Data.

Hvad er Big Data?

Big data er en samling af data, der er enorm i volumen, men som vokser eksponentielt med tiden. Det er data af så stor størrelse og kompleksitet, at ingen af ​​de traditionelle datahåndteringsværktøjer kan lagre dem eller behandle dem effektivt. Big Data er stadig data, men af ​​en størrelse, der ødelægger de sædvanlige værktøjer.

Diagrammet nedenfor sætter denne definition op imod de almindelige data, en organisation allerede håndterer, så springet i skala er let at se.

Diagram, der definerer Big Data, og hvordan det adskiller sig fra data, der håndteres af traditionelle styringsværktøjer

Hvad er Big Data?

Hvad er et eksempel på Big Data?

Følgende er nogle af Big Data-eksemplerne-

Børsdata

New York Stock Exchange er et eksempel på Big Data, der genererer ca en terabyte af nye handelsdata pr. dag.

Børsens handelsgulv genererer omkring en terabyte handelsdata om dagen

Sociale medier

Det viser statistikken 500+terabyte af nye data bliver optaget i databaserne på sociale medier Facebook, hver dag. Disse data genereres hovedsageligt i form af foto- og videouploads, beskedudvekslinger, kommentarer osv.

Ikoner på sociale medier, der illustrerer den daglige mængde af foto-, video- og beskeddata

Jetmotorer

En enkelt Flymotor kan generere 10+terabyte af data i 30 minutter af flyvetid. Med mange tusinde flyvninger om dagen når genereringen af ​​data op til mange Petabytes.

Jetmotorsensorer producerer mere end ti terabyte telemetri på tredive minutters flyvning

Disse tre tal er øjebliksbilleder pr. kilde fra den periode, hvor eksemplerne først blev offentliggjort, og de er kun vokset siden. For en nuværende forståelse af skalaen skaber verden som helhed nu omtrent 402 millioner terabyte data hver dag, hvilket sætter det årlige total for 2026 på track i mere end 200 zettabyte.

Typer af Big Data

Følgende er typerne af Big Data:

  1. Struktureret
  2. Ustruktureret
  3. Halvstruktureret

Struktureret

Alle data, der kan lagres, tilgås og behandles i et fast format, kaldes 'strukturerede' data. Datalogi har over tid opnået stor succes med udviklingenping teknikker til at arbejde med denne type data, hvor formatet er velkendt på forhånd, og til at udlede værdi af det. Vi står dog nu over for problemer, når størrelsen af ​​sådanne data vokser enormt, med typiske størrelser på flere zettabyte.

Kender du? En zettabyte er 1021 bytes, Hvilket er en milliard terabyte.

Når man ser på disse tal, kan man let forstå, hvorfor navnet Big Data er givet, og forestille sig de udfordringer, der er forbundet med lagring og behandling af disse data.

Kender du? Data lagret i et relationsdatabasehåndteringssystem er et eksempel på 'struktureret' data.

Eksempler på strukturerede data

En 'medarbejder'-tabel i en database er et eksempel på strukturerede data. Hver række har de samme fem kolonner, og hver kolonne har en kendt type, hvilket netop gør dataene nemme at forespørge på.

Medarbejder-ID Ansattes navn Køn Afdeling Løn_I_lacs
2365 Rajesh Kulkarni Mand Finance 650000
3398 Pratibha Joshi Kvinde Admin 650000
7465 Shushil Roy Mand Admin 500000
7500 Shubhojit Das Mand Finance 500000
7699 Priya Sane Kvinde Finance 550000

Ustruktureret

Enhver data med en ukendt form eller struktur klassificeres som ustrukturerede data. Udover at være enorm, udgør ustrukturerede data flere udfordringer med hensyn til at bearbejde dem for at udlede værdi. Et typisk eksempel på ustrukturerede data er en heterogen datakilde, der indeholder en kombination af simple tekstfiler, billeder, videoer osv. I dag har organisationer et væld af data til rådighed, men desværre ved de ikke, hvordan de skal udlede værdi af dem, da disse data er i deres rå eller ustrukturerede format.

Eksempler på ustrukturerede data

Outputtet returneret af 'Google 'Søgning' er ustruktureret: den samme forespørgsel returnerer sider, billeder, uddrag og links uden et fælles skema bagved.

Google Søgeresultatsiden som et eksempel på ustruktureret data med blandet tekst, links og billeder

Eksempel på ustrukturerede data

Halvstruktureret

Semistrukturerede data kan indeholde begge ovenstående former. De ser strukturerede ud, men de er ikke defineret af et formelt skema, såsom en tabeldefinition i en relationel DBMSEt almindeligt eksempel på semistrukturerede data er data repræsenteret i en XML-fil. JSON-dokumenter og loglinjer med nøgle-værdi-par falder ind under samme kategori.

Eksempler på semistrukturerede data

Personlige data gemt i en XML-fil-

<rec><name>Prashant Rao</name><sex>Male</sex><age>35</age></rec>
<rec><name>Seema R.</name><sex>Female</sex><age>41</age></rec>
<rec><name>Satish Mane</name><sex>Male</sex><age>29</age></rec>
<rec><name>Subrato Roy</name><sex>Male</sex><age>26</age></rec>
<rec><name>Jeremiah J.</name><sex>Male</sex><age>35</age></rec>

Datavækst gennem årene

Diagrammet nedenfor trachvordan blandingen af ​​strukturerede og ustrukturerede data har ændret sig i takt med at den samlede mængde er steget.

Diagram over datavækst over årene, der viser ustrukturerede data, der overgår strukturerede data

Datavækst gennem årene

Bemærk, at webapplikation Data, som er ustrukturerede, består af logfiler, transaktionshistorikfiler osv. OLTP-systemer er bygget til at arbejde med strukturerede data, hvor data gemmes i relationer (tabeller).

Karakteristika ved big data

Big Data kan beskrives ved følgende karakteristika:

  • Bind
  • Variation
  • Velocity
  • variabilitet

(i) Volumen – Selve navnet Big Data er relateret til en enorm størrelse. Dataenes størrelse spiller en meget afgørende rolle i at bestemme den værdi, der kan drages ud af dem. Om et bestemt datasæt rent faktisk kan betragtes som Big Data eller ej, afhænger også af dets volumen. Derfor... 'Bind' er en egenskab, som skal overvejes, når man håndterer Big Data-løsninger.

(ii) Sort – Det næste aspekt af Big Data er dens række.

Varietet refererer til heterogene kilder og dataenes art, både strukturerede og ustrukturerede. Tidligere var regneark og databaser de eneste datakilder, der blev taget i betragtning af de fleste applikationer. Nu om dage tages data i form af e-mails, fotos, videoer, overvågningsenheder, PDF'er, lyd osv. også i betragtning i analyseapplikationer. Denne variation af ustrukturerede data skaber visse problemer for lagring, udvinding og analyse af data.

(iii) Hastighed – Udtrykket 'hastighed' refererer til hastigheden af ​​datagenerering. Hvor hurtigt dataene genereres og behandles for at imødekomme efterspørgslen, bestemmer det reelle potentiale i dataene.

Big Data-hastighed handler om den hastighed, hvormed data strømmer ind fra kilder som forretningsprocesser, applikationslogfiler, netværk, sociale medier, sensorer mobil enheder osv. Datastrømmen er massiv og kontinuerlig.

(iv) Variabilitet – Dette refererer til den inkonsistens, som data til tider kan vise, og dermed hæmmer processen med at kunne håndtere og administrere dataene effektivt.

To yderligere karakteristika tilføjes almindeligvis til listen i dag, hvilket giver de bredt citerede "fem V'er":

  • Veracity – hvor troværdige og præcise dataene er. Duplikerede registreringer, sensordrift og manglende felter reducerer alle sandfærdigheden, og ingen mængde data kompenserer for det.
  • Værdi – hvad dataene rent faktisk er værd, når de er analyseret. Data, der aldrig omsættes til en beslutning, øger kun lageromkostningerne.

Fordele ved big data-behandling

Evnen til at behandle big data i et DBMS medfører flere fordele, såsom-

Virksomheder kan bruge ekstern intelligens, når de træffer beslutninger

Adgang til sociale data fra søgemaskiner og sider som Facebook og X (tidligere Twitter) gør det muligt for organisationer at finjustere deres forretningsstrategier.

Forbedret kundeservice

Traditionelle kundefeedbacksystemer bliver erstattet af nye systemer designet med Big Data-teknologier. I disse nye systemer bruges Big Data og teknologier til behandling af naturligt sprog til at læse og evaluere forbrugerresponser.

Tidlig identifikation af risiko for produkter og tjenester

Løbende analyser af transaktionsregistreringer, sensoraflæsninger og supportsager afslører defekter, svindelmønstre og servicefejl, mens de stadig er små, i stedet for at vente på en månedlig rapport, der afslører dem.

Bedre Operationel effektivitet

Big Data-teknologier kan bruges til at oprette et mellemrum eller en landingszone for nye data, før det identificeres, hvad der skal flyttes til datalagerDerudover hjælper en sådan integration af big data-teknologier og datawarehouset en organisation med at aflaste data, der sjældent tilgås.

Ofte Stillede Spørgsmål

Omkring 402 millioner terabyte om dagen ifølge de nuværende estimater, hvilket bringer det årlige total for 2026 over 200 zettabyte. Tallet fortsætter med at stige, fordi video-, sensortelemetri- og applikationslogfiler vokser hurtigere end transaktionsregistreringer.

Algorithms finde mønstre på tværs af millioner af poster, som ingen analytiker kunne gennemgå manuelt, og derefter score nye poster i forhold til disse mønstre. Større, mere varierede træningssæt forbedrer normalt nøjagtigheden, hvilket er grunden til, at de to felter voksede sammen.

Det udarbejder rutinemæssigt arbejde godt: Spark transformationer, skemadefinitioner, SQL-joins og connector-konfiguration. RevSe outputtet omhyggeligt, fordi genererede pipelines ofte ignorerer partitionering, datatyper og omkostninger, hvilket er hvor rigtige pipelines fejler.

Distribueret lagring som f.eks. HDFS eller cloud-objektlagre, behandlingsmotorer som f.eks. Spark og Flink, streamingsystemer som Kafka og forespørgselslag som f.eks. HiveAdministrerede cloud-lagre dækker nu mange af de samme opgaver.

Dårlig datakvalitet, uklare ejerskabsforhold, lager- og beregningsomkostninger og mangel på ingeniører, der kan betjene distribuerede systemer. De fleste mislykkede projekter går i stå på grund af governance og uklare forretningsmæssige spørgsmål snarere end på grund af teknologi.

Regler som GDPR begrænser, hvilke personoplysninger der må indsamles, hvor længe de må opbevares, og hvor de må opbevares. Teams reagerer med samtykke. trackonge, opbevaringspolitikker, pseudonymisering og revisionslogfiler indbygget i pipelinen.

En datasø lagrer rå filer i ethvert format og anvender struktur, når dataene læses. Et lager lagrer rensede, modellerede tabeller og anvender struktur, når dataene skrives, hvilket gør forespørgsler hurtigere, men indlæsningen langsommere.

SQL først, derefter et programmeringssprog som f.eks. Python eller Scala, distribueret behandling med Spark, en cloudplatform og tilstrækkelig datamodellering til at designe tabeller fornuftigt. Kommunikation er lige så vigtig, fordi resultaterne skal overbevise ikke-tekniske læsere.

Opsummer dette indlæg med: