Büyük Veri Nedir? Türleri, Özellikleri ve Örnekleri

⚡ Akıllı Özet

Büyük Veri, sıradan veritabanı araçlarının depolayamayacağı veya işleyemeyeceği kadar büyük, çeşitli ve hızlı değişen bilgi koleksiyonlarını tanımlar; bu nedenle dağıtık platformlar ve yeni analiz yöntemleri gerekli hale gelmiştir.

  • 🔘 Tanım: Verinin büyük olmasını yalnızca hacmi belirlemez; karmaşıklığı ve büyüme hızı da en az hacmi kadar önemlidir.
  • ☑️ Üç tür: Yapılandırılmış verilerin sabit bir formatı vardır, yapılandırılmamış verilerin formatı yoktur ve yarı yapılandırılmış veriler ikisinin arasında yer alır.
  • ✅ Örnek çözümler: Borsalar, sosyal medya platformları ve jet motorları her gün terabaytlarca yeni kayıt üretiyor.
  • 🧪 özellikleri: Hacim, çeşitlilik, hız ve değişkenlik klasik dört unsurdur; bunlara genellikle doğruluk ve değer de eklenir.
  • ️ İş değeri: Dış istihbarat, daha hızlı müşteri geri bildirim analizi, daha erken risk tespiti ve daha ucuz depo boşaltma.
  • ⚠️ Bugünkü ölçek: Dünya şu anda her gün yaklaşık 402 milyon terabayt veri üretiyor. trac2026 yılında 200 zettabayttan fazla veri için k.

Büyük Veri türleri ve özellikleri örneklerle açıklanmıştır.

Büyük Veri'ye giriş yapmadan önce, öncelikle verinin ne olduğunu bilmeniz gerekiyor.

Veri nedir?

Veri, bir bilgisayar tarafından üzerinde işlemlerin gerçekleştirildiği, saklanabilen ve kullanılabilen nicelikler, karakterler veya sembollerdir. transmitElektrik sinyalleri şeklinde iletilir ve manyetik, optik veya mekanik kayıt ortamlarına kaydedilir.

Şimdi de Büyük Veri tanımına bakalım.

Büyük Veri Nedir?

büyük Veri Büyük veri, hacim olarak çok büyük, ancak zamanla katlanarak büyüyen bir veri kümesidir. Geleneksel veri yönetim araçlarının hiçbiri bu veriyi verimli bir şekilde depolayamaz veya işleyemez; bu nedenle büyük veri yine veridir, ancak alışılagelmiş araçların kapasitesini aşan bir boyuttadır.

Aşağıdaki diyagram, bu tanımı bir kuruluşun halihazırda işlediği sıradan verilerle karşılaştırarak ölçekteki sıçramayı kolayca görmeyi sağlıyor.

Büyük Veri'yi ve geleneksel yönetim araçlarıyla işlenen verilerden nasıl farklı olduğunu tanımlayan diyagram.

Büyük Veri Nedir?

Büyük Veriye Örnek Nedir?

Aşağıda Büyük Veri örneklerinden bazıları verilmiştir:

Borsa Verileri

MKS New York Borsası yaklaşık olarak üreten Büyük Verinin bir örneğidir. bir terabayt Günlük yeni ticaret verileri.

Borsa işlem salonu günde yaklaşık bir terabayt işlem verisi üretiyor.

Sosyal medya

İstatistik şunu gösteriyor 500+terabayt Sosyal medya sitelerinin veritabanlarına yeni veriler giriyor Facebook, Her gün. Bu veriler esas olarak fotoğraf ve video yüklemeleri, mesaj alışverişleri, yorum yapma vb. yollarla üretilmektedir.

Sosyal medya simgeleri, günlük fotoğraf, video ve mesaj verisi hacmini göstermektedir.

Jet Motorları

Tek Jet motoru üretebilir 10+terabayt içindeki verilerin 30 dakikadır. uçuş süresi. Günde binlerce uçuşla veri üretimi çok sayıda uçuşa ulaşıyor Petabayt.

Jet motoru sensörleri, otuz dakikalık uçuş süresinde on terabayttan fazla telemetri verisi üretiyor.

Bu üç rakam, örneklerin ilk yayınlandığı döneme ait kaynak bazında anlık görüntülerdir ve o zamandan beri sayıları artmıştır. Güncel bir ölçek anlayışı için, dünya genelinde şu anda yaklaşık olarak şu kadar rakam üretilmektedir. Her gün 402 milyon terabayt veri2026 yıllık toplamını şu seviyeye getiriyor: trac200 zettabayttan fazla veri için k.

Büyük Veri Türleri

Büyük Veri’nin türleri şunlardır:

  1. Yapılandırılmış
  2. Yapılandırılmamış
  3. yarı yapılandırılmış

Yapılandırılmış

Sabit bir formatta saklanabilen, erişilebilen ve işlenebilen her türlü veriye 'yapılandırılmış' veri denir. Bilgisayar bilimi zaman içinde bu alanda büyük başarılar elde etmiştir.ping Bu tür verilerle çalışmak ve onlardan değer elde etmek için, formatın önceden iyi bilindiği teknikler mevcuttur. Ancak, bu tür verilerin boyutu çok büyük boyutlara ulaştığında, tipik boyutlar birden fazla zettabayta ulaştığında sorunlarla karşılaşıyoruz.

Biliyor musun? Bir zettabayt şudur: 1021 bayt, Olduğu bir bir milyar terabayt.

Bu rakamlara bakıldığında, "Büyük Veri" adının neden verildiği kolayca anlaşılabilir ve depolanması ve işlenmesinde karşılaşılan zorluklar hayal edilebilir.

Biliyor musun? İlişkisel veritabanı yönetim sisteminde depolanan veriler, bunun bir örneğidir. 'yapılandırılmış' verileri.

Yapılandırılmış Veri Örnekleri

Veritabanındaki 'Çalışan' tablosu, yapılandırılmış veriye bir örnektir. Her satır aynı beş sütuna sahiptir ve her sütunun bilinen bir türü vardır; bu da verilerin sorgulanmasını kolaylaştıran şeydir.

Çalışan kimliği Çalışan Adı Cinsiyet bölüm Maaş_In_lacs
2365 Rajesh Kulkarni Erkek Finans 650000
3398 Pratibha Joshi Kadın admin 650000
7465 Şuşil Roy Erkek admin 500000
7500 Shubhojit Das Erkek Finans 500000
7699 Priya Sane Kadın Finans 550000

Yapılandırılmamış

Bilinmeyen bir biçime veya yapıya sahip herhangi bir veri, yapılandırılmamış veri olarak sınıflandırılır. Boyutunun çok büyük olmasının yanı sıra, yapılandırılmamış veriler, değer elde etmek için işlenmesi açısından da birçok zorluk ortaya koymaktadır. Yapılandırılmamış verinin tipik bir örneği, basit metin dosyaları, resimler, videolar vb. içeren heterojen bir veri kaynağıdır. Günümüzde kuruluşların elinde çok miktarda veri bulunmaktadır, ancak ne yazık ki bu veriler ham veya yapılandırılmamış biçimde olduğu için bunlardan nasıl değer elde edeceklerini bilmiyorlar.

Yapılandırılmamış Veri Örnekleri

' tarafından döndürülen çıktıGoogle Arama yapılandırılmamıştır: aynı sorgu, arkalarında ortak bir şema olmaksızın sayfalar, resimler, özetler ve bağlantılar döndürür.

Google Arama sonuçları sayfası, karışık metin, bağlantı ve görseller içeren yapılandırılmamış veriye bir örnektir.

Yapılandırılmamış veri örneği

yarı yapılandırılmış

Yarı yapılandırılmış veriler yukarıdaki her iki biçimi de içerebilir. Yapılandırılmış gibi görünür, ancak ilişkisel bir veritabanındaki tablo tanımı gibi resmi bir şema ile tanımlanmamıştır. DBMSYarı yapılandırılmış verilerin yaygın bir örneği, XML dosyasında temsil edilen verilerdir. Anahtar-değer çiftlerine sahip JSON belgeleri ve günlük satırları da aynı kategoriye girer.

Yarı Yapılandırılmış Veri Örnekleri

XML dosyasında saklanan kişisel veriler-

<rec><name>Prashant Rao</name><sex>Male</sex><age>35</age></rec>
<rec><name>Seema R.</name><sex>Female</sex><age>41</age></rec>
<rec><name>Satish Mane</name><sex>Male</sex><age>29</age></rec>
<rec><name>Subrato Roy</name><sex>Male</sex><age>26</age></rec>
<rec><name>Jeremiah J.</name><sex>Male</sex><age>35</age></rec>

Yıllar İçinde Veri Büyümesi

Aşağıdaki grafik tracToplam veri hacmi arttıkça yapılandırılmış ve yapılandırılmamış verilerin oranının nasıl değiştiğini inceliyor.

Yıllar içindeki veri büyümesini gösteren grafik, yapılandırılmamış verilerin yapılandırılmış verilerden daha hızlı büyüdüğünü ortaya koyuyor.

Yıllar içinde veri büyümesi

Unutmayın ki web uygulaması Yapılandırılmamış veriler, günlük dosyaları, işlem geçmişi dosyaları vb. içerir. OLTP sistemleri, verilerin ilişkiler (tablolar) halinde saklandığı yapılandırılmış verilerle çalışmak üzere tasarlanmıştır.

Büyük Verinin Özellikleri

Büyük Veri aşağıdaki özelliklerle tanımlanabilir:

  • hacim
  • çeşitlilik
  • Hız
  • değişkenlik

(i) Hacim – "Büyük Veri" adı, başlı başına muazzam bir boyutla ilişkilidir. Verinin boyutu, ondan elde edilebilecek değeri belirlemede çok önemli bir rol oynar. Ayrıca, belirli bir veri kümesinin gerçekten Büyük Veri olarak kabul edilip edilemeyeceği, hacmine bağlıdır. Bu nedenle, 'Ses' Büyük Veri çözümleri ile uğraşırken dikkate alınması gereken bir özelliktir.

(ii) Çeşitlilik – Büyük Verinin bir sonraki yönü, çeşitlilik.

Çeşitlilik, heterojen kaynakları ve hem yapılandırılmış hem de yapılandırılmamış verilerin doğasını ifade eder. Eskiden, çoğu uygulama tarafından dikkate alınan tek veri kaynağı elektronik tablolar ve veritabanlarıydı. Günümüzde ise e-postalar, fotoğraflar, videolar, izleme cihazları, PDF'ler, ses dosyaları vb. biçimindeki veriler de analiz uygulamalarında dikkate alınmaktadır. Bu yapılandırılmamış veri çeşitliliği, verilerin depolanması, işlenmesi ve analiz edilmesi için bazı sorunlar ortaya çıkarmaktadır.

(iii) Hız – Süreli 'hız' Verinin üretilme hızını ifade eder. Verinin talebi karşılayacak şekilde ne kadar hızlı üretilip işlendiği, verinin gerçek potansiyelini belirler.

Büyük Veri hızı, verilerin iş süreçleri, uygulama günlükleri, ağlar, sosyal medya siteleri, sensörler gibi kaynaklardan gelme hızıyla ilgilidir. hareketli cihazlar vb. Veri akışı çok büyük ve süreklidir.

(iv) Değişkenlik – Bu, verilerde zaman zaman gösterilebilen tutarsızlığı ifade eder ve bu nedenle verilerin etkili bir şekilde ele alınabilmesi ve yönetilebilmesi sürecini sekteye uğratır.

Günümüzde bu listeye genellikle iki özellik daha eklenerek, yaygın olarak alıntılanan "beş V" kuralı oluşturulmuştur:

  • gerçeklik – verilerin ne kadar güvenilir ve doğru olduğu. Yinelenen kayıtlar, sensör sapmaları ve eksik alanlar doğruluğu azaltır ve hiçbir veri hacmi bunu telafi edemez.
  • Özellik – Analiz edildikten sonra verilerin gerçek değerinin ne olduğu. Hiçbir zaman karara dönüştürülmeyen veriler yalnızca depolama maliyetini artırır.

Büyük Veri İşlemenin Avantajları

Veritabanı yönetim sisteminde büyük verileri işleme yeteneği, aşağıdakiler gibi birçok fayda sağlar:

İşletmeler Karar Alırken Dış Kaynaklardan Bilgi Alabilirler

Sosyal verilere erişim arama motorları Facebook ve X (eski adıyla Twitter) gibi siteler, kuruluşların iş stratejilerini ince ayar yapmalarını sağlıyor.

İyileştirilmiş Müşteri Hizmetleri

Geleneksel müşteri geri bildirim sistemleri, Büyük Veri teknolojileriyle tasarlanmış yeni sistemlerle değiştiriliyor. Bu yeni sistemlerde, tüketici yanıtlarını okumak ve değerlendirmek için Büyük Veri ve doğal dil işleme teknolojileri kullanılıyor.

Ürün ve Hizmetlere Yönelik Risklerin Erken Tespiti

İşlem kayıtları, sensör okumaları ve destek talepleri üzerinde sürekli olarak analiz yapmak, aylık bir raporun bunları ortaya çıkarmasını beklemek yerine, kusurları, dolandırıcılık modellerini ve hizmet aksaklıklarını henüz küçükken ortaya çıkarır.

Daha iyi OperaUlusal Verimlilik

Büyük Veri teknolojileri, hangi verilerin bir sonraki aşamaya taşınması gerektiğini belirlemeden önce yeni veriler için bir hazırlık alanı veya depolama alanı oluşturmak amacıyla kullanılabilir. veri ambarıAyrıca, Büyük Veri teknolojilerinin ve veri ambarının bu şekilde entegrasyonu, bir kuruluşun nadiren erişilen veriler üzerindeki yükünü azaltmaya yardımcı olur.

SSS

Mevcut tahminlere göre günde yaklaşık 402 milyon terabayt veri aktarılıyor; bu da 2026 yılındaki yıllık toplamın 200 zettabaytın üzerine çıkacağı anlamına geliyor. Video, sensör telemetrisi ve uygulama günlükleri işlem kayıtlarından daha hızlı büyüdüğü için bu rakam artmaya devam ediyor.

Algorithms Milyonlarca kayıt arasında, hiçbir analistin elle inceleyemeyeceği kalıpları bulmak ve ardından yeni kayıtları bu kalıplara göre puanlamak. Daha büyük ve daha çeşitli eğitim setleri genellikle doğruluğu artırır; bu nedenle iki alan birlikte gelişti.

Rutin işleri iyi bir şekilde taslak haline getiriyor: Spark Dönüşümler, şema tanımları, SQL birleştirmeleri ve bağlayıcı yapılandırması. RevÇıktıyı dikkatlice inceleyin, çünkü oluşturulan işlem hatları genellikle bölümlemeyi, veri türlerini ve maliyeti göz ardı eder; gerçek işlem hatlarının başarısız olduğu noktalar da bunlardır.

Dağıtılmış depolama, örneğin HDFS veya bulut nesne depoları, işlem motorları gibi Spark Flink, Kafka gibi akış sistemleri ve sorgu katmanları gibi sistemler de bu kapsamdadır. kovanYönetilen bulut veri ambarları artık aynı işlerin çoğunu kapsıyor.

Veri kalitesinin düşük olması, sahiplik yapısının belirsizliği, depolama ve işlem maliyetleri ve dağıtık sistemleri çalıştırabilecek mühendislerin yetersizliği. Başarısız olan projelerin çoğu, teknolojiden ziyade yönetim ve belirsiz iş soruları nedeniyle tıkanıyor.

GDPR gibi kurallar, hangi kişisel verilerin toplanabileceğini, ne kadar süreyle saklanabileceğini ve nerede saklanabileceğini sınırlandırır. Ekipler ise buna onay vererek yanıt verir. tracVeri işleme hattına entegre edilmiş veri saklama politikaları, takma adlandırma ve denetim kayıtları.

Veri gölü, herhangi bir formatta ham dosyaları depolar ve veriler okunduğunda yapı uygular. Veri ambarı ise temizlenmiş, modellenmiş tabloları depolar ve veriler yazıldığında yapı uygular; bu da sorguları hızlandırır ancak yüklemeyi yavaşlatır.

Önce SQL, sonra da programlama dili gibi bir dil. Python veya Scala ile dağıtılmış işlemleme SparkBulut tabanlı bir platform ve tabloları mantıklı bir şekilde tasarlamak için yeterli veri modelleme bilgisi gerekiyor. İletişim de aynı derecede önemli, çünkü sonuçların teknik olmayan okuyucuları ikna etmesi gerekiyor.

Bu yazıyı şu şekilde özetleyin: