Veri Ambarındaki Data Mart Nedir? Türler ve Örnek

⚡ Akıllı Özet

Veri ambarı tasarımı, üç veri ambarı türünü, tasarımdan yönetime kadar beş aşamayı ve hızlı, güvenli ve uygun maliyetli teslimatı sağlayan en iyi uygulamaları kapsayan, veri ambarı bilgilerinin odaklanmış bir alt kümesini tek bir departmana sunar.

  • 🎯 Tanım: Veri ambarı, satış, pazarlama, insan kaynakları veya finans gibi belirli bir departman için oluşturulmuş, konuya odaklı bir veri ambarı alt kümesidir.
  • 🧩 Market Türleri: Bağımlı depolar merkezi bir depodan tedarik sağlarken, bağımsız depolar doğrudan operasyonel sistemlerden malzeme çeker ve hibrit depolar ise her ikisini birleştirir.
  • ⚙️ Uygulama Aşamaları: Bir veri ambarı oluşturmak, tasarım, yapılandırma, veri doldurma, erişim ve yönetim aşamalarından geçer.
  • 🔌 ETL ve RDBMS: İlişkisel veritabanı yönetim sistemi (RDBMS) veri ambarını depolarken, bir ETL aracı ise bu verileri eşler, örneğin...tracKaynak verileri ve meta verileri dönüştürür, temizler ve yükler.
  • 📊 Boyutlu Tasarım: Yıldız şema etrafında veri modellemesi, sorguları hızlandırır ve iş kullanıcıları için raporlamayı basitleştirir.
  • ???? İş Etkisi: Daha küçük bir kapsam, tam bir depoya kıyasla daha hızlı sorgulama, daha düşük maliyet, daha sıkı erişim kontrolü ve daha hızlı teslimat anlamına gelir.
  • 🧭 En iyi pratik: Teslimat döngüsünü haftalarla sınırlayın, donanım ve ağ için bütçe ayırın ve tüm paydaşları erken aşamada sürece dahil edin.

Veri ambarında bağımlı, bağımsız ve hibrit veri ambarlarını gösteren veri ambarı.

Bir veri ambarı, analitik gücünü bir araya getirir. veri ambarı Tek bir ekibe odaklanır. Tek bir konu alanına odaklanarak, bir departmanın kurumsal çapta iş yüklerinin gerisinde kalmadan kendi verilerini hızlı bir şekilde analiz etmesine olanak tanır. Aşağıdaki bölümler, veri ambarının ne olduğunu, kuruluşların neden birini kullandığını, mevcut üç türünü ve nasıl uygulanıp yönetileceğini açıklamaktadır.

Data Mart nedir?

Veri ambarı, bir kuruluşun tek bir işlevsel alanına odaklanır ve bir veritabanında depolanan verilerin bir alt kümesini içerir. Veri deposuBu, belirli bir departman, birim veya kullanıcı grubu (örneğin Pazarlama, Satış, İnsan Kaynakları veya Finans) tarafından kullanılmak üzere tasarlanmış, veri ambarının yoğunlaştırılmış bir versiyonudur.

Veri ambarı tek bir amaca hizmet ettiği için genellikle kuruluş içindeki tek bir departman tarafından kontrol edilir. Bu odaklanma, kapsamını dar tutar ve sahipliğini netleştirir.

Veri ambarı, birçok kaynağı entegre eden bir veri deposunun aksine, yalnızca birkaç kaynaktan veri çeker. Sonuç olarak, veri ambarları boyut olarak küçüktür ve tam teşekküllü bir veri deposuna göre çok daha esnektir.

Data Mart'a neden ihtiyacımız var?

Kuruluşlar, çeşitli pratik nedenlerle veri ambarlarına güvenirler:

  • Veri ambarı, kullanıcıların sorguladıkları veri hacmini azaltarak yanıt sürelerini iyileştirir.
  • Sıkça talep edilen verilere kolay erişim sağlar.
  • Bir veri ambarı, kurumsal bir veri deposuna göre daha basit ve daha ucuz bir şekilde uygulanabilir.
  • Çevik bir yapıya sahip: model değiştiğinde, daha küçük bir veri ambarı hızla yeniden oluşturulabiliyor.
  • Bir veri ambarı tek bir konu uzmanı tarafından tanımlanırken, bir veri deposu disiplinler arası bir ekip tarafından tanımlanır; bu nedenle bir veri ambarı değişime daha açıktır.
  • Veriler bölümlere ayrılır, bu da çok ayrıntılı erişim kontrolü ayrıcalıklarına olanak tanır.
  • Veriler bölümlere ayrılabilir ve farklı donanım veya yazılım platformlarında depolanabilir.

Özetle, bir veri ambarı daha küçük, iyi tanımlanmış bir veri dilimini işlediği için, kurumsal bir veri ambarına göre oluşturulması daha hızlı, işletilmesi daha ucuz ve güvenliği daha kolaydır.

Veri ambarlarının hepsi aynı şekilde oluşturulmaz. Bir veri ambarının veri çektiği kaynak, hangi üç türden biriyle çalıştığınızı belirler.

Data Mart Türleri

Veri ambarlarının, verilerini nereden aldıklarına göre ayırt edilen üç ana türü vardır:

  1. bağımlı: Bağımlı veri ambarları, verileri doğrudan operasyonel kaynaklardan, harici kaynaklardan veya her ikisinden de çeker.
  2. Bağımsız: Merkezi bir veri ambarı olmaksızın bağımsız bir veri ambarı oluşturulur.
  3. hibrit: Hibrit veri ambarı, veri depolarından veya operasyonel sistemlerden veri alabilir.

Bağımlı Veri Pazarı

Bağımlı veri ambarı, bir kuruluşun verilerini tek bir Veri Ambarından alır ve bu da ona merkezileşme avantajı sağlar. Bir veya daha fazla fiziksel veri ambarı oluşturmanız gerekiyorsa, bunları bağımlı veri ambarları olarak yapılandırırsınız.

Bağımlı bir veri ambarı iki şekilde oluşturulabilir: kullanıcıların ihtiyaçlarına bağlı olarak hem veri ambarına hem de veri deposuna erişebildiği bir yaklaşım ve erişimin yalnızca veri ambarıyla sınırlı olduğu bir yaklaşım. İkinci yaklaşım optimal değildir, çünkü "veri çöplüğü" oluşturabilir; yani ortak bir kaynaktan başlayan ancak daha sonra hurdaya çıkarılan ve büyük ölçüde kullanılmayan veriler ortaya çıkabilir.

Tek bir veri ambarından veri çeken bağımlı veri ambarı.
Bağımlı Veri Pazarı

Bağımsız Veri Pazarı

Merkezi bir veri ambarı olmadan bağımsız bir veri ambarı oluşturulur. Bu tür veri ambarı, bir kuruluş içindeki daha küçük gruplar için ideal bir seçenektir.

Bağımsız bir veri ambarının, kurumsal veri ambarıyla veya başka herhangi bir veri ambarıyla hiçbir ilişkisi yoktur. Verileri kendi başına yüklenir ve analiz edilir. Bu yaklaşım, veri ambarı oluşturmanın asıl amacına aykırıdır: farklı ilgi alanlarına sahip birçok kullanıcının analiz edebileceği tutarlı, merkezi bir kurumsal veri deposu.

Merkezi veri ambarı olmadan oluşturulan bağımsız veri ambarı.

Bağımsız Veri Pazarı

Hibrit Veri Pazarı

Hibrit veri ambarı, veri ambarının ötesindeki kaynaklardan gelen girdileri birleştirir. Bu, örneğin kuruluşa yeni bir grup veya ürün eklendikten sonra olduğu gibi, anlık entegrasyona ihtiyaç duyduğunuzda yardımcı olur.

Çoklu veritabanı ortamlarına oldukça uygundur ve en az veri temizleme çabasıyla hızlı bir uygulama süreci sunar. Hibrit veri ambarı ayrıca büyük depolama yapılarını destekler ve daha küçük, veri odaklı uygulamalar için iyi çalışır.

Hibrit Veri Ambarı, veri ambarını diğer kaynaklarla birleştiriyor.

Hibrit Veri Pazarı

Datamart'ı Uygulama Adımları

Veri ambarı oluşturmanın beş adımı

Datamart'ı Uygulama Adımları

Bir veri ambarı oluşturmak, ödüllendirici ancak detaylı bir süreçtir. Tasarım, oluşturma, doldurma, erişim ve yönetim olmak üzere beş aşamadan geçer ve her biri aşağıda açıklanmıştır.

Tasarımı

Tasarım, veri ambarı uygulamasının ilk aşamasıdır. Veri ambarı için ilk talepten gereksinimlerin toplanmasına kadar her görevi kapsar ve mantıksal ve fiziksel veri ambarı tasarımıyla sona erer.

Tasarım aşaması aşağıdaki görevleri içerir:

  • İşletme ve teknik gereksinimlerin toplanması ve veri kaynaklarının belirlenmesi.
  • Uygun veri alt kümesinin seçilmesi.
  • Datamart'ın mantıksal ve fiziksel yapısının tasarlanması.

Veriler aşağıdaki kriterlere göre bölümlere ayrılabilir:

  • Tarih
  • İşletme veya fonksiyonel birim
  • Coğrafya
  • Yukarıdakilerin herhangi bir kombinasyonu

Veriler uygulama veya veritabanı yönetim sistemi (DBMS) düzeyinde bölümlendirilebilir; ancak uygulama düzeyinde bölümlendirme önerilir çünkü bu, iş ortamı değiştikçe her yıl farklı bir veri modeline olanak tanır. Çoğu veri ambarı şu temel üzerine kuruludur: boyutlu modelSorguların hızlı çalışmasını sağlamak için yıldız şema gibi bir şema kullanılabilir.

Hangi ürünlere ve teknolojilere ihtiyacınız var?

Bu aşamada basit bir kalem ve kağıt yeterli olacaktır. UML veya varlık-ilişki diyagramları oluşturmanıza yardımcı olan araçlar, mantıksal ve fiziksel tasarımlarınıza meta veri de ekleyebilir.

Oluşturma

Yapılandırma, uygulama sürecinin ikinci aşamasıdır. Fiziksel veritabanının ve mantıksal yapıların oluşturulmasını içerir.

Bu adım aşağıdaki görevi içerir:

  • Önceki aşamada tasarlanan fiziksel veritabanının uygulanması; örneğin, tablolar, indeksler ve görünümler gibi şema nesnelerinin oluşturulması.

Hangi ürünlere ve teknolojilere ihtiyacınız var?

Bir veri ambarı oluşturmak için ilişkisel veritabanı yönetim sistemine (RDBMS) ihtiyacınız vardır. Bir RDBMS, veri ambarının başarısı için gerekli olan çeşitli özellikler sunar:

  • Depolama Yönetimi: İlişkisel veritabanı yönetim sistemi (RDBMS), verileri depolar ve yönetir; kayıt oluşturmanıza, eklemenize ve silmenize olanak tanır.
  • Hızlı veri erişimi: SQL sorgusu ile belirli koşullara veya filtrelere göre kolayca veri alabilirsiniz.
  • Veri koruması: İlişkisel veritabanı yönetim sistemi (RDBMS), elektrik kesintileri gibi sistem arızalarından kurtulabilir ve bir disk arızası durumunda yedeklerden verileri geri yükleyebilir.
  • Çok kullanıcılı destek: Eş zamanlı erişim imkanı sunar, böylece birden fazla kullanıcı birbirlerinin değişikliklerini silmeden verileri okuyabilir ve değiştirebilir.
  • Güvenlik: Bu, hangi kullanıcıların hangi nesnelere erişebileceğini ve hangi işlemleri gerçekleştirebileceğini düzenler.

Doldurma

Üçüncü aşamada, veriler veri ambarına yerleştirilir.

Doldurma adımı aşağıdaki görevleri içerir:

  • Haritaping Kaynak verilerden hedef verilere.
  • ExtracKaynak verilerin işlenmesi.
  • Verilerin temizlenmesi ve dönüştürülmesi.
  • Verilerin veri ambarına yüklenmesi.
  • Meta verilerin oluşturulması ve saklanması.

Hangi ürünlere ve teknolojilere ihtiyacınız var?

Bu görevleri bir ETL (Örnek: ETL) ile gerçekleştirirsiniz.trac(Dönüştürme, Yükleme) aracı. Veri kaynaklarını inceler, kaynak-hedef eşlemesi gerçekleştirir.pingve sonratracVerileri dönüştürür, temizler ve veri ambarına yükler.

Bu süreçte araç, verilerin nereden geldiği, ne kadar güncel olduğu, hangi değişikliklerin yapıldığı ve hangi özetleme düzeyinin uygulandığı gibi ayrıntıları içeren meta veriler de oluşturur.

erişme

Verilere erişim dördüncü adımdır ve verilerin kullanılmasını sağlar: verileri sorgulamak, raporlar ve grafikler oluşturmak ve bunları yayınlamak. Son kullanıcılar sorguları gönderir ve sonuçları genellikle şu yollarla görüntüler: OLAP araç sağlar.

Erişim aşaması aşağıdaki görevleri içerir:

  • Veritabanı yapılarını ve nesne adlarını iş terimlerine çeviren bir meta katman oluşturarak, teknik bilgisi olmayan kullanıcıların veri ambarına kolayca erişmesini sağlamak.
  • Veritabanı yapılarının kurulması ve bakımı.
  • Gerektiğinde API'leri ve arayüzleri kurmak.

Hangi ürünlere ve teknolojilere ihtiyacınız var?

Veri ambarına komut satırı veya grafik arayüzü (GUI) kullanarak erişebilirsiniz. Grafik oluşturmayı kolaylaştırdığı ve komut satırına göre daha kullanıcı dostu olduğu için genellikle GUI tercih edilir.

Yönetme

Yönetim, veri ambarı uygulama sürecinin son aşamasıdır. Ekipler, grafik kullanıcı arayüzü (GUI) veya komut satırı kullanarak aşağıdaki gibi devam eden yönetim görevlerini yerine getirir:

  • Sürekli kullanıcı erişim yönetimi.
  • Daha iyi performans için sistem optimizasyonu ve ince ayar.
  • Veri ambarına yeni veriler ekleme ve bunları yönetme.
  • Sistem arızası durumunda sistemin kullanılabilirliğini korumak için kurtarma senaryoları planlamak.
  • Donanım ve yazılım arızalarından veri kaybını önleyerek kurtarma işlemi.

Data Mart'ları Uygulamaya Yönelik En İyi Uygulamalar

Veri ambarı uygulama sürecinin tamamında aşağıdaki en iyi uygulamaları takip edin:

  • Veri ambarının kaynaklarını departmanlara göre yapılandırın.
  • Uygulama döngüsünü aylar veya yıllar yerine haftalar cinsinden ölçün.
  • Planlama ve tasarım aşamasına tüm paydaşları dahil edin, çünkü bir veri ambarı uygulamasının hayata geçirilmesi karmaşık olabilir.
  • Veri ambarı donanımı, yazılımı, ağ iletişimi ve uygulama maliyetleri için doğru bir bütçe ayırın.
  • Bir veri ambarı donanımı paylaşsa bile, kullanıcı sorgularını işlemek için farklı yazılımlara ihtiyaç duyabilir; hızlı yanıtlar için gereken ek işlem gücünü ve depolama alanını değerlendirin.
  • Veri ambarı ile veri deposu farklı bir konumda bulunduğunda, gerekli veri hacimlerini taşımak için yeterli ağ kapasitesinin olduğundan emin olun.
  • Dönüşümlerin karmaşıklığı arttıkça artan yükleme süresi için bütçe ayırın.

Data Mart'ın Avantajları ve Dezavantajları

Herhangi bir mimari seçiminde olduğu gibi, veri ambarı da bazı dezavantajlarıyla birlikte belirgin avantajlar sunar.

Avantajlar

  • Bir veri ambarı, kuruluş genelindeki verilerin belirli bir kullanıcı grubu için değerli olan bir alt kümesini içerir.
  • Bu, kurulumu pahalı olabilen bir veri ambarına kıyasla maliyet açısından daha uygun bir alternatiftir.
  • Veri ambarı, verilere daha hızlı erişim sağlar.
  • Kullanımı kolaydır çünkü kullanıcılarının özel ihtiyaçlarına göre tasarlanmıştır ve bu da iş süreçlerini hızlandırabilir.
  • Veri ambarına kıyasla veri deposu (data mart) daha az uygulama süresi gerektirir, çünkü yalnızca verilerin bir alt kümesine odaklanırsınız.
  • Analistlerin trendleri belirlemesine yardımcı olan tarihsel veriler içerir.

Dezavantajlar

  • İşletmeler bazen birbirinden farklı ve ilişkisiz çok sayıda veri ambarı oluştururlar ve bu da bakımını zorlaştırır.
  • Bir veri ambarı, veri kümesinin sınırlı olması nedeniyle şirket genelinde veri analizi sağlayamaz.

SSS

A veri ambarı Kurumsal çapta her konuyu kapsayan bir veri deposuna genel bir bakış sunulurken, veri ambarı ise bir departman için daha küçük, konu odaklı bir alt küme içerir. Veri ambarları daha ucuz, daha hızlı oluşturulur ve daha hızlı sorgulanır, ancak şirket çapında analiz sağlayamazlar.

Veri ambarı, tek bir iş fonksiyonu için modellenmiş, yapılandırılmış ve işlenmiş verileri depolar. Veri gölü ise, yapılandırılmış, yarı yapılandırılmış veya yapılandırılmamış her türden ham veriyi büyük ölçekte depolar. Veri ambarları hızlı raporlama sağlarken, veri gölleri keşifsel veri bilimi ve makine öğrenimini destekler.

Çoğu veri ambarı şunu kullanır: boyutlu modelTipik olarak, boyut tablolarına bağlı merkezi bir olgu tablosuna sahip yıldız şeması kullanılır. Kar tanesi şeması ise bu boyutları daha da normalleştirir. Her ikisi de sorguları hızlandırır ve iş kullanıcıları için raporlamayı basitleştirir.

Satış veri ambarı, satış ekibi için müşteri işlemleri, gelir ve satış hattı metriklerini içerir. Pazarlama, finans ve insan kaynakları veri ambarları da aynı şekilde çalışır ve her departmana, tüm kurumsal veri ambarını sorgulamaya gerek kalmadan önceden toplanmış veriler sağlar.

Bir veri ambarı destekler OLAPBu, OLTP değil. İşlemsel OLTP sistemlerinin ele aldığı hızlı veri ekleme ve güncelleme işlemlerinden ziyade, raporlar ve gösterge panoları için geçmiş verileri okuma, toplama ve analiz etme konusunda optimize edilmiştir.

Bulut veri ambarı, şirket içi sunucular yerine yönetilen bir bulut veri ambarı platformunda çalışır. Donanım yönetimini ortadan kaldırır, depolama ve işlem gücünü isteğe bağlı olarak ölçeklendirir ve genellikle sorgu başına faturalandırarak maliyeti düşürür ve dağıtımı hızlandırır.

Yapay zeka ve makine öğrenimi araçları, kaynak verileri profilleme, şema ve boyutlar önerme ve ETL haritası oluşturma yoluyla veri ambarı çalışmalarını hızlandırır.pingVeri kalitesi sorunlarını işaretleyerek hataları tespit ederler. Ayrıca bölümleme ve indeksleme stratejileri de önerirler, ancak mühendislerin üretim ortamına dağıtmadan önce her öneriyi gözden geçirmeleri gerekir.

Evet. ChatGPT hem de GitHub Yardımcı Pilotu Kısa bir komut isteminden SQL sorguları, yıldız şema DDL'leri ve ETL komut dosyaları taslağı oluşturun. RevÇalıştırmadan önce doğru tablo adları, birleştirmeler ve ayrıntı düzeyleri için çıktıyı inceleyin, çünkü oluşturulan kod iş kurallarını gözden kaçırabilir.

Bu yazıyı şu şekilde özetleyin: