Apa itu Rekonsiliasi Data? Definisi, Proses, Alat
Apa itu Rekonsiliasi Data?
Rekonsiliasi data (DR) didefinisikan sebagai proses verifikasi data selama migrasi data. Dalam proses ini, data target dibandingkan dengan data sumber untuk memastikan bahwa arsitektur migrasi mentransfer data. Validasi dan rekonsiliasi data (DVR) berarti teknologi yang menggunakan model matematika untuk memproses informasi.
Mengapa Rekonsiliasi Data itu penting?
Dalam proses migrasi data, ada kemungkinan terjadi kesalahan dalam logika pemetaan dan transformasi. Masalah seperti kegagalan run time seperti terputusnya jaringan atau transaksi yang rusak dapat merusak data.
Kesalahan seperti ini dapat menyebabkan data tertinggal dalam keadaan tidak valid. Hal ini dapat menimbulkan berbagai masalah seperti:
- Catatan yang hilang
- Nilai yang hilang
- Nilai yang salah
- Catatan duplikat
- Nilai yang diformat dengan buruk
- Hubungan yang rusak antar tabel atau sistem
Berikut adalah alasan penting untuk menggunakan Proses Rekonsiliasi Data:
- Penggunaan Rekonsiliasi Data membantu Anda mengekstrak informasi yang akurat dan andal tentang keadaan proses industri dari data pengukuran mentah.
- Ini juga membantu Anda menghasilkan satu set data konsisten yang mewakili operasi proses yang paling mungkin dilakukan.
- Hal ini juga menyebabkan wawasan yang tidak akurat dan masalah dengan layanan pelanggan.
- Rekonsiliasi data juga penting untuk integrasi pengendalian perusahaan.
Selain hal di atas, masih banyak lagi kelebihan/kelebihan Rekonsiliasi Data.
Terminologi yang terkait dengan Rekonsiliasi Data
Kesalahan Besar | Kesalahan besar dalam pengukuran. Ini hanya mencerminkan kesalahan bias, kegagalan instrumen, atau lonjakan kebisingan yang tidak normal jika Anda hanya menggunakan periode rata-rata waktu yang singkat. |
Observabilitas | Analisis observabilitas dapat memberi Anda rincian tentang variabel apa yang dapat ditentukan untuk serangkaian kendala dan serangkaian pengukuran tertentu. |
Perbedaan | Varians adalah ukuran variabilitas suatu sensor. |
Redundansi | Ini membantu Anda menentukan pengukuran mana yang harus diestimasi dari variabel lain dengan menggunakan persamaan kendala. |
Sejarah Rekonsiliasi Data
Berikut adalah tonggak penting dari sejarah Rekonsiliasi Data.
- DVR (Validasi dan Rekonsiliasi Data) dimulai pada awal tahun 1960an. Hal ini bertujuan untuk menutup keseimbangan material dalam produksi dimana pengukuran mentah tersedia untuk semua variabel.
- Pada akhir tahun 1960an, semua variabel yang tidak terukur dipertimbangkan dalam proses rekonsiliasi data.
- Dinamika kondisi kuasi-stabil untuk penyaringan dan estimasi parameter paralel dari waktu ke waktu diperkenalkan pada tahun 1977 oleh Stanley dan Mah.
- DVR Dinamis dikembangkan sebagai model optimasi nonlinier yang dikeluarkan oleh Liebman pada tahun 1992
Proses Rekonsiliasi Data
Jenis metode Rekonsiliasi Data adalah:
Rekonsiliasi Data Induk
Rekonsiliasi data master adalah teknik merekonsiliasi hanya data master antara sumber dan target. Data master sebagian besar tidak berubah atau berubah secara perlahan, dan tidak ada operasi agregasi yang dilakukan pada kumpulan data.
Beberapa contoh umum rekonsiliasi data master adalah:
- Jumlah total baris
- Total Pelanggan dalam sumber dan target
- Jumlah total Item di sumber dan target
- Jumlah total baris berdasarkan kondisi tertentu
- Jumlah pengguna aktif
- Jumlah pengguna yang tidak aktif, dll.
Akurasi Aktivitas
- Anda perlu memastikan bahwa transaksi tersebut valid dan benar tujuannya.
- Perlu memeriksa apakah transaksi telah diotorisasi dengan benar.
Rekonsiliasi Data Transaksional
Data transaksional menjadi dasar laporan BI. Oleh karena itu, ketidaksesuaian data transaksional dapat berdampak langsung terhadap keandalan laporan dan sistem BI secara keseluruhan.
Metode rekonsiliasi data transaksional digunakan dalam hal jumlah total yang mencegah ketidakcocokan yang disebabkan oleh perubahan perincian dimensi yang memenuhi syarat.
Contoh tindakan yang digunakan untuk rekonsiliasi data transaksional adalah:
- Jumlah total pendapatan dihitung dari sumber dan target
- Jumlah keseluruhan barang yang terjual, dihitung dari sumber dan target, dll.
Rekonsiliasi Data Otomatis
Dalam sistem manajemen gudang data yang besar, akan lebih mudah untuk mengotomatiskan proses rekonsiliasi data dengan menjadikannya sebagai bagian integral dari pemuatan data. Ini memungkinkan Anda untuk mempertahankan tabel metadata pemuatan terpisah. Selain itu, rekonsiliasi otomatis akan memberikan informasi kepada semua pemangku kepentingan tentang validitas laporan.
Praktik terbaik dalam Menggunakan Rekonsiliasi Data
- Proses rekonsiliasi data harus bertujuan untuk memperbaiki kesalahan pengukuran.
- Kesalahan besar harus nol agar proses rekonsiliasi data menjadi efisien.
- Pendekatan standar Rekonsiliasi Data mengandalkan penghitungan catatan sederhana untuk melacak apakah jumlah catatan yang ditargetkan telah bermigrasi atau tidak.
- Solusi migrasi data memberikan kemampuan rekonsiliasi serupa dan fungsionalitas pembuatan prototipe data yang menawarkan pengujian rekonsiliasi data volume penuh.
Alat Rekonsiliasi Data
1) Buka Perbaiki
OpenRefine yang sebelumnya dikenal sebagai Google Refine adalah kerangka Rekonsiliasi Database yang berguna. Ini memungkinkan Anda untuk membersihkan dan mentransfer data yang berantakan.
Download link: https://openrefine.org/
2) Kejelasan TIBCO
Alat rekonsiliasi data ini menawarkan layanan perangkat lunak on-demand dari web dalam bentuk Software-as-a-service. Ini memungkinkan pengguna untuk memvalidasi data, dan membersihkan data. Ini menyediakan fitur pengujian rekonsiliasi lengkap. Banyak digunakan dalam proses ETL.
Ambil Link: https://www.tibco.com/
3) Win murni
Winpure adalah perangkat lunak pembersih data yang terjangkau dan akurat. Ini memungkinkan Anda untuk membersihkan sejumlah besar data, menghapus duplikat, mengoreksi dan menstandardisasi untuk merancang kumpulan data akhir.
Ambil Link: https://winpure.com/
Ringkasan
- Validasi dan rekonsiliasi data (DVR) adalah teknologi yang menggunakan model matematika untuk memproses informasi.
- Penggunaan rekonsiliasi data membantu Anda mengekstrak informasi yang akurat dan andal tentang keadaan proses industri dari data pengukuran mentah.
- Gross Error, Observability, Variance, Redundancy adalah istilah penting yang digunakan dalam proses Rekonsiliasi Data
- Validasi dan Rekonsiliasi data dimulai pada awal tahun 1960an.
- Tiga jenis metode Rekonsiliasi Data adalah 1) Rekonsiliasi Data Induk 2) Rekonsiliasi Data Transaksional 3) Rekonsiliasi Data Otomatis
- Kesalahan besar harus nol agar proses rekonsiliasi data menjadi efisien.
- Beberapa alat Rekonsiliasi Data yang penting adalah: 1)OpenRefine 2)TIBCO 3) Winpure
- Metode ini banyak digunakan dalam pemantauan kinerja dan proses di industri penyulingan minyak/nuklir/kimia