Qu’est-ce que le Big Data ? Types, caractéristiques et exemples

⚡ Résumé intelligent

Le terme Big Data désigne des ensembles d'informations si volumineux, si variés et évoluant si rapidement que les outils de bases de données ordinaires ne peuvent ni les stocker ni les traiter, ce qui explique la nécessité de plateformes distribuées et de nouvelles méthodes d'analyse.

  • (I.e. Définition: Le volume seul ne suffit pas à rendre les données volumineuses ; la complexité et le taux de croissance sont tout aussi importants.
  • ☑️ Trois types: Les données structurées ont un format fixe, les données non structurées n'en ont pas, et les données semi-structurées se situent entre les deux.
  • ✅ Exemples résolus : Les bourses, les plateformes sociales et les moteurs à réaction produisent chacun des téraoctets de nouvelles données chaque jour.
  • 🧪 Caractéristiques: Volume, variété, vitesse et variabilité sont les quatre critères classiques, auxquels s'ajoutent souvent la véracité et la valeur.
  • ️ Valeur commerciale: Renseignements externes, analyse plus rapide des commentaires clients, détection plus précoce des risques et déchargement d'entrepôt moins coûteux.
  • ⚠️ Échelle aujourd'hui : Le monde crée désormais environ 402 millions de téraoctets par jour. track pour plus de 200 zettaoctets en 2026.

Types et caractéristiques du Big Data expliqués avec des exemples

Avant de passer à l'introduction au Big Data, il est essentiel de comprendre ce que sont les données elles-mêmes.

Qu'est-ce que les données?

Les données sont les quantités, les caractères ou les symboles sur lesquels un ordinateur effectue des opérations, qui peuvent être stockés et transmitsous forme de signaux électriques et enregistrés sur des supports d'enregistrement magnétiques, optiques ou mécaniques.

Examinons maintenant la définition du Big Data.

Qu'est-ce que le Big Data?

Big Data Le Big Data désigne un ensemble de données dont le volume est colossal et qui croît de façon exponentielle avec le temps. Ces données sont si volumineuses et complexes qu'aucun outil de gestion de données traditionnel ne peut les stocker ou les traiter efficacement. Le Big Data reste des données, mais d'une ampleur telle qu'il met à mal les outils habituels.

Le diagramme ci-dessous compare cette définition aux données ordinaires qu'une organisation gère déjà, ce qui permet de constater facilement le changement d'échelle.

Diagramme définissant le Big Data et ses différences avec les données gérées par les outils de gestion traditionnels

Qu'est-ce que le Big Data?

Quel est un exemple de Big Data ?

Voici quelques exemples de Big Data :

Données boursières

Le New York Stock Exchange est un exemple de Big Data qui génère environ un téraoctet de nouvelles données commerciales par jour.

Salle des marchés boursiers générant environ un téraoctet de données de transactions par jour

Réseaux sociaux

La statistique montre que 500+téraoctets des nouvelles données sont ingérées dans les bases de données du site de médias sociaux Facebook, tous les jours. Ces données sont principalement générées en termes de téléchargements de photos et de vidéos, d'échanges de messages, de mise en commentaires, etc.

Icônes des réseaux sociaux illustrant le volume quotidien de données photo, vidéo et de messages

Moteurs à réaction

Un célibataire ou Individual Moteur d'avion peut générer 10+téraoctets de données dans 30 minutes du temps de vol. Avec plusieurs milliers de vols par jour, la génération de données atteint jusqu'à plusieurs Pétaoctets.

Les capteurs des moteurs à réaction produisent plus de dix téraoctets de données télémétriques en trente minutes de vol.

Ces trois chiffres représentent des instantanés par source à l'époque de la première publication des exemples, et leur nombre n'a cessé d'augmenter depuis. Pour donner une idée de l'échelle actuelle, le monde dans son ensemble représente aujourd'hui environ 402 millions de téraoctets de données par jour, portant le total annuel de 2026 à track pour plus de 200 zettaoctets.

Types de mégadonnées

Voici les types de Big Data :

  1. Structuré
  2. Non structuré
  3. Semi-structuré

Structuré

Toute donnée pouvant être stockée, consultée et traitée dans un format fixe est qualifiée de « donnée structurée ». Au fil du temps, l’informatique a connu un grand succès dans le développement de ces données.ping Il existe des techniques pour traiter ce type de données, dont le format est connu à l'avance, et pour en extraire de la valeur. Cependant, des problèmes surgissent lorsque la taille de ces données atteint des proportions considérables, atteignant généralement plusieurs zettaoctets.

Savez-vous? Un zettaoctet est 1021 octets, lequel est un milliard de téraoctets.

Au vu de ces chiffres, on comprend aisément pourquoi on parle de Big Data et on peut imaginer les défis que représentent son stockage et son traitement.

Savez-vous? Les données stockées dans un système de gestion de base de données relationnelle en sont un exemple. 'structuré' revendre.

Exemples de données structurées

La table « Employé » d'une base de données est un exemple de données structurées. Chaque ligne comporte les mêmes cinq colonnes, et chaque colonne a un type connu, ce qui facilite grandement l'interrogation des données.

ID_employé Nom de l'employé Genre Département Salaire_In_lacs
2365 Rajesh Kulkarni Masculin Finance 650000
3398 Pratibha Joshi femme Administrateur 650000
7465 Shushil Roy Masculin Administrateur 500000
7500 Shubhojit Das Masculin Finance 500000
7699 Priya Sané femme Finance 550000

Non structuré

Toute donnée dont la forme ou la structure est inconnue est classée comme donnée non structurée. Outre leur volume considérable, les données non structurées posent de nombreux défis en matière de traitement pour en extraire de la valeur. Un exemple typique de données non structurées est une source de données hétérogènes contenant une combinaison de fichiers texte simples, d'images, de vidéos, etc. De nos jours, les organisations disposent d'une multitude de données, mais malheureusement, elles ne savent pas comment les exploiter, car ces données sont brutes ou non structurées.

Exemples de données non structurées

Le résultat renvoyé par 'Google La fonction « Search » n’est pas structurée : une même requête renvoie des pages, des images, des extraits et des liens sans schéma commun.

Google Page de résultats de recherche comme exemple de données non structurées contenant du texte, des liens et des images.

Exemple de données non structurées

Semi-structuré

Les données semi-structurées peuvent contenir les deux formes mentionnées ci-dessus. Elles semblent structurées, mais ne sont pas définies par un schéma formel tel qu'une définition de table dans un système relationnel. SGBDUn exemple courant de données semi-structurées est celui des données représentées dans un fichier XML. Les documents JSON et les lignes de journal contenant des paires clé-valeur appartiennent à la même catégorie.

Exemples de données semi-structurées

Données personnelles stockées dans un fichier XML-

<rec><name>Prashant Rao</name><sex>Male</sex><age>35</age></rec>
<rec><name>Seema R.</name><sex>Female</sex><age>41</age></rec>
<rec><name>Satish Mane</name><sex>Male</sex><age>29</age></rec>
<rec><name>Subrato Roy</name><sex>Male</sex><age>26</age></rec>
<rec><name>Jeremiah J.</name><sex>Male</sex><age>35</age></rec>

Croissance des données au fil des ans

Le tableau ci-dessous tracks comment la proportion de données structurées et non structurées a évolué à mesure que le volume total a augmenté.

Graphique de la croissance des données au fil des ans montrant que les données non structurées ont progressé plus rapidement que les données structurées.

Croissance des données au fil des ans

Gardez à l'esprit que application web Les données non structurées se composent de fichiers journaux, de fichiers d'historique des transactions, etc. Les systèmes OLTP sont conçus pour fonctionner avec des données structurées, où les données sont stockées dans des relations (tables).

Caractéristiques du Big Data

Le Big Data peut être décrit par les caractéristiques suivantes :

  • Volume
  • Variété
  • Vitesse
  • Variabilité

(i) Volumes – Le terme « Big Data » est intrinsèquement lié à une taille colossale. Le volume des données joue un rôle crucial dans la détermination de la valeur qu'on peut en tirer. De même, la qualification d'un ensemble de données comme Big Data dépend de son volume. 'Le volume' est une caractéristique à prendre en compte lorsqu’on traite des solutions Big Data.

(ii) Variété – Le prochain aspect du Big Data est son variété.

La variété des données fait référence à leur hétérogénéité et à leur nature, qu'elles soient structurées ou non. Auparavant, les tableurs et les bases de données étaient les seules sources de données prises en compte par la plupart des applications. Aujourd'hui, les applications d'analyse considèrent également des données telles que des courriels, des photos, des vidéos, des données issues de dispositifs de surveillance, des fichiers PDF, des fichiers audio, etc. Cette diversité de données non structurées pose des problèmes spécifiques en matière de stockage, d'exploration et d'analyse.

(iii) Vitesse – Le terme 'rapidité' Cela concerne la vitesse de génération des données. La rapidité avec laquelle les données sont générées et traitées pour répondre à la demande détermine leur véritable potentiel.

La vélocité du Big Data concerne la vitesse à laquelle les données circulent depuis des sources telles que les processus métier, les journaux d'applications, les réseaux, les réseaux sociaux, les capteurs, mobile appareils, etc. Le flux de données est massif et continu.

(iv) Variabilité – Cela fait référence à l'incohérence qui peut parfois être montrée par les données, entravant ainsi le processus de traitement et de gestion efficace des données.

Deux autres caractéristiques sont aujourd'hui couramment ajoutées à cette liste, donnant naissance aux fameux « cinq V » :

  • Véracité – la fiabilité et l’exactitude des données. Les enregistrements en double, la dérive des capteurs et les champs manquants réduisent leur véracité, et aucun volume de données ne peut compenser ces pertes.
  • Valeur – la valeur réelle des données une fois analysées. Les données qui ne donnent jamais lieu à une décision ne font qu'augmenter les coûts de stockage.

Avantages du traitement des mégadonnées

La capacité à traiter des données massives dans un SGBD apporte de multiples avantages, tels que :

Les entreprises peuvent utiliser des renseignements externes pour prendre des décisions.

Accès aux données sociales de moteurs de recherche et des plateformes comme Facebook et X (anciennement Twitter) permettent aux organisations d'affiner leurs stratégies commerciales.

Service client amélioré

Les systèmes traditionnels de retour d'information client sont progressivement remplacés par de nouveaux systèmes conçus à partir des technologies du Big Data. Ces nouveaux systèmes utilisent le Big Data et le traitement automatique du langage naturel pour analyser et évaluer les réponses des consommateurs.

Identification précoce des risques liés aux produits et services

L'analyse continue des enregistrements de transactions, des relevés de capteurs et des tickets d'assistance permet de détecter les défauts, les schémas de fraude et les défaillances de service dès leur apparition, au lieu d'attendre un rapport mensuel pour les révéler.

Rapidité OperaEfficacité internationale

Les technologies du Big Data peuvent être utilisées pour créer une zone de transit ou une zone d'atterrissage pour les nouvelles données avant d'identifier celles qui doivent être transférées vers le système. entrepôt de donnéesDe plus, une telle intégration des technologies Big Data et de l'entrepôt de données permet à une organisation de se décharger des données rarement consultées.

FAQ

Selon les estimations actuelles, le volume de données s'élève à environ 402 millions de téraoctets par jour, ce qui porte le total annuel pour 2026 à plus de 200 zettaoctets. Ce chiffre ne cesse d'augmenter car les données vidéo, les données de télémétrie des capteurs et les journaux d'applications croissent plus rapidement que les enregistrements transactionnels.

Algorithms Il s'agit de déceler des tendances parmi des millions d'enregistrements qu'aucun analyste ne pourrait examiner manuellement, puis d'évaluer les nouveaux enregistrements par rapport à ces tendances. Des ensembles d'entraînement plus vastes et plus variés améliorent généralement la précision, ce qui explique la convergence de ces deux domaines.

Il rédige bien les tâches routinières : Spark transformations, définitions de schémas, jointures SQL et configuration des connecteurs. RevExaminez attentivement le résultat, car les pipelines générés ignorent souvent le partitionnement, les types de données et le coût, là où les pipelines réels échouent.

Le stockage distribué tel que HDFS ou les stockages d'objets cloud, les moteurs de traitement tels que Spark et Flink, des systèmes de flux tels que Kafka, et des couches de requêtes telles que RucheLes entrepôts de données cloud gérés couvrent désormais bon nombre de ces mêmes tâches.

La mauvaise qualité des données, le manque de clarté concernant la propriété des données, les coûts de stockage et de calcul, ainsi qu'une pénurie d'ingénieurs capables d'exploiter des systèmes distribués sont autant de problèmes qui freinent la plupart des projets. Ces échecs sont davantage liés à la gouvernance et à des questions commerciales floues qu'à des problèmes technologiques.

Des réglementations telles que le RGPD limitent les données personnelles qui peuvent être collectées, leur durée de conservation et leur lieu de stockage. Les équipes répondent avec le consentement. tracLe système intègre des politiques de rétention, la pseudonymisation et des journaux d'audit.

Un lac de données stocke des fichiers bruts de tout format et leur applique une structure lors de la lecture. Un entrepôt de données stocke des tables nettoyées et modélisées et leur applique une structure lors de l'écriture, ce qui accélère les requêtes mais ralentit le chargement.

SQL d'abord, puis un langage de programmation tel que Python ou Scala, traitement distribué avec SparkUne plateforme cloud et une modélisation des données suffisante pour concevoir des tableaux pertinents sont indispensables. La communication est tout aussi importante, car les résultats doivent convaincre un public non spécialisé.

Résumez cet article avec :