SSIS oktatóanyag kezdőknek: Archiszerkezet, csomagok és alkatrészek

⚡ Okos összefoglaló

Az SQL Server Integration Services (SSIS) a következők egyik összetevője: Microsoft SQL Server adatintegrációs és munkafolyamat-megoldások kiépítésére használják, ex végrehajtásáratraction, transformation, and loading (ETL) (Transzformáció, Betöltés és Áttöltés) módszert alkalmaz az adatok különböző források és célhelyek közötti mozgatásához és tisztításához.

  • 🔄 ETL motor: SSIS extracts adatok olyan forrásokból, mint az SQL Server, az Excel, Oracle, és a DB2, majd átalakítja és betölti egy célhelyre.
  • 🧠 Szabályozási folyamat: A Control Flow a csomag agya, amely precedencia-korlátozások alapján rendezi el a konténereket és a feladatokat.
  • ❤️ Adatfolyam: Az adatfolyam az SSIS lelke, amely a sorokat a memóriában lévő források, átalakítások és célhelyek között mozgatja.
  • 📦 csomagok: Egy csomag csoportosítja a sorrendben futó feladatokat, és .dtsx fájlként menti azokat az SQL Serverre vagy a fájlrendszerbe.
  • 🧩 feladatok: Előre elkészített feladatok, például SQL végrehajtása, adatfolyam, fájlrendszer, FTP és küldés Mail húzással konfigurálhatók.
  • Előnyök: Az SSIS automatizálja az adatbetöltést, tisztítja és szabványosítja az adatokat, valamint robusztus hiba- és eseménykezelést biztosít.

SQL Server Integration Services (SSIS): architektúra, csomagok, feladatok és ETL munkafolyamat

Mi az SSIS?

Az SQL Server Integration Services (SSIS) a rendszer egyik összetevője. Microsoft SQL Server adatbázis-szoftver, amely széles körű adatmigrációs feladatok végrehajtására használható. Az SSIS egy gyors és rugalmas adattárház adatexhez használt eszköztracolyan műveletek, mint az adatok tisztítása, összesítése és egyesítése.

Ez megkönnyíti az adatok egyik adatbázisból a másikba való áthelyezését. Az SSIS képes pl.tracadatok sokféle forrásból, például SQL Server adatbázisokból, Excel fájlokból, Oracle és DB2 adatbázisok, és egyebek.

Az SSIS grafikus eszközöket és varázslókat is tartalmaz a munkafolyamat-funkciók végrehajtásához, például e-mailek küldéséhez, FTP-műveletekhez, valamint adatforrások és célhelyek konfigurálásához.

Miért használjuk az SSIS-t?

Íme a főbb okok az SSIS eszköz használatára:

  • Az SSIS segít a különböző adattárakból származó adatok egyesítésében.
  • Automatizálja az adminisztratív funkciókat és az adatbetöltést.
  • Adatmartokat és adattárházakat tölt be.
  • Segít az adatok tisztításában és szabványosításában.
  • Beépíti a BI-t az adatátalakítási folyamatba.
  • Az SSIS egy grafikus felhasználói felületet tartalmaz, amely segít a felhasználóknak az adatok egyszerű átalakításában a nagy programok írása helyett.
  • Néhány perc alatt képes több millió sort betölteni egyik adatforrásból a másikba.
  • Azonosítja, rögzíti és feldolgozza az adatváltozásokat.
  • Koordinálja az adatok karbantartását, feldolgozását és elemzését.
  • Az SSIS kiküszöböli a hardcore programozók szükségességét.
  • Az SSIS robusztus hiba- és eseménykezelést kínál.

Az SSIS története

Az SSIS előtt az SQL Server Data Transformation Services (DTS) szolgáltatást használták, amely az SQL Server 7 és 2000 része volt. Az alábbi táblázat trachogyan formálta az egyes SQL Server kiadások az eszközt:

Változat Részlet
SQL Server 2005 Az Microsoft csapata úgy döntött, hogy felújítja a DTS-t. A DTS frissítése helyett azonban úgy döntöttek, hogy a terméket Integration Services-nek (SSIS) nevezik el.
SQL Server 2008 Rengeteg teljesítményjavítás történt az SSIS-ben. Új forrásokat is bemutattak.
SQL Server 2012 Ez volt az SSIS legnagyobb kiadása. Ezzel a verzióval bevezették a projekttelepítési modellt. Ez lehetővé teszi, hogy teljes projekteket és azok csomagjait telepítsenek egy szerverre adott csomagok helyett.
SQL Server 2014 Ebben a verzióban nem sok változtatás történt az SSIS-en. De új forrásokat és átalakításokat adtak hozzá, amelyeket külön letöltésekkel végeztek el a következő címen: CodePlex vagy az SQL Server Feature Pack.
SQL Server 2016 Hozzáadtuk a növekményes csomagtelepítést, így egyes csomagok áthelyezhetők voltak egy meglévő projektbe. Az SSISDB katalógus Always On rendelkezésre állási csoport támogatást, egyéni naplózási szinteket és hibaoszlopneveket kapott. További felhő- és big data források érkeztek a Azure Funkciócsomag.
SQL Server 2017 Bevezették a Scale Out funkciót, amely a csomagok végrehajtását több, egyetlen masterről felügyelt munkagép között osztja szét. Az SSIS most először futtatható Linuxon is, és a csomagok telepíthetők voltak az SSISDB-be a következő szervereken: Azure SQL adatbázis és a következőn végrehajtva: Azure-SSIS integrációs futásidejű Azure Adatgyár.
SQL Server 2019 Egy csendes kiadás, amely a felhőalapú fájlkezelésre összpontosított. A Rugalmas fájlfeladat és a Rugalmas fájlforrás/célhely megkönnyítette a fájlokkal való munkát a felhőben. Azure tároló, beleértve az Avro, ORC és Parquet formátumokat (ezekhez egy Java futásidejű).
SQL Server 2022 Lényegében nincsenek új SSIS funkciók. A motort változatlanul vitték tovább, miközben Microsoftadatintegrációs befektetései a következő irányba helyeződtek át: Azure Data Factory és később Microsoft Szövet.
SQL Server 2025 Megjelent: Microsoft Ignite 2025 novemberében. A fő újítás egy modern ADO.NET kapcsolatkezelő. Microsoft.Data.SqlClient szolgáltató, amely TLS 1.3-at és Microsoft Entra ID hitelesítés. Ez a kiadás számos elemet eltávolít vagy elavul: az Attunity CDC komponenseket, a Hadoop feladatokat, az SSIS Package Store-t, a korábbi Integration Services szolgáltatást és a 32 bites végrehajtási módot.

Az SSIS kiemelkedő jellemzői

Íme néhány fontos SSIS funkció:

  • Stúdiókörnyezetek
  • Releváns adatintegrációs funkciók
  • Hatékony végrehajtási sebesség
  • Szoros integráció a másikkal Microsoft SQL család
  • Adatbányászati ​​lekérdezés-transzformáció
  • Fuzzy Lookup és Groupping transzformációk
  • Term Extracció és kifejezéskeresési transzformációk
  • Nagyobb sebességű adatkapcsolati komponensek, például a SAP or Oracle

SSIS Architectúra

Az alábbi ábra bemutatja, hogyan illeszkednek egymáshoz a fő SSIS-összetevők, a vezérlési folyamattól a paraméterekig:

SSIS architektúradiagram: Vezérlőfolyamat, Adatfolyamat, Eseménykezelő, Csomagkezelő és Paraméterek

Az SSIS architektúra összetevői a következők:

  • Control Flow (tárolókat és feladatokat tárol)
  • Adatfolyam (forrás, cél, átalakítások)
  • Eseménykezelő (üzenetek, e-mailek küldése)
  • Csomagböngésző (egyetlen nézetben megtekintheti a csomag összes elemét)
  • Paraméterek (felhasználói interakció)

Értsük meg részletesen az egyes komponenseket:

1. Control Flow

A Control Flow az SSIS csomag agya. Segít az összes komponens végrehajtási sorrendjének beállításában. A komponensek konténereket és feladatokat tartalmaznak, amelyeket precedenciakorlátok kezelnek.

2. Elsőbbségi korlátozások

A precedenciakorlátozások olyan csomagösszetevők, amelyek a feladatokat előre meghatározott sorrendben hajtják végre. Emellett meghatározzák a teljes SSIS-csomag munkafolyamatát is. A precedenciakorlátozás két összekapcsolt feladat végrehajtását szabályozza azáltal, hogy a célfeladatot a korábbi feladat eredménye alapján hajtja végre – ezek speciális kifejezésekkel definiált üzleti szabályok.

3. Feladat

A „feladat” egy önálló munkaegység. Ugyanaz, mint egy programozási nyelvben használt metódus vagy függvény. Az SSIS-ben azonban nem kódolási metódusokat használunk. Ehelyett a tervezési felületen a „fogd és vidd” technikát alkalmazzuk a konfigurálásukhoz.

4. Konténerek

A konténer egy földelési egység.ping feladatok munkaegységekbe való összevonása. A vizuális konzisztencia biztosítása mellett lehetővé teszi olyan változók és eseménykezelők deklarálását is, amelyeknek az adott konténer hatókörében kell lenniük.

Az SSIS-ben a három konténertípus a következő:

  • Sequence Container
  • Ciklustárolóhoz
  • Foreach Loop Container

Sorozattároló: lehetővé teszi a kiegészítő feladatok csoportonkénti rendszerezésétping őket, és lehetővé teszi tranzakciók alkalmazását vagy naplózás hozzárendelését a konténerhez.

Ciklustároló esetén: ugyanazokat a funkciókat biztosítja, mint a Sequence Container, azzal a különbséggel, hogy a feladatok többszöri futtatását is lehetővé teszi. Azonban egy kiértékelési feltételen alapul, mint például a loo.ping re 1 a 100.

Foreach ciklustároló: toalettet is lehetővé teszpingA különbség az, hogy feltételkifejezés helyett a következőt használjuk: looping egy objektumhalmazon történik, például egy mappában lévő fájlokon.

5. Adatáramlás

Az SSIS eszköz fő felhasználási területe a következők kiderítése:tracadatokat a szerver memóriájába, átalakítja azokat, és egy másik célhelyre írja. Ha a Control Flow az agy, akkor a Data Flow az SSIS szíve.

6. SSIS-csomagok

Az SSIS egy másik alapvető eleme a csomag fogalma. Ez egy rendezett módon végrehajtódó feladatok gyűjteménye. Itt a precedenciakorlátok segítenek kezelni a feladatok végrehajtási sorrendjét.

Egy csomag fájlokat menthet egy SQL Serverre, az msdb vagy a csomagkatalógus-adatbázisba. Menthető .dtsx fájlként, amely egy strukturált fájl, amely nagyon hasonlít ahhoz, ahogyan az .rdl fájlok kapcsolódnak a... Jelentési szolgáltatásokAz alábbi ábra egy .dtsx fájlként mentett SSIS csomagot mutat be:

SSIS csomag .dtsx fájlként mentve és SQL Serveren vagy a fájlrendszeren tárolva

7. Paraméterek

A paraméterek nagyon hasonlóan viselkednek, mint egy változó, néhány fő kivétellel. A paraméter könnyen beállítható a csomagon kívül. Kijelölhető egy értékként, amelyet át kell adni a csomag elindításához.

SSIS feladattípusok

Az SSIS eszközben hozzáadhat egy feladatot a vezérlési folyamathoz. Különböző típusú feladatok léteznek, amelyek különféle munkákat végeznek. Néhány fontos SSIS feladat az alábbiakban felsorolásra kerül:

A feladat neve Leírás
Végezze el az SQL feladatot Ahogy a neve is sugallja, egy SQL utasítást hajt végre egy relációs adatbázison.
Adatáramlási feladat Ez a feladat képes adatokat olvasni egy vagy több forrásból, átalakítani az adatokat, amíg azok a memóriában vannak, és kiírni azokat egy vagy több célhelyre.
Elemzési szolgáltatások feldolgozási feladat Ezzel a feladattal táblázatos modell vagy SSAS-kocka objektumait dolgozhatja fel.
Csomagfeladat végrehajtása Ezzel az SSIS feladattal más csomagokat is végrehajthat ugyanazon a projekten belül.
Folyamatfeladat végrehajtása A feladat segítségével parancssori paramétereket adhat meg.
Fájlrendszer feladat Manipulációkat hajt végre a fájlrendszerben, például fájlokat mozgat, átnevez és töröl, valamint könyvtárakat hoz létre.
FTP-feladat Lehetővé teszi az alapvető FTP funkciók végrehajtását.
Script Task Ez egy üres feladat. Írhatsz .NET kódot, amely bármilyen kívánt feladatot végrehajt.
Küldés Mail Feladat E-mailben értesítheti a felhasználókat, hogy a csomagja elkészült, vagy hogy valamilyen hiba történt.
Feladat tömeges beszúrása A bulk insert paranccsal tölthet be adatokat egy táblázatba.
Script Task Egy készletet futtat VB.NET vagy C# kód egy Visual Studio környezetben.
Webszolgáltatási feladat Egy metódust hajt végre egy webszolgáltatáson.
WMI eseményfigyelő feladat Ez a feladat lehetővé teszi az SSIS-csomag számára, hogy várjon bizonyos WMI-eseményekre és válaszoljon azokra.
XML feladat Ez a feladat segít bármely XML-fájl egyesítésében, felosztásában vagy újraformázásában.

Egyéb fontos ETL eszközök

Az SSIS egyike a sok exnektract-transform-load platformok. További fontos ETL eszközök a következők:

  • SAP Adatszolgáltatások
  • SAS adatkezelés
  • Oracle Raktárépítő (OWB)
  • PowerCenter Informatica
  • IBM InfoSphere információs szerver
  • Elixir repertoár Data ETL-hez
  • Sagent adatfolyam

Az SSIS használatának előnyei

Az SSIS eszköz a következő előnyöket kínálja:

  • Széleskörű dokumentáció és támogatás
  • A végrehajtás egyszerűsége és gyorsasága
  • Szoros integráció az SQL Serverrel és a Visual Studio-val
  • Szabványos adatintegráció
  • Valós idejű, üzenetalapú lehetőségeket kínál
  • Elosztási modell támogatása
  • Segít eltávolítani a hálózatot, mint szűk keresztmetszetet az SSIS által az SQL Serverbe beillesztett adatok esetében
  • Lehetővé teszi az SQL Server célhely használatát az OLE DB helyett az adatok gyorsabb betöltéséhez

Az SSIS hátrányai

Az SSIS eszköz használatának néhány hátránya a következő:

  • Néha problémákat okoz a nemWindows környezetben.
  • Nem világos jövőkép és stratégia.
  • Az SSIS nem támogatja az alternatív adatintegrációs stílusokat.
  • Problémás integráció néhány más termékkel.

Példa az SSIS legjobb gyakorlataira

Néhány bevált gyakorlat alkalmazása gyorsaságot és karbantarthatóságot biztosít az SSIS csomagoknak:

  • Az SSIS egy memórián belüli folyamat, ezért fontos biztosítani, hogy minden átalakítás a memóriában történjen.
  • Próbáld meg minimalizálni a naplózott műveleteket.
  • A kapacitás megtervezése az erőforrás-kihasználtság megértésével.
  • Optimalizálja az SQL keresési transzformációt, az adatforrást és a célt.
  • Ütemezze be és ossza el helyesen.

GYIK

Az ETL az Ex rövidítést jelöli.tract, Átalakítás, Betöltés. SSIS extracts adatok olyan forrásokból, mint az SQL Server, az Excel vagy Oracle, a memóriában tisztítással és egyesítéssel átalakítja, majd betölti az eredményt egy céladatbázisba vagy fájlba.

Az SSIS egy helyszíni ETL eszköz, amely az SQL Serverrel együtt telepítve van, és amely átalakítja az adatokat a memóriában. Azure A Data Factory egy felhőalapú adatintegrációs szolgáltatás, amely összehangolja a folyamatokat és az ELT felé hajlik. A meglévő SSIS csomagok is futtathatók a következőben: Azure az SSIS Integration Runtime-on keresztül.

A .dtsx fájl az az XML fájl, amelyként egy SSIS csomagot mentenek. Ez tárolja a csomag feladatait, a vezérlési folyamatot, az adatfolyamot és a kapcsolatokat, és telepíthető SQL Serverre, az msdb adatbázisba vagy a fájlrendszerbe.

Az SSIS csomagok az SQL Server Data Tools (SSDT) ​​programban készülnek, amely az SQL Server Data Tools egy kiterjesztése. Visual StudioEgy drag-and-drop tervezőt biztosít a vezérlési folyamathoz és az adatfolyamhoz, így a legtöbb munkához nincs szükség kézzel írott kódra.

Igen. Az SSIS továbbra is része a modern SQL Server kiadásoknak, és továbbra is széles körben használt helyszíni ETL eszköz. A csapatok a meglévő csomagokat a felhőben is futtathatják a következőn keresztül: Azure-SSIS Integration Runtime, így a készség releváns marad.

Mindhárom SQL Server szolgáltatás. Az SSIS kezeli az adatintegrációt és az ETL-t. SSRS jelentéseket készít, az SSAS pedig OLAP-kockákat és elemzéseket szállít. Gyakran használják őket együtt egy Microsoft üzleti intelligencia verem.

A mesterséges intelligencia és a gépi tanulás segíti az ETL-folyamatokat az adatminőségi problémák automatikus észlelésében, és forrás-cél térképet javasol.pings, fuzzy illesztést biztosítanak, és anomáliákat jeleznek. Az SSIS-ben a csapatok ezeket szkriptfeladatokon keresztül vagy külső mesterséges intelligencia szolgáltatások meghívásával adják hozzá az adatfolyamat során.

Igen. GitHub másodpilóta VB.NET vagy C# kódot tud vázlatolni egy SSIS Script Task-on belül, valamint SQL-t tud használni az SQL Tasks végrehajtásához. RevNézd meg az egyes javaslatokat, mielőtt futtatnád őket a csomagodban.

Foglald össze ezt a bejegyzést a következőképpen: