Uovervåget maskinlæring: Algorithms, Typer og eksempler

⚡ Smart opsummering

Uovervåget læring er en maskinlæringsteknik, der arbejder på umærkede data, hvilket lader modellen opdage struktur på egen hånd gennem klyngedannelse, associationsregler og dimensionalitetsreduktion i stedet for ud fra svar, der er givet på forhånd.

  • 🔘 Ingen etiketter nødvendige: Algoritmen søger efter struktur i stedet for at matche kendte svar.
  • ☑️ Tre opgavefamilier: Clustering, associationsregeludvinding og dimensionalitetsreduktion.
  • Fire klyngeformede stilarter: Eksklusiv, agglomerativ, overlapningping og probabilistisk.
  • 🧪 Navngivne algoritmer: K-middelværdier, hierarkisk klyngedannelse, Fuzzy C-middelværdier, PCA, SVD og ICA.
  • 🛠️ Hvor den tjener sin plads: Kundesegmentering, afsløring af svindel og anomali, analyse af markedskurv, dataforbehandling.
  • 🇧🇷 Afvejningen: Ingen ground truth betyder, at resultater skal fortolkes, valideres og navngives af et menneske.

Uovervåget maskinlæring: algoritmer, typer med eksempler

Hvad er uovervåget læring?

Uovervåget læring er en maskinlæringsteknik, hvor brugeren ikke behøver at overvåge modellen. I stedet tillader den modellen at arbejde på egen hånd for at opdage mønstre og information, der tidligere ikke var opdaget. Den beskæftiger sig primært med umærkede data.

Uovervåget læring Algorithms

Uovervåget læring Algorithms tillade brugerne at udføre mere komplekse behandlingsopgaver sammenlignet med overvåget læringUovervåget læring kan dog være mere uforudsigelig end metoder, der er trænet mod kendte svar. Uovervågede læringsalgoritmer omfatter klyngedannelse, anomalidetektion, dimensionalitetsreduktion og selvorganiserende neurale netværk.

Eksempel på uovervåget maskinlæring

Lad os tage et eksempel på uovervåget læring for en baby og hendes familiehund. Det første billede viser det kæledyr, som babyen allerede genkender.

En baby med sin familiehund, dyret hun allerede genkender

Hun kender og identificerer denne hund. Et par uger senere tager en familieven en hund med og prøver at lege med babyen. Den anden, ukendte hund er vist nedenfor.

En ukendt hund, som babyen aldrig har set før

Babyen har ikke set denne hund før. Men hun genkender, at mange træk (2 ører, øjne, gang på 4 ben) minder om hendes kæledyrshund. Hun identificerer det nye dyr som en hund. Dette er uovervåget læring, hvor du ikke bliver undervist, men du lærer fra dataene (i dette tilfælde data om en hund). Hvis dette havde været overvåget læring, ville familievennen have fortalt babyen, at det er en hund, som vist i ovenstående eksempel på uovervåget læring.

Hvorfor uovervåget læring?

Her er de primære grunde til at bruge uovervåget læring i Maskinelæring:

  • Uovervåget maskinlæring finder alle mulige ukendte mønstre i data.
  • Uovervågede metoder hjælper dig med at finde funktioner, der kan være nyttige til kategorisering.
  • Den kan køre på data, når de ankommer, så indgående poster analyseres og grupperes uden at vente på, at et menneske først mærker dem.
  • Det er lettere at få umærkede data fra en computer end mærkede data, som kræver manuel indgriben.

Clustering Typer af uovervåget læring Algorithms

Uovervågede læringsproblemer grupperes yderligere i klyngedannelses-, associations- og dimensionalitetsreduktionsproblemer. ClusterVed at gruppere lignende poster finder associationer elementer, der vises sammen, og dimensionalitetsreduktion komprimerer mange funktioner til nogle få.

ClusterING

Clustering er et vigtigt begreb, når det kommer til uovervåget læring. Det handler hovedsageligt om at finde en struktur eller et mønster i en samling af ukategoriserede data. Uovervåget læring ClusterAlgoritmer behandler dine data og finder naturlige klynger (grupper), hvis de findes i dataene. Du kan også ændre, hvor mange klynger dine algoritmer skal identificere. Det giver dig mulighed for at justere granulariteten af ​​disse grupper. Diagrammet nedenfor viser spredte poster opdelt i forskellige grupper.

Clustering-diagram, der viser umærkede datapunkter grupperet i separate klynger

Der er forskellige typer clustering, du kan bruge:

Eksklusiv (opdeling)

I denne klyngemetode grupperes data på en sådan måde, at én post kun kan tilhøre én klynge.

Eksempel: K-betyder

Agglomerativ

I denne klyngeteknik starter hver post som sin egen klynge. De iterative foreninger mellem de to nærmeste klynger reducerer antallet af klynger.

Eksempel: Hierarkisk klyngedannelse

overlapping

I denne teknik, fuzzy sæt bruges til at klynge data. Hvert punkt kan tilhøre to eller flere klynger med separate medlemsgrader.

Her vil data blive knyttet til en passende medlemsværdi. Eksempel: Fuzzy C-Means

probabilistisk

Denne teknik bruger en sandsynlighedsfordeling til at oprette klyngerne.

Eksempel: Følgende nøgleord

  • "mands sko."
  • "damesko."
  • "kvindehandske."
  • "mandshandske."

kan grupperes i to kategorier, "sko" og "handske" eller "mand" og "kvinder".

Clustering typer

Følgende er de algoritmer, man oftest møder i uovervåget maskinlæring. De første to grupperer poster, de sidste tre reducerer dimensioner i stedet for at danne klynger, og K-NN er angivet, fordi det ofte forveksles med K-means.

  • Hierarkisk klyngedannelse — klyngedannelse
  • K-betyder klyngedannelse — klyngedannelse
  • K-NN (k nærmeste naboer) — en overvåget klassifikator, ikke en klyngemetode
  • Hovedkomponentanalyse — dimensionsreduktion
  • Singularværdi-dekomposition — dimensionalitetsreduktion
  • Uafhængig komponentanalyse — dimensionsreduktion

Hierarkisk ClusterING

Hierarkisk klyngedannelse er en algoritme, der opbygger et hierarki af klynger. Det begynder med alle de data, der er tildelt en klynge. Her vil to tætte klynger blive flettet sammen til den samme klynge. Denne algoritme slutter, når der kun er én klynge tilbage. Den definerer to ideer, der er værd at navngive separat.

Agglomerativ klyngedannelse

Denne bottom-up-form for hierarkisk klyngedannelse kræver ikke antallet af klynger K som input. Agglomerationsprocessen starter ved at danne hver post som en enkelt klynge.

Denne metode bruger en afstandsmåling og reducerer antallet af klynger (én i hver iteration) ved en sammenlægningsproces. Til sidst har vi én stor klynge, der indeholder alle objekterne, og analytikeren skærer træet i den højde, der giver et fornuftigt antal grupper.

Dendrogram

I Dendrogram-klyngemetoden repræsenterer hvert niveau en mulig klynge. Dendrogrammets højde viser graden af ​​lighed mellem to sammenføjede klynger. Jo tættere på bunden af ​​processen de er, desto mere ens er klyngerne; valget af det snit, der definerer de endelige grupper, er ikke automatisk og er for det meste subjektivt.

K-betyder ClusterING

K-means er en iterativ klyngealgoritme, der forfiner gruppenping ved hver iteration. I starten vælges det ønskede antal klynger. I denne klyngemetode skal du gruppere datapunkterne i k grupper. Et større k betyder mindre grupper med mere granularitet; et lavere k betyder større grupper med mindre granularitet.

Algoritmens output er en gruppe af "labels". Den tildeler hvert datapunkt til en af ​​de k grupper. I k-means clustering defineres hver gruppe ved at oprette et centroid for den gruppe. Centroiderne er som hjertet af klyngen, som indfanger de punkter, der er tættest på dem, og tilføjer dem til klyngen.

K- Nærmeste naboer

K-nærmeste neighbor er den enkleste af alle maskinlæringsklassifikatorer. Den adskiller sig fra andre maskinlæringsteknikker ved, at den ikke producerer en model. Det er en simpel algoritme, der gemmer alle tilgængelige tilfælde og klassificerer nye instanser baseret på et similaritetsmål. Fordi den har brug for mærkede tilfælde at klassificere imod, er K-NN en overvåget metode; den vises kun her, fordi dens afstandsbaserede logik ligner klyngedannelse.

Det fungerer rigtig godt, når der er en meningsfuld afstand mellem eksemplerne. Læringshastigheden er langsom, når træningssættet er stort, og afstandsberegningen er ikke-triviel.

Hovedkomponentanalyse

Hovedkomponentanalyse tager et højdimensionelt rum og vælger et nyt grundlag, keeping kun dens vigtigste scorer. Hver retning i dette grundlag er kendt som en hovedkomponent. Den delmængde, du beholder, udgør et nyt rum, der er lille i størrelse sammenlignet med det oprindelige rum. Det bevarer så meget af dataenes kompleksitet som muligt.

Association

Associeringsregler giver dig mulighed for at etablere associationer mellem dataobjekter i store databaser. Denne uovervågede teknik handler om at opdage interessante relationer mellem variabler i store databaser, og den er en fast bestanddel af data miningFor eksempel er folk, der køber et nyt hjem, mest tilbøjelige til at købe nye møbler.

Andre eksempler:

  • En undergruppe af kræftpatienter grupperet efter deres genekspressionsmålinger
  • Grupper af kunder baseret på deres browsing- og købshistorik
  • Film grupperet efter seernes vurderinger

Supervised vs Unsupervised Machine Learning

Her er den største forskel mellem Superviseret vs. Ikke-overvåget læring:

Driftsparametre Overvåget maskinlæringsteknik Uovervåget maskinlæringsteknik
Inputdata Algorithms trænes ved hjælp af mærkede data. Algorithms bruges mod data, der ikke er mærket
Beregningsmæssig kompleksitet Superviseret læring er en enklere metode. Uovervåget læring er beregningsmæssigt komplekst
Nøjagtighed Nøjagtigheden kan måles direkte mod kendte etiketter. Nøjagtighed kan ikke måles direkte; resultaterne skal fortolkes
Typisk output En forudsigelse for hver ny rekord Grupper, regler eller komprimerede funktioner

Anvendelser af uovervåget maskinlæring

Nogle anvendelser af uovervågede læringsteknikker er:

  • Clustering opdeler automatisk datasættet i grupper baseret på deres ligheder
  • Anomalidetektion kan opdage usædvanlige datapunkter i dit datasæt. Det er nyttigt til at finde svigagtige transaktioner
  • Association mining identificerer sæt af elementer, som ofte forekommer sammen i dit datasæt
  • Latente variable modeller bruges i vid udstrækning til dataforbehandling, såsom at reducere antallet af funktioner i et datasæt eller opdele datasættet i flere komponenter.

Ulemper ved uovervåget læring

  • Du kan ikke få præcise oplysninger om datasortering, fordi de data, der bruges i uovervåget læring, er umærkede, og deres sande grobundping er ikke kendt
  • Less nøjagtigheden af ​​resultaterne, fordi inputdataene ikke er kendte og ikke mærket af folk på forhånd. Det betyder, at maskinen selv skal gøre dette.
  • Spektralklasserne svarer ikke altid til informationsklasser.
  • Brugeren skal bruge tid på at fortolke og mærke de klasser, der følger af klassifikationen.
  • Klassers spektrale egenskaber kan også ændre sig over tid, så du kan ikke beholde den samme klasseinformation, mens du går fra et billede til et andet.

Ofte Stillede Spørgsmål

Albuemetoden plotter indenfor-klynge-fejlen mod k og leder efter bøjningen. Silhuet-scoren, der spænder fra -1 til 1, vurderer, hvor godt hvert punkt passer til sin klynge. Læs begge sammen.

Afstandsbaserede algoritmer behandler alle enheder lige, så en lønkolonne i tusinder vil dominere en alderskolonne i år. Ved først at standardisere hver funktion får hver variabel en rimelig indflydelse på afstanden.

Apriori er den klassiske associations-regel miner bag markedskurvanalyse. Den finder hyppige itemsæt og omdanner dem derefter til regler rangeret efter support, tillid og løft. FP-vækst og Eclat gør det samme hurtigere.

Semi-superviseret læring bruger et lille mærket sæt sammen med et stort umærket sæt. Strukturen i de umærkede data styrer modellen, så nøjagtigheden nærmer sig et overvåget resultat til langt lavere mærkeomkostninger.

PCA er en lineær transformation, der bevarer global varians og anvendes på nye poster. t-SNE er ikke-lineær og bygget til at visualisere lokale nabolag i to dimensioner; afstande mellem adskilte grupper bør ikke læses bogstaveligt.

Isolationsskov, One-Class SVM, DBSCAN og autoencoder-rekonstruktionsfejl er de sædvanlige valg. Hver især scorer, hvor langt en post er fra hovedparten af ​​dataene, så en tærskel bestemmer, hvad der tæller som anomalt.

Automatiserede pipelines scanner algoritmer, afstandsmål og værdier af k og rangerer derefter kørslerne efter interne validitetsscorer. Sprogmodeller udarbejder i stigende grad almindelige engelske navne til de resulterende segmenter, hvilket forkorter fortolkningstrinnet.

GitHub Copilot scaffolds scikit-learn pipelines, elbow plots og silhouette charts fra en enlinjet prompt. Kontroller, at den skalerede funktionerne, og sæt et tilfældigt frø, hvilket genererede snippets ofte udelader.

Opsummer dette indlæg med: