Järelevalveta masinõpe: Algorithms, Tüübid ja näited

⚡ Nutikas kokkuvõte

Juhendamata õpe on masinõppe tehnika, mis töötab sildistamata andmetega, lastes mudelil struktuuri iseseisvalt avastada klastrite moodustamise, assotsiatsioonireeglite ja dimensioonide vähendamise abil, mitte eelnevalt antud vastuste põhjal.

  • 🔘 Silte pole vaja: Algoritm otsib struktuuri, mitte ei sobita teadaolevaid vastuseid.
  • ☑️ Kolm ülesannete perekonda: Clustermine, assotsiatsioonireeglite kaevandamine ja dimensioonide vähendamine.
  • Neli klastrite loomise stiili: Eksklusiivne, aglomeratiivne, kattuvping ja tõenäosuslik.
  • 🧪 Nimega algoritmid: K-keskmised, hierarhiline klasterdamine, hägusad C-keskmised, PCA, SVD ja ICA.
  • 🛠️ Kus see oma elatise teenib: Klientide segmenteerimine, pettuste ja anomaaliate tuvastamine, turukorvi analüüs, andmete eeltöötlus.
  • ⚙️ Kompromiss: Põhitõe puudumine tähendab, et tulemusi peab tõlgendama, valideerima ja nimetama inimene.

Juhendamata masinõpe: algoritmid, tüübid koos näidetega

Mis on juhendamata õppimine?

Juhendamata õpe on masinõppe tehnika, mille puhul kasutaja ei pea mudelit juhendama. Selle asemel võimaldab see mudelil iseseisvalt töötada, et avastada mustreid ja teavet, mida varem ei tuvastatud. See tegeleb peamiselt sildistamata andmetega.

Juhendamata õppimine Algorithms

Juhendamata õppimine Algorithms võimaldavad kasutajatel täita keerukamaid töötlemisülesandeid võrreldes juhendatud õppimineJuhendamata õpe võib aga olla ettearvamatum kui teadaolevate vastuste põhjal treenitud meetodid. Juhendamata õppe algoritmide hulka kuuluvad klastrite moodustamine, anomaaliate tuvastamine, dimensioonide vähendamine ja iseorganiseeruvad närvivõrgud.

Näide järelevalveta masinõppest

Võtame näiteks järelevalveta õppimise beebi ja tema pere koera puhul. Esimesel pildil on näha lemmikloom, keda beebi juba tunneb.

Beebi koos oma perekoeraga, loomaga, kelle ta juba ära tunneb

Ta tunneb selle koera ära ja tunneb ta ära. Mõni nädal hiljem toob üks peretuttav koera kaasa ja proovib beebiga mängida. See teine, võõras koer on näidatud allpool.

Võõras koer, keda beebi pole varem näinud

Beebi pole seda koera varem näinud. Kuid ta tunneb ära, et paljud tunnused (2 kõrva, silmad, neljal jalal kõndimine) on nagu tema lemmikkoeral. Ta identifitseerib uue looma koerana. See on juhendamata õpe, kus sulle ei õpetata, aga sa õpid andmete põhjal (antud juhul koera kohta käivate andmete põhjal). Kui see oleks olnud juhendatud õpe, oleks peretuttav beebile öelnud, et see on koer, nagu on näidatud ülaltoodud juhendamata õppe näites.

Miks juhendamata õppimine?

Siin on peamised põhjused, miks kasutada juhendamata õpet Masinõpe:

  • Juhendamata masinõpe leiab andmetest igasuguseid tundmatuid mustreid.
  • Järelevalveta meetodid aitavad teil leida funktsioone, mis võivad olla kasulikud kategoriseerimiseks.
  • See saab andmeid töödelda kohe, kui need saabuvad, seega saab sissetulevaid kirjeid analüüsida ja rühmitada ilma, et inimene peaks need esmalt sildistama.
  • Märgistamata andmeid on arvutist lihtsam hankida kui märgistatud andmeid, mis vajavad käsitsi sekkumist.

Clusterjärelevalveta õppimise tüübid Algorithms

Juhendamata õppeprobleemid jagunevad edasi klastrite moodustamise, assotsieerimise ja dimensioonide vähendamise probleemideks. ClusterSarnaste kirjete rühmitamine, seostamine leiab koos esinevaid üksusi ja dimensioonide vähendamine tihendab paljud tunnused vähesteks.

Clusterse

Clustering on oluline mõiste, kui tegemist on juhendamata õppimisega. See tegeleb peamiselt struktuuri või mustri leidmisega kategoriseerimata andmete kogumist. Järelevalveta õppimine ClusterAndmete tuvastamise algoritmid töötlevad teie andmeid ja leiavad loomulikke klastreid (rühmi), kui neid andmetes leidub. Samuti saate muuta, mitu klastrit teie algoritmid peaksid tuvastama. See võimaldab teil reguleerida nende rühmade detailsust. Allolev diagramm näitab hajutatud kirjeid, mis on jaotatud eraldi rühmadesse.

Clustergraafik, mis näitab sildistamata andmepunkte eraldi klastritesse rühmitatud

Võite kasutada erinevat tüüpi klastreid:

Eksklusiivne (eraldamine)

Selle klastrite moodustamise meetodi puhul rühmitatakse andmed nii, et üks kirje saab kuuluda ainult ühte klastrisse.

Näide: K-tähendab

Aglomeratiivne

Selle klastritehnika puhul algab iga kirje omaette klastrina. Kahe lähima klastri iteratiivsed ühendused vähendavad klastrite arvu.

Näide: hierarhiline klasterdamine

Kattumineping

Selles tehnikas hägusad komplektid kasutatakse andmete klasterdamiseks. Iga punkt võib kuuluda kahte või enamasse klastrisse, millel on erinevad kuuluvusastmed.

Siin seostatakse andmed sobiva liikmelisuse väärtusega. Näide: Fuzzy C-Means

Tõenäoline

See meetod kasutab klastrite loomiseks tõenäosusjaotust.

Näide: järgmised märksõnad

  • "meeste king."
  • "naiste kingad."
  • "naiste kinnas."
  • "meeste kinnas."

saab jagada kahte kategooriasse: „king“ ja „kinnas“ või „mees“ ja „naine“.

Clustertüübid

Järgnevalt on toodud algoritmid, millega juhendamata masinõppes kõige sagedamini kokku puututakse. Esimesed kaks rühmakirjet, viimased kolm vähendavad dimensioone, mitte ei moodusta klastreid, ja K-NN on loetletud seetõttu, et seda aetakse sageli segi K-keskmistega.

  • Hierarhiline klasterdamine — klasterdamine
  • K-tähendab klasterdamist — klasterdamine
  • K-NN (k lähimat naabrit) — jälgitav klassifikaator, mitte klastrite moodustamise meetod
  • Põhikomponentide analüüs — dimensiooni vähendamine
  • Singulaarse väärtuse lagundamine — dimensiooni vähendamine
  • Sõltumatute komponentide analüüs — dimensioonide vähendamine

Hierarhiline Clusterse

Hierarhiline klasterdamine on algoritm, mis loob klastrite hierarhia. See algab kõigi andmete määramisega omaette klastrisse. Siin ühendatakse kaks lähedast klastrit üheks klastriks. See algoritm lõpeb, kui järele jääb ainult üks klaster. See defineerib kaks ideed, mida tasub eraldi nimetada.

Aglomeratiivne rühmitus

See alt-üles hierarhilise klastrite moodustamise vorm ei vaja sisendiks klastrite arvu K. Aglomeratsiooniprotsess algab iga kirje moodustamisega üheks klastriks.

See meetod kasutab mingit kauguse mõõtu ja vähendab klastrite arvu (üks igas iteratsioonis) ühendamisprotsessi abil. Lõpuks on meil üks suur klaster, mis sisaldab kõiki objekte, ja analüütik lõikab puu kõrguselt, mis annab mõistliku arvu rühmi.

Dendrogramm

Dendrogrammi klastrite moodustamise meetodis esindab iga tase võimalikku klastrit. Dendrogrammi kõrgus näitab kahe ühendatud klastri sarnasuse taset. Mida lähemal nad protsessi alumisele osale on, seda sarnasemad on klastrid; lõplikke rühmi määratleva lõikepunkti valimine ei ole automaatne ja on enamasti subjektiivne.

K-tähendab Clusterse

K-means on iteratiivne klasterdamisalgoritm, mis täpsustab rühmaping igal iteratsioonil. Algselt valitakse soovitud arv klastreid. Selle klasterdamismeetodi puhul tuleb andmepunktid koondada k rühma. Suurem k tähendab väiksemaid ja detailsemaid rühmi; väiksem k tähendab suuremaid ja väiksema detailsusega rühmi.

Algoritmi väljundiks on rühm "silte". See määrab iga andmepunkti ühele k rühmast. k-keskmiste klastrite puhul defineeritakse iga rühm, luues sellele rühmale tsentroidi. Tsentroidid on nagu klastri süda, mis hõivab neile lähimad punktid ja lisab need klastrisse.

K- Lähimad naabrid

K-lähima naabri meetod on kõigist masinõppe klassifikaatoritest kõige lihtsam. See erineb teistest masinõppe tehnikatest selle poolest, et see ei loo mudelit. See on lihtne algoritm, mis salvestab kõik saadaolevad juhtumid ja klassifitseerib uued eksemplarid sarnasuse mõõtmise alusel. Kuna see vajab klassifitseerimiseks märgistatud juhtumeid, on K-NN juhendatud meetod; see esineb siin ainult seetõttu, et selle kaugusepõhine loogika sarnaneb klastrite moodustamisega.

See toimib väga hästi, kui näidete vahel on märkimisväärne vahemaa. Õppimiskiirus on aeglane, kui treeningkomplekt on suur ja vahemaa arvutamine on mittetriviaalne.

Põhikomponentide analüüs

Peakomponentide analüüs võtab suuremõõtmelise ruumi ja valib uue baasi, säilitades selle.ping ainult selle kõige olulisemad skoorid. Iga suunda selles baasis nimetatakse peakomponendiks. Allesjäänud alamhulk moodustab uue ruumi, mis on algse ruumiga võrreldes väikese suurusega. See säilitab andmete võimalikult suure keerukuse.

Ühing

Seostusreeglid võimaldavad teil luua seoseid andmeobjektide vahel suurtes andmebaasides. See järelevalveta tehnika on mõeldud huvitavate seoste avastamiseks muutujate vahel suurtes andmebaasides ja see on põhiline andmete kaevandamineNäiteks inimesed, kes ostavad uue kodu, ostavad kõige tõenäolisemalt uut mööblit.

Muud näited:

  • Vähihaigete alarühm, mis on rühmitatud nende geeniekspressiooni mõõtmiste järgi
  • Ostjate rühmad sirvimis- ja ostuajaloo põhjal
  • Filmid rühmitatud vaatajate antud hinnangute järgi

Järelevalvega vs. järelevalveta masinõpe

Siin on peamine erinevus Juhendatud vs. juhendamata õppimine:

parameetrid Juhendatud masinõppe tehnika Järelevalveta masinõppe tehnika
Sisendandmed Algorithms on koolitatud märgistatud andmete abil. Algorithms kasutatakse andmete vastu, mis pole märgistatud
Arvutuslik keerukus Juhendatud õpe on lihtsam meetod. Juhendajata õppimine on arvutuslikult keeruline
Täpsus Täpsust saab mõõta otse teadaolevate siltide suhtes. Täpsust ei saa otse mõõta; tulemusi tuleb tõlgendada
Tüüpiline väljund Iga uue rekordi ennustus Grupid, reeglid või tihendatud funktsioonid

Järelevalveta masinõppe rakendused

Mõned juhendamata õppetehnikate rakendused on järgmised:

  • Clusterjagab andmestiku automaatselt rühmadesse nende sarnasuste põhjal
  • Anomaaliate tuvastamine võib teie andmekogumist avastada ebatavalisi andmepunkte. See on kasulik petturlike tehingute leidmisel
  • Seoskaevandamine tuvastab üksuste komplektid, mis teie andmekogus sageli koos esinevad
  • Latentsete muutujate mudeleid kasutatakse laialdaselt andmete eeltöötluseks, näiteks andmestiku tunnuste arvu vähendamiseks või andmestiku mitmeks komponendiks jagamiseks.

Juhendajata õppimise puudused

  • Andmete sorteerimise kohta ei ole võimalik saada täpset teavet, kuna juhendamata õppes kasutatavad andmed on sildistamata ja nende tegelik suurus on erinev.ping ei ole teada
  • Less tulemuste täpsus, kuna sisendandmed ei ole inimeste poolt eelnevalt teada ega märgistatud. See tähendab, et masin peab seda ise tegema.
  • Spektriklassid ei vasta alati informatiivsetele klassidele.
  • Kasutaja peab kulutama aega klassifikatsioonist tulenevate klasside tõlgendamisele ja sildistamisele.
  • Klasside spektraalsed omadused võivad aja jooksul muutuda, seega ei saa ühelt pildilt teisele liikudes säilitada sama klassiinfot.

KKK

Küünarnuki meetod joonistab klastrisisese vea k suhtes ja otsib painutust. Silueti skoor vahemikus −1 kuni 1 hindab, kui hästi iga punkt oma klastrisse sobib. Loe mõlemat koos.

Kaugusel põhinevad algoritmid käsitlevad iga ühikut võrdselt, seega domineerib palga veerg tuhandetes vanuse veerus aastates. Iga tunnuse esmane standardiseerimine annab igale muutujale õiglase sõnaõiguse vahemaa hindamisel.

Apriori on klassikaline assotsiatsioonireeglite kaevandaja, mis põhineb turukorvi analüüsil. See leiab sagedased esemete komplektid ja seejärel teisendab need reegliteks, mis on järjestatud toetuse, usalduse ja tõusu järgi. FP-growth ja Eclat teevad sama kiiremini.

Pooljuhendatud õppimisel kasutatakse väikest sildistatud ja suurt sildistamata hulka. Märgistamata andmetes leiduv struktuur juhib mudelit, seega läheneb täpsus juhendatud tulemusele palju madalamate sildistamiskuludega.

PCA on lineaarne teisendus, mis säilitab globaalse dispersiooni ja rakendub uutele kirjetele. t-SNE on mittelineaarne ja loodud kohalike naabruskondade visualiseerimiseks kahes dimensioonis; eraldatud rühmade vahelisi kaugusi ei tohiks lugeda sõna-sõnalt.

Tavapärased valikud on Isolation Forest (eraldusmets), One-Class SVM (üheklassiline SVM), DBSCAN (dbscan) ja autoencoder rekonstruktsiooni viga. Igaüks neist hindab, kui kaugel kirje andmete põhiosast asub, seega määrab läviväärtus, mida loetakse anomaalseks.

Automatiseeritud torujuhtmete läbivaatusalgoritmid, kauguse mõõtmised ja k väärtused, seejärel järjestavad seeriad sisemise kehtivusskoori alusel. Keelemudelid loovad üha enam saadud segmentidele lihtsaid ingliskeelseid nimesid, lühendades tõlgendamise etappi.

GitHubi koopia tellingute scikit - õppige torujuhtmeid, küünarnuki graafikuid ja siluettdiagramme üherealisest käsurealt. Kontrollige, et see skaleeris funktsioone ja määras juhusliku seemne, mis genereeritud koodijuppides sageli puudub.

Võta see postitus kokku järgmiselt: