Süvaõppe õpetus algajatele: närvivõrgu põhitõed
Evelyn Clarke
⚡ Nutikas kokkuvõte
Süvaõpe on masinõppe haru, mis põhineb tehisnärvivõrkudel, mis virnastavad paljusid peidetud kihte, nii et iga kiht õpib andmetest rikkama omaduse kui eelmine kiht.
Mis on süvaõpe?
Süvaõpe on arvutitarkvara, mis jäljendab ajus neuronite võrgustikku. See on alamhulk masinõpe See põhineb tehisnärvivõrkudel ja esitusõppel. Seda nimetatakse süvaõppeks, kuna see kasutab süvaneuraalvõrke. Seda õpet saab kontrollitud, pooleldi järelevalve all või järelevalveta.
Süvaõppe algoritmid on konstrueeritud ühendatud kihtidest, nagu allolev diagramm näitab.
- Esimest kihti nimetatakse sisendkihiks
- Viimast kihti nimetatakse väljundkihiks
- Kõiki vahepealseid kihte nimetatakse varjatud kihtideks. Sõna "sügav" tähendab, et võrk ühendab neuroneid rohkem kui kahel kihil.
Iga peidetud kiht koosneb neuronitest. Neuronid on omavahel ühendatud. Neuron töötleb vastuvõetud sisendsignaali ja edastab tulemuse seejärel enda kohal olevale kihile. Järgmise kihi neuronile edastatava signaali tugevus sõltub kaalust, eelpingest ja aktivatsioonifunktsioonist.
Võrk tarbib suures koguses sisendandmeid ja töötab nende kallal mitme kihi kaudu, seega saab võrk igal kihil õppida andmete üha keerukamaid omadusi.
Süvaõppe protsess
Sügavnärvivõrk pakub tipptasemel täpsust paljudes ülesannetes, alates objektide tuvastamisest kuni kõnetuvastuseni. Sellised võrgud saavad õppida automaatselt, ilma programmeerijate poolt otseselt kodeeritud eelnevalt määratletud teadmisteta. Praktikas läbib süvaõppe projekt viis etappi:
- Saage probleemist aru
- Tuvastage andmed
- Valige süvaõppe algoritm
- Treeni modelli
- Testige mudelit
Süvaõppe idee mõistmiseks kujutage ette perekonda imiku ja vanematega. Väikelaps osutab väikese sõrmega esemetele ja ütleb alati sõna „kass“. Kuna vanemad on mures tema hariduse pärast, kordavad nad talle pidevalt: „Jah, see on kass“ või „Ei, see ei ole kass“. Imik jätkab esemetele osutamist, kuid muutub täpsemaks sõnaga „kassid“. Väike laps ei tea sügaval sisimas, miks ta saab öelda, et see on kass või mitte. Ta on lihtsalt õppinud kassi iseloomustavaid tunnuseid hierarhiliselt järjestama, vaadates lemmiklooma tervikuna ja keskendudes seejärel detailidele, nagu saba või nina, enne kui otsuse langetab.
Närvivõrk töötab umbes samamoodi. Iga kiht esindab sügavamat teadmiste taset ehk teadmiste hierarhiat. Nelja kihiga närvivõrk õpib keerukamaid funktsioone kui kahe kihiga võrk.
Õppimine toimub kahes etapis:
- Esimene etapp: sisendi mittelineaarse teisenduse rakendamine ja väljundina statistilise mudeli loomine.
- Teine etapp: mudeli täiustamine tuletistele tugineva matemaatilise meetodiga, mis ongi see, kuidas tagasipaljundamine reguleerib raskusi.
Neuraalvõrk kordab neid kahte faasi sadu kuni tuhandeid kordi, kuni see on saavutanud talutava täpsuse taseme. Iga kahe faasi kordust nimetatakse iteratsiooniks.
Süvaõppe näite toomiseks vaadake allolevat animatsiooni, kus modell üritab tantsima õppida. Pärast 10-minutilist treenimist modell ei oska tantsida ja tema tulemus näeb välja nagu kritseldus.
Pärast 48 tundi kestnud õppimist valdab arvuti tantsukunsti, nagu näitab teine animatsioon.
Närvivõrkude klassifikatsioon
Võrgud rühmitatakse kõigepealt peidetud kihtide arvu järgi.
Madal närvivõrk: Madala närvivõrgu puhul on sisendi ja väljundi vahel ainult üks peidetud kiht.
Sügav närvivõrk: Sügavatel närvivõrkudel on rohkem kui üks peidetud kiht. Näiteks pildituvastuse GoogLeNeti mudelil on 22 kihti.
Tänapäeval ilmub süvaõpe juhita autodesse, mobiiltelefonidesse, Google otsingumootor, pettuste avastamine ja televisioon.
Süvaõppevõrgustike tüübid
Standardiks on saanud mitu arhitektuuri, millest igaüks on kujunenud vastavalt sellele, millist tüüpi andmeid see töötleb. Allolev Asimovi Instituudi avaldatud diagramm kaardistab laiemat perekonda.
Edasisuunalised närvivõrgud
See on tehisnärvivõrgu kõige lihtsam tüüp. Selle arhitektuuri puhul liigub info ainult ühes suunas, edasi. See tähendab, et infovoog algab sisendkihist, liigub "peidetud" kihtidesse ja lõpeb väljundkihis. Võrgul puudub silmus ja info peatub väljundkihis.
Korduvad närvivõrgud (RNN)
An RNN on mitmekihiline närvivõrk, mis suudab salvestada teavet kontekstisõlmedesse, võimaldades sellel õppida andmejadasid ja väljastada numbrit või muud jada. Lihtsamalt öeldes on see tehisnärvivõrk, mille neuronite vahelised ühendused sisaldavad silmuseid. RNN-id sobivad hästi sisendjadade töötlemiseks, kuna väljund suunatakse võrku tagasi mäluna.
Näiteks kui ülesanne on ennustada järgmist sõna lauses „Kas sa tahad …?“, toimib võrk järgmiselt:
- RNN-i neuronid saavad signaali, mis osutab lause algusele.
- Võrk saab sisendiks sõna „Do“ ja genereerib numbrivektori. See vektor suunatakse tagasi neuronile, et anda võrgule mälu. See etapp aitab võrgul meeles pidada, et ta sai sõna „Do“ ja et ta sai selle esimesel positsioonil.
- Võrk toimib sarnaselt järgmiste sõnadega. See võtab sõna „sina“ ja seejärel „tahad“. Neuronite olekut uuendatakse iga sõna vastuvõtmisel.
- Viimane etapp toimub pärast sõna „a“ saamist. Neuraalvõrk annab iga ingliskeelse sõna jaoks tõenäosuse, mis võiks lause lõpetada. Hästi treenitud RNN määrab tõenäoliselt suure tõenäosuse sõnadele „kohvik“, „jook“, „burger“ ja sarnastele sõnadele.
RNN-i levinud kasutusalad
- Aidake väärtpaberitega kauplejatel koostada analüütilisi aruandeid
- Tuvastage finantsaruannetes kõrvalekaldeid
- Petturlike krediitkaarditehingute tuvastamine
- Lisage piltidele pealkiri
- võim jututoad
- RNN-i standardkasutusalad esinevad siis, kui praktikud töötavad aegridade andmete või järjestustega, näiteks helisalvestiste või tekstiga.
Konvolutsioonilised närvivõrgud (CNN)
A CNN on mitmekihiline närvivõrk, millel on ainulaadne arhitektuur, mis on loodud extracIga kihi andmete üha keerukamate omaduste põhjal saab määrata väljundi. CNN-id sobivad hästi tajuülesanneteks.
CNN-i kasutatakse enamasti siis, kui on olemas struktureerimata andmekogum, näiteks pildid, ja praktikud peavad seda uurima.tract teavet sealt.
Näiteks kui ülesanne on ennustada pildi pealkirja:
- CNN saab pildi näiteks kassist. Arvutustehnika terminoloogias on see pilt pikslite kogum, tavaliselt üks kiht halltoonides pildi ja kolm kihti värvilise pildi puhul.
- Tunnuste õppimise etapis, st peidetud kihtide ajal, tuvastab võrk unikaalsed tunnused, näiteks kassi saba või kõrva.
- Kui võrk on pilti ära tundma õppinud, saab see anda iga teadaoleva pildiklassi tõenäosuse. Suurima tõenäosusega silt saab võrgu ennustuseks.
Tugevdusõpe
Tugevdusõpe on masinõppe alamvaldkond, kus süsteeme treenitakse virtuaalsete „preemiate” või „karistuste” saamise teel, õppides sisuliselt katse-eksituse meetodil. See on pigem õppimisparadigma kui võrgustiku kuju, kuid selle tänapäevased algoritmid on üles ehitatud sügavatele võrkudele. GoogleDeepMind kasutas tugevdusõpet, et Go-mängus inimmeistrit võita. Tugevdusõpet kasutatakse ka videomängudes, et parandada mängukogemust nutikamate robotite pakkumisega.
Mõned kuulsamad algoritmid on:
- Q-õpe
- Sügav Q võrk
- State-Action-Reward-State-Action (SARSA)
- Deep Deterministic Policy Gradient (DDPG)
Allolev tabel võtab kokku, millal iga arhitektuur sobib.
| Architektuur | Andmed, mis sobivad | Eristav tunnus | Tüüpiline ülesanne |
|---|---|---|---|
| Edasisuunamine | Fikseeritud pikkusega tabelina sisestatav | Tsükleid pole; info liigub ainult edasi | Hindamine ja lihtne klassifitseerimine |
| Korduv (RNN) | Järjestused ja aegread | Kontekstisõlmed annavad sellele mälu | Tekstiennustus, heli, prognoosimine |
| Konvolutsiooniline (CNN) | Ruudustikulaadsed struktureerimata andmed | Konvolutsioon ja koondamisnäidetract omadused | Piltide klassifitseerimine ja pealdiste lisamine |
| Tugevdusõpe | Keskkond, mitte andmestik | Õpib preemiatest ja karistustest | Mänguagendid, robootika, juhtimine |
Süvaõppe rakenduste näited
Need arhitektuurid on juba tootmises väga erinevates tööstusharudes:
AI rahanduses
Finantstehnoloogia sektor on juba hakanud tehisintellekti kasutama aja kokkuhoiuks, kulude vähendamiseks ja väärtuse lisamiseks. Süvaõpe muudab laenutööstust läbi tugevama krediidiskoori. Krediidiotsuste langetajad saavad krediidilaenude taotlemisel tehisintellekti abil saavutada kiirema ja täpsema riskihindamise, kasutades masinintelligentsust taotlejate iseloomu ja suutlikkuse arvessevõtmiseks.
Underwrite on finantstehnoloogiaettevõte, mis pakub krediidiotsuste langetajatele tehisintellektil põhinevat lahendust. underwrite.ai kasutab tehisintellekti, et tuvastada, milline taotleja maksab laenu suurema tõenäosusega tagasi, ning ettevõtte sõnul ületab see lähenemisviis traditsioonilisi tulemuskaarte.
AI HR-is
Under Armour, spordirõivaste ettevõte, revolutioniseeritud värbamine ja tehisintellekti abil kandidaatide kogemuse kaasajastamine. Under Armour seisis 2012. aastal silmitsi suure huviga ja sai keskmiselt üle 30 000 avalduse kuus. Kõigi nende avalduste lugemine ning seejärel eelvaliku ja intervjuuprotsessi alustamine võttis liiga kaua aega. Inimeste töölevõtmise ja sisseelamise pikk protsess mõjutas Under Armouri võimet oma jaemüügikauplusi täielikult mehitada, käivitada ja tegutsemisvalmis hoida.
Sel ajal oli Under Armouril olemas kogu vajalik personalijuhtimise tehnoloogia, näiteks tehingupõhised lahendused töötajate otsimiseks, kandideerimiseks, trackuningas ja sisseelamisprotsess, kuid need tööriistad üksi ei olnud piisavad. Under Armour valis nii nõudmisel kui ka reaalajas intervjuude jaoks tehisintellektil põhineva personalilahenduste pakkuja HireVue. Tulemused olid rabavad: ettevõte teatas, et vähendas ametikohtade täitmiseks kuluvat aega 35% võrra, parandades samal ajal palgatud töötajate kvaliteeti.
AI turunduses
Tehisintellekt on väärtuslik tööriist klienditeeninduse haldamise ja isikupärastamise väljakutsete puhul. Tehisintellekti tehnikate rakendamise tulemusel kõnekeskuse halduses ja kõnede suunamises täiustatud kõnetuvastus võimaldab klientidele sujuvamat kogemust.
Näiteks võimaldab heli süvaõppe analüüs süsteemidel hinnata kliendi emotsionaalset tooni. Kui klient reageerib tehisintellekti vestlusrobotile halvasti, saab süsteem vestluse suunata päris inimesest operaatorile, kes võtab probleemi lahendamise enda kätte.
Lisaks kolmele ülaltoodud süvaõppe näitele kasutatakse tehisintellekti laialdaselt ka teistes sektorites ja tööstusharudes.
Miks on süvaõpe oluline?
Süvaõpe on võimas tööriist ennustuste muutmiseks tegutsemist võimaldavateks tulemusteks. Süvaõpe paistab silma mustrite avastamisel ja teadmistepõhisel ennustamisel. Big andmed on süvaõppe kütus. Kui mõlemad kombineerida, saab organisatsioon saavutada tulemusi tootlikkuse, müügi, juhtimise ja innovatsiooni osas, mis varem olid kättesaamatud.
Süvaõpe suudab ka traditsioonilistest meetoditest paremini hakkama saada. Eriti tajuprobleemide puhul on süvavõrgud aastaid olnud parimad: piltide klassifitseerimine, kõnetuvastus ja näotuvastus on kõik domineerivad sügava arhitektuuri abil, kusjuures näotuvastusmudelite täpsus on standardsete avalike võrdlusaluste põhjal peaaegu 99%. Kasu tuleneb sellest, et võrk õpib oma omadusi ise, mitte ei tugine käsitsi loodud omadustele.
Süvaõppe piirangud
Need tulemused toovad kaasa reaalseid kulusid.
Andmete märgistamine
Enamikku praeguseid tehisintellekti mudeleid treenitakse juhendatud õppe abil. See tähendab, et inimesed peavad alusandmeid märgistama ja kategoriseerima, mis võib olla mahukas ja veaohtlik ülesanne. Näiteks ettevõtted arendavadping Isejuhtivate autode tehnoloogiaettevõtted palkavad sadu inimesi, kes käsitsi märkmeid lisavad prototüüpsõidukite tundidepikkusele videomaterjalile, et neid süsteeme treenida.
Hankige tohutuid koolitusandmekogumeid
On näidatud, et süvaõppe tehnikad, näiteks CNN, suudavad mõnel juhul jäljendada meditsiini ja teiste valdkondade ekspertide teadmisi. See masinõppe laine nõuab aga treeningandmekogumeid, mis pole mitte ainult märgistatud, vaid ka piisavalt laiaulatuslikud ja universaalsed.
Süvaõppe meetodid nõuavad tuhandeid vaatlusi, et mudelid saavutaksid klassifitseerimisülesannete suhteliselt hea tulemuse, ja mõnel juhul miljoneid vaatlusi, et need saaksid hakkama inimtasemel. Pole üllatav, et süvaõpe on kõige levinum hiiglaslikes tehnoloogiaettevõtetes, mis kasutavad suurandmeid petabaitide suuruste näidete kogumiseks. See ulatus võimaldab neil luua muljetavaldavaid ja väga täpseid süvaõppe mudeleid.
Selgitage probleemi
Suuri ja keerulisi mudeleid võib olla inimterminite abil raske seletada, näiteks miks konkreetsele otsusele jõuti. See on üks põhjus, miks mõnede aktsepteerimine on ebasoovitav. tehisintellekti tööriistad on aeglased rakendusvaldkondades, kus tõlgendatavus on kasulik või isegi vajalik.
Lisaks võivad tehisintellekti kohaldamise laienedes regulatiivsed nõuded põhjustada ka vajadust paremini seletatavate tehisintellekti mudelite järele.
