Deep Learning Tutorial for begyndere: Neural Network Basics

Hvad er Deep Learning?

Deep Learning er computersoftware, der efterligner netværket af neuroner i en hjerne. Det er en delmængde af machine learning baseret på kunstige neurale netværk med repræsentationslæring. Det kaldes dyb læring, fordi det bruger dybe neurale netværk. Denne læring kan overvåget, delvist overvåget eller uden opsyn.

Deep learning-algoritmer er konstrueret med forbundne lag, som diagrammet nedenfor viser.

• Det første lag kaldes Input Layer
• Det sidste lag kaldes Output Layer
• Alle lag derimellem kaldes skjulte lag. Ordet dyb betyder, at netværket forbinder neuroner på tværs af mere end to lag.

Hvert skjult lag er sammensat af neuroner. Neuronerne er forbundet med hinanden. En neuron bearbejder det modtagede inputsignal og sender derefter resultatet videre til laget ovenover. Styrken af ​​det signal, der sendes til en neuron i det næste lag, afhænger af vægten, biasen og aktiveringsfunktionen.

Netværket forbruger store mængder inputdata og opererer på dem gennem flere lag, så netværket kan lære stadig mere komplekse funktioner i dataene på hvert lag.

Dyb læringsproces

Et dybt neuralt netværk giver den nyeste præcision i mange opgaver, lige fra objektdetektion til talegenkendelse. Sådanne netværk kan lære automatisk, uden foruddefineret viden, der eksplicit er kodet af programmørerne. I praksis gennemgår et dybt læringsprojekt fem faser:

• Forstå problemet
• Identificer dataene
• Vælg en algoritme til dyb læring
• Træn modellen
• Test modellen

For at forstå ideen om dybdegående læring, forestil dig en familie med et spædbarn og forældre. Den lille pige peger på genstande med sin lillefinger og siger altid ordet 'kat'. Da forældrene er bekymrede for hans uddannelse, bliver de ved med at sige 'Ja, det er en kat' eller 'Nej, det er ikke en kat'. Spædbarnet bliver ved med at pege på genstande, men bliver mere præcis med 'katte'. Det lille barn ved inderst inde ikke, hvorfor det kan sige, at det er en kat eller ej. Det har simpelthen lært at organisere de træk, der udgør en kat, i et hierarki, ved at se på kæledyret som helhed og derefter fokusere på detaljer som halen eller snuden, før det beslutter sig.

Et neuralt netværk fungerer på stort set samme måde. Hvert lag repræsenterer et dybere niveau af viden, det vil sige et hierarki af viden. Et neuralt netværk med fire lag vil lære mere komplekse funktioner end et med to lag.

Læringen foregår i to faser:

• Første fase: anvende en ikke-lineær transformation af inputtet og oprette en statistisk model som output.
• Anden fase: forbedring af modellen med en matematisk metode baseret på derivater, hvilket er hvordan tilbageudbredelse justerer vægtene.

Det neurale netværk gentager disse to faser hundredvis til tusindvis af gange, indtil det har nået et tåleligt nøjagtighedsniveau. Hver gentagelse af de to faser kaldes en iteration.

For at give et eksempel på dybdegående læring kan du se animationen nedenfor, hvor modellen prøver at lære at danse. Efter 10 minutters træning ved modellen ikke, hvordan man danser, og dens output ligner en krusedulle.

Efter 48 timers læring mestrer computeren kunsten at danse, som den anden animation viser.

Klassificering af neurale netværk

Netværk grupperes først efter antallet af skjulte lag.

Overfladisk neuralt netværk: Det overfladiske neurale netværk har kun ét skjult lag mellem input og output.

Dyb neural netværk: Dybe neurale netværk har mere end ét skjult lag. For eksempel tæller GoogLeNet-modellen til billedgenkendelse 22 lag.

I dag optræder deep learning i førerløse biler, mobiltelefoner Google søgemaskine, svindelopsporing og tv.

Typer af dybe læringsnetværk

Adskillige arkitekturer er blevet standard, hver især formet af den type data, den håndterer. Diagrammet nedenfor, udgivet af Asimov Institute, kortlægger den bredere familie.

Feed-forward neurale netværk

Dette er den enkleste type kunstigt neuralt netværk. Med denne type arkitektur flyder information kun i én retning, fremad. Det betyder, at informationsstrømmen starter ved inputlaget, går til de "skjulte" lag og slutter ved outputlaget. Netværket har ikke en løkke, og information stopper ved outputlaget.

Tilbagevendende neurale netværk (RNN'er)

An RNN er et flerlags neuralt netværk, der kan lagre information i kontekstnoder, hvilket gør det muligt at lære datasekvenser og udsende et tal eller en anden sekvens. Kort sagt er det et kunstigt neuralt netværk, hvis forbindelser mellem neuroner omfatter løkker. RNN'er er velegnede til at behandle sekvenser af input, fordi outputtet føres tilbage til netværket som hukommelse.

Hvis opgaven for eksempel er at forudsige det næste ord i sætningen "Vil du have en ...?", fortsætter netværket således:

• RNN-neuronerne modtager et signal, der peger på starten af ​​sætningen.
• Netværket modtager ordet "Do" som input og producerer en vektor af tal. Denne vektor føres tilbage til neuronen for at give netværket en hukommelse. Denne fase hjælper netværket med at huske, at det modtog "Do", og at det modtog det i første position.
• Netværket fortsætter på samme måde som de næste ord. Det tager ordet "du" og derefter "ønsker". Neuronernes tilstand opdateres, når de modtager hvert ord.
• Den sidste fase finder sted efter modtagelse af ordet "a". Det neurale netværk giver en sandsynlighed for hvert engelsk ord, der kan fuldende sætningen. En veluddannet RNN tildeler sandsynligvis en høj sandsynlighed til "café", "drink", "burger" og lignende ord.

Almindelige anvendelser af RNN

• Hjælp værdipapirhandlere med at generere analytiske rapporter
• Opdag unormaliteter i regnskaber
• Opdag svigagtige kreditkorttransaktioner
• Angiv en billedtekst til billeder
• Strøm chatbots
• Standardanvendelserne af RNN forekommer, når praktikere arbejder med tidsseriedata eller -sekvenser, for eksempel lydoptagelser eller tekst.

Convolutionsneurale netværk (CNN)

A CNN er et flerlags neuralt netværk med en unik arkitektur designet til attract stadig mere komplekse funktioner i dataene på hvert lag for at bestemme outputtet. CNN'er er velegnede til perceptuelle opgaver.

CNN bruges mest, når der er et ustruktureret datasæt, såsom billeder, og praktikere har brug for attract oplysninger fra den.

For eksempel, hvis opgaven er at forudsige en billedtekst:

• CNN modtager et billede af, lad os sige, en kat. I computertermer er dette billede en samling af pixels, generelt ét lag for et gråtonebillede og tre lag for et farvebillede.
• I løbet af funktionsindlæringsfasen, dvs. de skjulte lag, identificerer netværket unikke funktioner, for eksempel kattens hale eller øret.
• Når netværket grundigt har lært at genkende et billede, kan det angive en sandsynlighed for hver billedklasse, det kender. Betegnelsen med den højeste sandsynlighed bliver netværkets forudsigelse.

Forstærkningslæring

Forstærkning læring er et underfelt af maskinlæring, hvor systemer trænes ved at modtage virtuelle "belønninger" eller "straffe", hvilket i bund og grund betyder læring ved forsøg og fejl. Det er et læringsparadigme snarere end en netværksform, men dets moderne algoritmer er bygget på dybe netværk. Google's DeepMind brugte forstærkningslæring til at besejre en menneskelig mester i Go. Forstærkningslæring bruges også i videospil til at forbedre spiloplevelsen ved at levere smartere bots.

Nogle af de mest berømte algoritmer er:

• Q-læring
• Dybt Q-netværk
• State-Action-Reward-State-Action (SARSA)
• Deep Deterministic Policy Gradient (DDPG)

Tabellen nedenfor opsummerer, hvornår hver arkitektur passer.

Architecture	Data der passer	Særpræg	Typisk opgave
Feed-forward	Tabelinput med fast længde	Ingen løkker; informationen bevæger sig kun fremad	Pointgivning og simpel klassificering
Tilbagevendende (RNN)	Sekvenser og tidsserier	Kontekstnoder giver det hukommelse	Tekstforudsigelse, lyd, prognoser
Konvolutionel (CNN)	Gitterlignende ustrukturerede data	Konvolution og pooling extract funktioner	Billedklassificering og billedtekster
Forstærkning læring	Et miljø, ikke et datasæt	Lærer af belønninger og straffe	Spilagenter, robotteknologi, kontrol

Eksempler på applikationer til dybdegående læring

Disse arkitekturer er allerede i produktion på tværs af meget forskellige brancher:

AI i finans

Den finansielle teknologisektor er allerede begyndt at bruge AI til at spare tid, reducere omkostninger og tilføre værdi. Deep learning ændrer lånebranchen gennem mere robust kreditvurdering. Kreditbeslutningstagere kan bruge AI til kreditansøgninger for at opnå en hurtigere og mere præcis risikovurdering ved hjælp af maskinintelligens til at tage højde for ansøgernes karakter og kapacitet.

Underwrite er en fintech-virksomhed, der leverer en AI-løsning til kreditbeslutningstagere. underwrite.ai bruger AI til at registrere, hvilken ansøger der er mest tilbøjelig til at betale et lån tilbage, en tilgang, som virksomheden siger, overgår traditionelle scorecards.

AI i HR

Under Armour, et sportstøjsfirma, revolutioniserede ansættelser og moderniserede kandidatoplevelsen ved hjælp af AI. Under Armour oplevede en kraftig stigning i interessen tilbage i 2012 og modtog i gennemsnit mere end 30,000 ansøgninger om måneden. Det tog for lang tid at læse alle disse ansøgninger og derefter starte screening- og interviewprocessen. Den lange proces med at få folk ansat og onboardet påvirkede Under Armours evne til at have sine detailbutikker fuldt bemandet, ramped og klar til drift.

På det tidspunkt havde Under Armour al den nødvendige HR-teknologi på plads, såsom transaktionelle løsninger til sourcing, ansøgning, traconboarding, men disse værktøjer var ikke nok i sig selv. Under Armour valgte HireVue, en AI-leverandør af HR-løsninger, til både on-demand og live interviews. Resultaterne var slående: virksomheden rapporterede en reduktion af besættelsestiden med 35 %, samtidig med at kvaliteten af ​​de ansatte medarbejdere blev forbedret.

AI i marketing

AI er et værdifuldt værktøj til kundeservicestyring og personaliseringsudfordringer. Forbedret talegenkendelse i callcenterstyring og opkaldsrouting, som et resultat af anvendelsen af ​​AI-teknikker, giver en mere problemfri oplevelse for kunderne.

For eksempel giver deep learning-analyse af lyd systemer mulighed for at vurdere en kundes følelsesmæssige tone. Hvis kunden reagerer dårligt på AI-chatbotten, kan systemet omdirigere samtalen til en rigtig, menneskelig operatør, der overtager problemet.

Udover de tre ovenstående eksempler på deep learning, anvendes AI i vid udstrækning i andre sektorer og brancher.

Hvorfor er Deep Learning vigtigt?

Deep learning er et effektivt værktøj til at omdanne forudsigelser til handlingsrettede resultater. Deep learning udmærker sig ved mønsteropdagelse og vidensbaseret forudsigelse. Big data er brændstoffet til dybdegående læring. Når begge dele kombineres, kan en organisation høste resultater inden for produktivitet, salg, ledelse og innovation, som tidligere var utilgængelige.

Dyb læring kan også overgå traditionelle metoder. Især inden for perceptionsproblemer har dybe netværk i årevis været de bedste: billedklassificering, talegenkendelse og ansigtsgenkendelse er alle domineret af dybe arkitekturer, hvor ansigtsgenkendelsesmodeller når tæt på 99 % nøjagtighed på standard offentlige benchmarks. Gevinsten kommer fra, at netværket lærer sine egne funktioner at kende i stedet for at stole på håndkonstruerede funktioner.

Begrænsninger ved dyb læring

Disse resultater kommer med reelle omkostninger.

Datamærkning

De fleste nuværende AI-modeller trænes gennem superviseret læring. Det betyder, at mennesker skal mærke og kategorisere de underliggende data, hvilket kan være en betydelig og fejlbehæftet opgave. For eksempel udvikler virksomhederping Selvkørende bilteknologier ansætter hundredvis af mennesker til manuelt at annotere timevis af videofeeds fra prototypebiler for at træne disse systemer.

Få enorme træningsdatasæt

Det har vist sig, at deep learning-teknikker som CNN i nogle tilfælde kan imitere viden fra eksperter inden for medicin og andre områder. Denne bølge af maskinlæring kræver imidlertid træningsdatasæt, der ikke kun er mærkede, men også tilstrækkeligt brede og universelle.

Deep learning-metoder kræver tusindvis af observationer for at modeller kan blive relativt gode til klassificeringsopgaver, og i nogle tilfælde millioner for at de kan udføres på menneskers niveau. Det er ikke overraskende, at deep learning er mest almindeligt hos gigantiske teknologivirksomheder, der bruger big data til at akkumulere petabytes af eksempler. Denne skala giver dem mulighed for at skabe imponerende og yderst præcise deep learning-modeller.

Forklar et problem

Store og komplekse modeller kan være svære at forklare med menneskelige termer, for eksempel hvorfor en bestemt beslutning blev truffet. Det er en af ​​grundene til, at accept af nogle kunstig intelligens værktøjer er langsomme i anvendelsesområder, hvor fortolkelighed er nyttig eller faktisk påkrævet.

Ydermere, efterhånden som anvendelsen af ​​AI udvides, kan regulatoriske krav også drive behovet for mere forklarlige AI-modeller.

Ofte Stillede Spørgsmål