Masinõpe ilma Pythonita, Anacondata ja muude sisalike

Ei, ma muidugi ei mõtle tõsiselt. Peab ju olema piir, kui palju saab teemat lihtsustada. Kuid esimeste sammude, põhikontseptsioonide mõistmise ja teema kiire sisseelamise jaoks võib-olla on see isegi lubatav. Aga kuidas õigesti nimetada seda materjali (variandid: 'Masinõpe algajatele', 'Andmete analüüs algusest peale', 'Alused algoritmid'), arutame lõpus.

Asjast. Olen kirjutanud mõned praktilised programmid MS Excelis visuaalsete ja selgete protsesside kujutamiseks, mis toimuvad erinevates masinõppe meetodites andmete analüüsimisel. Nagu öeldakse, nägemine on usk, lõppude lõpuks, nagu ütlevad kultuuri kandjad, kes on välja töötanud enamik neist meetoditest (muide, kaugel mitte kõik. Väga võimas „toetavate vektorite meetod” ehk SVM — support vector machine — on meie kaasmaalase Vladimir Vapniku leiutis, Moskva Halduse Instituut. 1963. aasta, muide! Praegu õpetab ja töötab ta Ameerikas).

Kolm faili vaatamiseks

1. K-meetoditega klasterdamine

Seda tüüpi ülesanded kuuluvad «vähenemata õppimise» alla, kus meie ülesanne on jagada algandmed teatud ette teadaolevatesse kategooriatesse, kuid meil pole ühtegi «õiget vastust», need tuleb meil andmetest ise välja tuua. Meie ala klassikaline põhiküsimus on iiriste õite alatüüpide leidmine (Ronald Fisher, 1936. aastal!), mis on just sellise iseloomuga.

Meetod on piisavalt lihtne. Meil on objektide kogum, mis on esindatud vektoritena (N arvu kogumid). Iiristel on see - 4 arvu kogum, mis iseloomustab lille: välimise ja sisemise võrdlemise petalikud mõõtmed, vastavalt (Fisheri iirised - Vikipeedia). Objekti vaheliseks kauguseks, või sarnasuse mõõduks, valitakse tavaline dekartaane metrika.

Seejärel valitakse juhuslikult (või mittejuhuslikult, vaata allpool) klastrite keskpunktid ning arvutatakse iga objekti kaugus klastrite keskpunktidest. Iga objekt märgitakse selle sammu iteratsiooni jooksul kuuluvana lähimale keskpunktile. Seejärel kantakse iga klastrikeskme koordinaadid oma liikmete aritmeetilise keskpunkti (füüsikas tuntakse seda ka kui „keskpunkti massi”) ja protseduur kordub.

Protsess konvergeerub piisavalt kiiresti. Kaks dimensions on see välja näeb järgmiselt:

1. Algne juhuslik punktide jaotus tasapinnal ja klastrite arv

2. Klastrite keskpunktide määramine ja punktide kuuluvuse määramine oma klastritele

3. Klastrite keskpunktide koordinaatide üleviimine, punktide kuuluvuse ülekalkuleerimine, kuni keskpunktid stabiliseeruvad. Näha on klastrikeskme liikumisteed lõppasendisse.

Igal ajal saab määrata uusi klastrikeskuseid (ilma uue punktijaotuse genereerimiseta!) ja näha, et jagamisprotsess ei ole alati üheselt mõistetav. Matemaatiliselt tähendab see, et optimeeritava funktsiooni (punktide kauguste kvadrathulkade summeerimine nende klastrikeskuste kaupa) puhul leiame me mitte globaalset, vaid lokaalse miinimumi. Selle probleemi lahendamiseks on võimalik kas mittejuhuslikult valida algsed klastrikeskused või katsetada võimalikke keskusi (mõnikord on kasulik need täpselt mõne punkti peale asetada, siis on vähemalt garantii, et me ei saa tühje klastreid). Igal juhul on lõplikul kogumil alati täpne alumine piir.

Seda faili saab mängida selle lingi kaudu (ära unusta lubada makrode tugi. Failid on viiruste suhtes kontrollitud)

Meetodi kirjeldus Vikipedias — k-meetod

2. Polünoomide ligikaudne määramine ja andmete jaotamine. Ülekoolitus

Suurepärane teadlane ja andmete teaduse populariseerija K.V. Vorontsov räägib lühidalt masinõppe meetoditest kui „punktide kaudu kõverate joonistamise kunstist“. Antud näites otsime andmete seaduspärasusi väikseima ruudu meetodiga.

Kohandame algandmed „õppe“ ja „testimise“ jagamise tehnikat ning tutvustame sellist nähtust nagu üleõpe ehk „ülemugandumine“ andmetele. Õige lähenemise korral meil esineb mingisugune viga koolitusandmetel ja veidi suurem – testimise andmetel. Vale lähenemise korral on täpselt kohandamine koolitusandmete suhtes ja tohutu viga testimisandmetel.

(Tuntud fakt, et läbi N punkti saab joonistada ainulaadse N-1 astme kõvera, ja see meetod ei anna enamasti soovitud tulemust.) Lagrange'i interpolatsioonimurd Wikipedia's)

1. Määrame algse jaotuse.

2. Jagame punktid „õppe“ ja „testimise“ vahel vahega 70 ja 30.

3. Joonistame õppepunktide järgi approximatiivse kõvera, näeme selle viga, mida ta testimisandmetel genereerib.

4. Joonistame täpselt läbi õpetamispunktide ja näeme kontrollandmetel tohutut viga (ning nullit õpetamiste puhul, kuid mis kasu?).

Kuvatakse loomulikult kõige lihtsam variant, kus on ainult üks jagamine "õppimiseks" ja "kontrollimiseks" mõeldud allkogudeks; tavaliselt toimub see korduvalt, et parimal viisil kohandada koefitsiente.

Fail on siin saadaval, viirusetõrjega kontrollitud. Palun lülitage makrosid sisse, et tagada korrektne töö.

3. Gradientne langus ja vea dünaamika.

Siin on 4-mõõtmeline juhtum ja lineaarne regressioon. Lineaarse regressiooni koefitsiendid määratakse samm-sammult gradientse languse meetodi abil, alguses on kõik koefitsiendid nullid. Eraldi graafikul on nähtav veaga seotud dünaamika, mis näitab, kuidas vea täpsusega koefitsientide kohandamine paraneb. On võimalik vaadata kõiki nelja 2-mõõtmelist projektsiooni.

Kui määrata liiga suur gradienti langemise samm, siis on nähtav, et iga kord ületame minimaali ja jõuame tulemusele pikema arvu sammudega, kuigi lõpuks jõuame ikkagi (kui ainult ei tõsta sammupikkust liiga palju — siis algoritm „kaob kontrolli alt välja“). Ja graafik vea sõltuvusest iteratsiooni sammust ei ole sujuv, vaid „värisev“.

1. Generoome andmed, määrame gradienti langemise sammu

2. Õige gradienti langemise sammu valiku korral jõuame sujuvalt ja piisavalt kiiresti minimaali

3. Vale gradienti langemise sammu valiku korral ületame maksimaali, vea graafik on „värisev“, konvergents nõuab rohkem samme

ja

4. Kui gradienti langemise samm on täiesti vale, siis eemaldume minimaali

(Protsessi taastamiseks näidatud gradienti langemise sammude väärtustega märkige ruut „standardandmed“).

Fail – selle lingi kaudu, makrode lubamine on vajalik, viiruseid pole.

Kuidas arvab austatud kogukond, kas selline lihtsustus ja materjali esitamise meetod on vastuvõetav? Kas tasub artikkel ingliskeelde tõlkida?

Allikas: habr.com