Masinõpe ilma Pythonita, Anacondata ja muude madude

Ei, ma muidugi ei mõtle tõsiselt. Peab ju olema mingi piir, kui palju saab teemat lihtsustada. Kuid algfaasis, peamiste kontseptsioonide mõistmiseks ja kiireks teemaga tutvumiseks võib-olla on see lubatav. Ja millise nimega seda materjali õigesti nimetada (variandid: „Masinõpe algajatele“, „Andmete analüüs algusest peale“, „Algoritmid kõige väiksematele“), arutame hiljem.

Asume siis asja juurde. Olen koostanud mitmeid rakenduste programme MS Excelis protsesside visualiseerimiseks ja selgeks jõudmiseks, mis toimuvad erinevates masinõppe meetodites andmete analüüsimisel. Lood on veidigi uskumatud, nagu ütlevad kultuuri esindajad, kes on välja töötanud enamik neist meetoditest (muide, mitte kõik. Võimas „toetavate vektorite meetod“ ehk SVM – toetav vektormasin – on meie kaasmaalase Vladimir Vapnik’i leiutis, Moskva Juhtimisinstituut. 1963. aasta, muide! Praegu õpetab ja töötab ta aga Ameerikas).

Kolm faili tutvumiseks

1. K-meetoditega klasterdamine

Selliste ülesannete liik kuulub „õpetamata õppimise” alla, kui peame jagama esialgsed andmed teatud eelnevalt tuntud kategooriate arvuks, kuid meil ei ole küllalt „õigeid vastuseid”, need tuleb andmetest välja töötada. Alustav klassikaline ülesanne iiriste liikide määramine (Ronald Fisher, 1936. aasta!), mis loetakse selle teadmiste valdkonna esimeseks etapiks – on just sellise olemusega.

Meetod on piisavalt lihtne. Meil on objektiloend, mis on esitatud vektoritena (N numbrite kogum). Iiristel on see – kogum 4 numbrit, mis iseloomustavad lille: õie välise ja sisemise osade pikkus ja laius, vastavalt (Iirised Fisher – Vikipeedia). Objektide vahelise kauguse või sarnasuse meetodina valitakse tavaline Dekarti meetrika.

Järgmiseks valitakse juhuslikult (või mitte juhuslikult, vaata edasi) klastrite keskpunktid ning arvutatakse iga objekti kaugus klastrite keskpunktidest. Iga objekt märgitakse selle iteratsiooni sammul kuuluvaks sellele lähimale keskpunktile. Seejärel liigutatakse iga klastrikeskuse kohta oma liikmete koordinaatide aritmeetiline keskpunkt (füüsikas nimetatakse seda ka „massikeskuseks”) ja protseduur kordub.

Protsess konvergeerub piisavalt kiiresti. Kahemõõtmeliselt näeb see välja nii:

1. Algne juhuslik punktide jaotumine tasandil ning klastrite arv

2. Klastrite keskpunktide määramine ja punktide määramine oma klastritesse

3. Klastrite keskpunktide koordinaatide ümberpaigutamine, punktide kuuluvuse ümberarvestamine, kuni keskpunktid stabiliseeruvad. On näha klastrite keskuste liikumisteed lõppasendisse.

Igal hetkel on võimalik määrata uusi klastrite keskpunkte (ilma uue punktide jaotuse genereerimiseta!) ja näha, et protsess ei ole alati üheselt mõistetav. Matemaatiliselt tähendab see, et optimeeritava funktsiooni (punktide kauguste ruutude summad oma klastrite keskpunktidest) puhul leiame me mitte globaalset, vaid lokaalse miinimumi. Selle probleemi lahendamiseks võib kas valida mittejuhuslikud algset keskpunktid või proovida erinevaid keskpunktide kombinatsioone (mõnikord on kasulik need paigutada täpselt mõnda punktidesse, siis on vähemalt kindel, et me ei saa tühje klastreid). Igatahes on lõpliku kogumi puhul alati täpne alumine piir.

Selle failiga saab mängida sellel lingil (ärge unustage lubada makrode toetust. Failid on viiruste suhtes kontrollitud)

Meetodi kirjeldus Vikipeedias — k-ennustuste meetod

2. Polünoomide ligikaudne hindamine ja andmete jagamine. Ülekoolitus

Imetlusväärne teadlane ja andmete teaduse populariseerija K.V. Vorontsov räägib lühidalt masinõppemeetoditest kui "kõverate joonistamisest punktide kaudu". Selles näites selgitame andmete mustrite leidmist väikeste ruutude meetodi abil.

On näidatud andmete jagamise tehnika "õppimis" ja "kontroll" rühmadesse, samuti nähtust, mida tuntakse kui ülekoolitamine. Õige ligikaudse hindamise korral on meil teatud viga õppimisandmetes ja veidi suurem viga kontrollandmetes. Vale hindamisega on täpne sobitamine õppimisandmetele ja tohutu viga kontrollandmetes.

(Tuntud on fakt, et N punkti kaudu saab joonistada ainulaadse N-1 astme kõvera, ja see meetod ei anna üldjuhul soovitud tulemust. Lagrange'i interpoleeriv polünoom Vikipeedias)

1. Määrame esialgse jaotuse

2. Jagame punktid "õppimis" ja "kontroll" rühmadesse suhtega 70:30.

3. Joonistame approximatiivse kõvera õpetamispunktide kaudu, näeme viga, mille ta kontrollandmetel annab.

4. Joonistame täpse kõvera õpetamispunktide kaudu ja näeme kohutavat viga kontrollandmetel (ja nulli õpetamispunktidel, aga mis sellest kasu on?).

Näidatud on muidugi kõige lihtsam variant, millel on ainsad jaotused "õpetamise" ja "kontrolli" alamgruppidesse, üldjuhul tehakse seda korduvalt parimate koefitsientide seadistamiseks.

Fail on siin saadaval, kontrollitud viirusetõrjega. Palun lülitage makrod sisse, et see õigesti töötaks.

3. Gradientne langemine ja vea muutumise dünaamika.

Siin on 4-mõõtmeline juhtum ja lineaarsed regressioonid. Lineaarsete regressioonide koefitsiendid määratakse sammude kaudu gradientsete langemismeetodi abil, alguses on kõik koefitsiendid nullid. Eraldi graafik näitab vea vähenemise dünaamikat, kui koefitsiente üha täpsemalt seadistatakse. On võimalus vaadata kõiki nelja 2-mõõtmelist projektsiooni.

Kui seadistada liiga suur gradientse langemise samm, siis on näha, et igal korral me hüppame miinimumist üle ja tulemusele jõuame rohkemate sammudega, kuigi lõpuks me kõik üheselt siiski jõuame (kui ainult me ei tõsta langemise sammu liiga palju - siis algoritm pärast enam ei tööta). Ja graafik vea sõltuvusest iteratsiooni sammust ei ole sujuv, vaid "tõmblev".

1. Genererime andmed, seame gradientse langemise sammu.

2. Õige gradientse langemise sammu valimisega jõuame sujuvalt ja piisavalt kiiresti miinimumini.

3. Vale gradientse langemise sammu valimisega hüppame maksimumist üle, vea graafik on "tõmblev", konvergents võtab rohkem samme.

ja

4. Äärmiselt vale gradientse langemise sammu valimisega eemaldume miinimumist.

(Protsessi kordamiseks näidatud gradientse langemise sammu väärtustega, palun valige "standardandmed").

Fail - selle lingi kaudu, peate makrosid sisse lülitama, viiruseid pole.

Kuidas arvab austatud kogukond, kas selline lihtsustamine ja materjali esitamise meetod on lubatud? Kas tasub artikkel inglise keelde tõlkida?

Allikas: habr.com