Mă numesc Sasha și îmi place învățarea automată, dar și să învăț oamenii. În prezent, coordonez programele educaționale în centrul de Științe Computaționale și conduc programul de licență în analiza datelor la SPbGU. Înainte de aceasta, am lucrat ca analist la Yandex, iar mai devreme ca cercetător: m-am ocupat de modelare matematică la IVT SO RAN.
În această postare vreau să povestesc despre ce a ieșit din ideea de a lansa antrenamente de învățare automată pentru studenți, absolvenți ai Universității de Stat din Novosibirsk și pentru toți cei interesați.
De mult timp îmi doream să organizez un curs special dedicat pregătirii pentru competiții de analiză a datelor pe Kaggle și alte platforme. Mi s-a părut o idee excelentă:
- Studenții și toți cei interesați își vor aplica cunoștințele teoretice în practică și vor căpăta experiență în rezolvarea problemelor în competiții publice.
- Studenții care obțin locuri în topul acestor competiții contribuie mult la atractivitatea NSU pentru viitorii studenți, actualii studenți și absolvenți. Același lucru se întâmplă și cu antrenamentele de programare competitivă.
- Acest curs special completează și extinde excelent cunoștințele fundamentale: participanții își implementează singuri modelele de învățare automată, adesea formând echipe care concurează la nivel mondial.
- În alte universități, astfel de antrenamente au avut deja loc, așa că aveam speranțe mari pentru succesul cursului special și la NSU.
Pornire
În Academgorodok din Novosibirsk, există un climat foarte favorabil pentru astfel de inițiative: studenți, absolvenți și profesori ai centrului de Științe Computaționale și ai unor facultăți tehnice puternice, cum ar fi FIT, MMF, FF, un sprijin solid din partea administrației NSU, o comunitate ODS activă, ingineri și analiști experimentați din diverse companii IT. Aproape în aceeași perioadă, am aflat despre programul de granturi de la — fondul sprijină echipele care obțin rezultate bune în competiții de ML competitiv.
Am găsit o sală la NSU pentru întâlniri săptămânale, am creat un chat în Telegram și, începând cu 1 octombrie, am început împreună cu studenții și absolvenții centrului CS. La prima întâlnire au venit 19 persoane. Șase dintre ele au devenit participanți permanenti la antrenamente. În total, pe parcursul anului universitar, 31 de persoane au participat măcar o dată la întâlnire.
Primele rezultate
Am făcut cunoștință cu colegii, ne-am împărtășit experiențele, am discutat despre competiții și un plan aproximativ pentru viitor. Am realizat destul de repede că lupta pentru locuri în competițiile de analiză a datelor este un efort regulat și extenuant, asemănător cu un loc de muncă full-time neplătit, dar foarte interesant și captivant 🙂 Unul dintre participanți, Kaggle-masterul Maxim, ne-a sfătuit să avansăm mai întâi în competiții individual, și abia după câteva săptămâni să ne unim în echipe, luând în considerare scorul public. Așa am procedat! La antrenamentele față în față, discutam modele, articole științifice și subtilitățile bibliotecilor Python, rezolvând probleme împreună.
Rezultatele semestrului de toamnă au fost trei medalii de argint în două competiții pe Kaggle: și . Și un loc trei în competiția CFT pentru corectarea greșelilor de tipar, cu primii bani câștigați (in the money, cum spun keglerii experimentați).
Un alt rezultat foarte important al cursului specializat a fost lansarea și configurarea clusterului VKI NGU. Capacitățile sale de calcul ne-au îmbunătățit semnificativ viața competițională: 40 CPU, 755Gb RAM, 8 GPU NVIDIA Tesla V100.
Până atunci, ne descurcam cum puteam: calculam pe laptopurile și desktop-urile personale, în Google Colab și în Kaggle-kernels. O echipă avea chiar un script personalizat, care salva automat modelul și repornia calculul, oprit din cauza limitelor de timp.
În semestrul de primăvară, am continuat să ne adunăm, să împărtășim descoperiri reușite și să discutăm despre soluțiile noastre la competiții. Au început să ni se alăture noi participanți interesați. În semestrul de primăvară, am reușit să obținem o medalie de aur, trei medalii de argint și nouă medalii de bronz în opt competiții pe Kaggle: , , , , , și altele, bronz în , locul trei în Changellenge>>Cup și locul întâi (iarăși in the money) în competiția de machine learning pe de la Yandex.
Ce spun participanții la antrenamente
„Sunt foarte bucuros că o astfel de activitate se desfășoară în Siberia, deoarece consider că participarea la competiții este cea mai rapidă modalitate de a învăța ML. Pentru astfel de competiții, echipamentele sunt destul de scumpe pentru a fi cumpărate pe cont propriu, dar aici poți testa idei gratuit.”
„Până la apariția antrenamentelor ML, nu am participat în mod special la competiții, cu excepția celor de învățare și a competițiilor indiene: nu vedeam sensul, deoarece aveam și activitate în domeniul AP, iar cu acesta eram familiarizat. În primul semestru am participat ca observator. Dar începând cu semestrul al doilea, de îndată ce au apărut resursele de calcul, m-am gândit, de ce nu aș participa. Și m-a prins. Sarcina, datele și metricile au fost gândite și pregătite pentru tine, ia și folosește întreaga putere a AP, testează modele și tehnici de vârf. Dacă nu ar fi fost antrenamentele și, nu în ultimul rând, resursele de calcul, nu aș fi început să particip curând.”
„Antrenamentele ML față în față m-au ajutat să-mi găsesc colegi de idei, împreună cu care am reușit să-mi aprofundeze cunoștințele în domeniul învățării automate și analizei datelor. De asemenea, este o opțiune excelentă pentru cei care nu au timp liber foarte mult pentru a se aprofunda pe cont propriu în tema competițiilor, dar care doresc totuși să fie la curent.”
Alăturați-vă nouă
Competițiile de pe Kaggle și alte platforme dezvoltă abilitățile practice și se transformă rapid într-o muncă interesantă în domeniul științei datelor. Oamenii care au participat împreună la o competiție dificilă devin adesea colegi și continuă să rezolve cu succes sarcini de lucru. Așa s-a întâmplat și cu noi: Mihail Karcevski, împreună cu un prieten din echipă, au trecut să lucreze într-o companie la un sistem de recomandare.
În timp, intenționăm să extindem această activitate cu publicații științifice și participări la conferințe de învățare automată. Alătură-te nouă ca participanți sau experți din Novosibirsk — scrie sau . Organizați antrenamente similare în orașele și universitățile voastre.
Iată un mic ghid care te va ajuta să faci primii pași:
- Gândește-te la un loc și un timp convenabil pentru întâlniri regulate. Ideal — de 1-2 ori pe săptămână.
- Scrie potențialilor participanți despre prima întâlnire. În primul rând, aceștia sunt studenți ai instituțiilor tehnice, participanți ODS.
- Înființează un chat pentru a discuta despre chestiuni curente: Telegram, VK, WhatsApp sau orice alt messenger convenabil pentru majoritate.
- Păstrează un plan public de sesiuni, o listă a competițiilor și participanților, urmărește rezultatele.
- Găsiți resurse computaționale sau granturi în universitățile, institutele de cercetare sau companiile din apropiere.
- PROFIT!
Sursă: habr.com
