Hur jag organiserade maskininlärningsträningar vid NSU

Jag heter Sasha och jag älskar maskininlärning samt att utbilda människor. Just nu leder jag utbildningsprogram vid Computer Science-centret och ansvarar för kandidatexamen i datanalys vid SPbGU. Innan dess arbetade jag som analytiker på Yandex, och tidigare var jag forskare: jag sysslade med matematisk modellering vid IVT RAN.

I det här inlägget vill jag berätta vad som kom ut av idén att starta träningar i maskininlärning för studenter, alumner från Novosibirsk statliga universitet och alla intresserade.

Jag har länge velat organisera en specialkurs för förberedelser inför tävlingar i datanalys på Kaggle och andra plattformar. Det verkade vara en utmärkt idé:

• Studenter och alla intresserade kommer att tillämpa sina teoretiska kunskaper praktiskt och få erfarenhet av att lösa problem i offentliga tävlingar.
• Studenter som placerar sig i topp i sådana tävlingar har en positiv inverkan på Novosibirsk statliga universitets attraktivitet för blivande studenter, nuvarande studenter och alumner. Träningarna i sportprogrammering har samma effekt.
• En sådan specialkurs kompletterar och utökar de grundläggande kunskaperna: deltagarna genomför själva modeller för maskininlärning, och de samarbetar ofta i lag som tävlar på en global nivå.
• Andra universitet har redan genomfört sådana träningar, så jag hade hoppats på framgång för specialkursen även vid NSU.

Launch

I Akademgorodok i Novosibirsk finns det mycket goda förutsättningar för sådana initiativ: studenter, alumner och lärare vid Computer Science-centret och starka tekniska fakulteter, till exempel FIT, MMF, FF, kraftigt stöd från NSUs administration, ett aktivt ODS-gemenskap, erfarna ingenjörer och analytiker från olika IT-företag. Ungefär samtidigt fick vi veta om ett bidragsprogram från Botan Investments — fonden stödjer lag som presterar bra i tävlingar inom sport-ML.

Vi hittade ett klassrum vid NSU för veckovisa möten, skapade en chatt i Telegram och startade den 1 oktober tillsammans med studenter och alumner från CS-centret. På den första lektionen kom 19 personer. Sex av dem blev regelbundna deltagare i träningarna. Totalt kom 31 personer minst en gång under läsåret.

De första resultaten

Jag och killarna lärde känna varandra, delade erfarenheter, diskuterade tävlingar och en ungefärlig plan för framtiden. Vi insåg ganska snabbt att kampen om platserna i tävlingar om dataanalys är ett regelbundet utmattande arbete, liknande en obetald heltidsjobb, men väldigt intressant och spännande 🙂 En av deltagarna, Kaggle-mästaren Maxim, rekommenderade oss att först gå framåt i tävlingar individuellt, och först efter några veckor gå ihop i team, med hänsyn till public score. Det gjorde vi! På de fysiska träningarna diskuterade vi modeller, vetenskapliga artiklar och detaljer i Python-bibliotek, och löste problem tillsammans.

Resultaten av höstterminen blev tre silver i två tävlingar på Kaggle: TGS Salt Identification och PLAsTiCC Astronomical Classification. Och en tredje plats i CFT-tävlingen för stavfel med våra första vinster (in the money, som erfarna kugglar säger).

En annan mycket viktig indirekt resultat av specialkursen blev lanseringen och konfigurationen av VKI-klustret vid NGU. Dess beräkningskraft förbättrade avsevärt vårt tävlingsliv: 40 CPU, 755Gb RAM, 8 GPU NVIDIA Tesla V100.

Före detta överlevde vi så gott vi kunde: räknade på personliga bärbara datorer och stationära datorer, i Google Colab och i Kaggle-kernels. Ett team hade till och med ett skräddarsytt skript som automatiskt sparade modellen och omstartade beräkningen som stoppade på grund av tidsgräns.

Under vårterminen fortsatte vi att träffas, dela framgångar och berätta om våra lösningar i tävlingarna. Nya intresserade deltagare började komma till oss. Under vårterminen lyckades vi få ett guld, tre silver och nio brons i åtta tävlingar på Kaggle: PetFinder, Santander, Könspronomenlösning, Validentifiering, Quora, Google Landmarks och andra, brons i Recco challenge, tredje plats i Changellenge>>Cup och första plats (återigen in the money) i maskininlärningstävlingen på programmeringstävlingen från Yandex.

Vad deltagarna i träningarna säger

Mikhail Karchevskiy
«Jag är mycket glad över att sådan verksamhet bedrivs här i Sibirien, eftersom jag anser att deltagande i tävlingar är det snabbaste sättet att behärska ML. För sådana tävlingar är hårdvaran ganska dyr att köpa själv, men här kan man prova idéer gratis».

Kirill Brodt
Innan maskininlärningsträningarna deltog jag inte mycket i tävlingar förutom akademiska och indiska tävlingar: jag såg ingen mening med det eftersom jag arbetade inom AI-området och var bekant med det. Under första terminen gick jag som åhörare. Men från och med andra terminen, så snart de beräkningsresurserna blev tillgängliga, tänkte jag, varför inte delta? Och det fångade mig. Någon har redan kommit på uppgiften, data och metrik, du behöver bara använda hela kraften av AI, testa state-of-the-art-modeller och tekniker. Om det inte vore för träningarna och, lika viktigt, beräkningsresurserna skulle jag nog inte ha börjat delta så snart.

Andrej Shevelev
Personliga ML-träningar hjälpte mig att hitta likasinnade, med vilka jag kunde fördjupa mina kunskaper inom maskininlärning och dataanalys. Det är också ett utmärkt alternativ för dem som inte har mycket fritid för att självstudera och fördjupa sig i tävlingsämnet, men fortfarande vill följa med.

Gå med i oss

Tävlingar på Kaggle och andra plattformar slipar praktiska färdigheter och snabbt konverteras till intressanta jobb inom data science. Människor som tillsammans deltar i svåra tävlingar blir ofta kollegor och fortsätter att framgångsrikt lösa arbetsuppgifter. Sådana fall har inträffat även hos oss: Michail Karchevsky och en vän från teamet gick över till att arbeta i ett företag med ett rekommendationssystem.

Med tiden planerar vi att utvidga denna aktivitet med vetenskapliga publikationer och deltagande i konferenser inom maskininlärning. Bli en del av oss som deltagare eller experter i Novosibirsk — skriv till jag eller Kiril. Organisera liknande träningar i era städer och universitet.

Här är en liten snabbguide som hjälper dig att ta de första stegen:

1. Tänk ut en bekväm plats och tid för regelbundna träningar. Optimalt — 1-2 gånger i veckan.
2. Skriv till potentiellt intresserade deltagare om det första mötet. Först och främst studenter vid tekniska universitet, deltagare i ODS.
3. Skapa en chatt för att diskutera aktuella ärenden: Telegram, VK, WhatsApp eller någon annan meddelandeapp som de flesta föredrar.
4. Håll en allmänt tillgänglig plan för lektioner, lista över tävlingar och deltagare, följ resultaten.
5. Hitta lediga beräkningsresurser eller bidrag för dem på närliggande universitet, forskningsinstitut eller företag.
6. VINST!

Källa: habr.com