Jmenuji se Saša a mám rád strojové učení, stejně jako vzdělávání lidí. Momentálně vedu vzdělávací programy v centru počítačových věd a řídím bakalářský obor analýzy dat na SPbGU. Předtím jsem pracoval jako analytik v Yandexu a ještě dříve jako vědec, věnoval jsem se matematickému modelování v IVM SO RAN.
V tomto příspěvku chci vyprávět o tom, co vzniklo z myšlenky zahájení tréninků strojového učení pro studenty, absolventy Novosibirské státní univerzity a všechny zájemce.
Dlouho jsem chtěl zorganizovat speciální kurz přípravy na soutěže v analýze dat na Kaggle a dalších platformách. Zdálo se to jako skvělý nápad:
- Studenti a všichni zájemci uplatní teoretické znalosti v praxi a získají zkušenosti s řešením úkolů na veřejných soutěžích.
- Studenti, kteří se umisťují v topu na takových soutěžích, mají pozitivní vliv na atraktivnost NGU pro uchazeče, studenty a absolventy. S tréninky sportovního programování to funguje stejně.
- Takový speciální kurz skvěle doplňuje a rozšiřuje fundamentální znalosti: účastníci samostatně realizují modely strojového učení, často se spojují do týmů, které soutěží na světové úrovni.
- Na jiných univerzitách se již podobné tréninky konaly, takže jsem doufal v úspěch speciálního kurzu i na NGU.
Spuštění
V Akademgorodku v Novosibirsku je velmi úrodná půda pro podobné iniciativy: studenti, absolventi a učitelé centra počítačových věd a silných technických fakult, jako jsou FIT, MMF, FF, silná podpora správy NGU, aktivní ODS-komunita, zkušení inženýři a analytici různých IT společností. Přibližně v té době jsme se dozvěděli o grantovém programu od — fond podporuje týmy, které dosahují dobrých výsledků v soutěžích v oblasti sportovního strojového učení.
Na NGU jsme našli učebnu pro týdenní setkání, vytvořili chat v Telegramu a od 1. října jsme se společně se studenty a absolventy centra CS zahájili. Na první lekci přišlo 19 lidí. Šest z nich se stalo stálými účastníky tréninků. Celkem za školní rok se na setkání alespoň jednou dostavilo 31 osob.
První výsledky
S kluky jsme se seznámili, vyměnili si zkušenosti, prodiskutovali soutěže a orientační plán do budoucna. Poměrně rychle jsme pochopili, že soutěž o místa ve soutěžích v analýze dat je pravidelná vyčerpávající práce, podobná neplacené práci na plný úvazek, ale velmi zajímavá a vzrušující 🙂 Jeden z účastníků, Kaggle-master Maxim, nám poradil, abychom se nejprve posunuli v soutěžích individuálně a až po několika týdnech se spojili do týmů, přičemž bychom brali v úvahu veřejné skóre. A udělali jsme to! Na prezenčních trénincích jsme diskutovali o modelech, vědeckých článcích a nuancích Python knihoven, společně jsme řešili problémy.
Výsledky podzimního semestru byly tři stříbrné medaile ve dvou soutěžích na Kaggle: a . A jedno třetí místo v soutěži CFT za opravu překlepů s prvními vyhranými penězi (in the money, jak říkají zkušení hráči).
Dalším velmi důležitým nepřímým výsledkem specializovaného kurzu byl start a nastavení clusteru VKI NGU. Jeho výpočetní síla značně zlepšila náš soutěžní život: 40 CPU, 755Gb RAM, 8 GPU NVIDIA Tesla V100.
Do té doby jsme přežívali, jak jsme mohli: počítali jsme na osobních noteboocích a desktopech, v Google Colab a v Kaggle-kernels. Jeden tým dokonce měl vlastní skript, který automaticky ukládal model a restartoval výpočet, který byl přerušen z důvodu časového limitu.
Na jaře jsme pokračovali v setkávání, vyměňování úspěšných nálezů a vyprávění o našich řešeních soutěží. K nám začali přicházet noví zájemci. Během jarního semestru se nám podařilo získat už jedno zlato, tři stříbra a devět bronzů v osmi soutěžích na Kaggle: , , , , , a další, bronz v , třetí místo v Changellenge>>Cup a první místo (opět in the money) v soutěži o strojovém učení na od Yandexu.
Co říkají účastníci tréninků
„Jsem velmi rád, že taková činnost probíhá u nás v Sibiři, protože se domnívám, že účast v soutěžích je nejrychlejší způsob, jak ovládnout ML. Pro takové soutěže je hardware dost drahý na to, abychom si ho koupili sami, ale tady lze zkoušet nápady zdarma.“
Před nástupem do tréninků v oblasti strojového učení jsem se příliš nezapojoval do soutěží, kromě školních a indických: nedávalo mi to smysl, protože jsem pracoval v oblasti MO a s tímto oborem jsem byl obeznámen. První semestr jsem chodil jako posluchač. Ale jakmile se ve druhém semestru objevily výpočetní zdroje, pomyslel jsem si, proč se nezapojit. A dostalo mě to. Úkol, data a metriky byly předem vymyšleny a připraveny, vezmi a využij veškerou sílu MO, testuj špičkové modely a techniky. Kdyby nebylo tréninků a, což je neméně důležité, výpočetních zdrojů, nezapojil bych se tak brzy.
Osobní tréninky v oblasti ML mi pomohly najít podobně smýšlející lidi, se kterými jsem mohl prohloubit své znalosti v oblasti strojového učení a analýzy dat. Je to také skvělá možnost pro ty, kdo nemají mnoho volného času na samostatnou analýzu a ponoření se do tématu soutěží, přesto by rádi byli v obraze.
Připojte se k nám
Soutěže na Kaggle a dalších platformách zdokonalují praktické dovednosti a rychle se proměňují v zajímavou práci v oblasti datové vědy. Lidé, kteří se podíleli na obtížné soutěži, se často stávají kolegy a úspěšně pokračují v řešení pracovních úkolů. To se stalo i u nás: Michail Karčevský spolu se svým kamarádem z týmu přešli pracovat do jedné společnosti na doporučovacím systému.
Postupem času plánujeme rozšířit tuto činnost vědeckými publikacemi a účastí na konferencích v oblasti strojového učení. Připojte se k nám jako účastníci nebo odborníci v Novosibirsku — napište nebo . Organizujte podobné tréninky ve svých městech a univerzitách.
Zde je malá pomůcka, která pomůže udělat první kroky:
- Promyslete si pohodlné místo a čas pro pravidelné schůzky. Optimálně — 1-2krát týdně.
- Napište potenciálně zainteresovaným účastníkům o první schůzce. Na prvním místě to jsou studenti technických vysokých škol, účastníci ODS.
- Založte skupinu pro diskusi o aktuálních záležitostech: Telegram, VK, WhatsApp nebo jakýkoli jiný messenger, který je většině pohodlný.
- Vedení veřejného plánu schůzek, seznamu soutěží a účastníků, sledujte výsledky.
- Najděte volné výpočetní kapacity nebo granty na ně na blízkých univerzitách, vědeckých institucích nebo v firmách.
- ZISK!
Zdroj: habr.com
