Come ho organizzato gli allenamenti di machine learning all'NSU

Mi chiamo Sasha e amo il machine learning, oltre a insegnare alle persone. Attualmente coordino programmi educativi presso il centro di Computer Science e dirigo il corso di laurea in analisi dei dati all'Università Statale di San Pietroburgo. Prima di questo, ho lavorato come analista in Yandex, e ancora prima ero un ricercatore: mi occupavo di modellazione matematica all'IVT SO RAN.

In questo post voglio raccontare cosa è emerso dall'idea di avviare corsi di formazione sul machine learning per studenti, laureati dell'Università Statale di Novosibirsk e chiunque fosse interessato.

Come ho organizzato gli allenamenti di machine learning all'NSU

Da tempo desideravo organizzare un corso speciale di preparazione per le competizioni di analisi dei dati su Kaggle e altre piattaforme. Sembrava un'ottima idea:

  • Gli studenti e chiunque sia interessato potranno mettere in pratica le conoscenze teoriche e acquisire esperienza nella risoluzione di problemi in competizioni pubbliche.
  • Gli studenti che ottengono posizioni di vertice in tali competizioni migliorano l'attrattiva del NSU per aspiranti, studenti e laureati. Con la formazione di programmazione competitiva avviene esattamente lo stesso.
  • Questo corso specialistico completa e amplia perfettamente le conoscenze di base: i partecipanti implementano autonomamente modelli di apprendimento automatico, spesso unendosi in squadre che competono a livello mondiale.
  • In altre università sono già stati condotti allenamenti simili, quindi ero fiducioso nel successo del corso anche alla NGU.

Avvio

Ad Akademgorodok di Novosibirsk ci sono ottime condizioni per iniziative di questo tipo: studenti, laureati e docenti del centro di Computer Science e dei forti dipartimenti tecnici, come FIT, MMF, FF, un forte supporto dall'amministrazione della NGU, una comunità ODS attiva, ingegneri esperti e analisti di diverse aziende IT. All'incirca in quel periodo abbiamo scoperto del programma di sovvenzioni di Botan Investments — il fondo supporta le squadre che mostrano buoni risultati nelle competizioni di ML sportivo.

Abbiamo trovato uno spazio alla NGU per incontri settimanali, creato un gruppo su Telegram e dal 1 ottobre abbiamo avviato le attività insieme a studenti e laureati del centro CS. Al primo incontro si sono presentate 19 persone. Sei di loro sono diventati partecipanti regolari degli allenamenti. Durante l'anno accademico, 31 persone hanno partecipato almeno una volta all'incontro.

I primi risultati

Io e i ragazzi ci siamo conosciuti, abbiamo scambiato esperienze, discusso delle competizioni e del piano generale per il futuro. Abbiamo capito rapidamente che la lotta per i posti nelle competizioni di analisi dei dati è un lavoro regolare e faticoso, simile a un lavoro full-time non retribuito, ma molto interessante e coinvolgente 🙂 Uno dei partecipanti, il master di Kaggle Maxim, ci ha consigliato di iniziare a competere individualmente e solo dopo alcune settimane unirci in squadre, tenendo conto del punteggio pubblico. Così abbiamo fatto! Durante gli allenamenti dal vivo, abbiamo discusso di modelli, articoli scientifici e delle complessità delle librerie Python, risolvendo insieme i problemi.

I risultati del semestre autunnale sono stati tre medaglie d'argento in due competizioni su Kaggle: Identificazione del Sale TGS e Classificazione Astronomica PLAsTiCC. E un terzo posto nel concorso CFT per la correzione degli errori di battitura con i nostri primi guadagni (in the money, come dicono gli esperti di kegglers).

Un altro risultato molto importante e indiretto del corso speciale è stato il lancio e la configurazione del cluster VKI dell'Università Statale di Novosibirsk. Le sue capacità di calcolo hanno notevolmente migliorato la nostra vita competitiva: 40 CPU, 755Gb di RAM, 8 GPU NVIDIA Tesla V100.

Come ho organizzato gli allenamenti di machine learning all'NSU

Fino a quel momento, avevamo sopravvissuto come potevamo: calcolavamo sui nostri laptop e desktop personali, in Google Colab e nei kernel di Kaggle. Un team aveva persino uno script personalizzato che salvava automaticamente il modello e riavviava il calcolo interrotto a causa del limite di tempo.

Nel semestre primaverile, abbiamo continuato a riunirci, a scambiarci scoperte di successo e a raccontare le soluzioni adottate nelle competizioni. Nuovi partecipanti interessati hanno iniziato a unirsi a noi. Durante il semestre primaverile, abbiamo conquistato già un oro, tre argenti e nove bronzi in otto concorsi su Kaggle: PetFinder, Santander, Risoluzione dei pronomi di genere, Identificazione delle balene, Quora, Google Landmarks e altri, bronzo in Recco challenge, terzo posto nel Changellenge>>Cup e primo posto (di nuovo in the money) nella competizione di machine learning nel campionato di programmazione di Yandex.

Cosa dicono i partecipanti agli allenamenti

Mikhail Karchevsky
«Sono molto felice che un'attività del genere si svolga qui in Siberia, poiché considero la partecipazione ai concorsi il modo più veloce per imparare il ML. L'hardware per tali concorsi è abbastanza costoso da acquistare da soli, qui invece si possono provare idee gratuitamente.»

Kirill Brodt
«Prima dell'arrivo delle sessioni di allenamento in ML, non partecipavo a competizioni se non a quelle scolastiche e indiane: non vedevo il senso, dato che lavoravo nel campo del machine learning ed ero già familiare con esso. Nel primo semestre andavo come uditore. Ma a partire dal secondo semestre, non appena sono apparse le risorse computazionali, ho pensato, perché non partecipare? E questo mi ha coinvolto. I compiti, i dati e le metriche erano già pronti, usa tutta la potenza del machine learning, testa modelli e tecniche all'avanguardia. Se non fosse stato per gli allenamenti e, non meno importante, le risorse computazionali, non avrei iniziato a partecipare per un po'.»

Andrey Shevelev
«Le sessioni di allenamento in ML mi hanno aiutato a trovare persone affini, con cui ho potuto approfondire le mie conoscenze nel campo del machine learning e dell'analisi dei dati. È anche un'ottima opzione per chi non ha molto tempo libero per analizzare e immergersi nei temi delle competizioni, ma desidera comunque rimanere aggiornato.»

Unisciti a noi

Le competizioni su Kaggle e altre piattaforme affinano le abilità pratiche e si trasformano rapidamente in opportunità di lavoro interessanti nel campo della data science. Le persone che partecipano insieme a gare impegnative spesso diventano colleghi e continuano a risolvere con successo compiti lavorativi. È successo anche a noi: Mikhail Karchenskiy, insieme a un amico della sua squadra, è passato a lavorare in un'azienda sulla creazione di un sistema di raccomandazione.

Nel tempo, prevediamo di espandere questa attività con pubblicazioni scientifiche e partecipazione a conferenze sul machine learning. Unisciti a noi come partecipante o esperto a Novosibirsk — scrivici me o a Kirill. Organizza allenamenti simili nelle tue città e università.

Ecco un piccolo promemoria che ti aiuterà a muovere i primi passi:

  1. Pianifica un luogo e un orario comodi per le lezioni regolari. Ottimale — 1-2 volte a settimana.
  2. Scrivi ai potenziali partecipanti riguardo al primo incontro. In primo luogo, si tratta di studenti di istituti tecnici e membri di ODS.
  3. Crea un gruppo per discutere questioni attuali: Telegram, VK, WhatsApp o qualsiasi altro messaggero comodo per la maggior parte.
  4. Gestisci un piano di lezioni pubbliche, un elenco di competizioni e partecipanti, monitora i risultati.
  5. Trova capacità di calcolo libere o finanziamenti in università, istituti di ricerca o aziende vicine.
  6. PROFIT!

Fonte: habr.com

Acquista hosting affidabile per siti web con protezione DDoS, VPS VDS server 🔥 Acquista hosting affidabile per siti web con protezione DDoS, VPS VDS server | ProHoster