Как организирах обучение по машинно обучение в NSU

Казвам се Саша и обичам машинното обучение, както и обучението на хора. Сега ръководя образователни програми в Центъра по компютърни науки и ръководя бакалавърската програма по анализ на данни в Държавния университет в Санкт Петербург. Преди това той е работил като анализатор в Yandex, а още по-рано като учен: занимавал се е с математическо моделиране в Института по компютърни науки на SB RAS.

В тази публикация искам да ви разкажа какво дойде от идеята за стартиране на обучение за машинно обучение за студенти, възпитаници на Новосибирския държавен университет и всички останали.

Отдавна исках да организирам специален курс за подготовка за състезания по анализ на данни на Kaggle и други платформи. Това изглеждаше като страхотна идея:

• Студентите и всички желаещи ще приложат теоретичните знания на практика и ще придобият опит в решаването на задачи в публични състезания.
• Студентите, които се класират на върха в подобни състезания, влияят добре върху привлекателността на НСУ за кандидати, студенти и абсолвенти. Същото се случва и с обучението по спортно програмиране.
• Този специален курс идеално допълва и разширява фундаменталните знания: участниците самостоятелно прилагат модели за машинно обучение и често формират екипи, които се състезават на глобално ниво.
• Други университети вече бяха провели такова обучение, така че се надявах на успеха на специалния курс в НГУ.

хвърлям

Академгородок в Новосибирск има много плодородна почва за такива начинания: студенти, възпитаници и преподаватели от Центъра по компютърни науки и силни технически факултети, например FIT, MMF, FF, силна подкрепа на администрацията на NSU, активна ODS общност, опитни инженери и анализатори от различни ИТ компании. Приблизително по същото време научихме за програмата за безвъзмездни средства от Botan Investments — фондът подкрепя отбори, които показват добри резултати в спортни състезания по ML.

Намерихме публика в NSU за седмични срещи, създадохме чат в Telegram и стартирахме на 1 октомври заедно със студенти и възпитаници на CS центъра. На първия урок дойдоха 19 души. Шестима от тях станаха редовни участници в обучението. Общо 31 души дойдоха на срещата поне веднъж през учебната година.

Първи резултати

С момчетата се срещнахме, обменихме опит, обсъдихме състезания и груб план за бъдещето. Доста бързо разбрахме, че борбата за места в състезания по анализ на данни е редовна, изтощителна работа, подобна на неплатена работа на пълен работен ден, но много интересна и вълнуваща 🙂 Един от участниците, Kaggle-master Maxim, ни посъветва първо да напреднем в състезанията индивидуално , и само няколко седмици по-късно се обединяват в екипи, като вземат предвид публичния резултат. Това направихме! По време на обучението лице в лице обсъждахме модели, научни статии и тънкостите на библиотеките на Python и решавахме проблеми заедно.

Резултатите от есенния семестър бяха три сребърни медала в две състезания на Kaggle: TGS Идентификация на солта и PLAsTiCC Астрономическа класификация. И едно трето място в CFT състезанието за коригиране на печатни грешки с първите спечелени пари (в парите, както казват опитни keglers).

Друг много важен косвен резултат от специалния курс беше стартирането и конфигурацията на клъстера NSU VKI. Неговата изчислителна мощност значително подобри нашия конкурентен живот: 40 процесора, 755 Gb RAM, 8 графични процесора NVIDIA Tesla V100.

Преди това оцелявахме възможно най-добре: изчислявахме на лични лаптопи и настолни компютри, в Google Colab и в Kaggle-ядра. Един екип дори имаше самостоятелно написан скрипт, който автоматично записваше модела и рестартира изчислението, което беше спряло поради ограничение във времето.

През пролетния семестър продължихме да се събираме, да обменяме успешни открития и да говорим за нашите решения на конкуренцията. При нас започнаха да идват нови заинтересовани участници. През пролетния семестър успяхме да вземем едно злато, три сребърни и девет бронзови медала в осем състезания на Kaggle: PetFinder, Santander, Резолюция, свързана с пола, Идентификация на китове, Quora, Google Landmarks и други, бронз в Recco предизвикателство, трето място в Changellenge>>Cup и първо място (отново в парите) в състезанието за машинно обучение на шампионат по програмиране от Yandex.

Какво казват участниците в обучението

Михаил Карчевски
„Много се радвам, че подобни дейности се провеждат тук, в Сибир, защото вярвам, че участието в състезания е най-бързият начин да овладеете ML. За такива състезания хардуерът е доста скъп, за да го купите сами, но тук можете да опитате идеи безплатно.

Кирил Брод
„Преди появата на обучението по ML не участвах особено в състезания с изключение на тренировки и индуистки състезания: не виждах смисъл в това, тъй като имах работа в областта на ML и бях запознат с него. Първият семестър, който посещавах като студент. И започвайки от втория семестър, веднага щом изчислителните ресурси станаха достъпни, си помислих защо да не участвам. И това ме пристрасти. Задачата, данните и показателите са измислени и подготвени за вас, давайте напред и използвайте пълната мощ на MO, проверете най-съвременните модели и техники. Ако не беше обучението и, което е също толкова важно, компютърните ресурси, нямаше да започна да участвам скоро.“

Андрей Шевелев
„Личното ML обучение ми помогна да намеря съмишленици, с които успях да задълбоча знанията си в областта на машинното обучение и анализа на данни. Това също е отлична възможност за тези, които нямат много свободно време да анализират самостоятелно и да се потопят в темата за състезанията, но все пак искат да бъдат в темата.

присъедини се към нас

Състезанията на Kaggle и други платформи усъвършенстват практическите умения и бързо се превръщат в интересна работа в областта на науката за данни. Хората, които са участвали заедно в трудно състезание, често стават колеги и продължават успешно да решават проблеми, свързани с работата. Това се случи и с нас: Михаил Карчевски, заедно с приятел от екипа, отиде да работи в същата компания по система за препоръки.

С времето планираме да разширим тази дейност с научни публикации и участие в конференции за машинно обучение. Присъединете се към нас като участници или експерти в Новосибирск - пишете ми или Кирил. Организирайте подобно обучение във вашите градове и университети.

Ето малък лист за измама, който да ви помогне да направите първите си стъпки:

1. Помислете за удобно място и време за редовни занятия. Оптимално - 1-2 пъти седмично.
2. Пишете на потенциално заинтересованите участници за първата среща. На първо място, това са студенти от технически университети, участници в ODS.
3. Започнете чат, за да обсъдите текущите въпроси: Telegram, VK, WhatsApp или всеки друг месинджър, удобен за повечето.
4. Поддържайте публично достъпен план на урока, списък със състезания и участници и наблюдавайте резултатите.
5. Намерете безплатна изчислителна мощност или субсидии за нея в близките университети, изследователски институти или компании.
6. ПЕЧАЛБА!

Източник: www.habr.com