Această poză este de Arthur Kuzin (), rezumă destul de exact conținutul postării pe blog. Drept urmare, următoarea narațiune ar trebui percepută mai mult ca o poveste de vineri decât ca ceva extrem de util și tehnic. În plus, este de remarcat faptul că textul este bogat în cuvinte englezești. Nu știu cum să traduc corect unele dintre ele și pur și simplu nu vreau să traduc unele dintre ele.
Cum a avut loc trecerea de la un mediu academic la unul industrial este dezvăluit în primele două episoade. În aceasta, conversația va fi despre ceea ce s-a întâmplat în continuare.
Era ianuarie 2017. În acel moment, aveam ceva mai mult de un an de experiență de lucru și lucram în San Francisco în companie ca Sr. Data Scientist.
TrueAccord este o startup de colectare a datoriilor. În termeni simpli - o agenție de colectare. Colecționarii sună de obicei foarte mult. Am trimis o mulțime de e-mailuri, dar am făcut puține apeluri. Fiecare e-mail a condus la site-ul companiei, unde debitorului i s-a oferit o reducere la datorie și i s-a permis chiar să plătească în rate. Această abordare a condus la o colectare mai bună, a permis extinderea și o expunere mai mică la procese.
Compania era normală. Produsul este clar. Conducerea este sănătoasă. Locația este bună.
În medie, oamenii din vale lucrează într-un singur loc timp de aproximativ un an și jumătate. Adică, orice companie la care lucrezi este doar un pas mic. La acest pas vei strânge niște bani, vei dobândi cunoștințe, abilități, conexiuni și linii noi în CV-ul tău. După aceasta, există o tranziție la următoarea etapă.
La TrueAccord în sine, am fost implicat în atașarea sistemelor de recomandare la buletinele informative prin e-mail, precum și în prioritizarea apelurilor telefonice. Impactul este de înțeles și a fost măsurat destul de bine în dolari prin testarea A/B. Deoarece nu a existat nicio învățare automată înainte de sosirea mea, impactul muncii mele nu a fost rău. Din nou, este mult mai ușor să îmbunătățiți ceva decât ceva care este deja puternic optimizat.
După șase luni de lucru la aceste sisteme, chiar mi-au crescut salariul de bază de la 150 USD la 163 USD. In comunitate există o meme despre 163 USD. De aici crește cu picioarele.
Toate acestea au fost minunate, dar nu au dus nicăieri, sau au condus, dar nu acolo.
Am un mare respect pentru TrueAccord, atât pentru companie, cât și pentru băieții cu care am lucrat acolo. Am învățat multe de la ei, dar nu am vrut să lucrez mult timp la sisteme de recomandare la o agenție de colectare. Din acest pas a trebuit să pășiți într-o direcție. Dacă nu înainte și în sus, atunci cel puțin lateral.
Ce nu mi-a plăcut?
- Din perspectiva învățării automate, problemele nu m-au entuziasmat. Îmi doream ceva la modă, tineresc, adică Deep Learning, Computer Vision, ceva mai degrabă apropiat de știință sau cel puțin de alchimie.
- Un startup, și chiar o agenție de colectare, are probleme în a angaja personal înalt calificat. Ca startup, nu poate plăti prea mult. Dar, ca agenție de colectare, își pierde statutul. În linii mari, dacă o fată la întâlnire te întreabă unde lucrezi? Răspunsul tău: „Pe Google” sună la ordine de mărime mai bine decât „agenția de colectare”. M-a deranjat puțin faptul că pentru prietenii mei care lucrează la Google și Facebook, spre deosebire de mine, numele companiei lor le-a deschis uși de genul: poți fi invitat la o conferință sau întâlnire ca speaker, sau oameni mai interesanți scriu pe LinkedIn cu o ofertă de a ne întâlni și de a discuta la un pahar de ceai. Îmi place foarte mult să comunic cu oameni pe care nu îi cunosc personal. Deci, dacă locuiți în San Francisco, nu ezitați să scrieți - să mergem la o cafea și să vorbim.
- Pe lângă mine, în companie au lucrat trei Data Scientist. Lucram la învățarea automată, iar ei lucrau la alte sarcini Data Science, care sunt comune în orice startup de aici până mâine. Drept urmare, ei nu au înțeles cu adevărat învățarea automată. Dar pentru a crește, trebuie să comunic cu cineva, să discut articole și ultimele evoluții și să cer sfaturi, până la urmă.
Ce era disponibil?
- Educație: fizică, nu informatică.
- Singurul limbaj de programare pe care l-am cunoscut a fost Python. Aveam sentimentul că trebuia să trec la C++, dar tot nu puteam să o rezolv.
- Un an și jumătate de muncă în industrie. Mai mult, la serviciu nu am studiat nici Deep Learning, nici Computer Vision.
- Nici un articol despre Deep Learning / Computer Vision în CV.
- A existat o realizare Kaggle Master.
Ce ai vrut?
- O poziție în care va fi necesar să se antreneze multe rețele, și mai aproape de viziunea computerizată.
- Este mai bine dacă este o companie mare precum Google, Tesla, Facebook, Uber, LinkedIn etc. Deși într-un strop, un startup ar face bine.
- Nu trebuie să fiu cel mai mare expert în învățare automată din echipă. Era o mare nevoie de camarazi seniori, mentori și tot felul de comunicare, care trebuia să grăbească procesul de învățare.
- După ce am citit postări de blog despre modul în care absolvenții fără experiență industrială au o compensație totală de 300-500 USD pe an, am vrut să intru în același interval. Nu este că asta mă deranjează atât de mult, dar din moment ce ei spun că acesta este un fenomen comun, dar am mai puțin, atunci acesta este un semnal.
Sarcina părea complet rezolvabilă, deși nu în sensul că poți sări în orice companie, ci mai degrabă că, dacă vei muri de foame, totul se va rezolva. Adică, zeci sau sute de încercări, iar durerea de la fiecare eșec și fiecare respingere, ar trebui folosite pentru a ascuți concentrarea, a îmbunătăți memoria și a întinde ziua la 36 de ore.
Mi-am modificat CV-ul, am început să-l trimit și să merg la interviuri. Am trecut pe lângă majoritatea lor în stadiul de comunicare cu HR. Mulți oameni aveau nevoie de C++, dar eu nu știam asta și aveam un sentiment puternic că nu voi fi foarte interesat de pozițiile care necesită C++.
Este de remarcat faptul că aproximativ în același timp a existat o tranziție de fază în tipul de competiții pe Kaggle. Înainte de 2017 existau o mulțime de date tabulare și foarte rar date de imagini, dar începând cu 2017 au existat o mulțime de sarcini de viziune computerizată.
Viața curgea în următorul mod:
- Lucrați în timpul zilei.
- Când ecranul tehnic / la fața locului îți iei timp liber.
- Serile și weekendurile Kaggle + articole / cărți / postări pe blog
Sfârșitul anului 2016 a fost marcat de faptul că m-am alăturat comunității , care a simplificat o mulțime de lucruri. Există o mulțime de tipi în comunitate cu o experiență industrială bogată, ceea ce ne-a permis să punem o mulțime de întrebări stupide și să obținem o mulțime de răspunsuri inteligente. Există, de asemenea, o mulțime de specialiști foarte puternici în învățarea automată de toate pașii, care, în mod neașteptat, mi-au permis, prin ODS, să închei problema cu o comunicare aprofundată regulată despre Data Science. Până acum, în ceea ce privește ML, ODS îmi oferă de multe ori mai mult decât ceea ce primesc la serviciu.
Ei bine, ca de obicei, ODS are destui specialiști în competiții pe Kaggle și alte site-uri. Rezolvarea problemelor într-o echipă este mai distractivă și productivă, așa că cu glume, înjurături, meme-uri și alte divertisment tocilar, am început să rezolvăm problemele unul câte unul.
În martie 2017 - într-o echipă cu Serega Mushinsky - locul trei pentru . Medalie de aur la Kaggle + 20 USD pentru doi. La această sarcină, lucrul cu imagini satelit + segmentare binară prin UNet a fost îmbunătățit.
În același martie, am fost pentru un interviu la NVidia cu echipa Self Driving. Chiar m-am luptat cu întrebările despre detectarea obiectelor. Nu erau suficiente cunoștințe.
Din fericire, în același timp, a început competiția Object Detection pe imagini aeriene din același DSTL. Dumnezeu însuși a ordonat să rezolve problema și să facă upgrade. O lună de seri și weekenduri. Am luat cunoștințele și am terminat al doilea. Această competiție a avut o nuanță interesantă în regulament, ceea ce a făcut ca eu să fiu difuzat în Rusia pe canale federale și nu atât de federale. m-am pus , și într-o grămadă de publicații tipărite și online. Mail Ru Group a primit un PR puțin pozitiv pe cheltuiala mea și a propriilor bani, iar știința fundamentală din Rusia s-a îmbogățit cu 12000 de lire sterline. Ca de obicei, s-a scris pe această temă . Du-te acolo pentru detalii.
În același timp, un recrutor Tesla m-a contactat și s-a oferit să vorbească despre postul de Computer Vision. Am fost de acord. M-am repezit prin acasa, două ecrane tehnice, un interviu la fața locului și am avut o conversație foarte plăcută cu Andrei Karpathy, care tocmai fusese angajat la Tesla ca director al AI. Următoarea etapă este verificarea antecedentelor. După aceea, Elon Musk a trebuit să-mi aprobe personal cererea. Tesla are un Acord strict de nedivulgare (NDA).
Nu am trecut de verificarea fundalului. Recruitorul a spus că discut mult online, încălcând NDA. Singurul loc în care am spus ceva despre un interviu la Tesla a fost ODS, așa că ipoteza actuală este că cineva a făcut o captură de ecran și a scris către HR la Tesla, iar eu am fost scos din cursă în afara pericolului. A fost păcat atunci. Acum ma bucur ca nu a iesit. Poziția mea actuală este mult mai bună, deși ar fi foarte interesant să lucrez cu Andrey.
Imediat după aceea, m-am aruncat în competiția de imagini prin satelit pe Kaggle de la . Problema era simplă și extrem de plictisitoare; nimeni nu dorea să o rezolve, dar toată lumea dorea o medalie de aur sau un premiu în bani gratuit. Prin urmare, cu o echipă de Kaggle Masters de 7 persoane, am convenit că vom arunca cu fier. Am antrenat 480 de rețele în modul „fit_predict” și am făcut din ele un ansamblu de trei etaje. Am terminat pe locul șapte. . Apropo, Jeremy Howard, care este larg cunoscut drept creator terminat 23.
După încheierea competiției, printr-un prieten care lucra la AdRoll, am organizat un Meetup la sediul lor. Reprezentanții Planet Labs au vorbit acolo despre cum a arătat organizarea competiției și marcarea datelor din partea lor. Wendy Kwan, care lucrează la Kaggle și a supravegheat competiția, a vorbit despre cum a văzut-o. Am descris soluția noastră, trucurile, tehnicile și detaliile tehnice. Două treimi din audiență au rezolvat această problemă, așa că întrebările au fost puse la obiect și, în general, totul a fost mișto. Jeremy Howard a fost și el acolo. S-a dovedit că a terminat pe locul 23 pentru că nu știa să stivuească modelul și că nu știa deloc de această metodă de construire a ansamblurilor.
Întâlnirile din vale despre învățarea automată sunt foarte diferite de întâlnirile de la Moscova. De regulă, întâlnirile din vale sunt partea de jos. Dar ale noastre au ieșit bune. Din păcate, tovarășul care trebuia să apese butonul și să înregistreze totul nu a apăsat butonul :)
După aceea, am fost invitat să vorbesc cu poziția de Deep Learning Engineer la același Planet Labs și imediat la fața locului. Nu l-am trecut. Formularea refuzului este că nu există suficiente cunoștințe în Deep Learning.
Am conceput fiecare competiție ca pe un proiect în . Pentru problema DSTL am scris-o si l-a postat pe arxiv. Nu un articol, dar totuși pâine. De asemenea, recomand tuturor să-și umfle profilul LinkedIn prin concursuri, articole, abilități și așa mai departe. Există o corelație pozitivă între câte cuvinte cheie ai în profilul tău LinkedIn și cât de des oamenii îți trimit mesaje.
Dacă iarna și primăvara eram foarte tehnic, atunci până în august aveam atât cunoștințe, cât și încredere în sine.
La sfârșitul lunii iulie, un tip care lucra ca manager Data Science la Lyft m-a contactat pe LinkedIn și m-a invitat să bem o cafea și să discutăm despre viață, despre Lyft, despre TrueAccord. Am vorbit. S-a oferit să intervieveze cu echipa sa pentru postul de Data Scientist. Am spus ca optiunea functioneaza, cu conditia sa fie Computer Vision/Deep Learning de dimineata pana seara. El a asigurat că nu există obiecții din partea lui.
Mi-am trimis CV-ul și l-a încărcat pe portalul intern Lyft. După aceea, recrutorul m-a sunat pentru a-mi deschide CV-ul și a afla mai multe despre mine. De la primele cuvinte, a fost clar că pentru el aceasta era o formalitate, deoarece pentru el era evident din CV-ul său că „Nu sunt un material pentru Lyft”. Bănuiesc că după aceea, CV-ul meu a intrat în coșul de gunoi.
În tot acest timp, în timp ce eram intervievat, am discutat despre eșecurile și căderile mele în ODS, iar băieții mi-au oferit feedback și m-au ajutat în orice fel posibil cu sfaturi, deși, ca de obicei, a existat și o mulțime de trolling prietenos acolo.
Unul dintre membrii ODS s-a oferit să mă conecteze cu prietenul său, care este directorul de inginerie la Lyft. Făcut repede şi foarte bine. Vin la Lyft la prânz și, pe lângă acest prieten, există și un șef al științei datelor și un manager de produs, care este un mare fan al Deep Learning. La prânz am vorbit despre DL. Și din moment ce am antrenat rețele 24/7 timp de jumătate de an, am citit metri cubi de literatură și am rulat sarcini pe Kaggle cu rezultate mai mult sau mai puțin clare, aș putea vorbi ore întregi despre Deep Learning, atât în ceea ce privește articolele noi, cât și. tehnici practice.
După prânz s-au uitat la mine și mi-au spus - este imediat evident că ești frumos, vrei să vorbim cu noi? Mai mult, au adăugat că pentru mine este clar că ecranul take home + tech poate fi omis. Și că voi fi invitat imediat la fața locului. Am fost de acord.
După aceea, acel recrutor m-a sunat pentru a programa un interviu la fața locului și a fost nemulțumit. A mormăit ceva despre a nu sări peste capul tău.
A venit. Interviu la fața locului. Cinci ore de comunicare cu oameni diferiți. Nu a existat o singură întrebare despre Deep Learning sau despre învățarea automată în principiu. Deoarece nu există Deep Learning / Computer Vision, atunci nu sunt interesat. Astfel, rezultatele interviului au fost ortogonale.
Acest recrutor sună și spune - felicitări, ați ajuns la al doilea interviu la fața locului. Toate acestea sunt surprinzătoare. Care este al doilea la fața locului? Nu am auzit niciodată de așa ceva. Am fost. Există câteva ore acolo, de data aceasta totul despre învățarea automată tradițională. Asa e mai bine. Dar tot nu este interesant.
Recruitorul sună cu felicitări că am trecut al treilea interviu la fața locului și jură că acesta va fi ultimul. M-am dus să-l văd și era și un DL și un CV.
Am avut un anterior de multe luni care mi-a spus că nu va fi nicio ofertă. Mă voi antrena nu pe abilități tehnice, ci pe cele soft. Nu pe latura soft, ci pe faptul că postul va fi închis sau că firma nu angajează încă, ci pur și simplu testează piața și nivelul candidaților.
Mijlocul august. Am băut bere bine. Gânduri întunecate. Au trecut 8 luni si inca nicio oferta. Este bine să fii creativ sub bere, mai ales dacă creativitatea este ciudată. Îmi vine în minte o idee. Îl împărtășesc cu Alexey Shvets, care la acea vreme era postdoc la MIT.
Ce se întâmplă dacă luați cea mai apropiată conferință DL/CV, urmăriți competițiile care au loc ca parte a acesteia, antrenați ceva și vă depuneți? Deoarece toți experții de acolo își construiesc cariera pe asta și fac asta de multe luni sau chiar ani, nu avem nicio șansă. Dar nu este înfricoșător. Facem o trimitere semnificativă, zburăm la ultimul loc, iar după aceea scriem un pre-print sau un articol despre cum nu suntem ca toți ceilalți și vorbim despre decizia noastră. Și articolul este deja pe LinkedIn și în CV-ul tău.
Adică pare a fi relevant și există mai multe cuvinte cheie corecte în CV, care ar trebui să crească ușor șansele de a ajunge la ecranul tech. Cod și trimiteri de la mine, texte de la Alexey. Joc, desigur, dar de ce nu?
Făcut repede şi foarte bine. Cea mai apropiată conferință pe care am căutat-o pe google a fost MICCAI și de fapt existau competiții acolo. L-am lovit pe primul. Era . Sarcina are 3 subsarcini. Au mai rămas 8 zile până la termen. M-am trezit dimineața, dar nu am renunțat la idee. Mi-am luat conductele de la Kaggle și le-am schimbat de la date satelitare la cele medicale. 'potrivește_predict'. Alexey a pregătit o descriere de două pagini a soluțiilor pentru fiecare problemă și am trimis-o. Gata. În teorie, poți expira. Dar s-a dovedit că mai era o sarcină pentru același atelier () cu trei sarcini secundare și că termenul ei a fost mărit cu 4 zile, adică putem face „fit_predict” acolo și îl trimitem. Asta am făcut.
Spre deosebire de Kaggle, aceste competiții aveau propriile lor specificități academice:
- Fără clasament. Trimiterile sunt trimise prin e-mail.
- Veți fi eliminat dacă un reprezentant al echipei nu vine să prezinte soluția la conferința de la Workshop.
- Locul tău în clasament devine cunoscut doar în timpul conferinței. Un fel de dramă academică.
Conferința MICCAI 2017 a avut loc în orașul Quebec. Sincer să fiu, în septembrie începeam să mă epuizez, așa că ideea de a-mi lua o săptămână liberă de la serviciu și de a pleca în Canada părea interesantă.
A venit la conferință. Am venit la acest Atelier, nu cunosc pe nimeni, stau în colț. Toată lumea se cunoaște, comunică, aruncă cuvinte medicale inteligente. Revizuirea primului concurs. Participanții vorbesc și vorbesc despre deciziile lor. E cool acolo, cu o sclipire. Randul meu. Și chiar mi-e rușine cumva. Au rezolvat problema, au lucrat la ea, au avansat știința, iar noi suntem pur „fit_predict” din evoluțiile trecute, nu pentru știință, ci pentru a ne impulsiona CV-ul.
A ieșit și a spus că nici eu nu sunt un expert în medicină, și-a cerut scuze că și-au pierdut timpul și mi-a arătat un diapozitiv cu soluția. Am coborât în hol.
Ei anunță prima subsarcină - suntem primii și cu o marjă.
Se anunță al doilea și al treilea.
Îl anunță pe al treilea - din nou primul și din nou cu avans.
Generalul este primul.
Unii din public zâmbesc și mă privesc cu respect. Alții, cei care se pare că erau considerați experți în domeniu, câștigaseră o bursă pentru această sarcină și făceau asta de mulți ani, aveau o expresie ușor distorsionată pe față.
Urmează a doua sarcină, cea cu trei subsarcini și care a fost avansată cu patru zile.
Și aici mi-am cerut scuze și am arătat din nou diapozitivul nostru.
Aceeași poveste. Doi mai întâi, o secundă, mai întâi comun.
Cred că este probabil prima dată în istorie când o agenție de colectare câștigă un concurs de imagistică medicală.
Și acum stau pe scenă, îmi dau un fel de diplomă și sunt bombardată. Cum naiba poate fi asta? Acești academicieni cheltuiesc banii contribuabililor, lucrând pentru a simplifica și îmbunătăți calitatea muncii pentru medici, adică, teoretic, speranța mea de viață, și un organism a sfâșiat întregul personal academic în steagul britanic în câteva seri.
Un bonus la aceasta este că în alte echipe, studenții absolvenți care lucrează la aceste sarcini de mai multe luni vor avea un CV atractiv pentru HR, adică vor ajunge cu ușurință la ecranul tech. Și în fața ochilor mei există un e-mail proaspăt primit:
A Googler recently referred you for the Research Scientist, Google Brain (United States) role. We carefully reviewed your background and experience and decided not to proceed with your application at this time.În general, chiar de pe scenă, întreb publicul: „Știe cineva unde lucrez?” Unul dintre organizatorii competiției știa - a căutat pe Google ce este TrueAccord. Restul nu sunt. Continui: „Lucrez pentru o agenție de colectare, iar la serviciu nu fac nici Computer Vision, nici Deep Learning. Și în multe privințe, acest lucru se întâmplă deoarece departamentele de resurse umane ale Google Brain și Deepmind îmi filtrează CV-ul, fără a-mi oferi șansa de a arăta pregătire tehnică. "
Au predat certificatul, o pauză. Un grup de academicieni mă trage deoparte. S-a dovedit că acesta este un grup de sănătate cu Deepmind. Au fost atât de impresionați încât au dorit imediat să vorbească cu mine despre postul vacant de inginer de cercetare din echipa lor. (Am vorbit. Această conversație a durat 6 luni, am trecut de a lua acasă, test, dar am fost scurtat pe ecranul tech. 6 luni de la începutul comunicării până la ecranul tech este mult timp. Așteptarea lungă dă un gust de inutilitate.Inginer de cercetare la Deepmind din Londra, pe fondul TrueAccord a fost un pas puternic în sus, dar pe fundalul poziției mele actuale este un pas în jos.Din o distanță de doi ani care au trecut de atunci, e bine că nu a făcut-o.)
Concluzie
Cam în același timp, am primit o ofertă de la Lyft, pe care am acceptat-o.
Pe baza rezultatelor acestor două competiții cu MICCAI au fost publicate următoarele:
Adică, în ciuda sălbăticiei ideii, adăugarea de articole incrementale și preprinturi prin concursuri funcționează bine. Și în anii următori am făcut-o și mai rău.
Lucrez la Lyft în ultimii câțiva ani, făcând Viziune pe computer/Învățare profundă pentru mașini cu conducere autonomă. Adică am primit ceea ce îmi doream. Și sarcini, și o companie cu statut înalt, și colegi puternici, și toate celelalte bunătăți.
De-a lungul acestor luni, am avut comunicare atât cu marile companii Google, Facebook, Uber, LinkedIn, cât și cu o mare de startup-uri de diferite dimensiuni.
A durut toate aceste luni. Universul îți spune ceva nu foarte plăcut în fiecare zi. Respingere regulată, greșeli în mod regulat și toate acestea sunt aromate cu un sentiment persistent de deznădejde. Nu există garanții că vei reuși, dar există sentimentul că ești un prost. Îmi amintește foarte mult cum am încercat să-mi găsesc un loc de muncă imediat după facultate.
Cred că mulți își căutau de lucru în vale și totul le-a fost mult mai ușor. Trucul, după părerea mea, este acesta. Daca esti in cautarea unui loc de munca intr-un domeniu in care intelegi, ai multa experienta, iar CV-ul tau spune acelasi lucru, nu sunt probleme. L-am luat și l-am găsit. Sunt foarte multe locuri libere.
Dar dacă ești în căutarea unui loc de muncă într-un domeniu care este nou pentru tine, adică atunci când nu există cunoștințe, nu există conexiuni și CV-ul tău spune ceva greșit - în acest moment totul devine extrem de interesant.
Momentan, recrutorii îmi scriu în mod regulat și se oferă să fac același lucru pe care îl fac acum, dar într-o companie diferită. Este cu adevărat timpul să schimbi locul de muncă. Dar nu are rost să fac ceea ce sunt deja bun. Pentru ce?
Dar pentru ceea ce vreau, din nou nu am nici cunoștințele, nici rândurile din CV. Să vedem cum se termină toate astea. Dacă totul merge bine, voi scrie partea următoare. 🙂
Sursa: www.habr.com