Zakaj ekipa Data Science potrebuje univerzalne strokovnjake, ne pa specialistov

Zakaj ekipa Data Science potrebuje univerzalne strokovnjake, ne pa specialistov
HIROSHI WATANABE/GETTY IMAGES

V knjigi »Bogastvo narodov« Adam Smith prikazuje, kako razdelitev dela postane glavni vir povečevanja produktivnosti. Primer je montažna linija tovarne, ki proizvaja zaponke: »Eden delavec vleče žico, drugi jo izravnava, tretji jo reže, četrti konico ostri, peti pa obdeluje drugi konec za namestitev glavice.« Zaradi specializacije, osredotočene na določene funkcije, vsak delavec postane visoko usposobljen strokovnjak za svojo ozko nalogo, kar povečuje učinkovitost procesa. Proizvodnja na enega delavca se poveča večkrat, tovarna pa postane učinkovitejša pri proizvodnji zaponk.

Takšna razdelitev dela po funkcionalnosti je tako zakoreninjena v naših mislih, da hitro organiziramo naše ekipe ustrezno. Področje podatkovne znanosti ni izjema. Kompleksne algoritmične poslovne možnosti zahtevajo številne delovne funkcije, zato podjetja običajno oblikujejo skupine strokovnjakov: raziskovalcev, inženirjev za analizo podatkov, inženirjev za strojno učenje, znanstvenikov, ki se ukvarjajo s vzročno-posledičnimi povezavami, in tako naprej. Delo strokovnjakov usklajuje produktni vodja, pri čemer se naloge prenašajo na način, ki spominja na tovarno zaponk: »eden oseba pridobi podatke, drugi jih modelira, tretji jih izvaja, četrti meri« in tako naprej.

Žal ne bi smeli optimizirati naših ekip za podatkovno znanost za povečevanje produktivnosti. Kljub temu to počnete, ko razumete, kaj proizvajate: zaponke ali kaj drugega, in si le prizadevate za večjo učinkovitost. Cilj montažnih linij je izvesti nalogo. Zelo dobro vemo, kaj želimo — to so zaponke (kot v Smithovem primeru), vendar lahko omenjamo kateri koli izdelek ali storitev, kjer so zahteve popolnoma opisane in pokrivajo vse vidike izdelka ter njegovega delovanja. Vloga zaposlenih je izpolniti te zahteve čim bolj učinkovito.

Vendar cilj Data Science ni le v izvajanju nalog. Bolj kot ne, cilj je raziskovati in razvijati nove močne poslovne priložnosti. Algoritmični izdelki in storitve, kot so sistemi priporočil, interakcije s strankami, klasifikacija stilskih preferenc, izbira velikosti, oblikovanje oblačil, optimizacija logistike, odkrivanje sezonskih trendov in še mnogo več, ne morejo biti vnaprej zasnovani. Tako jih je treba raziskati. Ni nobenih načrtov za reprodukcijo; to so nove priložnosti z inherentno negotovostjo. Koeficienti, modeli, vrste modelov, hiperparametri – vsi potrebni elementi se morajo raziskovati z eksperimenti, poskusi in napakami ter ponavljanjem. Pri izdelavi izdelkov se učenje in zasnova izvajata vnaprej, pred začetkom proizvodnje. Pri Data Science se učite v procesu, ne pred njim.

Na tovarniških deloviščih, kjer je učenje na prvem mestu, ne čakamo in ne želimo, da zaposleni improvizirajo na katerikoli lastnosti izdelka, razen za povečanje učinkovitosti proizvodnje. Specializacija nalog ima smisel, saj vodi do učinkovitosti procesov in usklajenosti proizvodnje (brez sprememb končnega izdelka).

A vendar, ko se izdelek še razvija in je cilj učenje, specializacija ovira naše cilje v naslednjih primerih:

1. To povečuje stroške usklajevanja.

To put it simply, the costs incurred during the time spent on communication, discussions, justification, and determining work priorities that need to be completed. These costs scale non-linearly with the number of people involved. (As taught by J. Richard Hackman, the number of relationships r grows similarly to the function of the number of members n according to the equation: r = (n ^ 2-n) / 2. Each relationship reveals a certain amount of cost correlation). When data analysis specialists are organized by functions, at each stage, with every change, every service transfer, etc., many specialists are required, which increases coordination costs. For example, statistical modeling specialists who want to experiment with new features will have to coordinate their actions with data processing engineers who complement datasets every time they want to try something new. Similarly, every new trained model means the model developer will need someone to coordinate their actions for its deployment. Coordination costs act as a fee for iteration, making them more difficult and expensive and more likely to lead to a halt in exploration. This can hinder learning.

2. This complicates the waiting time.

Še vedno bolj zastrašujoče od stroškov usklajevanja je čas, izgubljen med delovnimi izmenami. Medtem ko se stroški usklajevanja običajno merijo v urah: času, potrebnem za sestanke, razprave in projektne preglede, se čas čakanja običajno meri v dneh, tednih ali celo mesecih! Razporedi funkcionalnih strokovnjakov je težko uskladiti, saj mora biti vsak strokovnjak dodeljen več projektom. Enourno srečanje za razpravo o spremembah lahko traja več tednov, da se uskladi delovni proces. In po odobritvi sprememb je treba načrtovati tudi samo dejansko delo v kontekstu mnogih drugih projektov, kar zavzema delovni čas strokovnjakov. Delo, povezano z odpravo napak v kodi ali raziskavami, katerih dokončanje terja le nekaj ur ali dni, lahko traja precej dlje, preden so viri na voljo. Do takrat se iteracija in učenje ustavita.

3. To zoži kontekst.

Delitev dela lahko umetno omeji učenje, nagrajuje ljudi, da ostajajo znotraj svoje specializacije. Na primer, raziskovalec, ki se mora zadrževati znotraj svoje funkcionalnosti, bo osredotočil svojo energijo na eksperimente z različnimi tipi algoritmov: regresijo, nevronskimi mrežami, random forest in podobno. Seveda lahko dober izbor algoritma privede do postopnih izboljšav, vendar se na splošno lahko iz drugih oblik dejavnosti, kot je integracija novih virov podatkov, pridobi precej več. Prav tako bo to pomagalo razviti model, ki izkorišča vsak bit pojasnjujoče zmožnosti, lastne podatkom. Kljub temu je njena prednost morda v spremembi ciljne funkcije ali zmanjšanju določenih omejitev. Težko je to opaziti ali doseči, ko je njeno delo omejeno. Ker se strokovnjak osredotoča na optimizacijo algoritmov, ima precej manj možnosti, da se ukvarja z drugim, tudi če prinaša znatne koristi.

Poglejmo znake, ki se pojavijo, ko ekipe za podatkovno znanost delujejo kot tovarne sponk (na primer, pri preprostih posodobitvah statusa): „čakanje na spremembe v podatkovnem cevovodu“ in „čakanje na vire ML inženiringa“, kar sta običajna ovira. Vendar menim, da je bolj nevaren vpliv to, česar ne opazite, ker ne morete obžalovati nečesa, česar ne veste. Brezhibno izpolnjevanje zahtev in samo zadovoljstvo, doseženo z učinkovitostjo procesov, lahko skriva resnico o tem, da organizacije niso seznanjene s prednostmi učenja, ki jih zamujajo.

Rešitev tega problema je seveda v opustitvi metode tovarne sponk. Da bi spodbudili učenje in iteracijo, morajo biti vloge v podatkovni znanosti splošne, vendar z širokimi pristojnostmi, neodvisnimi od tehnične funkcije, torej organizirajte podatkovne strokovnjake tako, da so optimizirani za učenje. To pomeni, da je treba najeti „strokovnjake z več znanjem“ — splošne strokovnjake, ki lahko opravljajo različne funkcije: od zasnove do modeliranja, od izvajanja do merjenja. Pomembno je, da ne domnevam, da se bo ob najemu strokovnjakov z več znanjem število zaposlenih zmanjšalo. Verjetno predvidevam le, da ko so organizirani drugače, so njihovi spodbude bolje usklajene s prednostmi učenja in učinkovitosti. Na primer, imate ekipo treh ljudi, ki ima tri poslovne veščine. V tovarni sponk vsak strokovnjak nameni tretjino časa vsaki profesionalni nalogi, ker je nihče drug ne more opraviti. Pri celotnem znanju je vsak univerzalni zaposleni povsem predan celotnemu poslovnemu procesu, povečevanju obsega dela in učenju.

Z manjšim številom ljudi, ki podpirajo proizvodni cikel, se usklajevanje zmanjšuje. Univerzalna oseba nemoteno prehaja med funkcijami, razširja podatkovni tok, da doda več podatkov, preizkuša nove funkcije v modelih, lansira nove različice v proizvodnji za vzročna merjenja in ponavlja korake tako hitro, kot prihajajo nove ideje. Seveda univerzalna oseba izvaja različne funkcije zaporedno, ne pa vzporedno. Na koncu gre le za eno osebo. Vendar pa izvedba naloge običajno zahteva le majhen del časa, potrebnega za dostop do drugega specializiranega vira. Tako se čas iteracije zmanjšuje.

Naš univerzalec morda ni tako vešč kot specialist za določeno delovno funkcijo, vendar ne stremimo po funkcionalni popolnosti ali majhnih postopnih izboljšavah. Namesto tega si prizadevamo raziskovati in odkrivati vse nove strokovne naloge z postopnim vplivom. S celostnim kontekstom za celovito rešitev vidi priložnosti, ki jih bo zamudil ožji specialist. Ima več idej in več priložnosti. Tudi on doživlja neuspehe. Vendar je cena neuspeha nizka, koristi učenja pa visoke. Ta asimetrija spodbuja hitro iteracijo in nagrajuje učenje.

Pomembno je poudariti, da je obseg avtonomije in raznolikosti veščin, ki jih zagotavljajo znanstveniki, ki delajo s celotnimi skladi, v veliki meri odvisen od zanesljivosti podatkovne platforme, na kateri lahko delujejo. Dobro zasnovana podatkovna platforma abstrahira znanstvenike za obdelavo podatkov od zapletenosti kontejnerizacije, porazdeljene obdelave, samodejnega prehoda na drugo sredstvo in drugih naprednih računalniških konceptov. Poleg abstrakcije zanesljiva podatkovna platforma omogoča brezhibno povezovanje z eksperimentalno infrastrukturo, avtomatizira nadzor in obveščevalni sistem, zagotavlja samodejno skaliranje ter vizualizacijo algoritmičnih rezultatov in odpravljanje napak. Ti elementi so zasnovani in ustvarjeni s strani inženirjev podatkovne platforme, torej specialist Data Science se ne predaja ekipi razvijalcev podatkovne platforme. Dejansko je specialist Data Science odgovoren za vso kodo, ki se uporablja za zagon platforme.

Tudi meni je nekoč zanimala funkcionalna delitev dela z uporabo učinkovitosti procesov, toda z metodo poskusov in napak (boljšega načina učenja ni) sem ugotovil, da tipične vloge bolje prispevajo k učenju in inovacijam ter zagotavljajo pravilne kazalnike: odkrivanje in ustvarjanje veliko več poslovnih priložnosti, kot pa specializiran pristop. (Bolj učinkovit način, da se seznanim s tem pristopom k organizaciji, kot je metoda poskusov in napak, ki sem jo preživel, je branje knjige Amy Edmondson „Interakcija v ekipi: kako organizacije učijo, ustvarjajo inovacije in tekmujejo v ekonomiji znanja“).

Obstaja nekaj pomembnih predpostavk, ki lahko ta pristop k organizaciji naredijo bolj ali manj zanesljiv v nekaterih podjetjih. Postopek iteracije zmanjšuje stroške poskusov in napak. Če so stroški napake visoki, boste morda želeli njihovo zmanjšanje (vendar to ni priporočljivo za medicinske aplikacije ali proizvodnjo). Poleg tega, če se ukvarjate s petabajti ali eksabajti podatkov, je lahko potrebna specializacija na področju oblikovanja podatkov. Podobno, če je ohranjanje poslovnih priložnosti na spletu in njihova dostopnost pomembnejša od njihovega izboljšanja, lahko funkcionalna odličnost preseže učenje. Končno se model celotne tehnologije zanaša na mnenje ljudi, ki se na to spoznajo. Niso mitološki; najti jih je mogoče ali jih pripraviti sami. Vendar so zelo iskani in za njihovo privabljanje ter zadrževanje v podjetju bo potrebna konkurenčna finančna kompenzacija, trajne korporativne vrednote in zanimivo delo. Poskrbite, da bo vaša korporativna kultura lahko zagotavljala takšne pogoje.

Tudi ob vsem omenjenem menim, da model celotne tehnologije nudi najboljše pogoje za začetek. Začnite z njimi in nato premišljeno preidite na funkcionalno delitev dela le, kadar je to res nujno.

Obstajajo tudi druge pomanjkljivosti funkcionalne specializacije. To lahko privede do izgube odgovornosti in pasivnosti med zaposlenimi. Sam Smith kritizira delitev dela, saj domneva, da vodi do otrplosti talenta, tj. zaposleni postanejo nevedni in zaprti, saj so njihove vloge omejene na nekaj ponavljajočih se nalog. Medtem ko lahko specializacija zagotavlja učinkovitost procesa, redkeje navdihuje delavce.

Universal roles, in turn, provide everything that stimulates job satisfaction: autonomy, mastery, and purpose. Autonomy means they are not dependent on anything to achieve success. Mastery involves having strong competitive advantages. Purpose is the ability to influence the business they create. If we can get people to engage with their work and make a significant impact on the company, everything else will fall into place.

Izvor: habr.com

Kupite zanesljivo gostovanje za spletne strani z zaščito pred DDoS, VPS VDS strežniki 🔥 Kupite zanesljivo gostovanje za spletne strani z zaščito pred DDoS, VPS VDS strežniki | ProHoster