Hvorfor har Data Science-teams brug for alsidige medarbejdere frem for specialister

Hvorfor har Data Science-teams brug for alsidige medarbejdere frem for specialister
HIROSHI WATANABE/GETTY IMAGES

I bogen "Nationernes Velstand" viser Adam Smith, hvordan arbejdsdeling bliver den vigtigste kilde til produktivitetsforøgelse. Et eksempel er samlebåndet i en nålefabrik: "En arbejder trækker ledningen, en anden retter den, en tredje klipper, en fjerde spidser enden, og en femte sliber den anden ende til montering af hovedet." Takket være specialisering, der fokuserer på bestemte funktioner, bliver hver arbejder en højt kvalificeret specialist i sin snævre opgave, hvilket fører til en stigning i effektiviteten af processen. Produktionen pr. arbejder øges mange gange, og fabrikken bliver mere effektiv til at producere nåle.

Denne funktionelle arbejdsdeling er så dybt forankret i vores sind i dag, at vi hurtigt har organiseret vores teams tilsvarende. Data Science er ingen undtagelse. Komplekse algoritmiske forretningsmuligheder kræver mange arbejdsfunktioner, så virksomheder skaber typisk grupper af specialister: forskere, dataanalyseingeniører, maskinlæringsingeniører, forskere inden for kausalitet osv. Specialisternes arbejde koordineres af en produktchef, der tildeler funktioner på en måde, der minder om fabrikken til nåle: "én person henter data, en anden modellerer dem, en tredje udfører dem, en fjerde måler" osv.

Desværre må vi ikke optimere vores Data Science-teams for at øge produktiviteten. Alligevel gør du det, når du forstår, hvad du producerer: nåle eller noget andet, og blot stræber efter at forbedre effektiviteten. Formålet med samlebåndet er at udføre en opgave. Vi ved præcis, hvad vi ønsker — det er nåle (som i Smiths eksempel), men man kan nævne ethvert produkt eller service, hvor kravene helt beskriver alle aspekter af produktet og dets adfærd. Medarbejdernes rolle er at opfylde disse krav så effektivt som muligt.

Men målet med Data Science handler ikke om at udføre opgaver. Snarere handler det om at udforske og udvikle nye stærke forretningsmuligheder. Algoritmiske produkter og tjenester, såsom anbefalingssystemer, kundeinteraktioner, stilpræferencer, størrelsesvalg, tøjdesign, logistikoptimering, opdagelse af sæsonmæssige tendenser og meget mere, kan ikke forud bestilles. De skal udforskes. Der er ingen tegninger til reproduktion, det er nye muligheder med iboende usikkerhed. Koefficienter, modeller, modeltyper, hyperparametre, alle nødvendige elementer skal udforskes gennem eksperimenter, forsøg og fejl samt gentagelse. Med nåle udføres træning og design på forhånd, før produktionen. Med Data Science lærer man undervejs, ikke før.

På nålefabrikken, når træning er i fokus, venter vi ikke og ønsker ikke, at arbejdstagerne improviserer på nogen egenskab ved produktet, bortset fra at øge produktionseffektiviteten. Specialisering af opgaver giver mening, da det fører til effektive processer og ensartet produktion (uden ændringer af det endelige produkt).

Men når produktet stadig er under udvikling, og målet er læring, hindrer specialisering vores mål i følgende tilfælde:

1. Det øger omkostningerne ved koordinering.

Det vil sige de omkostninger, der opstår over tid, når der kommunikeres, diskuteres, begrundes og prioriteres det arbejde, der skal udføres. Disse omkostninger skalerer overlineært med antallet af involverede personer. (Som J. Richard Hackman lærte os, vokser antallet af relationer r ligesom funktionen for antallet af medlemmer n i henhold til denne formel: r = (n ^ 2-n) / 2. Og hver relation afslører et vist antal omkostningsforhold). Når dataanalytikere er organiseret efter funktioner, kræver hvert trin, hver ændring, hver overførsel af service osv. mange specialister, hvilket øger omkostningerne ved koordinering. For eksempel skal statistikmodelleringsspecialister, der ønsker at eksperimentere med nye funktioner, koordinere deres handlinger med dataingeniører, der opdaterer datasæt, hver gang de ønsker at afprøve noget nyt. Tilsvarende betyder hver ny trænet model, at modeludvikleren har brug for nogen at koordinere sine handlinger med for at få den implementeret. Omkostningerne ved koordinering fungerer som en pris for iteration, hvilket gør dem mere vanskelige og kostbare og øger sandsynligheden for at opgive udforskning. Dette kan hindre læring.

2. Dette komplicerer ventetiden.

Endnu mere skræmmende end omkostningerne ved koordinering er den tid, der går tabt mellem arbejdsopgaver. Mens omkostningerne ved koordinering typisk måles i timer — den tid der bruges på møder, diskussioner, projektgennemgange — måles ventetid ofte i dage, uger eller endda måneder! Det er vanskeligt at synkronisere tidsplaner for fagfolk, da hver specialist skal fordeles på flere projekter. Et enkelt møde for at diskutere ændringer kan tage flere uger for at justere arbejdsflowet. Og efter at ændringerne er godkendt, skal selve den faktiske opgave planlægges i konteksten af mange andre projekter, der optager specialisternes arbejdstid. Opgaver relateret til kodefiksning eller forskning, som kun kræver nogle få timer eller dage for at blive afsluttet, kan tage langt længere tid, før ressourcerne bliver tilgængelige. Indtil da er iteration og læring sat på pause.

3. Dette indsnævrer konteksten.

Arbejdsdeling kan kunstigt begrænse læring ved at belønne folk for at forblive inden for deres specialisering. For eksempel vil en forsker, der skal holde sig inden for sit felt, fokusere sin energi på eksperimenter med forskellige typer algoritmer: regression, neurale netværk, random forest osv. Det er uden tvivl en god algoritmevalg, der kan føre til gradvise forbedringer, men generelt kan man hente meget mere fra andre aktiviteter, såsom integration af nye datakilder. Det vil også hjælpe med at udvikle en model, der bruger hver eneste bit forklarende kapacitet, der ligger i dataene. Alligevel kan dens styrke ligge i at ændre den målrettede funktion eller svække visse begrænsninger. Det er svært at se eller gøre, når dens arbejde er begrænset. Da den specialiserede forsker fokuserer på optimering af algoritmer, har han meget mindre mulighed for at beskæftige sig med andre emner, selvom det ville give betydelige fordele.

Lad os beskrive de tegn, der viser sig, når teams for data science fungerer som en nålefabrik (for eksempel ved enkle statusopdateringer): 'venten på ændringer i datarørledningen' og 'venten på ML Eng ressourcer', som er almindelige blokeringer. Jeg mener dog, at en mere farlig indflydelse er det, du ikke bemærker, fordi du ikke kan fortryde, hvad du endnu ikke kender til. Uplett udførelse af krav og selvtilfredshed, opnået gennem effektivisering af processer, kan skjule sandheden om, at organisationer ikke er klar over de træningsfordele, de går glip af.

Løsningen på dette problem ligger selvfølgelig i at slippe for nålefabriksmetoden. For at fremme læring og iteration skal rollerne inden for data science være generelle, men med brede ansvarsområder, der ikke er afhængige af en teknisk funktion, det vil sige, organiser dataspecialister, så de er optimeret til læring. Det betyder, at det er nødvendigt at ansætte 'full-stack specialister' - generelle eksperter, der kan udføre forskellige funktioner: fra koncept til modellering, fra implementering til måling. Det er vigtigt at bemærke, at jeg ikke antyder, at antallet af ansatte bør mindskes, når man ansætter full-stack specialister. Snarere formoder jeg bare, at når de er organiseret anderledes, vil deres incitamenter bedre korrelere med lærings- og effektivitefordele. For eksempel har du et team på tre personer, der besidder tre forretningskompetencer. På en nålefabrik vil hver specialist dedikere en tredjedel af tiden til hver professionel opgave, da ingen anden kan udføre deres arbejde. I et full-stack setup er hver universel medarbejder fuldt engageret i hele forretningsprocessen, skaleringsarbejde og læring.

Med færre mennesker, der støtter produktionscyklussen, falder koordineringen. Universalen bevæger sig glat mellem funktionerne, hvilket udvider datakanalen for at tilføje flere data, prøver nye funktioner i modeller, implementerer nye versioner i produktion til kausale målinger og gentager trin så hurtigt, som nye ideer kommer. Selvfølgelig udfører universalen forskellige funktioner sekventielt og ikke parallelt. I sidste ende er det kun én person. Dog tager udførelsen af en opgave typisk kun en lille del af den tid, der kræves for at få adgang til en anden specialiseret ressource. Så iterationstiden reduceres.

Vores universal er muligvis ikke så dygtig som en specialist inden for en bestemt arbejdsfunktion, men vi stræber ikke efter funktionel perfektion eller små trinvise forbedringer. Snarere stræber vi efter at udforske og opdage alle nye professionelle opgaver med gradvis indflydelse. Med en helhedsorienteret kontekst til at træffe et helt beslutning, ser han muligheder, som den snævre specialist vil gå glip af. Han har flere ideer og flere muligheder. Han oplever også fiasko. Ikke desto mindre er omkostningerne ved fiasko små, mens fordelene ved læring er høje. Denne asymmetri fremmer hurtig iteration og belønner læring.

Det er vigtigt at bemærke, at niveauet af autonomi og mangfoldighed af færdigheder, som forskere, der arbejder med full-stack, har, i høj grad afhænger af pålideligheden af den dataplatform, de kan arbejde på. En velfungerende dataplatform abstraherer forskere inden for databehandling fra kompleksiteterne ved containerisering, distribueret behandling, automatisk skift til andre ressourcer og andre avancerede computerkoncept. Ud over abstraktionen kan en pålidelig dataplatform sikre problemfri forbindelse til eksperimentel infrastruktur, automatisere overvågning og alarmsystemer, sikre automatisk skalering samt visualisere algoritmiske resultater og fejlfinding. Disse komponenter er designet og bygget af ingeniører på dataplatformen, hvilket betyder, at data science-specialisten ikke overdrager dem til dataplatformens udviklingsteam. Det er selve data science-specialisten, der er ansvarlig for al den kode, der bruges til at køre platformen.

Jeg blev også engang interesseret i funktionelt arbejdsdeling ved brug af proceseffektivitet, men gennem trial and error (den bedste læringsmetode) fandt jeg ud af, at typiske roller bedre fremmer læring og innovation og giver de rigtige indikatorer: opdagelse og udvikling af langt flere forretningsmuligheder end en specialiseret tilgang. (En mere effektiv måde at lære om denne tilgang til organisering på, end den trial and error-proces jeg har gennemgået, er at læse Amy Edmondsons bog "Team Interactions: How Organizations Learn, Innovate, and Compete in the Knowledge Economy").

Der er nogle vigtige antagelser, der kan gøre denne tilgang til organisering mere eller mindre pålidelig i nogle virksomheder. Iterationsprocessen reducerer omkostningerne ved forsøg og fejl. Hvis omkostningerne ved en fejl er høje, kan du overveje at minimere dem (men det anbefales ikke til medicinske applikationer eller fremstilling). Derudover, hvis du arbejder med petabytes eller exabytes af data, kan der være behov for specialisering inden for datadesign. På samme måde, hvis opretholdelse af forretningsmuligheder online og deres tilgængelighed er vigtigere end deres forbedring, kan funktionel overlegenhed overvinde træning. Endelig bygger modellen for hele stakken på meninger fra folk, der har forstand på dette. De er ikke enhjørninger; de kan findes eller trænes internt. Men de er i høj efterspørgsel, og for at tiltrække og fastholde dem i virksomheden vil der være behov for konkurrencedygtig materielfordeling, bæredygtige virksomhedsværdier og spændende arbejde. Sørg for, at din virksomhedskultur kan skabe sådanne vilkår.

Selv med alt dette sagt, mener jeg, at modellen for hele stakken giver de bedste betingelser for at komme i gang. Start med dem, og bevæg dig derefter bevidst hen imod funktionel arbejdsdeling, kun når det er strengt nødvendigt.

Der er også andre ulemper ved funktionel specialisering. Det kan føre til tab af ansvar og passivitet blandt medarbejderne. Selve Smith kritiserer arbejdsdeling og antyder, at det fører til en udtynding af talent, dvs. at medarbejderne bliver uvidende og isolerede, da deres roller begrænses til et par gentagne opgaver. Mens specialisering kan sikre proces effektivitet, inspirerer det sjældnere medarbejderne.

Universelle roller sikrer alt det, der fremmer arbejdsglæde: autonomi, dygtighed og målorientering. Autonomi betyder, at de ikke er afhængige af noget for at opnå succes. Dygtighed handler om stærke konkurrencefordele. Og målorientering er muligheden for at have indflydelse på den forretning, de skaber. Hvis vi formår at få folk til at begejstre sig for deres arbejde og have stor indflydelse på virksomheden, vil alt andet falde på plads.

Kilde: habr.com

Køb pålidelig webhosting med DDoS-beskyttelse, VPS VDS-servere 🔥 Køb pålidelig webhosting med DDoS-beskyttelse, VPS VDS-servere | ProHoster