R balík tidyr a jeho nové funkcie pivot_longer a pivot_wider
balíček uprataný zahrnuté v jadre jednej z najpopulárnejších knižníc v jazyku R - poriadok.
Hlavným účelom balíka je uviesť údaje do presnej podoby.
Už dostupné na Habré zverejnenie venovaný tomuto balíku, ale pochádza z roku 2015. A chcem vám porozprávať o najaktuálnejších zmenách, ktoré pred pár dňami oznámila jeho autorka Hedley Wickham.
SJK: Budú funkcie collect() a spread() zastarané?
Hadley Wickham: Do istej miery. Tieto funkcie už nebudeme odporúčať a opravovať v nich chyby, v balíku sa však budú nachádzať aj naďalej v aktuálnom stave.
Obsah
Ak máte záujem o analýzu údajov, mohla by vás zaujímať moja telegram и youtube kanálov. Väčšina obsahu je venovaná jazyku R.
Cieľ uprataný — pomôže vám uviesť údaje do takzvanej prehľadnej formy. Čisté údaje sú údaje, kde:
Každá premenná je v stĺpci.
Každé pozorovanie je reťazec.
Každá hodnota je bunka.
Pri vykonávaní analýzy je oveľa jednoduchšie a pohodlnejšie pracovať s údajmi, ktoré sú prezentované v prehľadných údajoch.
Hlavné funkcie zahrnuté v balíku tidyr
tidyr obsahuje sadu funkcií určených na transformáciu tabuliek:
fill() — vyplnenie chýbajúcich hodnôt v stĺpci predchádzajúcimi hodnotami;
separate() — rozdelí jedno pole na niekoľko pomocou oddeľovača;
unite() — vykonáva operáciu spojenia viacerých polí do jedného, inverznú akciu funkcie separate();
pivot_longer() — funkcia, ktorá konvertuje údaje zo širokého formátu na dlhý formát;
pivot_wider() - funkcia, ktorá konvertuje dáta z dlhého formátu na široký formát. Opačná činnosť funkcie, ktorú vykonáva pivot_longer().
gather()zastarané — funkcia, ktorá konvertuje údaje zo širokého formátu na dlhý formát;
spread()zastarané - funkcia, ktorá konvertuje dáta z dlhého formátu na široký formát. Opačná činnosť funkcie, ktorú vykonáva gather().
Nový koncept pre konverziu dát zo širokého na dlhý formát a naopak
Predtým sa na tento druh transformácie používali funkcie gather() и spread(). V priebehu rokov existencie týchto funkcií sa ukázalo, že pre väčšinu používateľov vrátane autora balíka neboli názvy týchto funkcií a ich argumenty celkom zrejmé a spôsobovali problémy pri ich hľadaní a pochopení, ktoré z týchto funkcií prevádza dátumový rámec zo širokého na dlhý formát a naopak.
V tejto súvislosti v uprataný Boli pridané dve nové dôležité funkcie, ktoré sú určené na transformáciu rámčekov dátumu.
Nové funkcie pivot_longer() и pivot_wider() boli inšpirované niektorými funkciami v balíku cdata, ktorú vytvorili John Mount a Nina Zumel.
Inštalácia najnovšej verzie tidyr 0.8.3.9000
Ak chcete nainštalovať novú, najaktuálnejšiu verziu balíka uprataný0.8.3.9000, kde sú k dispozícii nové funkcie, použite nasledujúci kód.
devtools::install_github("tidyverse/tidyr")
V čase písania tohto článku sú tieto funkcie dostupné iba vo verzii balíka pre vývojárov na GitHub.
Prechod na nové funkcie
V skutočnosti nie je ťažké preniesť staré skripty do práce s novými funkciami, pre lepšie pochopenie vezmem príklad z dokumentácie starých funkcií a ukážem, ako sa rovnaké operácie vykonávajú pomocou nových pivot_*() funkcie.
Previesť široký formát na dlhý formát.
Príklad kódu z dokumentácie funkcie zhromažďovania
# example
library(dplyr)
stocks <- data.frame(
time = as.Date('2009-01-01') + 0:9,
X = rnorm(10, 0, 1),
Y = rnorm(10, 0, 2),
Z = rnorm(10, 0, 4)
)
# old
stocks_gather <- stocks %>% gather(key = stock,
value = price,
-time)
# new
stocks_long <- stocks %>% pivot_longer(cols = -time,
names_to = "stock",
values_to = "price")
Konverzia dlhého formátu na široký formát.
Príklad kódu z dokumentácie k funkcii šírenia
# old
stocks_spread <- stocks_gather %>% spread(key = stock,
value = price)
# new
stock_wide <- stocks_long %>% pivot_wider(names_from = "stock",
values_from = "price")
Pretože vo vyššie uvedených príkladoch práce s pivot_longer() и pivot_wider(), v pôvodnej tabuľke zásoby v argumentoch nie sú uvedené žiadne stĺpce mená_kom и hodnoty_k ich mená musia byť v úvodzovkách.
Tabuľka, ktorá vám pomôže najjednoduchšie prísť na to, ako prejsť na prácu s novým konceptom uprataný.
Poznámka od autora
Všetok text nižšie je adaptívny, dokonca by som povedal, že voľný preklad vinety z oficiálnej webovej stránky knižnice Tidyverse.
Jednoduchý príklad prevodu údajov zo širokého na dlhý formát
pivot_longer () — predĺži množiny údajov znížením počtu stĺpcov a zvýšením počtu riadkov.
Ak chcete spustiť príklady uvedené v článku, musíte najprv pripojiť potrebné balíky:
library(tidyr)
library(dplyr)
library(readr)
Povedzme, že máme tabuľku s výsledkami prieskumu, ktorý sa (okrem iného) pýtal ľudí na ich náboženstvo a ročný príjem:
Táto tabuľka obsahuje údaje o náboženstve respondentov v riadkoch a úrovne príjmu sú roztrúsené v názvoch stĺpcov. Počet respondentov z každej kategórie je uložený v hodnotách buniek na priesečníku náboženstva a úrovne príjmu. Aby sa stôl dostal do úhľadného a správneho formátu, stačí ho použiť pivot_longer():
Prvý argument cols, popisuje, ktoré stĺpce je potrebné zlúčiť. V tomto prípade všetky stĺpce okrem čas.
argument mená_kom dáva názov premennej, ktorá sa vytvorí z názvov stĺpcov, ktoré sme zreťazili.
hodnoty_k dáva názov premennej, ktorá sa vytvorí z údajov uložených v hodnotách buniek zlúčených stĺpcov.
Špecifikácie
Toto je nová funkcia balíka uprataný, ktorá bola predtým nedostupná pri práci so staršími funkciami.
Špecifikácia je dátový rámec, ktorého každý riadok zodpovedá jednému stĺpcu v novom výstupnom dátumovom rámci a dvom špeciálnym stĺpcom, ktoré začínajú:
. Názov obsahuje pôvodný názov stĺpca.
.hodnota obsahuje názov stĺpca, ktorý bude obsahovať hodnoty buniek.
Zostávajúce stĺpce špecifikácie odrážajú, ako bude nový stĺpec zobrazovať názov komprimovaných stĺpcov z . Názov.
Špecifikácia popisuje metaúdaje uložené v názve stĺpca s jedným riadkom pre každý stĺpec a jedným stĺpcom pre každú premennú, v kombinácii s názvom stĺpca sa táto definícia môže v súčasnosti zdať mätúca, ale po zhliadnutí niekoľkých príkladov bude oveľa jasnejšie.
Pointou špecifikácie je, že môžete získať, upraviť a definovať nové metadáta pre dátový rámec, ktorý sa konvertuje.
Na prácu so špecifikáciami pri prevode tabuľky zo širokého formátu na dlhý formát použite funkciu pivot_longer_spec().
Táto funkcia funguje tak, že berie ľubovoľný dátumový rámec a generuje svoje metadáta spôsobom opísaným vyššie.
Ako príklad si vezmime súbor údajov who, ktorý sa dodáva s balíkom uprataný. Tento súbor údajov obsahuje informácie poskytnuté medzinárodnou zdravotníckou organizáciou o výskyte tuberkulózy.
who
#> # A tibble: 7,240 x 60
#> country iso2 iso3 year new_sp_m014 new_sp_m1524 new_sp_m2534
#> <chr> <chr> <chr> <int> <int> <int> <int>
#> 1 Afghan… AF AFG 1980 NA NA NA
#> 2 Afghan… AF AFG 1981 NA NA NA
#> 3 Afghan… AF AFG 1982 NA NA NA
#> 4 Afghan… AF AFG 1983 NA NA NA
#> 5 Afghan… AF AFG 1984 NA NA NA
#> 6 Afghan… AF AFG 1985 NA NA NA
#> 7 Afghan… AF AFG 1986 NA NA NA
#> 8 Afghan… AF AFG 1987 NA NA NA
#> 9 Afghan… AF AFG 1988 NA NA NA
#> 10 Afghan… AF AFG 1989 NA NA NA
#> # … with 7,230 more rows, and 53 more variables
Poďme zostaviť jeho špecifikáciu.
spec <- who %>%
pivot_longer_spec(new_sp_m014:newrel_f65, values_to = "count")
poľa krajiny, isoxnumx, isoxnumx sú už premenné. Našou úlohou je preklápať stĺpce s new_sp_m014 na newrel_f65.
Názvy týchto stĺpcov obsahujú nasledujúce informácie:
prefix new_ označuje, že stĺpec obsahuje údaje o nových prípadoch tuberkulózy, aktuálny dátumový rámec obsahuje informácie iba o nových ochoreniach, takže táto predpona v aktuálnom kontexte nemá žiadny význam.
sp/rel/sp/ep opisuje spôsob diagnostiky ochorenia.
Nakoniec, aby sme mohli použiť špecifikáciu, ktorú sme vytvorili, na pôvodný dátumový rámec ktorý musíme použiť argument spec vo funkcii pivot_longer().
who %>% pivot_longer(spec = spec)
#> # A tibble: 405,440 x 8
#> country iso2 iso3 year diagnosis gender age count
#> <chr> <chr> <chr> <int> <chr> <fct> <ord> <int>
#> 1 Afghanistan AF AFG 1980 sp m 014 NA
#> 2 Afghanistan AF AFG 1980 sp m 1524 NA
#> 3 Afghanistan AF AFG 1980 sp m 2534 NA
#> 4 Afghanistan AF AFG 1980 sp m 3544 NA
#> 5 Afghanistan AF AFG 1980 sp m 4554 NA
#> 6 Afghanistan AF AFG 1980 sp m 5564 NA
#> 7 Afghanistan AF AFG 1980 sp m 65 NA
#> 8 Afghanistan AF AFG 1980 sp f 014 NA
#> 9 Afghanistan AF AFG 1980 sp f 1524 NA
#> 10 Afghanistan AF AFG 1980 sp f 2534 NA
#> # … with 405,430 more rows
Všetko, čo sme práve urobili, možno schematicky znázorniť takto:
Špecifikácia pomocou viacerých hodnôt (.value)
Vo vyššie uvedenom príklade stĺpec špecifikácie .hodnota obsahoval iba jednu hodnotu, vo väčšine prípadov je to tak.
Občas však môže nastať situácia, keď potrebujete zhromaždiť údaje zo stĺpcov s rôznymi typmi údajov v hodnotách. Použitie staršej funkcie spread() to by bolo dosť ťažké urobiť.
Príklad nižšie je prevzatý z vinety do balíka údajová tabuľka.
Vytvorený dátumový rámec obsahuje v každom riadku údaje o deťoch jednej rodiny. Rodiny môžu mať jedno alebo dve deti. Pre každé dieťa sú uvedené údaje o dátume narodenia a pohlaví a údaje pre každé dieťa sú v samostatných stĺpcoch, našou úlohou je uviesť tieto údaje do správneho formátu na analýzu.
Upozorňujeme, že máme dve premenné s informáciami o každom dieťati: jeho pohlavie a dátum narodenia (stĺpce s predponou Krst obsahujú dátum narodenia, stĺpce s predponou rod obsahujú pohlavie dieťaťa). Očakávaným výsledkom je, že by sa mali objaviť v samostatných stĺpcoch. Môžeme to urobiť vygenerovaním špecifikácie, v ktorej je stĺpec .value bude mať dva rôzne významy.
spec <- family %>%
pivot_longer_spec(-family) %>%
separate(col = name, into = c(".value", "child"))%>%
mutate(child = parse_number(child))
#> # A tibble: 4 x 3
#> .name .value child
#> <chr> <chr> <dbl>
#> 1 dob_child1 dob 1
#> 2 dob_child2 dob 2
#> 3 gender_child1 gender 1
#> 4 gender_child2 gender 2
Poďme sa teda krok za krokom pozrieť na akcie vykonávané vyššie uvedeným kódom.
pivot_longer_spec(-family) — vytvorte špecifikáciu, ktorá skomprimuje všetky existujúce stĺpce okrem stĺpca rodiny.
separate(col = name, into = c(".value", "child")) - rozdeliť stĺpec . Názov, ktorý obsahuje názvy zdrojových polí, pomocou podčiarkovníka a zadaním výsledných hodnôt do stĺpcov .hodnota и dieťa.
mutate(child = parse_number(child)) — transformovať hodnoty poľa dieťa z textového na číselný dátový typ.
Teraz môžeme výslednú špecifikáciu aplikovať na pôvodný dataframe a preniesť tabuľku do požadovanej podoby.
Používame argumentáciu na.rm = TRUE, pretože aktuálna forma údajov si vynucuje vytváranie ďalších riadkov pre neexistujúce pozorovania. Pretože rodina 2 má len jedno dieťa, na.rm = TRUE zaručuje, že rodina 2 bude mať na výstupe jeden riadok.
Konverzia dátumových snímok z dlhého na široký formát
pivot_wider() - je inverzná transformácia a naopak zvyšuje počet stĺpcov rámca dátumu znížením počtu riadkov.
Tento druh transformácie sa veľmi zriedka používa na prenesenie údajov do presnej formy, avšak táto technika môže byť užitočná na vytváranie kontingenčných tabuliek používaných v prezentáciách alebo na integráciu s niektorými inými nástrojmi.
Vlastne funkcie pivot_longer() и pivot_wider() sú symetrické a vytvárajú navzájom inverzné akcie, t.j.: df %>% pivot_longer(spec = spec) %>% pivot_wider(spec = spec) и df %>% pivot_wider(spec = spec) %>% pivot_longer(spec = spec) vráti pôvodný df.
Najjednoduchší príklad prevodu tabuľky na široký formát
Na ukážku, ako funkcia funguje pivot_wider() použijeme súbor údajov rybie_stretnutia, ktorý uchováva informácie o tom, ako rôzne stanice zaznamenávajú pohyb rýb po rieke.
#> # A tibble: 114 x 3
#> fish station seen
#> <fct> <fct> <int>
#> 1 4842 Release 1
#> 2 4842 I80_1 1
#> 3 4842 Lisbon 1
#> 4 4842 Rstr 1
#> 5 4842 Base_TD 1
#> 6 4842 BCE 1
#> 7 4842 BCW 1
#> 8 4842 BCE2 1
#> 9 4842 BCW2 1
#> 10 4842 MAE 1
#> # … with 104 more rows
Vo väčšine prípadov bude táto tabuľka informatívnejšia a ľahšie použiteľná, ak uvediete informácie pre každú stanicu v samostatnom stĺpci.
fish_encounters %>% pivot_wider(names_from = station, values_from = seen)
#> # A tibble: 19 x 12
#> fish Release I80_1 Lisbon Rstr Base_TD BCE BCW BCE2 BCW2 MAE
#> <fct> <int> <int> <int> <int> <int> <int> <int> <int> <int> <int>
#> 1 4842 1 1 1 1 1 1 1 1 1 1
#> 2 4843 1 1 1 1 1 1 1 1 1 1
#> 3 4844 1 1 1 1 1 1 1 1 1 1
#> 4 4845 1 1 1 1 1 NA NA NA NA NA
#> 5 4847 1 1 1 NA NA NA NA NA NA NA
#> 6 4848 1 1 1 1 NA NA NA NA NA NA
#> 7 4849 1 1 NA NA NA NA NA NA NA NA
#> 8 4850 1 1 NA 1 1 1 1 NA NA NA
#> 9 4851 1 1 NA NA NA NA NA NA NA NA
#> 10 4854 1 1 NA NA NA NA NA NA NA NA
#> # … with 9 more rows, and 1 more variable: MAW <int>
Tento súbor údajov zaznamenáva informácie iba vtedy, keď boli ryby detekované stanicou, t.j. ak niektorá stanica nezaznamenala nejakú rybu, tak tento údaj nebude v tabuľke. To znamená, že výstup bude naplnený NA.
V tomto prípade však vieme, že absencia záznamu znamená, že ryba nebola videná, takže môžeme použiť argument value_fill vo funkcii pivot_wider() a doplňte tieto chýbajúce hodnoty nulami:
Generovanie názvu stĺpca z viacerých zdrojových premenných
Predstavte si, že máme tabuľku obsahujúcu kombináciu produktu, krajiny a roku. Ak chcete vygenerovať testovací dátumový rámec, môžete spustiť nasledujúci kód:
df <- expand_grid(
product = c("A", "B"),
country = c("AI", "EI"),
year = 2000:2014
) %>%
filter((product == "A" & country == "AI") | product == "B") %>%
mutate(value = rnorm(nrow(.)))
#> # A tibble: 45 x 4
#> product country year value
#> <chr> <chr> <int> <dbl>
#> 1 A AI 2000 -2.05
#> 2 A AI 2001 -0.676
#> 3 A AI 2002 1.60
#> 4 A AI 2003 -0.353
#> 5 A AI 2004 -0.00530
#> 6 A AI 2005 0.442
#> 7 A AI 2006 -0.610
#> 8 A AI 2007 -2.77
#> 9 A AI 2008 0.899
#> 10 A AI 2009 -0.106
#> # … with 35 more rows
Našou úlohou je rozšíriť dátový rámec tak, aby jeden stĺpec obsahoval údaje pre každú kombináciu produktu a krajiny. Ak to chcete urobiť, jednoducho odovzdajte argument mená_od vektor obsahujúci názvy polí, ktoré sa majú zlúčiť.
Na funkciu môžete použiť aj špecifikácie pivot_wider(). Ale keď sa podrobí pivot_wider() špecifikácia robí opačnú konverziu pivot_longer(): Stĺpce uvedené v . Názovpomocou hodnôt z .hodnota a ďalšie stĺpce.
Pre túto množinu údajov môžete vygenerovať vlastnú špecifikáciu, ak chcete, aby každá možná kombinácia krajín a produktov mala svoj vlastný stĺpec, nielen tie, ktoré sa nachádzajú v údajoch:
#> # A tibble: 4 x 4
#> .name product country .value
#> <chr> <chr> <chr> <chr>
#> 1 A_AI A AI value
#> 2 A_EI A EI value
#> 3 B_AI B AI value
#> 4 B_EI B EI value
df %>% pivot_wider(spec = spec) %>% head()
#> # A tibble: 6 x 5
#> year A_AI A_EI B_AI B_EI
#> <int> <dbl> <dbl> <dbl> <dbl>
#> 1 2000 -2.05 NA 0.607 1.20
#> 2 2001 -0.676 NA 1.65 -0.114
#> 3 2002 1.60 NA -0.0245 0.501
#> 4 2003 -0.353 NA 1.30 -0.459
#> 5 2004 -0.00530 NA 0.921 -0.0589
#> 6 2005 0.442 NA -1.55 0.594
Niekoľko pokročilých príkladov práce s novým konceptom tidyr
Vyčistenie údajov pomocou súboru údajov o príjmoch a nájomnom v USA ako príklad.
Súbor údajov príjem_z_nájmu obsahuje informácie o mediánom príjme a nájomnom pre každý štát v USA za rok 2017 (súbor údajov je dostupný v balíku poriadok).
us_rent_income
#> # A tibble: 104 x 5
#> GEOID NAME variable estimate moe
#> <chr> <chr> <chr> <dbl> <dbl>
#> 1 01 Alabama income 24476 136
#> 2 01 Alabama rent 747 3
#> 3 02 Alaska income 32940 508
#> 4 02 Alaska rent 1200 13
#> 5 04 Arizona income 27517 148
#> 6 04 Arizona rent 972 4
#> 7 05 Arkansas income 23789 165
#> 8 05 Arkansas rent 709 5
#> 9 06 California income 29454 109
#> 10 06 California rent 1358 3
#> # … with 94 more rows
Vo forme, v akej sú údaje uložené v súbore údajov príjem_z_nájmu práca s nimi je mimoriadne nepohodlná, preto by sme chceli vytvoriť množinu údajov so stĺpcami: prenajať, rent_moe, Prísť, príjem_moe. Existuje mnoho spôsobov, ako vytvoriť túto špecifikáciu, ale hlavným bodom je, že musíme vygenerovať každú kombináciu premenných hodnôt a odhad/moea potom vygenerujte názov stĺpca.
Prenesenie súboru údajov do požadovanej formy niekedy vyžaduje niekoľko krokov.
Súbor údajov world_bank_pop obsahuje údaje Svetovej banky o počte obyvateľov jednotlivých krajín v rokoch 2000 až 2018.
Naším cieľom je vytvoriť prehľadný súbor údajov s každou premennou vo vlastnom stĺpci. Nie je presne jasné, aké kroky sú potrebné, ale začneme najzjavnejším problémom: rok je rozdelený do viacerých stĺpcov.
Ak to chcete opraviť, musíte použiť funkciu pivot_longer().
Ďalším krokom je pozrieť sa na premennú indikátora. pop2 %>% count(indicator)
#> # A tibble: 4 x 2
#> indicator n
#> <chr> <int>
#> 1 SP.POP.GROW 4752
#> 2 SP.POP.TOTL 4752
#> 3 SP.URB.GROW 4752
#> 4 SP.URB.TOTL 4752
Kde SP.POP.GROW je rast populácie, SP.POP.TOTL je celkový počet obyvateľov a SP.URB. * to isté, ale len pre mestské oblasti. Rozdeľme tieto hodnoty na dve premenné: plocha - plocha (celková alebo mestská) a premenná obsahujúca skutočné údaje (počet obyvateľov alebo rast):
Zostavenie tohto zoznamu je pomerne náročné, pretože neexistuje žiadna premenná, ktorá by identifikovala, ktoré údaje patria ku ktorému kontaktu. Môžeme to opraviť tak, že si všimneme, že údaje každého nového kontaktu začínajú „meno“, takže môžeme vytvoriť jedinečný identifikátor a zvýšiť ho o jeden vždy, keď stĺpec poľa obsahuje hodnotu „name“:
#> # A tibble: 6 x 3
#> field value person_id
#> <chr> <chr> <int>
#> 1 name Jiena McLellan 1
#> 2 company Toyota 1
#> 3 name John Smith 2
#> 4 company google 2
#> 5 email [email protected] 2
#> 6 name Huxley Ratcliffe 3
Teraz, keď máme jedinečné ID pre každý kontakt, môžeme pole a hodnotu zmeniť na stĺpce:
#> # A tibble: 3 x 4
#> person_id name company email
#> <int> <chr> <chr> <chr>
#> 1 1 Jiena McLellan Toyota <NA>
#> 2 2 John Smith google [email protected]
#> 3 3 Huxley Ratcliffe <NA> <NA>
Záver
Môj osobný názor je, že nový koncept uprataný skutočne intuitívnejšie a vo funkčnosti výrazne lepšie ako staršie funkcie spread() и gather(). Dúfam, že vám tento článok pomohol vyrovnať sa pivot_longer() и pivot_wider().