ProHoster > Blogi > antaminen > R-paketti tidyr ja sen uudet toiminnot pivot_longer ja pivot_wider
R-paketti tidyr ja sen uudet toiminnot pivot_longer ja pivot_wider
paketti tidyr sisältyy yhden R-kielen suosituimman kirjaston ytimeen - siistiä.
Paketin päätarkoituksena on saattaa tiedot oikeaan muotoon.
Saatavilla jo Habrelta julkaisu omistettu tälle paketille, mutta se on peräisin vuodelta 2015. Ja haluan kertoa teille uusimmista muutoksista, joista sen kirjoittaja Hedley Wickham ilmoitti muutama päivä sitten.
SJK: Poistetaanko collect() and spread() käytöstä?
Hadley Wickham: Jossain määrin. Emme enää suosittele näiden toimintojen käyttöä ja korjaamaan niissä olevia bugeja, mutta ne ovat edelleen mukana paketissa nykyisessä tilassaan.
Pitoisuus
Jos olet kiinnostunut data-analyysistä, saatat olla kiinnostunut minun sähke и youtube kanavia. Suurin osa sisällöstä on omistettu R-kielelle.
separate() — jakaa yhden kentän useiksi erottimen avulla;
unite() — suorittaa useiden kenttien yhdistämistoiminnon yhdeksi, funktion käänteinen toiminta separate();
pivot_longer() — toiminto, joka muuntaa tiedot laajamuodosta pitkäksi;
pivot_wider() - toiminto, joka muuntaa tiedot pitkästä formaatista laajamuotoon. Käänteinen toiminto toiminnon suorittamasta operaatiosta pivot_longer().
gather()vanhentunut — toiminto, joka muuntaa tiedot laajamuodosta pitkäksi;
spread()vanhentunut - toiminto, joka muuntaa tiedot pitkästä formaatista laajamuotoon. Käänteinen toiminto toiminnon suorittamasta operaatiosta gather().
Uusi konsepti tietojen muuntamiseen leveästä pitkiin ja päinvastoin
Aikaisemmin funktioita käytettiin tällaiseen muunnokseen gather() и spread(). Näiden toimintojen olemassaolon vuosien aikana kävi selväksi, että useimmille käyttäjille, mukaan lukien paketin kirjoittaja, näiden funktioiden nimet ja niiden argumentit eivät olleet aivan ilmeisiä, mikä vaikeutti niiden löytämistä ja ymmärrystä, mikä näistä toiminnoista muuntaa. päivämääräkehyksen leveästä pitkiin ja päinvastoin.
Tässä suhteessa sisään tidyr Kaksi uutta, tärkeää toimintoa on lisätty, jotka on suunniteltu muuttamaan päivämääräkehyksiä.
Uudet ominaisuudet pivot_longer() и pivot_wider() sai inspiraationsa joistakin pakkauksen ominaisuuksista cdata, jonka ovat luoneet John Mount ja Nina Zumel.
Asennetaan uusin versio tidyr 0.8.3.9000
Asenna paketin uusi, viimeisin versio tidyr0.8.3.9000, jos uusia ominaisuuksia on saatavilla, käytä seuraavaa koodia.
devtools::install_github("tidyverse/tidyr")
Kirjoitushetkellä nämä toiminnot ovat saatavilla vain paketin kehittäjäversiossa GitHubissa.
Siirtyminen uusiin ominaisuuksiin
Itse asiassa ei ole vaikeaa siirtää vanhoja komentosarjoja toimimaan uusien funktioiden kanssa, paremman ymmärtämisen vuoksi otan esimerkin vanhojen funktioiden dokumentaatiosta ja näytän kuinka samat toiminnot suoritetaan uusilla pivot_*() toimintoja.
Muunna laajakuva pitkäksi.
Esimerkkikoodi keräysfunktion dokumentaatiosta
# example
library(dplyr)
stocks <- data.frame(
time = as.Date('2009-01-01') + 0:9,
X = rnorm(10, 0, 1),
Y = rnorm(10, 0, 2),
Z = rnorm(10, 0, 4)
)
# old
stocks_gather <- stocks %>% gather(key = stock,
value = price,
-time)
# new
stocks_long <- stocks %>% pivot_longer(cols = -time,
names_to = "stock",
values_to = "price")
Pitkän muodon muuntaminen laajamuotoiseksi.
Esimerkkikoodi hajafunktion dokumentaatiosta
# old
stocks_spread <- stocks_gather %>% spread(key = stock,
value = price)
# new
stock_wide <- stocks_long %>% pivot_wider(names_from = "stock",
values_from = "price")
Koska yllä olevissa esimerkeissä pivot_longer() и pivot_wider(), alkuperäisessä taulukossa osakkeet argumenteissa ei ole sarakkeita names_to и arvot_kohteen heidän nimensä on oltava lainausmerkeissä.
Taulukko, jonka avulla saat helpoimmin selville, kuinka voit siirtyä työskentelemään uuden konseptin parissa tidyr.
Huomautus kirjoittajalta
Kaikki alla oleva teksti on mukautuvaa, sanoisin jopa vapaata käännöstä vinjettejä tidyverse-kirjaston viralliselta verkkosivustolta.
Yksinkertainen esimerkki tietojen muuntamisesta laajasta muotoon pitkäksi
pivot_longer () — pidentää tietojoukkoja vähentämällä sarakkeiden määrää ja lisäämällä rivien määrää.
Artikkelissa esitettyjen esimerkkien suorittamiseksi sinun on ensin yhdistettävä tarvittavat paketit:
library(tidyr)
library(dplyr)
library(readr)
Oletetaan, että meillä on taulukko, jossa on tulokset kyselystä, jossa (muun muassa) kysyttiin ihmisiltä heidän uskontoaan ja vuositulojaan:
Tämä taulukko sisältää vastaajien uskontotiedot riveinä ja tulotasot on hajallaan sarakkeiden nimissä. Vastaajien lukumäärä kustakin kategoriasta on tallennettu soluarvoihin uskonnon ja tulotason leikkauspisteessä. Jotta taulukko saadaan siistiin, oikeaan muotoon, riittää käyttöä pivot_longer():
Ensimmäinen argumentti kaulukset, kuvaa, mitkä sarakkeet on yhdistettävä. Tässä tapauksessa kaikki sarakkeet paitsi aika.
perustelu names_to antaa sen muuttujan nimen, joka luodaan ketjutettujen sarakkeiden nimistä.
arvot_kohteen antaa nimen muuttujalle, joka luodaan yhdistettyjen sarakkeiden solujen arvoihin tallennetuista tiedoista.
Tekniset tiedot
Tämä on paketin uusi toiminto tidyr, joka ei ollut aiemmin käytettävissä vanhojen toimintojen kanssa työskennellessä.
Määrittely on tietokehys, jonka jokainen rivi vastaa yhtä saraketta uudessa tulostuspäivämääräkehyksessä ja kahta erikoissaraketta, jotka alkavat seuraavasti:
. Nimi sisältää alkuperäisen sarakkeen nimen.
.arvo sisältää soluarvot sisältävän sarakkeen nimen.
Muut määritysten sarakkeet kertovat, kuinka uusi sarake näyttää pakattujen sarakkeiden nimet . Nimi.
Spesifikaatiossa kuvataan sarakkeen nimeen tallennetut metatiedot, yksi rivi kullekin sarakkeelle ja yksi sarake kullekin muuttujalle yhdistettynä sarakkeen nimeen, tämä määritelmä saattaa tällä hetkellä tuntua hämmentävältä, mutta muutaman esimerkin tarkastelun jälkeen siitä tulee paljon selkeämpi.
Määrityksen tarkoitus on, että voit hakea, muokata ja määrittää uusia metatietoja muunnettavalle tietokehykselle.
Käytä toimintoa, jos haluat työskennellä teknisten tietojen kanssa, kun muunnat taulukon laajasta muodosta pitkäksi pivot_longer_spec().
Tämä toiminto toimii siten, että se ottaa minkä tahansa päivämääräkehyksen ja luo sen metatiedot yllä kuvatulla tavalla.
Otetaan esimerkkinä paketin mukana toimitettu who-tietojoukko tidyr. Tämä aineisto sisältää kansainvälisen terveysjärjestön toimittamia tietoja tuberkuloosin esiintyvyydestä.
who
#> # A tibble: 7,240 x 60
#> country iso2 iso3 year new_sp_m014 new_sp_m1524 new_sp_m2534
#> <chr> <chr> <chr> <int> <int> <int> <int>
#> 1 Afghan… AF AFG 1980 NA NA NA
#> 2 Afghan… AF AFG 1981 NA NA NA
#> 3 Afghan… AF AFG 1982 NA NA NA
#> 4 Afghan… AF AFG 1983 NA NA NA
#> 5 Afghan… AF AFG 1984 NA NA NA
#> 6 Afghan… AF AFG 1985 NA NA NA
#> 7 Afghan… AF AFG 1986 NA NA NA
#> 8 Afghan… AF AFG 1987 NA NA NA
#> 9 Afghan… AF AFG 1988 NA NA NA
#> 10 Afghan… AF AFG 1989 NA NA NA
#> # … with 7,230 more rows, and 53 more variables
Rakennetaan sen spesifikaatio.
spec <- who %>%
pivot_longer_spec(new_sp_m014:newrel_f65, values_to = "count")
kentät maa, isoxnumx, isoxnumx ovat jo muuttujia. Tehtävämme on kääntää sarakkeita new_sp_m014 päälle newrel_f65.
Näiden sarakkeiden nimet sisältävät seuraavat tiedot:
etuliite new_ osoittaa, että sarake sisältää tietoja uusista tuberkuloositapauksista, nykyinen päivämääräkehys sisältää tiedot vain uusista sairauksista, joten tällä etuliitteellä ei ole nykyisessä kontekstissa mitään merkitystä.
sp/rel/sp/ep kuvailee menetelmän sairauden diagnosoimiseksi.
m/f potilaan sukupuoli.
014/1524/2535/3544/4554/65 potilaan ikäluokka.
Voimme jakaa nämä sarakkeet funktiolla extract()käyttämällä säännöllistä lauseketta.
Lopuksi, jotta voimme soveltaa luomaamme määritystä alkuperäiseen päivämääräkehykseen joka meidän on käytettävä argumenttia tekniset tiedot toiminnassa pivot_longer().
who %>% pivot_longer(spec = spec)
#> # A tibble: 405,440 x 8
#> country iso2 iso3 year diagnosis gender age count
#> <chr> <chr> <chr> <int> <chr> <fct> <ord> <int>
#> 1 Afghanistan AF AFG 1980 sp m 014 NA
#> 2 Afghanistan AF AFG 1980 sp m 1524 NA
#> 3 Afghanistan AF AFG 1980 sp m 2534 NA
#> 4 Afghanistan AF AFG 1980 sp m 3544 NA
#> 5 Afghanistan AF AFG 1980 sp m 4554 NA
#> 6 Afghanistan AF AFG 1980 sp m 5564 NA
#> 7 Afghanistan AF AFG 1980 sp m 65 NA
#> 8 Afghanistan AF AFG 1980 sp f 014 NA
#> 9 Afghanistan AF AFG 1980 sp f 1524 NA
#> 10 Afghanistan AF AFG 1980 sp f 2534 NA
#> # … with 405,430 more rows
Kaikki, mitä juuri teimme, voidaan kuvata kaavamaisesti seuraavasti:
Määrittely käyttämällä useita arvoja (.value)
Yllä olevassa esimerkissä määrityssarake .arvo sisälsi vain yhden arvon, useimmissa tapauksissa näin on.
Joskus voi kuitenkin syntyä tilanne, jossa sinun on kerättävä tietoja sarakkeista, joiden arvot ovat eri tietotyyppejä. Vanhan toiminnon käyttäminen spread() tämä olisi aika vaikea tehdä.
Alla oleva esimerkki on otettu vinjettejä pakettiin data. taulukko.
Luotu päivämääräkehys sisältää tiedot yhden perheen lapsista kullakin rivillä. Perheissä voi olla yksi tai kaksi lasta. Jokaisesta lapsesta ilmoitetaan syntymäaika ja sukupuoli, ja jokaisen lapsen tiedot ovat erillisissä sarakkeissa, meidän tehtävämme on saattaa tiedot oikeaan muotoon analysoitavaksi.
Huomaa, että meillä on kaksi muuttujaa, jotka sisältävät tietoja jokaisesta lapsesta: heidän sukupuolensa ja syntymäaikansa (sarakkeet etuliitteellä kaste sisältävät syntymäajan, sarakkeet etuliitteellä sukupuoli sisältää lapsen sukupuolen). Odotettu tulos on, että ne näkyvät erillisissä sarakkeissa. Voimme tehdä tämän luomalla eritelmän, jossa sarake .value on kaksi eri merkitystä.
spec <- family %>%
pivot_longer_spec(-family) %>%
separate(col = name, into = c(".value", "child"))%>%
mutate(child = parse_number(child))
#> # A tibble: 4 x 3
#> .name .value child
#> <chr> <chr> <dbl>
#> 1 dob_child1 dob 1
#> 2 dob_child2 dob 2
#> 3 gender_child1 gender 1
#> 4 gender_child2 gender 2
Katsotaanpa siis vaiheittain yllä olevan koodin suorittamia toimia.
pivot_longer_spec(-family) — Luo määritys, joka pakkaa kaikki olemassa olevat sarakkeet perhesaraketta lukuun ottamatta.
separate(col = name, into = c(".value", "child")) - jakaa sarake . Nimi, joka sisältää lähdekenttien nimet käyttäen alaviivaa ja syöttämällä tuloksena saadut arvot sarakkeisiin .arvo и lapsi.
mutate(child = parse_number(child)) — muuntaa kentän arvot lapsi tekstistä numeeriseen tietotyyppiin.
Nyt voimme soveltaa tuloksena saatua määritystä alkuperäiseen tietokehykseen ja viedä taulukon haluttuun muotoon.
Käytämme argumenttia na.rm = TRUE, koska tietojen nykyinen muoto pakottaa luomaan ylimääräisiä rivejä olemattomille havainnoille. Koska perheessä 2 on vain yksi lapsi, na.rm = TRUE takaa, että perheessä 2 on yksi rivi tulosteessa.
Päivämääräkehysten muuntaminen pitkästä leveään muotoon
pivot_wider() - on käänteinen muunnos, ja päinvastoin lisää päivämääräkehyksen sarakkeiden määrää vähentämällä rivien määrää.
Tällaista muuntamista käytetään erittäin harvoin tietojen saattamiseksi oikeaan muotoon, mutta tämä tekniikka voi olla hyödyllinen esityksissä käytettävien pivot-taulukoiden luomisessa tai integroinnissa joihinkin muihin työkaluihin.
Itse asiassa toiminnot pivot_longer() и pivot_wider() ovat symmetrisiä ja tuottavat toisilleen käänteisiä toimia, eli: df %>% pivot_longer(spec = spec) %>% pivot_wider(spec = spec) и df %>% pivot_wider(spec = spec) %>% pivot_longer(spec = spec) palauttaa alkuperäisen df:n.
Yksinkertaisin esimerkki taulukon muuntamisesta laajaan muotoon
Osoittaaksesi, kuinka toiminto toimii pivot_wider() käytämme tietojoukkoa kala_kohtaamiset, joka tallentaa tietoa siitä, kuinka eri asemat tallentavat kalojen liikkumista joen varrella.
#> # A tibble: 114 x 3
#> fish station seen
#> <fct> <fct> <int>
#> 1 4842 Release 1
#> 2 4842 I80_1 1
#> 3 4842 Lisbon 1
#> 4 4842 Rstr 1
#> 5 4842 Base_TD 1
#> 6 4842 BCE 1
#> 7 4842 BCW 1
#> 8 4842 BCE2 1
#> 9 4842 BCW2 1
#> 10 4842 MAE 1
#> # … with 104 more rows
Useimmissa tapauksissa tämä taulukko on informatiivisempi ja helpompi käyttää, jos esität kunkin aseman tiedot erillisessä sarakkeessa.
fish_encounters %>% pivot_wider(names_from = station, values_from = seen)
#> # A tibble: 19 x 12
#> fish Release I80_1 Lisbon Rstr Base_TD BCE BCW BCE2 BCW2 MAE
#> <fct> <int> <int> <int> <int> <int> <int> <int> <int> <int> <int>
#> 1 4842 1 1 1 1 1 1 1 1 1 1
#> 2 4843 1 1 1 1 1 1 1 1 1 1
#> 3 4844 1 1 1 1 1 1 1 1 1 1
#> 4 4845 1 1 1 1 1 NA NA NA NA NA
#> 5 4847 1 1 1 NA NA NA NA NA NA NA
#> 6 4848 1 1 1 1 NA NA NA NA NA NA
#> 7 4849 1 1 NA NA NA NA NA NA NA NA
#> 8 4850 1 1 NA 1 1 1 1 NA NA NA
#> 9 4851 1 1 NA NA NA NA NA NA NA NA
#> 10 4854 1 1 NA NA NA NA NA NA NA NA
#> # … with 9 more rows, and 1 more variable: MAW <int>
Tämä tietojoukko tallentaa tiedot vain, kun asema on havainnut kaloja, ts. jos jokin asema ei ole tallentanut kalaa, nämä tiedot eivät ole taulukossa. Tämä tarkoittaa, että ulostulo täytetään NA:lla.
Tässä tapauksessa tiedämme kuitenkin, että tietueen puuttuminen tarkoittaa, että kalaa ei nähty, joten voimme käyttää argumenttia arvot_täyttö toiminnassa pivot_wider() ja täytä nämä puuttuvat arvot nollilla:
Kuvittele, että meillä on taulukko, joka sisältää tuotteen, maan ja vuoden yhdistelmän. Voit luoda testipäivämääräkehyksen suorittamalla seuraavan koodin:
df <- expand_grid(
product = c("A", "B"),
country = c("AI", "EI"),
year = 2000:2014
) %>%
filter((product == "A" & country == "AI") | product == "B") %>%
mutate(value = rnorm(nrow(.)))
#> # A tibble: 45 x 4
#> product country year value
#> <chr> <chr> <int> <dbl>
#> 1 A AI 2000 -2.05
#> 2 A AI 2001 -0.676
#> 3 A AI 2002 1.60
#> 4 A AI 2003 -0.353
#> 5 A AI 2004 -0.00530
#> 6 A AI 2005 0.442
#> 7 A AI 2006 -0.610
#> 8 A AI 2007 -2.77
#> 9 A AI 2008 0.899
#> 10 A AI 2009 -0.106
#> # … with 35 more rows
Tehtävämme on laajentaa tietokehystä niin, että yksi sarake sisältää tiedot jokaisesta tuotteen ja maan yhdistelmästä. Voit tehdä tämän välittämällä argumentin names_from vektori, joka sisältää yhdistettävien kenttien nimet.
Voit myös käyttää määrityksiä funktiolle pivot_wider(). Mutta kun annettiin pivot_wider() spesifikaatio tekee päinvastaisen muunnoksen pivot_longer(): kohdassa määritetyt sarakkeet . Nimi, käyttämällä arvoja alkaen .arvo ja muut sarakkeet.
Tälle tietojoukolle voit luoda mukautetun määrityksen, jos haluat, että jokaisella mahdollisella maa- ja tuoteyhdistelmällä on oma sarakensa, ei vain tiedoissa olevia:
#> # A tibble: 4 x 4
#> .name product country .value
#> <chr> <chr> <chr> <chr>
#> 1 A_AI A AI value
#> 2 A_EI A EI value
#> 3 B_AI B AI value
#> 4 B_EI B EI value
df %>% pivot_wider(spec = spec) %>% head()
#> # A tibble: 6 x 5
#> year A_AI A_EI B_AI B_EI
#> <int> <dbl> <dbl> <dbl> <dbl>
#> 1 2000 -2.05 NA 0.607 1.20
#> 2 2001 -0.676 NA 1.65 -0.114
#> 3 2002 1.60 NA -0.0245 0.501
#> 4 2003 -0.353 NA 1.30 -0.459
#> 5 2004 -0.00530 NA 0.921 -0.0589
#> 6 2005 0.442 NA -1.55 0.594
Useita edistyneitä esimerkkejä työskentelystä uuden tidyr-konseptin kanssa
Tietojen puhdistaminen esimerkkinä Yhdysvaltain väestönlaskennan tulo- ja vuokratietojoukosta.
Tietojoukko meille_vuokratulot sisältää mediaanitulot ja vuokratiedot jokaisesta Yhdysvaltain osavaltiosta vuodelta 2017 (tietojoukko saatavilla pakkauksessa siisti väestönlaskenta).
us_rent_income
#> # A tibble: 104 x 5
#> GEOID NAME variable estimate moe
#> <chr> <chr> <chr> <dbl> <dbl>
#> 1 01 Alabama income 24476 136
#> 2 01 Alabama rent 747 3
#> 3 02 Alaska income 32940 508
#> 4 02 Alaska rent 1200 13
#> 5 04 Arizona income 27517 148
#> 6 04 Arizona rent 972 4
#> 7 05 Arkansas income 23789 165
#> 8 05 Arkansas rent 709 5
#> 9 06 California income 29454 109
#> 10 06 California rent 1358 3
#> # … with 94 more rows
Siinä muodossa, jossa tiedot on tallennettu tietojoukkoon meille_vuokratulot niiden kanssa työskentely on erittäin hankalaa, joten haluaisimme luoda tietojoukon, jossa on sarakkeita: Vuokrataan, vuokra_moe, Tulla, tulo_moe. On monia tapoja luoda tämä eritelmä, mutta pääasia on, että meidän on luotava jokainen muuttuja-arvojen ja arvio/moeja luo sitten sarakkeen nimi.
Joskus tietojoukon saattaminen haluttuun muotoon vaatii useita vaiheita.
Tietojoukko world_bank_pop Sisältää Maailmanpankin tiedot kunkin maan väestöstä vuosina 2000–2018.
Tavoitteenamme on luoda siisti tietojoukko, jossa jokainen muuttuja on omassa sarakkeessaan. On epäselvää, mitä toimia tarvitaan, mutta aloitamme ilmeisimmästä ongelmasta: vuosi on jaettu useisiin sarakkeisiin.
Tämän korjaamiseksi sinun on käytettävä toimintoa pivot_longer().
Seuraava askel on tarkastella indikaattorimuuttujaa. pop2 %>% count(indicator)
#> # A tibble: 4 x 2
#> indicator n
#> <chr> <int>
#> 1 SP.POP.GROW 4752
#> 2 SP.POP.TOTL 4752
#> 3 SP.URB.GROW 4752
#> 4 SP.URB.TOTL 4752
Missä SP.POP.GROW on väestönkasvu, SP.POP.TOTL on koko väestö ja SP.URB. * sama asia, mutta vain kaupunkialueilla. Jaetaan nämä arvot kahteen muuttujaan: alue - alue (koko tai kaupunki) ja muuttuja, joka sisältää todellisia tietoja (väestö tai kasvu):
Tämän luettelon taulukoiminen on melko vaikeaa, koska siinä ei ole muuttujaa, joka tunnistaisi, mitkä tiedot kuuluvat millekin kontaktille. Voimme korjata tämän huomioimalla, että jokaisen uuden yhteyshenkilön tiedot alkavat sanalla "name", joten voimme luoda yksilöllisen tunnisteen ja kasvattaa sitä yhdellä aina, kun kenttäsarake sisältää arvon "nimi":
#> # A tibble: 6 x 3
#> field value person_id
#> <chr> <chr> <int>
#> 1 name Jiena McLellan 1
#> 2 company Toyota 1
#> 3 name John Smith 2
#> 4 company google 2
#> 5 email [email protected] 2
#> 6 name Huxley Ratcliffe 3
Nyt kun meillä on yksilöllinen tunnus jokaiselle yhteyshenkilölle, voimme muuttaa kentän ja arvon sarakkeiksi:
#> # A tibble: 3 x 4
#> person_id name company email
#> <int> <chr> <chr> <chr>
#> 1 1 Jiena McLellan Toyota <NA>
#> 2 2 John Smith google [email protected]
#> 3 3 Huxley Ratcliffe <NA> <NA>
Johtopäätös
Henkilökohtainen mielipiteeni on, että uusi konsepti tidyr todella intuitiivisempi ja toiminnallisesti huomattavasti parempi kuin vanhat toiminnot spread() и gather(). Toivon, että tämä artikkeli auttoi sinua käsittelemään asiaa pivot_longer() и pivot_wider().