Cloudové hry: záťažový test 5 cloudových herných služieb so slabým internetom

Cloudové hry: záťažový test 5 cloudových herných služieb so slabým internetom

Asi pred rokom som uverejnil článok „Hranie v cloude: hodnotenie schopností služieb na hranie na slabých počítačoch z prvej ruky“. Analyzoval výhody a nevýhody rôznych služieb pre cloudové hry na slabých počítačoch. Každú službu som testoval počas hry a podelil sa o svoj celkový dojem.

V komentároch k tomuto a ďalším podobným článkom sa čitatelia často delili o svoje dojmy z rôznych herných služieb. Na tú istú vec boli často protichodné názory. Pre niektorých je všetko perfektné, ale pre iných nemôžu hrať kvôli oneskoreniam a zamrznutiu. Potom ma napadlo zhodnotiť kvalitu týchto služieb za rôznych podmienok – od ideálnych až po hrozné. Hovoríme o kvalite sietí, pretože užívateľ sa nemôže vždy pochváliť rýchlym a bezproblémovým komunikačným kanálom, však? Vo všeobecnosti je pod rezom hodnotenie služieb so simuláciou rôznej kvality prevádzky siete.

V čom je vlastne problém?

Ako je uvedené vyššie - ako spojenie. Presnejšie v strate paketov počas hry. Čím sú straty vyššie, tým má hráč väčšie problémy, tým menej je s hrou spokojný. Je však zriedkavé, že niekto má ideálny komunikačný kanál, ako je optické vlákno k zariadeniu, a s vyhradeným internetom, a nie zdieľaný medzi všetkými obyvateľmi bytového domu.

Pre porovnanie, pri rýchlosti pripojenia 25 Mbit/s je potrebných 1-40 dátových paketov na prenos 50 rámca/rámec. Čím viac paketov sa stratí, tým nižšia je kvalita obrazu a tým výraznejšie sú oneskorenia a zamrznutia. V obzvlášť závažných prípadoch je jednoducho nemožné hrať.

Prirodzene, samotná cloudová služba nemôže žiadnym spôsobom ovplyvniť šírku a stabilitu kanála používateľa (hoci by to bolo, samozrejme, skvelé). Je však možné si predstaviť rôzne spôsoby, ako vyrovnať problémy s komunikáciou. Nižšie uvidíme, ktoré služby si s problémom poradia najlepšie.

Čo presne porovnávame?

Bežný počítač (Intel i3-8100, GTX 1060 6 GB, 8 GB RAM), GeForce Now (jeho ruská verzia NFG so servermi v Moskve), hlasná hra, Vír, hrať kľúč, štadióny. Vo všetkých službách okrem Stadie študujeme kvalitu hry v The Witcher. Google Stadia túto hru v čase písania článku nemala a tak som musel otestovať inú – Odyssey.

Aké sú podmienky a metodika testovania?

Testujeme z Moskvy. Poskytovateľ - MGTS, tarifa 500 Mbit/s, káblové pripojenie, nie WiFi. Nastavenia kvality grafiky v službách sme nastavili na predvolené, rozlíšenie – FullHD.

Používanie programu ťažkopádny Simulujeme sieťové problémy, konkrétne stratu paketov rôznych typov a veľkostí.

Jednotné jednotlivé straty. Vtedy sa stratí len 1 paket a straty sa rozložia viac-menej rovnomerne. Rovnomerná strata 10% teda znamená, že zo 100 paketov sa stratí každý 10. paket, ale vždy len 1 paket. Problém sa zvyčajne prejavuje, keď dôjde k skresleniu (tieneniu) na kanáli od klienta k serveru.

Testujeme rovnomerné straty 5%, 10%, 25%.

Nerovnomerné hromadné straty, kedy sa v každom okamihu okamžite stratí 40-70 paketov za sebou. K takýmto stratám najčastejšie dochádza pri problémoch so sieťovým vybavením (smerovače a pod.) používateľa alebo poskytovateľa. Môže byť spojené s pretečením vyrovnávacej pamäte sieťového zariadenia na komunikačnej linke používateľ-server. Takéto straty môže spôsobiť aj WiFi s hrubými stenami. Ďalším dôvodom, veľmi typickým pre kancelárie a bytové domy, je preťaženie bezdrôtovej siete z dôvodu prítomnosti veľkého množstva zariadení.

Testujeme nerovnomerné straty 0,01 %, 0,1 %, 0,5 %.

Nižšie rozoberám všetky tieto prípady a pre názornosť pripájam porovnanie videa. A na konci článku uvádzam odkaz na nespracované, neupravené herné videá zo všetkých služieb a prípadov - tam si môžete pozrieť artefakty podrobnejšie, ako aj technické informácie (vo všetkých službách okrem Stadie sú údaje z technického konzola je zaznamenaná; Stadia také nenašla).

Poďme!

Nižšie je uvedených 7 scenárov záťažových testov a video s časovými pečiatkami (video je pre pohodlie rovnaké, v každom bode sa sledovanie začína v správnom momente). Na samom konci príspevku sú originálne videá pre každú zo služieb. Natočiť video mi pomohol dobrý kamarát, za čo mu ďakujem!

Scenár č. 1. Ideálne podmienky. Nulové straty v sieti

Všetko je tak, ako má byť v ideálnom svete. Neexistujú žiadne problémy s pripojením, ani jediné prerušenie, žiadne rušenie, váš prístupový bod je majákom internetu. V takýchto skleníkových podmienkach takmer všetci účastníci testu fungujú dobre.


PC

Pre každý scenár sme ako referenciu zobrali zábery z PC hry. Je jasné, že kvalita siete to nijako neovplyvňuje, hra beží lokálne na PC. Prítomnosť týchto rámov odpovedá na otázku „existuje rozdiel pri hraní v cloude v porovnaní s hraním na vašom PC“. Za ideálnych podmienok to v našom prípade väčšina služieb nepocíti. Nižšie nebudeme písať nič o PC, len si pamätajte, že existuje.

GeForce Now

Všetko je v poriadku, obraz je jasný, proces prebieha hladko, bez vlysov.

Vír

Vortex kazí náš ideálny svet. Okamžite začal mať problémy - obraz bol horší ako všetky ostatné a navyše boli jasne viditeľné „brzdy“. Možným problémom je, že herné servery sa nachádzajú ďaleko od Moskvy, navyše hardvér na herných serveroch sa zdá byť slabší a nezvláda dobre FullHD. Vortex dopadol zle vo všetkých testoch. Ak má niekto pozitívnu skúsenosť s hraním s Vortexom, napíšte do komentárov, podeľte sa odkiaľ ste hrali a ako dobre všetko dopadlo.

hrať kľúč

Všetko je v poriadku, rovnako ako na lokálnom PC. Viditeľné problémy, ako je zamrznutie, oneskorenie atď. Nie

hlasná hra

Služba ukazuje vynikajúci obraz, nie sú žiadne viditeľné problémy.

štadióny

Herná služba od spoločnosti Google funguje perfektne napriek tomu, že nemá servery v Ruskej federácii a vo všeobecnosti Stadia oficiálne nefunguje v Rusku. Všetko je však v poriadku. Je samozrejme škoda, že „The Witcher“ nebol v čase hry k dispozícii na Stadii, ale čo narobíte, zobrali „Odyssey“ – tiež náročnú, aj o mužovi, ktorý seká ľudí a zvieratá.

Scenár č. 2. Rovnomerná strata 5%

V tomto teste sa zo 100 paketov stratí približne každý 20. Pripomínam, že na vykreslenie jedného rámca potrebujete 40-50 paketov.


GeForce Now

Služba od Nvidie je v poriadku, žiadne problémy. Obraz je trochu rozmazanejší ako na Playkey, ale Zaklínač je stále hrateľný.

Vír

Tu sa veci ešte zhoršili. Prečo nie je úplne jasné, s najväčšou pravdepodobnosťou nie je poskytnutá nadbytočnosť alebo je minimálna. Redundancia je kódovanie preposlaných údajov odolné voči šumu (FEC - Forward Error Correction). Táto technológia obnovuje dáta, keď sa čiastočne stratia v dôsledku problémov so sieťou. Dá sa implementovať a konfigurovať rôznymi spôsobmi a súdiac podľa výsledkov, toto sa tvorcom Vortexu nepodarilo. Nebudete môcť hrať ani s nepatrnými prehrami. Počas nasledujúcich testov Vortex jednoducho „zomrel“.

hrať kľúč

Všetko je v poriadku, nie je tam žiadny výrazný rozdiel od ideálnych podmienok. Možno pomáha, že servery spoločnosti sa nachádzajú v Moskve, kde boli vykonané testy. Možno je lepšie nakonfigurovaná vyššie uvedená redundancia.

hlasná hra

Služba sa zrazu stala nehrateľnou, napriek relatívne nízkym stratám paketov. Čo môže byť zlé? Budem predpokladať, že Loudplay pracuje s protokolom TCP. V tomto prípade, kým nedôjde k potvrdeniu prijatia balíka, neposielajú sa žiadne ďalšie balíky, systém čaká na potvrdenie doručenia. Preto, ak sa balík stratí, nebude potvrdenie o jeho doručení, nové balíky nebudú odoslané, obrázok bude prázdny, koniec príbehu.

Ak však používate UDP, potvrdenie prijatia paketu nebude potrebné. Pokiaľ možno posúdiť, všetky ostatné služby okrem Loudplay používajú protokol UDP. Ak to tak nie je, opravte ma v komentároch.

štadióny

Všetko je hrateľné. Niekedy sa obraz rozpixeluje a dochádza k minimálnemu oneskoreniu odozvy. Možno kódovanie odolné voči šumu nefunguje dokonale, a preto dochádza k malým artefaktom, keď je možné prehrať celý stream.

Scenár č. 3. Rovnomerná strata 10%

Strácame každý 10. paket na sto. To je už výzva pre služby. Na efektívne riešenie takýchto strát sú potrebné technológie na obnovu a/alebo opätovné odoslanie stratených údajov.


GeForce Now

GeForce zaznamenáva mierny pokles kvality video streamu. Pokiaľ vieme, GFN reaguje na problémy so sieťou tým, že sa ich snaží zmierniť. Služba znižuje bitrate, teda počet bitov na prenos dát. Snaží sa tak znížiť záťaž podľa neho nedostatočne kvalitnej siete a udržať stabilné pripojenie. A naozaj nie sú žiadne otázky o stabilite, ale kvalita videa výrazne trpí. Vidíme výraznú pixelizáciu obrazu. No, keďže modelovanie predpokladá konštantnú stratu 10% paketov, zníženie bitrate naozaj nepomôže, situácia sa nevráti do normálu.

V reálnom živote obraz s najväčšou pravdepodobnosťou nebude trvalo zlý, ale plávajúci. Straty sa zvýšili - obraz sa rozmazal; straty sa znížili - obraz sa vrátil do normálu atď. To samozrejme nie je dobré pre herný zážitok.

hrať kľúč

Neexistujú žiadne špeciálne problémy. Algoritmus pravdepodobne zisťuje problémy v sieti, určuje úroveň strát a zameriava sa viac na redundanciu ako na znižovanie bitovej rýchlosti. Ukazuje sa, že pri 10% jednotných stratách zostáva kvalita obrazu prakticky nezmenená, používateľ si takéto straty pravdepodobne nevšimne.

hlasná hra

Nefunguje to, len sa to nespustilo. Počas ďalších testov sa situácia opakovala. Pokiaľ možno posúdiť, táto služba sa žiadnym spôsobom neprispôsobuje problémom siete. Možno je na vine protokol TCP. Najmenšia strata službu úplne ochromí. Samozrejme, nie veľmi praktické pre skutočný život.

Vír

Tiež veľké problémy. V takýchto podmienkach nemôžete hrať, hoci obraz je stále prítomný a postava pokračuje v behu, aj keď trhne. Myslím, že je to všetko o tej istej zle implementovanej alebo chýbajúcej redundancii. Pakety sa často stratia a nedajú sa obnoviť. Výsledkom je, že kvalita obrazu klesá na nehrateľnú úroveň.

štadióny

Bohužiaľ je tu všetko zlé. Dochádza k prerušeniu toku, a preto sa udalosti na obrazovke vyskytujú trhavo, čo sťažuje hranie. Dá sa predpokladať, že problém vznikol, podobne ako v prípade Vortexu, z dôvodu minimálnej alebo žiadnej nadbytočnosti. Konzultoval som to s niekoľkými priateľmi, ktorí sú „ve vedomí“, povedali, že Stadia s najväčšou pravdepodobnosťou čaká na úplné zostavenie rámu. Na rozdiel od GFN sa nesnaží zachrániť situáciu úplným znížením bitrate. V dôsledku toho nevznikajú žiadne artefakty, ale objavujú sa mrznutia a lagy (GFN má naopak menej vlysov/lagov, ale kvôli nízkemu bitrate je obraz úplne neatraktívny).

Zdá sa, že ďalšie služby tiež nečakajú na kompletnú montáž rámu, pričom chýbajúcu časť nahradia fragmentom starého rámu. Toto je dobré riešenie, vo väčšine prípadov si používateľ úlovok nevšimne (zmení sa viac ako 30 snímok za sekundu), hoci niekedy sa môžu vyskytnúť artefakty.

Scenár č. 4. Rovnomerná strata 25%

Každý štvrtý paket sa stratí. Je to čoraz strašidelnejšie a zaujímavejšie. Vo všeobecnosti je s takýmto „deravým“ pripojením sotva možné normálne hranie v cloude. Niektorí účastníci porovnávania sa síce vyrovnávajú, aj keď nie dokonale.


NFG

Problémy sú už dosť citeľné. Obrázok je pixelovaný a rozmazaný. Stále sa dá hrať, no nie je to vôbec to, čo GFN ponúkala hneď na začiatku. A takto by sa krásne hry hrať rozhodne nemali. Krása sa už nedá oceniť.

hrať kľúč

Hranie ide dobre. Je tu plynulosť, aj keď obraz trochu trpí. Mimochodom, vľavo hore sú čísla, ktoré ukazujú, koľko stratených paketov sa podarilo obnoviť. Ako vidíte, 96% paketov je obnovených.

hlasná hra

Nezačalo sa.

Vír

Nemôžete hrať ani s veľmi silnou túžbou, zamrznutia (zmrazenie obrazu, obnovenie toku videa z nového fragmentu) sú ešte výraznejšie.

štadióny

Služba je prakticky nehrateľná. Dôvody už boli spomenuté vyššie. Čaká sa na zostavenie rámu, redundancia je minimálna, pri takýchto stratách to nestačí.

Scenár č. 5. Nerovnomerná strata 0,01 %.

Na každých 10 000 paketov sa stratí 1-40 paketov za sebou. To znamená, že stratíme približne 70 z 1 snímok. Stáva sa to, keď je vyrovnávacia pamäť sieťového zariadenia plná a všetky nové pakety sú jednoducho zahodené (zahodené), kým sa vyrovnávacia pamäť neuvoľní. Všetci účastníci porovnávania, okrem Loudplay, takéto straty do tej či onej miery odpracovali.


NFG

Obraz trochu stratil kvalitu a trochu sa zakalil, ale všetko je celkom hrateľné.

hrať kľúč

Všetko je veľmi dobré. Obraz je hladký, obraz je dobrý. Môžete hrať bez problémov.

hlasná hra

Prvých pár sekúnd bol obraz, hrdina dokonca bežal. Spojenie so serverom sa však takmer okamžite stratilo. Ach, tento protokol TCP. Hneď prvá strata prerušila službu v jej koreňoch.

Vír

Pozorujú sa bežné problémy. Vlysy, lagy a to je všetko. Za takýchto podmienok by sa hralo veľmi ťažko.

štadióny

Hrateľné. Sú viditeľné malé nedostatky, obraz je niekedy pixelovaný.

Scenár č. 6. Nerovnomerné straty 0,1 %

Pri 10 000 paketoch sa 10-krát stratí 40-70 paketov v rade. Ukázalo sa, že stratíme 10 z 200 snímok.

Hneď poviem, že väčšina služieb má viditeľné problémy. Obraz sa napríklad trhne, takže redundancia tu nepomôže. To znamená, že pri použití technológie redundancie existuje pozitívny účinok, ale je malý.

Faktom je, že reakčný čas na akcie používateľa a samotnú hru je obmedzený, stream videa musí byť nepretržitý. Napriek akýmkoľvek snahám služieb nie je možné obnoviť stream na prijateľnú kvalitu.

Objavujú sa artefakty (snaha kompenzovať stratu paketov, nie je dostatok dát) a trhanie obrazu.


NFG

Kvalita obrazu citeľne klesla, bitrate sa jednoznačne znížil, a to dosť výrazne.

hrať kľúč

Zvláda to lepšie - pravdepodobne preto, že redundancia je dobre nakonfigurovaná a algoritmus bitovej rýchlosti nepovažuje straty za príliš vysoké a nezmení obraz na pixelový neporiadok.

hlasná hra

Nezačalo sa.

Vír

Začalo to, ale s hroznou kvalitou obrazu. Trhliny a poklesy sú veľmi viditeľné. Za takýchto podmienok sa sotva dá hrať.

štadióny

Trhliny sú jasne viditeľné, to je jasný indikátor toho, že nie je dostatok redundancie. Obraz zamrzne, potom sa objavia ďalšie snímky a tok videa sa preruší. V zásade môžete hrať, ak máte veľkú túžbu a klinický sklon k sebatrýzneniu.

Scenár č. 7. Nerovnomerné straty 0,5 %

Pri 10 000 paketoch 50-krát sa stratí 40-70 paketov za sebou. Stratíme 50 snímok z 200.

Situácia „jednotne posratej“ triedy. Váš router iskrí, váš poskytovateľ internetových služieb nefunguje, vaše káble žuvajú myši, ale stále chcete hrať v cloude. Ktorú službu by ste si mali vybrať?


NFG

Už teraz je veľmi ťažké, ak nie nemožné, hrať - bitrate sa výrazne znížil. Rámy sa strácajú, namiesto bežného obrazu vidíme „mydlo“. Rámy nie sú obnovené - nie je dostatok informácií na obnovenie. Ak GFN vôbec poskytuje zotavenie. Spôsob, akým sa služba agresívne snaží zachrániť situáciu bitovými rýchlosťami, vyvoláva pochybnosti o jej ochote pracovať s redundanciou.

hrať kľúč

Dochádza k skresleniu snímok, trhanie obrazu, to znamená, že prvky jednotlivých snímok sa opakujú. Je vidieť, že väčšina „rozbitého“ rámu bola obnovená z kúskov predchádzajúceho. To znamená, že nové rámy obsahujú časti starých rámov. Ale obraz je viac-menej jasný. Môžete to ovládať, ale v dynamických scénach, napríklad v boji, kde potrebujete dobrú reakciu, je to ťažké.

hlasná hra

Nezačalo sa.

Vír

Začalo to, ale bolo by lepšie nezačínať - nemôžete to hrať.

štadióny

Služba je v takýchto podmienkach nehrateľná. Dôvodom je nutnosť čakať na zostavenie rámu a slabá redundancia.

kto je víťaz?

Hodnotenie je, samozrejme, subjektívne. Môžete polemizovať v komentároch. No a prvé miesto, samozrejme, patrí lokálnemu PC. Práve preto, že cloudové služby sú mimoriadne citlivé na kvalitu siete a táto kvalita je v reálnom svete značne nestabilná, zostáva váš vlastný herný počítač bezkonkurenčný. Ale ak tam z nejakého dôvodu nie je, tak sa pozrite na hodnotenie.

  1. Lokálne PC. Očakáva sa.
  2. hrať kľúč
  3. GeForce Now
  4. Google Stadia
  5. Vír
  6. hlasná hra

Na záver mi dovoľte ešte raz pripomenúť, čo hrá hlavnú úlohu v cloudovom hraní z hľadiska odolnosti voči sieťovým problémom:

  • Aký sieťový protokol sa používa. Na prenos video streamu je najlepšie použiť UDP. Mám podozrenie, že Loudplay používa TCP, aj keď to neviem určite. Ale videli ste výsledky testov.
  • Je implementované kódovanie odolné voči hluku? (FEC - Forward Error Correction, známa aj ako redundancia). Dôležitý je aj spôsob, akým sa prispôsobuje strate paketov. Ako sme videli, kvalita obrazu výrazne závisí od implementácie.
  • Ako je nakonfigurované prispôsobenie bitovej rýchlosti. Ak služba zachraňuje situáciu predovšetkým bitovou rýchlosťou, má to na obraz silnejší vplyv. Kľúčom k úspechu je krehká rovnováha medzi manipuláciou s bitrate a redundanciou.
  • Ako je nastavené následné spracovanie. Ak sa vyskytnú problémy, rámy sa buď resetujú, obnovia alebo znova poskladajú s fragmentmi starých rámov.
  • Blízkosť serverov k hráčom a výkon hardvéru výrazne ovplyvňujú aj kvalitu hry, ale to platí aj pre ideálnu sieť. Ak je ping na servery príliš vysoký, nebudete môcť hrať pohodlne ani v ideálnej sieti. V tejto štúdii sme s pingom neexperimentovali.

Ako som sľúbil, tu je odkaz na nespracované videá z rôznych služieb vo všetkých prípadoch.

Zdroj: hab.com

Pridať komentár