Cloud gaming: stresstest 5 cloud gaming-diensten met slecht internet

Cloud gaming: stresstest 5 cloud gaming-diensten met slecht internet

Ongeveer een jaar geleden publiceerde ik een artikel “Cloud gaming: beoordeling uit de eerste hand van de mogelijkheden van services voor het spelen op zwakke pc’s”. Het analyseerde de voor- en nadelen van verschillende diensten voor cloudgamen op zwakke pc's. Ik heb elke dienst tijdens het spel getest en mijn algemene indruk gedeeld.

In de commentaren op dit en andere soortgelijke artikelen deelden lezers vaak hun indrukken van verschillende speldiensten. Er waren vaak tegengestelde meningen over hetzelfde. Voor sommigen is alles perfect, maar voor anderen kunnen ze niet spelen vanwege vertragingen en vastlopen. Toen kwam ik op het idee om de kwaliteit van deze diensten onder verschillende omstandigheden te evalueren - van ideaal tot verschrikkelijk. We hebben het over de kwaliteit van netwerken, want de gebruiker kan niet altijd bogen op een snel en probleemloos communicatiekanaal, toch? Over het algemeen valt onder de verlaging een beoordeling van diensten met een simulatie van verschillende kwaliteit van netwerkbeheer.

Wat is het probleem?

Zoals hierboven vermeld - als verbinding. Meer precies, in het verlies van pakketten tijdens het spel. Hoe hoger de verliezen, hoe meer problemen de gamer heeft, hoe minder tevreden hij is met het spel. Maar het komt zelden voor dat iemand een ideaal communicatiekanaal zoals glasvezel naar het apparaat heeft, en met een speciaal internet in plaats van gedeeld door alle bewoners van een flatgebouw.

Ter referentie: bij een verbindingssnelheid van 25 Mbit/s zijn er 1-40 datapakketten nodig om 50 frame/frame te verzenden. Hoe meer pakketten verloren gaan, hoe lager de kwaliteit van het beeld wordt en hoe merkbaarder vertragingen en bevriezingen zijn. In bijzonder ernstige gevallen wordt het simpelweg onmogelijk om te spelen.

Uiteraard kan de clouddienst zelf op geen enkele manier de breedte en stabiliteit van het gebruikerskanaal beïnvloeden (hoewel dat natuurlijk geweldig zou zijn). Maar er zijn verschillende manieren denkbaar om communicatieproblemen op te lossen. We zullen hieronder zien welke diensten het beste met het probleem omgaan.

Wat vergelijken we precies?

Normale pc (Intel i3-8100, GTX 1060 6 GB, 8GB RAM), GeForce Now (de Russische versie GFN met servers in Moskou), Luid afspelen, Draaikolk, Playkey, stadions. Op alle services behalve Stadia bestuderen we de kwaliteit van het spel in The Witcher. Google Stadia had deze game op het moment van schrijven nog niet, dus ik moest een andere game testen: Odyssey.

Wat zijn de testomstandigheden en -methodologie?

We testen vanuit Moskou. Provider - MGTS, tarief 500 Mbit/s, kabelaansluiting, geen WiFi. We hebben de grafische kwaliteitsinstellingen in services ingesteld op de standaardresolutie: FullHD.

Het programma gebruiken Onhandig We simuleren netwerkproblemen, namelijk het verlies van pakketten van verschillende soorten en maten.

Uniforme enkele verliezen. Dit is het geval wanneer slechts 1 pakket verloren gaat en de verliezen min of meer gelijkmatig worden verdeeld. Een uniform verlies van 10% betekent dus dat van de 100 pakketten elk 10e pakket verloren gaat, maar altijd slechts 1 pakket. Het probleem manifesteert zich meestal als er sprake is van vervorming (afscherming) op het kanaal van de client naar de server.

We testen uniforme verliezen van 5%, 10%, 25%.

Ongelijke massaverliezen, wanneer op een gegeven moment 40-70 pakketten op rij onmiddellijk verloren gaan. Dergelijke verliezen treden meestal op als er problemen zijn met de netwerkapparatuur (routers, enz.) van de gebruiker of de provider. Kan gepaard gaan met een bufferoverloop van netwerkapparatuur op de communicatielijn tussen gebruiker en server. WiFi met dikke muren kan ook dergelijke verliezen veroorzaken. Congestie van het draadloze netwerk als gevolg van de aanwezigheid van een groot aantal apparaten is een andere reden, zeer typisch voor kantoren en appartementsgebouwen.

We testen ongelijke verliezen van 0,01%, 0,1%, 0,5%.

Hieronder analyseer ik al deze gevallen en voeg ik een videovergelijking bij voor de duidelijkheid. En aan het einde van het artikel geef ik een link naar onbewerkte, onbewerkte gameplay-video's van alle services en cases - daar kun je de artefacten in meer detail bekijken, evenals technische informatie (in alle services behalve Stadia, gegevens van de technische console is opgenomen; Stadia heeft dit niet gevonden).

Laten we gaan!

Hieronder staan ​​7 stresstestscenario's en een video met tijdstempels (de video is voor het gemak hetzelfde, op elk punt begint het kijken vanaf het juiste moment). Helemaal aan het einde van het bericht staan ​​de originele video's voor elk van de services. Een goede vriend heeft mij geholpen bij het maken van de video, waarvoor ik hem bedank!

Scenario 1. Ideale omstandigheden. Geen verliezen in het netwerk

Alles is zoals het zou moeten zijn in een ideale wereld. Er zijn geen verbindingsproblemen, geen enkele onderbreking, geen interferentie, uw toegangspunt is het baken van internet. In dergelijke kasomstandigheden presteren vrijwel alle testdeelnemers goed.


PC

Voor elk scenario hebben we beelden uit de pc-game als referentie gebruikt. Het is duidelijk dat de kwaliteit van het netwerk er op geen enkele manier invloed op heeft; de game draait lokaal op de pc. De aanwezigheid van deze frames beantwoordt de vraag “is er een verschil bij het spelen in de cloud vergeleken met spelen op je pc.” Onder ideale omstandigheden wordt dit in ons geval door de meeste diensten niet gevoeld. We zullen hieronder niets over de pc schrijven, onthoud alleen dat deze bestaat.

GeForce nu

Alles is in orde, het beeld is duidelijk, het proces verloopt soepel, zonder friezen.

Draaikolk

Vortex bederft onze ideale wereld. Hij begon meteen problemen te krijgen - het beeld was slechter dan alle andere, en de "remmen" waren duidelijk zichtbaar. Een mogelijk probleem is dat de gameservers ver van Moskou staan, en dat de hardware op de gameservers zwakker lijkt en niet goed overweg kan met FullHD. Vortex presteerde in alle tests slecht. Als iemand een positieve ervaring heeft met het spelen met Vortex, schrijf dan in de reacties, deel waar je hebt gespeeld en hoe goed alles is verlopen.

Playkey

Alles is in orde, net als op een lokale pc. Zichtbare problemen zoals vastlopen, vertragingen, enz. Nee.

Luid afspelen

De service geeft een uitstekend beeld, er zijn geen zichtbare problemen.

stadions

De gamedienst van Google werkt perfect ondanks het feit dat deze geen servers in de Russische Federatie heeft, en Stadia werkt over het algemeen officieel niet in Rusland. Alles is echter in orde. Het is natuurlijk jammer dat “The Witcher” ten tijde van de game niet beschikbaar was op Stadia, maar wat kun je doen, ze namen “Odyssey” - ook veeleisend, ook over een man die mensen en dieren in stukken hakt.

Scenario nr. 2. Uniform verlies 5%

In deze test gaat ongeveer elke 100e van de 20 pakketten verloren. Ik wil u eraan herinneren dat u voor het renderen van één frame 40-50 pakketten nodig heeft.


GeForce nu

De service van Nvidia is prima, geen problemen. De afbeelding is iets waziger dan die van Playkey, maar The Witcher is nog steeds speelbaar.

Draaikolk

Dit is waar de zaken nog erger werden. Waarom is niet helemaal duidelijk; hoogstwaarschijnlijk wordt er niet in redundantie voorzien of is deze minimaal. Redundantie is het ruisbestendig coderen van doorgestuurde gegevens (FEC - Forward Error Correction). Deze technologie herstelt gegevens wanneer deze gedeeltelijk verloren zijn gegaan als gevolg van netwerkproblemen. Het kan op verschillende manieren worden geïmplementeerd en geconfigureerd, en afgaande op de resultaten zijn de makers van Vortex hierin niet geslaagd. Zelfs met minuscule verliezen kun je niet spelen. Tijdens daaropvolgende tests ‘stierf’ Vortex eenvoudigweg.

Playkey

Alles is in orde, er is geen significant verschil met ideale omstandigheden. Misschien helpt het dat de servers van het bedrijf in Moskou staan, waar de tests zijn uitgevoerd. Welnu, misschien is de bovengenoemde redundantie beter geconfigureerd.

Luid afspelen

De dienst werd plotseling onspeelbaar, ondanks relatief lage pakketverliezen. Wat kan er mis zijn? Ik ga ervan uit dat Loudplay werkt met het TCP-protocol. In dit geval, terwijl er geen ontvangstbevestiging van het pakket is, worden er geen andere pakketten verzonden, maar wacht het systeem op een ontvangstbevestiging. Als een pakket verloren gaat, is er dus geen bevestiging van de bezorging, worden er geen nieuwe pakketten verzonden, wordt de foto leeg en is het einde van het verhaal.

Maar als u UDP gebruikt, is bevestiging van ontvangst van het pakket niet nodig. Voor zover kan worden beoordeeld, gebruiken alle andere diensten behalve Loudplay het UDP-protocol. Als dit niet het geval is, corrigeer mij dan in de reacties.

stadions

Alles is speelbaar. Soms wordt het beeld korrelig en zijn er minimale reactievertragingen. Misschien werkt de ruis-immuuncodering niet perfect, vandaar de kleine artefacten wanneer de hele stream afspeelbaar is.

Scenario nr. 3. Uniform verlies 10%

We verliezen elk tiende pakketje per honderd. Dit is al een uitdaging voor de dienstensector. Om dergelijke verliezen effectief aan te pakken, zijn technologieën nodig om verloren gegevens te herstellen en/of opnieuw te verzenden.


GeForce nu

GeForce ervaart lichte dalingen in de kwaliteit van de videostream. Voor zover wij weten, reageert GFN op netwerkproblemen door deze te proberen te verzachten. De dienst verlaagt de bitsnelheid, dat wil zeggen het aantal bits voor gegevensoverdracht. Op deze manier probeert hij de belasting van een in zijn ogen onvoldoende kwalitatief netwerk te verminderen en een stabiele verbinding in stand te houden. En er zijn echt geen vragen over de stabiliteit, maar de videokwaliteit lijdt merkbaar. We zien aanzienlijke pixelvorming in de afbeelding. Omdat de modellering uitgaat van een constant verlies van 10% van de pakketten, helpt het verlagen van de bitrate niet echt, de situatie keert niet terug naar normaal.

In het echte leven zal het beeld hoogstwaarschijnlijk niet altijd slecht zijn, maar zweven. De verliezen namen toe - het beeld werd wazig; de verliezen werden verminderd - het beeld werd weer normaal, enzovoort. Dit is uiteraard niet goed voor de game-ervaring.

Playkey

Er zijn geen bijzondere problemen. Waarschijnlijk detecteert het algoritme problemen op het netwerk, bepaalt het niveau van de verliezen en richt het zich meer op redundantie dan op het verlagen van de bitrate. Het blijkt dat bij 10% uniforme verliezen de beeldkwaliteit vrijwel onveranderd blijft, het is onwaarschijnlijk dat de gebruiker dergelijke verliezen opmerkt.

Luid afspelen

Het werkt niet, het startte gewoon niet. Tijdens verdere tests herhaalde de situatie zich. Voor zover kan worden beoordeeld, past deze dienst zich op geen enkele manier aan netwerkproblemen aan. Misschien is het TCP-protocol de schuldige. Het kleinste verlies zal de service volledig lamleggen. Niet erg praktisch voor het echte leven natuurlijk.

Draaikolk

Ook grote problemen. In dergelijke omstandigheden kun je niet spelen, hoewel het beeld er nog steeds is en het personage blijft rennen, zij het met schokken. Ik denk dat het allemaal om dezelfde slecht geïmplementeerde of ontbrekende redundantie gaat. Pakketten gaan vaak verloren en kunnen niet worden hersteld. Als gevolg hiervan verslechtert de beeldkwaliteit tot een onspeelbaar niveau.

stadions

Helaas is alles hier slecht. Er is een onderbreking in de stroom, waardoor gebeurtenissen op het scherm schoksgewijs plaatsvinden, waardoor het uiterst moeilijk is om te spelen. Aangenomen kan worden dat het probleem, net als in het geval van Vortex, ontstond door minimale of geen redundantie. Ik heb overlegd met een paar vrienden die “op de hoogte zijn”, zij zeiden dat Stadia hoogstwaarschijnlijk wacht tot het frame volledig is gemonteerd. In tegenstelling tot GFN probeert het de situatie niet te redden door de bitrate volledig te verlagen. Als gevolg hiervan zijn er geen artefacten, maar verschijnen er bevriezingen en vertragingen (GFN heeft daarentegen minder friezen/vertragingen, maar vanwege de lage bitsnelheid is het beeld volkomen onaantrekkelijk).

Andere diensten lijken ook niet te wachten tot het frame volledig is gemonteerd, waarbij het ontbrekende onderdeel wordt vervangen door een fragment van het oude frame. Dit is een goede oplossing; in de meeste gevallen zal de gebruiker de catch niet opmerken (30+ frames veranderen per seconde), hoewel er soms artefacten kunnen optreden.

Scenario nr. 4. Uniform verlies 25%

Elk vierde pakket gaat verloren. Het wordt steeds enger en interessanter. Over het algemeen is normaal gamen in de cloud met zo’n ‘lekkende’ verbinding nauwelijks mogelijk. Hoewel sommige vergelijkingsdeelnemers het redden, zij het niet perfect.


GFN

De problemen zijn al behoorlijk merkbaar. Het beeld is korrelig en wazig. Je kunt nog steeds spelen, maar het is helemaal niet wat GFN in het begin aanbood. En dat is zeker niet hoe mooie games gespeeld moeten worden. Schoonheid kan niet langer worden gewaardeerd.

Playkey

Het spelen gaat goed. Er is sprake van vloeiendheid, al lijdt het beeld er wat onder. Overigens staan ​​linksboven de cijfers die aangeven hoeveel verloren pakketten zijn hersteld. Zoals u kunt zien, wordt 96% van de pakketten hersteld.

Luid afspelen

Ik ben niet begonnen.

Draaikolk

Je kunt zelfs met een heel sterk verlangen niet spelen, bevriezingen (het beeld bevriezen, de videostream hervatten vanaf een nieuw fragment) zijn zelfs nog merkbaarder.

stadions

De dienst is praktisch onspeelbaar. De redenen zijn hierboven al genoemd. Wachtend tot het frame is gemonteerd, is de redundantie minimaal, met dergelijke verliezen is dit niet voldoende.

Scenario #5. Ongelijkmatig verlies 0,01%.

Voor elke 10 pakketten gaan er 000 tot 1 pakketten op rij verloren. Dat wil zeggen dat we ongeveer 40 op de 70 frames verliezen. Het gebeurt wanneer de buffer van een netwerkapparaat vol is en alle nieuwe pakketten eenvoudigweg worden weggegooid (gedropt) totdat de buffer vrijkomt. Alle deelnemers aan de vergelijking, behalve Loudplay, hebben dergelijke verliezen tot op zekere hoogte verwerkt.


GFN

Het beeld heeft wat kwaliteit verloren en is wat troebel geworden, maar alles is redelijk speelbaar.

Playkey

Alles is heel goed. Het beeld is vloeiend, het beeld is goed. Je kunt zonder problemen spelen.

Luid afspelen

De eerste paar seconden was er een foto, de held rende zelfs. Maar de verbinding met de server werd vrijwel onmiddellijk verbroken. Oh, dit TCP-protocol. Door het allereerste verlies werd de dienst bij de wortel afgesneden.

Draaikolk

De gebruikelijke problemen worden waargenomen. Friezen, vertragingen en dat is alles. Het zou heel moeilijk zijn om onder dergelijke omstandigheden te spelen.

stadions

Speelbaar. Kleine minpuntjes zijn merkbaar, het beeld is soms korrelig.

Scenario nr. 6. Ongelijke verliezen 0,1%

Voor 10 pakketten gaan 000-10 pakketten op rij 40 keer verloren. Het blijkt dat we 70 van de 10 frames verliezen.

Ik zal meteen zeggen dat de meeste services merkbare problemen hebben. Het beeld trilt bijvoorbeeld, dus redundantie helpt hier niet. Dat wil zeggen, er is een positief effect bij het gebruik van redundantietechnologie, maar het is klein.

Feit is dat de reactietijd op gebruikersacties en het spel zelf beperkt is, de videostream moet continu zijn. Het is onmogelijk om de stream ondanks alle inspanningen van de services naar een acceptabele kwaliteit te herstellen.

Er verschijnen artefacten (een poging om het verlies van pakketten te compenseren, er zijn niet genoeg gegevens) en beeldschokken.


GFN

De kwaliteit van het beeld is merkbaar gedaald, de bitrate is duidelijk verlaagd, en behoorlijk aanzienlijk.

Playkey

Het gaat beter om - waarschijnlijk omdat de redundantie goed is geconfigureerd, en het bitrate-algoritme de verliezen niet erg hoog beschouwt en het beeld niet in een korrelige puinhoop verandert.

Luid afspelen

Ik ben niet begonnen.

Draaikolk

Het begon, maar met een vreselijke beeldkwaliteit. Schokken en verzakkingen zijn zeer merkbaar. Onder zulke omstandigheden is het nauwelijks mogelijk om te spelen.

stadions

Schokken zijn duidelijk zichtbaar, dit is een duidelijke indicatie dat er niet genoeg redundantie is. Het beeld loopt vast, er verschijnen andere frames en de videostream wordt onderbroken. In principe kun je spelen als je een groot verlangen hebt en een klinische neiging tot zelfmarteling.

Scenario nr. 7. Ongelijke verliezen 0,5%

Voor 10 keer 000 pakketten gaan er 50-40 pakketten op rij verloren. We verliezen 70 frames van de 50.

Een situatie van de “uniform verknipte” klasse. Je router vonkt, je ISP is uitgevallen, je draden worden door muizen gekauwd, maar je wilt nog steeds in de cloud spelen. Welke dienst moet u kiezen?


GFN

Het is al erg moeilijk, zo niet onmogelijk, om te spelen - de bitrate is sterk verlaagd. Frames gaan verloren, in plaats van een normale foto zien we “soap”. Frames zijn niet hersteld - er is niet genoeg informatie voor restauratie. Als GFN überhaupt in herstel voorziet. De manier waarop de dienst op agressieve wijze de situatie probeert te redden met bitrates doet twijfels rijzen over de bereidheid om met redundantie te werken.

Playkey

Er is sprake van framevervorming, het beeld trilt, dat wil zeggen dat elementen van individuele frames worden herhaald. Het is duidelijk dat het grootste deel van het ‘gebroken’ frame is hersteld uit stukken van het vorige. Dat wil zeggen dat de nieuwe frames delen van de oude frames bevatten. Maar het beeld is min of meer duidelijk. Je kunt het beheersen, maar in dynamische scènes, bijvoorbeeld tijdens een gevecht, waar je een goede reactie nodig hebt, is het moeilijk.

Luid afspelen

Ik ben niet begonnen.

Draaikolk

Het begon, maar het is beter om niet te beginnen - je kunt het niet spelen.

stadions

De service is in dergelijke omstandigheden onspeelbaar. De redenen zijn de noodzaak om te wachten tot het frame is gemonteerd en de slechte redundantie.

Wie is de winnaar?

De beoordeling is uiteraard subjectief. Je kunt ruzie maken in de reacties. Welnu, de eerste plaats gaat natuurlijk naar de lokale pc. Juist omdat clouddiensten extreem gevoelig zijn voor netwerkkwaliteit, en deze kwaliteit in de echte wereld nogal instabiel is, blijft je eigen gaming-pc ongeëvenaard. Maar als het om de een of andere reden er niet is, kijk dan naar de beoordeling.

  1. Lokale pc. Verwacht.
  2. Playkey
  3. GeForce nu
  4. Google Stadia
  5. Draaikolk
  6. Luid afspelen

Tot slot wil ik u er nogmaals aan herinneren wat een belangrijke rol speelt bij cloudgaming in termen van weerstand tegen netwerkproblemen:

  • Welk netwerkprotocol wordt gebruikt. Voor het verzenden van een videostream kunt u het beste UDP gebruiken. Ik vermoed dat Loudplay TCP gebruikt, hoewel ik dat niet zeker weet. Maar je zag de testresultaten.
  • Is er ruisbestendige codering geïmplementeerd? (FEC - Forward Error Correction, ook wel redundantie genoemd). De manier waarop het zich aanpast aan pakketverlies is ook belangrijk. Zoals we hebben gezien, hangt de kwaliteit van de foto in grote mate af van de implementatie.
  • Hoe bitrate-aanpassing is geconfigureerd. Als de dienst de situatie vooral met de bitrate opslaat, heeft dit een sterker effect op het beeld. De sleutel tot succes is het delicate evenwicht tussen bitratemanipulatie en redundantie.
  • Hoe de nabewerking is ingesteld. Als er zich problemen voordoen, worden de frames gereset, hersteld of opnieuw samengesteld met fragmenten van oude frames.
  • Nabijheid van servers tot gamers en hardwarekracht hebben ook een grote invloed op de kwaliteit van het spel, maar dit geldt ook voor een ideaal netwerk. Als de ping naar de servers te hoog is, kun je zelfs op een ideaal netwerk niet comfortabel spelen. In dit onderzoek hebben we niet met ping geëxperimenteerd.

Zoals beloofd is hier de link naar in alle gevallen onbewerkte video's van verschillende diensten.

Bron: www.habr.com

Voeg een reactie