{"id":89110,"date":"2020-07-18T19:42:10","date_gmt":"2020-07-18T17:42:10","guid":{"rendered":"https:\/\/prohoster.info\/blog\/administrirovanie\/obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej"},"modified":"2020-07-18T19:42:10","modified_gmt":"2020-07-18T17:42:10","slug":"obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej","title":{"rendered":"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/f624e995fbee3496f1f7890b98106df4.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<h2>Wprowadzenie<\/h2>\n<p><\/p>\n<p>Cze\u015b\u0107!<\/p>\n<p><\/p>\n<p>W tym artykule podziel\u0119 si\u0119 do\u015bwiadczeniem w budowie architektury mikroserwis\u00f3w dla projektu opartego na sieciach neuronowych.<\/p>\n<p><\/p>\n<p>Porozmawiamy o wymaganiach dotycz\u0105cych architektury, przyjrzymy si\u0119 r\u00f3\u017cnym diagramom strukturalnym, om\u00f3wimy ka\u017cdy z komponent\u00f3w gotowej architektury, a tak\u017ce ocenimy metryki techniczne rozwi\u0105zania.<\/p>\n<p><\/p>\n<p>\u017byczymy mi\u0142ej lektury!<\/p>\n<p><noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<h2>Kilka s\u0142\u00f3w o zadaniu i jego rozwi\u0105zaniu<\/h2>\n<p><\/p>\n<p>G\u0142\u00f3wna idea polega na tym, aby na podstawie zdj\u0119cia oceni\u0107 atrakcyjno\u015b\u0107 osoby w skali dziesi\u0119ciopunktowej.<\/p>\n<p><\/p>\n<p>W tym artykule odejdziemy od opisu zar\u00f3wno u\u017cywanych sieci neuronowych, jak i procesu przygotowania danych i uczenia. Niemniej jednak w jednym z kolejnych publikacji na pewno wr\u00f3cimy do analizy pipeline'u oceny na g\u0142\u0119bszym poziomie.<\/p>\n<p><\/p>\n<p>Teraz przejdziemy przez pipeline oceny na poziomie og\u00f3lnym, koncentruj\u0105c si\u0119 na interakcji mikroserwis\u00f3w w kontek\u015bcie og\u00f3lnej architektury projektu.\u00a0<\/p>\n<p><\/p>\n<p>Przy pracy nad pipeline'em oceny atrakcyjno\u015bci zadanie zosta\u0142o zdekomponowane na nast\u0119puj\u0105ce sk\u0142adniki:<\/p>\n<p><\/p>\n<ol>\n<li>Wydobywanie twarzy ze zdj\u0119\u0107<\/li>\n<li>Ocena ka\u017cdej z twarzy<\/li>\n<li>Renderowanie wyniku<\/li>\n<\/ol>\n<p><\/p>\n<p>Pierwsze zadanie realizowane jest przez wytrenowany <noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/abs\/1604.02878\">MTCNN<\/a><\/noindex>. Dla drugiego zadania zosta\u0142a wytrenowana sie\u0107 konwolucyjna w PyTorch, u\u017cyto jako backbone'a <noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/abs\/1512.03385\">ResNet34<\/a><\/noindex> \u2013 z r\u00f3wnowagi pomi\u0119dzy \u201ejako\u015bci\u0105 \/ szybko\u015bci\u0105 inferencji na CPU\u201d<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/181cc89a2cf5295bdcd4b838216f96d6.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><i>Funkcjonalny diagram pipeline'u oceny<\/i><\/p>\n<p><\/p>\n<h2>Analiza wymaga\u0144 dotycz\u0105cych architektury projektu<\/h2>\n<p><\/p>\n<p>W cyklu \u017cycia <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Machine_learning\">- wsparcie.<\/a><\/noindex> projektu etapy pracy nad architektur\u0105 i automatyzacj\u0105 wdra\u017cania modelu s\u0105 cz\u0119sto jednymi z najbardziej czasoch\u0142onnych i kosztownych zasobowo.<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/4949f217d31c863176122ed87b43a88c.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><i>Cykl \u017cycia projektu ML<\/i><\/p>\n<p><\/p>\n<p>Ten projekt nie jest wyj\u0105tkiem \u2013 podj\u0119to decyzj\u0119 o opakowaniu pipeline'u oceny w serwis online, w zwi\u0105zku z czym nale\u017ca\u0142o zg\u0142\u0119bi\u0107 architektur\u0119. Wyznaczono nast\u0119puj\u0105ce podstawowe wymagania:<\/p>\n<p><\/p>\n<ol>\n<li>Jednolity magazyn log\u00f3w \u2013 wszystkie us\u0142ugi powinny zapisywa\u0107 logi w jednym miejscu, powinny by\u0107 \u0142atwe do analizy<\/li>\n<li>Mo\u017cliwo\u015b\u0107 horyzontalnego skalowania us\u0142ugi oceny - jako najbardziej prawdopodobny w\u0105skie gard\u0142o<\/li>\n<li>Na ocen\u0119 ka\u017cdego zdj\u0119cia powinno by\u0107 przeznaczone tej samej ilo\u015bci zasob\u00f3w procesora - aby unikn\u0105\u0107 odchyle\u0144 w rozk\u0142adzie czasu na inferencj\u0119<\/li>\n<li>Szybkie (prze)wdro\u017cenie zar\u00f3wno konkretnych us\u0142ug, jak i ca\u0142ego stosu<\/li>\n<li>Mo\u017cliwo\u015b\u0107, w razie potrzeby, u\u017cycia wsp\u00f3lnych obiekt\u00f3w w r\u00f3\u017cnych us\u0142ugach<\/li>\n<\/ol>\n<p><\/p>\n<h2>Architektura<\/h2>\n<p><\/p>\n<p>Po analizie wymaga\u0144 sta\u0142o si\u0119 oczywiste, \u017ce architektura mikroserwisowa idealnie si\u0119 wpasowuje.<\/p>\n<p><\/p>\n<p>Aby pozby\u0107 si\u0119 niepotrzebnego b\u00f3lu g\u0142owy, jako frontend wybrano Telegram API.<\/p>\n<p><\/p>\n<p>Na pocz\u0105tku rozwa\u017cmy diagram strukturalny gotowej architektury, nast\u0119pnie przejdziemy do opisu ka\u017cdego z komponent\u00f3w oraz sformalizujemy proces skutecznego przetwarzania obrazu.<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/163ec019341e9d71a1e0854c6026bd01.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><i>Diagram strukturalny gotowej architektury<\/i><\/p>\n<p><\/p>\n<p>Porozmawiajmy bardziej szczeg\u00f3\u0142owo o ka\u017cdym z komponent\u00f3w diagramu, oznaczymy ich Single Responsibility w procesie oceny obrazu.<\/p>\n<p><\/p>\n<h3>Mikroserwis \u201eattrai-telegram-bot\u201d<\/h3>\n<p><\/p>\n<p>Ten mikroserwis inkapsuluje wszystkie interakcje z API Telegrama. Mo\u017cna wyr\u00f3\u017cni\u0107 dwa g\u0142\u00f3wne scenariusze \u2013 praca z obrazem u\u017cytkownika i praca z wynikiem potoku oceny. Rozwa\u017cymy oba scenariusze w og\u00f3lnym zarysie.<\/p>\n<p><\/p>\n<p>Przy otrzymaniu wiadomo\u015bci u\u017cytkownika z obrazem:<\/p>\n<p><\/p>\n<ol>\n<li>Przeprowadzana jest filtracja, sk\u0142adaj\u0105ca si\u0119 z nast\u0119puj\u0105cych sprawdze\u0144:\n<ul>\n<li>Obecno\u015bci optymalnego rozmiaru obrazu<\/li>\n<li>Liczby obraz\u00f3w u\u017cytkownika, kt\u00f3re ju\u017c znajduj\u0105 si\u0119 w kolejce<\/li>\n<\/ul>\n<\/li>\n<li>Po przej\u015bciu wst\u0119pnej filtracji obraz jest zapisywany w wolumenie Docker<\/li>\n<li>Do kolejki \u201eto_estimate\u201d dodawana jest taska, w kt\u00f3rej znajduje si\u0119 mi\u0119dzy innymi \u015bcie\u017cka do obrazu znajduj\u0105cego si\u0119 w naszym wolumenie<\/li>\n<li>Je\u015bli powy\u017csze etapy zostan\u0105 pomy\u015blnie uko\u0144czone \u2013 u\u017cytkownik otrzyma wiadomo\u015b\u0107 z przybli\u017conym czasem przetwarzania obrazu, kt\u00f3ry obliczany jest na podstawie liczby zada\u0144 w kolejce. W przypadku b\u0142\u0119du u\u017cytkownik zostanie wyra\u017anie o tym poinformowany \u2013 poprzez wys\u0142anie wiadomo\u015bci z informacj\u0105 o tym, co mog\u0142o p\u00f3j\u015b\u0107 nie tak. <\/li>\n<\/ol>\n<p><\/p>\n<p>Ten mikroserwis, jako worker Celery, nas\u0142uchuje kolejk\u0119 \u201eafter_estimate\u201d, kt\u00f3ra jest przeznaczona do zada\u0144, kt\u00f3re przesz\u0142y przez potok oceny.<\/p>\n<p><\/p>\n<p>Przy otrzymaniu nowego zadania z \u201eafter_estimate\u201d:<\/p>\n<p><\/p>\n<ol>\n<li>Je\u015bli obraz zosta\u0142 przetworzony pomy\u015blnie \u2013 wysy\u0142amy wynik do u\u017cytkownika, je\u015bli nie \u2013 informujemy o b\u0142\u0119dzie<\/li>\n<li>Usuwamy obraz, kt\u00f3ry jest wynikiem potoku oceny<\/li>\n<\/ol>\n<p><\/p>\n<h3>Mikroserwis oceny \u201eattrai-estimator\u201d<\/h3>\n<p><\/p>\n<p>Ten mikroserwis jest workerem Celery i inkapsuluje wszystko, co zwi\u0105zane jest z potokiem oceny obrazu. Algorytm dzia\u0142ania jest jeden \u2013 przeanalizujemy go.<\/p>\n<p><\/p>\n<p>Przy otrzymaniu nowego zadania z \u201eto_estimate\u201d:<\/p>\n<p><\/p>\n<ol>\n<li>Przepuszczamy obraz przez potok oceny:\n<ol>\n<li>\u0141adujemy obraz do pami\u0119ci<\/li>\n<li>Dostosowujemy obraz do wymaganych rozmiar\u00f3w<\/li>\n<li>Wykrywamy wszystkie twarze (MTCNN)<\/li>\n<li>Oceniamy wszystkie twarze (opakowujemy wcze\u015bniej znalezione twarze w batch i wykonujemy inferencj\u0119 ResNet34)<\/li>\n<li>Renderujemy ostateczny obraz\n<ol>\n<li>Rysujemy bounding boxy<\/li>\n<li>Rysujemy oceny<\/li>\n<\/ol>\n<\/li>\n<\/ol>\n<\/li>\n<li>Usuwamy oryginalny obraz u\u017cytkownika<\/li>\n<li>Zapisujemy wynik z pipeline'u oceny<\/li>\n<li>Dodajemy zadanie do kolejki 'after_estimate', kt\u00f3r\u0105 monitoruje wcze\u015bniej opisany mikrous\u0142ug 'attrai-telegram-bot'<\/li>\n<\/ol>\n<p><\/p>\n<h3>Graylog (+ mongoDB + Elasticsearch)<\/h3>\n<p><\/p>\n<p><noindex><a rel=\"nofollow\" href=\"https:\/\/www.graylog.org\/\">Graylog<\/a><\/noindex> \u2014 to rozwi\u0105zanie do centralnego zarz\u0105dzania logami. W tym projekcie by\u0142o u\u017cywane zgodnie z jego przeznaczeniem.<\/p>\n<p><\/p>\n<p>Postawili\u015bmy na niego, a nie na znany wszystkim <noindex><a rel=\"nofollow\" href=\"https:\/\/www.elastic.co\/what-is\/elk-stack\">ELK<\/a><\/noindex> styk, z powodu wygody pracy z nim w Pythonie. Wszystko, co musimy zrobi\u0107, aby logowa\u0107 w Graylog, to doda\u0107 GELFTCPHandler z pakietu <noindex><a rel=\"nofollow\" href=\"https:\/\/pypi.org\/project\/graypy\/\">graypy<\/a><\/noindex> do pozosta\u0142ych handler\u00f3w root loggera naszego mikrous\u0142ugi w Pythonie.<\/p>\n<p><\/p>\n<p>Jako osoba, kt\u00f3ra wcze\u015bniej pracowa\u0142a tylko ze stakiem ELK, w og\u00f3le mia\u0142em pozytywne do\u015bwiadczenia podczas pracy z Graylog. Jedyn\u0105 rzecz\u0105, kt\u00f3ra zawodzi, jest przewaga funkcji Kibany nad interfejsem webowym Graylog.<\/p>\n<p><\/p>\n<h3>RabbitMQ<\/h3>\n<p><\/p>\n<p><noindex><a rel=\"nofollow\" href=\"https:\/\/www.rabbitmq.com\/\">RabbitMQ<\/a><\/noindex> \u2014 to broker wiadomo\u015bci oparty na protokole AMQP.<\/p>\n<p><\/p>\n<p>W tym projekcie by\u0142 u\u017cywany jako <noindex><a rel=\"nofollow\" href=\"https:\/\/docs.celeryproject.org\/en\/latest\/getting-started\/brokers\/#broker-overview\">najbardziej stabilny i sprawdzony w czasie<\/a><\/noindex> broker dla Celery i dzia\u0142a\u0142 w trybie durable.<\/p>\n<p><\/p>\n<h3>Redis<\/h3>\n<p><\/p>\n<p><noindex><a rel=\"nofollow\" href=\"https:\/\/redis.io\/\">Redis<\/a><\/noindex> \u2014 to baza danych NoSQL, kt\u00f3ra operuje na strukturach danych typu 'klucz \u2014 warto\u015b\u0107'<\/p>\n<p><\/p>\n<p>Czasami zachodzi potrzeba u\u017cycia wsp\u00f3lnych obiekt\u00f3w w r\u00f3\u017cnych mikrous\u0142ugach Pythona, realizuj\u0105cych jakie\u015b struktury danych.<\/p>\n<p><\/p>\n<p>Na przyk\u0142ad, w Redis przechowywany jest hashmap w postaci 'telegram_user_id =&gt; liczba aktywnych zada\u0144 w kolejce', co pozwala ograniczy\u0107 liczb\u0119 zapyta\u0144 od jednego u\u017cytkownika do okre\u015blonej warto\u015bci i tym samym zapobiega atakom DoS.<\/p>\n<p><\/p>\n<h3>Formalizujemy proces pomy\u015blnego przetwarzania obrazu<\/h3>\n<p><\/p>\n<ol>\n<li>U\u017cytkownik wysy\u0142a obraz do bota Telegram<\/li>\n<li>'attrai-telegram-bot' otrzymuje wiadomo\u015b\u0107 z Telegram API i j\u0105 analizuje<\/li>\n<li>Zadanie z obrazem dodawane jest do asynchronicznej kolejki 'to_estimate'<\/li>\n<li>U\u017cytkownik otrzymuje wiadomo\u015b\u0107 z przewidywanym czasem oceny<\/li>\n<li>'attrai-estimator' pobiera zadanie z kolejki 'to_estimate', przetwarza je przez pipeline oceny i przekazuje zadanie do kolejki 'after_estimate'<\/li>\n<li>'attrai-telegram-bot', monitoruj\u0105cy kolejk\u0119 'after_estimate', wysy\u0142a wynik do u\u017cytkownika<\/li>\n<\/ol>\n<p><\/p>\n<h2>DevOps<\/h2>\n<p><\/p>\n<p>Wreszcie, po przegl\u0105dzie architektury, mo\u017cemy przej\u015b\u0107 do nie mniej interesuj\u0105cej cz\u0119\u015bci \u2014 DevOps<\/p>\n<p><\/p>\n<h3>Czy to oznacza, \u017ce mo\u017cna u\u017cywa\u0107 tego samego pliku docker-compose w<\/h3>\n<p><\/p>\n<p>\u00a0<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/ba539d1c8197c7961d6e5e6a5c7e83c6.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><noindex><a rel=\"nofollow\" href=\"https:\/\/docs.docker.com\/engine\/swarm\/\">Czy to oznacza, \u017ce mo\u017cna u\u017cywa\u0107 tego samego pliku docker-compose w <\/a><\/noindex>\u00a0\u2014 system klasteryzacji, kt\u00f3rego funkcjonalno\u015b\u0107 jest realizowana wewn\u0105trz Docker Engine i dost\u0119pna od razu po wyj\u0119ciu z pude\u0142ka.<\/p>\n<p><\/p>\n<p>Dzi\u0119ki \u00abroju\u00bb, wszystkie w\u0119z\u0142y naszego klastra mo\u017cna podzieli\u0107 na 2 typy \u2013 worker i manager. Na maszynach pierwszego typu uruchamiane s\u0105 grupy kontener\u00f3w (staki), maszyny drugiego typu odpowiadaj\u0105 za skalowanie, balansowanie i <noindex><a rel=\"nofollow\" href=\"https:\/\/docs.docker.com\/engine\/swarm\/#feature-highlights\">inne \u015bwietne funkcje<\/a><\/noindex>. Mened\u017cerowie domy\u015blnie s\u0105 tak\u017ce workerami.<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/d195e2aab6d3552652102c2b5246abfc.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><i>Klaster z jednym liderem managerem i trzema workerami<\/i><\/p>\n<p><\/p>\n<p>Minimalny mo\u017cliwy rozmiar klastra to 1 w\u0119ze\u0142, jedyna maszyna b\u0119dzie jednocze\u015bnie pe\u0142ni\u0107 rol\u0119 lidera managera i workera. W oparciu o rozmiar projektu oraz minimalne wymagania dotycz\u0105ce odporno\u015bci na awarie podj\u0119to decyzj\u0119 o wykorzystaniu tego podej\u015bcia.<\/p>\n<p><\/p>\n<p>Wyprzedzam fakty m\u00f3wi\u0105c, \u017ce od czasu pierwszej produkcyjnej dostawy w po\u0142owie czerwca nie by\u0142o problem\u00f3w zwi\u0105zanych z organizacj\u0105 tego klastra (ale to nie oznacza, \u017ce taka organizacja jest w og\u00f3le dopuszczalna w dowolnych projektach \u015bredniej i du\u017cej wielko\u015bci, kt\u00f3re maj\u0105 wymagania dotycz\u0105ce odporno\u015bci na awarie).<\/p>\n<p><\/p>\n<h3>Docker Stack<\/h3>\n<p><\/p>\n<p>W trybie \u00abroju\u00bb za wdro\u017cenie stack\u00f3w (zestaw\u00f3w us\u0142ug docker) odpowiada <noindex><a rel=\"nofollow\" href=\"https:\/\/docs.docker.com\/engine\/reference\/commandline\/stack\/\">docker stack<\/a><\/noindex><\/p>\n<p><\/p>\n<p>Obs\u0142uguje konfiguracje docker-compose, pozwalaj\u0105c dodatkowo na u\u017cycie parametr\u00f3w wdro\u017cenia.\u00a0\u00a0<\/p>\n<p><\/p>\n<p>Na przyk\u0142ad, dzi\u0119ki tym parametrom ograniczono zasoby na ka\u017cdy z instancji mikroserwisu oceny (przydzielamy na N instancji N rdzeni, w samym mikroserwisie ograniczamy liczb\u0119 rdzeni u\u017cywanych przez PyTorch do jednego)<\/p>\n<p><\/p>\n<pre><code class=\"plaintext\">attrai_estimator:\n  image: 'erqups\/attrai_estimator:1.2'\n  deploy:\n    replicas: 4\n    resources:\n      limits:\n        cpus: '4'\n    restart_policy:\n      condition: on-failure\n      \u2026<\/code><\/pre>\n<p><\/p>\n<p>Wa\u017cne jest, aby zauwa\u017cy\u0107, \u017ce Redis, RabbitMQ i Graylog to us\u0142ugi stateful i nie b\u0119dzie tak \u0142atwo skalowa\u0107 ich jak \u00abattrai-estimator\u00bb<\/p>\n<p><\/p>\n<h3>Wyprzedzaj\u0105c pytanie \u2013 dlaczego nie Kubernetes?<\/h3>\n<p><\/p>\n<p>Wydaje si\u0119, \u017ce u\u017cycie Kubernetes w projektach ma\u0142ych i \u015brednich to nadmiar, ca\u0142y potrzebny funkcjonalno\u015b\u0107 mo\u017cna uzyska\u0107 z Docker Swarm, kt\u00f3ry jest stosunkowo przyjazny dla u\u017cytkownika jako orkiestrator kontener\u00f3w i ma niski pr\u00f3g wej\u015bcia.<\/p>\n<p><\/p>\n<h3>Infrastruktura<\/h3>\n<p><\/p>\n<p>Wszystko to zosta\u0142o wdro\u017cone na VDS o nast\u0119puj\u0105cych charakterystykach:<\/p>\n<p><\/p>\n<ul>\n<li>CPU: 4 rdzenie Intel&reg; Xeon&reg; Gold 5120 CPU @ 2.20GHz<\/li>\n<li>RAM: 8 GB<\/li>\n<li>SSD: 160 GB<\/li>\n<\/ul>\n<p><\/p>\n<p>Po lokalnym te\u015bcie obci\u0105\u017ceniowym wydawa\u0142o si\u0119, \u017ce przy powa\u017cnym nap\u0142ywie u\u017cytkownik\u00f3w ta maszyna b\u0119dzie wystarczaj\u0105ca.<\/p>\n<p><\/p>\n<p>Jednak zaraz po wdro\u017ceniu opublikowa\u0142em link do jednej z najpopularniejszych w krajach WNP stron z obrazkami (tak, tej w\u0142a\u015bnie), po czym ludzie si\u0119 zainteresowali i w ci\u0105gu kilku godzin serwis pomy\u015blnie przetworzy\u0142 dziesi\u0105tki tysi\u0119cy obraz\u00f3w. W momencie szczytowym zasoby CPU i RAM nie by\u0142y wykorzystywane nawet w po\u0142owie.<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/458d74dae00d455fbce1ca6a197325d7.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/e9383c47369c606d26e89a69f4d22b5a.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<h3>Jeszcze troch\u0119 grafiki<\/h3>\n<p><\/p>\n<p>Liczba unikalnych u\u017cytkownik\u00f3w i zapyta\u0144 o oceny od momentu wdro\u017cenia, w zale\u017cno\u015bci od dnia<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/7112c78c8400d2ac73562243b16a015b.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p>Rozk\u0142ad czasu inferencji pipeline'u oceny<\/p>\n<p>\n<img decoding=\"async\" alt=\"Og\u00f3lny przegl\u0105d architektury us\u0142ugi w celu oceny wygl\u0105du opartego na sieciach neuronowych\" src=\"\/wp-content\/uploads\/2020\/07\/4c892ce607c3ff3db466459729dd0876.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<h2>Wnioski<\/h2>\n<p><\/p>\n<p>Podsumowuj\u0105c, mog\u0119 powiedzie\u0107, \u017ce architektura i podej\u015bcie do orkiestracji kontener\u00f3w ca\u0142kowicie si\u0119 sprawdzi\u0142y \u2014 nawet w momentach szczytowych nie by\u0142o awarii ani spowolnie\u0144 w czasie przetwarzania.\u00a0<\/p>\n<p><\/p>\n<p>My\u015bl\u0119, \u017ce projekty ma\u0142ych i \u015brednich rozmiar\u00f3w, kt\u00f3re wykorzystuj\u0105 w swoim procesie inferencj\u0119 w czasie rzeczywistym sieci neuronowych na CPU, mog\u0105 skutecznie przyj\u0105\u0107 praktyki opisane w tym artykule.<\/p>\n<p><\/p>\n<p>Dodam, \u017ce pierwotnie artyku\u0142 by\u0142 wi\u0119kszy, ale aby nie publikowa\u0107 d\u0142ugiego tekstu, postanowi\u0142em pomin\u0105\u0107 niekt\u00f3re kwestie \u2014 wr\u00f3cimy do nich w nast\u0119pnych publikacjach.<\/p>\n<p><\/p>\n<p>Mo\u017cna poklika\u0107 bota na Telegramie \u2014 @AttraiBot, b\u0119dzie dzia\u0142a\u0142 przynajmniej do ko\u0144ca jesieni 2020 roku. Przypominam \u2014 \u017cadne dane u\u017cytkownik\u00f3w nie s\u0105 przechowywane \u2014 ani oryginalne obrazy, ani wyniki pipeline'u oceny \u2014 wszystko jest usuwane po przetworzeniu.<\/p>\n<p>\u0179r\u00f3d\u0142o: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/511332\/\">habr.com<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u0412\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u0435 \u041f\u0440\u0438\u0432\u0435\u0442! \u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u043f\u043e\u0434\u0435\u043b\u044e\u0441\u044c \u043e\u043f\u044b\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f \u043c\u0438\u043a\u0440\u043e\u0441\u0435\u0440\u0432\u0438\u0441\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0434\u043b\u044f \u043f\u0440\u043e\u0435\u043a\u0442\u0430, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0449\u0435\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438. \u041f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f\u0445 \u043a \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435, \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0434\u0438\u0430\u0433\u0440\u0430\u043c\u043c\u044b, \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u043e\u0432 \u0433\u043e\u0442\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0446\u0435\u043d\u0438\u043c \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u044f. \u041f\u0440\u0438\u044f\u0442\u043d\u043e\u0433\u043e \u0447\u0442\u0435\u043d\u0438\u044f! \u041f\u0430\u0440\u0443 \u0441\u043b\u043e\u0432 \u043e \u0437\u0430\u0434\u0430\u0447\u0435 \u0438 \u0435\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0438 \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f \u2013 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0444\u043e\u0442\u043e \u0434\u0430\u0442\u044c \u043e\u0446\u0435\u043d\u043a\u0443 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":89111,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-89110","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.1.1 - aioseo.com -->\n\t<meta name=\"description\" content=\".\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.1.1\" \/>\n\t\t<meta property=\"og:locale\" content=\"pl_PL\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e\u0431\u0449\u0438\u0439 \u043e\u0431\u0437\u043e\u0440 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u0432\u043d\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\".\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2020-07-18T17:42:10+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2020-07-18T17:42:10+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Og\u00f3lny przegl\u0105d architektury serwisu do oceny wygl\u0105du na podstawie sieci neuronowych | ProHoster","description":".","canonical_url":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pl_PL","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e\u0431\u0449\u0438\u0439 \u043e\u0431\u0437\u043e\u0440 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u0432\u043d\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 | ProHoster","og:description":".","og:url":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/obshhij-obzor-arhitektury-servisa-dlya-oczenki-vneshnosti-na-osnove-nejronnyh-setej","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2020-07-18T17:42:10+00:00","article:modified_time":"2020-07-18T17:42:10+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"89110","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":null,"breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-02-28 13:16:27","updated":"2022-09-29 06:10:39","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/89110","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/comments?post=89110"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/89110\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media\/89111"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media?parent=89110"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/categories?post=89110"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/tags?post=89110"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}