Iz outsoursinga u razvoj (Deo 2)

U prethodnom članku, pričao sam o pozadini stvaranja Veliam-a i o rešenju za njegovo širenje putem SaaS sistema. U ovom članku ću govoriti o tome šta je sve trebalo učiniti da proizvod postane javno dostupan, a ne lokalni. O tome kako je počelo širenje i s kojima smo se problemima suočili.

Planiranje

Trenutni serverski deo za korisnike je bio na Linux-u. U skoro svakoj organizaciji postoje Windows serveri, što se ne može reći za Linux. Glavna prednost Veliam-a je daljinsko povezivanje sa serverima i mrežnom opremom iza NAT-a. Međutim, ova funkcionalnost bila je vrlo strogo vezana za to da rutera mora biti MikroTik. To očigledno ne bi zadovoljilo mnoge. Prvo sam razmišljao o dodavanju podrške za rutere najčešće korišćenih proizvođača. Ali sam shvatio da je to beskonačna trka za proširenjem liste podržanih firmi. Štaviše, čak i oni koji su već podržani mogu od modela do modela imati različit skup komandi za promenu NAT pravila. Jedini izlaz iz situacije video sam u VPN-u.

Budući da smo odlučili distribuirati proizvod, ali ne kao open source, nismo mogli uključiti različite biblioteke s otvorenim licencama poput GPL. To je u stvari posebna tema; nakon donošenja odluke o prodaji proizvoda, morali smo pregledati polovinu biblioteka zbog toga što su bile GPL. Kada smo razvijali za sebe, to je bilo u redu. Ali nije odgovaralo za distribuciju. Prvi VPN koji pada na pamet je OpenVPN. No, on je GPL. Postojala je i opcija koristiti japanski SoftEther VPN. Njegova licenca je dopuštala uključivanje u naš proizvod. Nakon nekoliko dana različitih testova kako integrirati na način da korisniku ne treba ništa podešavati ili znati o SoftEther VPN-u, dobili smo prototip. Sve je bilo kako treba. No, iz nekog razloga, ova shema nas je opet zbunjivala i na kraju smo je odbacili. Naravno, odbacili smo je nakon što smo smislili drugu opciju. Na kraju smo sve realizovali na običnim TCP vezama. Dio veza radi preko koordinatora, a dio direktno putem tehnologije Nat Hole Punching (NHP), koja je također implementirana u Free Pascalu. Moram reći da o NHP-u prije nisam ni čuo. Nije mi padalo na pamet da se mogu povezati dva mrežna uređaja, oba iza NAT-a, direktno. Pročitao sam temu, shvatio princip rada i počeo pisati. Ono što je bilo zamišljeno je ostvareno; korisnik se jednim klikom povezuje na željeni uređaj iza NAT-a putem RDP-a, SSH-a ili Winbox-a bez unošenja lozinki i podešavanja VPN-a. Pri tome većina tih veza prolazi mimo našeg koordinatora, što pozitivno utiče na ping i troškove održavanja ovih veza.

Prevođenje serverskog dela sa Linuxa na Windows

Bilo je nekoliko problema tokom prelaska na Windows. Prvi je — ugrađeni wmic u Windows ne omogućava izvođenje WQL upita. U našem sistemu sve je već bilo zasnovano na njima. I bilo je još nešto, ali sada se ne mogu tačno setiti zašto smo konačno odustali od njegove upotrebe. Moguće su razlike između verzija Windows-a. Drugi problem je — višedretvenost. Ne nalazeći dobru spoljnu alatku pod 'prihvatljivom' licencom za nas, ponovo sam pokrenuo IDE Lazarus. I napisao potrebnu alatku. Na ulazu se daje potrebna lista objekata i koje konkretno upite treba izvršiti, a kao odgovor dobijam podatke. I sve to u višedretvenom režimu. Odlično.

Nakon što sam podesio pthreads za PHP na Windows, mislio sam da će sve odmah početi raditi, ali nije bilo tako. Nakon nekog vremena debugiranja, shvatio sam da pthreads izgleda radi, ali u našem sistemu nije funkcionisao. Postalo je jasno da postoji neka posebnost u radu s pthreads na Windowsu. Tako je i bilo. Pročitao sam dokumentaciju, i tamo je pisalo da je za Windows broj niti ograničen, a koliko se sećam, to je implicitno. To je postalo problem. Jer, kada sam počeo smanjivati broj niti pri kojima je aplikacija radila, ona je obavljala posao veoma sporo. Ponovo sam otvorio IDE i toj istoj utiliti dodan je funkcionalnost za višedretveno pingovanje objekata. I, uz to, dodato je i skeniranje portova. U suštini, nakon toga, potreba za pthreads za PHP nestala je, i više se ne koristi. Kasnije su ovoj utiliti dodani još neki funkcionalnosti i ona radi i danas. Nakon toga, napravljen je instalater za Windows, koji je uključivao Apache, PHP, MariaDB, samu PHP aplikaciju i set alata za interakciju sa sistemom, napisanih u Free Pascal-u. Što se tiče instalatera, mislio sam da ću brzo rešiti ovo pitanje, jer je to izuzetno rasprostranjeno i potrebno gotovo svakom softveru. Bilo je ili da nisam dobro tražio, ili nešto drugo. Našao sam stalno proizvode koji su bili ili nedovoljno fleksibilni, ili skupi, a opet takođe nefleksibilni. Ipak, pronašao sam besplatan instalater, u kojem se može unapred predvideti bilo koja želja. To je InnoSetup. Pišem ovde o tome, jer sam morao da potražim, možda ću nekom uštedeti vreme.

Odustajanje od plugina u korist svog klijenta

Ranije sam pisao da je klijentski deo bio pretraživač sa "plugin-om". Bilo je vremena kada se Chrome ažurirao i dizajn malo iskrivio, ili kada se Windows ažurirao i custom uri sheme su se gubile. Zaista nisam želeo da imam ovakve iznenađenja u javnoj verziji proizvoda. Takođe, custom uri su počeli da se gube posle svake Windows nadogradnje. Microsoft je jednostavno brisao sve ne-njene grane u potrebnom odeljku. Takođe, Google Chrome sada ne dopušta da se zapamti izbor da li da se otvori aplikacija iz custom uri, i postavlja ovo pitanje svaki put kada se klikne na objekat praćenja. U suštini, bilo je potrebno normalno interagovanje sa lokalnim sistemom korisnika, što pretraživač ne pruža. Najjednostavnija opcija u takvoj shemi izgleda kao da se jednostavno napravi svoj pretraživač, kao što mnogi danas rade preko Electron-a. No, mnoge stvari su već napisane na Free Pascal-u, uključujući i serverski deo, pa smo odlučili da i klijent napravimo na istom jeziku, umesto da pravimo zoološki vrt. Tako je napisan klijent sa Chromium-om na brodu. Nakon toga, počeo je da se obogaćuje raznim oblogama.

Izdanje

Napokon smo izabrali ime za sistem. Stalno smo razmatrali različite opcije dok smo prešli s lokalne verzije na SaaS. Kako smo prvobitno planirali ulazak ne samo na domaće tržište, glavni kriterij za izbor imena bila je dostupnost slobodnog ili ne previše skupog domena u zoni “.com”. Neke funkcije/module još nisu bile prenesene iz lokalne verzije u Veliam, ali smo odlučili da ćemo lansirati sa trenutnom funkcionalnošću, a ostalo ćemo dovršiti u formi ažuriranja. U prvoj verziji nije bilo HelpDesk-a, Veliam Connector-a, nije bilo moguće menjati pragove za okidanje obaveštenja i mnogo toga drugog. Kupili smo Code Sign Certificate, potpisali klijentski i serverski deo. Napravili smo sajt za proizvod, započeli procedure registracije softvera, zaštitnog znaka itd. Ukratko, spremni smo da počnemo. Lagana euforija zbog urađenog posla i zbog toga što će možda neko koristiti tvoj proizvod, iako nismo imali sumnje u to. I tu je stop. Partner je rekao da ne možemo ući na tržište bez obaveštenja u Messenger-e. Bez mnogo drugih stvari može, ali ne i bez ovog. Nakon kratkih rasprava, dodata je integracija s Telegram-om, što nam je odgovaralo. Od svih trenutnih Messenger-a, to je jedini koji besplatno omogućava pristup svom API-ju bez nekih složenih procedura odobravanja. WhatsApp, s druge strane, preporučuje kontaktiranje provajdera koji naplaćuju dobre novce za korišćenje njihovih usluga, a svi naši zahtevi za omogućavanje pristupa bez posrednika su ignorisani. A Viber… Ne znam ko ga sada koristi, pošto spam i reklama tamo prelivaju. Krajem decembra, nakon niza unutrašnjih testiranja i testiranja među prijateljima, otvorili smo registraciju za sve i postavili softver za preuzimanje.

Početak distribucije

Od samog početka smo shvatali da nam je potreban manji broj korisnika sistema kako bi već u operativnom režimu testirali proizvod i pružili neku prvu povratnu informaciju. Nekoliko kupljenih postova na VK donelo je rezultate. Počele su prve registracije.

Ovde treba reći da je vrlo teško ući na tržište kada vaša kompanija nema poznato ime, a pritom pružati funkcionalnost bezagentnog monitoringa, u koju treba uneti naloge sa svojih servera i radnih stanica. To mnoge ljude plaši. Od samog početka smo shvatili da ćemo se suočiti s ovim problemima i bili smo spremni za to, i tehnički i moralno. Sve daljinske konekcije, iako su RDP i SSH po defaultu šifrovani, dodatno se šifruju našim softverom prema AES standardu. Svi podaci sa lokalnih servera se prenose u oblak putem HTTPS-a. Nalozi se čuvaju u šifrovanom obliku. Ključevi šifrovanja za sve podsisteme su jedinstveni za sve klijente. Za daljinske konekcije se koriste sesijski ključevi šifrovanja.

Sve što možemo učiniti u ovoj situaciji, kako bi ljudima bilo lakše, jeste da budemo maksimalno otvoreni, radimo na sigurnosti i ne umorimo se da odgovaramo ljudima na pitanja koja ih muče.

Za mnoge, udobnost i funkcionalnost softvera pretežu nad strahom, i oni se registruju. Neki pojedinci su u objavama na VK pisali da taj softver ne treba koristiti jer prikuplja njihove lozinke i uopšte je to no-name kompanija. Treba napomenuti da takvo mišljenje nije imalo samo jedan izvor. Mnogi jednostavno ne razumeju da, kada instaliraju drugi proprietarni softver na server, koji radi kao servis, on takođe ima pune privilegije u sistemu i nisu im potrebni nalozi da bi uradili nešto nelegalno (jasno je da se može promeniti korisnik pod kojim servis radi, ali i ovde, može se uneti bilo koji nalog). U suštini, strahovi ljudi su razumljivi. Instaliranje softvera na server je uobičajena stvar, ali unos naloga je već malo zastrašujuće i intimno, pošto dobra polovina ljudi ima jednu lozinku za sve servise, a stvaranje posebnog naloga čak i za testiranje im je lenjo. No, u ovom trenutku postoji ogroman broj servisa kojima ljudi poveravaju svoje pristupne podatke, i ne samo to. A mi se trudimo da postanemo jedni od njih.

Bilo je mnogo komentara ovog tipa, da smo to negde ukrali. To nas je malo iznenadilo. Pa dobro, to je mišljenje jedne osobe, ali su se takvi komentari pojavili u različitim objavama od raznih ljudi. Prvo nismo znali kako da reagujemo. Da li da tugujemo zbog toga što neki ljudi misle da u Rusiji niko ne može ništa da uradi sam, nego može samo da ukrade, ili da se radujemo što misle da se nešto takvo može samo ukrasti.

Sada smo završili proceduru dobijanja EV Code Sign Certificate. Da bismo ga dobili, potrebno je proći kroz niz provere i poslati gomilu dokumenata o kompaniji, od kojih deo mora biti overen od strane advokata. Dobijanje EV Code Sign sertifikata u uslovima pandemije — to je sve posebno poglavlje za članak. Procedura je trajala mesec dana. I to je bio mesec ne čekanja, već stalnih zahteva za dodatnim dokumentima. Možda pandemija nije tu kriva, i svima je procedura trajala toliko dugo? Podelite.

Neki kažu da nećemo koristiti, jer nemamo FSTEK sertifikat. Mora se objasniti da ga ne možemo dobiti i nećemo, jer za dobijanje ovog sertifikata — enkripcija mora biti po GOST-u, a mi planiramo distribuciju softvera ne samo u Rusiji i koristimo AES.

Svi ovi komentari su izazvali određenu nesigurnost u vezi sa time da li je to moguće — promovisati proizvod u koji treba unositi naloge, a da pritom nismo prisutni u svesti ljudi. Čak i uzimajući u obzir da smo znali da će biti onih koji su veoma negativni prema tome. Nakon što je broj registracija prešao hiljadu, prestali smo o tome da razmišljamo. Pogotovo nakon što su, osim negativnih komentara onih koji čak nisu probali proizvod, počeli da se pojavljuju i vrlo lepi komentari. Moram reći da su ti pozitivni komentari — najveći motivator za razvoj proizvoda.

Dodavanje funkcionalnosti daljinskog pristupa za zaposlene

Jedan od čestih zahtjeva klijenata je "omogućiti Vani pristup njegovom računaru kod kuće". Postavljali smo VPN na Mikrotik i pravili korisničke račune za korisnike. No, to je stvarno problem. Korisnici nisu u stanju da pregledaju uputstvo i pravilno ga prate kako bi se povezali putem VPN-a. Različite verzije Windowsa. Na jednom Windowsu se sve dobro povezuje, dok na drugom zahtijeva drugi protokol. A to je uvijek bilo povezano s ponovnim podešavanjem mrežne opreme koja je funkcionisala kao VPN server, a ne svi zaposleni imaju pristup tome i to je bilo nezgodno.

Ali već imamo udaljene veze sa serverima i mrežnom opremom. Zašto ne bismo iskoristili gotovi transport i napravili posebnu malu utilitu koju možemo jednostavno dati korisniku za povezivanje. Želeo sam samo da napravim tako da korisnik ne unosi ništa složeno. Samo jedan dugme „poveži se“. Ali kako će ova utilita znati na šta da se poveže, kada ima samo jedno dugme? Postojala je ideja o online sastavljanju potrebne aplikacije na našim serverima. Sistem administrator pritisne dugme „preuzmi prečicu“, i šalje nam se komanda za sastavljanje individualnog binarnog fajla sa integrisanim informacijama o povezivanju sa odgovarajućim serverom / računarom putem RDP-a. U principu, to bi moglo da se uradi. Ali to traje dugo, administrator bi morao da čeka prvo da se binarni fajl kompajlira, a zatim da se preuzme. Naravno, moglo bi se dodati samo drugi fajl sa konfiguracijom, ali to su već 2 fajla, a za jednostavnost korisniku je potreban jedan. Jedan fajl, jedno dugme i nema instalatera. Nakon malo istraživanja na Guglu, došao sam do zaključka da, ako se na kraj kompajliranog “.exe” doda neka informacija, on se ne kvari (pa skoro). Tamo možete dodati čak i rat i mir i on će raditi kao i ranije. Bilo bi greh ne iskoristiti ovo. Sada možemo jednostavno u trenutku raspakovati aplikaciju direktno u klijentu, btw, zove se Veliam Connector, i jednostavno dodavati potrebne informacije za povezivanje na kraj. A sama aplikacija zna šta s tim da radi. Zašto sam malo pre u zagradi napisao „pa skoro“? Zato što za ovu pogodnost treba platiti time što aplikacija gubi svoj potpis elektronskog potpisa. Ali mi, u ovoj fazi, smatramo da je to mala cena za takvu pogodnost.

Licence trećih strana

Već sam spomenuo da je, nakon što je odlučeno da proizvod bude javno dostupan, a ne samo za vlastitu upotrebu, trebalo dosta raditi i tražiti zamene za neke module koji nisu omogućavali uključivanje u naš proizvod. Ali pravo otkriće dogodilo se nakon objavljivanja, kada smo slučajno pronašli prilično neugodnu stvar. U okviru Veliam Servera, koji je bio na klijentovoj strani, bila je baza podataka MariaDB. A ona je pod GPL licencom. GPL licenca podrazumeva da softver mora biti otvorenog koda, i ako je MariaDB uključena u naš proizvod, onda i naš proizvod mora biti pod ovom licencom. Na sreću, svrha ove licence je otvoreni kod, a ne kažnjavanje onih koji su slučajno napravili grešku. Ako se vlasnik prava pojavi s tužbom, onda pismeno obaveštava prekršioca, koji mora u roku od 30 dana da ispravi prekršaj. Svoju grešku smo otkrili sami, nismo dobili nikakva pisma i odmah smo počeli razmatrati opcije kako da rešimo problem. Rešenje se činilo očiglednim — prelazak na SQLite. Ova baza podataka nema nikakva ograničenja po pitanju licenci. Većina modernih pregledača koristi SQLite, kao i mnogi drugi programi. Na internetu sam našao informaciju da se SQLite smatra najrasprostranjenijom bazom podataka na svetu, upravo zbog pregledača, ali nisam tražio dokaze, tako da je to netačna informacija. Počeo sam istraživati kakve posledice nosi prelazak na SQLite.

Postaje prilično složen zadatak kada ima nekoliko stotina instaliranih servera kod klijenata sa MariaDB i podacima u njoj. Neke karakteristike MariaDB nisu dostupne u SQLite-u. Na primer, u kodu smo koristili upite poput

Select * FROM `table` WHERE `id`>1000 FOR UPDATE

Ova konstrukcija ne samo da vrši selekciju iz tabele, već i blokira te redove. Takođe, nekoliko drugih konstrukcija smo morali prepisati. Pored toga što je trebalo prepisati mnogo upita, takođe je bilo potrebno osmisliti mehanizam koji bi prilikom ažuriranja Veliam Servera kod klijenta prenio sve podatke u novu bazu podataka i obrisao staru. Takođe, transakcije u SQLite-u nisu radile, što je predstavljalo pravi problem. No, nakon što sam pretražio prostranstva svetske mreže, lako sam pronašao da se transakcije u SQLite-u mogu uključiti, šaljuci prilikom povezivanja jednostavnu komandu

PRAGMA journal_mode=WAL;

Konačno, zadatak je završen i sada serverska strana kod klijenata radi na SQLite-u. Nismo primetili nikakve promene u radu sistema.

Nova HelpDesk

Bilo je potrebno portovati HelpDesk sistem iz unutrašnje verzije u SaaS verziju, ali uz neka prilagođavanja. Prvo što smo želeli da uradimo je integracija sa domenom klijenta za transparentnu autorizaciju korisnika u sistemu. Sada korisnik, da bi ušao u HelpDesk i ostavio zahtev u sistemu, jednostavno klikne na prečicu na radnoj površini i otvara se pregledač. Korisnik ne unosi nikakve pristupne podatke. Modul za Apache SSPI, koji je deo Veliam Server-a, automatski autorizuje korisnika pod domenom. Da ostavi zahtev u sistemu, kada se korisnik nalazi izvan korporativne mreže, on klikne na dugme, a na njegovu e-poštu dolazi link preko kojeg se bez lozinki autorizuje u HelpDesk. Ako se korisnik isključi ili obriše sa domena, onda i njegova računica u HelpDesk-u prestaje da radi. Tako da administrator sistema ne mora sam da prati naloge i na domeni i u HelpDesk-u. Ako je zaposleni otišao — isključio je nalog na domeni i to je to, ne može da uđe u sistem ni iz korporativne mreže ni putem linka. Za rad ove integracije, administrator sistema treba da napravi jedan GPO koji dodaje unutrašnju stranicu u intranet zonu i raspodjeljuje prečicu svim korisnicima na radnoj površini.

Drugo, što smatramo izuzetno važnim za HelpDesk sisteme, barem za nas same — je mogućnost povezivanja sa korisnikom direktno iz zahteva jednim klikom. Štaviše, povezivanja moraju funkcionisati, čak i ako je sistem administrator u drugoj mreži. Za outsourcing je to obavezno, a i za stalne sistem administartore često je to veoma potrebno. Već imamo nekoliko proizvoda koji se sjajno nose sa zadatkom udaljenih povezivanja. Odlčili smo da napravimo integracije za njih. Trenutno smo razvili integraciju za VNC, a u budućnosti planiramo dodati Radmin i TeamViewer. Koristeći naš mrežni transport za udaljena povezivanja sa infrastrukturom, omogućili smo da se VNC povezuje sa udaljenim radnim stanicama iza NAT. Isto će biti i sa Radmin. Sada, da bi se povezali sa korisnikom, dovoljno je samo u samom zahtevu pritisnuti dugme “poveži se sa korisnikom”. Otvara se VNC klijent i povezuje se sa korisnikom bez obzira na to da li ste u istoj mreži ili sjedite kod kuće u papučama. Pre toga, sistem administrator mora da instalira VNC Server na radne stanice putem GPO-a.

Sada sami prelazimo na novi HelpDesk i koristimo integraciju sa domenom i VNC. To nam veoma olakšava stvari. Sada više ne moramo plaćati za TeamViewer, koji smo koristili više od tri godine za rad naše korisničke podrške.

Šta planiramo dalje

Kada smo lansirali proizvod, nismo imali nikakve plaćene tarife, već smo samo ograničili besplatnu tarifu na 50 objekata nadzora. Pet desetina mrežnih uređaja i servera trebalo bi biti dovoljno svima, pomislili smo. A tada su počeli stizati zahtevi za povećanjem limita. Reći da smo bili malo šokirani — ništa ne reći. Zar su naše softverske rešenje interesovale kompanije koje imaju toliko servera? Besplatno smo proširivali limit onima koji su se obratili. U nekima smo, u odgovoru na njihov zahtev, pitali zašto im je toliko potrebno, zar imaju toliko mnogo servera i mrežne opreme? I ispostavilo se da su sistemski administratori počeli da koriste sistem na način na koji nismo ni planirali. Sve je ispalo jednostavno — naši softver su počeli da nadziru ne samo servere, nego i radne stanice. Otuda i mnogo zahteva za povećanjem limita. Sada smo već uveli plaćene tarife i limiti se mogu proširiti samostalno.

Serveri gotovo uvek rade ili sa SAN-om ili sa lokalnim diskovima u RAID nizu. I mi smo prvobitno razvili proizvod za njih. A nadzor SMART nije bio zanimljiv za ovu svrhu. Ali s obzirom na to da su ljudi prilagodili softver za nadzor radnih stanica, pojavili su se zahtevi za implementaciju nadzora SMART. Ubrzo ćemo ga realizovati.

S pojavom Veliam Connectora, postalo je suvišno postavljanje VPN servera u korporativnoj mreži, ili pravljenje RDGW, ili jednostavno prosleđivanje portova do potrebnih mašina za povezivanje putem RDP-a. Veoma mnogo koristi naš sistem samo za ova udaljena povezivanja. Veliam Connector je dostupan samo za Windows, dok se neki korisnici kompanija povezuju sa svojih kućnih laptopova na MacOS na radne stanice ili terminale u korporativnoj mreži. I ispada da je sistemski administrator primoran, zbog nekoliko korisnika, ponovo se baviti pitanjem prosleđivanja ili VPN-a. Stoga trenutno završavamo verziju Veliam Connectora za MacOS. Korisnici svoje omiljene Apple opreme takođe će imati mogućnost da se jednim klikom povežu na korporativnu infrastrukturu.

Sviđa mi se što, s obzirom na veliki broj korisnika sistema, ne moram brinuti o tome šta im treba i šta bi im bilo lakše. Oni sami pišu svoje želje, tako da imamo mnogo planova za razvoj u bliskoj budućnosti.

Parallelno, trenutno planiramo prevesti sistem na engleski jezik i proširiti ga u inostranstvu. Još uvek ne znamo kako ćemo distribuirati proizvod izvan naše zemlje, istražujemo mogućnosti. Možda će o tome kasnije biti poseban članak. Možda neko od onih koji su pročitali ovaj članak može da nam sugeriše pravi pravac, ili zna i može da ponudi svoje usluge. Bićemo zahvalni na pomoći.

Izvor: habr.com

Kupite pouzdan hosting za sajtove uz zaštitu od DDoS, VPS VDS servere 🔥 Kupite pouzdan hosting za sajtove uz zaštitu od DDoS, VPS VDS servere | ProHoster