Mi chiamo Leonid, sono uno sviluppatore web , quindi, a causa della mia professione, sono interessato alle storie di crescita e sviluppo di varie aziende nel campo dei servizi di hosting. Oggi voglio presentarvi un'intervista con Danil e Dmitrij, i fondatori dell'hosting . Loro parleranno della struttura dell'infrastruttura, dell'organizzazione del lavoro e della loro esperienza nello sviluppo di un provider di server virtuali in Russia.
Per favore, raccontateci qualche parola su di voi. Come siete arrivati nel mondo dell'hosting? Cosa facevate prima?
Fino al 2016 io e Dmitrij lavoravamo nel settore Enterprise, anche in aziende come Dell, HP, EMC. Analizzando il mercato del cloud in Russia, ci siamo resi conto che stava crescendo attivamente e abbiamo deciso che avremmo potuto fare un'offerta interessante al mercato. Si è formata una squadra di persone che già avevano lavorato insieme in altri progetti, e abbiamo iniziato a sviluppare una piattaforma di virtualizzazione rivolta a grandi aziende con le loro esigenze specifiche. Dal 2018 abbiamo lanciato parallelamente un hosting cloud "per tutti", dedicando al progetto un team di cinque persone.
Rack di stoccaggio e preparazione prima del lancio
Questo progetto per le aziende è già operativo o è ancora in sviluppo?
Sì, è operativo parallelamente — lì la squadra è più grande e si tratta di soluzioni software e hardware per l'infrastruttura IT, non di hosting.
Adesso avete parecchi servizi diversi. Quando avete iniziato a lavorare, la lista era più corta o era la stessa? Inoltre, tutti questi servizi rappresentano di fatto un normale server virtuale, ma c'è una certa suddivisione.
Abbiamo iniziato con un classico IaaS: fornivamo server virtuali "nudi" con porte chiuse e reti virtuali, affinché l'utente potesse creare un'infrastruttura completa per le proprie esigenze. Ma dopo il lancio ci siamo resi conto che la maggior parte degli utenti non aveva compreso a cosa servissero tali possibilità, e abbiamo deciso di lanciare un nuovo prodotto per noi: un VDS/VPS standard, già conosciuto dal mercato. Per noi era, di fatto, una versione ridotta del prodotto, ma gli utenti hanno subito capito di cosa si trattava, e abbiamo iniziato a ottenere i primi clienti. Evidentemente, la nostra esperienza con grandi aziende ha spinto a sviluppare immediatamente una soluzione più complessa e personalizzata, mentre il mercato di massa desidera semplicità. Successivamente, sulla base del VPS, abbiamo iniziato a sviluppare nuovi servizi, partendo da ciò che i clienti richiedono più frequentemente. E continuiamo a svilupparci fino ad oggi.
Dove collocate l'attrezzatura? È di vostra proprietà o in affitto? Come avete scelto il vostro DC per l'hosting? Ci sono stati dei trasferimenti?
Tutta l'attrezzatura è nostra, affittiamo solo lo spazio in due data center. Abbiamo iniziato con tre DC: volevamo implementare una tolleranza ai guasti tripartita, ma la domanda per essa era troppo bassa in quel momento per giustificare l'investimento, quindi abbiamo rinunciato al terzo data center. Abbiamo effettuato un trasferimento: stavamo trasferendo dal terzo data center a uno dei due rimanenti. Abbiamo scelto in base a questo principio: i DC devono essere noti sul mercato, affidabili (Tier III), e entrambi devono trovarsi a Mosca, in zone distanti l'una dall'altra.
In quali DC siete attualmente e da quale avete rinunciato?
Attualmente ci troviamo in DataSpace e 3Data. Abbiamo rinunciato a uno dei datacenter 3Data.
Stiamo lasciando il terzo data center
Affittate indirizzi IP o li acquistate?
Affittiamo.
Qual è il motivo per cui avete scelto questo approccio, e non l'acquisto?
In linea di massima, per crescere rapidamente. Forniamo ai clienti un'infrastruttura virtuale, per la quale non è necessario effettuare subito investimenti di capitale, e i costi possono essere suddivisi mensilmente. Noi stessi seguiamo la stessa filosofia dei nostri clienti: puntiamo all'espansione e alla rapida scalabilità.
Cosa pensate riguardo a IPv6?
Per ora non abbiamo notato una domanda significativa, quindi non l'abbiamo aggiunta, ma l'architettura per l'implementazione è già stata sviluppata e siamo pronti a "rilasciarla" in breve tempo, non appena capiremo che ci sono richieste.
Stai utilizzando la virtualizzazione KVM. Perché l'hai scelta? Come si comporta nel lavoro?
Esatto, ma noi non utilizziamo KVM "nudo", bensì un sistema di virtualizzazione completo e ottimizzato basato su KVM, sviluppato dal nostro "fratello maggiore", inclusi il sistema di archiviazione dei dati (SDS) e la rete definita dal software (SDN). Abbiamo scelto questa soluzione per costruire un prodotto il più possibile resiliente, privo di punti di guasto singoli. Si comporta bene, finora non ci sono stati problemi globali in produzione. Nella fase di alpha testing sul mercato, quando fornivamo servizi ai primi clienti in cambio di punti bonus, abbiamo testato la tecnologia e abbiamo riscontrato alcuni problemi, ma negli ultimi due anni abbiamo capito e risolto molto.
Utilizzate l'overselling? Come controllate il carico sul server?
Utilizziamo l'overselling solo per le CPU, ma in nessun caso per la memoria RAM. Anche nel caso delle CPU fisiche, non permettiamo un utilizzo superiore al 75%. Per quanto riguarda i dischi: lavoriamo con allocazioni "thin" della capacità. Abbiamo un monitoraggio centralizzato di tutto l'ambiente, il che ci permette di controllare il carico. Due ingegneri sono responsabili del supporto dell'intera infrastruttura, quindi cerchiamo di massimizzare l'automazione e raccogliere quante più informazioni possibili sul sistema. Qualsiasi deviazione dalla normale operatività è immediatamente visibile; nel frattempo, valutiamo e riequilibriamo periodicamente il carico all'interno dell'infrastruttura. Il riequilibrio avviene sempre in modalità online, senza che i clienti se ne accorgano.
Quanti server fisici avete attualmente? Con quale frequenza aggiungete nuovi server? Quali server utilizzate?
Attualmente abbiamo 76 server, aggiungiamo nuovi server circa ogni quattro-cinque mesi. Utilizziamo QCT, Intel, Supermicro.
Ci sono stati casi in cui un cliente è arrivato e ha utilizzato tutte le risorse rimaste, costringendovi ad aggiungere server rapidamente?
Per le risorse ciò non è mai accaduto. Finora stiamo crescendo in modo abbastanza uniforme. Ma c'è stato un caso in cui un utente ha richiesto 50 IP, ciascuno in un blocco separato. Naturalmente, non abbiamo attualmente qualcosa di simile 🙂
Quali sono i vostri metodi di pagamento più popolari? Quali vengono utilizzati di meno?
Le più popolari sono la carta bancaria e QIWI. Le meno comuni sono i pagamenti tramite bonifico bancario per aziende, ma questi sono i volumi più elevati (le aziende tendono a pagare per risorse solide per diversi mesi). Anche PayPal è in ritardo: all'inizio non ci aspettavamo utenti stranieri, ma sono cominciati a comparire.
In Boodet.online utilizziamo un sistema di billing personalizzato. Perché avete deciso di adottare questa soluzione? Quali sono i pro e i contro? È stato difficile da sviluppare?
In realtà, l'intero sistema è di nostra concezione. Le piattaforme esistenti non ci sono sembrate molto pratiche in termini di UX, quindi abbiamo deciso di costruire e sviluppare la nostra. Il billing è solo uno dei microservizi che compongono il sistema. Sviluppare è risultata più difficile di quanto pensassimo all'inizio. A un certo punto, abbiamo dovuto posticipare il lancio del progetto per essere certi di avere un prodotto funzionante di cui non avremmo dovuto vergognarci durante il testing alpha. Successivamente abbiamo acquisito competenze nella metodologia di sviluppo a lungo termine e nel product management. Ora è già più semplice aggiungere nuove funzionalità e nuovi prodotti al sistema.
Quante persone hanno contribuito a tutto questo? Su cosa avete sviluppato?
Per l'intero progetto abbiamo cinque persone, di cui due sono sviluppatori (frontend e backend). Il backend è scritto in RoR/Python. Il frontend è JS.
Come è organizzato il supporto degli utenti? È disponibile 24 ore su 24 o solo durante l'orario di lavoro? Quante linee di supporto ci sono? Di cosa chiedono più frequentemente?
Abbiamo tre punti di accesso: chat, telefono e sistema di ticket dal pannello di controllo. Due linee di supporto: se l'ingegnere di guardia non riesce a risolvere il problema, si uniscono il direttore tecnico o il team di sviluppo. Se il problema riguarda la piattaforma principale, il che è molto raro, il direttore tecnico contatta il supporto del 'fratello maggiore'. Di notte rispondiamo solo alle chiamate dei clienti che acquistano un servizio di assistenza tecnica separato, o ai guasti della piattaforma segnalati tramite un bot appositamente sviluppato su Telegram.
Le domande più comuni:
- I nostri IP sono disponibili in Turkmenistan (questo è il più richiesto — evidentemente, nel paese c'è una rigorosa politica di blocchi).
- Come installare un software o un altro.
- Come ottenere l'accesso root (è stata persino creata una nota speciale nell'interfaccia durante la creazione delle macchine, ma anche quella non sempre aiuta).
Effettuate la verifica dei clienti? Appaiono frequentemente spammer e altre persone indesiderate?
Verifica tramite email e telefono (se l'utente attiva il 2FA). Gli spammer e altri abusatori compaiono periodicamente. Siamo costretti a rispondere con il blocco temporaneo dei server compromessi, poiché non vogliamo che gli IP finiscano nelle liste nere. Ma scriviamo sempre all'utente in anticipo, informandolo che è stata ricevuta una segnalazione su di lui, chiedendo di contattarci e discutere del problema. Se l'utente non risponde, o se arrivano segnalazioni ripetute, blocchiamo completamente l'account e rimuoviamo i server.
Capita spesso che ci siano attacchi DDoS ai clienti? Cosa fate in questi casi? Ci sono stati attacchi specificamente contro di voi, contro il sito o l'infrastruttura?
I clienti vengono attaccati piuttosto raramente. Ma noi lo siamo spesso — il sito, l'area riservata. A volte bombardano la rete con vari indirizzi IP. Non ci sentiamo di giudicare chi siano e perché, ci possono essere diverse varianti. Ci sono anche tentativi di attaccarci dall'interno. In passato, durante la verifica telefonica, offrivamo un bonus di cento rubli affinché utenti normali potessero testare varie configurazioni. Ma un giorno è arrivato un utente con un 'mazzo di SIM' e, da un solo IP, ha iniziato a creare decine di account, ottenendo bonus su di essi. Pertanto, abbiamo dovuto eliminare l'accredito automatico dei punti di test. Ora è necessario inviare una richiesta al supporto tecnico per testare, e ogni caso viene esaminato separatamente.
Come è organizzato il lavoro, avete un ufficio o tutti lavorano da remoto?
C'è un ufficio, ma con l'inizio delle restrizioni a causa del coronavirus, tutti sono stati inviati a lavorare da casa / dalla dacia / dalla propria città natale.
Il nostro ufficio
Qual è la vostra attuale strategia di sviluppo dell'azienda?
Stiamo procedendo con l'aggiunta di nuovi servizi. Abbiamo una roadmap ampia, non interrompiamo lo sviluppo, e ogni due settimane rilasciamo una nuova versione dell'area riservata. Aggiungiamo funzionalità e servizi richiesti dai colleghi, incorporiamo ciò che chiedono i clienti.
Come trovate clienti? C'è un alto afflusso e deflusso di clienti ogni anno? Qual è la durata media di un cliente?
I canali di acquisizione clienti nel nostro settore sono ciò su cui si basa l'intero business, se c'è un prodotto valido e funzionante. Pertanto, non siamo pronti a condividerli.
Il tasso di abbandono, LTV e ciclo di vita sono anche indicatori piuttosto importanti, che utilizziamo solo per analisi interne, ma non per la divulgazione.
Potreste dare ai lettori alcuni suggerimenti su come scegliere un hosting? A cosa prestare attenzione prima dell'acquisto?
La cosa più importante è scegliere un hosting il cui nome inizia con la lettera “B”.
E se parliamo seriamente, ci sono diversi fattori a cui prestare attenzione:
- Per capire la qualità, è possibile prendere una configurazione media e provare a risolvere le proprie attività pratiche su di essa. Scegliete hosting che abbiano una tariffa oraria: potrete mettere alla prova i server senza perdere molto denaro, se la qualità non vi soddisfa.
- Guardate i data center in cui i server fisici del fornitore sono situati. Da questi si può giudicare più o meno la qualità dei servizi.
- Non consigliamo di prestare attenzione ai prezzi: ci sono sia soluzioni supereconomiche, ma che mostrano buone prestazioni, sia supercostose, che non si distinguono per nulla in particolare.
Raccontateci dei momenti lavorativi più memorabili.
Inizio del progetto. I primi 45 giorni abbiamo lavorato in modalità 24/7: osservavamo come procedevano le registrazioni, se si rompeva qualcosa nell'interfaccia del pannello utente, come si comportavano gli utenti, se era comodo per loro ordinare servizi. Molto di ciò che dovevamo risolvere lo abbiamo fatto al volo, fino a dover sostituire un prodotto con un altro. Le modifiche venivano effettuate direttamente in produzione, evitando gli ambienti di test. È stato un periodo intenso, ma ce l'abbiamo fatta a sopravvivere e a non abbandonare il progetto.
Gli utenti che cercavano vulnerabilità nella logica. Era interessante catturarli e chiudere le vulnerabilità. Ad esempio, quando stavamo ancora lavorando senza pagamenti, ma assegnando bonus affinché gli utenti potessero ordinare server, un link a noi è stato pubblicato su uno dei forum hacker con il commento: “forniscono server gratuiti da 500 rubli”. Ovviamente, siamo stati immediatamente inondati da ragazzi minatori, desiderosi di ottenere qualcosa senza pagare.
Potreste fornire una breve cronologia della storia dell'azienda?
- La prima metà del 2017 — abbiamo iniziato a sviluppare la piattaforma, il sito e il pannello utente Boodet.online.
- 2018 — siamo entrati in fase di alpha testing, offrendo risorse ai clienti gratuitamente e ricevendo feedback dettagliati e risultati dei test in cambio.
- Metà del 2018 — è stata lanciata la versione beta con denaro. Le prime centinaia di clienti, test del supporto tecnico.
- 2019 — abbiamo iniziato ad attrarre clienti giuridici, lavorando su soluzioni personalizzate.
- 2020 — tutti vanno in autoisolamento, cresce la domanda di virtualizzazione. Lo stiamo avvertendo chiaramente: ci sono più clienti, il che offre l'opportunità di lavorare su un numero maggiore di servizi aggiuntivi.
Fonte: habr.com




